Вграденият в iOS 14 блокер за порнографско съдържание затруднява търсенията, които включват думата „азиатски“, според студент по компютърни науки.
Това означава, че търсенията за „азиатска храна“ или „азиатски страни“ са блокирани, ако са активирани филтрите за съдържание за възрастни. Подобни блокове не съществуват за термини за търсене, включително „черно“, „бяло“, „арабско“, „френско“ и други национални или расови дескриптори.
Стивън Шен, студент по компютърни науки в университета Пърди в Индиана, отбеляза тенденцията в Twitter.
„В iOS, ако включите„ Ограничаване на уебсайт за възрастни “в„ Екранно време-> Ограничения на съдържанието “, Safari блокира всеки URL адрес на уебсайт, съдържащ думата„ азиатски “,“ написа Шен. „Сериозно, опитайте, това е невероятно. Подадох Feeback отдавна. Нищо не се промени."
Подобен, по избор блокер за съдържание за възрастни е наличен на Mac. Въпреки това, в настолния хардуер на Apple думата „азиатски“ остава търсена след активиране на блокера на съдържанието.
Стивън Шен （沈 畅）
@Stevenpotato
1,5 хиляди
814
Едва ли ще е човешка грешка
В интервю за Независимият, Каза Шен е малко вероятно блокът да бъде кодиран от хора. Вместо това най -вероятно става въпрос за AI, който скаутира думи, често свързани с порнографски търсения. За тази цел блокаторът на съдържание на iOS също смазва термини като „тийнейджър“, „аматьор“ и „зрял“. Това е въпреки факта, че те имат законна употреба извън съдържанието за възрастни.
Конкурентите на Apple са изправени пред този вид предизвикателство, когато става въпрос и за AI. Google например срещна проблеми с алгоритмите за класификация на изображения, които погрешно идентифицирани снимки на черни хора като горили. Междувременно Microsoft пусна чатбот, наречен Tay, който онлайн потребителите бързо „обучиха“ да се държи в расово безчувствен начин.
Ако Шен е правилен, Apple не е възложила на човешки кодер да изготви списък с блокирани термини. Всичко е направено върху корелации от набор от данни, които, може да се твърди, отразяват по -широки дискриминационни обществени тенденции и нагласи. (Ако се интересувате от тази тема, наистина препоръчвам да прочетете Алгоритми на потискане от Safiya Noble.)
Главният изпълнителен директор на Apple Тим Кук често говори против расизма и за значението на разнообразието. Изглежда много вероятно, че след като този проблем с iOS е забелязан и оповестен, той ще бъде премахнат в кратък срок. Все пак това е урок за най -добрите практики, когато става въпрос за AI.
