Un blocant de conținut pornografic încorporat în iOS 14 împiedică căutările care includ cuvântul „asiatic”, potrivit unui student la informatică.
Aceasta înseamnă căutările pentru „mâncare asiatică” sau „țări asiatice” sunt blocate dacă filtrele de conținut pentru adulți sunt activate. Blocuri similare nu sunt disponibile pentru termenii de căutare, inclusiv „negru”, „alb”, „arab”, „francez” și alți descriptori naționali sau rasiali.
Steven Shen, student la informatică la Universitatea Purdue din Indiana, a remarcat tendința pe Twitter.
„Pe iOS, dacă activați„ Limitați site-ul pentru adulți ”în timpul ecranului-> Restricții de conținut, Safari blochează orice adresă URL a site-ului web care conține cuvântul„ asiatic ”, a scris Shen. „Serios, încercați, este incredibil. Am depus un Feeback cu mult timp în urmă. Nimic nu s-a schimbat."
Un blocator de conținut pentru adulți similar, opțional, este disponibil pe Mac. Cu toate acestea, pe hardware-ul desktop al Apple, cuvântul „asiatic” rămâne căutabil după activarea blocatorului de conținut.
Steven Shen （沈 畅）
@Stevenpotato
1,5K
814
Este puțin probabil să fie o eroare umană
Într - un interviu cu Independentul, A spus Shen blocul este puțin probabil să fie codificat de om. În schimb, este cel mai probabil un AI care caută cuvinte asociate frecvent cu căutări pornografice. În acest scop, blocatorul de conținut iOS elimină de asemenea termeni precum „adolescent”, „amator” și „matur”. Asta în ciuda faptului că au o utilizare legitimă în afara conținutului pentru adulți.
Concurenții Apple se confruntă cu acest tip de provocare și în ceea ce privește AI. Google, de exemplu, a întâmpinat probleme cu algoritmi de clasificare a imaginilor care fotografii identificate greșit ale oamenilor de culoare ca gorile. Între timp, Microsoft a lansat un chatbot numit Tay, pe care utilizatorii online l-au „instruit” rapid să se comporte într-un manieră insensibilă rasial.
Dacă Shen are dreptate, Apple nu a dat sarcina unui coder uman să vină cu o listă de termeni blocați. Totul se face pe corelații ale seturilor de date care, s-ar putea argumenta, reflectă tendințe și atitudini societale discriminatorii mai largi. (Dacă sunteți interesat de acest subiect, vă recomand cu adevărat să citiți Algoritmi de opresiune de Safiya Noble.)
CEO-ul Apple, Tim Cook, frecvent se pronunță împotriva rasismului și despre importanța diversității. Se pare foarte probabil ca, acum, când această problemă iOS a fost identificată și mediatizată, să fie eliminată în scurt timp. Totuși, este o lecție despre cele mai bune practici în ceea ce privește AI.
