Il blocco dei contenuti pornografici integrato di iOS 14 ostacola le ricerche che includono la parola "asiatico", secondo uno studente di informatica.
Ciò significa che le ricerche per "cibo asiatico" o "paesi asiatici" sono bloccate se i filtri per i contenuti per adulti sono abilitati. Blocchi simili non sono presenti per i termini di ricerca che includono "nero", "bianco", "arabo", "francese" e altri descrittori nazionali o razziali.
Steven Shen, uno studente di informatica alla Purdue University dell'Indiana, ha notato la tendenza su Twitter.
"Su iOS, se attivi 'Limita sito Web per adulti' in Tempo schermo-> Restrizioni contenuto, Safari blocca qualsiasi URL del sito Web contenente la parola 'asiatico'", ha scritto Shen. “Seriamente, provalo, è incredibile. Ho inviato un feedback molto tempo fa. Niente è cambiato."
Un simile blocco di contenuti per adulti opzionale è disponibile su Mac. Tuttavia, sull'hardware desktop di Apple la parola "Asian" rimane ricercabile dopo l'attivazione del blocco dei contenuti.
Steven Shen（沈畅）
@Stevenpotato
1.5K
814
È improbabile che sia un errore umano
In un'intervista a L'indipendente, Shen ha detto che era improbabile che il blocco fosse codificato dall'uomo. Invece, è molto probabilmente un'intelligenza artificiale che sta esplorando parole frequentemente associate a ricerche pornografiche. A tal fine, il blocco dei contenuti iOS elimina anche termini come "adolescente", "amatore" e "maturo". Questo nonostante il fatto che abbiano un uso legittimo al di fuori dei contenuti per adulti.
I concorrenti di Apple affrontano questo tipo di sfida anche quando si tratta di intelligenza artificiale. Google, ad esempio, ha riscontrato problemi con gli algoritmi di classificazione delle immagini che foto erroneamente identificate di persone di colore come gorilla. Microsoft, nel frattempo, ha lanciato un chatbot chiamato Tay, che gli utenti online hanno rapidamente "addestrato" a comportarsi in modo a modo razzialmente insensibile.
Se Shen ha ragione, Apple non ha incaricato un programmatore umano di elaborare un elenco di termini bloccati. È tutto fatto su correlazioni di set di dati che, si potrebbe sostenere, riflettono tendenze e atteggiamenti sociali discriminatori più ampi. (Se sei interessato a questo argomento, consiglio vivamente di leggere Algoritmi di oppressione di Safiya Noble.)
Il CEO di Apple Tim Cook spesso parla contro il razzismo e sull'importanza della diversità. Sembra altamente probabile che, ora che questo problema tecnico di iOS è stato individuato e pubblicizzato, verrà eliminato in breve tempo. Tuttavia, è una lezione sulle migliori pratiche quando si tratta di AI.
