iOS 14: s inbyggda pornografiska innehållsblockerare stoppar sökningar som innehåller ordet "asiatisk", enligt en datavetenskaplig student.
Det betyder att sökningar efter "asiatisk mat" eller "asiatiska länder" blockeras om filtren för vuxeninnehåll är aktiverade. Liknande block finns inte för söktermer inklusive "svart", "vit", "arabisk", "fransk" och andra nationella eller rasbeskrivare.
Steven Shen, datavetenskapstudent vid Indianas Purdue University, noterade trenden på Twitter.
"På iOS, om du aktiverar" Begränsa vuxenwebbplats "under Skärmtid-> Innehållsbegränsningar blockerar Safari alla webbadresser som innehåller ordet" asiatisk ", skrev Shen. ”Seriöst, prova, det är otroligt. Jag lämnade in en Feeback för länge sedan. Inget förändrat."
En liknande valfri blockerare för vuxeninnehåll finns på Mac. På Apples stationära maskinvara är ordet "asiatisk" dock fortfarande sökbart efter aktivering av innehållsblockeraren.
Steven Shen （沈 畅）
@Stevenpotato
1,5K
814
Det är osannolikt att det är ett mänskligt misstag
I en intervju med Den självständiga, Sade Shen blocket var osannolikt att vara mänskligt kodat. Istället är det troligtvis en AI som spanar ord som ofta associeras med pornografiska sökningar. För detta ändamål stöter iOS -innehållsblockeraren också på termer som "tonåring", "amatör" och "mogen". Det är trots att de har legitim användning utanför vuxeninnehåll.
Apples konkurrenter står också inför denna typ av utmaningar när det gäller AI. Google, till exempel, stötte på problem med bildklassificeringsalgoritmer som felidentifierade foton av svarta människor som gorillor. Microsoft, under tiden, lanserade en chatbot som heter Tay, som online -användare snabbt "tränade" att bete sig i ras okänsligt sätt.
Om Shen har rätt gav Apple inte uppdraget för en mänsklig kodare att komma med en lista över blockerade termer. Allt är gjort på datakorrelationer som, kan man hävda, speglar bredare diskriminerande samhällstrender och attityder. (Om du är intresserad av detta ämne rekommenderar jag verkligen att läsa Algoritmer för förtryck av Safiya Noble.)
Apples vd Tim Cook ofta talar emot rasism och om vikten av mångfald. Det verkar mycket troligt att nu, när denna iOS -glitch har upptäckts och publicerats, kommer den att elimineras på kort tid. Ändå är det en lektion om bästa praxis när det gäller AI.
