De ingebouwde pornografische inhoudblokker van iOS 14 belemmert zoekopdrachten die het woord 'Aziatisch' bevatten, aldus een student informatica.
Dit betekent dat zoekopdrachten naar 'Aziatisch eten' of 'Aziatische landen' worden geblokkeerd als de filters voor inhoud voor volwassenen zijn ingeschakeld. Vergelijkbare blokkades zijn niet aanwezig voor zoektermen zoals 'zwart', 'wit', 'Arabisch', 'Frans' en andere nationale of raciale descriptoren.
Steven Shen, een student computerwetenschappen aan de Purdue University in Indiana, merkte de trend op Twitter op.
"Als je op iOS 'Beperk website voor volwassenen' inschakelt onder Schermtijd -> Inhoudsbeperkingen, blokkeert Safari elke website-URL die het woord 'Aziatisch' bevat," schreef Shen. “Serieus, ga het proberen, het is ongelooflijk. Ik heb lang geleden een Feeback ingediend. Er is niets veranderd."
Een vergelijkbare, optionele blokkering voor inhoud voor volwassenen is beschikbaar op Mac. Op de desktophardware van Apple blijft het woord "Aziatisch" echter doorzoekbaar na activering van de inhoudblokker.
Steven Shen
@Stevenpotato
1.5K
814
Het is onwaarschijnlijk dat het een menselijke fout is
In een interview met de De onafhankelijke, Shen zei de blok was waarschijnlijk niet door mensen gecodeerd. In plaats daarvan is het hoogstwaarschijnlijk een AI die woorden zoekt die vaak worden geassocieerd met pornografische zoekopdrachten. Daartoe onderdrukt de iOS-inhoudsblokker ook termen als 'tiener', 'amateur' en 'volwassen'. Dat is ondanks het feit dat ze legitiem gebruik hebben buiten inhoud voor volwassenen.
De concurrenten van Apple staan ook voor dit soort uitdagingen als het gaat om AI. Google ondervond bijvoorbeeld problemen met algoritmen voor beeldclassificatie die: verkeerd geïdentificeerde foto's van zwarte mensen als gorilla's. Microsoft lanceerde ondertussen een chatbot genaamd Tay, die online gebruikers snel 'trainden' om zich in een racistisch ongevoelige manier.
Als Shen gelijk heeft, heeft Apple geen menselijke codeur gevraagd om met een lijst van geblokkeerde termen te komen. Het wordt allemaal gedaan op basis van datasetcorrelaties die, zo zou kunnen worden betoogd, bredere discriminerende maatschappelijke trends en attitudes weerspiegelen. (Als je geïnteresseerd bent in dit onderwerp, raad ik je echt aan om te lezen Algoritmen van onderdrukking door Safiya Noble.)
Apple CEO Tim Cook regelmatig spreekt zich uit tegen racisme en over het belang van diversiteit. Het lijkt zeer waarschijnlijk dat, nu deze iOS-glitch is opgemerkt en gepubliceerd, deze op korte termijn zal worden geëlimineerd. Toch is het een les over best practices als het gaat om AI.
