Laut einem Informatikstudenten verhindert der in iOS 14 integrierte Blocker für pornografische Inhalte Suchanfragen, die das Wort "asiatisch" enthalten.
Das bedeutet, dass die Suche nach "asiatisches Essen" oder "asiatische Länder" blockiert wird, wenn die Filter für nicht jugendfreie Inhalte aktiviert sind. Ähnliche Blöcke gibt es nicht für Suchbegriffe wie „schwarz“, „weiß“, „arabisch“, „französisch“ und andere nationale oder rassische Deskriptoren.
Steven Shen, ein Informatikstudent an der Purdue University in Indiana, bemerkte den Trend auf Twitter.
„Wenn Sie auf iOS unter Bildschirmzeit -> Inhaltseinschränkungen die Option „Website für Erwachsene beschränken“ aktivieren, blockiert Safari jede Website-URL, die das Wort „asiatisch“ enthält“, schrieb Shen. „Im Ernst, probiere es aus, es ist unglaublich. Ich habe vor langer Zeit ein Feedback eingereicht. Nichts hat sich geändert."
Ein ähnlicher, optionaler Blocker für Inhalte für Erwachsene ist auf dem Mac verfügbar. Auf Apples Desktop-Hardware bleibt das Wort „Asiat“ jedoch nach Aktivierung des Content-Blockers durchsuchbar.
Steven Shen
@Stevenkartoffel
1,5K
814
Es ist unwahrscheinlich, dass es sich um einen menschlichen Fehler handelt
Im Interview mit dem Der Unabhängige, sagte Shen Block war wahrscheinlich nicht von Menschen codiert. Stattdessen ist es höchstwahrscheinlich eine KI, die Wörter ausfindig macht, die häufig mit pornografischen Suchen in Verbindung gebracht werden. Zu diesem Zweck unterdrückt der iOS-Content-Blocker auch Begriffe wie „Teen“, „Amateur“ und „Reif“. Dies trotz der Tatsache, dass sie eine legitime Nutzung außerhalb von Inhalten für Erwachsene haben.
Auch die Konkurrenten von Apple stehen vor dieser Art von Herausforderung, wenn es um KI geht. Google beispielsweise stieß auf Probleme mit Bildklassifizierungsalgorithmen, die Falsch identifizierte Fotos von Schwarzen als Gorillas. Microsoft hat unterdessen einen Chatbot namens Tay auf den Markt gebracht, dem Online-Benutzer schnell beigebracht haben, sich so zu verhalten rassistisch unsensibel.
Wenn Shen Recht hat, hat Apple keinen menschlichen Programmierer beauftragt, eine Liste blockierter Begriffe zu erstellen. All dies basiert auf Korrelationen von Datensätzen, die, so könnte argumentiert werden, breitere diskriminierende gesellschaftliche Trends und Einstellungen widerspiegeln. (Wenn Sie sich für dieses Thema interessieren, empfehle ich wirklich die Lektüre Algorithmen der Unterdrückung von Safiya Noble.)
Apple-Chef Tim Cook häufig spricht sich gegen Rassismus aus und über die Bedeutung der Vielfalt. Es ist sehr wahrscheinlich, dass dieser iOS-Fehler, der jetzt entdeckt und veröffentlicht wurde, in kurzer Zeit beseitigt wird. Dennoch ist es eine Lektion über Best Practices, wenn es um KI geht.
