iOS 14s indbyggede pornografiske indholdsblokker stopper søgninger, der indeholder ordet "asiatisk", ifølge en datalogistuderende.
Det betyder, at søgninger efter "asiatisk mad" eller "asiatiske lande" blokeres, hvis filtre til voksenindhold er aktiveret. Lignende blokke er ikke på plads for søgeudtryk, herunder "sort", "hvid", "arabisk", "fransk" og andre nationale eller racemæssige deskriptorer.
Steven Shen, en datalogistuderende ved Indiana's Purdue University, noterede tendensen på Twitter.
"Hvis du på iOS aktiverer 'Begræns voksenwebsted' under Skærmtid-> Indholdsbegrænsninger, blokerer Safari enhver webstedsadresse, der indeholder ordet 'asiatisk'," skrev Shen. “Seriøst, prøv det, det er utroligt. Jeg indgav en Feeback for længe siden. Intet ændrede sig."
En lignende, valgfri voksenindholdsbloker er tilgængelig på Mac. På Apples stationære hardware er ordet "asiatisk" dog stadig søgbart efter aktivering af indholdsblokeringen.
Steven Shen （沈 畅）
@Stevenpotato
1,5K
814
Det er usandsynligt, at det er en menneskelig fejl
I et interview med Den uafhængige, Sagde Shen blok var usandsynligt at være menneskekodet. I stedet er det højst sandsynligt en AI, der spejder ord, der ofte er forbundet med pornografiske søgninger. Til dette formål strammer iOS -indholdsblokker også udtryk som "teenager", "amatør" og "moden". Det er på trods af at de har legitim brug uden for voksenindhold.
Apples konkurrenter står også over for denne type udfordringer, når det kommer til AI. Google stødte for eksempel på problemer med billedklassificeringsalgoritmer, der fejlidentificerede fotos af sorte mennesker som gorillaer. Microsoft lancerede i mellemtiden en chatbot kaldet Tay, som onlinebrugere hurtigt “trænede” i at opføre sig i racemæssigt ufølsom måde.
Hvis Shen er korrekt, har Apple ikke pålagt en menneskelig koder at komme med en liste over blokerede termer. Det hele foregår på datasætkorrelationer, som det kunne argumenteres for, afspejler bredere diskriminerende samfundstendenser og holdninger. (Hvis du er interesseret i dette emne, anbefaler jeg virkelig at læse Undertrykkelsesalgoritmer af Safiya Noble.)
Apples administrerende direktør Tim Cook ofte taler imod racisme og om vigtigheden af mangfoldighed. Det forekommer meget sandsynligt, at nu hvor denne iOS -fejl er blevet opdaget og offentliggjort, vil den blive elimineret på kort tid. Alligevel er det en lektion om bedste praksis, når det kommer til AI.
