Arvutiteaduse tudengi sõnul takistab iOS 14 sisseehitatud pornograafilise sisu blokeerija otsinguid, mis sisaldavad sõna „Aasia”.
See tähendab, et otsingud „Aasia toit” või „Aasia riigid” blokeeritakse, kui täiskasvanutele mõeldud sisu filtrid on lubatud. Sarnaseid plokke ei kasutata otsinguterminite jaoks, sealhulgas „must”, „valge”, „araablane”, „prantsuse keel” ja muud rahvuslikud või rassilised kirjeldused.
Indiana Purdue ülikooli arvutiteaduse üliõpilane Steven Shen märkis trendi Twitteris.
"Kui lülitate iOS-is sisse" Piira täiskasvanute veebisaiti "jaotises Ekraaniaeg-> Sisu piirangud, blokeerib Safari kõik veebisaidi URL-id, mis sisaldavad sõna" aasia "," kirjutas Shen. "Tõsiselt, minge proovige, see on uskumatu. Esitasin tagasimakse ammu. Midagi ei muutunud."
Sarnane täiskasvanutele mõeldud sisu blokeerija on saadaval ka Macis. Kuid Apple'i töölaua riistvaras jääb sõna „Aasia” otsitavaks ka pärast sisu blokeerija aktiveerimist.
Steven Shen （沈 畅）
@Stevenpotato
1,5K
814
Vaevalt et see oleks inimlik viga
Intervjuus ajalehele The Independent, Ütles Shen plokk ei olnud tõenäoliselt inimeste kodeeritud. Selle asemel otsib tõenäoliselt tehisintellekt pornograafiliste otsingutega sageli seotud sõnu. Sel eesmärgil kustutab iOS -i sisu blokeerija ka selliseid termineid nagu „teismeline”, „amatöör” ja „küps”. Seda hoolimata asjaolust, et neid kasutatakse seaduslikult väljaspool täiskasvanutele mõeldud sisu.
Apple'i konkurendid seisavad seda tüüpi väljakutsetega silmitsi ka AI -ga. Näiteks tekkis Google'il probleeme piltide klassifitseerimise algoritmidega, mis valesti tuvastatud fotod mustadest inimestest kui gorilladest. Vahepeal käivitas Microsoft vestlusboti nimega Tay, mille veebikasutajad “treenisid” kiiresti käituma rassitundetult.
Kui Shenil on õigus, ei andnud Apple inimkodeerijale ülesandeks koostada blokeeritud terminite loend. See kõik põhineb andmekogumite korrelatsioonidel, mis võivad väita, et need peegeldavad laiemaid diskrimineerivaid ühiskondlikke suundumusi ja hoiakuid. (Kui see teema teid huvitab, soovitan teil seda lugeda Rõhumise algoritmid Safiya Noble.)
Apple'i tegevjuht Tim Cook sageli räägib rassismi vastu ja mitmekesisuse tähtsusest. Tundub väga tõenäoline, et nüüd, kui see iOS -i tõrge on märgatud ja avalikustatud, kõrvaldatakse see lühikese aja jooksul. Sellegipoolest on see õppetund AI kohta parimate tavade kohta.