Po mnenju študenta računalništva iOS 14 vgrajen zaviralec pornografske vsebine zavira iskanja, ki vsebujejo besedo "azijski".
To pomeni, da so iskanja »azijska hrana« ali »azijske države« blokirana, če so omogočeni filtri vsebine za odrasle. Podobni bloki ne obstajajo za iskalne izraze, vključno s črno, belo, arabsko, francosko in drugimi nacionalnimi ali rasnimi deskriptorji.
Steven Shen, študent računalništva na indijski univerzi Purdue, je trend opazil na Twitterju.
"Če v sistemu iOS vklopite" Omeji spletno mesto za odrasle "v razdelku Čas zaslona-> Omejitve vsebine, Safari blokira kateri koli URL spletnega mesta, ki vsebuje besedo" azijski "," je zapisal Shen. "Resno, poskusite, neverjetno je. Davno sem vložil Feeback. Nič se ni spremenilo. "
Podoben, izbirni zaviralec vsebine za odrasle je na voljo na Macu. Vendar pa na namizni strojni opremi Apple po aktiviranju zaviralca vsebine še vedno obstaja možnost iskanja besede "azijski".
Steven Shen （沈 畅）
@Stevenpotato
1,5 tisoč
814
Malo verjetno je, da gre za človeško napako
V intervjuju z The Independent, Je dejal Shen blok ni bil verjetno kodiran s človekom. Namesto tega je najverjetneje AI, ki išče besede, ki so pogosto povezane s pornografskimi iskanji. V ta namen blokator vsebine iOS briše tudi izraze, kot so »najstnik«, »amater« in »zrel«. Kljub temu, da se zakonito uporabljajo zunaj vsebine za odrasle.
Appleovi konkurenti se soočajo s tovrstnimi izzivi tudi pri AI. Google je na primer naletel na težave z algoritmi za razvrščanje slik, ki napačno prepoznane fotografije črncev kot gorile. Microsoft je medtem predstavil klepetalnico, imenovano Tay, ki so jo spletni uporabniki hitro "naučili" obnašati v rasno neobčutljiv način.
Če je Shen pravilen, Apple ni zadolžil človeškega koderja, da pripravi seznam blokiranih izrazov. Vse je narejeno na povezavah podatkovnih nizov, ki bi lahko trdili, da odražajo širše diskriminatorne družbene trende in stališča. (Če vas zanima ta tema, priporočam branje Algoritmi zatiranja avtorja Safiya Noble.)
Direktor Apple Tim Cook pogosto govori proti rasizmu ter o pomenu raznolikosti. Zdi se zelo verjetno, da bo zdaj, ko je bila ta napaka v sistemu iOS opažena in objavljena, v kratkem odpravljena. Kljub temu je to lekcija o najboljših praksah pri umetni inteligenci.
