Ugrađeni blokator pornografskog sadržaja u sustavu iOS 14 usporava pretraživanja koja uključuju riječ "azijski", prema studentu informatike.
To znači da su pretraživanja "azijske hrane" ili "azijskih zemalja" blokirana ako su omogućeni filtri sadržaja za odrasle. Slični blokovi ne postoje za pojmove za pretraživanje, uključujući "crno", "bijelo", "arapsko", "francusko" i druge nacionalne ili rasne deskriptore.
Steven Shen, student informatike na sveučilištu Purdue u Indiani, primijetio je trend na Twitteru.
"Na iOS-u, ako uključite" Ograniči web lokaciju za odrasle "pod Screen Time-> Content Restrictions, Safari blokira bilo koji URL web stranice koji sadrži riječ" azijski "", napisao je Shen. “Ozbiljno, idi probati, to je nevjerojatno. Davno sam podnio tužbu. Ništa se nije promijenilo."
Sličan, izborni blokator sadržaja za odrasle dostupan je na Macu. Međutim, na Appleovom stolnom hardveru riječ "azijski" ostaje dostupna za pretraživanje nakon aktivacije blokatora sadržaja.
Steven Shen （沈 畅）
@Stevenpotato
1,5K
814
Malo je vjerojatno da je to ljudska greška
U intervjuu za The Independent, Rekao je Shen blok vjerojatno nije bio kodiran ljudima. Umjesto toga, najvjerojatnije se radi o umjetnoj inteligenciji koja izviđa riječi često povezane s pornografskim pretraživanjima. U tu svrhu iOS blokator sadržaja također briše pojmove poput "tinejdžer", "amater" i "zreo". To je unatoč činjenici da se oni legitimno koriste izvan sadržaja za odrasle.
Appleovi konkurenti suočavaju se s ovom vrstom izazova i kada je u pitanju umjetna inteligencija. Google je, na primjer, naišao na probleme s algoritmima za klasifikaciju slika koji pogrešno identificirane fotografije Crnaca kao gorila. Microsoft je u međuvremenu pokrenuo chatbot pod imenom Tay, koji su mrežni korisnici brzo "naučili" ponašati se u rasno neosjetljiv način.
Ako je Shen u pravu, Apple nije zadao ljudskom koderu da sastavi popis blokiranih pojmova. Sve se radi na korelacijama skupova podataka, moglo bi se reći da odražavaju šire diskriminirajuće društvene trendove i stavove. (Ako vas zanima ova tema, preporučujem čitanje Algoritmi potiskivanja od Safiya Noble.)
Izvršni direktor Applea Tim Cook često govori protiv rasizma te o važnosti različitosti. Čini se vrlo vjerojatnim da će se, nakon što je ovaj problem u iOS -u uočen i objavljen, u kratkom roku ukloniti. Ipak, to je lekcija o najboljim praksama kada je u pitanju umjetna inteligencija.
