Tietotekniikan opiskelijan mukaan iOS 14: n sisäänrakennettu pornografisen sisällön estäjä estää haut, jotka sisältävät sanan "aasialainen".
Tämä tarkoittaa, että haut "Aasian ruoka" tai "Aasian maat" estetään, jos vain aikuisille suunnatun sisällön suodattimet ovat käytössä. Vastaavia lohkoja ei ole hakutermien, kuten "musta", "valkoinen", "arabia", "ranskalainen" ja muiden kansallisten tai rodullisten kuvausten, kohdalla.
Steven Shen, tietojenkäsittelytieteen opiskelija Indianan Purdue -yliopistossa, huomasi trendin Twitterissä.
"Jos iOS-järjestelmässä otat Limit Adult Website -asetuksen käyttöön kohdassa Näyttöaika-> Sisältörajoitukset, Safari estää kaikki verkkosivuston URL-osoitteet, jotka sisältävät sanan" aasialainen "", Shen kirjoitti. "Vakavasti, mene kokeilemaan, se on uskomatonta. Tein hyvityksen kauan sitten. Mikään ei muuttunut."
Samanlainen, valinnainen aikuisille suunnatun sisällön estäjä on saatavilla Macissa. Applen työpöytälaitteistossa sana "aasialainen" on kuitenkin edelleen haettavissa sisällönestolaitteen aktivoinnin jälkeen.
Steven Shen （沈 畅）
@Stevenpotato
1,5 tuhatta
814
Tuskin se on inhimillinen erehdys
Haastattelussa Itsenäinen, Shen sanoi lohko ei todennäköisesti ollut ihmiskoodattu. Sen sijaan se on todennäköisesti tekoäly, joka etsii sanoja, jotka liittyvät usein pornografisiin hakuihin. Tätä varten iOS -sisällön estäjä myös purkaa termejä, kuten "teini", "amatööri" ja "kypsä". Tämä siitä huolimatta, että niitä käytetään laillisesti aikuisille suunnatun sisällön ulkopuolella.
Applen kilpailijat kohtaavat tämän tyyppisen haasteen myös tekoälyn osalta. Esimerkiksi Google kohtasi ongelmia kuvien luokittelualgoritmeissa väärin tunnistetut kuvat mustista ihmisistä gorilloina. Samaan aikaan Microsoft käynnisti Tayb -nimisen chatbotin, joka verkkokäyttäjät “kouluttivat” nopeasti käyttäytymään rodullisesti epäherkkää tapaa.
Jos Shen on oikeassa, Apple ei antanut ihmiskooderin tehtäväksi laatia luetteloa estetyistä termeistä. Kaikki perustuu tietojoukkojen korrelaatioihin, jotka voidaan väittää heijastavan laajempaa syrjivää yhteiskunnallista suuntausta ja asennetta. (Jos olet kiinnostunut tästä aiheesta, suosittelen todella lukemista Sorron algoritmit kirjoittanut Safiya Noble.)
Applen toimitusjohtaja Tim Cook usein puhuu rasismia vastaan ja monimuotoisuuden tärkeydestä. Näyttää erittäin todennäköiseltä, että nyt kun tämä iOS -häiriö on havaittu ja julkistettu, se poistetaan lyhyessä ajassa. Silti se on opetus parhaista käytännöistä tekoälyn suhteen.
