Googlen "suuri punainen painike" tappaa tekoälyn ennen kuin se voi tappaa meidät
Kuva: Google
Googlen DeepMind -tiimi on työskennellyt tutkijoiden kanssa luodakseen tavan, jolla ihmiset voivat tappaa tekoälyagentit ennen kuin he voivat kääntyä puoleemme.
Se huolestuttaa monia, kun teknologiajättien kehittämistä tekoälyjärjestelmistä tulee älykkäämpiä ja kykenevämpiä - mutta Google on ottanut meidät huomioon.
Google osti DeepMindin noin 400 miljoonalla dollarilla vuonna 2014, ja sen jälkeen yritys on tehnyt uskomattomia asioita sen kanssa. Sen viimeisin saavutus oli voittaa yksi korkeimmin arvostetuista Go-pelaajista, Lee Sedol, 4-1 viiden ottelun ottelussa.
DeepMindin kaltaisissa tekniikoissa on hienoa, että ne oppivat aina ja tulevat yhä paremmiksi tekemisissään. Nyt jopa heidän luojansa ovat huolissaan siitä, mitä voisi tapahtua, jos tekoäly päättäisi, ettei se enää halua olla ihmisen hallinnassa.
Lehdessä otsikolla "Turvallisesti keskeytettävät aineet”, DeepMindin ja Oxfordin yliopiston tutkijat paljastavat suunnitelmansa kyseistä skenaariota varten.
"Jos tällainen agentti toimii reaaliajassa ihmisten valvonnassa, silloin tällöin voi olla tarpeen, että ihmisoperaattori painaa suurta punaista painiketta estääkseen agentti jatkamaan haitallista toimintojen sarjaa - vahingollista joko aineelle tai ympäristölle - ja johtamaan agentin turvallisempaan tilanteeseen, selittää.
Paperi vahvistaa myös, että on olemassa "kehys", jonka avulla ihminen voi turvallisesti puuttua asiaan tekoälyn kanssa ja samalla varmistaa, että tekoäly ei voi oppia estämään niitä keskeytyksiä.
"Turvallinen keskeytettävyys voi olla hyödyllistä hallita väärin käyttäytyvä robotti, joka voi johtaa peruuttamattomiin seurauksiin, tai ottaa se pois arkaluonteisesta tilanteesta", lehti jatkaa.
Joten periaatteessa meidän on vain luotettava siihen, että nämä järjestelmät toimivat. Tutkijat sanovat tekevänsä joillakin algoritmeilla, mutta toisia on mukautettava. Eikä ole selvää, voidaanko kaikki "tehdä helposti keskeytettäviksi turvallisesti".
Kautta: Business Insider
