Googlov "veliki rdeči gumb" ubije AI, preden nas lahko ubije

Googlova skupina DeepMind je skupaj z znanstveniki sodelovala pri ustvarjanju načina, na katerega lahko ljudje ubijejo agente umetne inteligence, preden se lahko obrnejo proti nam.

Mnogi skrbijo, saj sistemi AI, ki jih razvijajo tehnološki velikani, postajajo vse bolj inteligentni in sposobnejši, vendar nas Google pokriva.

Google je DeepMind za okoli 400 milijonov dolarjev kupil že leta 2014 in od takrat je podjetje z njim naredilo nekaj neverjetnih stvari. Njen zadnji dosežek je bil v petih tekmah s 4: 1 premagati enega najvišje uvrščenih igralcev Goa Leeja Sedola.

Pri tehnologijah, kot je DeepMind, je super to, da se vedno učijo in postajajo vse boljši pri svojem delu. Zdaj celo njihove ustvarjalce skrbi, kaj bi se lahko zgodilo, če bi se AI odločila, da ne želi več nadzorovati človeka.

V prispevku z naslovom "Varno prekinljivi agenti, «Znanstveniki z DeepMind in univerze Oxford razkrivajo svoj načrt za ta scenarij.

»Če tak agent deluje v realnem času pod nadzorom ljudi, bo morda včasih človeški operater moral pritisniti velik rdeči gumb, da prepreči da agent ne nadaljuje škodljivega zaporedja dejanj - škodljivih bodisi za zastopnika ali za okolje - in ga pripelje v varnejšo situacijo, « razlaga.

Dokument tudi potrjuje, da obstaja "okvir", ki človeku omogoča varno posredovanje z AI, hkrati pa zagotoviti, da se AI ne more naučiti, kako to preprečiti prekinitve.

"Varna prekinljivost je lahko koristna za prevzem nadzora nad robotom, ki se neprimerno obnaša in lahko povzroči nepopravljive posledice, ali pa ga izvlečemo iz občutljive situacije," nadaljuje članek.

Zato moramo v bistvu samo zaupati, da bodo ti sistemi delovali. Raziskovalci pravijo, da imajo z nekaterimi algoritmi, druge pa je treba prilagoditi. In ni jasno, ali je vse "mogoče enostavno varno prekiniti".

Preko: Business Insider