Google'i „suur punane nupp” tapab tehisintellekti, enne kui see meid tapab

Google'i DeepMindi meeskond on teinud koostööd teadlastega, et luua viis, kuidas inimesed saaksid tehisintellekti agente tappa, enne kui nad saavad meie poole pöörduda.

See on paljudele murettekitav, kuna tehnoloogiahiiglaste arendatavad tehisintellekti süsteemid muutuvad intelligentsemaks ja võimekamaks - kuid Google on meid katnud.

Google omandas DeepMindi umbes 400 miljoni dollari eest juba 2014. aastal ja sellest ajast alates on ettevõte teinud sellega uskumatuid asju. Selle viimane saavutus oli ühe kõrgeima asetusega Go-mängija Lee Sedoli 5-mängulises matšis 4: 1 võit.

Selliste tehnoloogiate nagu DeepMind puhul on suurepärane see, et nad õpivad ja muutuvad oma tegemistes aina suuremaks. Nüüd on isegi nende loojad mures selle pärast, mis võib juhtuda, kui tehisintellekt otsustab, et ta ei taha enam inimese kontrolli all olla.

Paberis pealkirjaga "Turvaliselt katkestatavad ained, ”Avaldavad DeepMindi ja Oxfordi ülikooli teadlased oma stsenaariumi plaani.

"Kui selline agent tegutseb reaalajas inimeste järelevalve all, võib aeg-ajalt inimesel olla vajalik vajutada suurt punast nuppu, et vältida Agent ei tohi jätkata kahjulikku toimingute jada - kahjulikku nii agendile kui ka keskkonnale - ja viia agent ohutumasse olukorda. selgitab.

Samuti kinnitab dokument, et on olemas raamistik, mis võimaldab inimesel turvaliselt sekkuda tehisintellektiga, tagades samal ajal, et tehisintellekt ei saa õppida, kuidas neid ära hoida katkestused.

"Ohutu katkestatavus võib olla kasulik halvasti käituva ja pöördumatute tagajärgedega roboti kontrolli alla võtmiseks või delikaatsest olukorrast väljatoomiseks," jätkab paber.

Nii et põhimõtteliselt peame lihtsalt usaldama, et need süsteemid toimivad. Teadlased väidavad, et mõne algoritmiga nad seda teevad, kuid teisi tuleb kohandada. Ja pole selge, kas kõik "saab hõlpsasti ohutult katkestatavaks muuta".

Läbi: Business Insider