„Google“ „didelis raudonas mygtukas“ nužudo AI, kol jis gali mus nužudyti

„Google“ „DeepMind“ komanda dirbo su mokslininkais, kad sukurtų būdą, kaip žmonės galėtų nužudyti dirbtinio intelekto agentus, kol jie negalės mūsų įjungti.

Daugeliui tai kelia susirūpinimą, nes technologijų milžinų kuriamos AI sistemos tampa protingesnės ir pajėgesnės, tačiau „Google“ mus aptarė.

„Google“ įsigijo „DeepMind“ už maždaug 400 milijonų JAV dolerių dar 2014 m., O nuo to laiko bendrovė su ja padarė neįtikėtinų dalykų. Paskutinis jo pasiekimas buvo penkių rungtynių rungtynėse 4: 1 nugalėti vieną aukščiausio rango „Go“ žaidėjų Lee Sedolį.

Tokios technologijos kaip „DeepMind“ yra nuostabios tuo, kad jos visada mokosi ir tampa vis didesnės to, ką daro. Dabar net jų kūrėjai nerimauja dėl to, kas gali atsitikti, jei AI nuspręs, kad nebenori būti valdomas žmogaus.

Popieriuje pavadinimu „Saugiai pertraukiami agentai“, -„ DeepMind “ir Oksfordo universiteto mokslininkai atskleidžia savo planą šiam scenarijui.

„Jei toks agentas veikia realiu laiku, prižiūrimas žmonių, kartais žmogui gali tekti paspausti didelį raudoną mygtuką, kad būtų išvengta kad agentas tęstų kenksmingą veiksmų seką - kenksmingą agentui arba aplinkai - ir nukreiptų agentą į saugesnę padėtį “, aiškina.

Dokumentas taip pat patvirtina, kad yra sukurta „sistema“, leidžianti žmogui saugiai įsikišti dirbtiniu intelektu, tuo pat metu užtikrinant, kad dirbtinis intelektas negalėtų išmokti to išvengti pertraukimus.

„Saugus pertraukiamumas gali būti naudingas norint valdyti netinkamai besielgiančio roboto, kuris gali sukelti negrįžtamų padarinių, arba ištraukti jį iš subtilios situacijos“, - tęsiama dokumente.

Taigi iš esmės turime tik tikėti, kad šios sistemos veiks. Mokslininkai teigia, kad tai daro su kai kuriais algoritmais, tačiau kiti turi būti pritaikyti. Ir neaišku, ar viską „galima lengvai padaryti saugiai pertraukiamą“.

Per: „Business Insider“