グーグルの「大きな赤いボタン」は私たちを殺す前にAIを殺します

GoogleのDeepMindチームは、科学者と協力して、人間が私たちをオンにする前に人工知能エージェントを殺すことができる方法を作成してきました。

テクノロジーの巨人によって開発されているAIシステムがよりインテリジェントになり、より機能的になるにつれて、多くの人が懸念していることですが、Googleは私たちをカバーしています。

Googleは2014年に約4億ドルでDeepMindを買収し、それ以来、同社はそれを使っていくつかの素晴らしいことを行ってきました。 その最新の成果は、5試合の試合で最高ランクの囲碁選手の1人である李世ドルを4-1で破ったことでした。

DeepMindのようなテクノロジーの優れている点は、常に学習し、自分たちの仕事が大きくなっていることです。 今では、AIが人間による制御を望まなくなったと判断した場合に、作成者でさえ何が起こるかを心配しています。

「安全に中断可能なエージェント」、DeepMindとオックスフォード大学の科学者はそのシナリオの計画を明らかにします。

「そのようなエージェントが人間の監督下でリアルタイムで動作している場合、人間のオペレーターが大きな赤いボタンを押して、 エージェントは、エージェントまたは環境のいずれかに有害な一連の有害なアクションを継続することを防ぎ、エージェントをより安全な状況に導きます」と論文は述べています。 説明します。

この論文はまた、人間が安全に介入することを可能にする「枠組み」が整っていることを確認しています AIを使用して、同時にAIがそれらを防ぐ方法を学習できないようにします 中断。

「安全な割り込み可能性は、誤動作して不可逆的な結果につながる可能性のあるロボットを制御したり、デリケートな状況からロボットを取り出したりするのに役立ちます」と論文は続けています。

したがって、基本的には、これらのシステムが機能することを信頼する必要があります。 研究者たちは、いくつかのアルゴリズムを使用していると言っていますが、他のアルゴリズムは適応させる必要があります。 そして、すべてが「簡単に安全に中断できるようにすることができる」かどうかは明らかではありません。

経由： ビジネスインサイダー