O 'grande botão vermelho' do Google mata a IA antes que possa nos matar

A equipe DeepMind do Google tem trabalhado com cientistas para criar uma maneira pela qual os humanos possam matar agentes de inteligência artificial antes que eles possam se voltar contra nós.

É uma preocupação que muitos têm, à medida que os sistemas de IA desenvolvidos por gigantes da tecnologia se tornam mais inteligentes e capazes - mas o Google nos ajuda.

O Google adquiriu a DeepMind por cerca de US $ 400 milhões em 2014 e, desde então, a empresa fez coisas incríveis com ela. Sua conquista mais recente foi derrotar um dos melhores jogadores do Go, Lee Sedol, por 4 a 1 em uma partida de cinco jogos.

O que é ótimo sobre tecnologias como DeepMind é que elas estão sempre aprendendo e se tornando melhores no que fazem. Agora, até mesmo seus criadores estão preocupados com o que pode acontecer se a IA decidir que não quer mais ser controlada por um humano.

Em um artigo intitulado “

“Se tal agente estiver operando em tempo real sob supervisão humana, de vez em quando pode ser necessário que um operador humano pressione o grande botão vermelho para evitar que agente de continuar uma sequência de ações nocivas - prejudiciais para o agente ou para o meio ambiente - e levar o agente a uma situação mais segura ”, o artigo explica.

O documento também confirma que existe uma "estrutura" em vigor que permite a um ser humano intervir com segurança com uma IA, garantindo ao mesmo tempo que a IA não pode aprender como prevenir aqueles interrupções.

“A interruptibilidade segura pode ser útil para controlar um robô que está se comportando mal e pode levar a consequências irreversíveis ou para retirá-lo de uma situação delicada”, continua o jornal.

Então, basicamente, temos que apenas confiar que esses sistemas funcionarão. Os pesquisadores dizem que sim com alguns algoritmos, mas outros precisam ser adaptados. E não está claro se tudo "pode ​​ser facilmente interrompido com segurança".

Através da: Business Insider