Le « gros bouton rouge » de Google tue l'IA avant qu'elle ne puisse nous tuer

L'équipe DeepMind de Google a travaillé avec des scientifiques pour créer un moyen par lequel les humains peuvent tuer des agents d'intelligence artificielle avant qu'ils ne puissent se retourner contre nous.

C'est une préoccupation que beaucoup ont car les systèmes d'IA développés par les géants de la technologie deviennent plus intelligents et plus capables - mais Google nous a couvert.

Google a acquis DeepMind pour environ 400 millions de dollars en 2014, et depuis lors, la société a fait des choses incroyables avec. Sa réalisation la plus récente a été de battre l'un des joueurs de Go les mieux classés, Lee Sedol, 4-1 dans un match de cinq matchs.

Ce qui est génial avec des technologies comme DeepMind, c'est qu'elles apprennent et deviennent toujours meilleures dans ce qu'elles font. Désormais, même leurs créateurs s'inquiètent de ce qui pourrait arriver si l'IA décidait qu'elle ne veut plus être contrôlée par un humain.

Dans un article intitulé "Agents interruptibles en toute sécurité", des scientifiques de DeepMind et de l'Université d'Oxford révèlent leur plan pour ce scénario.

« Si un tel agent opère en temps réel sous surveillance humaine, il peut être nécessaire de temps en temps pour un opérateur humain d'appuyer sur le gros bouton rouge pour empêcher le l'agent de continuer une séquence d'actions nuisibles - nuisibles soit pour l'agent, soit pour l'environnement - et conduire l'agent dans une situation plus sûre », le document explique.

Le document confirme également qu'il existe un «cadre» en place qui permet à un humain d'intervenir en toute sécurité avec une IA, tout en veillant à ce que l'IA ne puisse pas apprendre à empêcher ces interruptions.

"L'interruptibilité sûre peut être utile pour prendre le contrôle d'un robot qui se comporte mal et peut entraîner des conséquences irréversibles, ou pour le sortir d'une situation délicate", poursuit le document.

Donc, fondamentalement, nous devons simplement avoir confiance que ces systèmes fonctionneront. Les chercheurs disent le faire avec certains algorithmes, mais d'autres doivent être adaptés. Et il n'est pas clair si tout "peut être facilement rendu interruptible en toute sécurité".

Passant par: Interne du milieu des affaires