Armes autonomes qui ont le pouvoir de suivre et de tuer des cibles avec Terminateur-comme l'efficacité n'est plus seulement un fantasme hollywoodien.
Steve Wozniak, Elon Musk, Stephen Hawking et des centaines de chercheurs en IA et en robotique disent que la technologie à construire des armes autonomes qui sélectionnent et engagent des cibles sans intervention humaine est réalisable en quelques années, non décennies. Et nous devons l'interdire maintenant.
Dans une lettre ouverte publiée le Avenir de la vie, les grands penseurs ont averti que la poursuite des armes d'IA - comme des quadricoptères armés qui peuvent rechercher et éliminer les personnes se rencontrant certains critères prédéfinis - conduira à la troisième révolution de la guerre et à une toute nouvelle course aux armements, ce qui serait une très mauvaise idée.
Les armes d'IA ne nécessiteraient pas de matériaux coûteux et difficiles à obtenir, contrairement aux armes nucléaires, elles seront donc moins chères et plus faciles à produire en masse pour les puissances militaires. En peu de temps, terroristes et dictateurs pourront se les procurer sur le marché noir et semer la pagaille en tout genre, prévient le groupe :
« Les armes autonomes sont idéales pour des tâches telles que les assassinats, la déstabilisation de nations, la soumission de populations et l'assassinat sélectif d'un groupe ethnique particulier. Nous pensons donc qu'une course aux armements de l'IA militaire ne serait pas bénéfique pour l'humanité. Il existe de nombreuses façons dont l'IA peut rendre les champs de bataille plus sûrs pour les humains, en particulier les civils, sans créer de nouveaux outils pour tuer des gens. »
Certains experts ont fait valoir que les armes d'IA pourraient être une bonne chose. En remplaçant les soldats humains par des machines, les pouvoirs militaires pourraient réduire le nombre de victimes, mais cela abaisserait le seuil de violence, ce qui est mauvais. En fin de compte, l'IA a le potentiel de profiter à l'humanité, et cela devrait être l'objectif de ceux qui sont sur le terrain, plutôt que de créer une course aux armements de l'IA militaire.
La source: Avenir de la vie
