France

Et si la prochaine guerre serait contre des machines ?

Depuis que nous sommes capables de fabriquer des robots, nous avons toujours eu peur qu’ils nous tuent.

En 1942, Isaac Asimov a publié une nouvelle intitulée Runaround qui a à la fois inventé le terme “robotique” et introduit l’idée de robots tuant des humains. La semaine dernière, une entreprise a entrepris de rassurer les gens en leur disant qu’elle s’inquiétait elle aussi de cette menace potentielle.

Clearpath Robotics a annoncé qu’elle prendrait position contre les robots tueurs. “Aux gens contre les robots tueurs : nous vous soutenons”, peut-on lire dans le communiqué de presse de l’entreprise.

Oui, la campagne organisée contre les robots tueurs a pris de l’ampleur à mesure que la technologie et la militarisation de la robotique ont progressé, et la chose la plus intelligente que le mouvement ait faite est de choisir son nom. “Robots tueurs” n’est pas encore un terme bien défini, mais il est clairement gagnant.

Les systèmes robotiques autonomes ont en effet parcouru un long chemin depuis Asimov. Suffisamment pour qu’en 2012, Human Rights Watch publie un rapport plaidant contre les systèmes d’armes autonomes meurtriers – des armes qui peuvent prendre des décisions meurtrières sans intervention humaine. Sauf qu’ils ne les ont pas appelés “systèmes d’armes autonomes meurtriers”. Le titre du rapport était “Perdre l’humanité” : L’affaire des robots tueurs”.

Mary Wareham, coordinatrice de la campagne “Stop aux robots tueurs”, admet que c’était un peu trop. “Nous avons mis des robots tueurs dans le titre de notre rapport pour être provocateurs et attirer l’attention”, dit-elle. “C’est une campagne et un plaidoyer sans vergogne, mais nous essayons de nous concentrer sur les problèmes de la vie réelle, et les robots tueurs semblaient être un bon moyen d’entamer le dialogue”.

Ryan Gariepy, le directeur de la technologie chez Clearpath Robotics, a fait écho à Wareham : “C’est un peu sensationnaliste, et mon côté ingénieur pense que ce n’est pas très précis. Mais si c’est ce dont la société a besoin pour aborder cette question, alors c’est ainsi que nous en parlerons”.

Nommer des armes et des missions comme celle-ci n’est pas nouveau. Le LGM-118A “Peacekeeper” était un missile qui pouvait transporter jusqu’à 3 000 kilotonnes d’ogives. Israel Aerospace Industries fabrique un missile nommé Gabriel, du nom de l’ange. Une mission israélienne de 2006 pour bombarder le Sud-Liban a été nommée Mivtza Sachar Holem, “Operation Just Reward”. Lorsque les États-Unis ont envahi l’Irak, ils ont appelé le programme “Opération Liberté irakienne”. Le chercheur Charles Kauffman soutient que plus nos armes deviennent puissantes, plus nos noms deviennent discrets, pour adoucir l’idée des dégâts qu’elles pourraient causer. Mais si vous cherchez à faire passer une arme pour mauvaise, le “robot tueur” est efficace.

Mais tout le monde ne définit pas “robot tueur” de la même façon. Pour Clearpath, un robot tueur est un robot qui peut prendre la décision d’utiliser une force mortelle sans intervention humaine. Chez Human Rights Watch, la définition est élargie pour inclure tout robot qui peut choisir d’utiliser la force contre un humain, même si cette force n’est pas mortelle.

En réalité, il y a une réticence à établir une définition unique, dit Wareham. “En fait, il y a eu un mouvement de rejet de cette définition.” C’est en partie dû au fait que les différentes organisations et agences ont des objectifs distincts – et parfois contradictoires – sur ce que la discussion sur les robots tueurs pourrait donner.

Ainsi, alors que Human Rights Watch recherche des règles potentielles contre les “robots tueurs” qui pourraient réglementer des armes spécifiques, des catégories d’armes, des systèmes d’armes ou des stratégies d’attaque entières, des groupes comme Clearpath doivent tenir compte de leurs clients, y compris les militaires canadiens et américains. Une fois que Clearpath remet la technologie robotique à ces gouvernements, reconnaît Gariepy, la société n’a aucun contrôle sur la façon dont cette technologie est utilisée.

Pour l’instant, cette masse nébuleuse d’entités robotiques qui pourraient tuer ou blesser des humains a un nom sans définition solide – mais c’est un nom vraiment intelligent. Après tout, selon M. Wareham, “aucun gouvernement ne veut être considéré comme pro-robot-tueur”.

Il y a des arguments légitimes pour dire que la technologie robotique et l’armée sont, euh, absolument horribles. Certains étudiants et professeurs de l’université Carnegie Mellon sont mal à l’aise face à la nouvelle base de recherche en IA de l’armée sur le campus et les employés de Google ont protesté en travaillant sur un projet d’IA pour le Pentagone américain.

Mais encore une fois, qui n’aime pas un bon film de robot tueur ?

Terminator : Dark Fate sort dans les salles de cinéma ce week-end, mais cette vidéo pourrait être encore plus effrayante en raison d’un réalisme déconcertant. Corridor Digital, un studio de production de L.A. spécialisé dans les effets visuels, a filmé une vidéo parodique au niveau du pantalon mouillé qui dépeint un avenir rempli de soldats robotisés, éliminant ainsi le besoin d’intervention humaine.


Cette parodie est un clin d’œil à Boston Dynamics, la société de robotique du Massachusetts qui produit constamment des vidéos drôles mais effrayantes sur les progrès de ses robots. Il y a Spot, un robot ressemblant à un chien que les entreprises peuvent désormais louer, et un robot humanoïde appelé Atlas qui est lui-même assez effrayant, car il se promène dans les bois comme un Slenderman métallique et exécute Parkour.

Ce n’est pas la première incursion de Corridor Digital dans le monde des vidéos robotiques parodiques. En juin dernier, la société a publié un clip d’un robot à l’allure de Boston Dynamic qui battait des gens dans un entrepôt.

Le fait est que les gens pensaient que cette vidéo était réelle et totalement effrayante. Corridor a donc publié une vidéo des coulisses illustrant exactement comment ils ont pu recréer le robot de Boston Dynamics et produire la vidéo.

David SCHMIDT

David SCHMIDT

Journaliste reporter sur Davidschmidt.fr. Chroniqueur radio sur Form.fr.

Articles similaires

Donnez-nous votre avis sur cette article !

Bouton retour en haut de la page