Les robots tueurs arrivent : peut-on les laisser faire ? 78 États ont déjà plaidé pour une interdiction totale de ces armes
Publié le 31 Mai 2021
/image%2F0846185%2F20210531%2Fob_eda1b8_d03ed33cb73b2f86af009bef47f908e8-16094.jpeg)
Aucun cas n’a encore été signalé jusqu’aujourd’hui, mais le jour approche où un robot armé prendra la décision d’éliminer un humain.
Les progrès de la robotique, de l’intelligence artificielle et de la miniaturisation sont fulgurants. Mises ensemble au service d’objectifs militaires, ces avancées donnent des résultats stupéfiants. Leurs fabricants les appellent des "systèmes d’armement autonomes". Leurs opposants, de plus en plus nombreux, préfèrent les qualifier de "robots tueurs".
Cette évolution crée "des situations où la décision de tuer sera prise par une machine, et non plus par une personne. Ce transfert de responsabilité de l’homme à la machine pose toute une série de problèmes, notamment d’ordre juridique et militaire", écrit Stan Brabant, Directeur adjoint du GRIP qui vient de publier une étude sur le sujet.
En Corée du Sud, le robot sentinelle
Ces robots sont déjà opérationnels sur certains théâtres d’opérations. La Corée du Sud a déployé depuis des années des robots sentinelles dans la zone frontalière avec la Corée du Nord. Ils ressemblent plus à des tourelles de tirs qu’à des humanoïdes type Robocop: le système SGR-A1 développé par Samsung Techwin est équipé de caméras, de micros, de haut-parleurs et d’une mitrailleuse.
Surnommé "l’infatigable", il dispose d’un mode de traitement automatique des cibles. Selon Amnesty International, "son système de reconnaissance vocale lui permet, le cas échéant, si elle repère des intrus qui ne possèdent pas les bons mots de passe et ne s’arrêtent pas à ses tirs de semonce, de les abattre." Le mode de fonctionnement automatique n’aurait jamais été activé.
Plus récemment, la Russie a déployé en Syrie son nouveau robot terrestre Uran-9, développé par la firme Kalachnikov Concern. Il s’agit d’un petit blindé sans pilote doté d’un canon de 30 mm, de quatre missiles antichars à guidage laser et d’une mitrailleuse.
Russian robot tank in action: Uran-9 performs fire drill
L’Uran-9 peut être télécommandé jusqu’à une distance de 3 kilomètres, ou opérer en mode autonome. Kalachnikov a publié des vidéos montrant, selon l’entreprise russe, un système de détection automatique de cibles (des formes humaines) capable d’ouvrir le feu et de les éliminer. Officiellement, ce mode autonome n’aurait jamais été utilisé contre des cibles syriennes. Mais le patron de Kalachnikov juge que "la Syrie est un excellent terrain d’entraînement permettant de révéler les côtés faibles et forts de toute arme".
Le robot a montré le fonctionnement instable du canon automatique de 30 mm, le déclenchement intempestif des circuits de lancement et la défaillance du canal d’imagerie thermique de la station de visée optique
"C’est un domaine qui évolue très rapidement et où l’information filtre au compte-goutte", reconnaît Stan Brabant. "En grattant, on obtient certains éléments d’un puzzle qui nous donne une image générale de la situation qui est particulièrement inquiétante."
L’agence russe RIA Novosti a reconnu que "le robot a montré le fonctionnement instable du canon automatique de 30 mm, le déclenchement intempestif des circuits de lancement et la défaillance du canal d’imagerie thermique de la station de visée optique".
La technologie n’est donc pas encore totalement au point, mais on s’en approche à grands pas. La Chine développe, elle, un navire de guerre autonome pour surveiller les côtes, le JARI.
Reconnaissance automatique de cible
Le constructeur israélien Rafael travaille de son côté sur la miniaturisation et l’interconnexion des robots militaires. "Ces machines largement autonomes sont alimentées par des systèmes d’intelligence artificielle, ce qui leur permet de mener des missions pour le compte de leurs propriétaires de manière indépendante, écrit le Times of Israel. Cette capacité à identifier les menaces potentielles, à les catégoriser et à les hiérarchiser, appelée 'reconnaissance automatique de cible', est déjà utilisée dans un certain nombre de systèmes Rafael, y compris dans le missile SPICE 250, où des capteurs électro-optiques avancés identifient les cibles et dirigent le projectile dessus."
Rafael INDOOR demonstration December 2020
Cette capacité des robots à décider de manière autonome d’ouvrir le feu sur une cible fait entrer l’art de la guerre dans une nouvelle dimension.
/image%2F0846185%2F20210531%2Fob_f642eb_new3s-brevet-3d-web-herve-heully-milit.jpg)
"Imaginez une situation où les robots décident eux-mêmes d’entrer en conflit, s’inquiète Stan Brabant, des robots de deux camps qui s’affronteraient entre eux, vous auriez des conflits incontrôlables. On n’a pas idée à quoi cela pourrait aboutir. Dans les conflits actuels, l’existence de victimes militaires et civiles provoque une certaine retenue. Même des États les plus totalitaires de la planète sont prudents par rapport à l’usage de la force armée. Si vous abaissez le seuil d’utilisation de cette force, où ce sont les robots qui décident du déclenchement des hostilités ou des frappes, vous êtes dans une situation dangereuse dont on perdrait le contrôle."
L’équilibre est rompu
Une intelligence artificielle aurait-elle un comportement plus rationnel qu’un humain face à une menace potentielle ? Pour Stan Brabant, elle aurait surtout moins de retenue : "A partir du moment où vous n’avez plus la capacité qu’a le militaire de faire la balance entre l’intérêt militaire et l’impact humanitaire, l’équilibre est rompu. Certains militaires eux-mêmes le disent. L’arme et son logiciel sont développés des années avant d’être utilisés. Il est illusoire d’imaginer qu’elle va respecter le droit et avoir le souci de protéger les civils."
Les robots tueurs posent en effet la question de la responsabilité, par exemple en cas de bavure ou de crime de guerre. Qui faut-il incriminer : le fabriquant de l’arme, le programmateur de l’algorithme, le militaire qui a envoyé le robot ou l’échelon politique qui a permis son utilisation ?
Depuis six ans, on tourne en rond. En attendant, les fabricants ont les mains libres pour faire ce qu’ils veulent
"Depuis 2014, les États en débattent à la CCW, la Convention sur les armes conventionnelles, explique le chercheur du Grip. La Belgique va d’ailleurs en assurer la présidence en 2021. Depuis six ans, on tourne en rond, et la technologie a déjà progressé. En attendant, les fabricants ont les mains libres pour faire ce qu’ils veulent. Il est temps de lancer un autre processus, comme on a eu pour obtenir l’interdiction des mines antipersonnel et les armes à sous-munition. La Belgique avait d’ailleurs joué un rôle moteur en ce sens. Il faut espérer qu’un processus similaire puisse se constituer sur ce sujet."
78 États ont déjà plaidé pour une interdiction totale de ces armes, et une coalition de 170 ONG a lancé une campagne contre les robots tueurs. L’accord de gouvernement belge de septembre 2020 prévoit que "notre pays prendra l’initiative en vue d’arriver à un cadre réglementaire sur les systèmes des armes entièrement autonomes, en vue d’une interdiction internationale". Mais pour Stan Brabant, la Belgique qui a joué un rôle moteur par le passé "est aujourd’hui un peu à la traîne sur ces questions. Elle reste très attachée à la CCW et se cache derrière d’autres États comme la France et les Etats-Unis. Elle pourrait jouer un rôle plus proactif."
/image%2F0846185%2F20210531%2Fob_55418d_061916795193-web-tete.jpg)
Nous avons désormais affaire sur notre sol à des individus isolés, de plus en plus jeunes, inconnus des services de renseignement avant leur passage à l'acte et sans forcément de lien avec des...
Lutte contre le terrorisme : Des algorithmes pour le traitement automatisé des données de connexion - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210526%2Fob_ce88ee_09051e9af1-50176604-pleiadesneo-shangh.jpg)
À Shanghai, la Pearl de l'Orient (Oriental Pearl Radio & Television Tower) et le rond-point Mingshu. © Airbus DS 2021 Les premières images du premier des quatre satellites de la constellation ...
Les premières images de Pléiades Neo rivalisent avec celles de satellites militaires - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210526%2Fob_200389_iot.jpg)
De nombreux appareils connectés sont introduits dans l'entreprise par des employés ou des prestataires extérieurs en échappant au contrôle de la DSI et donc sans tenir compte de sa politique d...
Comment éviter d'être cambriolé par son système anti-cambriolage ? - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210526%2Fob_93b194_b9727146023z-1-20210525145102-000-grqi.jpg%3Fitok%3DlyuI1EkM1622012951)
Ai-je le droit d'installer des caméras devant chez moi pour prévenir un cambriolage ? À quelles conditions puis-je installer des caméras de surveillance dans ou autour de mon habitat ? Dois-je ...
Ai-je le droit d'installer des caméras devant chez moi pour prévenir un cambriolage ? - OOKAWA Corp. Raisonnements Explications Corrélations
/https%3A%2F%2Fi.ytimg.com%2Fvi%2Fh4Q6-5ebYXE%2Fhqdefault.jpg)
Ça va être inouï tout ce qu'on va découvrir Ulyx, un nouveau sous-marin autonome pour explorer les abysses ! Avec ULYX, 90% des fonds sous-marins sont désormais à portée de l'homme. BIJOU ...
L'exploration des grands fonds sous-marins par le Robot autonome français ULYX : topographie 3D - cartographie- prélevements ... - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210520%2Fob_1f812e_xrspace-manova.jpg)
Grandes entreprises technologiques et start-up se sont lancées dans une course pour cartographier le monde en trois dimensions. Leur objectif ? Créer un jumeau numérique qui servira de référen...
La grande course pour cartographier le monde en 3D : vers une carte 3D du monde pour 2030 - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210520%2Fob_338dc1_le-3dvarius-premier-violon-fabrique-pa.jpg)
En matière de propriété intellectuelle notamment, les entreprises ont beaucoup à perdre en matière d'impression 3D. Par Ronda Majure, VP Global Sales - Thomson Reuters, IP Solutions chez Thoms...
intellectuelle, viol de jumeau numérique, ..., - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210512%2Fob_590e78_starlink.png)
Tandis que la France s'enlise dans ses plans de couverture Haut-Débit et ses ambitions à éradiquer ses zones blanches, la High-Tech américaine débarque. Ingérence certainement mais sauvetage ...
STARLINK en France c'est parti ! Et si les zones blanches disparaissaient grace à Elon MUSK ? - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210418%2Fob_9ca85a_nvidia-ganverse-3d.jpg)
Après avoir présenté son monde virtuel en 3D, la cellule dédiée à l'intelligence artificielle chez Nvidia vient de lever le voile sur une technologie capable de créer des objets 3D à partir...
http://ookawa-corp.over-blog.com/2021/04/nvidia-transforme-vos-photos-en-objets-3d.html
Bientôt tout ? - OOKAWA Corp. Raisonnements Explications Corrélations
/image%2F0846185%2F20210418%2Fob_67cd52_realite-virtuelle-3d-occulus-ookawa-br.jpg)
OCULUS QUEST : IL RECRÉE SON APPARTEMENT À L'ÉCHELLE 1:1 DANS LA VR Un utilisateur d'Oculus Quest a reconstitué l'intégralité de son appartement à l'échelle 1:1 dans la réalité virtuelle....
Tout en 3D déjà à portée de vue avec les technologies disponibles ? - OOKAWA Corp. Raisonnements Explications Corrélations