"Robots tueurs" dans l'armée : "La responsabilité humaine, la possibilité d'avoir la dernière main sur la machine, est absolument fondamentale"

L'intelligence artificielle est de plus en plus présente sur les champs de batailles, il est nécessaire de se prémunir contre l'utilisation de "robots tueurs" indiquent deux députés, Claude de Ganay député Les Républicains du Loiret, et Fabien Gouteffarde député LREM de l'Eure, qui présentent mercredi 22 juillet leur rapport sur les SALA, les systèmes d'armes létaux autonomes. Un rapport que franceinfo s'est procuré en avant-première.

L'éventuelle autonomie de décision des "robots tueurs"

Le vrai problème causé par ces "robots tueurs" est leur éventuelle autonomie de décision. Les robots, les drones, sont déjà déployés sur les champs de batailles mais les cibles sont définies par l'homme, et le tir est déclenché par l'homme. Dans leur rapport, les deux députés affirment qu'"en aucun cas la décision de tir ne pourrait être confiée à un système autonome". "Le chef militaire serait alors dans l'impossibilité d'évaluer la menace, et de mettre en balance sa connaissance du milieu et des règles d'engagement ainsi que la situation tactique d'ensemble", insistent-ils. "Un Terminator", l'expression revient plusieurs fois dans le rapport, serait une machine qui choisit seule sa cible, et qui choisit seule de l'engager.

La responsabilité humaine, la possibilité d'avoir la dernière main sur la machine, est absolument fondamentale.

Fabien Gouttefarde, député LREM de l'Eure et co-auteur du rapport

à franceinfo

"Opérationnellement il y a peu de chances" que ces "robots tueurs" existent prochainement, "même si technologiquement, on pourrait y arriver dans un temps relativement bref", explique Fabien Gouttefarde sur franceinfo. "Pour l'instant on travaille sur des briques d'autonomie, on progresse dans la reconnaissance, dans la désignation mais le tir et l'engagement du feu restent à la main de l'homme", souligne le député, qui ajoute que pour le moment, "on n'est pas toujours capable de faire le cheminement qu'a fait la machine et expliquer pourquoi elle a réussi à trouver tel résultat".

Pour Fabien Gouttefarde, "tant qu'on est dans cette boîte noire, on ne peut pas confier à la machine toute une série d'opérations, insiste le co-auteur du rapport notamment en matière de défense, où on a vraiment besoin de fiabilité, dans un domaine extrêmement critique qui peut conduire bien évidemment à la mort d'individus".

Pouvoir "reprendre la main sur une machine à tout moment"

Pour les rapporteurs il faut sortir des "fantasmes en tous genres" sur les SALA, cristallisés autour de l’image du "robot tueur", médiatique et symbolique de l’exclusion de l’homme du champ de bataille au profit de machines plus ou moins humanoïdes, plus ou moins autonomes, plus ou moins armées, "mais toujours dangereuses et susceptibles d’échapper au contrôle humain et de se retourner, in fine, contre ses concepteurs", car de toute façon "les forces ne souhaiteraient pas compter dans leur rang ni Rambo, soldat agissant de manière totalement indépendante, ni Terminator, une machine pleinement autonome".

Il faut donc que le chef militaire puisse "reprendre la main sur une machine à tout moment, afin de lui donner de nouveaux ordres, d'annuler des ordres précédents ou encore de fixer de nouvelles règles, il y a là une règle fondamentale de l'engagement militaire", écrivent les rapporteurs.

La France doit pousser à une règlementation internationale très contraignante selon les rapporteurs

Les rapporteurs estiment que la France doit pousser à une règlementation internationale très contraignante sur le sujet. Dans le même temps, les armées et industriels français doivent aussi poursuivre leurs recherches sur l'autonomie des systèmes, afin de ne pas être déclassée, au niveau technologique, par rapport à d'autres puissances militaires.

Fabien Gouttefarde estime sur franceinfo qu'il existe "un véritable risque de décrochage stratégique pour l'Europe et pour la France si nous ne finançons pas des projets de recherche." Mais ces projets doivent être faits "avec nos valeurs, avec notre encadrement juridique", prévient le co-auteur du rapport, qui insiste sur "la continuité des discussions dans le cadre de l'ONU".