: Reportage "On va beaucoup plus vite" : comment les gendarmes utilisent l'intelligence artificielle pour contrer les criminels

Cyberattaques, deepfake, escroqueries… Les criminels profitent des nouvelles possibilités offertes par l'intelligence artificielle pour commettre des crimes d'un nouveau genre. Face à cette menace, l'État tente de trouver la parade. Au cœur du quartier d'affaires de La Défense à Puteaux, dans une tour de verre, rien n'indique le campus cyber de la gendarmerie. Dans une ambiance start-up, les gendarmes et les experts du ministère de l'Intérieur travaillent dans des open spaces sur des logiciels de dernière génération. C'est ici que la gendarmerie élabore sa stratégie sur l'intelligence artificielle (IA) et organise sa riposte face aux criminels.

Cette stratégie "repose sur un certain nombre de piliers : la formation, l'acculturation jusqu'à la thèse de doctorat", explique le général Patrick Perrot, coordonnateur pour l'intelligence artificielle à la gendarmerie. Ce général de gendarmerie, qui dirige le campus, est ingénieur de formation. Il travaille aux côtés de gendarmes spécialisés et de scientifiques recrutés par le ministère de l'Intérieur. Une trentaine de personnes développent des applications avec un seul but : ne pas laisser aux criminels une longueur d'avance en matière d'intelligence artificielle.

Des vidéos d'arnaques réalisées grâce à l'IA

Parce que les faits sont là : déjà des crimes et délits sont commis grâce à l'IA. Ces criminels ne sont pas que des "geeks" mais des "délinquants d'opportunité" qui profitent des possibilités offertes par l'intelligence artificielle. Ces personnes "n'appartiennent pas à la criminalité organisée et ont accès à des outils [d'IA] pour commettre des méfaits. La criminalité en la matière n'a pas explosé mais on s'attend à ce que ça arrive", analyse Patrick Perrot. Et de prendre l'exemple du Japon où 26 millions d'euros se sont envolés via un faux ordre de virement. Le procédé : des vidéos ont été envoyées aux équipes du service de comptabilité d'une grosse société. Dans ces vidéos, des responsables de la société en question que les comptables connaissaient. Ces derniers ont demandé de faire des versements, sauf qu'il s'agissait d'un deepfake : une vidéo réalisée grâce à des trucages.

C'est pourquoi les enquêteurs "ont le devoir d'anticiper", indique le général Perrot, grâce donc à "des outils sur mesure". Ce jour-là, les militaires développent un logiciel capable de vieillir à la perfection les criminels recherchés. Ici à l'écran, sur dix clichés différents, le visage vieilli progressivement d'un homme bien connu des services de police, recherché pour avoir tué en 2011 à Nantes cinq de ses proches. "Vous connaissez certainement Xavier Dupont de Ligonnès, qu'on a vieilli de quelques années, puisque ça fait quelques années qu'il a disparu. Les images sont statistiquement probables, on a quelque chose qui est très vraisemblable, décrit le gendarme. Ces méthodes de vieillissement de personnes ne sont pas nouvelles mais elles sont beaucoup plus performantes en utilisant ces nouvelles méthodes d'IA génératives."

Dans ce cyber campus où se mêlent enquêtes et recherche, les gendarmes cherchent à répondre à des questions qui jusque-là relevaient de la science-fiction : grâce à l'IA, pourra-t-on prédire des crimes ? Pourra-t-on détecter le mensonge lors d'une garde à vue ? "À la vitesse où va l'intelligence artificielle, on peut tout imaginer", sourit Patrick Perrot. "Aujourd'hui on ne peut pas le faire, temporise-t-il. Je crois que sur le mensonge on est sur une telle pluralité d'émotions, de manipulation intellectuelle que ce ne sera pas forcément facile à détecter".

Une charte éthique élaborée

En revanche, il est possible aujourd'hui, selon ce général, d'infiltrer des groupes criminels grâce à l'intelligence artificielle. "On a des exemples d'infiltration dans le domaine cyber, de messageries cryptées qu'a réalisé la gendarmerie et ce sont des beaux succès parce qu'on se rend compte notamment dans le champ cyber que la criminalité est largement internationale", décrypte le gendarme. L'IA intéresse les enquêteurs souvent confrontés à des heures et des heures d'écoutes téléphoniques. "C'est aller à l'essentiel. Si on veut savoir à quel moment on parle précisément de stupéfiants - je vous rassure les criminels n'utilisent pas forcément le terme de stupéfiants mais ils ont des mots-clés -,on sera capable de détecter ces mots-clés par l'intelligence artificielle. Et ça, pour nous c'est un vrai plus parce qu'on va beaucoup plus vite", analyse Patrick Perrot.

Et là intervient une question essentielle : jusqu'où les forces de l'ordre peuvent-elles utiliser l'intelligence artificielle ? Une charte éthique a été élaborée, répond la gendarmerie. Une charte écrite par une juriste présente sur ce campus et qui met l'humain au cœur de l'IA, selon Patrick Perrot. "Quand on met un système d'intelligence artificielle, ce qu'il faut comprendre c'est qu'il ne va pas fonctionner à 100% de son potentiel. Donc il faut qu'on ait l'humain pour le faire monter en performances, et une fois que c'est le cas, il faut aussi s'assurer qu'il ne diverge pas", prévient-il.

"On a l'exemple du chabot de Microsoft il y a quelques années, qui en quelques heures est devenue antisémite et raciste parce qu'il a complètement dérivé par rapport aux données qu'il a ingurgitées. On n'a pas le droit à ça dans le domaine de la sécurité intérieure."

Patrick Perrot, coordonnateur pour l'intelligence artificielle à la gendarmerie

à franceinfo

Aujourd'hui le cyber campus de la gendarmerie à La Défense compte une trentaine de personnes, un effectif encore loin de ceux des géants du numérique, les Gafas, à la pointe de l'IA. C'est pourquoi ces logiciels utilisés par les gendarmes sont créés en partenariat avec des universités, avec des think tanks mais aussi en lien avec des entreprises privées. Les données, assure-t-on à la gendarmerie, restent entre les mains de l'État.