L'extrême droite a utilisé l'intelligence artificielle pour faire passer ses messages pendant la campagne

L'extrême droite a eu recours à l'intelligence artificielle pour la campagne des européennes et des législatives. C'est ce que démontre un rapport publié jeudi 4 juillet par l'ONG européenne AI Forensics.

Ces chercheurs indépendants ont analysé les contenus publiés en ligne par 38 partis et coalitions en France : textes, images, vidéos… Et leur constat, c'est que l'IA, bien qu'encore peu utilisée par les candidats dans leur ensemble, est principalement exploitée par l'extrême droite.

Une cinquantaine d'images générées par l'IA

Entre le 1^er mai et le 28 juin dernier, AI Forensics a repéré 51 images générées par l'intelligence artificielle et partagées sur Facebook, Instagram et X. 33 ont été publiées par Reconquête, 7 par le Rassemblement national et 9 par Les Patriotes, le parti de Florian Philippot. L'ONG a également identifié une image pour L'Alliance Rurale, de Jean Lassalle, et une pour l'Union des Démocrates et indépendants, fondée par Jean-Louis Borloo.

We found:
51 instances of AI-generated imagery on Facebook, Instagram, and X by Rassemblement National, Reconquête, and Les Patriotes.

The images dramatized party-specific narratives, especially anti-EU & anti-immigrant messages, creating emotionally charged content.

— AI Forensics (@aiforensics_org) July 4, 2024

Mais ce qu'expliquent les chercheurs, c'est que chez le RN, Reconquête et Les Patriotes, l'utilisation de l'intelligence artificielle est une stratégie de campagne. Le message de ces images générées par l'IA est clair : message anti-immigration et anti-Europe.

Sur les visuels publiés par le Rassemblement national, on voit un bateau qui accoste sur une plage et d'où débarquent des hordes de réfugiés. Chez Reconquête, c'est une masse d'hommes à sac à dos qui marchent sur une route de campagne. Cela ressemble à de vraies photos dont on aurait saturé les couleurs, mais à y regarder de plus près, on s'aperçoit qu'il manque parfois une main sur une silhouette.

🔴 #VivementLe9Juin pour mettre fin au chaos migratoire organisé par cette Union européenne laxiste.

🚧 Avec Jordan Bardella : des frontières, VITE !

➡️ https://t.co/gB1dZOuw0Q#Levenement pic.twitter.com/A4x6f95HjZ

— L'Europe Sans Eux 🇫🇷 (@LEuropeSansEux) May 23, 2024

Pas de transparence sur la méthode

Des contenus sensationnalistes accompagnés de messages sans équivoque : "Stop à l'immigration massive" ou "Stop à la submersion migratoire". Au centre de ces fausses photos apparaissent les visages - générés par l'IA - d'Emmanuel Macron et d'Ursula Von Der Leyen, le tout flanqué du slogan "L'Europe sans Eux".

Un autre montage, partagé par le Rassemblement national, place la Commission européenne au centre d'une ville où règne le chaos : ciel sombre, nuages de fumée et rues jonchées de détritus. Des images qui, manifestement, surfent sur les peurs et jouent sur les émotions.

L'impact de ces images sur les votes reste difficile à mesurer. Mais les chercheurs déplorent que les personnes voyant passer ces contenus ne semblent pas réaliser qu'ils ont été générés par l'IA. L'ONG note d'ailleurs que ni Reconquête, ni le RN, ni les Patriotes, n'ont été transparents sur la méthode utilisée. Et cela va à l'encontre du code de conduite signé, bien avant les législatives, par tous les partis, dans le cadre de la campagne des européennes. Ils s'étaient tous engagés à étiqueter les textes et images produits avec l'IA.