Fraude à l’IA : il faut plus que jamais ne pas se fier aux apparences

Le phénomène est habituel : dès qu’une technologie émerge, les premiers à s’en emparer pour conduire leurs activités crapuleuses sont les criminels. L’intelligence artificielle (IA) ne fait pas exception. C’est déjà une réalité telle, que le FBI, la police fédérale aux Etats-Unis, a publié fin 2024 une note d’alerte pointant les risques d’escroquerie. Notamment pour dérober de l’argent aux entreprises mais également aux particuliers.

Prévenir pour éviter de guérir

Il ne s’agit pas tant de scènes fictives mais de fraudes qui ont d’ores et déjà été constatées par les agents fédéraux. L’intelligence artificielle est utilisée pour fabriquer des profils crédibles sur les réseaux sociaux. Les portraits sont créés de toutes pièces et les messages sont corrigés d’éventuelles fautes d’orthographe et sont déclinables en plusieurs langues. De quoi atteindre un panel toujours plus large de futures cibles.

Les textes gagnent en pertinence et inspirent d’autant plus confiance. Notamment quand il s’agit de proposer des placements en cryptomonnaies accompagnés de pseudo-témoignages de clients enthousiastes.

Cela fonctionne aussi pour les fraudes à la romance, les chantages aux fausses photos intimes ou la mise en scène de prétendues victimes de catastrophes naturelles.

Une version améliorée du SMS ou du mail désespéré signé d’un nom puisé par le pirate dans notre carnet d’adresses nous demandant de lui virer de l’argent sans tarder pour le dépanner.

Un mot de passe avec ses proches pour attester de la véracité du message

Le clonage de la voix est désormais accessible avec des résultats très proches de la réalité à partir des échantillons que constituent nos publications sur les réseaux sociaux. Il s’agit de miser sur l’émotion d’un message de détresse pour obtenir le paiement espéré.

Le recours à la vidéo générée par un algorithme peut servir à lever les derniers doutes d’un parent inquiet ou d’un salarié à qui un prétendu supérieur demande d’exécuter urgemment un ordre de virement. Ce mode opératoire est appelé à prospérer à tel point que les agents du FBI recommandent dès à présent à chacun d’entre nous d’instaurer un mot de passe ou une formulation secrète convenue à l’avance avec nos proches afin d’établir qu’il s’agit bien de la vraie personne.

Soit un moyen très humain pour déjouer la performance de la technologie mise entre de mauvaises mains. L’éternel jeu du chat et de la souris, même à l’heure de l’IA.