Contre les arnaques téléphoniques, un opérateur britannique crée une "grand-mère" générée par IA pour faire perdre leur temps aux escrocs

Quel est le "pire cauchemar" des arnaqueurs qui essaient de vous soutirer de l'argent par téléphone en se faisant passer pour votre banque, un support technique, un livreur ou autre ? Peut-être une grand-mère qui aime un peu trop faire la conversation !

C'est l'idée de l'opérateur de téléphonique britannique O2, qui a dévoilé jeudi 14 novembre un programme baptisé "Daisy" : une intelligence artificielle (IA) générative conçue pour imiter une grand-mère bavarde et garder les escrocs au bout du fil le plus longtemps possible.

Dans une vidéo (manifestement illustrée grâce à une autre IA générative), l'opérateur donne des exemples choisis d'utilisation de Daisy, dans lesquels le programme à la voix lente et assez monocorde fait tourner ses interlocuteurs en bourrique. Daisy prétend ne pas comprendre leurs indications, les fait répéter, explique vouloir "juste un peu de conversation"...

Et "pendant qu'ils sont occupés à me parler, ils ne peuvent pas vous arnaquer", explique le programme. L'opérateur affirme dans son communiqué que Daisy a déjà "gardé de nombreux arnaqueurs au téléphone pendant 40 minutes".

Les arroseurs arrosés

Comment les arnaqueurs sont-ils identifiés et redirigés vers Daisy ? Contacté par franceinfo, O2 précise avoir travaillé avec des professionnels qui piègent eux-mêmes les arnaqueurs. L'opérateur explique avoir utilisé "plusieurs tactiques dont le 'number seeding'" : laisser délibérément le numéro de Daisy être inscrit dans les listes de numéros utilisées par les arnaqueurs ("mugs lists"), pour que ceux-ci tentent de l'appeler... et se retrouvent pris à leur propre piège.

Comment fonctionne l'IA ? L'opérateur affirme que "Daisy" "combine plusieurs modèles d'IA qui travaillent ensemble pour écouter l'appelant et transcrire sa voix en texte. Les réponses appropriées sont ensuite générées à l'aide d'un grand modèle de langage", un programme comme ChatGPT, "doté d'une couche de 'personnalité'" – vraisemblablement grâce à une consigne écrite (un "prompt") qui lui demande d'adopter la perspective d'une grand-mère portée sur la conversation.

Les réponses écrites sont alors "renvoyées à un modèle de synthèse vocale d'IA personnalisé pour générer une réponse vocale", et ce "en temps réel", explique O2. L'IA n'est cependant pas la panacée : pour limiter au maximum les risques d'arnaques, l'opérateur encourage à transférer les appels et messages suspects à un numéro local, et à appeler directement vos proches si un numéro inconnu se fait passer pour eux.