Faut-il se méfier de Monica, le site qui utilise l'intelligence artificielle pour se moquer de ses utilisateurs ?

Qui a dit que les intelligences artificielles (IA) étaient nulles en humour ? Depuis quelques jours, plusieurs internautes postent avec entrain sur les réseaux sociaux des textes qui les ridiculisent.

Mais pourquoi ce soudain élan de masochisme numérique ? Car les railleries ne proviennent pas d'un cerveau humain, mais d'un logiciel. Elles sont générées par le site Monica.im, qui donne accès à une IA générative à la manière de ChatGPT – en beaucoup plus moqueur – pour se faire "roaster" (du verbe anglais "roast", qu'on peut traduire par "chambrer", "mettre en boîte") avec une verve et une précision parfois surprenantes. Néanmoins, plusieurs éléments incitent à la prudence.

Une IA qui cache... d'autres IA

Pour se faire "roaster", il suffit de renseigner son nom d'utilisateur sur Instagram, X, LinkedIn ou Threads, et le site affiche en quelques secondes un résumé acerbe de votre présence en ligne. Critique de votre bio et de vos photos, de vos marottes, de votre tendance à la publication compulsive ou au contraire de votre statut de fantôme du web... Il faut parfois avoir l'ego bien accroché.

Comment fonctionne ce programme ? Le site ne donne pas d'indications précises. Le "maître du roast" repose probablement, au moins en partie, sur une IA conçue par une autre entreprise, comme GPT-4-o d'OpenAI, à laquelle le site demande d'analyser le profil demandé et de produire un texte sur le ton approprié.

La moquerie n'est en fait qu'une des nombreuses fonctionnalités que promet l'entreprise, qui propose aussi une extension Chrome et une application mobile. Elles permettent notamment d'avoir accès à tout un tas d'IA conçues par d'autres entreprises : plusieurs versions des générateurs de texte ChatGPT (par OpenAI), mais aussi Claude (Anthropic), Gemini (Google) ou Llama (Meta)... Les utilisateurs gratuits de Monica ne peuvent y accéder qu'un nombre limité de fois par jour.

Les concepteurs de Monica prétendent également proposer un moteur de recherche dans lequel on a introduit de l'IA générative. Mais celui-ci est victime des mêmes erreurs que celles qui avaient fait polémique quand Google a introduit ses "AI Overviews" : la possibilité de raconter n'importe quoi avec une confiance aveugle, comme quand il assure que "les pizzas qui contiennent de la colle sont considérées comme un met raffiné en Italie, la colle étant un ingrédient commun dans les restaurants locaux". Des affirmations invraisemblables en réalité tirées de pages web humoristiques ou ironiques.

Sont aussi proposés le résumé de documents PDF ou de vidéos YouTube et certaines "fonctions" beaucoup moins sérieuses comme un calculateur de compatibilité entre deux profils, un animal totem, un test de personnalité ou un horoscope. Dans tout cela, difficile de savoir ce qui résulte vraiment des concepteurs de Monica et ce qui est produit par ces autres IA accessibles par le biais d'autres sites. Contactée, l'entreprise à l'origine du site n'a pas répondu à franceinfo.

Une origine floue et des questions

Qui se cache derrière cette application ? Là aussi, peu d'informations sont disponibles. Le site désigne l'entreprise "Butterfly Effect Private Limited", mais celle-ci n'a quasiment aucune existence publique sur internet, hormis des registres des entreprises à Singapour qui listent une entreprise du même nom établie dans la cité-Etat en août 2023. Le nom de domaine du site web se termine en .im, ce qui correspond à l'île de Man – petit archipel dans la mer d'Irlande –, un territoire qui ne rend publique aucune information sur les propriétaires de ses sites. Les serveurs et bases de données de l'entreprise sont quant à eux localisés aux Etats-Unis, d'après ses conditions d'utilisation.

Quid des données de ses utilisateurs ? Dans sa politique de confidentialité, Monica assure "ne pas collecter d'information sur les sites que vous visitez ou les contenus avec lesquels vous interagissez".

Le site et l'application insistent aussi lourdement pour vous faire souscrire un essai gratuit à une formule enrichie qui devient payante au bout de trois jours. Butterfly Effect assure qu'il est possible de le résilier, mais certains avis d'utilisateurs évoquent des facturations non justifiées et affirment qu'il est difficile d'obtenir une réponse satisfaisante de l'entreprise.