: Enquête franceinfo Images générées par IA, pubs en masse, arnaques… Les mauvaises recettes des pages Facebook de cuisine

Fondant pomme-mascarpone, filet mignon au cidre, cake courgette-thon, tiramisu… Ces derniers temps, difficile d'ouvrir Facebook sans avoir l'eau à la bouche. Surtout si vous suivez des pages ou groupes de cuisine tels que "Cuisine Facile pour Tous" (488 000 abonnés), "Cuisine avec maman" (100 000) ou "Laurent Mariotte FANS" (171 000), qui noient leurs membres sous des images léchées toutes plus appétissantes les unes que les autres.

Des réussites qui provoquent souvent les félicitations des internautes dans l'espace dédié aux commentaires. Mais à bien y regarder, quelque chose cloche. Prenez, par exemple, ce cake aux courgettes : "Le tas d'herbes au-dessus est assez peu naturel, la forme des [aromates] par endroits me semble aléatoire...", analyse pour franceinfo Mathilde Boclet, photographe culinaire professionnelle. Et que dire de cette pizza au chorizo, qui ressemble un peu trop parfaitement à un crâne ? Ou de cette recette de sauté de bœuf, qui liste du porc parmi ses ingrédients ? Drôle d'erreur, surtout avec une photo aussi professionnelle.

L'explication de ces incohérences est simple : ces plats n'ont très probablement jamais existé et leurs images ont été créées grâce à une intelligence artificielle (IA) générative, un logiciel semblable à ChatGPT, mais conçu pour générer des images ultraréalistes en quelques secondes à partir d'une simple consigne écrite. Des visuels alléchants qui ont permis à de nombreux groupes Facebook de cuisine de se hisser parmi les plus populaires de leur catégorie, à l'insu de nombreux membres qui ne peuvent (ou ne veulent) pas distinguer le vrai du faux. Ce qui les expose à des arnaques.

Des "robots de cuisine" pas comme les autres

Pénétrer au hasard dans un de ces innombrables groupes et pages Facebook spécialisés en cuisine revient à avoir de grandes chances d'être submergé par ces deepfakes. Et il ne s'agit pas d'un accident, car nombre de ces groupes sont administrés par des profils eux aussi factices. "La Cuisine Geniale" (7 600 abonnés), "Recettes Gourmandes" (23 000), "Cuisine Savoureuse" (31 000), "Recettes Faciles" (26 000)… Ces comptes populaires arborent souvent une photo de profil factice, générée par IA, tout comme leur bannière.

Des signes ne trompent pas l'œil averti : observez attentivement la bannière du groupe "Recettes Gourmandes", et vous repérerez probablement les grains étranges des tomates. Ou ce charabia sur ce qui ressemble à une bouteille d'huile – car de nombreuses IA génératives sont pour l'heure incapables de produire des textes cohérents.

La plupart de ces cuisiniers fictifs affichent une biographie remplie d'entrain, parfois même accompagnée d'adresses ou de numéros de téléphone. Mais tout est fantaisiste. Exemple avec la page "Ma cuisine facile" (18 000 abonnés), qui se dit basée dans une adresse parisienne… en réalité occupée par un restaurant éthiopien.

Tous les administrateurs du groupe "Cuisine Géniale" (57 000 membres) sont de faux comptes comme celui-là. Certaines pages se font aussi passer pour des admirateurs de chefs cuisiniers très médiatiques, comme Laurent Mariotte, Philippe Etchebest ou Cyril Lignac.

Des images qui piègent les personnes âgées (mais pas seulement)

Si certaines images créées par IA se reconnaissent facilement par leur côté extravagant, de nombreux utilisateurs tombent malgré tout dans le panneau. "C'est souvent le cas des personnes âgées, qui connaissent mal internet, ou de gens qui n'ont pas vu beaucoup d'images créées par IA et qui ne soupçonnent même pas à quel point elles peuvent être réalistes", explique à franceinfo Théodore, qui recense sur son compte X ces créations invraisemblables.

Certaines images artificielles peuvent en effet être si réalistes qu'elles deviennent beaucoup plus difficiles à repérer, tant elles ressemblent à des clichés de photographes professionnels. Et il n'existe aucun détecteur d'IA fiable.

Quelques techniques existent pourtant : "Observer si la lumière et les ombres sont cohérentes, si certaines formes ne sont pas illogiques ou tordues, ou si elles ne sont pas trop colorées ou saturées", détaille Mathilde Boclet à franceinfo. "Une photo professionnelle humaine cherchera aussi souvent à capturer l'imperfection naturelle du plat : une miette de pain, une petite coulure de sauce."

"Les images IA peuvent paraître 'trop parfaites', voire stériles, car elles sont générées pour être esthétiquement irréprochables."

Mathilde Boclet, photographe culinaire

à franceinfo

Certaines images mentionnent parfois leur origine artificielle… en tout petit, avec un texte "Notice sur l'IA" ajouté par Facebook. Mais l'écrasante majorité des images passe entre les mailles du filet.

Ce phénomène n'est pas spécifique aux groupes de cuisine, ni à la France. Groupes autour de la décoration, de la religion, d'"astuces de grand-mère"... Partout, la "bouillie" (slop en anglais) générée par l'IA envahit Facebook.

"Ce qui revient souvent, ce sont les images avec des animaux mignons, des soldats, la figure de Jésus, des enfants pauvres… Le but est de susciter la compassion des internautes", explique Théodore. D'où la présence fréquente de textes du type "Personne ne réagit à mes recettes", "C'est mon anniversaire" ou "Personne ne me dira bonjour car je ne suis pas joli".

Les loups rôdent dans la bergerie

Mais finalement, où est le mal dans ces pratiques ? Certes, votre plat ne ressemblera sans doute pas à la vision de l'IA, mais les photos ultratravaillées des sites de cuisine "historiques" ne sont pas beaucoup plus réalisables par un cuisinier du dimanche. Et même si ça n'est pas une vraie photo, ça reste joli, non ?

Ces arguments pourraient être valables si de nombreux arnaqueurs ne rôdaient pas sur ces pages à la recherche de proies faciles. Dans les commentaires de ces publications se trouvent parfois des messages de "brouteurs", des escrocs qui tentent de se faire passer pour quelqu'un d'autre pour soutirer de l'argent à leurs victimes.

Pour en avoir la preuve, il suffit de se rendre sur la page "Cuisine Facile pour Tous", qui compte 488 000 abonnés et publie principalement des images générées par IA. Si vous commentez une publication, il y a des chances pour que vous receviez en réponse un paragraphe très peu naturel de comptes qui essaient d'engager la conversation en privé, comme le font souvent ces bonimenteurs.

Sur le groupe "Philippe Etchebest Fans" (58 000 membres), on retrouve aussi un ou plusieurs de ces "brouteurs" qui promeuvent des solutions miracles pour trouver l'amour ou la fortune. S'il est difficile de connaître le nombre de leurs victimes, les groupes Facebook de cuisine peuvent représenter un moyen pour les arnaqueurs d'identifier des proies crédules.

Des machines à revenus publicitaires pour leurs créateurs...

Quel est l'intérêt de ces pages pour leurs créateurs humains qui masquent leur identité ? Qui consacrerait du temps et des ressources à publier ces images sans essayer d'en tirer de l'argent ou une popularité personnelle ?

Il y a en fait bien de l'argent en jeu – mais via la publicité. De nombreux comptes artificiels redirigent vers des sites de recettes bardés de publicités qui récoltent vos données personnelles (comme, par ailleurs, beaucoup d'autres sites "légitimes"). Chaque internaute qui s'y rend rapporte un peu plus d'argent à leurs administrateurs, même si rien de ce qui a attiré l'utilisateur n'est réel.

Car même les textes des recettes portent parfois les marques incontestables d'un texte écrit par une IA. Comme dans l'extrait tiré de cette page, qui débute par "Bien sûr ! Voici un guide complet pour une recette de **potée de légumes**, avec toutes les parties que vous avez demandées". Typiquement le genre de texte que ChatGPT écrit au début de sa réponse.

Plus les publications de ces comptes artificiels sont vues et aimées ou commentées sur Facebook, plus il y a de chances que des utilisateurs atterrissent sur leurs sites. D'où l'intérêt de publier des images aussi attrayantes que possible, et d'inciter les internautes à interagir.

Un business vieux comme les réseaux sociaux, donc, mais avec de nouveaux moyens. A qui profite celui-ci ? En consultant les données de Facebook, franceinfo a pu constater qu'une grande partie des pages francophones de cuisine envahies d'IA repérées étaient gérées depuis le Maroc. C'est le cas de "Cuisine avec Sandrine" (18 000 abonnés), "Cuisine Avec Maman" (88 000), ou encore "Saveurs et saisons" (13 000).

Dans de nombreux groupes, les administrateurs sont soit des pages artificielles dirigées depuis le Maroc, soit de véritables personnes localisées dans le pays. Certains des sites bardés de publicités évoqués plus haut renvoient par ailleurs vers un numéro avec un indicatif marocain. Plusieurs pages semblent en outre gérées par des personnes proches d'entreprises de création de sites web et de services d'optimisation, expertes pour faire grimper la fréquentation des sites en les propulsant en haut des résultats Google, rapportant ainsi de l'argent grâce aux publicités.

S'agit-il juste d'intermédiaires, ou des véritables propriétaires des pages ? Franceinfo a tenté de contacter sept administrateurs de différents groupes Facebook de cuisine publiant des images artificielles, cumulant entre eux au moins 600 000 abonnés. Aucun n'a donné suite.

… et un vivier de nouveaux membres pour des groupes

Enfin, ces groupes servent aussi de vivier de recrutement pour d'autres individus, eux aussi intéressés par l'argent. Dans les commentaires, de faux comptes postent régulièrement des liens vers des groupes Facebook privés, censés proposer des conseils pour réduire ses dépenses alimentaires et l'impact de l'inflation. Ces groupes comptent de quelques milliers à plusieurs dizaines de milliers de membres. La plupart servent en fait à promouvoir un système de cartes-cadeaux, qui a attiré l'attention de la mission interministérielle contre les dérives sectaires : la "coopérative d'achat" Emrys.

Le principe est simple, du moins en apparence : au lieu de faire vos courses par cartes ou en espèces, les membres de ce système recommandent d'utiliser des cartes-cadeaux d'un montant équivalent achetées au préalable à la "coopérative", et utilisables dans des magasins partenaires. En achetant ces cartes, vous gagnez des points, que vous pouvez petit à petit transformer en "parts", puis en euros. Or, Emrys propose une solution bien plus rapide pour gagner des points : inciter d'autres personnes à intégrer la coopérative. Plus d'autres clients intègrent la "coopérative" sous votre parrainage et effectuent des achats, plus vous touchez de commissions – si vous avez au préalable payé un abonnement annuel.

Ce procédé, légal, est connu sous le nom de "marketing multiniveau". Mais ce concept peut parfois prendre des formes interdites, comme la fameuse pyramide de Ponzi, qui désigne une méthode dans laquelle le système doit continuellement recruter de nouveaux membres pour payer les membres actuels, au risque de s'effondrer lorsque le robinet de nouveaux entrants se tarit. Emrys se défend des accusations qui sont parfois portées contre elle : "La coopérative a mis en place des règles qui permettent de récompenser les membres à hauteur de leur engagement, et non en fonction de leur ancienneté ou du nombre de personnes en dessous d’eux", assurait son patron, William Rivière, au Figaro en janvier 2024.

Pensiez-vous plonger aussi profond en laissant un "J'aime" sur une photo de fondant au chocolat ? Sans doute pas. Mais comme le veut l'adage, "si c'est gratuit, c'est que c'est vous le produit". Et avec le développement des IA, ceux qui se battent pour attirer votre attention disposent d'une nouvelle arme de choix.