Comment l'application TikTok échoue à protéger ses jeunes utilisateurs de la désinformation

Volodymyr Zelensky qui combat physiquement auprès du peuple ukrainien, l'élection américaine de 2020 volée à Donald Trump, des bains vaginaux permettant de vaincre l'endométriose… Aussi absurdes soient-elles, toutes ces "informations" ont un point en commun : elles sont fausses. Pourtant, sur le réseau social TikTok, elles ont été, ou sont encore, à portée de pouce de plus d'un milliard d'utilisateurs qui, en "scrollant" ou au détour d'une simple recherche, sont tombés sur ces vidéos.

Aujourd'hui, près de six adolescents sur dix "scrollent", autrement dit font défiler verticalement des contenus sur TikTok, selon une étude du think tank américain Pew Research Center* menée auprès de jeunes Américains. C'est d'ailleurs le principe de l'application de vidéos courtes, connue à l'origine pour mettre en scène les danses ou chants en play-back des tiktokeurs.

>> Comment l'application TikTok est devenue la plateforme la plus téléchargée au monde

Mais, forte de son succès, l'application d'origine chinoise, qui compte au moins 11 millions d'utilisateurs en France (en 2020, selon Bloomberg*), s'est aussi imposée comme un média. Avec quelques fausses notes. Ces dernières années, elle n'a pas échappé à la prolifération d'intox, comme le dénonce un rapport, publié en septembre, de NewsGuard, une entreprise américaine spécialisée dans le suivi de la désinformation en ligne. "On parle de vidéos qui ont été vues des millions de fois", déplore Chine Labbé, rédactrice en chef de NewGuard Europe. Un phénomène d'autant plus problématique que la plateforme est utilisée comme "un nouveau Google" par un jeune public, pour reprendre les termes utilisés par le Wall Street Journal, fin août*. 

Désinformation de guerre

La guerre en Ukraine illustre parfaitement cette dérive. Depuis le 24 février, les vidéos du conflit affluent sur l'application, à tel point que le magazine américain The New Yorker* parlait, dès le mois de mars, de "première guerre TikTok" de l'histoire. L'entreprise NewsGuard a tenté une expérience en suivant les contenus relatifs à cette guerre sur le réseau social. Avec de faux comptes, neufs donc vierges aux yeux de l'algorithme, dans différents pays d'Europe, six analystes ont essayé de naviguer sur TikTok. "En moins de 40 minutes, nous avons été confrontés à des vidéos relayant de fausses informations", déplore Chine Labbe. 

"On peut passer d'un discours de Vladimir Poutine traduit sans aucun contexte à un reportage super bien fait de France 2."

Chine Labbe, rédactrice en chef NewsGuard Europe

à franceinfo

A titre d'exemple, les vidéos de ce qu'on a appelé le "fantôme de Kiev", un pilote légendaire ukrainien qui aurait abattu six avions militaires russes, ont été diffusées auprès de millions d'utilisateurs sur TikTok, dès le début de l'invasion russe. Tout, dans ces vidéos, était faux. Les images provenaient en réalité d'un jeu vidéo très réaliste : Digital Combat Simulator. 

>> VRAI OU FAKE. Guerre en Ukraine : 20 photos et vidéos détournées qui ont circulé depuis le début du conflit

Dans le moteur de recherche dédié de l'application, sur des sujets d'actualité tels que la guerre en Ukraine ou les vaccins contre le Covid-19, 20% des vidéos issues des 20 premiers résultats de recherche contiennent des fausses informations, analyse NewsGuard.

Faux remèdes miracles

Ces derniers mois, TikTok est aussi devenu l'agora en ligne de nombreux influenceurs "santé", qui partagent avec leur communauté ce qu'ils présentent comme des remèdes miracles contre certaines maladies. "Ils ont une sorte d'aura qui leur donne une crédibilité auprès de jeunes qui n'ont pas forcément le recul pour pouvoir déceler ce qui est faux", déplore Antoine Daoust, cofondateur du site de fact-checking "Fact & Furious", créé au début de l'épidémie de Covid-19 pour repérer et déjouer la désinformation en ligne. 

En janvier 2022, l'influenceuse @yeshipolitoo partageait ainsi avec ses 250 000 abonnés un "remède" contre le Covid-19 à base de citron, d'ail, d'oignons et d'eau chaude. "Si vous avez le Covid-19, écoutez tous, j'ai un remède naturel pour vous", interpelle la tiktokeuse, avant de faire bouillir ses ingrédients. Une vidéo encore accessible à ce jour sur l'application et qui compte plus de 350 000 mentions "j'aime" pour 5 millions de vues.

D'autres contenus, au mieux loufoques, au pire dangereux, traitent d'enjeux de santé publique tels que l'endométriose ou l'infertilité. Ceci, afin de "capter l'attention des jeunes femmes", observe Cassandra de Berranger, collaboratrice chez "Fact & Furious", qui a effectué une veille sur TikTok autour de ces contenus. Dans des vidéos partagées auprès de millions d'utilisatrices de l'application ces derniers mois, il est notamment question de bains vaginaux. Le principe ? Faire infuser des plantes dans de l'eau bouillante puis s'accroupir au-dessus quelques minutes pour offrir un bain de vapeur à son vagin. Les objectifs annoncés ? Lutter contre l'endométriose, soulager les douleurs des règles ou encore améliorer la fertilité. Une technique empirique qui n'a évidemment rien de scientifique.

Codes promo et publicités mensongères

Derrière ce semblant d'entraide féminine se cache souvent un but publicitaire. Ainsi, nombre d'influenceuses partageant les bienfaits des bains vaginaux renvoient, à la fin de leurs clips, vers des codes promotionnels qui permettent à l'utilisatrice d'acheter des kits d'herbes dédiés. 

@springskin qui veut un petit code promo avant de commander? #spavaginal #spa #routine #plantemedicinale #naturalhealing #madeinfrance ♬ original sound - Playboiisoundss

Avec les risques sanitaires que cela induit. La gynécologue Nasrine Callet expliquait en 2021 dans le magazine Elle que les bains de vapeur vaginaux pouvaient engendrer des brûlures, des infections ou encore favoriser le développement de mycoses. Malgré les alertes, les bains vaginaux continuent à se vendre aujourd'hui à travers cette promotion assurée via TikTok. "De nombreuses jeunes femmes peuvent se voir proposer ce type de contenus sur leur fil parce que le sujet les intéresse, explique Cassandra de Berranger. Elles n'ont qu'à 'scroller' pour tomber dessus".

Le tunnel du "scroll"

A la différence d'autres plateformes comme Facebook ou Twitter, le principe même du "scroll", propre à TikTok, implique une consommation passive des contenus qu'on fait défiler et qui se lancent automatiquement. "L'utilisateur passe d'une vidéo à l'autre sans forcément analyser ou remettre en question la source de l'information qu'il vient de voir", illustre Tristan Mendès France, maître de conférence associé à l'université de Paris, spécialisé dans les cultures numériques.  

"L'un des problèmes de TikTok, c'est que les jeunes y sont comme dans une bulle. Ils ont peu de vis-à-vis et sont exposés à très peu de contradictoire."

Tristan Mendès France, maître de conférence associé à l'université de Paris

à franceinfo

"TikTok est en cela une plateforme assez captive, enchaîne Tristan Mendès France. Quand on entre dedans, on y entre à fond." A ce titre, l'organisme de contrôle parental Qustodio estime, dans une étude publiée en avril 2021* (PDF), que TikTok est non seulement l'application la plus populaire auprès des enfants de 4 à 15 ans, mais aussi celle sur laquelle ils passent le plus de temps : "75 minutes par jour" en moyenne, en 2020. 

Un algorithme incriminé

Selon les spécialistes interrogés par franceinfo, il faut sonder l'algorithme de la plateforme pour en comprendre les dérives. Les recherches sur TikTok peuvent être orientées, avec des suggestions problématiques dans son moteur. Exemple : "Quand un utilisateur tape le terme 'changement climatique', TikTok suggère de chercher 'le changement climatique démystifié' ou 'le changement climatique n'existe pas'", rapporte NewsGuard. 

Une modération insuffisante

Le constat est sans appel : "L'algorithme n'est pas en mesure de déceler ces fausses informations", assure Antoine Daoust. Dans le contexte des élections de mi-mandat aux Etats-Unis, l'ONG GlobalNews raconte, dans une enquête publiée fin octobre*, avoir soumis à plusieurs réseaux sociaux une dizaine de fausses publicités contenant des informations erronées sur l'heure et les modalités du vote. Résultat : TikTok a laissé passer 90% de ces publicités sur sa plateforme. 

Officiellement, l'entreprise, qui n'a pas répondu aux sollicitations de franceinfo, affiche pourtant une volonté de s'attaquer à la désinformation. Dans un communiqué publié en septembre, elle assure compter, dans le monde, "une douzaine de partenaires de vérification des faits"  qui examinent les contenus. TikTok a aussi déployé certains bandeaux, qui, sur des sujets d'actualité identifiés (comme le Covid-19 ci-dessus), renvoient l'utilisateur vers des sources vérifiées. Certains comptes et hashtags tendancieux sont également ponctuellement supprimés. 

Mais ces actions sont largement "insuffisantes", embraye Chine Labbe. Selon elle, il est "essentiel" d'exiger "un effort de transparence" de la part de TikTok vis-à-vis de son algorithme. "Tant qu'on ne saura pas clairement comment il fonctionne, il sera difficile de faire en sorte que l'expérience des utilisateurs soit sûre", affirme-t-elle. Un texte de loi européen destiné à inciter les plateformes numériques à lutter, entre autres, contre la désinformation, doit entrer en application dès 2024. Il prévoit des possibilités d'amendes pour les très grandes entreprises et très grands moteurs de recherche et les obligera au partage d'informations concernant leurs algorithmes. Bientôt la fin des secrets de TikTok ?

* Les liens suivis d'un astérisque renvoient vers des contenus en anglais.