Le vrai ou faux junior répond aux questions sur les algorithmes de recommandation

Est-ce vrai que les algorithmes choisissent ce que nous regardons en fonction de ce qu'on aime ? Est-ce que les algorithmes peuvent créer une dépendance à une application ? Est-ce vrai que les algorithmes poussent les gens à regarder des fausses informations ? Les élèves des collèges André Derain, dans les Yvelines et ceux de l'Eryeux, en Ardèche, nous interrogent. Pour leur répondre, Arthur Grimonpont, ingénieur et responsable des questions d'intelligence artificielle chez Reporter Sans Frontière et auteur d'Algocratie, vivre à l'heure des algorithmes, aux éditions, Actes Sud. 

Les algorithmes ne nous montrent pas seulement ce que nous aimons

Les algorithmes de recommandation, ce sont des programmes, des machines, qui sélectionnent ce qui, à un instant donné, a le plus de chance de retenir notre attention parmi les milliards de contenus qui existent sur Internet et sur les réseaux sociaux. Tous les réseaux sociaux en utilisent avec pour objectif de capter le plus possible l'attention des milliards d'utilisateurs pour la convertir en revenus publicitaires.

Camille nous demande s'il est vrai "que les algorithmes choisissent souvent des publications en fonction de ce que nous aimons et de ce que nous regardons".

C'est "partiellement vrai", lui répond Arthur Grimonpont, "puisqu’effectivement, ce que vous aimez a des chances de retenir votre attention, mais il y a aussi beaucoup de choses que vous n'aimez pas et qui peuvent retenir votre attention et pour un algorithme, c'est indifférent si vous n'aimez pas, tant que ça attire votre attention." Pour illustrer cela, Arthur Grimonpont prend cet exemple, "quand vous êtes en voiture et que vous passez à côté d'un accident, votre attention va être presque irrésistiblement attirée par l'accident et vous allez le regarder et de ce type de comportement, un algorithme de recommandation comprendrait que vous adorez regarder les accidents de la route et vous en recommanderait un nouveau tous les kilomètres." Et c'est en partie pour ça qu'on trouve des choses très choquantes, violentes sur les réseaux sociaux. 

Enfin pour déterminer ce qu'ils vont vous proposer, les algorithmes analysent ce que vous regardez, du temps que vous passez sur une vidéo, ou encore si vous likez, commentez ou partagez certains contenus.

La plupart des contenus qu'on regarde sur les réseaux sociaux, viennent des recommandations des algorithmes

Camille se demande s'il est vrai "que parfois les algorithmes peuvent montrer des vidéos populaires pour encourager davantage de vues".

"Dans la grande majorité des cas, c'est plutôt l'inverse qui se produit, les vidéos qui deviennent populaires le sont parce que les algorithmes les recommandent aux gens", explique Arthur Grimonpont qui a un exemple concret qui illustre cela. "Sur YouTube, si vous mettez bout à bout tout le temps passé par les humains sur YouTube tous les jours, il y a 120 000 ans de vidéos qui sont regardées tous les jours et sur ce temps, les trois quarts sont le fruit d'une recommandation de l'algorithme" explique Arthur Grimonpont. Il précise que "cela signifie que c'est bien l'algorithme qui choisit ce que chacun d'entre nous regarde et si on va sur Tiktok ou Instagram, là, c'est presque 100 % des contenus que l'on regarde qui ont été sélectionnés par un algorithme." 

Oui, les algorithmes poussent à la surconsommation et donc potentiellement à la dépendance

Sacha se demande s'il est vrai qu'un algorithme peut pousser à la surconsommation et Eythan s'interroge sur les algorithmes et leur proportion à créer "une dépendance à une application".

Arthur Grimonpont confirme que les algorithmes poussent bien à la surconsommation, car il y a un but commercial derrière, avec des recettes publicitaires et des études montrent bien qu'une consommation excessive des réseaux sociaux peut amener à de l'addiction, causée en partie par les algorithmes. Il nous explique qu'il ne faut pas oublier l'intérêt pour ces plateformes de vous garder le plus longtemps possible, au détriment même de notre santé, comme l'atteste cette citation du patron de Netflix, 
Reed Hasting devant ses actionnaires :"Nous sommes en concurrence avec le sommeil et nous sommes en train de gagner", ce qui veut dire, explique Arthur Grimonpont, "que même un besoin physiologique de base, le sommeil sans lequel on est sûr d'être en mauvaise santé, est perçu comme un obstacle dans la poursuite du modèle économique de ces plateformes."

Les fausses informations rendues populaires grâce aux algorithmes de recommandation

Axel se demande s'il est vrai "que les algorithmes influenceraient les gens à regarder de fausses informations."

Arthur Grimonpont explique qu'il y a "plein d'études qui montrent que c'est le cas, non pas parce qu'il y a des ingénieurs malveillants à nouveau qui auraient décidé de recommander largement les fausses informations, mais tout simplement parce que tout ce qui est faux étonne et ce qui étonne retient notre attention." Le responsable des questions d'intelligence artificielle chez Reporter Sans Frontière cite "une étude de chercheurs du MIT qui, en 2019, a montré que sur un sujet exactement identique, une information fausse, un tweet contenant une information fausse se propage en moyenne six fois plus vite qu'un tweet ne contenant pas d'informations fausses."

Les algorithmes de recommandations utilisent vos données personnelles

Eythan demande s'il est vrai "que les algorithmes savent des choses personnelles sur les usagers et usagères du Net."

"Oui", lui répond Arthur Grimonpont, "car c'est le modèle de ces plateformes qui exige d'elle de vous connaître, et même quand vous avez l'impression de ne leur donner aucune information personnelle, elle vous catégorise très finement en fonction de vos centres d'intérêt et par ce qu'on appelle de l'inférence statistique." Ainsi, elle arrive à vous étiqueter avec des milliers d'étiquettes pour savoir votre genre, votre âge, vos préférences politiques, votre orientation sexuelle et des choses beaucoup plus précises que ça. Par exemple, Arthur Grimonpont nous explique que "des chercheurs montraient que Facebook avait, parmi des milliers d'autres, une étiquette 'allaite son enfant en public', donc Facebook savait que certaines femmes allaitaient leurs enfants en public et leur avait collé cette étiquette parmi des milliers et des milliers d'autres."