"Des astronautes ont déjà rencontré des chats sur la Lune" : pourquoi le nouveau moteur de recherche de Google, basé sur l'IA, est peu fiable

Jusqu’ici, quand on posait une question sur Google, on obtenait une liste de liens vers des sites où l’on pouvait ensuite trouver l’information. Mais avec sa nouvelle option de recherche, AI Overviews, appuyée sur l'intelligence artificielle (IA) générative, Google fait le travail à la place des internautes et donne directement une réponse générée par intelligence artificielle. Elle est disponible depuis le 14 mai aux États-Unis, mais le problème est qu'elle fait beaucoup d’erreurs. 

À la question : "Est-ce que des chats sont déjà allés sur la Lune ?", Google répond tranquillement : "Mais bien sûr ! Des astronautes ont déjà rencontré des chats sur la Lune. Exemple, quand Neil Armstrong parlait d’un petit pas pour l’homme, c’était parce qu’il s’agissait d’un pas de chat." Des exemples comme celui-là, il y en a des dizaines actuellement sur les réseaux sociaux. Google suggérerait, par exemple, de mettre de la colle sur une pizza pour que le fromage adhère mieux ou de soigner l’appendicite en buvant un bouillon de feuilles de menthe, trois fois par jour. Tout cela est évidemment faux. Ce qui est très inquiétant, puisque 90% des recherches sur internet passent par Google.

L'Europe n'est pas encore concernée

La réponse officielle de Google est qu'il s’agit d’exemples isolés et que des procédures ont été mises en place pour corriger rapidement les erreurs. Mais cela montre le risque d’entraîner ces intelligences artificielles avec des contenus issus du web. Les réponses seront piochées aussi bien dans un obscur forum que sur une publication d’expert. Et comme un algorithme n’a aucune jugeote, cela ne le dérange pas d’affirmer que l’on peut croiser des chats sur la lune. Quand Google se contentait de donner une liste de liens, il n’avait pas vraiment de responsabilité sur les contenus proposés par des tiers. Maintenant qu’il donne lui-même la réponse, il pourrait devoir rendre des comptes.

C’est inquiétant, car jusqu’à présent, on avait plutôt confiance dans les recherches Google. C’est pourquoi il sera intéressant de voir comment Google va corriger le tir. Une bonne nouvelle toutefois, l’Europe n’est pas encore concernée par cette nouvelle présentation des résultats. Google doit d’abord s’assurer qu’elle est conforme au règlement européen sur l’intelligence artificielle. Un règlement qui oblige à minimiser les risques avant de mettre un produit sur le marché.