Gemini : l’IA de Google, à peine rebaptisée, provoque une première polémique

Quand l’intelligence artificielle perd la boule… Mardi 20 février, pendant plusieurs heures, chatGPT a connu un gros bug, et depuis jeudi 22 février, Google a désactivé la génération d’images comportant des hommes ou des femmes, avec son IA rebaptisée Gemini, après la publication de certains visuels.

Google a très vite présenté ses excuses pour ces "inexactitudes" dans "les représentations générées par Gemini de certaines images historiques". En l’occurrence : un pape, des Vikings et des soldats nazis, tous à la peau noire. "On a raté l’objectif", a reconnu le géant de Mountain View sur le réseau X. Et pourtant, l’intention de Google était louable : depuis les débuts de l’IA générative d’images, la diversité ethnique, les différentes couleurs de peau étaient anormalement sous-représentées.

Google, avec Gemini qui n’a que 16 jours, a donc essayé de compenser. Du pain béni pour certains Américains parmi les plus conservateurs. Ils accusent Google, pourtant connu pour sa défense de la diversité, de vouloir "éliminer les blancs" des images générées par Gemini. Un procès idéologique et politique pas anodin, à neuf mois de la présidentielle américaine.

Comment expliquer les erreurs parfois grossières de ces IA ?

En rappelant, tout d’abord, que l’intelligence artificielle n’est pas si intelligente. Les résultats sont, par nature, perfectibles. On l’a vu avec les débuts de l’IA générative, et ces mains à six doigts ou pire. Google s’est d’ailleurs engagé à rectifier le tir immédiatement, mais cette polémique fait évidemment les affaires des concurrents comme Firefly d’Adobe, MidJourney ou encore DALL-E d’Open AI.

Le souci, avec Gemini et son effort louable en faveur de la diversité, c’est de l’avoir fait sans nuances et de ne pas utiliser la réalité historique comme garde-fou. Par exemple, quand on lui a demandé une image d’élus au Sénat américain dans les années 1800, Gemini n’aurait pas dû produire d’images de sénatrices noires, puisque l’élection de la première d’entre elles, Carole Mauseley Braun dans l’Illinois, date de presque 200 ans plus tard : c’était en 1993.

La réalité historique comme garde-fou

Avec cette polémique, Google s’embourbe un peu plus dans l’IA. Gemini vient de succéder à Bard. Nouveau nom, mais même technologie. Souvenez-vous du lancement de Bard, il y a un an, présenté comme le concurrent de chatGPT. L’IA de Google avait affirmé, le jour de son annonce officielle, que le télescope James Webb avait réalisé la toute première photo d’une exoplanète, animation à l’appui. C’était faux, puisque la toute première photo date de 2004.

Depuis, on se doutait que Bard, le nom, était condamné. D’où "Gemini" : nouvelle façade avec – au passage – une version premium payante à 19,99 dollars par mois, qui devait incarner un nouveau départ.