Lutte contre les fake news : Google lance un outil pour repérer les images générées par l'Intelligence artificielle

Une avancée dans la lutte contre la désinformation. Il existe désormais un outil capable de dire, si oui ou non, nous sommes en présence d’une image générée par de l’intelligence artificielle. Cet outil baptisé SynthID vient d’être présenté par Google. Il est encore à l’état de prototype. Mais il donne une première idée de ce à quoi pourrait rassembler des règles de transparence, vis-à-vis de toutes ces images créées avec l’intelligence artificielle. C’est un sujet clé du futur règlement européen. Le gouvernement Biden l’appelle de ses vœux.

Créer une "signature" numérique

SynthID propose de "marquer" l’image au moment de sa création en lui ajoutant des pixels à des endroits stratégiques. Il s’arrange évidemment pour que ce soit invisible à l’œil nu, on ne se rendra compte de rien. Mais cela finit par créer une "sorte de signature numérique", que l’on pourra rechercher pour savoir si l’image a été générée par une l’intelligence artificielle. Sur une démonstration, leur marquage résiste, à un recadrage, à un changement de taille, à l’application de filtres et même à une compression. 

>> On vous explique comment marchent Midjourney, Lensa ou ChatGPT, ces outils d'intelligence artificielle sources de prouesses techniques (et d'inquiétudes)

Évidemment, cela n’a rien d’infaillible. Si les manipulations deviennent extrêmes, le marquage risque d’être affecté. Mais cela devrait être suffisant pour, tout de suite, lever le doute sur des photos comme celle du pape en doudoune ou d'Emmanuel Macron en éboueur.

Quelle technologie choisir ?

Malheureusement, cela ne signifie pas pour autant qu’il sera possible de maîtriser ce que produisent ces intelligences artificielles. L’outil ne fonctionne, pour l’instant, qu’avec le générateur d’images de Google. Or il y en a des dizaines d’autres, souvent bien plus populaires. Évidemment, Google aimerait en faire un standard pour que tout le monde s’appuie sur sa technologie. Il se dit d’ailleurs ouvert au partage avec des "partenaires". Pas sûr que ses concurrents soient prêts à l’adopter. Il peut y avoir des divergences techniques et commerciales.

C’est peut-être là que le législateur peut intervenir en imposant une technologie. Mais laquelle ? Conçue par qui ? Les Américains, les Chinois, les Européens ? Cela n’aurait aucun sens que chacun développe la sienne. On est encore loin d’avoir trouvé la solution.