Une publication scientifique australienne sous les feux des critiques après avoir publié des articles générés par une IA

En Australie, le magazine Cosmos, publié par l'Agence scientifique nationale, fait référence en matière de publications scientifiques. Mais depuis qu'il a publié sur son site internet six articles générés par l'intelligence artificielle, le titre se trouve au cœur d'une polémique, a expliqué le média local ABC mercredi 7 août. Cité par l'AFP, le président de l'Association des journalistes scientifiques, Jackson Ryan, pointe des simplifications, voire des erreurs, dans ces contenus générés par un outil qui utilise GPT4, l'IA de la firme américaine OpenAI. 

L'un des articles généré par IA, intitulé "Qu'arrive-t-il à notre corps après la mort ?", explique notamment que des signes de rigidité cadavérique apparaissent trois ou quatre heures après le décès. Or, selon le spécialiste, la recherche scientifique est moins précise à ce sujet. La description de l'autolyse, un processus dans lequel les cellules sont détruites par leurs enzymes, est quant à elle simplement inexacte, continue Jackson Ryan, craignant que ces inexactitudes ne nuisent à la confiance et à la perception des lecteurs. 

Une bataille avec les éditeurs

Un porte-parole de l'Agence scientifique nationale a déclaré que le contenu de l'IA avait été vérifié par un "outil scientifique qualifié et édité par l'équipe de publication de 'Cosmos'". Selon un porte-parole de la société éditrice de Cosmos cité par ABC, l'expérience est "en évolution permanente". Un processus qui, d'après lui, "peut passer par des changements dans la manière dont nous programmons l'outil [et] dans l'utilisation que nous en faisons", ajoutant qu'il leur reviendra aussi de décider "si nous continuons à utiliser ou développer cet outil à l'issue du projet". 

Le magazine Cosmos a également suscité des critiques pour avoir utilisé des subventions destinées au secteur du journalisme afin de développer ses capacités d'intelligence artificielle. Et ce alors que l'utilisation de l'IA devient un champ de bataille majeur pour les éditeurs, poursuit le président de l'Association des journalistes scientifiques sur ABC. "Au bout du compte, [utiliser l'IA] sert à réaliser des économies", estime Jackson Ryan, craignant que ces développements ne se fassent au détriment des journalistes.

L'utilisation de l'IA par des titres de presse soulève également de sérieuses inquiétudes aux Etats-Unis. Le New York Times a récemment poursuivi OpenAI et Microsoft devant un tribunal américain, alléguant que les puissants modèles d'IA des entreprises utilisaient des millions d'articles à des fins de formation sans autorisation.