Intelligence artificielle : Elon Musk et des centaines d'experts alertent sur les "risques majeurs pour l'humanité"

Ils veulent appuyer sur pause. Elon Musk et des centaines d'experts mondiaux ont signé mercredi 29 mars un appel à stopper, durant six mois, la recherche sur les intelligences artificielles plus puissantes que ChatGPT 4, le modèle d'OpenAI lancé mi-mars. Dans une pétition parue sur le site Futureoflife.org (en anglais), ils évoquent "des risques majeurs pour l'humanité".

Ils réclament également un moratoire jusqu'à la mise en place de systèmes de sécurité, dont de nouvelles autorités réglementaires dédiées, la surveillance des systèmes d'IA, des techniques pour aider à distinguer le réel de l'artificiel et des institutions capables de gérer les "perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA provoquera".

"Devons-nous risquer de perdre le contrôle ?"

La pétition réunit des personnalités qui ont déjà publiquement exprimé leurs craintes envers des intelligences artificielles incontrôlables qui surpasseraient l'être humain, dont le milliardaire Elon Musk, le patron de Twitter, SpaceX et Tesla, et Yuval Noah Harari, l'auteur de Sapiens : Une brève histoire de l'humanité (éd. Albin Michel).

"Ces derniers mois ont vu les laboratoires d'IA s'enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable."

Les signataires de la tribune

sur Futureoflife.org

"Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus", concluent-ils.

Le patron d'OpenAI, concepteur de chatGPT, Sam Altman a lui-même reconnu être "un petit peu effrayé" par sa création si elle était utilisée pour de "la désinformation à grande échelle ou des cyberattaques". "La société a besoin de temps pour s'adapter", avait-il déclaré à la chaîne ABCNews.