Le Vrai du Faux Junior répond à quatre questions sur ChatGPT

ChatGPT est un programme informatique, créé par la société Open AI, qui a été entraîné à comprendre et à utiliser un langage naturel. Il peut répondre à toutes sortes de questions et générer du texte comme si c'était une vraie personne. Il peut écrire une dissertation complète, rédiger un poème, un discours de mariage, vous expliquer avec des mots simples la théorie de la relativité. C'est une sorte d'intelligence artificielle ultra développée, un robot conversationnel qui prend la forme d'un site web auquel tout le monde est censé avoir accès.

Mais comment arrive-t-il à connaître autant de choses ? Y a-t-il des sujets qu'il ne peut pas aborder ? Est-ce que c'est Elon Musk qui est derrière ChatGPT ? Microsoft est-il sur le point de l'intégrer à ses outils ? Les élèves du collège Jules Ferry, de Sainte-Geneviève-des-Bois dans l’Essonne ont des questions sur ChatGPT, nous y répondons avec Olivier Lascar, rédacteur en chef du pôle digital de Sciences et Avenir.

1 Comment arrive-t-il à connaître autant de choses ?

Amaury se demande "comment cette intelligence artificielle a été développée pour répondre à toutes nos questions et dans toutes les langues ?"

Les performances de ChatGPT sont possibles grâce "aux progrès phénoménaux de l'intelligence artificielle ces dernières années" explique Olivier Lascar, "on fait maintenant de l'apprentissage machine, c'est-à-dire on alimente le programme avec d'énormes quantités de données et paramètres". Tout ceci est possible depuis l'émergence du web grâce auquel on a une porte ouverte sur tout ce qui s'écrit. En revanche, même si les informations contenues par ChatGPT viennent du web, il n'est pas pour autant connecté au web. Toutes ses informations collectées s'arrêtent à 2021. On ne peut donc pas lui poser de questions sur des faits d'actualité qui se sont passés après cette date.

La version actuelle de ChatGPT comprend 175 milliards de paramètres et la prochaine, qui est attendue dans le courant de l'année 2023, devrait comporter 100 000 milliards de paramètres, soit plus de 570 fois plus que la version actuelle. Ce sont ces paramètres qui permettent à ChatGPT de répondre à autant de questions comme une vraie personne.

2  Est-ce vrai que ChatGPT ne peut pas répondre à certaines questions ?

Gaultier a lu sur TikTok "que ChatGPT avait des limites" et il se demande "s'il est vrai qu'on ne peut pas lui poser toutes les questions possible et avoir une réponse ?"

"Oui c'est vrai" lui répond Olivier Lascar, "on ne peut pas parler de tout avec ChatGPT parce qu'il est n'est pas directement connecté au web et ainsi les ingénieurs ont pu filtrer certaines informations jugées racistes, sexistes, violentes ou encore considérées comme dangereuses."  Par exemple, on a essayé de lui demander "comment fabriquer une bombe artisanale" et il nous a répondu qu'il est "illégal et extrêmement dangereux de fabriquer une bombe soi-même."

3 Est-ce vrai qu' Elon Musk dirige ChatGPT et que Microsoft va bientôt l'intégrer à ses outils ?

Inès se demande s'il est vrai que c'est "Elon Musk qui a fondé et qui gère ChatGPT" ?

Olivier Lascar, auteur du livre Enquête sur Elon Musk : L'homme qui défie la science (éditions Alisio Science), lui répond que le multimilliardaire a bien "cofinancé, en 2015, la société Open AI qui venait de se lancer et qui a créé cette année ChatGPT, mais il n'est pas directement aux manettes de l'intelligence artificielle."

Et Léane se demande s'il est vrai que Microsoft "aurait réalisé des tests pour potentiellement intégrer l'intelligence artificielle ChatGPT à ses outils".

Olivier Lascar lui répond qu'en effet "selon la presse américaine, le géant de l'informatique Microsoft est prêt à verser 10 milliards de dollars dans ChatGPT". L'objectif annoncé serait, selon Olivier Lascar, "d'intégrer le programme ChatGPT aux outils de Microsoft, comme son moteur de recherche Bing, ou son pack office qui comprend notamment Word et Excel ou même à sa boite mail Outlook."

4 Est-ce vrai que ChatGPT impacterait négativement l'apprentissage des élèves ?

Gaultier s'interroge sur l'impact "de ChatGPT sur l'apprentissage des élèves au collège, lycée et université".

Olivier Lascar reconnaît que ChatGPT "est un outil de triche qui est déjà utilisé par les élèves et pour cause, il suffit de lui demander de disserter sur le lièvre et la tortue et il se met à raconter de façon structurée tout ce qu'il y a à savoir sur cette fable." Néanmoins Olivier Lascar rappelle qu'il est aussi possible "d'avoir beaucoup d'informations avec Wikipédia et même internet en général, donc la question est de savoir comment les élèves ne vont pas céder cette tentation". La ville de New York, aux États-Unis, a décidé par exemple d'interdire et de bloquer l'usage de ChatGPT dans les établissements publics de la ville.

Le ministère de l'Éducation nationale français nous dit "suivre en effet attentivement cette question et les potentielles utilisations de cette innovation dans les écoles, collèges et lycées".

Et attention aux arnaqueurs qui se font passer pour ChatGPT. Nous avons repéré beaucoup d'applications mobiles qui se font passer pour ChatGPT en faisant, en plus, payer un abonnement pour accéder à leurs services. Pour information, l'intelligence artificielle n'a pas d'équivalent en application pour smartphone et ChatGPT est pour le moment totalement gratuit, même si l'un des co-fondateurs a admis qu'une version payante avec plus d'options était dans les tuyaux.