Alain Connes "Mon pavé 2018 : ne vendons pas notre âme à l’intelligence artificielle"

Le mathématicien Alain Connes est l’invité ce mardi 8 mai d’Olivier de Lagarde. Son pavé 2018 consiste à dénoncer les dangers potentiels de l’intelligence artificielle.

Olivier de Lagarde : Vous avez l’impression qu’on vend notre âme à l’intelligence artificielle ?

Alain Connes : On dit que c’est formidable pourquoi ? Parce que ça gagne au go (un jeu de société venu de Chine gagné en 2016 par un ordinateur face au champion du monde ndlr). Mais quand on fouille un petit peu, on s’aperçoit que la machine qui a gagné elle a fait l’équivalent de quelqu’un qui joue 300 ans au go contre lui-même donc ça ne m’impressionne pas. Vers quoi va-t-on avec l’intelligence artificielle ? On va vers l’enrégimentement des gens. Et c’est pas par hasard si l’un des organismes à l’origine de percées dans l’intelligence artificielle, notamment en matière de voiture autonome, c’est Darpa. Et le D de Darpa, c’est défense. C’est donc un organisme  qui veut développer des procédés à des buts militaires. Mon avis est totalement nuancé sur cette espèce d’engouement dans lequel les gens se plongent sans réfléchir.

Est-ce qu’on peut résister à l’intelligence artificielle ?

Non, mais on peut réfléchir. Et quand je vois le rapport Villani, je suis vraiment effrayé. Parce que ça veut dire qu’on va créer un biais et qu’on va attirer les gens les plus intelligents, les chercheurs etc vers l’intelligence artificielle au lieu de profiter de la recherche pure. Ça parait absurde. Finalement, le big data va remplacer l’homme parce que pour contrôler une immensité de données quels sont les buts ? De manipuler la société. Pour lui retirer de l’argent, la faire voter pour Trump, il y a quantité de buts possibles. C’est ça qui m’effraie.

Vous pensez que l’intelligence artificielle va changer l’homme et les relations entre les hommes ?

Non mais elle va l’obliger à se débrouiller au milieu d’un espèce de chaos qu’il n’avait pas prévu et qui sera de plus en plus contraire à la liberté individuelle. Elle va changer les relations entre les hommes puisqu’elle va les uniformiser. L’individualité en grande partie commence à disparaître. Cette liberté individuelle qui était quelque chose de fondamental est en train de se dissoudre comme neige au soleil. Ce qui me frappe le plus c’est qu'Évariste Galois était capable de comprendre sans avoir à faire les calculs.

De mon point de vue on est en train de troquer le "comprendre sans avoir à faire" pour le "faire sans comprendre". Or l’essence de l’homme c’est de comprendre et ça c’est complètement hors de portée de l'intelligence artificielle.. Ce que je dis c’est que grâce à ce développement de la machine on va finir par comprendre ce qui singularise l’intelligence humaine par rapport à la machine. Pour l’instant l'intelligence artificielle il lui manque le bon sens et surtout le génie.