Nouveau monde. L’intelligence artificielle actuelle est une "boîte noire", selon la startup Golem.ai

En réponse au souhait de la Commission européenne de développer en Europe une intelligence artificielle "éthique", la startup parisienne Golem.ai affirme développer des outils plus transparents.

franceinfo : en quoi votre intelligence artificielle est-elle plus éthique que celle des autres ?

Thomas Solignac, co-fondateur de Golem.ai : Le machine learning, très utilisé aujourd’hui en IA, est une approche de type "boîte noire", car on ne peut pas regarder à l’intérieur et on ne comprend pas ce que fait l’IA. Or, quand on sait que l’IA commence à conduire des voitures ou à prendre des décisions médicales, il paraît nécessaire d’avoir une vraie transparence. Chez Golem.ai, nous développons, notamment, des outils de gestion automatique des e-mails, afin d’améliorer la relation client, et, contrairement à une approche purement statistique, nous faisons de "l’IA symbolique", qui est une forme de mathématisation du raisonnement. Cela donne une IA beaucoup plus claire.

N’est-ce pas la même chose que les "vieux" systèmes experts, qui n’étaient que des décisions successives programmées à l’avance ?

Cela y ressemble, mais nous nous y ajoutons des éléments venant des sciences humaines, tels que la linguistique, la psychologie ou encore la philosophie. Personnellement, j’ai fait des études d’informatique et de philosophie, et je me sers beaucoup de la philosophie pour nourrir mon approche de l’informatique.

Travailler sur ces technologies vous donne-t-il l’impression de tenir un pouvoir entre vos mains ?

J’ai le sentiment qu’il y a une nouvelle porte ouverte à l’échelle de notre histoire. Il y a des potentiels positifs énormes à l’IA, mais aussi des risques dont il faut se méfier. L’impact sur le monde du travail est gigantesque.