Faut-il apprendre aux robots à désobéir pour mieux obéir ?

Un robot étant une machine, en principe, il doit nous obéir au doigt et à l’œil et ne jamais dire non. Seulement, quelquefois, l’homme a de bien curieuses idées qui peuvent même s’avérer dangereuses. Il va donc peut-être falloir que nos amis robots apprennent à nous résister. C’est ce qu’explique un spécialiste : le professeur d’informatique Mathias Scheutz, de l’université américaine Tufts, dans un article passionnant publié sur le site TheConversation.

Expérience étonnante

Dans quel cas un robot devrait-il dire non ? Pour nous protéger ou pour se protéger lui-même. Le laboratoire du professeur Scheutz présente ainsi une petite expérience avec le robot Nao (robot d’origine français, soit dit en passant). Le petit robot est posé sur une table On lui ordonne de marcher droit devant lui mais le robot refuse car il voit bien qu’il va finir par tomber. Le chercheur lui promet qu’il va le retenir. Le robot entre alors dans un processus complexe où il doit décider s’il peut ou non obéir à cet ordre. Ici, le robot accepte et se met en marche. Il fait confiance à l’être humain qui finalement le rattrape.

Et si on ne le rattrape pas ? Ça, le professeur Scheutz n’en parle pas. On peut cependant penser que le robot, s’il est capable d’apprendre de son erreur, aura du mal à faire confiance à nouveau à l’être humain la fois suivante. Quelles seront alors les conséquences ? Voilà le problème. Les robots sont comme des enfants, c’est nous qui allons devoir les éduquer, leur apprendre la morale, les lois, les dangers et la sécurité.

Désobéir pour obéir

Dans son article, le scientifique s’interroge pour savoir ce qui se passerait, par exemple, si une personne atteinte d’Alzheimer demandait à un robot d’assistance de faire la lessive trois fois de suite ou bien si un enfant demande à un robot de jeter un ballon à travers une salle pleine de monde. Un humain hésiterait, que ferait un robot ? La question est quasi-philosophique : les robots vont-ils devoir apprendre à désobéir pour mieux obéir à nos règles ?