Nouveau monde. Femme tuée par une voiture autonome : un choix de l’intelligence artificielle

Le 18 mars dernier à Tempe, en Floride, une femme qui poussait un vélo sur une route assez dégagée a été fauchée mortellement par une voiture Uber en pilotage automatique. Après analyses, il a été établi que cet accident a été causé par un "choix" effectué par l’intelligence artificielle de la voiture. En clair, la voiture a bien vu la forme devant lui mais a considéré que c’était ce qu’on appelle un "faux positif" comme des feuilles mortes ou un sac plastique et donc que ça ne nécessitait pas de s’arrêter.

Une erreur tragique et évitable

C’est donc une erreur de programmateurs d’Uber qui ont été trop optimistes dans leurs réglages. Pour éviter que la voiture ne s’arrête trop souvent et sans raison ils ont réglé le système de détection de faux positif à un niveau trop élevé. Mais cela ne remet pas pour autant en cause le développement des voitures autonomes. Uber a suspendu ses essais mais pas Google qui vient d’annoncer le lancement d’un service de transport de personnes en voiture autonome à Phoenix, en Arizona. À l’intérieur de ces véhicules l’intelligence artificielle est déployée et devrait bientôt permettre d’anticiper quand une voiture conduite par un humain s’apprête à griller un feu parce qu’elle roule trop vite.