Un algorithme de Facebook confond des personnes noires avec des singes

Facebook évoque "une erreur inacceptable". Un algorithme de recommandation utilisé par le réseau social a demandé à des utilisateurs s'ils souhaitaient voir d'autres "vidéos sur les primates" sous une vidéo d'un tabloïd britannique montrant des personnes noires, a révélé le New York Times (lien en anglais), vendredi 3 septembre. 

"Nous présentons nos excuses à quiconque a vu ces recommandations insultantes", a réagi une porte-parole de Facebook à l'AFP après ces révélations, assurant que le groupe californien avait désactivé l'outil de recommandation sur ce sujet "dès que nous nous sommes aperçus de ce qui se passait afin d'enquêter sur les causes du problème et empêcher que cela ne se reproduise".

L'intelligence artificielle a des "progrès à faire"

La vidéo du Daily Mail, vieille de plus d'un an, est intitulée "un homme blanc appelle les flics contre des hommes noirs à la marina". En dessous, la question "voir plus de vidéos sur les primates ?" avec les options "Oui/Rejeter" s'affichait sur l'écran de certains utilisateurs, d'après une capture d'écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux. "C'est scandaleux", a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l'affaire.

L'incident souligne les limites des technologies d'intelligence artificielle, régulièrement accusées de perpétuer des clichés racistes ou d'entretenir des discriminations, comme le pointait en juin 2020 cet article de Numerama. 

"Comme nous l'avons dit, même si nous avons amélioré nos systèmes d'intelligence artificielle, nous savons qu'ils ne sont pas parfaits et que nous avons des progrès à faire", a reconnu la porte-parole de Facebook.