Un bug du service de photo Flickr classe des hommes en "singes"

Sur le papier, l'idée est brillante. Trier automatiquement les millions d'images mises en ligne sur la plateforme Flickr par des libellés qui indiquent "paysage", "portrait", ou encore "noir et blanc". Sauf que ce logiciel, mis en place début mai par le site internet, a connu un sérieux problème : une photo d'un homme noir a été rangée dans la catégorie "animal" et "singe", rapporte le Guardian (en anglais), mercredi 20 mai.

Ce n'est pas la seule erreur de cette "technologie avancée de reconnaissance d'image" de Flickr. Le quotidien britannique rapporte ainsi que plusieurs clichés des camps de concentration de Dachau et d'Auschwitz ont été répertoriés en "sport".

"Le système apprend de ses erreurs"

Faut-il voir dans cette erreur un algorithme raciste ? Pas nécessairement, explique le Guardian, qui note qu'en plus de la photo de l'homme noir, une femme blanche au visage couvert de pigments de couleurs a également été répertoriée dans la catégorie "singe".

Le problème, signalé par un internaute au quotidien britannique, a en tout cas été corrigé. Les libellés douteux ont été supprimés des clichés en question, et la page qui référence toutes les photos de singes ne répertorie plus que des animaux.

Interrogé, un porte-parole de Flickr a admis "des erreurs". "Si les utilisateurs suppriment un tag inapproprié, l'algorithme le repère et apprend automatiquement de ses erreurs. Ce système fonctionne de manière complètement automatique : aucun humain n'appliquera jamais ces libellés de lui-même", a-t-il ajouté