Nouveau monde. Pourquoi IBM renonce-t-il à la reconnaissance faciale ?

Comme de nombreuses firmes high-tech, IBM travaille sur des outils au service de la sécurité, notamment de reconnaissance faciale. Mais, dans une lettre adressée au Congrès américain, le PDG d’IBM, Arvind Krishna, évoque la situation actuelle aux États-Unis et annonce qu’il arrête la commercialisation et le développement des technologies de reconnaissance faciale.

La reconnaissance faciale actuelle n’est pas fiable à 100%. Une étude du MIT réalisée en 2019 montre qu'aucun outil, que ce soit de Microsoft, d’Amazon ou d’IBM, n'est réellement fiable. Ils présentent tous des biais. Ils reconnaissent bien les hommes blancs mais ils se trompent beaucoup sur les personnes noires, notamment les femmes. La raison est visiblement une lacune au niveau de l’entrainement de ces logiciels.

Contre le profilage de masse

IBM dit qu’il s’oppose à la surveillance de masse et au profilage racial et dénonce les biais de l’intelligence artificielle qui peuvent conduire à des abus. Mais il ne tourne pas le dos à l’usage des technologies par la police. La firme estime que les caméras corporelles pour les policiers et les "techniques modernes d'analyse de données" sont utiles car elles peuvent apporter plus de transparence. IBM appelle à une concertation et à un cadre juridique précis pour l’usage de ces technologies.

Cette décision est-elle motivée, comme le fait remarquer le site américain spécialisé Techcrunch, par le fait que la reconnaissance faciale ne représente pas une grosse activité commerciale pour IBM et que la firme n’est pas leader dans cette technologie, notamment face à Amazon et son système Rekognition ?

Les big tech sous pression

Toujours est-il que les entreprises de technologie font actuellement l’objet d’une forte pression pour les inciter à se positionner face aux évènements qui agitent les États-Unis. Ainsi, des associations demandent à Amazon de ne plus fournir ses solutions de reconnaissance faciale à la police.

On ne sait pas bien ce que cache réellement la décision d’IBM mais elle aura peut-être pour conséquence d’ouvrir le débat du côté des "Big Tech".