Amnesty International alerte sur les menaces liées aux technologies, notamment l'intelligence artificielle

Dans son rapport annuel, Amnesty International alerte, mercredi 24 avril, sur les "menaces liées aux technologies existantes et nouvelles, notamment l'intelligence artificielle". L'ONG regrette que rien ne soit "fait pour empêcher l'intelligence artificielle, qui se développe à vitesse grand V, de créer un terrain fertile pour le racisme, la discrimination et la division".

Amnesty International juge cet enjeu d'autant plus important que 2024 est une année "électorale majeure" avec l'élection présidentielle russe, les élections européennes ou encore l'élection présidentielle américaine. Les réseaux sociaux sont particulièrement visés par l'organisation, notamment du fait de leurs algorithmes qui "amplifient la haine, la discrimination et la désinformation". "Ils créent une boucle de commentaires infinie et dangereuse", fustige la secrétaire générale de l'organisation Agnès Callamard. Elle met également en avant le fait que "les outils actuels peuvent générer des images, des enregistrements audio et des vidéos virtuels en quelques secondes, ainsi que prendre pour cible des publics précis par groupes entiers".

L'état de droit et les droits humains menacés

L'ONG estime que "l'effondrement de l'état de droit risque de s'accélérer avec le développement rapide de l'intelligence artificielle". Il craint ainsi que ce développement, "couplé à la domination des géants de la haute technologie" n'entraîne "une multiplication des violations des droits humains si la règlementation restait à la traîne".

"Dans un monde de plus en plus précaire, la prolifération et le déploiement non réglementés de technologies telles que l’IA générative, la reconnaissance faciale et les logiciels espions sont en passe de devenir un ennemi pernicieux, entraînant une multiplication sans précédent des violations des droits humains et du droit international", redoute Agnès Callamard, secrétaire générale d'Amnesty.

Amnesty International pointe du doigt "l'utilisation incontrôlée de technologies nouvelles ou familières", "couramment utilisées comme armes par des acteurs militaires, politiques et du monde de l'entreprise". L'ONG considère d'ailleurs que cela a favorisé "le mépris de la loi, la discrimination et l'impunité dans les conflits et ailleurs". Si elle accuse certaines "plateformes des géants technologiques [d'alimenter] les conflits", l'organisation assure que des gouvernements "déploient des outils automatisés visant les groupes les plus marginalisés de la société".

"Les technologies, nouvelles ou plus anciennes, ont de plus en plus été utilisées comme armes au service de ces forces politiques répressives dans le but de diffuser de la désinformation, de dresser les communautés les unes contre les autres et d’attaquer les minorités"

Amnesty International

L'organisation souligne par ailleurs "l’utilisation massive des technologies existantes pour conforter des politiques discriminatoires". Elle évoque notamment "l’Argentine, le Brésil, l’Inde et le Royaume-Uni". Elle affirme, dans son rapport, que ces États "se sont de plus en plus tournés vers les technologies de reconnaissance faciale pour assurer le maintien de l’ordre pendant des manifestations et des événements sportifs et pour traiter de façon discriminatoire des populations marginalisées, en particulier les personnes migrantes et réfugiées".

La menace change d'échelle

Amnesty International déplore un manque de règlementation des logiciels espions qui, insiste-t-elle, "entraînent des violations des droits fondamentaux, visant notamment des militants en exil, des journalistes et des défenseurs des droits humains". L'ONG mentionne ainsi le cas du "logiciel espion Pegasus utilisé contre des journalistes et des militants de la société civile" en Arménie, en Inde, en République dominicaine et en Serbie. "En 2023, l’évolution rapide de l’IA générative a fait changer d’échelle la menace que constituait l’éventail de technologies déjà existantes – des logiciels espions à l’automatisation des services publics en passant par les algorithmes immaîtrisables des réseaux sociaux", ajoute l'organisation.

L'ONG salue tout de même l'adoption, en février, par l'Union européenne du "Règlement sur les services numériques". Elle considère que cette règlementation "est le signe que les législateurs européens commencent à agir". "Bien qu’imparfait et incomplet, ce texte a eu le mérite d’ouvrir un débat indispensable sur la réglementation de l’IA", soutient Amnesty.