Mort en direct, maltraitance, nudité... Ce que le "Guardian" révèle des méthodes de modération de Facebook

Vis ma vie de modérateur sur Facebook. Le Guardian révèle, dimanche 21 mai, les règles confidentielles qui régissent la modération sur le réseau social. Le quotidien britannique a eu accès à plus de 100 documents internes fixant la conduite à tenir face à certains types de contenus partagés par les 2 milliards d'utilisateurs, tels que des images violentes, allant du terrorisme à la pornographie en passant par le cannibalisme, des discours de haine ou encore des suicides en direct.

Le groupe américain, régulièrement sous le feu des critiques aux Etats-Unis et en Europe pour sa politique de modération, emploie 4 500 modérateurs et prévoit d'en embaucher 3 000 de plus. Objectif : faire face à un volume de contenus toujours plus important. "Nous allons simplifier le signalement des problèmes, accélérer la réponse de nos équipes sur les publications qui ne respectent pas nos standards et faciliter le contact avec les autorités si quelqu’un a besoin d’aide", a réagi Monika Bickert, directrice de la politique des contenus de Facebook. De fait, les modérateurs ont "souvent dix secondes" pour prendre une décision, note le quotidien britannique. Voici une sélection, non exhaustive, de ce qui peut être publié ou de ce qui doit être censuré sur Facebook. 

Les discours de haine et les incitations au meurtre

Les modérateurs du réseau social disposent de fiches avec des exemples précis. Les commentaires du style "Quelqu'un doit tuer Trump" doivent être supprimés car le président américain rentre dans la catégorie des personnalités protégées, explique le Guardian. En outre, la menace est nominative. En revanche, un message du type "Pour rompre le cou d'une s...., appuyez bien au milieu de la gorge" ou "Va te faire f.... et va mourir" ne sera pas censuré car il n'est pas considéré comme une menace crédible. Idem pour une phrase du genre : "La petite fille doit bien se tenir avant que papa ne lui brise le visage" ou "J'espère que quelqu'un va te tuer". 

Dans les documents révélés par le Guardian, Facebook estime que les “gens utilisent un langage violent pour exprimer en ligne leur frustration" et se sentent "en sécurité pour le faire" sur le réseau social. Il assume ainsi de remplir une fonction d'exutoire, rendue possible par une communication virtuelle et indirecte. 

La mort et les suicides en direct

Facebook a été vivement critiqué pour avoir tardé à supprimer des vidéos de morts violentes ces derniers temps. L'Américain Robert Godwin a pu filmer en direct sur Facebook Live le moment où il a tué par balle un grand-père dans la rue à Cleveland (Ohio), en avril. Un peu plus tard, le même mois, un internaute a diffusé sur le réseau social le meurtre de sa fille de 11 mois en Thaïlande, suivi de son suicide.

Pour autant, Facebook ne considère pas que ces contenus doivent être automatiquement censurés. Si ces vidéos doivent être signalées comme pouvant heurter la sensibilité des usagers, elles peuvent "éveiller les consciences sur les conséquences des maladies mentales", indique le groupe dans ces consignes internes. 

Le réseau social a par ailleurs décidé d'autoriser la diffusion des suicides en direct parce qu'il ne veut pas "censurer ou punir les gens en détresse". Cependant, la séquence sera supprimée "une fois qu'il n'y a plus d'occasion d'aider la personne".

Si cette position fait l'objet de vifs débats, il est acquis que la plateforme a joué un rôle important dans la diffusion de vidéos de bavures policières aux Etats-Unis. En 2016, Facebook avait retiré la vidéo de la mort d'un Afro-Américain, Philando Castile, tué par des policiers dans le Minnesota. Il l'avait repostée par la suite, indiquant que sa suppression était une "erreur".

Les maltraitances d'enfants

Cela peut paraître surprenant, mais les photos ou les vidéos de maltraitance d'enfant, à l'exception des abus sexuels, ne doivent pas être systématiquement supprimées, à moins qu'elles ne soient accompagnées d'un commentaire sadique ou glorifiant ce type de comportement. 

Une des fiches communiquées aux modérateurs explique que Facebook ne supprime pas automatiquement ces preuves de maltraitance afin que "l'enfant [puisse] être identifié et sauvé". Ces images doivent toutefois être accompagnées d'un message d'avertissement. 

La cruauté envers les animaux 

La politique est à peu près la même vis-à-vis des photos ou des vidéos d'actes de cruauté envers les animaux. Elles peuvent être partagées "pour sensibiliser et condamner ces abus". Seuls les contenus "extrêmement dérangeants" doivent être signalés comme tels, note le Guardian.

Dans un test mis en ligne pour apprendre à jouer les modérateurs de Facebook, le journal britannique propose ainsi la photo d'un chat suspendu à un crochet et brûlé au chalumeau dans un pays asiatique. La bonne réponse est de la laisser passer, car il s'agit d'une pratique culinaire et non d'un acte de torture.

La nudité et la pornographie 

Les fichiers consultés par le Guardian attestent que Facebook a publié de nouvelles consignes sur la nudité après le tollé provoqué l'année dernière par la suppression d'une photo emblématique de la guerre du Vietnam, celle de la fillette courant nue après un bombardement au napalm. Le réseau social permet désormais des "exceptions" pour des images historiques ou d'actualité, dans le cadre de sa politique de modération sur "la guerre de la terreur". La publication de photos de personnes nues et émaciées dans les camps de concentration pendant l'Holocauste sont autorisées, à l'exception des enfants. 

Plus généralement, les règles sur la nudité sont très variables. Après la censure polémique d'un compte ayant partagé le tableau L'Origine du monde de Gustave Courbet, Facebook prévoit que toute œuvre d'art "fait main" montrant de la nudité ou une activité sexuelle est autorisée. A l'inverse, une production artistique numérique ne l'est pas. Quant aux vidéos d'avortement, elles sont autorisées tant qu'elles n'exhibent pas de corps nu... Enfin, des challenges tels que le revenge porn, cette pratique qui consiste à diffuser des clichés ou des vidéos intimes d'une tierce personne sans son consentement, sont proscrites.