Les changements de modération de contenu de Mark Zuckerberg surviennent après une longue série de cauchemars

Les changements apportés par Mark Zuckerberg aux politiques de modération de contenu de Meta sont potentiellement énormes.

Pour bien comprendre leur gravité, il est utile de regarder comment Meta est arrivée ici. Et réfléchissons à ce que ces changements pourraient réellement signifier pour les utilisateurs : sont-ils un arc devant la nouvelle administration Trump ? Ou une amélioration d’un système qui a déjà suscité beaucoup de chaleur chez Zuckerberg et Cie ? Ou un peu des deux ?

La modération du contenu a toujours été un gouffre de désespoir pour Meta. Dans son article de blog annonçant les changements mardi, le nouveau responsable politique de Meta, Joel Kaplan, a déclaré vouloir revenir aux racines de Facebook, à savoir la « liberté d’expression ». Pourtant, ces racines contiennent une série d’incendies de modération, de maux de tête et d’ajustements constants des politiques de la plateforme.

À partir de 2016, les problèmes de modération n’ont cessé de surgir, comme une mauvaise couverture de « We Didn’t Start the Fire ». Considérez ce résumé :

• Fausses nouvelles.
• Adolescents macédoniens.
• Fermes à trolls russes.
• L’équipe d’Hillary Clinton accuse Facebook d’être responsable de sa perte.
• Zuckerberg répond à cette idée en la qualifiant de « assez folle ».
• Cambridge Analytica.
• Manipulation présumée du président Rodrigo Duterte aux Philippines.
• WhatsApp incitant aux lynchages en Inde.
• Groupes Facebook diffusant des informations erronées sur la santé impliquant des enfants buvant de l’eau de Javel ou des traitements DIY contre le cancer de la peau.
• Le génocide des musulmans Rohingyas.
• Désinformation sur le COVID-19.
• L’histoire de l’ordinateur portable Hunter Biden.
• Groupes Facebook « Stop the Steal » organisés le 6 janvier 2021.
• Les fichiers Facebook et le lanceur d’alerte divulguent des informations sur Instagram et la santé mentale des adolescents.

Quel que soit votre alignement politique, il semble que Meta ait été piégé dans un cercle vicieux consistant à élaborer une politique – ou à ne pas en avoir – puis à se retourner pour tenter de nettoyer le désordre.

Comme Charlie Warzel l’a souligné dans The Atlantic, Zuckerberg a parfois blâmé des forces extérieures lorsqu’il est confronté à des situations comme celles ci-dessus.

C’est peut-être jusqu’à maintenant. Comme Zuckerberg l’a publié mercredi sur Threads, « Certaines personnes peuvent quitter nos plateformes pour des raisons de vertu, mais je pense que la grande majorité et de nombreux nouveaux utilisateurs constateront que ces changements améliorent les produits. »

Peut-être que les grands changements se préparaient déjà en septembre dernier lorsque Zuckerberg est apparu lors d’un événement en direct et a déclaré : « L’une des choses sur lesquelles je repense et que je regrette est que je pense que nous avons accepté le point de vue d’autres personnes sur certaines des choses qu’ils affirmaient. nous faisions des erreurs, ou en étions responsables, mais je ne pense pas vraiment que nous l’étions. »

En d’autres termes, depuis cette semaine, la tournée d’excuses semble être terminée.

Que signifieront les changements de Meta pour vous et moi, les utilisateurs ?

Que signifieront les changements ? Qui sait ! Je peux faire quelques prédictions :

Le système de « note communautaire » pourrait fonctionner plutôt bien – ou du moins pas pire que le système actuel de vérification des faits piloté par l’homme et l’IA.

Il se peut que vos flux contiennent davantage de contenus que vous n’aimez pas – des discours politiques que vous trouvez odieux, par exemple.

Il est également possible que même si certains contenus existent sur la plateforme, vous ne les rencontriez pas réellement car ils auront été rétrogradés. « La liberté d’expression, pas la liberté d’accès » a été le mantra de X (même si, compte tenu du flux de contenu vraiment ignoble qui a proliféré dans mon flux au cours de la dernière année, je ne pense pas que cela ait été particulièrement efficace).

Un autre élément de l’annonce est que Meta concentrera ses efforts de filtrage basés sur l’IA sur les contenus les plus à risque (terrorisme, drogue et mise en danger des enfants). Pour des violations moindres, a déclaré la société, elle s’appuiera davantage sur les rapports des utilisateurs. Meta n’a pas donné de détails sur la façon dont cela fonctionnera exactement, mais j’imagine que cela pourrait avoir un effet négatif sur des problèmes courants comme l’intimidation et le harcèlement.

Une partie importante, mais moins glamour, de la modération du contenu consiste à supprimer les commentaires « laids » sur Instagram – et c’est le genre de choses qui dépendront des rapports des utilisateurs.

Il est également fort possible que de mauvais acteurs profitent de l’ouverture. Facebook n’est rien d’autre qu’un endroit pour acheter des meubles d’occasion tandis que diverses nouvelles vagues de pilleurs tentent de tester et de manipuler les algorithmes à des fins de profit ou de menace – il suffit de considérer la vague actuelle de déchets d’IA, dont certains semblent au moins en partie être rentables. opération frauduleuse menée depuis l’extérieur des États-Unis.

Histoires connexes

Que signifient les changements pour Meta ?

Si ces changements avaient été mis en œuvre lentement, un à la fois, ils auraient pu sembler raisonnables à première vue. Notes de la communauté ? Bien sûr. Assouplir les règles sur certains sujets politiques brûlants ? Eh bien, cela ne plaira pas à tout le monde, mais Meta peut y revendiquer une certaine logique. Réduire le recours aux filtres automatiques et admettre que trop de non-violations ont été balayées par les rafles de l’IA ? Les gens célébreraient cela.

Personne ne pensait que la modération de Meta avant les changements annoncés était parfaite. Il y a eu de nombreuses plaintes (à juste titre) sur la façon dont il a interdit trop de choses par erreur – ce que cette nouvelle politique vise à corriger.

Et passer des vérificateurs de faits tiers à un système de notes communautaires n’est pas une solution. nécessairement mauvais. Le système de vérification des faits n’était pas parfait, et les notes de la communauté sur X, le système que Meta modélise, peuvent être très utiles. Même en reconnaissant que, oui, X est parfois devenu un cloaque pour le mauvais contenu, la cause profonde ne réside pas dans les notes de la communauté.

Pourtant, il est impossible de peser les mérites de chaque aspect de la nouvelle politique et d’avoir des œillères lorsqu’il s’agit du gorille politique de 800 livres dans la pièce.

Il existe une manière assez évidente d’envisager l’annonce par Meta de changements radicaux dans sa politique de modération : il s’agit d’une décision visant à répondre aux besoins d’une nouvelle administration Trump. C’est un signe que Zuckerberg s’est déplacé vers la droite, alors qu’il se drape de certains des signifiants culturels du frère Zynternet (chaîne en or, montre à 900 000 $, cheveux plus longs, nouveau style, première rangée lors d’un match de MMA).

Ensemble, chaque élément de cela signale haut et fort que Zuckerberg soit A., croyait sincèrement avoir été contraint de céder sur des problèmes de modération dans le passé, soit B., savait que ces changements plairaient à Trump. De toute façon, je ne pense pas vraiment que la distinction entre A et B soit trop importante. (Meta a refusé de commenter.)

Ce n’est probablement pas le dernier des changements

J’essaie d’éviter de trop confondre « Meta » avec « Mark Zuckerberg ». C’est une grande entreprise ! Il existe de nombreuses personnes intelligentes qui se soucient profondément des nobles objectifs des réseaux sociaux, qui élaborent des politiques et effectuent le travail quotidien de confiance et de sécurité.

Une partie de moi se demande à quel point Zuckerberg souhaite que cette partie ennuyeuse et laide du travail disparaisse – il y a tellement de nouvelles choses brillantes sur lesquelles travailler, comme l’IA ou les lunettes intelligentes à réalité mixte. Retravailler les mêmes politiques vieilles de dix ans afin que les gens puissent s’insulter 10 % de plus est probablement moins amusant que de se battre en MMA ou de parler à des chercheurs en IA.

La modération du contenu a toujours été un cauchemar pour Meta. Le réduire, permettre davantage de discours sur des sujets controversés et externaliser la vérification des faits à la communauté semble être une solution à court terme pour devoir faire face à ce travail désagréable et ingrat. Je ne peux m’empêcher d’imaginer qu’une autre refonte aura lieu au cours des quatre prochaines années.