Récemment forcé de payer une amende de 45 millions de dollars US à la famille d’un enfant tué lors de la fusillade survenue en 2012 à l’école Sandy Hook, aux États-Unis, le polémiste d’extrême droite Alex Jones a affirmé avoir été « déplateformé », ou banni, des principaux réseaux sociaux. Selon de récents travaux, cette méthode de mise au ban de la société numérique peut fonctionner, mais peut aussi empirer les choses.
Comme le mentionne Emiliano De Cristofaro, professeur spécialisé en technologies permettant d’améliorer la sécurité et la vie privée au University College London, les allégations de M. Jones semble avoir eu peu d’effet sur sa bonne fortune financière : au dire de l’économiste Bernard Pettingill, le site web conspirationniste InfoWars, géré par M. Jones, aurait fait plus d’argent après avoir été banni de Twitter et Facebook, en 2018.
M. De Cristofaro a ainsi voulu aller au fond des choses : est-ce que le déplateformage fonctionne? « Il n’est pas possible de mesurer cette influence de façon scientifiquement rigoureuse, alors il est difficile de dire ce qui se passe, à propos de l’influence d’une personne ou d’un groupe, lorsque leurs plateformes sont retirées », mentionne-t-il.
Toujours selon lui, toutefois, des études démontrent que cette méthode peut réduite l’activité d’acteurs malfaisants sur ces plateformes. Cette démarche aurait cependant un prix : alors que les gens bannis se dirigent vers d’autres réseaux, ils pourraient perdre des adeptes, mais ils deviennent aussi plus haineux et toxiques.
« Si le déplateformage implique généralement des gestes posés directement par les médias sociaux, cela peut aussi être accompli par des tierces parties, comme les institutions financières offrant des méthodes de paiement, comme PayPal. La fermeture d’un groupe est aussi une forme de déplateformage, même si les membres de ce groupe peuvent encore utiliser les sites où ces groupes sont hébergés. Par exemple le forum The_Donald, sur l’agrégateur Reddit, a été fermé pour avoir hébergé du contenu haineux et des messages incluant des menaces, comme une publication encourageant les abonnés à participer à un rassemblement de suprémacistes blancs », mentionne M. Cristofaro.
Alors, est-ce que ça fonctionne?
Les études actuelles démontrent que le déplateformage a des effets positifs sur la plateforme venant d’expulser l’individu ou le groupe malfaisant. Lorsque Reddit a banni certains forums victimisant les personnes grosses et les Noirs, de nombreux utilisateurs qui étaient actifs sur l’un ou l’autre de ces forums haineux ont cessé de publier sur Reddit. Ceux qui sont demeurés actifs ont partagé des contenus bien moins extrêmes.
Mais le groupe ou la personne ayant perdu sa plateforme peut migrer. Alex Jones continue de travailler à l’extérieur des principaux réseaux sociaux, principalement à partir de son site internet et via ses podcasts. Et un bannissement imposé par les grandes compagnies technologiques peut aussi être vu comme une punition pour avoir remis en question le statu quo de façon non censurée, ce qui renforce les liens et le sentiment d’appartenance entre les abonnés et les admirateurs.
« Mon équipe de recherche s’est penchée sur le forum The_Donald et un autre groupe, Incels – une communauté d’hommes hostiles envers les femmes – qui se sont tournés vers des sites internet indépendants après avoir été bannis de Reddit. Nous avons découvert qu’à mesure que les communautés dangereuses migrent vers d’autres plateformes, elles sont moins visibles, mais leurs utilisateurs deviennent de plus en plus extrêmes. De façon similaire, les utilisateurs bannis de Twitter ou Reddit ont démontré un niveau d’activité accru, ainsi qu’une toxicité augmentée, lorsqu’ils sont passés à Gab », un autre réseau social se spécialisant en contenus « libres », et donc largement toxiques, haineux, etc.
Toujours selon M. Cristofaro, « d’autres études portant sur la naissance de réseaux sociaux marginaux, comme Gab, Parler ou Gettr, ont permis d’exposer des situations similaires. Ces plateformes se décrivent comme des bastions de la liberté d’expression, en accueillant les utilisateurs bannis ou suspendus sur les autres réseaux sociaux. Les travaux de recherche ont démontré que non seulement l’extrémisme augmente en raison d’une modération laxiste, mais aussi que les premiers utilisateurs de ces plateformes y exercent une influence disproportionnée ».
Les conséquences inattendues du déplateformage ne sont pas limitées aux communautés à saveur politique, mais s’étendent aussi à la désinformation en matière de santé et aux groupes disséminant des théories de la conspiration. Par exemple, lorsque Facebook a banni des groupes parlant des vaccins contre la COVID-19, des utilisateurs se sont tournés vers Twitter et ont produit encore plus de contenus antivaccins.
Des solutions alternatives
Que peut-on faire, dans ce cas, pour éviter la concentration de la haine en ligne que peut encourager le déplateformage? Les réseaux sociaux, explique M. Cristofaro, expérimentent depuis un certain temps avec des interventions « modérées » qui ne font pas disparaître de contenus, ni ne bannissent d’utilisateurs. Ils limitent plutôt la visibilité des contenus, restreignent la capacité d’autres utilisateurs à interagir avec le contenu en question, ou ajoutent un avertisswment.
Ces approches entraînent des résultats encourageants, juge le chercheur. Certains avertissements ont poussé des internautes à vérifier des faits mensongers. La modération « douce » parvient parfois à réduire les interactions des utilisateurs et la dissémination de propos extrémistes dans les commentaires.
M. Cristofaro précise cependant que l’on ignore toujours si la modération « douce » crée de nouvelles façons de harceler d’autres individus, par exemple en se moquant des utilisateurs dont les publications sont couronnées d’un avertissement, ou en fâchant les internautes qui ne peuvent pas repartager de contenus.
Aller de l’avant
L’un des aspects essentiels du déplateformage est le moment choisi pour agir, mentionne le chercheur. « Plus les plateformes agissent rapidement pour stopper des groupes qui tentent d’utiliser des plateformes populaires pour alimenter des mouvements extrémistes, mieux c’est. Des actions rapides pourraient, en théorie, freiner les efforts de groupes pour rallier et radicaliser de vastes pans des internautes », souligne-t-il.
« Mais il faut aussi que les efforts soient coordonnés entre les plateformes et d’autres médias. Après tout, la radio parlé et les chaînes de nouvelles câblées jouent aussi un rôle crucial lorsque vient le temps de promouvoir des discours marginaux, aux États-Unis. »
M. Cristofero invite aussi les entreprises technologiques à travailler de concert avec les politiciens et les chercheurs, afin de coordonner les interventions et maximiser les chances de succès.
