Un nouveau modèle mathématique pour garder un oeil sur la haine en ligne

La haine en ligne se répand à l’échelle planétaire à l’aide de groupes qui s’organisent d’eux-mêmes et qui peuvent être répliqués, à diverses tailles, pour ensuite se lier entre eux et former des réseaux durables à travers plusieurs plateformes de médias sociaux, pays et langues, selon une nouvelle étude récemment publiée dans Nature.

Des chercheurs de l’Université George Washington ont mis au point un modèle cartographique, le premier du genre, pour surveiller comment ces groupes haineux prolifèrent en ligne. Ils estiment que leurs travaux pourraient aider les médias sociaux et les autorités dans leur combat contre la haine sur internet.

Avec la croissance fulgurante des médias sociaux, les individus peuvent entrer en contact avec gens partageant leurs points de vue en quelques clics. Des groupes de personnes aux intérêts communs se forment rapidement et facilement. Récemment, les idéologies haineuses et points de vue extrémistes ont été lié à une multiplication d’actes criminels à travers le monde, mentionnent les chercheurs. Pour contrer ce phénomène, ces derniers, dirigés par Neil Johnson, professeur de physique à l’Université George Washington, ont chercher à mieux comprendre comment évoluait la haine en ligne et s’il était possible d’en venir à bout.

« La haine détruit des vies, non seulement comme nous l’avons constaté à El Paso, à Orlando et en Nouvelle-Zélande, mais de façon psychologique, via une certaine rhétorique et du harcèlement en ligne », a affirmé le Dr Johnson. « Nous avons voulu aller au fond des choses en ce qui concerne la haine en ligne en cherchant à expliquer sa résilience et de quelle façon nous pouvons nous y attaquer plus efficacement. Plutôt que de trouver qu’il y a de l’amour dans l’air, nous avons constaté qu’il y a de la haine dans le cyberespace. »

Pour comprendre comment la haine évolue en ligne, l’équipe a commencé par déterminer la façon dont les groupes haineux se lient entre eux pour diffuser leurs messages et recruter de nouveaux membres. En se concentrant sur les plateformes comme Facebook et son équivalent en Europe Centrale, VKontakte, les chercheurs ont débuté leurs travaux avec un premier groupe haineux, et en on ensuite cherché un deuxième qui était fortement lié au premier. Ils ont découvert que la haine transcende les frontières des plateformes web, y compris Instagram, Snapchat et WhatsApp; les emplacements géographiques, comme les États-Unis, l’Afrique du Sud et certaines régions d’Europe, et les langues, dont l’anglais et le russe.

Adaptation et évolution

Les chercheurs ont constaté la présence de groupes créant de nouvelles stratégies d’adaptation pour se reformer sur d’autres plateformes ou retourner sur des plateformes précédemment visitées après avoir été bannis, y compris en utilisant d’autres langues pour éviter d’être détectés.

Cela permet au groupe de rapidement retrouver des milliers de partisans sur une plateforme d’où ils avaient été bannis et souligne le besoin d’une coopération inter-plateformes pour limiter ces groupes haineux.

« On pourrait évoquer le fait que peu importe la quantité de produit contre les mauvaises herbes que vous répandez, le problème finira toujours par revenir, parfois de façon plus importante encore. En ligne, tous les terrains gazonnés du voisinage sont interconnectés de façon complexe. Voilà pourquoi des plateformes individuelles comme Facebook ont besoin de nouvelles analyses, comme la nôtre, pour mettre au point de nouvelles stratégies afin de garder l’avantage », a indiqué le Dr Johnson.

Entre autres propositions, on suggère de:

-Réduire le nombre et la force des groupes haineux de grande taille en bannissant les plus petits groupes qui les alimentent;

-Attaquer le talon d’Achille des groupes en bannissant au hasard un petit nombre d’individus pour provoquer l’effondrement du groupe dans son ensemble;

-Faire s’affronter de grands groupes en facilitant la découverte des groupes haineux par les mouvements anti-haine;

-Mettre sur pied des groupes qui soulignent les différences idéologiques entre groupes haineux, histoire de saper leur cohésion.

Forts de leurs travaux, le Dr Johnson et son équipe disent travailler sur des logiciels qui pourraient aider les responsables de la réglementation et les autorités à mettre au point de nouvelles méthodes d’intervention.

Une nouvelle forme d’intelligence artificielle inspirée par le cerveau