De nouvelles recherches de l’EPFL Il a été démontré que l’échange de commentaires entre membres et non-membres de communautés marginales (« interactions marginales ») sur les plateformes en ligne grand public attire de nouveaux membres dans ces groupes. La recherche suggère également des moyens possibles de limiter cette croissance.
Les « communautés marginales » qui promeuvent les théories du complot et les idéologies extrémistes prospèrent sur les plateformes en ligne grand public, ce qui continue de soulever la question de savoir comment cette croissance est alimentée. Des chercheurs de l’EPFL École des sciences informatiques et de la communication (IC) qui étudient ce phénomène ont maintenant découvert un mécanisme possible soutenant cette croissance.
Dans leur article Danger pour les étrangers ! Les interactions intercommunautaires avec les utilisateurs marginaux augmentent la croissance des communautés marginales sur Redditqui a récemment remporté le prix du meilleur article lors de la 18e Conférence internationale de l’AAAI sur le Web et les médias sociaux (ICWSM), des scientifiques du Data Science Laboratory (DLAB) ont décrit les interactions marginales – l’échange de commentaires entre membres et non-membres de communautés marginales. . Les chercheurs ont appliqué des techniques d’inférence causale basées sur du texte pour étudier l’influence des interactions de périphérie sur la croissance des communautés de périphérie, en se concentrant sur trois groupes importants sur Reddit : r/Incel, r/GenderCritical et r/The Donald.
Moteurs de croissance
« Il est bien connu qu’il existe des communautés marginales sur les principales plateformes sociales en ligne et il est également bien connu que ces plateformes tentent de les modérer ; mais même avec modération, ces communautés continuent de croître. Nous nous sommes donc demandé quels autres facteurs pourraient être à l’origine de cette croissance », explique Giuseppe Russo, chercheur postdoctoral au DLAB.
« Nous avons constaté que les interactions marginales – essentiellement un échange de commentaires entre un « utilisateur vulnérable » et un utilisateur déjà actif dans une communauté marginale – attiraient des personnes marginalisées dans ces groupes. Et les commentaires ne sont pas évidents, comme ‘rejoindre ma communauté’, ce sont des discussions en cours qui attirent l’attention des autres et un moyen intelligent de contourner la politique de modération », poursuit-il.
Les utilisateurs qui ont reçu ces interactions étaient jusqu’à 4,2 points de pourcentage plus susceptibles de rejoindre des communautés marginales que les utilisateurs similaires qui n’ont pas reçu d’interactions. Cet effet a été influencé par les caractéristiques des communautés où les interactions ont eu lieu (par exemple, les communautés de gauche par rapport aux communautés de droite) et la langue utilisée dans les interactions. Un langage toxique était 5 points de pourcentage plus susceptible d’attirer de nouveaux arrivants dans les communautés marginales que les interactions non toxiques.
Stratégie envisagée
Une fois qu’un utilisateur vulnérable s’engageait dans un échange de commentaires, il suffisait d’un clic pour trouver une communauté marginale en ligne, car chaque profil d’utilisateur affiche immédiatement les groupes dans lesquels quelqu’un a été actif. Les chercheurs ont également découvert que cette méthode de recrutement est propre aux communautés marginales – ils ne l’ont pas trouvée dans les communautés du climat, des jeux, du sport ou d’autres – ce qui conforte l’hypothèse selon laquelle il pourrait s’agir d’une stratégie intentionnelle.
« Le mécanisme de recrutement est très simple, il s’agit littéralement d’un simple échange de commentaires. Une petite discussion suffit pour conduire les utilisateurs vulnérables vers ces communautés marginales et une fois qu’ils y sont, de nombreuses études antérieures ont montré qu’ils se radicalisent et deviennent des membres actifs de ces communautés extrémistes », a déclaré Russo.
Les résultats de la recherche soulèvent des questions importantes : ce mécanisme de recrutement est-il suffisamment pertinent pour mériter l’attention des politiques de modération des plateformes en ligne et si oui, comment pouvons-nous l’empêcher d’alimenter la croissance de ces communautés ?
Réduire la visibilité
Sur la base de la période d’observation, les chercheurs estiment qu’environ 7,2 %, 3,1 % et 2,3 % des utilisateurs qui ont rejoint r/Incels, r/GenderCritical et r/TheDonald, respectivement, l’ont fait après avoir interagi avec des membres de ces groupes. Selon eux, cela suggère que les politiques de modération au niveau communautaire pourraient être combinées à des sanctions pour les utilisateurs individuels, par exemple en réduisant la visibilité de leurs publications ou en limitant le nombre de commentaires qu’ils peuvent publier dans des communautés plus sensibles. Les chercheurs pensent que ces mesures pourraient réduire l’impact des interactions Edge et ralentir la croissance des communautés Edge sur les plateformes grand public.
« D’un point de vue sociétal, je pense que cela est extrêmement pertinent pour de nombreuses raisons, notamment parce que nous avons vu que l’impact de ces communautés marginales n’est pas exclusivement en ligne, il y a également un impact hors ligne. Nous avons vu des émeutes et du terrorisme, nous avons vu des femmes prises pour cible et assassinées par des membres de ces communautés, donc en restreignant l’accès à ces communautés, nous réduisons certainement le risque hors ligne et c’est ce qui nous importe vraiment en fin de compte, Russo. conclu.
2024-08-10 09:29:00
1723272764
#Stranger #Danger #réceptivité #aux #communautés #marginales #ligne