Des experts en radicalisation ont dénoncé la présence pendant plusieurs heures sur YouTube et X d’images horrifiantes montrant un trentenaire tenant la tête décapitée de son père, appelant les réseaux sociaux à être plus vigilants.
“C’est un autre exemple de l’échec flagrant de ces entreprises à nous protéger. Nous ne pouvons pas leur faire confiance pour noter leurs propres devoirs”, a déploré Alix Fraser, directrice du Conseil pour des médias sociaux responsables de l’organisation à but non lucratif Issue One, selon CBS News jeudi.
Mercredi, les policiers de la Pennsylvanie ont arrêté Justin Mohn, 32 ans, pour meurtre au premier degré après avoir partagé une vidéo de 14 minutes sur YouTube le montrant en train d’abuser du corps sans tête de son père, Michael, dans leur demeure du comté de Bucks.
Mais même si le contenu “violait la politique de violence graphique” de YouTube, les images seraient restées accessibles au public pendant environ cinq heures, selon le capitaine de police du canton de Middletown, Pete Feeney, soulevant de lourdes questions quant à la modération sur les réseaux sociaux, selon le média américain.
Peu après minuit, le Forum mondial de l’Internet pour lutter contre le terrorisme aurait alerté près de deux douzaines de plateformes pour restreindre la vidéo. Malgré cela, mercredi matin, les images auraient fait leur chemin jusqu’à la plateforme X, où elles auraient circulé pendant au moins sept heures en atteignant plus de 20 000 clics, toujours selon le média américain.
Si plusieurs réseaux sociaux se fient principalement à des systèmes automatisés pour retirer le contenu, l’intelligence artificielle (IA) reste faillible lorsque les images de violence sont présentées d’une manière nouvelle ou inhabituelle, a déclaré Brian Fishman, cofondateur de la startup technologique de sécurité Cinder.
“L’IA s’améliore, mais elle n’est pas encore à ce niveau”, aurait-il souligné, selon CBS News.
Au troisième trimestre de 2023, YouTube aurait supprimé plus de 8,1 millions de vidéos de sa plateforme, dont 95 % auraient été signalés par les systèmes automatisés, selon les données obtenues par le média américain.
Néanmoins, ce genre d’incident devrait être un signal d’alarme pour les réseaux sociaux, qui doivent être plus vigilants, a martelé de son côté Jacob Ware, chercheur au Conseil des relations étrangères.
“La réalité est que les médias sociaux sont devenus une ligne de front contre l’extrémisme et le terrorisme. Cela nécessitera des efforts de lutte plus sérieux et plus engagés”, a-t-il ajouté.
