La crise du deepfake porno qui affecte les écoles coréennes

“J’étais pétrifié, je me sentais très seul”, a déclaré Heejin à la BBC.

Deux jours plus tôt, la journaliste sud-coréenne Ko Narin avait publié ce qui allait devenir le plus gros scoop de sa carrière. La police enquêtait récemment sur de faux réseaux pornographiques dans deux des meilleures universités du pays, et Ko était convaincu qu’il devait y en avoir davantage.

Il a commencé à chercher sur les réseaux sociaux et a découvert des dizaines de groupes de discussion sur l’application de messagerie Telegram, où les utilisateurs partageaient des photos de femmes qu’ils connaissaient et utilisaient un logiciel d’intelligence artificielle pour les transformer en fausses images pornographiques en quelques secondes.

“Chaque minute, les gens téléchargeaient des photos de filles qu’ils connaissaient et demandaient à être transformées en deepfakes” Ko a déclaré.

Ko a découvert que ces groupes ne ciblaient pas uniquement les étudiants. Il y avait des salles dédiées à certains instituts et même à des écoles. Si de nombreux contenus étaient créés avec des images d’un étudiant spécifique, on pourrait même lui attribuer sa propre chambre. Ces espaces virtuels, appelés « salles d’humiliation » ou « chambres d’amis d’amis », sont généralement soumises à des conditions d’accès strictes.

L’article de Ko dans le journal Hankyoreh a choqué la Corée du Sud. Lundi, la police a annoncé qu’elle envisageait d’ouvrir une enquête sur Telegram, à l’instar des autorités françaises, qui ont accusé le fondateur russe de Telegram de crimes liés à l’application. Le gouvernement a promis d’imposer des sanctions plus sévères aux personnes impliquées et le président a appelé à une meilleure éducation des jeunes.

Dans une déclaration fournie à la BBC, Telegram affirme « lutter activement contre les contenus préjudiciables sur sa plateforme, y compris la pornographie illégale ».

La BBC a vu des descriptions de plusieurs de ces discussions. L’une d’entre elles demande aux membres de publier plus de quatre photos d’une personne, ainsi que son nom, son âge et la région dans laquelle elle vit.

“J’ai été surpris de voir à quel point le processus était systématique et organisé”, a déclaré Ko. “La chose la plus horrible que j’ai découverte était un groupe d’élèves mineurs dans une école qui comptait plus de 2 000 membres.”

Dans les jours qui ont suivi la publication de l’article de Ko, des militants des droits des femmes ont également commencé à parcourir Telegram et à suivre des pistes.

A la fin de cette semaine, Plus de 500 écoles et universités ont été identifiées comme cibles. Le nombre réel de personnes concernées n’a pas encore été déterminé, mais beaucoup d’entre elles auraient moins de 16 ans, qui est l’âge du consentement en Corée du Sud. La plupart des auteurs présumés sont des adolescents.

Heejin a déclaré que connaître l’ampleur de la crise avait aggravé son anxiété, car elle s’inquiétait maintenant du nombre de personnes qui auraient pu la voir. deepfakes. Au début, elle s’en voulait. “Je ne pouvais pas m’empêcher de penser que si cela s’était produit parce que j’avais publié mes photos sur les réseaux sociaux, aurais-je dû être plus prudent ?”

Depuis lors, des dizaines de femmes et d’adolescents à travers le pays ont supprimé leurs photos des réseaux sociaux ou désactivé leurs comptes, craignant d’être ensuite exploités.

“Nous sommes frustrés et en colère de devoir censurer notre comportement et notre utilisation des médias sociaux alors que nous n’avons rien fait de mal”, a déclaré Ah-eun, un étudiant universitaire dont les camarades de classe ont été pris pour cible.

Ah-eun a expliqué que la police avait dit à une victime de son université de ne pas se donner la peine de poursuivre son affaire car il serait trop difficile d’attraper l’agresseur. D’ailleurs, “ce n’était pas vraiment un crime”, car “les photos étaient fausses”.

Au centre de ce scandale se trouve l’application de messagerie Telegram. L’application est connue pour avoir une position de modération « légère » et est accusée depuis des années de ne pas en faire assez pour contrôler le contenu et, en particulier, les groupes.

Cela en a fait un espace privilégié pour l’épanouissement des comportements criminels.

La semaine dernière, les responsables politiques et la police ont réagi avec force, promettant d’enquêter sur ces crimes et de traduire leurs auteurs en justice.

Le lundi, La police nationale de Séoul a annoncé qu’elle enquêterait sur Telegram pour son rôle dans la diffusion de fausses images pornographiques d’enfants.

Le fondateur de l’application, Pavel Durov, a été inculpé en France la semaine dernière de complicité dans plusieurs délits liés à l’application, notamment le partage de pédopornographie.

Mais Des militantes des droits des femmes accusent les autorités sud-coréennes d’autoriser les abus sexuels sur Telegram laisser mijoter sans contrôle pendant trop longtemps, car la Corée a déjà été confrontée à cette crise.

En 2019, il est apparu qu’un réseau sexuel utilisait Telegram pour contraindre les femmes et les enfants à créer et à partager des images sexuellement explicites d’eux-mêmes.

La police a alors demandé de l’aide à Telegram dans son enquête, mais l’application a ignoré leurs sept demandes. Bien que le meneur ait été condamné à plus de 40 ans de prison, aucune mesure n’a été prise contre la plateforme en raison des craintes liées à la question de la censure.

“Ils ont condamné les principales personnes impliquées, mais ils ont ignoré la situation, et je pense que cela a aggravé la situation”, a déclaré Ko.

Park Jihyun, qui a dénoncé le réseau sexuel Nth Room en 2019 alors qu’il était étudiant en journalisme, est devenu un défenseur politique des victimes de crimes sexuels numériques. Elle affirme que, depuis que le scandale des deepfakes a éclaté, les étudiants et les parents l’appellent en pleurant plusieurs fois par jour.

“Ils ont vu leur école figurer sur la liste partagée sur les réseaux sociaux et ils sont terrifiés.”

Park a lancé des appels au gouvernement pour qu’il réglemente, voire interdise, l’application en Corée du Sud. “Si ces entreprises technologiques ne coopèrent pas avec les forces de l’ordre, L’État doit les réglementer pour protéger ses citoyens“, a-t-il déclaré.

Avant que cette dernière crise n’éclate, le Centre sud-coréen de défense des victimes d’abus sexuels en ligne remarquait déjà une forte augmentation du nombre de victimes mineures de pornographie. faux profonds.

En 2023, ils ont conseillé 86 adolescentes victimes. Au cours des huit premiers mois de cette année, ce nombre est passé à 238. Rien que la dernière semaine, 64 autres victimes adolescentes se sont manifestées.

L’un des responsables du centre, Park Seonghye, a assuré que la semaine dernière, ses collaborateurs avaient reçu une avalanche d’appels et travaillaient sans relâche. “Pour nous, il s’agit d’une urgence à grande échelle, comme une situation de guerre”, a-t-il déclaré.

“Avec la dernière technologie faux profondsil y a maintenant beaucoup plus d’images qu’avant, et nous craignons qu’elles augmentent.”

En plus de conseiller les victimes, le centre suit les contenus préjudiciables et travaille avec des plateformes en ligne pour les supprimer. Park explique que dans certains cas, Telegram a supprimé du contenu à la demande des victimes. “Ce n’est donc pas impossible”, a-t-il noté.

Dans un communiqué, Telegram a expliqué à la BBC que ses modérateurs “surveillent de manière proactive les parties publiques de l’application, utilisent des outils d’intelligence artificielle et acceptent les rapports des utilisateurs pour supprimer chaque jour des millions de contenus qui violent les conditions de service de Telegram”.

Même si les organisations de défense des droits des femmes reconnaissent que les nouvelles technologies d’intelligence artificielle facilitent l’exploitation des victimes, elles maintiennent qu’il s’agit de la dernière forme de misogynie en date en Corée du Sud.

Premièrement, les femmes ont subi des vagues de violence verbale en ligne. Puis vint l’épidémie de caméras espion, au cours de laquelle les gens étaient secrètement filmés dans les toilettes publiques et les vestiaires.

“La racine de tout cela est le sexisme structurel et la solution est l’égalité des sexes.“, indique une déclaration signée par 84 groupes de femmes.

Il s’agit d’une critique directe du président du pays, Yoon Suk Yeol, qui a nié l’existence d’un sexisme structurel, a réduit le financement des groupes de soutien aux victimes et a supprimé le ministère de l’Égalité des sexes.

Lee Myung-hwa, qui soigne les jeunes délinquants sexuels, convient que même si l’épidémie de deepfakes Cela peut paraître soudain, cela faisait longtemps que cela se cachait sous la surface.

“Pour les adolescents, deepfakes “Ils font désormais partie de leur culture, ils le voient comme un jeu ou une blague”, a déclaré le conseiller, qui dirige le Centre culturel de la jeunesse Aha Séoul.

Lee a déclaré qu’il est essentiel d’éduquer les jeunes. Il a assuré qu’il existe des études qui montrent que lorsqu’on explique aux délinquants ce qu’ils ont fait de mal, ils sont plus conscients de ce qui est considéré comme un abus sexuel et ne récidivent pas.

Néanmoins, Le gouvernement a annoncé qu’il augmenterait les sanctions pour ceux qui créent et partagent de fausses images. Il punira également ceux qui les verront.

Cela est dû aux critiques reçues pour ne pas avoir puni les auteurs. L’un des problèmes est que les criminels sont pour la plupart des adolescents, qui sont généralement jugés par des tribunaux pour mineurs, où ils reçoivent des peines plus légères.

Depuis la découverte des forums de discussion, beaucoup ont fermé leurs portes, mais de nouveaux prendront certainement leur place. Une salle d’humiliation a déjà été créée pour les journalistes qui couvrent cette histoire. Ko, qui a annoncé la nouvelle, dit que cela l’a empêché de dormir la nuit. “Je continue de regarder dans la pièce pour voir s’ils ont posté ma photo”, explique-t-il.

Cette anxiété s’est étendue à presque toutes les adolescentes et jeunes femmes de Corée du Sud. Ah-eun, une étudiante, a déclaré que cela l’avait amenée à se méfier de ses connaissances masculines.

“Maintenant, je ne peux pas être sûre qu’ils ne commettent pas ces crimes dans mon dos, sans que je le sache”, dit-elle. “Je suis devenue hypervigilante dans toutes mes interactions avec les gens, ce qui ne peut pas être une bonne chose.”

Reportages supplémentaires de Hosu Lee et Suhnwook Lee

Et n’oubliez pas que vous pouvez recevoir des notifications dans notre application. Téléchargez la dernière version et activez-les.