Des militants portant des masques pour les yeux tiennent des pancartes sur lesquelles on peut lire « Crimes sexuels deepfakes répétés, l’État est également complice », lors d’une manifestation contre les deepfakes sexuellement abusifs à Séoul, en Corée du Sud, le 30 août.
Anthony Wallace/AFP via Getty Images
masquer la légende
basculer la légende
Anthony Wallace/AFP via Getty Images
SÉOUL, Corée du Sud — Des étudiantes de tous âges, des enseignantes, des militaires et désormais des journalistes… De plus en plus de femmes sud-coréennes ordinaires découvrent qu’elles sont la cible d’une forme d’abus sexuel en ligne en plein essor : les deepfakes.
Les autorités sud-coréennes s’efforcent de réagir après que les médias locaux et des efforts participatifs ont récemment découvert un grand nombre de salles de discussion sur l’application de messagerie Telegram qui diffusent de fausses images et vidéos sexuelles réalisées avec l’intelligence artificielle.
La police nationale coréenne, qui a annoncé la semaine dernière une répression contre les deepfakes sexuellement abusifs, a déclaré lundi qu’elle avait ouvert une enquête sur Telegram pour d’éventuelles accusations de complicité dans la diffusion de deepfakes sexuellement explicites sur sa plateforme.
L’agence affirme que c’est la première fois que les forces de l’ordre sud-coréennes enquêtent sur l’entreprise, dont le fondateur Pavel Durov a été arrêté et inculpé en France le mois dernier pour une activité illégale présumée sur la plateforme.
Remi Vaughn, porte-parole de Telegram, a déclaré à NPR que la société « a activement supprimé les contenus signalés en Corée qui enfreignaient ses conditions de service et continuera de le faire ».
La Commission coréenne des normes de communication, l’organisme de surveillance des médias du gouvernement, a déclaré que Telegram s’était conformé à sa demande et avait supprimé 25 deepfakes spécifiés par la commission.
Selon des journalistes et des militants qui ont surveillé certaines salles de discussion, une écrasante majorité des victimes de deepfake en Corée du Sud sont des femmes et des adolescentes.
Selon les médias locaux, les auteurs de ces méfaits s’emparent des images de leurs victimes sur les réseaux sociaux à leur insu et sans leur consentement. Ils prennent également en secret des photos de femmes qui les entourent, à la maison ou à l’école. Ils modifient ensuite les images à l’aide de l’intelligence artificielle et partagent les résultats sur Telegram avec des inconnus ou des utilisateurs qui connaissent la victime.
Certaines des salles de discussion, qui apparaissent dans les recherches de termes tels que « salle de connaissance mutuelle » ou « salle d’humiliation », comptent des milliers de participants.
Le nombre de ces salles de discussion sur Telegram et l’ampleur de leurs abus présumés ne sont pas connus. De nombreuses salles de discussion sont fermées et accessibles uniquement avec un lien d’invitation ou l’autorisation de l’administrateur de la salle de discussion, et certaines auraient fermé depuis que les militants et les médias ont commencé à les surveiller.
Dans un message publié jeudi sur Telegram, le fondateur et PDG de la plateforme, Durov, a déclaré que la société s’était « engagée à collaborer avec les régulateurs pour trouver le bon équilibre » entre confidentialité et sécurité, tout en reconnaissant que la plateforme était devenue « plus facile à abuser pour les criminels ».
Mais les données des forces de l’ordre et des agences gouvernementales sud-coréennes montrent une forte augmentation des crimes sexuels numériques impliquant de fausses images dans le pays.
L’organisme gouvernemental de surveillance des médias a déclaré avoir reçu près de 6 500 demandes de lutte contre les vidéos deepfake sexuellement abusives entre janvier et juillet de cette année, soit quatre fois le volume des demandes de la même période l’année dernière.
Selon la police, au cours des sept premiers mois de cette année, 297 cas de crimes impliquant des deepfakes sexuellement explicites ont été signalés, contre 180 pour toute l’année 2023.
De nombreuses victimes et auteurs de ces abus sont des adolescents. Sur les 178 suspects arrêtés par la police au cours de cette période de sept mois, 74 % étaient âgés de 10 à 19 ans, contre 65 % en 2021. Et plus de la moitié des deepfakes détectés et effacés cette année par le Centre de défense des victimes d’abus sexuels en ligne, géré par le gouvernement, concernaient des mineurs.
Les auteurs de ces violences intimident les femmes
La Corée du Sud lutte depuis longtemps contre les crimes sexuels, notamment le tournage illégal, la diffusion non consensuelle d’images sexuellement explicites, le toilettage en ligne et le chantage sexuel.
Selon les experts en crimes sexuels en ligne, les créateurs de ce type de deepfakes qui sévissent sur Telegram ciblent souvent des femmes qu’ils connaissent personnellement plutôt que des inconnus.
Pour les victimes, les dommages causés par de telles agressions perpétrées par une personne qu’elles connaissent vont au-delà de la simple violation de leur vie privée, explique Chang Dahye, chercheur à l’Institut coréen de criminologie et de justice de Séoul, qui a étudié les agressions sexuelles en ligne.
« Ils perdent confiance dans leur communauté », explique Chang. « Ils craignent de ne plus pouvoir continuer à vivre au quotidien avec les gens qui les entourent. En fait, leur confiance dans les relations sociales s’effondre. »
Ce qui différencie également les deepfakes sexuellement abusifs des autres crimes, selon Chang, c’est leur objectif.
Certains auteurs sont motivés par l’argent ou la rancune.
Mais, explique Chang, « pour la plupart des hommes qui consomment ces contenus, le but est de rabaisser les femmes en général. »
Elle explique que les deepfakes mettent l’accent sur les visages identifiables et s’accompagnent souvent de harcèlement sexuel verbal.
« C’est une forme d’expression de la misogynie et de la colère envers les femmes. En se moquant des femmes et en les rabaissant, ils obtiennent une reconnaissance mutuelle », explique Chang.
Dans une déclaration commune la semaine dernière, des groupes de défense des droits des femmes ont déclaré que la « cause profonde » des abus sexuels récurrents en ligne était le sexisme. Ils ont reproché au gouvernement du président Yoon Suk Yeol de ne pas avoir reconnu ce fait et d’avoir laissé le problème s’aggraver.
Yoon a déclaré que « le sexisme structurel n’existe plus » en Corée du Sud et s’est engagé à abolir le ministère de l’Égalité des sexes et de la Famille du pays.
Le poste de ministre est vacant depuis février et le budget du ministère pour la prévention des violences faites aux femmes et l’aide aux victimes a connu une réduction significative cette année. Dans un projet de budget récemment annoncé pour l’année prochaine, le fonds attribué au Centre de défense des victimes d’abus sexuels en ligne, qui supprime les contenus d’abus sexuels en ligne, a diminué par rapport à l’année précédente, malgré la charge de travail croissante du centre.
Malgré ces coupes budgétaires, un groupe de travail d’urgence composé de plusieurs agences gouvernementales et le Parti du pouvoir populaire au pouvoir se sont récemment engagés à renforcer les enquêtes et les sanctions pour les crimes de deepfake et à accroître le soutien aux victimes.
Les lois relatives aux abus sexuels en ligne se sont développées au coup par coup, en essayant de rattraper les nouveaux types de crimes issus des nouvelles technologies. Selon Chang, de l’Institut coréen de criminologie et de justice, il existe un écart constant entre ce que les victimes perçoivent comme un préjudice et ce que la loi considère comme un crime.
Même lorsqu’un acte est passible de poursuites en vertu de la loi, qui criminalise actuellement les documents falsifiés ou falsifiés qui « peuvent provoquer un désir sexuel ou une honte » et sont créés « dans le but d’être diffusés », les auteurs échappent souvent à toute sanction.
L’année dernière, le taux d’arrestation pour faux contenus sexuels était de 48 %, bien inférieur au taux des autres formes d’agression sexuelle numérique, selon les statistiques de la police.
Et selon une analyse de la chaîne de télévision sud-coréenne MBC, même si les auteurs sont jugés par un tribunal, environ la moitié d’entre eux bénéficient de peines avec sursis.
Selon Chang, le système juridique peine encore à reconnaître les abus sexuels en ligne comme des crimes graves impliquant de véritables victimes. « Dans de nombreux cas, les juges estiment que les dommages ne sont pas aussi graves que dans le cas de violences sexuelles impliquant un contact physique direct », explique-t-elle.
Anthony Kuhn, correspondant de NPR, a contribué à ce reportage depuis Séoul, en Corée du Sud.
