NEW YORK (AP) – Un fléau d’images pornographiques deepfake générées par l’intelligence artificielle et sexualisant des personnes sans leur consentement a frappé sa victime la plus célèbre, la chanteuse Taylor Swift, attirant l’attention sur un problème que les plateformes technologiques et les groupes anti-abus ont eu du mal à résoudre. .
De fausses images sexuellement explicites et abusives de Swift ont commencé à circuler largement cette semaine sur la plateforme de médias sociaux X.
Ses fervents fans de « Swifties » se sont rapidement mobilisés, lançant une contre-offensive sur la plateforme anciennement connue sous le nom de Twitter et un hashtag #ProtectTaylorSwift pour l’inonder d’images plus positives de la pop star. Certains ont déclaré qu’ils signalaient des comptes partageant des deepfakes.
Le groupe de détection de deepfakes Reality Defender a déclaré avoir suivi un déluge de matériel pornographique non consensuel représentant Swift, en particulier sur X. Certaines images ont également été diffusées sur Facebook, propriété de Meta, et sur d’autres plateformes de médias sociaux.
“Malheureusement, ils se sont propagés à des millions et des millions d’utilisateurs au moment où certains d’entre eux ont été supprimés”, a déclaré Mason Allen, responsable de la croissance de Reality Defender.
Les chercheurs ont trouvé au moins deux douzaines d’images uniques générées par l’IA. Les plus largement partagées étaient liées au football, montrant un Swift peint ou ensanglanté qui l’objectivait et, dans certains cas, infligeait des dommages violents à son faux personnage.
Les chercheurs ont déclaré que le nombre de deepfakes explicites avait augmenté au cours des dernières années, à mesure que la technologie utilisée pour produire de telles images est devenue plus accessible et plus facile à utiliser. En 2019, un rapport publié par la société d’IA DeepTrace Labs montrait que ces images étaient majoritairement utilisées comme une arme contre les femmes. La plupart des victimes, selon le communiqué, étaient des acteurs hollywoodiens et des chanteurs de K-pop sud-coréens.
Lorsqu’il a été contacté pour commenter les fausses images de Swift, X a dirigé l’AP vers un message de son compte de sécurité indiquant que la société interdisait strictement le partage d’images nues non consensuelles sur sa plateforme.
“Nos équipes suppriment activement toutes les images identifiées et prennent les mesures appropriées contre les comptes responsables de leur publication”, a écrit la société dans le post X vendredi matin. “Nous surveillons de près la situation pour garantir que toute nouvelle violation soit immédiatement corrigée et que le contenu soit supprimé.”
Dans le même temps, Meta a déclaré dans un communiqué qu’elle condamnait fermement « le contenu apparu sur différents services Internet » et s’efforçait de le supprimer.
“Nous continuons de surveiller nos plateformes pour détecter tout contenu violant et prendrons les mesures appropriées si nécessaire”, a déclaré la société.
Un représentant de Swift n’a pas immédiatement répondu à une demande de commentaires vendredi.
Allen a déclaré que les chercheurs sont sûrs à 90 % que les images ont été créées par des modèles de diffusion, qui sont un type de modèle d’intelligence artificielle générative capable de produire de nouvelles images photoréalistes à partir de messages écrits. Les plus connus sont Stable Diffusion, Midjourney et DALL-E d’OpenAI. Le groupe d’Allen n’a pas essayé de déterminer la provenance.
Les législateurs fédéraux qui ont présenté des projets de loi visant à imposer davantage de restrictions ou à criminaliser la pornographie deepfake ont indiqué que l’incident montre pourquoi les États-Unis doivent mettre en œuvre de meilleures protections.
“Pendant des années, les femmes ont été victimes de deepfakes non consensuelles, donc ce qui est arrivé à Taylor Swift est plus courant que la plupart des gens ne le pensent”, a déclaré la représentante américaine Yvette D. Clarke, une démocrate de New York qui a présenté une législation obligeant les créateurs à filigraner numériquement le contenu deepfake.
“Generative-AI aide à créer de meilleurs deepfakes à une fraction du coût”, a déclaré Clarke.
Le représentant américain Joe Morelle, un autre démocrate de New York qui défend un projet de loi qui criminaliserait le partage de pornographie deepfake en ligne, a déclaré que ce qui est arrivé à Swift était inquiétant et était devenu de plus en plus répandu sur Internet.
“Les images sont peut-être fausses, mais leurs impacts sont bien réels”, a déclaré Morelle dans un communiqué. “Les deepfakes arrivent chaque jour aux femmes du monde entier dans notre monde de plus en plus numérique, et il est temps d’y mettre un terme.”
2024-01-26 22:50:50
1706301329
#Les #fans #Taylor #Swift #ripostent #après #diffusion #ligne #fausses #images #explicites #delle