(Bloomberg) — Les deepfakes pornographiques de Taylor Swift qui ont proliféré sur les réseaux sociaux à la fin du mois dernier proviennent d’un défi en ligne visant à briser les mécanismes de sécurité conçus pour empêcher les gens de générer des images obscènes avec l’intelligence artificielle, selon la société d’analyse des réseaux sociaux Graphika.
Pendant des semaines, les utilisateurs du forum Internet 4chan ont participé à des concours quotidiens pour trouver des mots et des expressions qui pourraient les aider à contourner les filtres des services de génération d’images populaires, notamment Microsoft Designer et DALL-E d’OpenAI, ont découvert les chercheurs. Le but ultime était de créer des images sexuelles de personnalités féminines éminentes telles que des chanteuses et des politiciennes.
“Bien que les images pornographiques virales de Taylor Swift aient attiré l’attention du grand public sur la question des images intimes non consensuelles générées par l’IA, elle est loin d’être la seule victime”, a déclaré Cristina López G., analyste principale chez Graphika, dans un e-mail. « Dans la communauté 4chan d’où proviennent ces images, elle n’est même pas la personnalité publique la plus fréquemment ciblée. Cela montre que n’importe qui peut être ciblé de cette manière, des célébrités mondiales aux écoliers. »
Un représentant de 4chan n’a pas répondu à une demande de commentaire.
Selon l’analyse de Graphika, les deepfakes sont apparus sur cette chaîne début janvier avant de passer à Telegram puis à X, qui a été contraint de bloquer toutes les recherches sur Taylor Swift après que des images obscènes ont suscité l’indignation. L’une des images est restée sur X pendant 17 heures et a été vue plus de 45 millions de fois, selon Verge.
De nombreuses sociétés de génération de texte en image ont interdit certains mots-clés pour empêcher les utilisateurs de générer du contenu préjudiciable. Cependant, certains utilisateurs de 4chan et d’autres forums en ligne ont partagé des conseils sur la manière de contourner ces mesures de sécurité.
“Ces images proviennent d’une communauté de personnes motivées par le ‘défi’ de contourner les garanties des produits d’IA générative, et les nouvelles restrictions sont considérées comme un simple obstacle de plus à la ‘défaite'”, a déclaré López G.. « Il est important de comprendre la nature ludique de cette activité malveillante afin de prévenir de nouveaux abus à la source. »
Les images virales de Swift ont contribué à placer les deepfakes non consensuels en tête de l’agenda politique, après des années d’inquiétudes de la part des experts selon lesquelles la technologie devenait incontrôlable. La Maison Blanche a publié une déclaration condamnant les images de Swift, et le député Joe Morelle, un démocrate de New York, a déclaré qu’il espérait que l’incident attirerait l’attention sur ses efforts visant à faire de la pornographie deepfake un crime fédéral passible d’amendes et de peines de prison.
Sur la chaîne 4chan, Swift n’est qu’une des nombreuses célébrités dont l’image a été utilisée pour créer des images sexuelles ou violentes. D’autres incluent Billie Eilish, Ariana Grande et Emma Watson. Les représentants de Swift, Eilish, Grande et Watson n’ont pas répondu aux demandes de commentaires.
Au 30 janvier, des demandes de deepfake Swift étaient toujours en cours, dont au moins une qui cherchait des images violentes d’elle.
La pornographie deepfake de célébrités est disponible sur Internet sur de nombreux sites Web depuis des années, mais les cas impliquant des gens ordinaires se multiplient parallèlement à la sophistication et à la facilité avec lesquelles les gens peuvent accéder à la technologie, selon les experts. Les victimes ont souvent peu de recours et peinent à faire retirer les images.
©2024 Bloomberg LP
2024-02-05 14:18:26
1707132573
#Les #Deepfakes #Taylor #Swift #proviennent #dun #défi #dIA #selon #rapport