Les deepfakes non consensuels et sexuellement explicites de Taylor Swift sont devenus viraux sur X mercredi, récoltant plus de 27 millions de vues et plus de 260 000 likes en 19 heures avant la suspension du compte qui a publié les images.
Les deepfakes représentant Swift nu et dans des scénarios sexuels continuent de proliférer sur X, y compris les rediffusions des images virales deepfake. De telles images peuvent être générées avec des outils d’IA qui développent de fausses images entièrement nouvelles, ou elles peuvent être créées en prenant une image réelle et en la « déshabillant » avec des outils d’IA.
L’origine des images n’est pas claire, mais un filigrane dessus indique qu’elles proviennent d’un site Web vieux de plusieurs années, connu pour publier de fausses images nues de célébrités. Le site Web a une partie de son site Web intitulée « AI deepfake ».
Reality Defender, une société de logiciels de détection d’IA, a numérisé les images et a déclaré qu’il y avait de fortes chances qu’elles aient été créées avec la technologie d’IA.
La prolifération massive des images pendant près d’une journée met en lumière la propagation de plus en plus alarmante des contenus générés par l’IA et de la désinformation en ligne. Malgré l’escalade du problème ces derniers mois, les plateformes technologiques comme X, qui ont développé leurs propres produits d’IA générative, n’ont pas encore déployé ou discuté d’outils pour détecter le contenu d’IA générative qui va à l’encontre de leurs directives.
Les deepfakes les plus vus et partagés de Swift la représentaient nue dans un stade de football. Swift a fait face à des mois de misogyne attaques pour avoir soutenu son partenaire, le joueur des Chiefs de Kansas City Travis Kelce, en assistant à des matchs de la NFL. Swift a reconnu la réaction lors d’une interview avec Time, en disant: “Je ne sais pas si on me montre trop et si je fais chier quelques pères, Brads et Chads.”
X n’a pas immédiatement répondu à une demande de commentaire. Un représentant de Swift a refusé de commenter le dossier.
X a banni a manipulé des médias qui pourraient nuire à des personnes spécifiques, mais a été lent ou omis à plusieurs reprises de résoudre le problème des deepfakes sexuellement explicites sur la plate-forme. Début janvier, une star de Marvel âgée de 17 ans a déclaré avoir trouvé des deepfakes sexuellement explicites d’elle-même sur X et ne pas pouvoir les supprimer. Jeudi, NBC News a pu trouver un tel contenu sur X. Et en juin 2023, une revue de NBC News a trouvé des deepfakes sexuellement explicites non consensuels de stars de TikTok circulant sur la plateforme. Après que X ait été contacté pour commentaires, seule une partie du matériel a été supprimée.
Selon certains fans de Swift, Swift et X ne sont pas responsables de la suppression des images les plus marquantes de l’artiste – c’est le résultat d’une campagne de reportage de masse.
Après que « Taylor Swift AI » ait été tendance sur X, les fans de Swift ont commencé à inonder le hashtag de messages positifs à son sujet, selon une analyse réalisée par Blackbird.AI, une société qui œuvre pour protéger les organisations contre les attaques en ligne narratives utilisant la technologie de l’IA. « Protégez Taylor Swift » a également commencé à être une tendance jeudi.
L’une des personnes qui s’est attribué le mérite de la campagne de reportage a partagé deux captures d’écran avec NBC News des notifications qu’elle a reçues de X montrant que ses rapports ont abouti à la suspension de deux comptes partageant des deepfakes Swift pour avoir enfreint la règle de « comportement abusif » de X.
La femme qui a partagé les captures d’écran, qui a échangé des messages directs sous couvert d’anonymat, a déclaré qu’elle était de plus en plus perturbée par les récentes conséquences de la technologie de deepfake de l’IA sur les femmes et les filles de tous les jours.
“Ils ne prennent pas nos souffrances au sérieux, alors maintenant c’est à nous de dénoncer en masse ces personnes et de les faire suspendre”, a écrit la femme qui a dénoncé les deepfakes de Swift dans un message direct.
Aux États-Unis, des dizaines de lycéennes ont déclaré avoir été victimes de deepfakes. Il n’existe actuellement aucune loi fédérale américaine régissant la création et la diffusion de deepfakes sexuellement explicites et non consensuels.
Le représentant Joe Morelle, D.-NY, qui a présenté un projet de loi en mai 2023 qui criminaliserait les deepfakes sexuellement explicites non consensuels au niveau fédéral, posté sur X à propos des deepfakes Swift, en écrivant : « Encore un autre exemple de la destruction causée par les deepfakes. » Le projet de loi n’a pas progressé depuis son introduction, malgré le soutien d’une adolescente éminente victime de deepfake début janvier.
Carrie Goldberg, une avocate qui représente les victimes de deepfakes et d’autres formes de matériel sexuellement explicite et non consensuel depuis plus d’une décennie, a déclaré que même les entreprises et plateformes technologiques qui ont des règles contre les deepfakes ne parviennent pas à empêcher leur publication en ligne et leur propagation rapide par le biais de leurs services.
“La plupart des êtres humains n’ont pas des millions de fans qui se battront pour eux s’ils ont été victimes”, a déclaré Goldberg. “Même les plateformes qui ont des politiques de deepfake, elles ne sont pas très douées pour les faire respecter, ou surtout si le contenu s’est répandu très rapidement, cela devient le scénario typique d’une taupe.”
« Tout comme la technologie crée le problème, elle constitue également la solution évidente », a-t-elle poursuivi. « L’IA sur ces plateformes peut identifier ces images et les supprimer. S’il y a une seule image qui prolifère, cette image peut également être filigranée et identifiée. Il n’y a donc aucune excuse.