les images de Taylor Swift créent confusion et controverse

Dans un cas illustrant la propagation croissante de la pornographie générée par l’IA, un incident controversé s’est produit sur la plateforme de médias sociaux X (anciennement Twitter). Des images explicites, créées artificiellement, représentant la célèbre chanteuse Taylor Swift ont circulé massivement ces derniers jours., soulevant des questions sur l’efficacité des contrôles contre la diffusion de tels contenus. L’une des affaires les plus médiatisées sur Le message est resté actif sur les réseaux sociaux d’Elon Musk pendant environ 17 heures avant d’être supprimé.

À mesure que les discussions autour de la publication virale s’intensifiaient, les images ont commencé à se propager et à être republiées sur d’autres comptes. Beaucoup d’entre eux restent en ligne et un flot de nouvelles contrefaçons graphiques est apparue entre-temps. Dans certaines régions, le hashtag « Taylor Swift AI » est devenu un sujet tendance, promouvant davantage les images auprès d’un public plus large. Un rapport de 404 Médias a dévoilé que les images peuvent provenir d’un groupe sur Telegram, où les utilisateurs partagent des images explicites générées par l’IA, souvent créées avec Microsoft Designer. Les utilisateurs du groupe auraient plaisanté sur la façon dont les images de Swift sont devenues virales sur X.

Les fans de Taylor Swift ont inondé la plateforme de rapports faisant état de contrefaçons explicites. Les politiques de X concernant les médias synthétiques et manipulés et la nudité non consensuelle interdisent explicitement ce type de contenu sur la plateforme, mais Les fans de Swift ont critiqué X pour avoir permis à de nombreuses publications de rester en ligne aussi longtemps. En réponse, ils ont inondé les hashtags utilisés pour faire circuler les images avec des messages faisant la promotion de véritables clips de Swift en train de jouer, afin de cacher les contrefaçons explicites.

L’incident met en évidence le véritable défi que représente l’arrêt de la pornographie deepfake et des images d’IA de personnes réelles. Certains générateurs d’images ont des restrictions qui empêchent la production d’images pornographiques et photoréalistes de célébrités, notamment sur X, qui permet un contenu beaucoup plus explicite que les autres réseaux sociaux. L’entreprise fait actuellement l’objet d’une enquête de la part de l’UE pour des allégations selon lesquelles elle serait utilisée pour « diffuser des contenus illégaux et de la désinformation ». et est confronté à des questions sur ses protocoles de crise après la révélation de la diffusion de fausses informations sur la guerre entre Israël et le Hamas via la plateforme.