Une fausse vidéo sexuellement explicite de l’animatrice de podcast Bobbi Althoff s’est rapidement répandue mardi après-midi, ajoutant aux récents défis de la plateforme dans la répression des deepfakes de célébrités féminines.
Althoff, une créatrice à succès devenue podcasteuse sur TikTok qui a interviewé des rappeurs dont Drake et Offset dans son émission « The Really Good Podcast », a écrit dans une histoire Instagram mercredi matin que « la raison pour laquelle je suis tendance n’est pas à 100 % moi & est définitivement généré par l’IA.
X est devenu ces dernières semaines un terrain fertile pour les deepfakes non consensuels suite à la propagation virale en janvier d’images sexuellement explicites créées numériquement de Taylor Swift. Un tel contenu viole les X politique de nudité non consensuellequi interdit spécifiquement « les images ou vidéos qui superposent ou manipulent numériquement le visage d’un individu sur le corps nu d’une autre personne ».
X n’a pas répondu à une demande de commentaire.
Les messages représentant Althoff sont restés sur X pendant près de 24 heures, et de nouveaux messages contenant la vidéo ont continué à être publiés mercredi après-midi, beaucoup d’entre eux sollicitant des likes et des partages – un effort connu sous le nom d’« engagement farm » qui peut parfois être monétisé.
Genevieve Oh, une chercheuse Internet indépendante qui a suivi la montée des deepfakes, a partagé mercredi des données avec NBC News qui ont suivi plus de 40 publications sur X contenant la vidéo deepfake d’Althoff ou des liens vers le matériel. Un seul des messages a été supprimé pour violation des règles de X, et le compte qui l’a publié n’a pas été banni. Les messages collectés par Oh ont recueilli plus de 6,5 millions de vues en moins de 24 heures.
Oh a également partagé des données montrant que les vues de deepfakes d’Althoff sur des sites Web spécialisés dans la pornographie deepfake ont fortement augmenté après que la vidéo ait été diffusée sur X.
Althoff n’a pas répondu à une demande de commentaire.
Oh a noté que la vidéo deepfake d’Althoff publiée sur X mardi a également migré vers Reddit.
Un examen par NBC News de dizaines de publications X récentes portant le nom d’Althoff a révélé que de nombreuses publications montraient des signes d’activité inauthentique et de ferme d’engagement, beaucoup répétant textuellement la même légende qui encourageait les gens à aimer la publication afin de recevoir une « fuite ». » d’Althoff. « Fuites de Bobbi Althoff » était un terme de recherche recommandé sur X mercredi. De nombreux articles mentionnaient également une « fuite » de Rubi Rose, un rappeur dont la popularité a augmenté à peu près en même temps que la présence en ligne d’Althoff. Qualifier le matériel de « fuites » implique qu’il est authentique, alors qu’il s’agit en réalité d’un média manipulé.
Certaines des publications utilisant cette stratégie proviennent de comptes X qui ont des coches bleues, ce qui signifie qu’ils paient pour X Premium. Les comptes Premium peuvent choisir de monétiser l’engagement sur leurs publications.
Quelques comptes vérifiés sur X utilisent souvent des médias manipulés pour créer des abonnés importants, puis gagner de l’argent en promouvoir les crypto-monnaies ou d’autres produits.
