Des chercheurs de Bochum et des collègues de Cologne et de Sarrebruck ont examiné combien de photos de profil créées avec l’intelligence artificielle (IA) existent dans le réseau social Twitter (maintenant appelé X). Ils ont analysé près de 15 millions de comptes et ont découvert que 0,052 % d’entre eux avaient une photo d’une personne générée par l’IA comme avatar. “Cela ne semble pas grand-chose au premier abord, mais de telles images sont visiblement présentes sur Twitter”, déclare l’auteur principal Jonas Ricker de l’Université de la Ruhr à Bochum. “Nos analyses indiquent également que de nombreux comptes sont de faux profils qui diffusent, entre autres, de la propagande politique ou des théories du complot.” L’équipe a présenté les travaux le 1er octobre 2024 à Padoue lors du 27e Symposium international sur la recherche en attaques, intrusions et défenses (RAID).
Les chercheurs de l’Université de la Ruhr à Bochum ont collaboré avec des collègues du Centre Helmholtz pour la sécurité de l’information CISPA de Sarrebruck et de l’Institut Leibniz des sciences sociales GESIS de Cologne. Les travaux se sont déroulés dans le cadre du pôle d’excellence sur la cybersécurité à l’ère des adversaires à grande échelle, abrégé MAISONau lieu de.
Des milliers de comptes avec de fausses photos de profil
“Avec l’aide de l’IA, vous pouvez désormais créer des images d’apparence trompeusement réelles qui peuvent être utilisées à mauvais escient sur les réseaux sociaux pour créer des comptes apparemment réels”, explique Jonas Ricker. Jusqu’à présent, l’ampleur de ces photos de profil générées par l’IA n’a guère été étudiée. Les chercheurs ont formé une intelligence artificielle pour qu’elle soit capable de distinguer les images réelles des images générées par l’IA. Grâce à ce modèle, ils ont analysé automatiquement les photos de profil d’environ 15 millions de comptes Twitter. Les données à cet effet datent de mars 2023. Les chercheurs ont exclu de leur ensemble de données tous les comptes qui n’utilisaient pas de photo de portrait comme avatar. Environ 43 pour cent de tous les comptes sont restés dans l’analyse. Le modèle a classé 7 723 d’entre eux comme générés par l’IA. Les chercheurs ont également vérifié les résultats manuellement de manière aléatoire.
Dans l’étape suivante, l’équipe a examiné le comportement des comptes contenant des images générées par l’IA par rapport aux comptes contenant des images de personnes réelles sur la plateforme. Les faux comptes d’images avaient en moyenne moins d’abonnés et suivaient également moins d’autres comptes eux-mêmes. “Il a également été constaté que plus de la moitié des faux comptes d’images n’ont été créés qu’en 2023 et que, dans certains cas, des centaines de comptes ont été créés en quelques heures, ce qui indique qu’il ne s’agit pas de vrais utilisateurs”, conclut Jonas Ricker. Neuf mois après la première collecte de données, les chercheurs ont vérifié si les faux comptes d’images et un nombre égal de comptes d’images réels étaient toujours actifs et ont constaté que plus de la moitié des faux comptes d’images étaient bloqués par Twitter à ce moment-là. “Une autre indication qu’il s’agit de comptes qui ont agi injustement”, déclare Ricker.
Désinformation et propagande politique
Les scientifiques ont également examiné le contenu avec lequel les faux comptes d’images sont apparus sur Twitter. Certains thèmes récurrents ont émergé, comme la politique – souvent liée à Trump –, le Covid-19 et les vaccinations, la guerre en Ukraine, les tombolas ou la finance incluant les cryptomonnaies. «Nous ne pouvons que spéculer sur ce qui se cache derrière cela», déclare Jonas Ricker. “Mais on peut supposer que certains comptes ont été créés spécifiquement pour diffuser de la désinformation ou de la propagande politique.”
À l’avenir, l’équipe souhaite continuer à travailler sur la détection automatisée de fausses images, y compris celles générées avec de nouveaux modèles d’IA. Dans cette étude, les scientifiques se sont limités au modèle « StyleGAN 2 », qui sous-tend le site Web thispersondoesnotexist.com. Cela peut être utilisé pour générer de fausses images de personnes en un seul clic. “Nous supposons que ce site est souvent utilisé pour générer des photos de profil générées par l’IA”, explique Ricker. “De telles images générées par l’IA sont plus difficiles à retracer que si quelqu’un utilise l’image réelle d’un inconnu pour son profil.”
Le travail a été soutenu par la Fondation allemande pour la recherche dans le cadre de la stratégie d’excellence (EXC 2092 CASA – 390781972), par le ministère fédéral de l’Éducation et de la Recherche dans le cadre de la subvention UbiTrans (16KIS1900), par le concours de l’association Leibniz (P101/2020). ) et par le Service allemand d’échanges universitaires .
Publication originale
Jonas Ricker, Dennis Assenmacher, Thorsten Holz, Asja Fischer, Erwin Quiring : AI-Generated Faces in the Real World : A Large-Scale Case Study of Twitter Profile Images, 27e Symposium international sur la recherche sur les attaques, les intrusions et les défenses (RAID), Padoue, Italie, 2024, Téléchargement papier
#Quelle #est #fréquence #des #fausses #photos #profil #sur #Twitter #Portail #dactualités