Sur cette photo d’illustration, la page d’accueil de l’application ChatGPT d’OpenAI s’affiche sur l’écran d’un ordinateur portable le 3 février 2023. Cette semaine, OpenAI a déclaré avoir utilisé ses propres modèles d’IA pour détecter les opérations d’influence secrètes.
Leon Neal/Getty Images Europe
masquer la légende
basculer la légende
Leon Neal/Getty Images Europe
OpenAI affirme avoir interdit un groupe de comptes ChatGPT après avoir découvert des preuves que les utilisateurs étaient liés à un groupe iranien tentant de semer la division parmi les électeurs américains.
Dans un communiqué publié vendredi, OpenAI a déclaré avoir découvert des articles en ligne et des commentaires sur les réseaux sociaux créés à l’aide de ChatGPT. Le contenu n’a pas eu beaucoup de succès, mais s’est concentré sur un certain nombre de questions controversées, notamment l’élection présidentielle américaine, la guerre d’Israël à Gaza et la présence d’Israël aux Jeux olympiques. Les contenus générés par l’IA s’adressaient à la fois à un public progressiste et conservateur.
« Cette opération ne semble pas avoir suscité un engagement significatif de la part du public. La majorité des publications sur les réseaux sociaux que nous avons identifiées ont reçu peu ou pas de likes, de partages ou de commentaires », a déclaré OpenAI.
L’enquête a révélé que des articles longs générés par l’IA ont été publiés sur des sites Web se faisant passer pour des organes de presse. Parallèlement, OpenAI a déclaré que les comptes désormais interdits composaient des commentaires sur les réseaux sociaux – en anglais et en espagnol – en demandant à ChatGPT de réécrire des commentaires déjà publiés par d’autres utilisateurs des réseaux sociaux.
« Ils ont entrecoupé leur contenu politique avec des commentaires sur la mode et la beauté, peut-être pour paraître plus authentiques ou dans le but de se constituer une audience », a déclaré la société.
L’enquête interne d’OpenAI intervient une semaine après la publication du rapport du Centre d’analyse des menaces de Microsoft, qui a montré comment des groupes liés au gouvernement iranien utilisaient un éventail de tactiques en ligne pour tenter de s’immiscer dans l’élection présidentielle américaine.
Un jour après la publication du rapport de Microsoft, l’équipe de campagne de Donald Trump a déclaré avoir été piratée et accusé des acteurs iraniens d’avoir volé des documents internes sensibles. L’équipe de campagne n’a pas fourni de preuves spécifiques. Mercredi, le groupe d’analyse des menaces de Google a déclaré avoir détecté et déjoué une opération de phishing menée par des pirates iraniens visant à la fois les campagnes de Trump et de Biden-Harris.
Quel est le motif de cette opération liée à l’Iran ?
Selon OpenAI, ces comptes étaient liés à une opération secrète connue sous le nom de Storm-2035. La semaine dernière, des chercheurs de Microsoft ont découvert que le même groupe était à l’origine de quatre sites Web se faisant passer pour des médias américains.
Les faux sites ont amplifié les messages polarisants sur des questions brûlantes liées aux droits des LGBTQ et au conflit entre Israël et le Hamas. L’objectif est de semer le chaos et de susciter la polarisation parmi les électeurs américains à l’approche du jour du scrutin, selon Clint Watts, directeur général du Threat Analysis Center de Microsoft.
« L’Iran se concentre principalement sur le fait d’empêcher la tenue d’élections », a déclaré Watts à NPR la semaine dernière.
Microsoft et OpenAI ont tous deux signalé que les sites Web et le contenu généré par l’IA n’ont pas généré beaucoup de pages vues ni beaucoup d’engagement en ligne.
