OpenAI : la Russie et la Chine auraient utilisé l’IA pour des campagnes secrètes

Le développeur IA OpenAI a affirmé avoir découvert plusieurs campagnes de désinformation menées par des acteurs étatiques utilisant ChatGPT pour manipuler l’opinion publique. Dans un article de blog La société américaine a annoncé que les campagnes avaient été arrêtées. Ceux-ci proviennent de Russie, de Chine, d’Iran et de la société israélienne STOIC.

Les acteurs ont essayé d’utiliser les modèles de langage d’OpenAI pour des tâches telles que générer des commentaires, des articles, des profils sur les réseaux en ligne et tester le code des robots et des sites Web. “Ces opérations ne semblent pas avoir bénéficié d’une activité utilisateur ou d’une portée significativement accrue via nos services”, a déclaré OpenAI.

Les campagnes ont utilisé des traductions IA

Selon OpenAI, les tentatives de désinformation déjouées comprenaient une campagne russe jusqu’alors inconnue appelée Bad Grammar, qui aurait ciblé l’Ukraine, la Moldavie, les États baltes et les États-Unis. OpenAI a déclaré avoir utilisé les modèles et outils OpenAI pour générer de courts commentaires politiques en anglais et en russe sur Telegram. Le célèbre réseau russe « Doppelgänger » a utilisé l’IA d’OpenAI pour générer des commentaires sur des plateformes telles que X en allemand, anglais, français, italien et polonais.

Le chinois aussi Campagne de désinformation Le spamouflage a été stoppé avec succès, a déclaré OpenAI. Les modèles d’entreprise ont été utilisés à mauvais escient, entre autres, pour effectuer des recherches sur les réseaux en ligne et générer des textes multilingues.

Les experts craignent que l’utilisation abusive de l’intelligence artificielle puisse avoir un impact sur l’année superélectorale 2024. Des élections importantes auront lieu cette année dans de nombreux pays, notamment aux États-Unis, en Grande-Bretagne et en Inde. Des avertissements ont également été lancés concernant la désinformation provoquée par l’IA à l’approche des élections européennes de juin. Des pays comme RussieIl a déjà été prouvé que la Chine et l’Iran ont mené dans le passé des campagnes de désinformation visant à manipuler l’opinion publique avant les élections.