IA : un développeur a créé une « machine de propagande » à l’aide de ChatGPT

Un développeur a construit une « machine de désinformation » d’IA en utilisant une technologie basée sur Open AI comme Chat GPT. Le développeur a eu besoin de deux mois pour mener à bien le projet, baptisé « Countercloud ». Cela lui coûtait moins de 400 dollars par mois. Cela montre à quel point il peut être bon marché et facile de se lancer dans une propagande de masse.

lire aussi

L’intelligence artificielle a un sombre secret : elle pourrait nuire à l’image des grandes entreprises technologiques

Le développeur, qui souhaite rester anonyme, s’est fait passer pour Nea Paw et a affirmé être un expert en cybersécurité, rapporte “Filaire“. Dans une vidéo publiée sur Youtube, Paw a décrit comment et pourquoi il a entrepris le projet.

Il a déclaré qu’il souhaitait voir comment la désinformation de l’IA « fonctionne dans le monde réel. » De plus, « de solides compétences linguistiques issues de grands modèles linguistiques sont parfaitement adaptées à la lecture et à la rédaction de faux articles d’information ».

Paw a déclaré qu’il avait commencé à soumettre des articles à Chat GPT et à demander à l’outil d’écrire un contre-article. Le robot IA a ensuite proposé différents exemples d’un même article, rédigés dans des styles différents et avec des points de vue différents. Il l’a fait en « générant de fausses histoires, de faux événements historiques et des doutes sur la véracité de l’article original ».

Puis il a ajouté un module gatekeeper pour que l’IA ne réagisse qu’au contenu le plus pertinent. Il a également inclus des extraits audio de présentateurs lisant les faux articles et photos générés par l’IA pour créer de l’authenticité.

lire aussi

Chat GPT 4 : Ce que la version payante du logiciel d’IA peut faire et combien vous devez payer par mois

Le développeur a également créé de faux profils de journalistes et de faux commentaires sous certains articles. Le système a ensuite été invité à aimer et à republier les messages qui correspondaient à son récit, ou à « contre-tweeter » ceux qui ne le faisaient pas.

Le programme pourrait être utilisé pour l’illumination

Au bout de deux mois, il disposait d’un système entièrement autonome basé sur l’IA qui « générait un contenu convaincant 90 % du temps, 24 heures sur 24, sept jours sur sept ». Le fabricant n’a pas encore mis le modèle en ligne car « cela signifierait que nous diffusons activement de la désinformation et de la propagande. Une fois que ces seins sont sur Internet, on ne sait pas où ils vont finir”, a déclaré Paw.

Cependant, il a ajouté que la publication de Countercloud ainsi que l’éducation du public sur le fonctionnement de ces systèmes de l’intérieur apporteraient davantage d’avantages. La menace que l’IA fait peser sur la démocratie, car elle peut accélérer la création et la propagation de la désinformation en ligne, est l’une des plus grandes préoccupations du débat sur l’IA.

Sam Altman, PDG d’Open AI, a récemment exprimé son inquiétude face à ce problème. Il a déclaré que « la persuasion personnalisée 1:1 combinée à des médias générés de haute qualité constituera une force puissante ».

Lire l’article original Interne du milieu des affaires.