piqd | Deepfake-Propaganda en Chine

Des scientifiques du laboratoire Graphika, spécialisé dans la recherche sur les technologies de désinformation, ont identifié deux vidéos synthétiques sur les réseaux sociaux chinoisqui étaient manifestement destinées à servir de propagande au Parti communiste de Xi Jinping. Il y a environ un an, c’était un Deepfake vidéo d’une reddition ukrainienne présumée a fait surface, le premier cas de manipulation d’IA parrainée par l’État à ma connaissance.

Les vidéos deepfake dans ce cas étaient des “productions en série prêtes à l’emploi”: la start-up londonienne Synthesia propose plus de 85 personnages synthétiques, du vieil homme d’affaires blanc à la femme musulmane portant le hijab, qui sont principalement utilisés pour produire des vidéos bon marché pour les humains ressources de formation ou utilisées à des fins publicitaires.

Bien que l’utilisation parrainée par l’État de la technologie deepfake pour diffuser de la propagande soit certainement une préoccupation, je suis indécis quant à son impact réel. Un est arrivé il y a quelques semaines nouvelle étude a conclu que les tentatives de « l’armée des trolls de Poutine » (l’« agence de recherche Internet » russe) d’influencer les élections américaines de 2016 semblaient avoir été inefficaces, et ce n’est pas la première du genre.

L’augmentation du volume de production potentiel de désinformation par le biais de fausses nouvelles et de deepfakes générés avec les systèmes d’IA ne semble pas automatiquement conduire à un impact réel notable.

D’autre part, les effets psychologiques d’une réalité médiatique constamment perçue comme “peut-être pas réelle” peuvent être plus subtils et à long terme que ceux explorés dans ces études : Peter Pomerantsev écrit dans son livre de 2014 “Rien n’est vrai et tout est possible” sur les effets sociaux d’un paysage médiatique qui ne peut plus être distingué de la propagande et des intérêts politiques dans la Russie de Poutine. Il décrit une société qui ne fait plus confiance au contenu des médias et a développé une attitude profondément cynique, pas seulement envers les médias.

À mon avis, cela ne nécessite pas de propagande deepfake parrainée par l’État : il y a quelques semaines, un illustrateur a été bloqué d’une plateforme d’art, parce que son style ressemblait trop à celui d’une IA générative.

Ce sont ces effets subtils sur la confiance humaine dans la perception, qui a tendance à réagir de manière excessive et faussement positive dans une réponse défensive à un faux contenu, qui me préoccupe bien plus que l’impact direct apparemment négligeable de la désinformation.