Une vidéo manipulée qui imite la voix de Vice-présidente Kamala Harris dire des choses qu’elle n’a pas dites soulève des inquiétudes quant au pouvoir de intelligence artificielle pour induire en erreur alors que le jour du scrutin aura lieu dans environ trois mois.
La vidéo a attiré l’attention après Le milliardaire de la technologie Elon Musk il l’a partagé sur sa plateforme de médias sociaux X vendredi soir sans mentionner explicitement qu’il s’agissait à l’origine d’une parodie.
La vidéo utilise de nombreux éléments visuels identiques à ceux d’une véritable publicité de Harris, le probable candidat démocrate à la présidence, La semaine dernière, elle a lancé sa campagne. Mais la vidéo remplace la voix off par une autre voix qui imite de manière convaincante Harris.
« Moi, Kamala Harris, je suis votre candidate démocrate à la présidence parce que Joe Biden a finalement exposé sa sénilité lors du débat », dit la voix dans la vidéo. Elle affirme que Kamala Harris est une « recrue de la diversité » parce qu’elle est une femme et une personne de couleur, et elle dit qu’elle ne sait « rien de la gestion du pays ». La vidéo conserve la marque « Harris for President ». Elle ajoute également quelques clips authentiques d’Harris.
Mia Ehrenberg, porte-parole de la campagne de Harris, a déclaré dans un courriel à l’Associated Press : « Nous pensons que le peuple américain veut la véritable liberté, les opportunités et la sécurité que la vice-présidente Harris offre, et non les mensonges faux et manipulés d’Elon Musk et de Donald Trump. »
La vidéo largement partagée est un exemple de la réalité Images, vidéos ou clips audio générés par l’IA ont été utilisés à la fois pour se moquer et pour induire en erreur sur la politique à l’approche de l’élection présidentielle aux États-Unis. Il montre comment, alors que les outils d’IA de haute qualité sont devenus bien plus plus accessibleil manque encore jusqu’à présent une action fédérale significative pour réglementer leur utilisation, laissant les règles guidant l’IA en politique en grande partie aux États et aux plateformes de médias sociaux.
La vidéo soulève également des questions sur la meilleure façon de gérer le contenu qui brouille les limites de ce qui est considéré comme une utilisation appropriée de l’IA, en particulier s’il entre dans la catégorie de la satire.
L’utilisateur original qui a posté la vidéo, un YouTubeur connu sous le nom de Mr Reagan, a révélé sur YouTube et sur X que la vidéo manipulée était une parodie. Mais le message d’Elon Musk, qui a été vu plus de 123 millions de fois selon la plateforme, ne comprend que la légende « C’est incroyable » avec un émoji rieur.
Les utilisateurs de X qui connaissent la plateforme savent peut-être qu’il faut cliquer sur la publication de Musk pour accéder à la publication de l’utilisateur d’origine, où la divulgation est visible. La légende de Musk ne leur demande pas de le faire.
Bien que certains participants à la fonction « note communautaire » de X pour ajouter du contexte aux publications aient suggéré d’étiqueter la publication de Musk, aucune étiquette de ce type n’y avait été ajoutée dimanche après-midi. Certains utilisateurs en ligne se sont demandé si sa publication pourrait violer Les politiques de Xqui stipulent que les utilisateurs « ne peuvent pas partager de médias synthétiques, manipulés ou hors contexte qui pourraient tromper ou dérouter les gens et entraîner des préjudices ».
La politique prévoit une exception pour les mèmes et la satire, à condition qu’ils ne provoquent pas « de confusion significative quant à l’authenticité des médias ».
Elon Musk a apporté son soutien à l’ancien président Donald Trump, candidat républicain, au début du mois. Ni M. Reagan ni Elon Musk n’ont immédiatement répondu aux demandes de commentaires envoyées par courrier électronique dimanche.
Deux experts spécialisés dans les médias générés par l’IA ont examiné l’audio de la fausse publicité et ont confirmé qu’une grande partie de celle-ci avait été générée à l’aide de la technologie de l’IA.
L’un d’eux, Hany Farid, expert en criminalistique numérique de l’Université de Californie à Berkeley, a déclaré que la vidéo montre la puissance de l’IA générative et des deepfakes.
« La voix générée par l’IA est très bonne », a-t-il déclaré dans un courriel. « Même si la plupart des gens ne croient pas qu’il s’agit de la voix de la vice-présidente Harris, la vidéo est d’autant plus puissante lorsque les mots sont prononcés par sa voix. »
Il a déclaré que les entreprises d’IA générative qui mettent à la disposition du public des outils de clonage de voix et d’autres outils d’IA devraient faire mieux pour garantir que leurs services ne soient pas utilisés d’une manière qui pourrait nuire aux personnes ou à la démocratie.
Rob Weissman, coprésident du groupe de défense Public Citizen, n’était pas d’accord avec Farid, affirmant qu’il pensait que de nombreuses personnes seraient trompées par la vidéo.
« Je ne pense pas que ce soit une blague », a déclaré Weissman dans une interview. « Je suis sûr que la plupart des gens qui la regardent ne pensent pas que c’est une blague. La qualité n’est pas excellente, mais elle est assez bonne. Et précisément parce qu’elle alimente des thèmes préexistants qui ont circulé autour d’elle, la plupart des gens croiront qu’elle est réelle. »
Weissman, dont l’organisation a plaidé pour que le Congrès, les agences fédérales et les États réglementent l’IA générative, a déclaré que la vidéo est « le genre de chose contre laquelle nous mettons en garde ».
D’autres deepfakes génératifs d’IA aux États-Unis et ailleurs auraient tenté d’influencer les électeurs avec de la désinformation, de l’humour ou les deux. En Slovaquie en 2023, faux clips audio s’est fait passer pour un candidat discutant de plans visant à truquer une élection et à augmenter le prix de la bière quelques jours avant le vote. En Louisiane en 2022, un comité d’action politique publicité satirique il a superposé le visage d’un candidat à la mairie de Louisiane sur celui d’un acteur le représentant comme un lycéen en difficulté.
Le Congrès n’a pas encore adopté de loi sur l’IA en politique, et agences fédérales n’ont pris que des mesures limitées, laissant la plupart des réglementations américaines existantes aux États. Plus d’un tiers des États ont créé leurs propres lois réglementer l’utilisation de l’IA dans les campagnes et les élections, selon la Conférence nationale des législatures des États.
Outre X, d’autres sociétés de réseaux sociaux ont également créé des politiques concernant les médias synthétiques et manipulés partagés sur leurs plateformes. Les utilisateurs de la plateforme vidéo YouTube, par exemple, doivent révéler s’ils ont utilisé l’intelligence artificielle générative pour créer des vidéos ou suspension du visage.
