Une vidéo manipulée partagée par Musk imite la voix de Harris et sonne l’alarme sur l’utilisation de l’IA en politique

NEW YORK (AP) — Une vidéo falsifiée qui imite la voix de la vice-présidente Kamala Harris pour donner l’impression qu’elle a dit des choses qu’elle n’a jamais dites soulève des inquiétudes quant au pouvoir de tromperie de l’intelligence artificielle, à seulement trois mois des élections générales. .

La vidéo a attiré l’attention après que le milliardaire Elon Musk l’a partagée sur sa plateforme de médias sociaux X vendredi soir, sans mentionner explicitement qu’elle avait été initialement publiée comme une parodie.

La vidéo utilise de nombreux éléments visuels d’une véritable publicité que Harris, la probable candidate démocrate à la présidentielle, a publiée la semaine dernière pour lancer sa campagne. Mais la vidéo remplace la voix off par une autre qui imite de manière convaincante Harris.

« Moi, Kamala Harris, je suis votre candidate démocrate à la présidence parce que Joe Biden a finalement exposé sa sénilité dans le débat », dit la voix dans la vidéo. Il affirme que Harris est quelqu’un « d’embauche pour la diversité » parce qu’elle est une femme et une personne non blanche, et dit qu’elle ne sait pas « le moins du monde comment diriger le pays ». La vidéo maintient la marque « Harris for President ». Il ajoute également quelques extraits authentiques de Harris pris dans le passé.

Mia Ehrenberg, porte-parole de l’équipe de campagne de Harris, a déclaré dans un courriel adressé à l’Associated Press que “nous pensons que le peuple américain veut la véritable liberté, les opportunités et la sécurité qu’offre le vice-président Harris, et non les mensonges faux et manipulés d’Elon et de Musk”. Donald Trump.

La vidéo, qui a été largement partagée, est un exemple de la manière dont les images, vidéos ou clips audio générés par l’IA ont été utilisés à la fois pour se moquer et induire en erreur sur la politique, alors que les États-Unis se rapprochent de l’élection présidentielle. Il montre comment, alors que les outils d’IA de haute qualité sont devenus beaucoup plus accessibles, il n’existe jusqu’à présent aucune mesure fédérale significative pour réglementer leur utilisation, laissant les règles régissant l’IA dans les politiques en grande partie aux États et aux agences de médias sociaux.

La vidéo soulève également des questions sur la meilleure façon de traiter les contenus qui brouillent les limites de ce qui est considéré comme une utilisation appropriée de l’IA, surtout s’ils entrent dans la catégorie de la satire.

L’utilisateur d’origine qui a posté la vidéo, un YouTuber connu sous le nom de M. Reagan, a indiqué sur YouTube et sur X que la vidéo manipulée était une parodie. Mais le message d’Elon Musk, qui a été vu plus de 123 millions de fois selon la plateforme, ne comprend que le commentaire “C’est incroyable”, accompagné d’un emoji riant.

Les utilisateurs X qui connaissent la plateforme sauront cliquer sur la publication de Musk pour accéder à la publication de l’utilisateur d’origine, où la clarification sur la parodie est visible. La légende de Musk ne leur dit pas de le faire.

Bien que certains utilisateurs de Certains utilisateurs se sont demandés si leur message pourrait enfreindre les politiques de X, qui stipulent que les utilisateurs ne peuvent pas « partager de manière trompeuse du contenu multimédia faux ou modifié susceptible de causer des dommages ».

Le réseau social X prévoit une exception pour les mèmes et la satire à condition qu’ils ne provoquent pas « une confusion significative quant à l’authenticité des médias ».

Musk a soutenu ce mois-ci le candidat républicain, l’ancien président Donald Trump. Ni le YouTubeur Reagan ni Musk n’ont encore répondu aux demandes de commentaires envoyées par courrier électronique dimanche.

Deux experts en contenu multimédia généré par l’IA ont examiné l’audio de la fausse publicité et ont confirmé qu’une grande partie de celle-ci avait été générée avec la technologie de l’IA.

L’un d’eux, Hany Farid, expert en criminalistique numérique à l’Université de Californie à Berkeley, a déclaré que la vidéo est un exemple de la puissance de l’IA générative et des vidéos manipulées numériquement.

“La voix générée par l’IA est très bonne”, déclare-t-il dans un email. “Même si la plupart des gens ne croiront pas qu’il s’agit de la voix du vice-président Harris, la vidéo a beaucoup plus d’impact lorsque les mots ressortent dans sa voix.”

Farid a déclaré que les entreprises d’IA générative qui mettent le clonage vocal et d’autres outils d’IA à la disposition du public devraient faire davantage pour garantir que leurs services ne sont pas utilisés d’une manière qui pourrait nuire aux personnes ou à la démocratie.

Rob Weissman, co-président du groupe de défense Public Citizen, n’est pas d’accord avec Farid et a déclaré qu’il pensait que la vidéo induirait de nombreuses personnes en erreur.

“Je ne pense pas qu’il soit évident que ce soit une blague”, a déclaré Weissman dans une interview. « Je suis sûr que la plupart des gens qui le voient ne pensent pas que c’est une blague. La qualité n’est pas très bonne, mais c’est suffisant. Et précisément parce qu’elle se nourrit de thèmes préexistants qui ont circulé autour d’elle, la plupart des gens croiront qu’elle est réelle. »

Weissman, dont l’organisation milite auprès du Congrès, des agences fédérales et des États pour réglementer l’IA générative, a déclaré que la vidéo est « le genre de chose contre laquelle nous mettons en garde ».

D’autres deepfakes génératifs d’IA, aux États-Unis et dans d’autres pays, auraient tenté d’influencer les électeurs avec de la désinformation, de l’humour ou les deux. En Slovaquie, en 2023, de faux clips audio se faisaient passer pour un candidat parlant de projets visant à truquer les élections et à augmenter le prix de la bière quelques jours avant le vote. En Louisiane, en 2022, une publicité satirique d’un comité d’action politique a superposé le visage d’un candidat à la mairie à celui d’un acteur le décrivant comme un lycéen sous-performant.

Le Congrès n’a pas encore adopté de réglementation sur l’utilisation de l’IA en politique, et les agences fédérales n’ont pris que des mesures limitées, laissant la plupart des réglementations américaines existantes entre les mains des États. Plus d’un tiers des États ont créé leurs propres lois pour réglementer l’utilisation de l’IA dans les campagnes et les élections, selon la Conférence nationale des législatures des États.

Outre X, d’autres sociétés de médias sociaux ont également élaboré des politiques concernant le contenu multimédia modifié et manipulé partagé sur leurs plateformes. Les utilisateurs de la plateforme vidéo YouTube, par exemple, doivent révéler s’ils ont utilisé l’intelligence artificielle générative pour créer des vidéos sous peine de suspension.

___

L’Associated Press reçoit le soutien de plusieurs fondations privées pour améliorer sa couverture des élections et de la démocratie. En savoir plus sur la couverture de la démocratie par AP ici. L’AP est seul responsable de tout le contenu.