Quelques jours après que la vice-présidente Kamala Harris a lancé sa candidature à la présidence, une vidéo – créée avec l’aide de l’intelligence artificielle – est devenue virale.
« Je suis votre candidat démocrate à la présidence parce que Joe Biden a finalement exposé sa sénilité lors du débat », a déclaré une voix qui ressemblait à celle de Harris dans la fausse bande sonore utilisée pour modifier l’une de ses publicités de campagne. « J’ai été sélectionné parce que je suis le candidat idéal pour la diversité. »
Aux démocrates, y compris Le gouverneur de Californie, Gavin NewsomL’incident n’était pas un sujet de plaisanterie, alimentant les appels à davantage de réglementation pour lutter contre les vidéos générées par l’IA avec des messages politiques et un nouveau débat sur le rôle approprié du gouvernement dans la tentative de contenir les technologies émergentes.
Vendredi, les législateurs californiens ont donné leur approbation finale à un projet de loi qui interdirait la diffusion de publicités de campagne trompeuses ou de « communications électorales » dans les 120 jours précédant une élection. Projet de loi 2839 de l’Assemblée La loi cible les contenus manipulés qui pourraient nuire à la réputation d’un candidat ou à ses perspectives électorales, ainsi qu’à la confiance dans le résultat d’une élection. Elle vise à traiter les vidéos comme celle que Musk a partagée avec Harris, bien qu’elle comprenne une exception pour la parodie et la satire.
« Nous assistons à la première élection de l’histoire de la Californie, au cours de laquelle la désinformation alimentée par l’IA générative va polluer nos écosystèmes d’information comme jamais auparavant et des millions d’électeurs ne sauront pas à quelles images, audio ou vidéo ils peuvent faire confiance », a déclaré la députée Gail Pellerin (D-Santa Cruz). « Nous devons donc faire quelque chose. »
Newsom a a signalé qu’il signerait le projet de loiqui entrerait en vigueur immédiatement, à temps pour les élections de novembre.
Cette loi actualise une loi californienne qui interdit la diffusion de contenus audio ou visuels trompeurs dans le but de nuire à la réputation d’un candidat ou de tromper un électeur dans les 60 jours précédant une élection. Les législateurs de l’État estiment que la loi doit être renforcée dans un cycle électoral où les gens inondent déjà les réseaux sociaux de vidéos et de photos modifiées numériquement, appelées deepfakes.
En vertu de l’AB 2839, un candidat, un comité électoral ou un responsable électoral peut demander une ordonnance du tribunal pour faire retirer les deepfakes. Ils peuvent également poursuivre en dommages et intérêts la personne qui a distribué ou republié le matériel trompeur.
Cela ne s’applique pas à la satire ou à la parodie étiquetée comme telle, ni aux stations de radiodiffusion si elles informent les téléspectateurs que ce qui est représenté ne représente pas fidèlement un discours ou un événement.
Les groupes de l’industrie technologique s’opposent à l’AB 2839, ainsi qu’à d’autres projets de loi qui ciblent les plateformes en ligne qui ne modèrent pas correctement le contenu électoral trompeur ou n’étiquetent pas le contenu généré par l’IA.
« Cela aura pour conséquence de paralyser et de bloquer la liberté d’expression, protégée par la Constitution », a déclaré Carl Szabo, vice-président et conseiller juridique de NetChoice. Parmi les membres du groupe figurent Google, X et Snap, ainsi que la société mère de Facebook, Meta, et d’autres géants de la technologie.
Les plateformes en ligne ont leurs propres règles concernant les médias manipulés et les publicités politiques, mais leurs politiques peuvent différer.
Contrairement à Meta et X, TikTok n’autorise pas les publicités politiques et affirme qu’il peut même supprimer les publicités étiquetées Contenu généré par l’IA si elle représente une personnalité publique telle qu’une célébrité « lorsqu’elle est utilisée à des fins de soutien politique ou commercial ». Truth Social, une plateforme créée par Trump, n’aborde pas les médias manipulés dans ses règles sur ce qui n’est pas autorisé sur sa plateforme.
Les régulateurs fédéraux et étatiques prennent déjà des mesures répressives contre le contenu généré par l’IA.
En mai, la Commission fédérale des communications a proposé une amende de 6 millions de dollars à Steve Kramer, un consultant politique démocrate à l’origine d’un appel automatisé utilisant l’IA pour se faire passer pour le président Biden. Le faux appel a découragé la participation à la primaire présidentielle démocrate du New Hampshire en janvier. Kramer, qui a déclaré Actualités NBC il a planifié cet appel pour attirer l’attention sur les dangers de l’IA en politique. Il est également accusé au pénal de suppression de votes et de délit d’usurpation d’identité d’un candidat.
Selon Szabo, les lois actuelles suffisent à répondre aux inquiétudes concernant les deepfakes électoraux. NetChoice a intenté des poursuites contre plusieurs États pour faire cesser certaines lois visant à protéger les enfants sur les réseaux sociaux, alléguant qu’elles violent les protections de la liberté d’expression en vertu du 1er amendement.
« Le simple fait de créer une nouvelle loi ne fait rien pour mettre fin aux mauvais comportements. Il faut en fait appliquer les lois », a déclaré Szabo.
Selon l’organisation à but non lucratif de défense des consommateurs, plus de deux douzaines d’États, dont Washington, l’Arizona et l’Oregon, ont promulgué, adopté ou travaillent sur une législation visant à réglementer les deepfakes. Citoyen public.
En 2019, la Californie a instauré une loi visant à lutter contre la manipulation des médias après qu’une vidéo montrant la présidente de la Chambre des représentants Nancy Pelosi ivre a fait le tour des réseaux sociaux. Appliquer cette loi s’est révélé être un véritable défi.
« Nous avons dû l’édulcorer », a déclaré le député Marc Berman (D-Menlo Park), auteur du rapport. facture« Cela a attiré beaucoup d’attention sur les risques potentiels de cette technologie, mais j’avais peur qu’en fin de compte, elle ne fasse pas grand-chose. »
Selon Danielle Citron, professeure à la faculté de droit de l’université de Virginie, plutôt que d’engager des poursuites judiciaires, les candidats politiques pourraient choisir de démystifier un deepfake ou même de l’ignorer pour limiter sa propagation. Le temps qu’ils puissent passer par le système judiciaire, le contenu pourrait déjà être devenu viral.
« Ces lois sont importantes en raison du message qu’elles transmettent. Elles nous apprennent quelque chose », a-t-elle déclaré, ajoutant qu’elles informent les personnes qui partagent des deepfakes que cela a un coût.
Cette année, les législateurs ont travaillé avec la California Initiative for Technology and Democracy, un projet de l’association à but non lucratif California Common Cause, sur plusieurs projets de loi visant à lutter contre les deepfakes politiques.
Certaines cibles sont des plateformes en ligne qui, en vertu de la loi fédérale, ne peuvent être tenues responsables du contenu publié par les utilisateurs.
Un autre projet de loi, co-écrit par la députée Buffy Wicks (D-Oakland), oblige les plateformes en ligne à étiqueter le contenu généré par l’IA. Alors que NetChoice et TechNet, un autre groupe industriel, s’opposent au projet de loi, OpenAI, le créateur de ChatGPT, le soutient. AB 3211, Reuters signalé.
Les deux projets de loi n’entreront toutefois pas en vigueur avant les élections, ce qui souligne les défis liés à l’adoption de nouvelles lois à mesure que la technologie progresse rapidement.
« Une partie de mon espoir en présentant ce projet de loi réside dans l’attention qu’il suscite et, je l’espère, dans la pression qu’il exerce sur les plateformes de médias sociaux pour qu’elles se comportent correctement maintenant », a déclaré Berman.
2024-08-31 15:00:41
1725109898
#Californie #lance #dans #lutte #contre #les #deepfakes #avant #les #élections
