Alors que les législateurs du Michigan tentent de s’attaquer à la pornographie « deepfake », une forme émergente de violence sexuelle visant généralement les femmes, des universitaires examinent des solutions politiques à long terme qui pourraient imposer une plus grande responsabilité juridique aux entreprises technologiques, plutôt qu’à celles touchées par les fausses images d’IA.
Le mois dernier, la Chambre du Michigan a adopté deux projets de loi interdisant les images explicites non consensuelles générées par des systèmes d’IA. HB 5569parrainé par la représentante de l’État Penelope Tsernoglou (D-East Lansing), et HB 5570parrainé par le représentant Matthew Bierlein (R-Vassar), a été adopté avec le soutien bipartisan, avec seulement deux législateurs républicains votant contre les projets de loi.
Le projet de loi devra être approuvé par le Sénat avant d’être présenté au bureau de la gouverneure Gretchen Whitmer. Les deux chambres de l’Assemblée législative ne reviendront pas au Capitole avant le 30 juillet.
Le sujet a fait la une des journaux après que des photos pornographiques de la popstar Taylor Swift, générées par l’IA, ont circulé sur Internet en janvier. Tsernoglou a déclaré que cet incident avait attiré davantage l’attention sur les deepfakes explicites, mais elle avait commencé à travailler sur le projet de loi plus tôt après avoir parrainé une législation réglementant l’utilisation de deepfakes dans les publicités politiques l’année dernière.
« Ce phénomène est apparu comme très dangereux et il a certainement besoin d’être réglementé », a déclaré Tsernoglou à Advance. « Je pense que la plupart des gens s’accordent à dire qu’il ne devrait pas être possible de prendre l’image d’une personne et de créer des images explicites d’elle sans son consentement, mais il n’y a pas eu de réglementation en place. »
La représentante de l’État Penelope Tsernoglou (D-East Lansing) s’adresse à la Chambre du Michigan, le 15 février 2023 | Laina G. Stebbins
UN Étude 2023 de la société de cybersécurité Home Security Heroes Selon l’étude, 98 % des vidéos deepfake en ligne sont pornographiques et 99 % des personnes ciblées sont des femmes. 94 % des personnes apparaissant dans les vidéos deepfake porno travaillent dans l’industrie du divertissement.
« Je pense que se tenir au courant de cette technologie va être très important pour beaucoup de femmes qui occupent des postes politiques, mais vraiment pour tout le monde », a déclaré la représentante Emily Dievendorf (D-Lansing) lors d’une conférence de presse le 21 mai. Réunion du comité de justice pénale de la Chambre.
Ces projets de loi permettraient à toute personne ayant réalisé sans son consentement un « deepfake » pornographique, qui comprend des clips visuels ou audio générés par des systèmes d’IA, d’intenter une action civile contre le créateur ou le distributeur.
La personne devrait prouver que le créateur ou le distributeur avait connaissance d’un préjudice ou d’un « mépris téméraire » à l’égard de son bien-être physique, émotionnel, économique ou de sa réputation.
Johanna Kononen, directrice du droit et de la politique à la Michigan Coalition to End Domestic & Sexual Violence, a déclaré que cette législation était importante pour soutenir les survivants du partage d’images non consensuel, qui a le potentiel de devenir un problème plus important à mesure que les gens ont la possibilité d’utiliser l’IA pour générer de faux médias.
« Ce que nous essayons de faire, c’est de faire en sorte que les survivants aient plus d’options, pas moins », a déclaré Kononen.
Arun Ross, professeur d’informatique et d’ingénierie à l’université d’État du Michigan, a déclaré que les intentions sont importantes à prendre en compte lors de l’élaboration de règles et de lois concernant l’IA en général. Dans le cas de la pornographie deepfake non consensuelle, la technologie est généralement utilisée pour nuire à une autre personne.
« Nous parlons de la création d’une personne, d’un être humain qui existe dans ce monde », a déclaré Ross. « Et dans ce cas, ils essaient en quelque sorte de donner une mauvaise réputation à cette personne, ou du moins de provoquer un traumatisme émotionnel, donc je pense que l’intention est probablement un élément important à prendre en compte ici. »
Mais Shobita Parthasarathy, directrice du programme de science, technologie et politique publique de l’université du Michigan, estime que ces projets de loi imposent un fardeau trop lourd à la personne exploitée par la pornographie deepfake pour qu’elle puisse intenter une action en justice, ce qui peut être difficile sur le plan émotionnel et financier. Selon elle, avoir ce projet de loi est mieux que ne pas avoir de protection, mais des solutions supplémentaires sont nécessaires pour protéger les gens de la menace des images non consensuelles.
Shobita Parthasarathy | Photo de l’Université du Michigan
« Je m’inquiète du fait de placer le fardeau essentiellement sur le citoyen, par opposition, par exemple, à placer le fardeau sur les entreprises technologiques ou d’autres types d’interventions qui pourraient ne pas nécessiter davantage d’action de la part de la partie lésée », a déclaré Parthasarathy.
Elle a déclaré que la responsabilité d’atténuer ces images devrait être confiée aux entreprises technologiques, qui devraient fournir des preuves de faux contenus ou mettre en place des garde-fous sur ce que les utilisateurs peuvent produire avec l’IA.
Pour les premiers, cela pourrait consister à obliger les entreprises d’IA à placer des filigranes, qui ne sont pas nécessairement affichés de manière visible, sur tout contenu généré. Cela pourrait permettre aux plaignants de déterminer plus facilement si les images sont ou non générées par l’IA, un fait qui pourrait être difficile à prouver devant un tribunal à mesure que les deepfakes deviennent plus réalistes. Parthasarathy a déclaré que cela pourrait contribuer à alléger le fardeau des personnes qui se font faire des deepfakes pornographiques.
Les législateurs pourraient également réglementer les déployeurs d’IA en les obligeant à imposer des limites au type de deepfakes pouvant être produits, a déclaré Parthasarathy. Ross a fait écho à cette approche, expliquant que les déployeurs d’IA devraient avoir la responsabilité de s’assurer que les systèmes ne produisent pas d’images illégales, dans la mesure du possible.
« Je pense que ces entreprises devraient faire un effort de bonne foi pour établir une sorte de garde-fou autour de ce qui peut être généré et de ce qui ne devrait pas l’être », a déclaré Ross.
Cela soulève des inquiétudes quant à la confidentialité des personnes qui utilisent les systèmes d’IA. Parthasarathy a déclaré que sans règles strictes en matière de confidentialité des données, les entreprises d’IA collectent déjà des données sur la manière dont les systèmes sont utilisés et par qui.
Ross a déclaré qu’il était important pour les législateurs d’équilibrer les préoccupations en matière de confidentialité tout en tenant les entreprises responsables des productions illégales ou nuisibles.
« L’utilisateur a le droit de s’attendre à une certaine confidentialité, car le logiciel n’est pas pleinement conscient du type d’images produites pour lui », a déclaré Ross. « D’un autre côté, si le logiciel détecte la production d’images illégales, il doit alors trouver un moyen de limiter la production de cette image et de ne pas produire le résultat demandé par l’utilisateur. »
Ross a également déclaré que des directives devraient être mises en place sur la manière dont les entreprises forment les systèmes d’IA générative. Les « images illégales » ne devraient pas être utilisées pour former les systèmes en premier lieu, intentionnellement ou accidentellement, a-t-il déclaré.
Pour les législateurs du Michigan, réglementer l’IA de manière plus générale et inclure les entreprises technologiques dans son champ d’application sera un processus de longue haleine, a déclaré Tsernoglou à l’Advance. Elle a exprimé son intérêt à travailler sur une législation qui réglemente l’IA de manière générale en plaçant des garde-fous sur les utilisations nuisibles, mais a déclaré que ce serait une « entreprise de longue haleine » et qu’elle souhaitait se concentrer sur le ciblage et la limitation des utilisations potentiellement problématiques et ne pas attendre la création d’un cadre plus large pour faire son chemin dans le processus législatif.
« Je pense que nous nous sommes attaqués aux deepfakes politiques et aux images explicites simplement parce que ce sont deux des utilisations abusives les plus dangereuses », a déclaré Tsernoglou. « Nous voulions donc mettre en place quelque chose pour ces cas-là le plus tôt possible. »
La nouvelle frontière électorale : les deepfakes arrivent et ciblent souvent les femmes
En attendant, si le projet de loi est adopté, il offrira aux citoyens une protection juridique contre la pornographie deepfake. De plus, si d’autres lois sont imposées aux entreprises et que des deepfakes IA non consensuels sont créés et diffusés, les citoyens bénéficieront d’une protection juridique.
« Au moins, cela offre aux victimes un recours », a déclaré Ross. « Cela leur donne la possibilité d’obtenir justice. »
Outre la simple réglementation de l’intelligence artificielle et des plateformes utilisées pour la diffuser, Ross et Kononen ont parlé des attitudes et des pratiques sociétales qui devraient être réformées pour empêcher les deepfakes explicites non consensuels.
L’éducation, en particulier pour les enfants, sur la façon dont les images partagées sur les réseaux sociaux ou dans les flux de communication privés pourraient être utilisées pour la production de deepfakes est importante pour atténuer le problème, a déclaré Ross.
En outre, il est également important de sensibiliser les gens aux limites et au consentement, a déclaré Kononen. Elle a expliqué que les gens appliquent parfois le consentement uniquement aux rapports sexuels, mais qu’il est important d’élargir cette compréhension aux représentations des personnes et de leur corps de manière plus générale.
« Je pense que c’est une très bonne occasion de parler du consentement et de la façon dont il imprègne tous les aspects des actes sexuels », a déclaré Kononen. « Pas seulement l’acte sexuel en lui-même, mais aussi le corps des personnes et comment, avec qui et quand et avec qui d’autre elles peuvent le partager. »
RECEVEZ LES TITRES DU MATIN DANS VOTRE BOÎTE DE RÉCEPTION
S’ABONNER
2024-07-02 12:38:11
1719915701
#Les #législateurs #Michigan #cherchent #interdire #pornographie #deepfake #consensuelle #Michigan #Advance
