Projet de loi sur les deepfakes en Argentine

Dans le contexte technologique actuel, l’utilisation d’outils avancés comme l’intelligence artificielle (IA) a permis la création d’images, de vidéos et même de voix. faux profonds, contenu manipulé, qui semble réel.

Il Projet de loi 3955-D-2024présenté devant le Congrès de la Nation argentine, par le député national Juan Brügge, propose l’incorporation de nouveaux chiffres dans le Code pénal pour pénaliser la création et la diffusion de certains contenus faux profonds sans consentement, lorsque ces actes portent atteinte à l’intégrité personnelle ou professionnelle des personnes.

Il faux profonds C’est bien plus que de l’édition ou « Phtoshop »il s’agit d’utiliser simultanément deux types de technologies d’IA : un réseau antagoniste génératif et un réseau neuronal qui tente de reconstruire des éléments à partir de données.

Ainsi, à partir de données réelles (une image, un fragment vidéo ou une voix), l’un des réseaux tente de manipuler et de générer quelque chose de nouveau (faux), dont l’autre réseau tente de détecter si c’est vrai ou faux ; cette interaction se répète dans de nombreuses générations de nouvelles images.

Deepfakes : la désinformation ne s’arrête pas

L’algorithme de génération apprend quels sont les critères de fausseté, les peaufine et les corrige, jusqu’à arriver à un contenu qui, aux yeux humains, semble réel. Plus les données réelles sont disponibles, plus il sera facile de générer des images deepfakes.

A cela, il est ajouté que le L’IA avance., ont fait beaucoup pour simplifier ces processus complexes, permettant à chacun, sans avoir besoin de connaissances techniques, de générer deepfakes Sans trop d’effort. C’est ainsi qu’apparaissent les risques et les dommages potentiels qui peuvent être générés par cette technologie.

Deepfkakes et les femmes

L’impact des deepfakes touche principalement les femmes. Dans une publication du Centre international de gouvernance de l’information, il a été détecté que sur 15 000 vidéos en ligne de deepfakes96 % étaient pornographiques, et parmi ces derniers, 99 % montraient des femmes.

Les progrès de l’IA ont beaucoup contribué à simplifier ces processus complexes, permettant à chacun, sans avoir besoin de connaissances techniques, de générer deepfakes Sans trop d’effort”

De nombreux exemples d’utilisation de tactiques de deepfake pour discréditer les femmes ont été détectés, notamment le créateur d’un « filtre de nudité » qui retirait les vêtements d’une photographie, mais ne fonctionnait que sur le corps des femmes.

Twitter a bloqué les recherches sur Taylor Swift parce qu’ils diffusaient de fausses photos pornographiques créées avec l’IA

En 2019, aux États-Unis, une version rudimentaire de cette technologie a été utilisée pour montrer la députée Nancy Pelosi comme si elle était en état d’ébriété ou sous l’influence d’une substance. La même chose est arrivée à Patricia Bullrich dans notre pays dans les mois précédant les élections présidentielles de 2023.

Les types criminels

Premièrement, le projet de loi introduit de nouveaux articles dans le Code pénal argentin, prévoyant des peines de 4 à 8 ans de prison pour quiconque, grâce aux technologies de l’IA et sans consentement (art. 139 ter), génère ou modifie des vidéos, des audios ou des images pour les réaliser. passer pour réel. La norme prévoit trois scénarios de génération ou de modification sans autorisation :

1. au détriment des activités personnelles et professionnelles ;
2. lorsqu’elle génère un dommage ou une atteinte actuel ou potentiel à l’image ou à la réputation ;
3. dans le cadre d’un processus électoral, La peine est alourdie si les victimes sont mineures, personnes handicapées ou en état de vulnérabilité.;
4. quand il s’agit de contenu sexuel.

Ce chiffre couvrirait la situation survenue à l’école Manuel Belgrano de Cordoue, lorsqu’un élève a généré des images sexuelles de ses camarades de classe à l’aide de l’IA, ce qui a fini par être renvoyé à la juridiction de la violence de genre comme chiffre de contravention, car il n’y avait pas d’infraction pénale. concernant cette conduite.

La peine est portée de 6 à 10 ans lorsque les personnes concernées ont moins de 18 ans. Le chiffre dans un tel cas pourrait coexister en concurrence avec la possession de la pédopornographie.

5.Lors de l’identification, les avis indiquant que le contenu a été créé avec l’IA sont supprimés ou modifiés, avec une pénalité de 2 à 4 ans.

Ce dernier chiffre est lié à la cause justificative qui élimine l’infraction pénale lorsque l’IA est utilisée à des fins d’intérêt public, définies comme création de contenu – qui doit être clairement identifié comme créé ou manipulé avec l’IA– à des fins éducatives, scientifiques, culturelles, parodiques et d’exercice du droit d’information, dans tous les cas en relation avec des fonctionnaires ou des personnes notablement exposées au public.

Dans une publication de l’International Information Governance Center, il a été détecté que sur 15 000 vidéos en ligne de deepfakes, une 96 % étaient pornographiqueset parmi ces derniers, 99 % montraient des femmes”

Cette exception permet aux médias d’utiliser ces outils lorsque cela est possible pour la meilleure communication de l’information, par exemple pour recréer une situation. Celui-ci doit être identifié afin que le spectateur ou le citoyen ne soit pas trompé.

avantage

Le projet présente plusieurs avantages qui méritent d’être soulignés, car il protège non seulement la vie privée et la réputation des personnes, mais protège également les marques des personnes morales qui pourraient être affectées par les actions déloyales d’un concurrent.

La technologie de l’IA pourrait permettre d’améliorer les images et d’améliorer audio obtenu légitimement par la presse”

À son tour, l’existence du consentement élimine l’infraction pénale, ce qui permettra aux acteurs, artistes et créateurs de contenu d’utiliser cette technologie – à condition d’avoir le consentement de la personne concernée -, sans restrictions plus importantes que celles que les parties élaborent. un contrat. La charge de la preuve incombera à la personne qui a utilisé l’IA, qui est la principale partie intéressée et qui devra conserver des copies des contrats. De cette manière, on évite la revictimisation ou le conditionnement de la victime à obtenir des preuves impossibles.

L’exception prévue garantit que l’exercice du droit à l’information et à la liberté d’expression ne soit pas pénalement persécuté. Dans notre pays, nous avons l’habitude d’utiliser le système pénal pour persécuter le journalisme, ce qui finit souvent devant le CSJN ou la Cour interaméricaine des droits de l’homme, validant la liberté d’expression, le droit à la critique, le droit à l’opinion, toujours cela des questions d’intérêt public sont en jeu.

Ceci est de la plus haute importance parce que La technologie de l’IA pourrait permettre d’améliorer les images et d’améliorer l’audio obtenu légitimement par la presse (par exemple lors d’une manifestation où il y a du bruit ou des mouvements brusques de caméra), qui pourrait être lésée ou empêchée d’utiliser cette technologie pour montrer ce qui s’est réellement passé.

Le projet répond à un besoin urgent d’actualiser le cadre juridique argentin face aux nouvelles technologies qui peuvent être utilisées pour la manipulation de l’information et la création de faux témoignages visuels et auditifs, comme cela s’est déjà produit dans le cas référencé à Cordoue.

Il convient de noter que la technologie de l’IA est constamment dépassée à pas de géant. Sa réglementation par segment ou par aspects spécifiques d’impact pourrait être complétée par un futur cadre juridique pour l’utilisation responsable de l’IA et des budgets éthiques minimaux pour sa mise en œuvre.

L’approbation de cette loi pourrait créer un précédent important dans la région et positionner l’Argentine comme leader en matière de protection contre les abus technologiques.

* Master en Propriété Intellectuelle, Avocat. Privée Asoc Civil.