l’IA générative face aux défis éthiques et juridiques

Faut-il ou non avoir peur de l’IA générative? Comment l’utiliser de manière éthique? Les créations générées par ce procédé sont-elles protégeables ou non? Qu’en est-il des sources exploitées dans ce processus? Invités aux tables rondes organisées sur ce thème par la Fédération de la haute couture et de la mode (FHCM) pendant le Festival de Hyères, le 14 octobre dernier, les intervenants des 22e Rencontres internationales de la mode ont tenté d’apporter des réponses à ces questions. Des préoccupations, qui touchent de plus en plus marques et maisons, alors que les IA génératives se développent de manière exponentielle depuis près d’un an dans un cadre juridique quasi inexistant.

Le débat, passionnant, n’a pas forcément rassuré car le chemin pour créer un cadre autour de ce nouvel outil technologique disruptif s’avère complexe. Bruxelles est en train de statuer sur une règlementation en la matière. Adopté en première lecture par le Parlement européen en juin 2023, l’IA Act s’annonce comme la première loi du genre au monde. Proposée par la Commission européenne, elle est actuellement en phase finale de discussion entre le Conseil et le Parlement européen afin de déterminer une position commune. “Il s’agit d’une harmonisation, c’est l’ensemble des règles qui doivent être harmonisées au plan européen afin d’assurer à la fois que les technologies d’intelligence artificielle soient sûres, qu’elles répondent aux valeurs européennes et qu’elles puissent aussi favoriser l’innovation, explique Eric Peters, chef adjoint d’unité en charge de la Stratégie sur la Décennie Numérique 2030 auprès de la Commission Européenne.

“Le cœur de la proposition est d’abord de bannir un certain nombre de finalités pour ces technologies qui ne sont pas appropriées, par exemple le système de crédits sociaux mis en place par la Chine, et d’autre part de signaler un certain nombre de technologies ou de finalités qui sont à haut risque et pour lesquelles il y aura des obligations qui permettront de s’assurer que les risques sont bien contrôlés”, résume-t-il. L’idée est d’encadrer l’utilisation des IA génératives de manière plus stricte avec des obligations de transparence et des limites pour les modèles technologiques considérés à risque.

“La loi sera probablement adoptée en 2025 et appliquée en 2026, alors qu’il faut s’y atteler maintenant. Comment sera-t-elle appliquée, comment seront mis en place les contrôles? Ce sont des sujets encore ouverts auxquels il faut réfléchir de manière très précise. On peut vite se laisser submerger par le côté créatif, mais ce qui est important, c’est affronter la question dans sa réalité”, observe Laurence Devillers, professeur en intelligence artificielle à Sorbonne Université/CNRS. Et de rapporter cette anecdote, qui en dit long sur les enjeux actuels. Alors qu’elle était invitée à participer à un comité sur l’éthique de l’IA et s’attendait à rencontrer principalement des scientifiques, elle s’est retrouvée “face à tous les grands acteurs des big tech provenant de Chine et des États-Unis, qui voulaient freiner les normes”.

La chercheuse met en garde contre l’emballement, qui s’est créé ces derniers mois autour de ces nouvelles technologies: “Il faut dénoncer le mythe de l’IA générative. Dans la majorité des sondages, les gens voient la machine comme une autorité. Il faut arrêter et inverser cette croyance, être critique. Les big tech veulent nous faire peur pour que nous ne prenions aucune mesure, mais c’est juste une machine, qui n’a ni la notion de la chronologie, ni de l’espace. L’IA n’est pas capable d’avoir un sens. Certes, ce sont des outils formidables, mais il faut savoir les utiliser”.  Et de s’interroger sur l’avenir et l’impact de l’IA: “Avec la génération de données synthétiques, il y a des conséquences majeures. Lorsque demain nous arriverons à 80% de données artificielles, que fera-t-on des connaissances originales, que nous avons déjà ?”

Il y a moins d’un an, personne ou presque n’avait entendu parler d’IA générative. Entré en vigueur fin 2022, le règlement européen sur les services numériques, le Digital Services Act (DSA) destiné à réguler le monde numérique et en particulier les géants du web, ne mentionne même pas le mot IA. Or la technologie est en train d’exploser. “Le défi auquel nous sommes confrontés est absolument extraordinaire, l’ensemble des acteurs doit s’aligner en des temps extrêmement courts alors que l’IA générative est apparue au grand public depuis peu. Nous faisons face à une situation, où nous devons être sur tous les fronts, alors que ça continue à évoluer. L’important, c’est d’avoir un cap et de vraiment s’assurer que nous donnons les bons signaux aux acteurs”, rappelle Eric Peters.

En attendant, l’IA générative est déjà arrivée sur le marché sans se soucier des règles, se développant par exemple sans respecter le droit d’auteur, comme le constate Vincent Fauchoux, avocat Associé et Partenaire de gestion du cabinet DDG, qui conseille aussi bien les opérateurs des IA génératives que leurs utilisateurs. “En procédant au grattagestockage et indexation de toutes sortes de documents, images et vidéos récupérés sur le Web sans autorisation, ces technologies se sont construites sur le hold-up du siècle. Elles sont dans le péché original dès le début”, lance-t-il.

Un marché à plus de 1.000 milliards de dollars

“La recherche de la source dans une création générée par l’IA générative est une opération quasiment impossible, car on se trouve devant un ensemble agrégé. Un peu comme une tomate impossible à trouver dans sa forme d’origine dans une ratatouille. On ne décèle pas la création originale qui a servi de base. Le péché originel ne laisse pas de trace”, poursuit-il. Or, comme le souligne encore l’avocat, “alors que les systèmes n’ont pas été constitués de manière propre, l’œuvre créée par l’IA générative est, elle, protégeable, car on n’y retrouve pas l’ingrédient d’origine.”

Comment remédier à ce paradoxe ? “Une première piste consiste à nouer des accords extraordinaires avec les acteurs impliqués. Une autre est celle de prôner la traçabilité à tous les étages dans tous les contrats de production”, avance Vincent Fauchoux. La Société française des auteurs, compositeurs et éditeurs de musique (Sacem) songe par exemple à exercer un droit d’opposition sur l’utilisation des données de ses auteurs et à instituer une taxe IA pour autoriser les machines à utiliser leurs œuvres d’art pour s’entraîner. D’autres proposent que soit versée une redevance aux auteurs autorisant l’utilisation de leurs contenus artistiques aux éditeurs d’IA générative.

Selon des estimations citées par Bloomberg, le marché de l’IA générative devrait atteindre 67 milliards de dollars en 2023 et 1.300 milliards d’ici à 2032, tandis que les investissements dans le secteur sont également attendus en forte croissance. “Il y a énormément à gagner en utilisant ces technologies. Mais il faut le faire avec attention, mettre en avant les bonnes pratiques. Il faut s’entraider, mutualiser les informations pour faire intervenir l’humain qui est créatif, responsable et conscient des effets secondaires”, préconise Laurence Devillers.

Alors que l’Europe s’apprête à statuer sur la question de la régulation autour de l’IA générative, Eric Peters se veut rassurant: “Il y aura bien sûr tout un système de gouvernance avec des contrôles, avec des normes, qui font que les acteurs seront alignés derrière les valeurs européennes”. Au-delà de ce front commun juridique, il est primordial aussi d’avoir des acteurs plus forts en Europe, capables de créer un leadership dans le domaine, concluent les intervenants.