Intelligence artificielle, une loi pour déclarer les sources

Deux législateurs américains ont récemment proposé une loi innovante visant à réglementer le monde de l’intelligence artificielle. La loi, appelée « AI Foundation Model Transparency Act », a été présentée par les républicains Anna Eshoo et Don Beyer et vise à obliger les créateurs de modèles d’intelligence artificielle à révéler les sources de leurs données de formation. Cette étape est essentielle pour garantir que les titulaires de droits d’auteur sont conscients de l’utilisation de leurs informations.

L’objectif principal de la proposition est de demander à la Federal Trade Commission (FTC), en collaboration avec le National Institute of Standards and Technology (NIST), d’établir des règles pour la transparence des données de formation. Les entreprises développant ces modèles devront non seulement divulguer les sources des données utilisées, mais également décrire comment ces données sont conservées pendant le processus d’inférence, expliquer les limites ou les risques du modèle et comment il s’aligne sur le cadre de gestion des données prévu. Risques liés à l’IA du NIST et autres normes fédérales possibles. De plus, vous devrez fournir des détails sur la puissance de calcul utilisée pour entraîner et maintenir le modèle.

Un aspect particulier de la proposition concerne l’obligation pour les développeurs d’IA de signaler les efforts déployés pour tester les modèles dans des scénarios critiques, notamment pour empêcher la diffusion d’informations inexactes ou nuisibles dans des domaines sensibles tels que la médecine, la biologie, la cybersécurité, les élections, la police, les décisions financières. , l’éducation, l’emploi, les services publics et la protection des populations vulnérables telles que les enfants. La loi souligne également l’importance de la transparence des données de formation en matière de droit d’auteur, en soulignant de nombreuses poursuites judiciaires contre des sociétés d’IA, notamment celle d’artistes contre Stability AI, Midjourney et Deviant Art. Cette dernière affaire, en particulier, a été largement rejetée en octobre. comme l’a rapporté VentureBeat, alors qu’une plainte de Getty Images contre Stability AI est toujours en cours.

Le contexte de cette loi s’inscrit dans un contexte où l’utilisation publique de modèles de base d’intelligence artificielle a conduit à d’innombrables cas d’informations inexactes, imprécises ou biaisées présentées au public. Le projet de loi devra être confié à une commission pour discussion, et il n’est pas encore clair si cela se produira avant le début de la campagne électorale chargée. Le projet de loi d’Eshoo et Beyer accompagne le décret de l’administration Biden sur l’IA, visant à établir le reporting. normes pour les modèles d’IA. Cependant, le décret n’a pas force de loi, donc si l’AI Foundation Model Transparency Act devait être adoptée, il transformerait les exigences de transparence pour les données de formation en une règle fédérale.