Home » Sciences et technologies » L’administration Biden prévoit de surveiller les modèles de pondération ouverts

L’administration Biden prévoit de surveiller les modèles de pondération ouverts

by Nouvelles

Inscrivez-vous à nos newsletters quotidiennes et hebdomadaires pour recevoir les dernières mises à jour et du contenu exclusif sur la couverture de l’IA de pointe. En savoir plus


L’administration Biden a appelé à la surveillance des modèles de pondération ouverts dans le but de recueillir davantage d’informations pour les futures réglementations. Cependant, le gouvernement américain n’a pas précisé comment il envisage de réglementer les modèles.

Dans un rapportl’Administration nationale des télécommunications et de l’information (NTIA) il a déclaré qu’il était important d’examiner les dangers des modèles d’IA publics capables de perturber les systèmes actuels pour comprendre comment prévenir toute catastrophe.

Cependant, la NTIA a admis que les États-Unis « n’ont pas actuellement la capacité de surveiller et de répondre efficacement à de nombreux risques découlant des modèles de fondation ». Sachant cela, la NTIA a suggéré trois domaines principaux sur lesquels se concentrer : recueillir des preuves sur les capacités du modèle à surveiller des risques spécifiques, évaluer et comparer des indicateurs et adopter des politiques qui ciblent ces risques.

La NTIA définit les modèles à pondération ouverte comme des modèles de base dont les pondérations, ou paramètres, ont été publiés publiquement et les utilisateurs peuvent télécharger les modèles. Ceux-ci sont différents des modèles open source, où les modèles sont sous une licence ouverte et peuvent être reproduits, malgré ce que les développeurs de modèles d’IA veulent vous faire croire.

« La prise en compte du risque marginal est utile pour éviter de cibler les modèles de fondation à double usage avec des pondérations largement disponibles avec des restrictions qui sont indûment plus strictes que les systèmes alternatifs qui présentent un équilibre similaire entre avantages et risques », a déclaré la NTIA.

L’agence a également ajouté qu’elle comprenait que les modèles ouverts et fermés présentaient des risques qui devaient être gérés, mais que les modèles ouverts « peuvent présenter des opportunités et des défis uniques pour réduire les risques ».

Le fait que l’administration Biden se penche sur les risques posés par les modèles ouverts pourrait indiquer l’adoption d’une approche réglementaire similaire à celle avec laquelle l’Union européenne a commencé à élaborer sa loi sur l’IA.

La loi sur l’IA de l’UE, adoptée officiellement par le Parlement en mars, réglemente les modèles d’IA en fonction du risque des cas d’utilisation, plutôt que des modèles eux-mêmes. Par exemple, l’UE a fixé de lourdes amendes pour les entreprises qui utilisent l’IA pour la reconnaissance faciale. L’UE avait envisagé de réglementer les modèles, de sorte que les États-Unis, qui ont soigneusement étudié les dangers potentiels des modèles d’IA publics, pourraient suivre les traces de l’UE.

Kevin Bankston, conseiller principal sur la gouvernance de l’IA auprès de Centre pour la démocratie et la technologiea félicité la NTIA pour avoir pris son temps sur la façon de contrôler les modèles d’IA. Dans un courriel, Bankston a déclaré : « La NTIA a conclu à juste titre qu’il n’y a pas encore suffisamment de preuves de nouveaux risques liés aux modèles de fondation ouverts pour justifier de nouvelles restrictions sur leur distribution.

Les développeurs de modèles doivent encore attendre

L’administration Biden a créé de manière proactive des lignes directrices sur l’utilisation de l’IA avec le décret exécutif sur l’IA. Mais ce décret n’est pas encore réglementé. Certains législateurs et États ont proposé des politiques potentielles. Par exemple, les sénateurs de l’État de Californie, où se trouvent de nombreux développeurs d’IA, dont OpenAI, ont présenté le « Safe and Secure Innovation for Frontier Artificial Intelligence Models Act », qui, selon beaucoup, pourrait freiner le développement de l’IA en pénalisant les petites entreprises travaillant avec des modèles de base.

Les développeurs de modèles d’IA n’ont pas encore beaucoup à s’inquiéter, car la NTIA est encore en pleine mission d’enquête.

Assaf Melochna, fondateur d’une société d’IA Aquanta déclaré dans un courriel à VentureBeat Les observations de la NTIA ne changent pas grand-chose pour les développeurs de modèles.

« Les développeurs peuvent toujours publier les pondérations de leurs modèles à leur propre discrétion, mais ils seront soumis à un examen plus approfondi », a déclaré Melochna. « Le secteur évolue tous les jours, les agences fédérales doivent donc rester flexibles et s’adapter en fonction de ce qu’elles découvrent. »

VB Quotidien

Restez informés ! Recevez les dernières nouvelles dans votre boîte mail tous les jours

Merci de vous être abonné. Découvrez d’autres newsletters VB ici.

Une erreur s’est produite.

2024-08-01 02:33:57
1722471414


#Ladministration #Biden #prévoit #surveiller #les #modèles #pondération #ouverts

You may also like

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.