Le gouverneur de Californie bloque une législation prévoyant des garanties pour une IA sûre – IT Pro – News

Le gouverneur de Californie, Gavin Newsom, a bloqué une législation qui garantirait la sécurité des modèles d’IA générative. Newsom reconnaît que des mesures sont nécessaires, mais estime que le projet de loi est trop complet.

La loi SB 1047 imposait des obligations de sécurité aux fabricants de modèles d’IA avancés ou coûteux, écrit Reuters. Les développeurs ont également dû intégrer un kill switch dans le modèle d’IA, facilitant sa désactivation. La loi établirait également une autorité étatique chargée de superviser le développement de futurs « modèles frontières » avancés.

La société mère de Google, Microsoft, OpenAI et Meta, entre autres, a critiqué la loi et a estimé qu’elle allait trop loin. Que pense aussi Gavin Newsomgouverneur de l’État. Il a donc opposé son veto et bloqué ainsi la loi. Il affirme que la loi avait les « bonnes intentions », mais qu’elle était trop large. Par exemple, selon Newsom, la loi aurait dû prendre en compte si les systèmes utilisent des données sensibles, s’ils sont utilisés dans des « circonstances à haut risque » ou s’ils prennent eux-mêmes des décisions.

« Au lieu de cela, la loi fixe des normes strictes, même pour les fonctions les plus élémentaires, à condition qu’un grand modèle d’IA soit utilisé. Je ne pense pas que ce soit le meilleur moyen de protéger les résidents des menaces réelles posées par la technologie », déclare Newsom. Il reconnaît que l’intelligence artificielle comporte des risques pour la démocratie et la vie privée en ligne, par exemple, mais estime que la loi se concentre trop sur la taille d’un modèle. Les modèles plus petits peuvent également être nocifs, bien qu’ils ne soient pas couverts par le SB 1047.

La loi donnerait donc aux résidents une apparence de sécurité, mais ne les protégerait pas nécessairement pleinement. Newsom souhaite donc travailler avec l’État, les experts et les scientifiques sur des mesures visant à limiter les effets néfastes de l’IA.

#gouverneur #Californie #bloque #une #législation #prévoyant #des #garanties #pour #une #sûre #Pro #News