Sam Altman veut une agence internationale pour la sécurité et la réglementation de l’IA

Sam Altman, PDG d’OpenAI, plaide pour que l’IA soit réglementée par une agence internationale. “Je pense qu’il viendra un moment dans un avenir pas trop lointain, et nous ne parlons pas ici de décennies, où les systèmes d’IA seront capables de causer des dommages importants dans le monde”, a déclaré Altman vendredi. Podcast tout-en-un.

Il estime que ces systèmes auront « des impacts négatifs qui s’étendront bien au-delà des frontières d’un pays » et souhaiterait voir une réglementation par « une agence internationale qui s’occupe des systèmes les plus performants et effectue les tests de sécurité appropriés ».

Altman estime que trouver le bon niveau de surveillance sera un exercice d’équilibre. «Je serais très nerveux si la réglementation allait trop loin. Je pense que nous commettons une erreur lorsque nous en faisons trop ou un peu trop. Je pense que nous pouvons faire des erreurs si nous n’en faisons pas assez », a-t-il déclaré.

Lire aussi

Six mois après l’échec du renversement de Sam Altman : le cofondateur d’OpenAI, Ilya Sutskever, quitte l’entreprise

La réglementation de l’IA est déjà en cours

En mars, l’UE a adopté sa loi sur l’intelligence artificielle, qui vise à catégoriser les risques de l’IA et à interdire les cas d’utilisation inacceptables. Le président américain Joe Biden a signé l’année dernière un décret exigeant plus de transparence de la part des plus grands modèles d’IA au monde. Et cette année, l’État de Californie a été un leader dans la réglementation de l’IA en tant que législateur, selon «Bloomberg« Plus de 30 projets de loi sont à l’étude.

Cependant, Altman a fait valoir qu’une agence internationale offrirait plus de flexibilité qu’une législation nationale – et c’est important compte tenu de la rapidité avec laquelle l’IA évolue.

« La raison pour laquelle j’ai plaidé en faveur d’une approche basée sur les agences est que dans 12 mois, tout sera mal orthographié », a-t-il déclaré. Il estime que les législateurs, même s’ils sont de « véritables experts du monde », ne seront probablement pas en mesure d’élaborer des politiques qui régiront de manière adéquate les événements dans 12 à 24 mois.

En termes simples, Altman estime que l’IA devrait être réglementée comme un avion. “Lorsqu’une perte importante de vies humaines est une possibilité sérieuse, comme dans le cas des avions ou dans un certain nombre d’autres exemples, je pense que nous sommes heureux d’avoir une sorte de cadre de test”, a-t-il déclaré. « Je ne pense pas à un avion quand je monte à bord. Je suppose juste que ce sera sûr.

Lire l’article original en anglais ici.