Analyse approfondie : comment l’UE peut réussir à réglementer intelligemment l’IA

Depuis la mi-juin, le Parlement européen est sur la bonne voie pour un règlement visant à réglementer l’intelligence artificielle (IA), la soi-disant loi sur l’IA. En particulier, la classification de nouveaux services comme ChatGPT d’OpenAI s’est opposée le projet initial de la Commission européenne très attendu.

Publicité

“L’idée de base à l’époque était que les systèmes de classification en particulier devaient être réglementés”, explique Sandra Wachter de l’Oxford Internet Institute. Car ces systèmes seraient souvent utilisés comme une aide à la décision. “Dois-je embaucher cette personne, dois-je lui accorder un prêt, dois-je le laisser aller à l’université ? Puis est venu ChatGPT et le monde a été complètement différent.”

Problème de partialité et ambiguïté dans la réglementation de l’IA

L’avocat Sandra Wächter s’intéresse depuis de nombreuses années à l’éthique de l’IA, à l’IA explicable et à la manière dont l’intelligence artificielle devrait être réglementée. Dans le nouvel épisode du podcast, elle aborde, entre autres, le problème de biais des grands modèles d’IA et les ambiguïtés que contient encore le projet de loi sur l’IA dans une interview avec le rédacteur en chef de TR Wolfgang Stieler.

Wachter pense qu’il est bon que l’inclusion de l’IA générative dans la loi n’ait pas signifié que la cause basée sur le risque a été abandonnée. De plus, ChatGPT and Co. n’est pas classé comme technologie à haut risque dès le départ, mais devrait être strictement réglementé. Afin d’assurer la transparence, les données de formation doivent être largement ouvertes. De cette manière, les causes des éventuelles distorsions, c’est-à-dire les préjugés ou les préjugés, devraient devenir claires et corrigibles.

En revanche, elle critique le fait que les fabricants de tels systèmes certifient eux-mêmes dans une “auto-évaluation” que leurs produits sont conformes à la loi IA. Plus encore, c’est, par exemple, “que vous devriez faire un effort ou faire de votre mieux pour vous assurer que vous gérez le biais”, critique Wachter. Il donne également un aperçu de ce que la loi signifie pour les utilisateurs et les entreprises et de l’influence des lobbyistes sur la réglementation.

Publicité

Plus d’informations à ce sujet dans tout l’épisode – sous forme de flux audio (Flux RSS):

(wst)