Intelligence artificielle : que signifient les nouvelles règles européennes ?

Des recherches sur l’intelligence artificielle sont menées au centre d’IA de Rostock.

Source : dpa

Les questions et réponses les plus importantes :

La police et d’autres agences de sécurité sont autorisées à utiliser la reconnaissance faciale basée sur l’IA dans les lieux publics sur décision du tribunal. De tels systèmes ont déjà été testés en Allemagne, à la gare Südkreuz de Berlin.

Si du matériel vidéo est enregistré, la technologie peut être utilisée pour rechercher des personnes reconnues coupables ou soupçonnées de crimes graves. Si les autorités suivent le matériel vidéo en temps réel, les systèmes d’IA sont également autorisés à rechercher les victimes de traite des êtres humains et de violences sexuelles. Ils sont également autorisés à utiliser la reconnaissance faciale pour « prévenir une menace terroriste spécifique et aiguë ».

La loi identifie généralement un « risque élevé » de violations des droits de l’homme en raison de l’utilisation de l’intelligence artificielle par les autorités de sécurité. Il en va de même pour les infrastructures critiques et les applications de ressources humaines. Les applications dites à haut risque incluent également des systèmes susceptibles d’influencer les élections.

Dans ces cas, un humain devrait en fin de compte avoir le contrôle sur les décisions des systèmes d’IA. La loi exige également une documentation technique et un système de gestion des risques. Les personnes concernées devraient pouvoir déposer une plainte auprès des autorités contre l’utilisation des systèmes d’IA.

De nouveaux systèmes doivent être développés et formés avec des ensembles de données équilibrés. Les autorités devraient donc permettre aux startups de l’IA d’accéder à des conditions de test réelles avant qu’une application n’arrive sur le marché. La loi vise également à garantir qu’aucune violation des droits d’auteur ne soit violée.

Les violations de la loi sur l’IA pourraient entraîner des amendes se chiffrant en millions. Pour l’utilisation d’une technologie interdite, la Commission européenne peut exiger des paiements allant jusqu’à 35 millions d’euros, soit sept pour cent du chiffre d’affaires annuel mondial de l’entreprise.

Quiconque enfreint d’autres dispositions de la loi s’expose à des sanctions pouvant aller jusqu’à 15 millions d’euros, soit trois pour cent du chiffre d’affaires annuel.

Les nouvelles règles ne s’appliqueront qu’à partir du printemps 2026. D’ici là, la Commission s’appuiera sur des accords volontaires avec les entreprises. Les critiques craignent toutefois que les exigences de l’UE ne soient à nouveau dépassées dans deux ans.