Que prévoit le règlement européen sur l’intelligence artificielle ? Le premier au monde

AGI – Le Parlement européen a adopté sa position de négociation sur la loi sur l’Intelligence Artificielle (IA) avec 499 voix pour, 28 contre et 93 abstentions et est prêt à entamer des négociations avec les États de l’UE sur le texte définitif. Les règles visent à garantir que l’intelligence artificielle développée et utilisée en Europe est conforme aux droits et valeurs de l’UEpar exemple dans les domaines de la surveillance humaine, de la sécurité, de la vie privée, de la transparence, de la non-discrimination et du bien-être social et environnemental.

Les règles suivent une Approche fondée sur le risque et établir des obligations pour les fournisseurs et les gestionnaires de systèmes en fonction du niveau de risque que l’intelligence artificielle peut générer. Ainsi, les systèmes d’intelligence artificielle qui présentent un niveau de risque inacceptable pour la sécurité des personnes, comme ceux utilisés pour le note sociale (classer les personnes selon leur comportement social ou leurs caractéristiques personnelles).

Les députés ont élargi la liste pour inclure des interdictions d’utilisations intrusives et discriminatoires de l’IA telles que :

• L’utilisation de systèmes d’identification biométrique à distance “en temps réel” et “après coup” dans les espaces accessibles au public ;
• Systèmes de catégorisation biométrique basés sur des caractéristiques sensibles (par exemple, sexe, race, origine ethnique, citoyenneté, religion, orientation politique) ; les systèmes de police prédictifs (basés sur les profils, l’emplacement ou le comportement criminel antérieur);
• Systèmes de reconnaissance des émotions utilisés dans les forces de l’ordre, la gestion des frontières, les lieux de travail et les établissements d’enseignement ;
• L’extraction non ciblée de données biométriques provenant d’Internet ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale (en violation des droits de l’homme et du droit à la vie privée).

Les députés souhaitent également que la classification des applications à haut risque inclue les systèmes d’intelligence artificielle qui causent des dommages importants à la santé, à la sécurité, aux droits fondamentaux ou à l’environnement des personnes.

Les systèmes d’intelligence artificielle ont été ajoutés à la liste à haut risque utilisé pour influencer les électeurs et le résultat des élections et les systèmes de recommandation utilisés par les plateformes de médias sociaux (avec plus de 45 millions d’utilisateurs).

Les fournisseurs de modèles sous-jacents d’un développement nouveau et en évolution rapide dans le secteur de l’intelligence artificielle devront évaluer et atténuer les risques éventuels (pour la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et l’État de droit) et enregistrer leurs modèles dans l’UE base de données avant de les mettre sur le marché européen.

Les systèmes d’IA générative basés sur de tels modèles, tels que ChatGPT, devront respecter des exigences de transparence (déclarant que le contenu a été généré par l’IA), permettant également de distinguer les images dites deep-fakes des vraies, et de fournir des garanties pour empêcher la génération de contenus illégaux.

Des résumés détaillés des données protégées par le droit d’auteur utilisées pour la formation devraient également être publiés. Pour stimuler l’innovation dans le domaine de l’IA et soutenir les PME, les députés ont introduit des exemptions pour les activités de recherche et les composants d’IA fournis sous des licences open source.

La nouvelle loi promeut les soi-disant espaces de test réglementaires, ou environnements réels, créés par les pouvoirs publics pour tester l’intelligence artificielle avant sa mise en œuvre.

Enfin, les députés entendent renforcer le droit des citoyens de porter plainte contre les systèmes et de recevoir des explications sur les décisions fondées sur des systèmes d’IA à haut risque ayant un impact significatif sur leurs droits fondamentaux. Les députés ont également réformé le rôle du bureau de l’IA de l’UE, qui sera chargé de surveiller la mise en œuvre des règles sur l’intelligence artificielle.