Recevoir une aide sociale. Postuler à un emploi. Demander un crédit.Ces situations sont de plus en plus régies par des algorithmes. L’governance publique les utilise pour des décisions importantes, mais leurs implications sont difficiles à contrôler et peuvent être graves. Par exemple,55 femmes ont été assassinées après que leurs cas aient été jugés à faible risque par le système viogen,un système d’évaluation automatisé. des centaines de jeunes ont été affectés par des « distorsions » dans l’algorithme utilisé pour l’accès aux études universitaires.face à cette situation, une plateforme regroupant 17 organisations demande la création d’un Registre Central des Algorithmes. Ce registre devrait être obligatoire, conçu avec la société civile, transparent et accessible. Il devrait inclure tous les systèmes algorithmiques utilisés par l’administration publique. Le registre des Pays-Bas est le plus avancé en europe.

Anabel Arias, responsable des droits numériques, affirme :

« Nous ne résoudrons pas la crise de la démocratie en cachant ses mécanismes. »

Elle ajoute qu’il est nécessaire d’améliorer le Règlement de l’UE sur l’IA, car il exclut les systèmes jugés à faible risque et limite les secteurs critiques comme la sécurité, les frontières et la finance. Elle souligne également le manque d’informations détaillées,comme les codes source et les données d’entraînement,essentielles pour corriger les discriminations et aider les victimes.

David Cabo, co-directeur, ajoute :

« L’approbation du projet de loi sur la gouvernance de l’IA est une opportunité pour créer ce registre. »

Il espère que les organisations de la société civile seront incluses dans sa conception.

Le rôle du législateur est crucial. La plateforme demande au Parlement de créer une commission sur la transparence algorithmique et d’exiger que le gouvernement informe annuellement sur ce sujet.

L’Espagne avait annoncé des plans pour renforcer la transparence dans les secteurs public et privé. En 2021, le gouvernement a approuvé la Charte des Droits Numériques, une première en Europe. La Stratégie Nationale d’Intelligence Artificielle,bien que mentionnant une « Intelligence Artificielle transparente,responsable et humaniste »,n’est toujours pas finalisée. Le V Plan de Gouvernement Ouvert n’a pas été présenté non plus.Face à l’inaction des administrations, les médias et la société civile prennent l’initiative en matière de transparence algorithmique, avec des enquêtes et des actions en justice. Les recommandations de la plateforme visent à aider les universitaires, journalistes et ONG dans leur travail de contrôle des pouvoirs publics.

Un système de suivi des arrêts maladie a été contesté suite à une enquête conjointe d’une ONG et d’un média. Une action en justice a été intentée pour clarifier l’attribution du « bono social ». En Galice, une IA influencera les processus de recherche d’emploi sans garantie contre les discriminations.

Les régions autonomes, comme la Communauté Valencienne et la Catalogne, prennent des initiatives réglementaires pour améliorer l’accessibilité aux systèmes d’IA. D’autres régions ont adopté ou sont en train d’adopter des réglementations, mais la création de registres n’est pas toujours prévue.

L’Ombre des Algorithmes: Vers un Registre Central pour une Gouvernance Algorithmique Transparente en espagne

L’utilisation croissante d’algorithmes dans des domaines sensibles comme l’aide sociale, la recherche d’emploi et l’accès au crédit soulève des inquiétudes majeures concernant la transparence et l’équité.Des exemples concrets, tels que le système viogén (55 femmes assassinées après une évaluation à faible risque) et les distorsions affectant l’accès des jeunes aux études universitaires, illustrent les conséquences potentiellement graves d’une gouvernance publique opaque reposant sur l’IA.

Face à ce constat alarmant, une plateforme regroupant 17 organisations plaide pour la création d’un Registre Central des Algorithmes en Espagne.Ce registre, inspiré par celui des Pays-Bas (le plus avancé en Europe), devrait être obligatoire, conçu en collaboration avec la société civile, clear et accessible. Son objectif principal est d’inventorier tous les systèmes algorithmiques utilisés par l’administration publique.

Anabel Arias, responsable des droits numériques, insiste sur la nécessité de transparence : « Nous ne résoudrons pas la crise de la démocratie en cachant ses mécanismes. » Elle appelle à une amélioration du Règlement de l’UE sur l’IA, critiquant son exclusion des systèmes à faible risque et sa limitation aux secteurs critiques comme la sécurité, les frontières et la finance. elle souligne aussi le manque d’informations cruciales, comme les codes source et les données d’entraînement, pour corriger les discriminations et aider les victimes.

David Cabo,co-directeur de la plateforme,voit dans l’approbation du projet de loi sur la gouvernance de l’IA une opportunité de créer ce registre,en espérant une participation active de la société civile à sa conception.

Le rôle du législateur est crucial. La plateforme demande au Parlement espagnol de créer une commission sur la transparence algorithmique et d’imposer au gouvernement une obligation de rendre compte annuellement sur ce sujet.

Malgré des initiatives comme la Charte des Droits Numériques (2021), la Stratégie Nationale d’Intelligence Artificielle et le V Plan de Gouvernement Ouvert (tous deux non finalisés), l’Espagne accuse un retard significatif en matière de transparence algorithmique. Face à cette inaction, les médias et la société civile prennent des initiatives : enquêtes, actions en justice (système de suivi des arrêts maladie, “bono social”), et initiatives régionales (Communauté Valencienne, Catalogne). Les recommandations de la plateforme visent à soutenir les universitaires, journalistes et ONG dans leur travail de surveillance des pouvoirs publics. L’exemple de la Galice, où une IA influencera la recherche d’emploi sans garantie contre les discriminations, souligne l’urgence de la situation.

Tableau Récapitulatif: L’État de la Transparence Algorithmique en Espagne

| Aspect | Situation Actuelle | Actions Proposées |

|—————————|————————————————————————————|—————————————————————————————|

| Registre Central | Absent | Création d’un registre obligatoire,transparent,conçu avec la société civile |

| Réglementation IA | Stratégie Nationale en cours,Charte des Droits Numériques (2021) | Amélioration du règlement UE sur l’IA, transparence accrue |

| Transparence Gouvernementale | manque d’informations,rapports annuels absents | Création d’une commission parlementaire,obligation de rapports annuels |

| Initiatives Régionales | Initiatives disparates,création de registre non systématique | Harmonisation et généralisation des bonnes pratiques |

| Société Civile | Enquêtes,actions en justice | Soutien aux universitaires,journalistes et ONG |

FAQ

Q: Qu’est-ce qu’un Registre Central des Algorithmes ?

R: Un registre public et accessible listant tous les algorithmes utilisés par l’administration publique.

Q: Pourquoi est-il nécessaire ?

R: Pour garantir la transparence, identifier et corriger les biais, et protéger les droits des citoyens.

Q: Quelles sont les conséquences du manque de transparence ?

R: discrimination, injustice, et impossibilité de contrôler l’impact des algorithmes sur la vie des individus.

Q: Quel est le rôle de la société civile ?

R: Surveillance,dénonciation des abus,participation à la conception de systèmes plus équitables.

Q: Quel est l’état actuel de la législation en Espagne ?

R: Des initiatives existent mais sont insuffisantes. Un cadre législatif plus complet est nécessaire.