Les relations entre le gouvernement espagnol et les meilleurs spécialistes de l’intelligence artificielle (IA) du pays deviennent troubles. La semaine dernière, trois membres du Conseil consultatif sur l’intelligence artificielle ont démissionné, un organe consultatif créé en 2020 pour “garantir une utilisation sûre et éthique de l’IA”, “composé d’experts espagnols de prestige international reconnu”, comme décrit par Site de la Moncloa. Comme EL PAÍS l’a appris, d’autres membres du groupe ont également envisagé de partir, bien qu’ils ne l’aient pas précisé.
L’élément déclencheur a été la signature d’un accord de collaboration entre le gouvernement espagnol et un institut de recherche des Émirats arabes unis, ADIA Lab. Le secrétaire d’État à la Numérisation et à l’Intelligence artificielle (Sedia), sous la tutelle du ministère des Affaires économiques et de la Transformation numérique, a annoncé la semaine dernière que le laboratoire susmentionné des Emirats avait choisi Grenade comme siège de son siège européen. Le centre recevra un investissement initial de cinq millions d’euros, bien que les partenaires émiratis acceptent d’augmenter ce montant en lançant divers projets de recherche.
L’accord “suscite une grande inquiétude, car il contredit les principes d’éthique et de sécurité avec lesquels le gouvernement espagnol s’est engagé à développer de nouvelles technologies”, lit-on dans une lettre ouverte publiée ce mardi par ce journal, signée par quatre chercheurs éminents de la discipline, deux d’entre eux membres jusqu’à la semaine dernière du conseil consultatif. L’ADIA Lab est un centre scientifique “financé par un gouvernement qui ne reconnaît pas l’indépendance de la science, qui bafoue les droits humains, notamment les femmes, les LGTBQI+ et les communautés immigrées”, rappelle le texte.
La décision du ministère de s’allier aux Émirats arabes unis a provoqué un malaise parmi un large groupe de membres du conseil consultatif, déjà bouleversé par son rôle symbolique dans les décisions stratégiques liées à l’IA. Les réactions ne se sont pas fait attendre. Certains ont proposé une démission massive, bien que cette option se soit refroidie au fil des heures. Le premier à démissionner de son poste a été Carles Serra, directeur de l’Institut d’IA du CSIC. Il a communiqué sa décision mercredi, 24 heures après l’annonce de l’accord avec ADIA Lab.
Conscient que la situation l’exigeait, le ministère a convoqué le lendemain une “réunion urgente” du conseil. Il était dirigé par la secrétaire d’État, Carme Artigas. “Certains des membres nous ont demandé de connaître les détails de l’accord et une visioconférence informelle a été organisée”, expliquent-ils depuis le ministère. “Deux de ses membres ont exprimé leur désaccord et l’accord et l’impact qu’il aurait sur les connaissances scientifiques leur ont été expliqués en détail.”
Ce qui s’y est dit n’a pas empêché deux autres experts de cet organe de partir. Cette même nuit, Lorena Jaume-Palasí, experte en éthique et philosophie du droit appliquées à la technologie et fondatrice de centres tels que Surveillance des algorithmes ou La société éthique. Le lendemain, Ricardo Baeza-Yates, directeur de recherche à l’Institut d’IA expérimentale de la Northwestern University, dans la Silicon Valley (San Francisco), professeur à l’Université Pompeu Fabra (Barcelone) et lauréat du National Computing Award, l’a fait. Aucun des trois experts n’a reçu de communication du secrétaire d’État après avoir présenté sa démission.
« Du fait de l’hétérogénéité de ses membres, il est difficile de trouver des positions consensuelles, ce qui enrichit le débat et apporte de nouveaux points de vue. Dès lors, la disparité des critères entre les membres est courante, toujours dans le respect de toutes les opinions », font valoir des sources du secrétariat d’État. « Nous considérons qu’il est très positif qu’une institution de prestige scientifique qui compte des lauréats du prix Nobel dans son conseil d’administration choisisse de s’installer en Espagne plutôt que dans d’autres pays européens comme la France ou l’Allemagne. Nous respectons la décision des membres du conseil consultatif qui estiment ne plus vouloir continuer à apporter leur vision à cet organe et nous apprécions leur contribution à ce jour”, ajoutent-ils depuis Sedia.
“Un accord gouvernemental pour installer un laboratoire d’IA en Espagne financé par un pays autocratique qui viole les droits humains, en particulier ceux des femmes, n’est pas éthiquement acceptable”, explique Baeza-Yates. “En fait, c’est incompatible avec l’esprit même du conseil consultatif, qui a pour mission de garantir l’éthique de l’IA en Espagne. Pour ces raisons, je ne peux pas légitimer par mon silence des initiatives qui violent les principes fondamentaux de l’éthique scientifique et j’ai donc démissionné du conseil ».
« La décision de signer un accord avec ADIA Lab n’a pas seulement été une goutte d’eau très grave qui a fait déborder le vase : c’est un indicateur de la dynamique défaillante du conseil consultatif et d’une position du secrétaire d’État qui est en profonde contradiction avec les objectifs d’éthique et de sécurité pour lesquels le conseil consultatif a été créé », souligne Jaume-Palasí.
Comme l’a appris ce journal, un groupe d’ONG centrées sur les droits de l’homme, les droits numériques et l’immigration préparent également une lettre ouverte dans laquelle elles expriment clairement leur rejet de l’accord signé entre le gouvernement et le centre de recherche des Émirats arabes unis.
Une autre plainte récurrente chez certains membres du groupe d’experts est que le gouvernement ne leur a pas demandé conseil avant de prendre des décisions stratégiques. « Le conseil a surtout eu un rôle décoratif. Nous n’avons pas été consultés pour évaluer l’impact des systèmes d’IA ou émettre des recommandations sur des sujets vraiment pertinents », se plaint le philosophe. “Depuis deux ans, les quelques réunions que nous avons tenues ont été plutôt de nature déclarative dans lesquelles nous avons été informés par des présentations très condensées sur les projets du secrétaire d’État.”
Les signataires de la lettre, dont Ramon López de Mántaras, l’un des pionniers de l’IA en Europe, et Carmela Troncoso, experte en sécurité algorithmique et développeur du protocole technique utilisé dans le applications de suivi du covid, ils reconnaissent le courage qu’a eu le Gouvernement à identifier les défis que pose l’IA pour la société et à vouloir agir en la matière. Le conseil consultatif a été créé en 2020 pour “fournir des recommandations indépendantes sur les mesures à prendre pour garantir une utilisation sûre et éthique de l’IA”. Mais ils regrettent qu’en s’alliant aux Émirats arabes unis, “les principes éthiques dans l’économie, dans la science en général et dans l’IA en particulier” soient ignorés.
Eaux troubles au secrétariat d’Etat
Le départ de 3 des 18 experts qui composent le conseil consultatif n’est pas le premier conflit qui a surgi au sein du secrétariat d’État. Le département a connu plusieurs soubresauts depuis sa révélation en janvier 2020. La cheffe de département, Carme Artigas, a eu trois chefs de cabinet en moins de trois ans. Plusieurs conseillers ont quitté l’équipe à cette époque, y compris des signatures faites à la demande expresse d’Artigas, comme c’est le cas de la data scientist Mara Balestrini, qui a quitté le poste trois mois après son arrivée.
Il y a également eu des victimes parmi les hauts fonctionnaires, qui ont cherché un logement dans d’autres ministères, comme public Le confidentiel. Parmi eux Fernando de Pablo, secrétaire général jusqu’au 12 mai 2020 ; María José Gómez, directrice générale adjointe des talents et de l’entrepreneuriat numérique ; David Pérez, coordinateur du domaine Technologie et entrepreneuriat numérique, ou Amparo Peris, directeur général adjoint de la société numérique.
Deux mois après la création du département dirigé par Artigas, l’Espagne était confinée. Le secrétaire d’État a dirigé le projet de développement d’une application de suivi des cas de covid, qui a impliqué la coordination de divers ministères et groupes de travail. La plupart des départs de l’équipe d’Artigas se sont produits au cours de ce processus. L’application n’a pu notifier que 150 000 infections en près de deux ans.
Vous pouvez suivre LE PAYS Technologie dans Facebook y Twitter ou inscrivez-vous ici pour recevoir nos bulletin d’information sémanal.
Abonnez-vous pour continuer à lire
Lire sans limites
