Carme Artigas : Carme Artigas : « L’Espagne est contre un moratoire sur le développement de l’intelligence artificielle » | Technologie

L’inauguration du Centre européen pour la transparence algorithmique (ECAT, pour son sigle en anglais) à Séville, l’outil de la Commission pour ouvrir les boîtes noires où se cachent les systèmes algorithmiques des grandes plateformes Internet, a montré que la connaissance de leur fonctionnement et de la le contrôle de leurs effets sur notre vie quotidienne sont une affaire d’État. Dans ce contexte, l’Espagne mène l’appel bac à sable règlement, un environnement de test, qui comprend l’étude des algorithmes, avec lesquels il est prévu de tester l’efficacité du futur règlement européen sur l’intelligence artificielle, le cadre juridique qui sera appliqué à ce type de systèmes informatiques. Une initiative développée par le Secrétariat d’État à la Numérisation et à l’Intelligence Artificielle, et qui s’intègre dans les politiques européennes visant à légiférer sur les services numériques à tous les niveaux, comme la directive sur les services numériques (DSA) récemment approuvée. “Nous établissons un modèle pour le reste du monde, il a été démontré que la voie européenne n’est pas la troisième voie, mais la seule voie possible pour parvenir à une intelligence artificielle plus éthique, humaniste et juste”, déclare sa propriétaire, Carme Artigas, dans une interview accordée à EL PAÍS, à peine trois semaines après avoir dû faire face à une mutinerie au sein de son conseil consultatif pour l’intelligence artificielle.

Demander. Comment vont-ils s’intégrer ? bac à sable réglementation et l’Agence espagnole de surveillance de l’intelligence artificielle avec le nouveau centre ?

Répondre. Le centre européen est un énorme coup de pouce pour l’Espagne dans le rôle de leader du développement d’une IA [inteligencia artificial] qui soit plus juste, plus éthique et qui intègre des principes et des valeurs qu’il faut défendre dans le monde numérique. Par conséquent, le fait que les meilleurs chercheurs soient ici et que les administrations espagnoles soient plus proches de leur travail et aussi le secteur privé, s’ajoute aux initiatives que nous avions déjà. Il bac à sable Il est déjà en cours et fait partie de la collaboration que nous avions déjà avec le JRC [siglas del Centro Común de Investigación, que alberga el ECAT] et nous voyons beaucoup de similitudes entre le livre de règles de l’IA et le DSA et donc nous y voyons beaucoup de synergies.

P Quand les entreprises espagnoles pourront-elles participer à cet environnement de test ? réglementaire ?

R Nous espérons que d’ici un mois, le décret royal sera prêt à inviter les entreprises espagnoles à participer et nous avons fixé le mois de novembre pour offrir les premiers résultats, coïncidant avec la réunion de l’AIA [Alianza para la Inteligencia Artificial].

P Il a parlé de l’importance de développer une IA plus éthique, mais cet engagement a récemment été remis en question par plusieurs membres du Conseil consultatif de l’IA et par des ONG suite à l’accord du gouvernement avec le centre de recherche ADIA Lab des Émirats arabes unis, un pays où les droits de l’homme ne sont pas respectés et où la science est contrôlée par le gouvernement. Le Gouvernement a-t-il correctement calibré la répercussion que pourrait avoir cet accord, compte tenu de l’incidence que l’IA peut avoir sur les libertés publiques ?

R Je ne comprends pas la polémique. C’est une excellente nouvelle, ce sont des centres de recherche de haut niveau qui choisissent de s’implanter en Espagne, pas en France ou en Allemagne. Il n’y a pas de conflit éthique. Il s’agit d’un financement, non pour un gouvernement, ni pour un centre, mais pour des scientifiques espagnols. Nous soutenons les universités publiques espagnoles afin de pouvoir financer des lignes de travail communes au niveau international avec n’importe quel centre prestigieux, des Émirats arabes unis, mais aussi récemment l’Institut technologique de Monterrey (Mexique) a également décidé de localiser son centre européen à Oviedo. Les relations diplomatiques sont une chose, l’activisme en est une autre et la science en est une autre.

P On s’interroge également sur le fait qu’une ligne de recherche de ce centre porte sur le changement climatique et la durabilité alors que l’origine des fonds des Émirats arabes unis est le pétrole.

R Le fonds souverain de l’ADIA finance COP28 avec les Nations Unies. Si les Nations Unies concluent un accord avec un pays, je ne vais pas le remettre en question. Nous ne remettons pas en question les pays, nous savons que comme les pays ont un niveau de démocratie inférieur au nôtre, notre pays peut avoir des relations diplomatiques et commerciales avec les pays qu’il juge appropriés. Nous sommes pour soutenir les scientifiques espagnols et il n’y a rien de mieux que d’aider l’évolution démocratique que d’échanger des connaissances en tant que pays.

P Alors, la sauvegarde scientifique et éthique de la recherche menée dans le centre qui s’ouvrira à Grenade est-elle garantie ?

R C’est que des choses indiscutables ont été remises en question, comme la liberté académique des scientifiques espagnols, ou quelqu’un doute-t-il qu’un scientifique espagnol, s’il se sent un peu dirigé dans ses recherches, ne lèvera pas la main et dira que vous ne plus envie de collaborer avec eux ? Les scientifiques sont ceux qui ont la liberté de décider.

P Les membres du Conseil consultatif et les ONG s’interrogent également sur le fait qu’ils ne sont pas suffisamment pris en compte dans la prise de décision.

R Ce sont des choses différentes. Avec le Conseil consultatif, nous avons trois réunions officielles par an avec le vice-président [Nadia Calviño] et chaque mois, nous avons des réunions de travail et des appels de mon équipe de direction. La relation est continue, ce qui se passe, c’est qu’il s’agit d’un organe consultatif qui a de nombreuses perspectives et il n’y a jamais de consensus. Avec les ONG, c’est moi qui ai demandé une rencontre au plus haut niveau et ils m’ont interrogé sur le rôle de la société civile dans le bac à sable réglementation et je leur ai dit que nous allions créer une équipe pour superviser bac à sablemais pour que ce travail technique puisse commencer, il faut d’abord approuver le décret-loi royal, qui n’a pas encore été approuvé.

P Récemment, des scientifiques, des experts et des magnats de la technologie ont appelé à un moratoire sur le développement de l’IA générative, comme ChatGPT. Critique?

R Nous ne sommes pas du tout d’accord pour dire que la recherche et l’innovation s’arrêtent. Au lieu de cela, ce que vous devez faire, c’est accélérer pour résoudre les problèmes que les entreprises ont créés. L’innovation doit être accélérée avec des limites. Essayer de mettre sur le marché un produit qui n’est pas fini, sans les mêmes contrôles qu’une voiture ou un médicament aurait, et dire aux gens de l’essayer et de voir où sont les défauts pour voir comment je peux l’améliorer, ce qui a fait ChatGPT, c’est ce qui n’est pas correct. ChatGPT est passé trop vite de la partie recherche à la partie commerciale. Mais cela a servi à faire prendre conscience que la voie que suivait l’Europe, en défendant les droits numériques, est la bonne.

P La réglementation existante en Europe et la future réglementation européenne sur l’IA sont-elles des mécanismes suffisants pour contrôler le développement de l’IA générative ?

R Le tout : le règlement européen sur la protection des données, le DSA pour le contrôle des contenus illégitimes, et le règlement IA peuvent décider qu’une IA générative peut relever de la catégorie des algorithmes à risque et toute supervision algorithmique lui serait appliquée tant comme il ne biaise pas, il ne discrimine pas, il ne propose pas de fausses informations…

P Le règlement devrait être prêt en 2025, mais nous avons vu comment ChatGPT s’est développé très rapidement en quatre mois. N’y a-t-il pas le risque qu’au final les réponses législatives soient toujours en retard par rapport à la technologie ?

R Non non. Ce que vous devez faire, c’est fermer le dossier législatif. Dans le cas de l’IA, elle devrait être approuvée en janvier 2024 et d’où l’importance de la présidence européenne que le dossier législatif soit clos. L’Espagne va devoir clore le dossier législatif de l’outil européen d’IA. C’est pourquoi il a été créé bac à sable, parce que ce que nous ne voulons pas, c’est que lorsqu’il entre en vigueur, il mette deux ans pour être mis en œuvre ou qu’un moratoire soit demandé parce que les entreprises ne sont pas prêtes à les appliquer. C’est pourquoi ce que nous faisons est si important, car nous anticipons la mise en œuvre technique et opérationnelle de certains éléments de la loi.

Vous pouvez suivre LE PAYS Technologie dans Facebook y Twitter ou inscrivez-vous ici pour recevoir nos bulletin d’information sémanal.