L’ONU discute d’Ai pour la première fois. Guterres : “Nous n’avons encore rien vu”

«Je convoque un conseil consultatif de haut niveau sur l’IA. Il présentera des solutions pour une gouvernance mondiale de l’IA dans l’année ». Le Secrétaire général de l’ONU, Anthony Guterres, annonce la démarche des Nations unies pour freiner une technologie qui, reconnaît-il, « a déjà montré qu’elle pouvait faire beaucoup, mais je suis convaincu que ce que nous avons vu jusqu’ici (de son potentiel, ndlr) n’est que la début. C’est la première fois que l’ONU parle d’intelligence artificielle. Et il le fait en apportant avec lui des mois de discussions sur l’IA. Potentiel, risques, voire menaces directes pour toute l’humanité. Et tout cela découle de la publication de ChatGpt, qui a fait comprendre au monde « le potentiel de cette technologie », a déclaré António Guterres.

« Il a atteint des centaines de millions de personnes en quelques mois seulement. On estime que d’ici 2030, les technologies basées sur l’IA généreront entre 10 et 15 000 milliards de dollars », a-t-il ajouté. Mais ces potentialités, “capables d’accélérer incroyablement le développement mondial”, cachent une zone grise qui alarme les Nations unies : “Même ses concepteurs ne savent pas où l’IA peut aller. Ce que nous voyons n’est que le début. Et nous savons que ces technologies peuvent augmenter le niveau de désinformation, créer des technologies dangereuses telles que les deepfakes, ou manipuler des messages, des idées, des paroles prononcées par des personnes, augmentant le risque de discrimination et de menaces envers les minorités”.

Craintes pour les applications militaires : IA et terrorisme

En plus de cela, ce qui effraie les Nations Unies, ce sont les applications militaires possibles des technologies basées sur l’IA. « L’utilisation d’armes basées sur des systèmes d’intelligence artificielle représente un risque pour l’humanité, comme la bombe atomique. Ainsi que les usages que les organisations terroristes peuvent faire de ces technologies ». Pour cela, vous avez besoin de règles. Et ils servent tout de suite.

Guterres a donc proposé une série de normes qui suivent trois principes : le premier, le respect des lois humanitaires ; le second, un accord sur l’utilisation de l’IA dans le domaine militaire ; le troisième, des règles mondiales pour le contrôle des technologies basées sur les données pour le contrôle des activités terroristes. Des discussions qui devront toutes être abordées dans les mois à venir. Et pour lequel la Grande-Bretagne, dont ce n’est pas un hasard qu’elle assure depuis quelques mois la présidence du Conseil de sécurité de l’ONU, veut jouer un rôle fondamental.

L’interview

Morozov: “Le garant sur ChatGpt a bien fait. L’IA de la Silicon Valley doit être combattue sur le plan politique et philosophique”

par l’Archange Rociola

19 avril 2023

Londres veut devenir le centre de discussion sur l’IA

Depuis des mois, Londres se propose comme lieu de futures négociations sur l’IA. Il a été le premier à alerter sur les risques de l’IA, destinée à remodeler des pans entiers de l’économie mondiale, le monde du travail, la qualité et la quantité de travail disponible. Des peurs qui ont trouvé un rivage sûr à Guterres. Le mois dernier, le secrétaire général a soutenu la proposition de certains dirigeants d’entreprises travaillant sur des solutions d’intelligence artificielle de créer un organe international de supervision de l’IA comme l’Agence internationale de l’énergie atomique (AIEA). Parmi eux aussi Sam Altmannle fondateur d’OpenAi, la société qui a lancé ChatGpt.

Le débat

Floridi : “ChatGpt est brutal et ne comprend pas. Mais bientôt l’IA remplacera les humains dans de nombreux métiers”

par l’Archange Rociola

22 janvier 2023

Même le premier ministre britannique, Rishi Sunak, a soutenu l’idée et a déclaré qu’il souhaitait que la Grande-Bretagne soit le siège de la réglementation mondiale sur la sécurité de l’IA. Des ouvertures importantes sont venues de certaines parties de la Chine, qui a cependant souligné la nécessité que les règles sur l’IA soient décidées avant tout dans une clé antiterroriste et militaire. Alors que parmi les experts convoqués, Jack Clark, co-fondateur d’Anthropic, a admis : « Il est vrai que certaines intelligences artificielles font des choses que même ceux qui les ont conçues n’imaginaient pas. Et il est également vrai que jusqu’à présent, toutes les choses qui ont surpris sont généralement positives. Mais ça ne veut pas toujours dire que ce sera comme ça », réaffirmant une ligne que les entreprises du secteur répètent depuis un certain temps : il faut des règles valables partout pour tout le monde, car l’IA n’a pas de frontières.