“Les résultats de l’intelligence artificielle sont décevants”

Le 29 mars, un groupe de personnalités, notamment de la Silicon Valley, a publié une lettre dans laquelle ils appelaient à arrêter le développement de l’intelligence artificielle pendant au moins six mois et à utiliser ce temps pour développer des protocoles de sécurité. On en parle avec Wim Naudé, expert IA à l’OCDE.

De quoi les auteurs ont-ils peur ?

« Les auteurs craignent GPT4, la dernière version d’un modèle de langage basé sur intelligence artificielle (IA). On ne sait pas comment ce modèle a été formé. La crainte est que le modèle puisse se développer si rapidement qu’il deviendra plus intelligent que les humains. Alors la fin pourrait être proche pour l’humanité, selon ces scientifiques. Par exemple, l’IA peut voir l’humanité comme une menace et lui déclarer la guerre. Ou la menace traverse un Verrouillage de l’IA, avec l’IA prenant le contrôle du gouvernement et adoptant des lois dans le monde entier qui ne peuvent jamais être modifiées. Il y a aussi une situation concevable La matriceoù l’IA fournit des incitations, et peut ainsi influencer le comportement humain.

Les inquiétudes sont-elles justifiées à vos yeux ?

« Philosophiquement, oui. Mais cet appel semble aussi avoir été motivé par les résultats décevants de l’IA. Ce n’est pas la première lettre ouverte de ce groupe de célébrités de la Silicon Valley. En 2015, ils ont publié sur le site de Avenir de la vie une lettre ouverte, dans laquelle ils préconisent davantage de recherche sur l’IA. Ils pensaient que les avantages de l’IA seraient immenses et qu’elle pourrait, par exemple, résoudre la pauvreté mondiale. Maintenant que cela semble décevant huit ans plus tard, les avantages ne semblent plus l’emporter sur les risques, selon eux.

Mais vous pourriez aussi voir l’appel comme un coup de pub : l’industrie technologique est sous forte pression. D’une part, les auteurs tentent d’indiquer la puissance de leur création – en mettant en garde contre elle. D’autre part, ils veulent montrer à quel point ils sont vertueux avec l’appel.

Cependant, je ne pense pas moi-même que l’IA présente un risque existentiel – aucune civilisation n’a encore été détruite par sa propre technologie.

Alors devrions-nous continuer à faire des recherches sur l’IA ?

« Nous devons particulièrement faire plus de recherches sur l’intelligence humaine. Nous pouvons en apprendre beaucoup, car le cerveau humain obtient d’excellents résultats par rapport à l’IA – tout en utilisant une fraction de l’énergie. Mais nous y comprenons encore peu de choses – la conscience humaine, par exemple, est toujours une boîte noire.

Nous devons également continuer à rechercher l’IA, mais l’industrie technologique devrait se concentrer davantage sur les avancées majeures. Les gadgets d’IA nous détournent de la technologie fondamentale que nous recherchons – et dont la recherche prendra plus de temps. Par exemple, selon un chœur croissant de commentateurs, la physique fondamentale, qui a fourni pratiquement toutes les technologies qui ont soutenu les révolutions industrielles précédentes, stagne.

L’IA pourrait-elle stimuler la croissance de la productivité ?

“C’est aussi décevant pour le moment. Aux États-Unis, seulement 2 % des entreprises utilisent l’IA. De nombreuses entreprises trouvent l’IA trop chère et les avantages trop limités, et donc non rentables. Dans tous les cas, il n’est pas certain que l’IA augmentera la productivité, car l’application peut être très complexe et chronophage.

Doit-on craindre que notre métier ne devienne obsolète ?

“Non je ne crois pas. Certains emplois deviendront superflus, mais je n’y vois aucun problème. Il y a plus d’emplois que jamais. Mes enfants ne savent plus quoi choisir parmi les quelque 15 000 emplois qui existent. Le type de carrière que nous voulons nous-mêmes est désormais central. J’ai aussi parfois pensé si je voulais continuer à faire mon travail actuel pour le reste de ma vie. Et dans cette génération, les gens peuvent facilement changer de carrière. »

Littérature

Bengio, Y., S. Russell, E. Musk et al. (2023) Pause des expériences géantes d’IA : une lettre ouverte. Lettre ouverte, 22 mars. Disponible sur futureoflife.org.