Professeur Stuart J. Russell
“Nous ne pouvons pas nous permettre un Tchernobyl IA” : un expert met en garde avec des mots drastiques contre le développement effréné de l’IA
L’intelligence artificielle devient un partenaire de conversation avec des programmes tels que ChatGPT (image d’icône)
© imaginima / Getty Images
Dans une lettre ouverte, les experts demandent que l’IA soit limitée avant de l’utiliser sans entrave. Le soussigné Stuart J. Russell a maintenant trouvé des mots drastiques pour ses craintes.
Depuis la fin de l’année dernière, l’intelligence artificielle est soudainement sur toutes les lèvres. Grâce à des programmes comme ChatGPT ou des générateurs d’images comme Midjourney, la technologie a atteint le grand public. Dans une lettre ouverte, un groupe de scientifiques, d’experts et de géants de la technologie a maintenant appelé à l’arrêt du développement. Signer Stuart J. Russell va maintenant encore plus loin dans une interview. Et met en garde contre les conséquences imminentes de la technologie.
“C’est une recette pour un désastre”, estime Russell. Il s’occupe d’intelligence artificielle depuis des décennies, est professeur à l’Université de Berkeley et auteur de l’ouvrage de référence “Artificial Intelligence: A Modern Approach”. La flambée actuelle de l’IA non réglementée est un carrefour pour l’industrie et l’humanité, prévient-il dans une interview. “Nous ne pouvons pas nous permettre d’avoir Tchernobyl pour l’IA.”
peur du désastre
Il ne choisit pas la comparaison au hasard : pour lui, la situation actuelle est comparable à la construction d’une centrale nucléaire. “Si je voulais construire une centrale nucléaire, le gouvernement me demanderait de prouver qu’elle est sûre, antisismique et non explosive”, dit-il. “Si je ne pouvais pas faire ça, ils ne diraient pas : alors non, commencez, ça va.” Pour cette raison, selon lui, l’industrie devrait également se voir fixer des limites par le gouvernement – bien qu’en coopération.
Un problème majeur avec le développement actuel est que nous ne savons tout simplement pas exactement comment la technologie fonctionne, explique Russell. L’intelligence artificielle repose sur la formation de modèles d’IA sur des ensembles de données, puis sur la tentative de les orienter dans une certaine direction. “Nous savons comment nous en sommes arrivés là pour que des programmes comme ChatGPT puissent produire une preuve mathématique dans le style d’un poème shakespearien. Mais nous n’avons aucune idée de comment ils le font finalement. Nous ne savons tout simplement pas.” Cela rendrait également plus difficile d’éviter une mauvaise conduite, explique-t-il. “C’est comme gronder un chien. Et n’arrêtez pas de lui dire qu’il est un mauvais chien quand il fait quelque chose de mal. J’espère qu’il en tirera des leçons.”
Intelligence artificielle
Où devrait aller le prochain voyage ? Selon ChatGPT, ce sont les dix meilleurs pays de vacances
forte demande
La lettre ouverte publiée fin mars, que Russell a également signée ainsi que le milliardaire de la tech Elon Musk et le fondateur d’Apple Steve Wozniak, appelle donc à un arrêt du développement. Mais cela ne suffit pas pour Russell. “À mon avis, les six mois requis là-bas ne sont pas suffisants”, précise le professeur. Selon lui, un type de directive pour une utilisation sûre devrait d’abord être défini pour chaque type d’IA – et ce n’est qu’après preuve de conformité que les entreprises pourraient ensuite publier leurs programmes. “Si ces directives ne peuvent pas être définies, si vous ne pouvez pas prouver qu’elles sont respectées, ce serait simplement de la malchance” ; il va droit au but avec défi.
Cependant, il est important pour l’expert que sa demande ne soit pas comprise comme un rejet de l’IA. “Je fais des recherches sur l’intelligence artificielle depuis 45 ans, j’adore ça. Je crois que son potentiel pour changer positivement le monde est illimité”, précise-t-il. “Mais nous ne voulons pas voir un Tchernobyl pour l’IA qui aurait des conséquences vraiment graves.” On ne sait tout simplement pas à quoi pourraient ressembler les conséquences. Russell a donc une demande claire : “Nous devons grandir et enfin prendre au sérieux la possibilité de conséquences graves.”
