Le patron d’OpenAI, Sam Altman, met en garde contre l’intelligence artificielle au WEF

Le Davos Café de l’agence de presse américaine Bloomberg affiche complet. La file d’attente à l’extérieur s’étend sur toute la façade du bâtiment. Les participants au WEF attendent patiemment dans le froid glacial de Davos, certains en vain. Au moins, ils aperçoivent à travers la fenêtre la star du forum : Sam Altman, le PDG d’Open AI.

Il y a quatorze mois, il a surpris le monde entier avec Chat-GPT. Soudain, l’intelligence artificielle pouvait faire ce qui était auparavant le domaine exclusif de l’humanité : écrire des textes, peindre des images, faire de la musique et programmer des ordinateurs.

Jean moulant délavé, pull bleu : l’homme de 38 ans paraît plus jeune qu’il ne l’est. Altman est un mélange de rock star et de nerd, un homme timide qui a les mains sur les genoux, qui parle vite et ne s’exprime pas toujours clairement. Il est accompagné d’Anna Makanju, une ancienne diplomate de haut rang sous Obama et Biden, qui entretient des contacts avec les ministères en tant que responsable des affaires mondiales chez Open AI.

Grâce à l’IA, tout le monde dirigera bientôt une entreprise de 10 000 salariés

Il n’a aucun doute que l’IA va changer fondamentalement le monde. Selon lui, l’IA est bien plus qu’une simple révolution technologique : elle entraîne également de profonds bouleversements sociaux et politiques. Un instrument qui libérera la créativité et multipliera la productivité. «Que se passe-t-il si chacun de nous dirige une entreprise qui compte 10 000 employés hautement qualifiés travaillant 24 heures sur 24 ? “Qu’arrivera-t-il alors au monde ?”, demande-t-il au public.

Altman ne connaît pas non plus la réponse. Il est passé maître dans l’art de ne pas s’installer. Quelques exemples : L’intelligence artificielle générale (IAG) – une intelligence qui surpasse les humains sur le plan cognitif dans tous les domaines – sera développée dans un avenir proche, mais elle changera le monde moins que certains ne le pensent. L’IA entraînera la disparition de certains emplois dans le monde du travail, mais dans le même temps, la demande en solutions informatiques est si forte que de nouveaux emplois seront créés. Open AI ne sera jamais une entreprise traditionnelle, mais la structure doit être adaptée.

Il reste également vague en revenant sur les jours de chaos à Open AI en novembre. Accusé de ne pas toujours dire toute la vérité au conseil d’administration, Altman a été expulsé – pour ensuite célébrer un glorieux retour en tant que PDG quatre jours plus tard. Il aurait accepté le licenciement, le conseil d’administration l’a persuadé de revenir, dit Altman et tente de mettre rapidement le scandale de côté : “Voulons-nous vraiment perdre notre temps avec ce feuilleton ?”

L’IA domine le WEF au-delà d’Altman

Altman a rendu l’IA adaptée au grand public avec Chat-GPT. Désormais, le sujet domine tout le WEF. Personne ne parle de la blockchain et du métaverse, les deux derniers battages technologiques, cette année.

Des banderoles portant le mot-clé AI sont accrochées sur de nombreux bâtiments de la promenade de Davos, où les entreprises et les pays positionnent leurs thèmes. Cependant, la maison entièrement dédiée à ce sujet, l’AI House, attire un nombre particulièrement important de visiteurs.

Il y a une foule constante à l’entrée et le personnel de sécurité refuse également les invités enregistrés car il y a déjà trop de monde dans les salles étroites. L’ETH et Swisscom se sont associés à une startup, à une société émiratie d’IA et à d’autres pour utiliser la maison. Cela fonctionne : les personnalités les plus célèbres des meilleures universités et les entreprises d’IA les plus performantes apparaissent 24 heures sur 24, et ces stars attirent à leur tour des invités.

Chef de recherche en IA chez Meta : Même les chats sont plus intelligents

Une foule particulièrement nombreuse s’est rassemblée pour la séance sur les risques de l’IA, au cours de laquelle Yann LeCun, responsable de la recherche en IA chez Meta, s’est disputé avec Max Tegmark, le professeur du MIT à l’origine de la lettre appelant à une pause dans la recherche en IA. Tegmark craint que l’intelligence artificielle générale ne nous asservisse, ce qui signifie qu’une machine pourrait résoudre toutes les tâches imaginables mieux qu’un humain. LeCun pense que cela n’a aucun sens : il doute du concept d’une telle superintelligence. Et l’IA actuelle est encore loin de l’intelligence des chats. Le public applaudit.

Ce n’est pas la peur du Terminator qui tient les gens éveillés, mais la peur de rater le train de l’IA. Les entreprises qui vendent cette technologie jouent avec. Keith Strier, directeur général de Nvidia, le leader des puces d’IA, partage sa conviction dans deux panels selon laquelle les dirigeants d’entreprise et les politiciens doivent investir dans l’IA dès maintenant si leurs pays et leurs entreprises veulent un avenir. La montée rapide de Nvidia en bourse est un exemple de ce que l’IA rend possible.

L’IA est comme un stagiaire sous stéroïdes

La phrase « Ce n’est pas l’IA qui vous fera perdre votre emploi, ce sont les gens qui travaillent avec l’IA » qui traverse les conversations comme un mantra. Vous pouvez imaginer l’IA du futur proche comme un stagiaire sous stéroïdes qui peut trouver des documents pertinents pour répondre aux questions en appuyant simplement sur un bouton, développer des dossiers avec des stratégies commerciales, optimiser les rendez-vous et donner plus à chacun, du chef d’équipe au médecin. du temps pour l’essentiel, pour les gens et pour la créativité.

L’explicabilité et la fiabilité sont les principaux problèmes contre lesquels les experts les plus prudents ne cessent de mettre en garde. Quelle que soit la productivité d’un modèle d’IA, s’il vous ment, son travail n’a aucune valeur.

Mais aux yeux de nombreux experts, il est impossible de rendre la génération actuelle de modèles d’IA sûre et fiable. Les prestataires parlent désormais de plus en plus de systèmes spécialisés en fonction du domaine d’application qui rendent transparents les sources de leurs suggestions.

L’IA est une grosse affaire pour les cabinets de conseil

Selon des enquêtes, seulement 10 % des entreprises disposent d’une stratégie d’IA pleinement développée. Pour la grande majorité, l’IA n’est que fragmentaire. À cela s’ajoute l’incertitude quant à savoir quelle IA est adaptée et quelles règles s’appliquent.

C’est le point de départ idéal pour quiconque vend des conseils et des services. Le cabinet de conseil Accenture, spécialisé dans les sujets technologiques, guide 130 top managers à travers 13 ateliers différents au WEF. Le sujet : Réinvention de l’entreprise. Comment une entreprise doit-elle se transformer pour utiliser l’IA à tous les niveaux ?

Les clients peuvent choisir parmi un kiosque avec 632 modèles d’IA

Le patron de la technologie, Paul Daugherty, utilise l’exemple d’une entreprise de biens de consommation pour démontrer comment l’IA peut augmenter la productivité, la croissance, les marges et les bénéfices. L’objectif : soulager les collaborateurs de l’administration et les libérer pour ce qui apporte réellement une valeur ajoutée : les conversations avec les clients et les ventes. Dans l’exemple, la productivité et les ventes montent en flèche de 30 %. Quelle entreprise ne participerait pas ?

Les clients d’Accenture peuvent choisir parmi un kiosque proposant 632 modèles d’IA. En fonction des besoins, l’IA indique quelle IA est la mieux adaptée à une entreprise. Le Chat GPT d’Altman n’est que l’un d’entre eux. Très peu de gens peuvent se permettre de construire leurs propres modèles.

Un professeur de Harvard appelle à une réglementation décisive

Ici, l’IA pénètre déjà l’économie réelle. Une question reste sans réponse : comment la technologie devrait-elle être réglementée pour qu’elle fasse plus de bien que de mal ?

Il craint que les gens du WEF aient une idée beaucoup trop optimiste de l’IA, estime Kenneth Rogoff, économiste de Harvard et invité régulier à Davos. L’ancien grand maître d’échecs se décrit comme un fan de l’IA. Mais il met des points d’interrogation derrière l’euphorie actuelle. « Nous ne sommes pas prêts pour la technologie », dit-il dans une interview. “Nous n’avons ni le cadre juridique ni le cadre social et économique pour y faire face”, déclare Rogoff.

Il ne fait aucun doute dans son esprit que l’IA va mettre des millions de personnes au chômage, mais ce n’est pas ce qui l’inquiète le plus. Ce problème peut être résolu grâce à une politique fiscale intelligente. « Mark Zuckerberg ne paie pratiquement aucun impôt. Nous devons trouver des moyens de taxer ceux qui profitent », déclare Rogoff.

Et si l’IA tombait entre les mains de terroristes ?

Ce qui lui donne vraiment mal au ventre, c’est que les terroristes et les psychopathes ont également accès à l’IA et augmentent ainsi leur danger. « Aujourd’hui, ils ont la volonté, mais pas la capacité, de produire des armes de destruction massive. Grâce à l’IA, ces personnes disposent de leur propre laboratoire du MIT pour concrétiser leurs projets terroristes.

Rogoff, considéré comme néolibéral, prône une réglementation étatique forte. Grâce aux médias sociaux, la société a appris à quel point il est dangereux qu’une nouvelle technologie reste trop longtemps non réglementée.

Le potentiel de dommages est bien plus grand que celui des médias sociaux. “Pourquoi sommes-nous si naïfs pour croire que l’IA se développera de manière constructive sans garde-fous ni surveillance ?”, demande Rogoff. Bien entendu, cela coûte cher en innovation et ralentit la productivité. “Mais comparé aux risques de déstabilisation sociale, il est négligeable que nous ayons une superintelligence dans douze ans au lieu de sept”, estime Rogoff.

Altman met en garde contre l’IA – et rassure en même temps

Depuis le big bang d’Altman fin 2022, le thème de la réglementation accompagne les nouveaux modèles d’IA. Non seulement la loi européenne sur l’IA, mais aussi les initiatives de la FTC aux États-Unis limitent ce qui peut être fait avec les données. Diverses initiatives ont été lancées au WEF pour rendre l’IA socialement acceptable. L’AI Governance Alliance, une coalition de gouvernements et d’entreprises, a publié trois rapports lors du WEF appelant à un large accès et à une utilisation responsable de l’IA.

Altman ne se ferme pas non plus à la discussion. Lorsqu’il est apparu sur la grande scène du palais des congrès jeudi, il a enfilé une veste et a semblé humble. Les modèles actuels sont limités et présentent des faiblesses majeures, mais ils apprennent très vite.

« Ce serait stupide de ne pas voir les dangers. Le développement peut aussi mal tourner », explique Altman. Plus le monde se rapproche du développement de la superintelligence, plus le rythme effréné et le stress s’accentueront. Dans le même temps, Altman a rassuré. Il reste suffisamment de temps pour définir le bon cap. Il considère avant tout que l’industrie elle-même a un devoir : « Nous devons rendre transparents les valeurs des modèles, les garanties intégrées et le niveau de coordination mondiale nécessaire. »

Altman est convaincu que son industrie est capable de maîtriser les risques. C’est l’apprenti sorcier qui a fait sortir le génie de la bouteille. Il ne semble pas non plus tout à fait à l’aise avec son travail. Mais il ne veut pas abandonner la baguette magique.