Sam Altman sur son éviction, les dangers de l’IA et de Taylor Swift

Quand Sam Altman était viré brusquement le mois dernier, en tant que PDG de la centrale d’intelligence artificielle OpenAI, la rupture lui a laissé beaucoup de réflexion à faire.

Mais en repensant à cette expérience, Altman a déclaré au comédien Trevor Noah dans un podcast vidéo publié jeudi matin qu’il y avait peut-être des avantages.

“L’empathie que j’ai acquise grâce à toute cette expérience et ma recompilation de valeurs étaient certainement une bénédiction déguisée”, a déclaré Altman au ancien animateur du « Daily Show » dans l’un de ses premiers majors entretiens depuis son retour triomphal dans l’entreprise technologique. “Cela a coûté cher, mais je suis heureux d’avoir vécu cette expérience dans ce sens.”

” Et maintenant?”

1. Altman était au Grand Prix de Las Vegas lorsqu’il a été licencié.

En réponse à une question de Noah sur l’endroit où il se trouvait lorsqu’il a appris que le conseil d’administration d’OpenAI l’avait licencié, Altman a déclaré qu’il se trouvait là où se trouvaient de nombreux Californiens riches et influents à l’époque : Las Vegas, pour le moment. Grand Prix de Formule 1.

“Je n’ai jamais eu l’occasion de regarder une course pendant tout le week-end”, a-t-il déclaré à l’hôte alors que les deux hommes étaient assis autour d’une simple table en bois dans ce qu’ils sous-entendaient être le bureau d’OpenAI. «J’étais dans ma chambre d’hôtel, j’ai répondu à cet appel, je n’avais aucune idée de ce que cela allait être et j’ai été renvoyé par le conseil d’administration.»

Son téléphone a commencé à exploser avec des messages au point qu’iMessage a cessé de fonctionner, a ajouté Altman. Les employés ont commencé à démissionner ; Microsoft, un investisseur majeur dans OpenAI, appelait les gens.

Revenir à OpenAI n’était pas encore dans son esprit, a poursuivi Altman, mais il savait qu’il voulait continuer à travailler sur le développement de l’intelligence artificielle généralisée. Il est retourné en Californie et a commencé à réfléchir à son prochain déménagement.

“C’était comme un rêve”, a déclaré Altman à propos de cette expérience. « J’étais confus, c’était chaotique. Cela ne semblait pas réel.

2. Il a encore de la rancune à propos de toute cette épreuve.

“C’était une chose très douloureuse et cela m’a semblé, personnellement, tout comme à un être humain, très injuste – la façon dont cela a été géré”, a déclaré Altman à propos de son limogeage surprise.

On ne sait toujours pas exactement pourquoi le conseil d’administration d’OpenAI a tenté d’évincer Altman, bien que des spéculations circulent autour d’éventuels désaccords sur la rapidité avec laquelle l’entreprise devrait essayer de développer et de commercialiser des systèmes d’IA avancés. En raison de la structure d’OpenAI, qui soumet les éléments à but lucratif de l’entreprise à un conseil d’administration à but non lucratif, l’entreprise ne considère pas la création d’argent comme son objectif principal. Il vise plutôt à développer l’intelligence artificielle pour le bien de toute l’humanité.

Le conseil d’administration a cherché à évincer Altman rapidement et avec le bénéfice de surprise, ont révélé des rapports ultérieurs. Mais au-delà de l’affirmation initiale selon laquelle il aurait fait preuve d’une franchise incohérente dans ses communications avec eux, le conseil d’administration est resté discret sur les motivations de sa tentative de coup d’État.

Le samedi matin après avoir été licencié, Altman a déclaré à Noah : « Quelques membres du conseil d’administration m’ont appelé et m’ont dit : « Voudriez-vous parler de revenir ? »

“J’avais des sentiments vraiment compliqués à ce sujet”, a-t-il ajouté. “Mais c’était très clarifiant à la fin de dire : ‘Oui, je le fais.’ »

3. Altman a pu constater par lui-même ce que signifie perdre son emploi.

Dans les dernières minutes de l’entretien – qui est resté aimable pendant une heure et 15 minutes – Noah a fait une observation amicale mais précise que le licenciement d’Altman était parallèle aux pertes d’emplois que beaucoup de gens craignent que sa technologie entraîne à l’échelle sociétale.

“Continuez à vous souvenir de ce sentiment que vous avez ressenti lorsque vous avez été licencié alors que vous créez une technologie qui va mettre de nombreuses personnes dans une position similaire”, a encouragé Noah au directeur général.

“Tu sais ce que j’ai fait samedi matin – comme tôt samedi matin, quand je n’arrivais pas à dormir ?” » a répondu Altman, faisant apparemment référence au lendemain de son licenciement de vendredi. “J’ai écrit : ‘Que puis-je apprendre à ce sujet qui m’aidera à être meilleur lorsque d’autres personnes traversent une situation similaire et me blâment comme je blâme le conseil d’administration en ce moment.'”

Cela l’a rendu plus empathique, a-t-il ajouté.

4. Altman croit toujours à l’IA, malgré ses risques.

Malgré tous les drames du mois dernier, Altman reste enthousiasmé par l’intelligence artificielle – même s’il prévient qu’elle comportera des inconvénients.

“Cela va être une force très importante pour combattre l’injustice dans le monde”, a-t-il déclaré à Noah. «Ces systèmes le seront – ils n’auront pas les mêmes défauts profonds que tous les humains. Ils pourront être beaucoup moins racistes, beaucoup moins sexistes, beaucoup moins partiaux. Ils seront une force pour la justice économique dans le monde.»

Mais, a demandé son hôte, est-il vraiment possible de rendre l’IA totalement sûre ? Quel est le scénario cauchemardesque d’Altman ?

La sécurité n’est pas une question binaire mais un équilibre entre les risques et les avantages, a déclaré Altman, soulignant l’adoption continue par la société des avions (malgré des accidents occasionnels) et des produits pharmaceutiques (qui ont encore des effets secondaires).

“Mais cela ne veut pas dire que les choses ne vont pas vraiment mal”, a-t-il ajouté. « Je pense que les choses vont vraiment mal tourner avec l’IA. Ce que nous devons prévenir, ce sont les risques existentiels, ou la menace que l’IA puisse anéantir l’humanité de la même manière que les armes nucléaires.

5. Il a eu des mots gentils pour Taylor Swift.

Altman était je viens de nommer PDG de l’année par Time Magazine, manquant la première place au rang de Personne de l’année 2023, Taylor Swift.

Mais il ne l’envie pas pour cela, dit-il à Noah.

“J’ai reçu plus d’attention cette année que je n’aurais souhaité en avoir dans toute ma vie”, a-t-il expliqué, et cela a parfois été difficile pour sa vie personnelle. Il est “heureux pour Taylor Swift”.