L’abandon d’OpenAI : une menace possible pour une intelligence artificielle responsable

L’abandon d’OpenAI : une menace possible pour une intelligence artificielle responsable
Le fondateur et scientifique en chef d’OpenAI, le Dr Ilya Sutzkaber, quitter l’entreprise Six mois seulement après avoir dirigé le L’échec de la tentative d’évincer le fondateur et PDG Sam Altman — c’est ce qu’a annoncé aujourd’hui la société d’intelligence artificielle générative (GenAI). Selon Sutzkaber, il prend sa retraite afin de promouvoir “un projet qui revêt pour lui une profonde signification personnelle”, dont il n’a pas révélé la nature. Quelques heures plus tard, Jan Leika, qui dirigeait aux côtés de Sutzkever l’équipe responsable du comportement responsable de l’intelligence artificielle, a également annoncé qu’il démissionnait de l’entreprise.

“C’est très triste pour moi”, a écrit Altman dans un message adressé aux employés de l’entreprise à propos de Sutzkever, avant que le départ de Laika ne soit annoncé. “Ilya est l’un des grands esprits de notre génération, un phare dans notre domaine et un ami cher. Sa sagesse et sa vision sont bien connues ; sa chaleur et sa compassion sont moins connues, mais tout aussi importantes.” Le Dr Jacob Pachucki, l’un des principaux chercheurs de l’entreprise, remplacera Sutzkever en tant que scientifique en chef.

Sutzkever (37 ans) est un Israélien né dans l’ex-Union soviétique qui a immigré à Jérusalem à l’âge de 5 ans. Il a commencé ses études universitaires à l’Open University, mais a obtenu tous ses diplômes à l’Université de Toronto, où il a obtenu un doctorat en sciences. l’apprentissage automatique sous la direction du professeur Jeffrey Hinton, l’un des premiers chercheurs pionniers dans le domaine de l’intelligence artificielle (IA).

Après une formation postdoctorale à l’Université de Stanford, Sutzkever a co-fondé avec Hinton la société d’intelligence artificielle DNNResearch. La société a été rachetée par Google en mars 2013, quatre mois seulement après sa création en tant que spin-off du groupe de recherche de Hinton. Sutzkever a travaillé comme chercheur scientifique au sein de l’équipe Google Brain, qui se concentrait sur la recherche fondamentale dans le domaine de l’IA, jusqu’à fin 2015, date à laquelle il a pris sa retraite pour fonder OpenAI.

Au sein de la nouvelle société, Sutzkever a dirigé les recherches qui ont conduit à la création de modèles, d’algorithmes et de services révolutionnaires tels que Dall-E et ChatGPT, qui sont directement responsables de la révolution GenAI actuellement en cours. Il est considéré comme l’une des personnalités les plus proches d’Altman, et l’a même accompagné lors de sa visite en Israël en juin 2023 et a pris la parole à ses côtés lors de ses apparitions publiques.

Cependant, il a également été l’un des quatre membres du conseil d’administration qui ont démis Altman de son poste de PDG de l’entreprise en novembre dernier, ceci dans un contexte de désaccords qui n’ont pas été entièrement clarifiés. Ils sont probablement liés au conflit qui a éclaté. ont eu lieu entre Altman et Sutzkever concernant la rapidité avec laquelle OpenAI développe et distribue de nouveaux modèles et services Altman) ont été faites dans le cadre de la mission du conseil d’administration, qui est de garantir qu’OpenAI construit une intelligence générale artificielle (AGI) qui profite à toute l’humanité. Sutzkever l’a déclaré aux employés lors d’une réunion d’urgence peu de temps après l’éviction d’Altman.

La procédure de destitution a provoqué une vaste tempête dans le secteur de l’IA et dans les médias mondiaux, à l’un de ses sommets. Altman a conclu avec Microsoft À propos de la création d’une nouvelle division d’IA dirigée par lui, qui devait recruter la plupart des principaux chercheurs et développeurs d’OpenAI et en faire effectivement une coquille creuse. Dans ce contexte, Sutzkever a changé de position et a été l’un des leaders des efforts visant à restaurer Altman au poste de PDG cinq jours après son éviction. Altman est revenu dans l’entrepriseet Sutzkever a conservé son poste.

Extérieurement, les deux hommes disent que leur relation est normale. Cependant, selon le “New York Times”, Sutzkever n’est pas réellement retourné travailler dans l’entreprise et son remplaçant, Pachuki, occupe depuis lors le poste de scientifique en chef. Selon certaines sources, Altman a tenté de promouvoir le retour de Sutzkever, mais ces efforts ont officiellement échoué avec l’annonce de sa retraite. “Sans lui, OpenAI ne serait pas ce qu’elle est”, a écrit Altman dans X. “Je suis reconnaissant pour ce qu’il a fait ici et je m’engage à terminer la mission que nous avons commencée ensemble.” Sutzkever a écrit : « Je suis convaincu qu’OpenAI construira une AGI sûre et utile. J’ai eu l’honneur et le privilège de travailler ensemble (avec Altman et les autres dirigeants, alias) et ils me manqueront tous beaucoup. Au revoir et merci pour tout.”

La signification de son départ est principalement symbolique, car dans la pratique, son implication dans l’entreprise depuis la tentative d’impeachment était nulle, selon les rapports, et il est probable qu’Altman préparait déjà sa retraite depuis des mois et préparait l’entreprise pour le transition. Bien que les qualités et les capacités de Sutzkever soient exceptionnelles et incontestables, personne n’est irremplaçable et OpenAI ne manque pas de scientifiques, d’ingénieurs et de développeurs talentueux.

Son remplaçant, Pachuki, n’aura aucune difficulté à prendre sa place, puisqu’il exerce déjà depuis six mois et qu’avant cela, il était l’un des scientifiques les plus éminents de l’entreprise et en était le directeur de recherche. Pachucki est titulaire d’une licence en informatique de l’Université de Varsovie, d’un doctorat en informatique de l’Université Carnegie Mellon (l’une des principales institutions de recherche au monde dans le domaine de l’intelligence artificielle) et d’une formation postdoctorale à l’Université Harvard. Pendant ses études à Carnegie Mellon, Pachuki a également travaillé comme stagiaire en génie logiciel chez Meta.

Pachucki est considéré comme proche d’Altman et, après son éviction de courte durée, il a été parmi les quatre premiers dirigeants à annoncer leur démission de l’entreprise en réponse. La loyauté mutuelle est essentielle aux relations de travail entre les hauts responsables de l’entreprise. Son absence dans la relation entre Altman et Sutzkever en raison de l’implication de ce dernier dans la tentative de destitution a peut-être été un facteur majeur dans sa décision de prendre sa retraite. La loyauté de Pachuki, en revanche, facilitera grandement les opérations quotidiennes de la haute direction. Dans le même temps, on ne peut ignorer que malgré ses nombreuses expériences et capacités, Pachuki ne jouissait pas de la même image, du même statut et de la même position d’influence que Sutzkever, notamment à la lumière de son statut de fondateur. Cela signifie qu’Altman renforce encore son emprise sur l’entreprise et sa position en tant que facteur le plus influent au sein de celle-ci. Dans ce contexte, Sutzkever ne sera peut-être pas le dernier personnage clé à partir dans un avenir proche.

Contrairement à Sutzkever, Laika a annoncé son départ de manière beaucoup plus laconique et a simplement annoncé avec un X : “J’ai démissionné”. Au moment d’écrire ces lignes, cette décision n’a pas été publiquement évoquée par Altman.

En septembre dernier, Leica a été incluse dans la liste des 100 personnes les plus influentes dans le domaine de l’IA par le magazine « Time ». Ceci, dans le contexte de sa direction, aux côtés de Sutzkever, de l’équipe Superalignment d’OpenAI. L’équipe, créée en juillet 2023, vise à promouvoir les avancées scientifiques et technologiques qui permettront à l’humanité de contrôler l’intelligence artificielle. La création de l’équipe était une réponse aux préoccupations soulevées dans les mois qui ont suivi la révélation de ChatGPT, selon lesquelles des modèles GenAI plus avancés pourraient avoir des capacités similaires à celles de l’intelligence humaine, ou plus avancées que celle-ci, et leur activité pourrait causer des dommages importants à l’intelligence humaine. la race humaine au point de la rendre inutile ou de la détruire.

L’équipe, dirigée conjointement par Leica et Sutzkever, avait pour objectif de présenter une réponse adéquate à ces préoccupations d’ici quatre ans, lorsque l’entreprise s’est engagée à y consacrer 20 % de ses ressources informatiques. Il y a environ un mois, Leica a annoncé 50 subventions au nom de l’équipe, pour un montant total de près de 10 millions de dollars, qui ont été accordées à des universités, des étudiants chercheurs, des organisations à but non lucratif et des chercheurs indépendants qui ont développé des outils scientifiques et technologiques afin de créer des mécanismes qui permettraient de contrôler l’intelligence artificielle.

Il est probable que son départ rapide quelques heures après Sutzkever n’est pas sans rapport avec le départ à la retraite du scientifique en chef, mais on ne peut qu’en deviner les raisons. Il se peut simplement que Leica rejoigne Sutzkever dans sa nouvelle entreprise à un poste de direction, mais il est également possible qu’après le départ à la retraite de Sutzkever, OpenAI ait apporté des changements radicaux à l’équipe Superalignment, ou ait décidé de la fermer, d’une manière qui n’a pas eu lieu. laisser à Leica un rôle important dans l’entreprise et le seul choix qui lui reste est de démissionner. Sutzkever faisait partie des voix éminentes d’OpenAI en faveur du développement responsable de l’intelligence artificielle, et ses préoccupations à cet égard faisaient également partie des motivations qui l’ont conduit à soutenir la décision d’évincer Altman. Aujourd’hui, avec sa retraite, Altman a peut-être décidé de réduire une activité qu’il considère comme inutile et l’équipe Superalignment a été l’une des principales victimes de cette décision.

Facebook
Twitter
LinkedIn
Pinterest

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.