Djakarta –
OpenAI a de nouveau attiré l’attention après avoir présenté GPT-4o il y a quelques semaines. Cette fois parce qu’un de ses dirigeants a démissionné, ce qui a suscité l’inquiétude de la communauté de l’IA.
Il s’agit de Jan Leike. Il est chargé de s’assurer que tout ce qu’OpenAI crée profite à la société, est sûr et ne lui nuit pas.
La décision de Leike de quitter OpenAI est intervenue après que le co-fondateur d’OpenAI, Ilya Sutskever, a également annoncé son départ de l’entreprise. Sutskever, qui était l’un des quatre membres du conseil d’administration qui ont voté en faveur du retrait du PDG Sam Altman.
Leike avait publié une série de tweets concernant sa démission. Il a révélé que sa décision de partir n’avait pas été facile.
Le départ de Leike a été motivé par de profondes inquiétudes quant à l’orientation de l’entreprise. Il a révélé un désaccord persistant avec la direction d’OpenAI concernant les priorités fondamentales de l’organisation.
“J’ai rejoint OpenAI parce que je pensais qu’OpenAI serait le meilleur endroit au monde pour faire cette recherche. Cependant, j’étais en désaccord avec la direction d’OpenAI depuis assez longtemps sur les priorités fondamentales de l’entreprise, jusqu’à ce que nous atteignions finalement un point de rupture.” il a dit.
En tant que chercheur en IA, Leike estime qu’il faudrait se concentrer davantage sur la préparation de la prochaine génération de modèles d’IA, y compris sur des éléments tels que la sécurité et l’analyse de l’impact social de la technologie. Il a déclaré que construire des machines plus intelligentes que les humains est une entreprise intrinsèquement dangereuse et que l’entreprise « porte une énorme responsabilité au nom de toute l’humanité ». Leike a souligné qu’OpenAI doit être une société AGI (Artificial General Intelligence) qui donne la priorité à la sécurité.
“Nous devons de toute urgence trouver des moyens de diriger et de contrôler des systèmes d’IA qui soient beaucoup plus intelligents que nous”, a-t-il déclaré.
Jan LeikePhoto: janleike/Twitter
Leike s’est dit préoccupé par le fait que ces domaines importants ne reçoivent pas l’attention et les ressources nécessaires. “Ces problèmes sont assez difficiles à résoudre, et je crains que nous ne soyons pas encore sur la bonne voie pour les résoudre”, a-t-il tweeté, ajoutant que son équipe était souvent confrontée à des difficultés pour sécuriser les ressources informatiques nécessaires à ses recherches.
Dans son dernier message aux employés d’OpenAI, Leike les a exhortés à agir avec le sérieux nécessaire à la construction d’AGI et à accepter les changements culturels nécessaires. “Le monde compte sur vous”, a-t-il écrit, cité par Indiatoday.
À la série de tweets de Leike, le PDG d’OpenAI, Sam Altman, a répondu.
“J’apprécie vraiment @janleike pour ses contributions à la recherche sur l’alignement et à la culture de sécurité d’Openai, et je suis très triste de le voir partir. Il a raison de dire que nous avons encore beaucoup à faire ; nous nous engageons à le faire. J’aurai un article plus long. dans les prochains jours”, a écrit Altman.
Regardez la vidéo « OpenAI prévoit de lancer un assistant numérique IA super avancé »
(afr/afr)
2024-05-21 03:45:05
1716256822
#démission #responsable #sécurité #dOpenAI #est #inquiétante #pourquoi