Les auteurs de ChatGPT ont été effrayés par leur propre création

Le modèle appelé Q* (prononcé comme Q-Étoile) est censé être capable de résoudre des problèmes mathématiques de base qu’il n’a jamais rencontrés auparavant. C’est la capacité à résoudre des problèmes mathématiques qui serait considérée comme une évolution significative dans le domaine de l’intelligence artificielle.

“La capacité de résoudre des problèmes mathématiques par elle-même est un grand pas en avant qui permettra à l’intelligence artificielle d’offrir toute une gamme de nouvelles capacités analytiques”, a expliqué Andrew Rogoyski de l’Institut pour l’intelligence artificielle centrée sur l’humain de l’Université de Surrey.

Le modèle d’intelligence artificielle a suscité de telles inquiétudes parmi certains chercheurs d’OpenAI qu’ils ont écrit une lettre au conseil d’administration de l’entreprise avant même le licenciement du PDG Sam Altman. Dans ce document, ils avertissaient que le modèle pourrait mettre l’humanité en danger. Le journal en informe Le gardien.

Modèles égaux ou supérieurs à l’intelligence humaine

De nombreux experts craignent que des entreprises comme OpenAI s’orientent trop rapidement vers le développement de l’intelligence artificielle générale (AGI), un système capable d’effectuer une variété de tâches égales ou supérieures à l’intelligence humaine.

Bien que l’AGI ne soit pas encore pleinement réalisée, la technologie pourrait potentiellement être capable d’un apprentissage cumulatif, ce qui signifie qu’elle pourrait s’améliorer de façon exponentielle.

Il y a quelque temps, l’étudiant et développeur Matyáš Boháček a également évoqué ses craintes que l’intelligence artificielle puisse échapper au contrôle humain dans une interview pour Refresher. « Je crains que nous ne comprenions pas encore pleinement les dommages que cela peut causer – nous ne pouvons pas encore le quantifier pleinement. Aujourd’hui, nous parlons de modèles très limités et étroits qui ne résolvent toujours qu’une tâche ou un problème spécifique – par exemple la génération d’images. Mais à l’avenir, il y aura probablement des systèmes, appelés AGI, capables de résoudre un nombre de problèmes de facto illimité. Ils prendront des décisions plus indépendantes et seront globalement plus autonomes”, a-t-il déclaré.

« Je ne veux pas dire qu’ils seront conscients d’eux-mêmes, mais ce niveau d’intelligence et de danger potentiel se situe à un tout autre niveau. Des entreprises comme OpenAI, qui est à l’origine de ChatGPT, sont très ouvertes à l’idée de travailler dessus. Et lorsqu’ils y parviendront, il y a de fortes chances qu’ils disposent d’une technologie susceptible de perturber la sécurité d’États entiers », a ajouté Boháček.

Pour moi, AGI est l’équivalent d’une personne moyenne que vous pourriez embaucher comme collègue.

– Sam Altman, PDG d’OpenAI

Les informations sur le système sont devenues publiques après le chaos survenu dans la société de San Francisco juste après la libération d’Atlman. Il a été reconduit dans ses fonctions après que la quasi-totalité des 750 employés ont menacé de démissionner en réponse à son licenciement.

Un jour avant son licenciement surprise, Altman a laissé entendre qu’OpenAI avait réalisé une autre percée. “Quatre fois dans l’histoire d’OpenAI, la dernière fois au cours des dernières semaines, je suis entré dans une pièce où nous avons en quelque sorte repoussé le voile de l’ignorance et les frontières de la découverte, et être là est un honneur professionnel d’un toute une vie”, a-t-il déclaré.

Tel que rapporté par le serveur Cible technologique, OpenAI est un laboratoire de recherche privé qui a pour objectif de développer et de gérer l’intelligence artificielle (IA). La société a été fondée par Elon Musk, Sam Altman et d’autres en 2015 et est basée à San Francisco.