“L’IA n’est plus sûre”

Jan Leike, chercheur et homme clé d’OpenAI, a démissionné suite au départ du co-fondateur Ilya Sutskever. Vendredi matin, Leike a publié un message alarmant sur X (anciennement Twitter) : selon Leike, chez la société d’intelligence artificielle ChatGPT, “la sécurité a été mise en veilleuse par rapport à la création de produits à vendre de plus en plus brillants”. Les déclarations de Leike sont intervenues peu de temps après un article de Wired révélant la dissolution de l’équipe interne d’OpenAI dédiée à la gestion des risques à long terme de l’IA, connue sous le nom d’« équipe Superalignment ». Leike dirigeait cette équipe, formée en juillet dernier dans le but de « résoudre des défis techniques fondamentaux » dans la mise en œuvre de protocoles de sécurité, tandis qu’OpenAI développait une intelligence artificielle capable de raisonner comme et mieux qu’un être humain.

“Construire des machines plus intelligentes qu’un humain est une entreprise énorme”, a ajouté Leike. « OpenAI fait peser une gigantesque responsabilité sur les épaules de l’humanité toute entière. » OpenAI est né avec l’idée de rendre ses modèles accessibles au public, comme l’indique le nom de l’organisation. Cependant, ces modèles sont devenus des produits par abonnement, la société faisant valoir que permettre à quiconque d’accéder à des modèles aussi puissants pourrait être potentiellement perturbateur. « Nous sommes en retard dans la prise extrêmement au sérieux des implications de l’IA générative. Nous devons donner la priorité à la préparation à ces défis du mieux que nous pouvons », a écrit Leike dans d’autres articles concernant sa démission, ajoutant : « Ce n’est qu’alors que nous pourrons garantir que l’IA profite à toute l’humanité. »

OpenAi a récemment présenté l’évolution de son modèle d’intelligence artificielle générative, GPT-4o, qui contrairement à son prédécesseur est également accessible gratuitement à tous bien que ralenti et avec certaines fonctions réduites. Leike reste cependant critique : “Je suis depuis longtemps en désaccord avec la direction d’OpenAI sur les priorités fondamentales de l’entreprise, jusqu’à ce que nous atteignions un point de rupture”, a-t-il déclaré à propos de X. La démission de Leike et ses propos jettent une lumière inquiétante sur l’avenir de Recherche sur la sécurité de l’IA, soulignant la nécessité d’un équilibre entre innovation rapide et responsabilité dans la gestion des risques associés au développement de technologies aussi puissantes.