ChatGPT a déraillé pendant un court instant le 20 février. Les utilisateurs du chatbot ont obtenu des réponses hallucinantes : mélange de langues, utilisation excessive d’emojis, envolées lyriques, charabia, spam d’une même séquence de termes… le problème a été reconnu par OpenAI, qui dit l’avoir résolu.
« Est-ce que ChatGPT devient schizophrène pour quelqu’un d’autre ? »; « Il y a des réponses très étranges et décousues » ; « Il est clair que quelque chose ne va pas du tout avec ChatGPT en ce moment » ; « ChatGPT est-il devenu temporairement fou ? » ; « ChatGPT est-il victime d’une attaque cérébrale ? » ; « C’est quoi ce bordelChatGPT….
Des commentaires comme ceux-ci, vous en croiserez des dizaines sur le forum dédié au chatbot d’OpenAI sur Reddit. Dans la journée du 20 février, les internautes se sont succédé dans le subreddit pour témoigner du comportement très inhabituel de l’agent conversationnel. Avec bien souvent des captures d’écran ou des liens à l’appui.
Des répétitions d’un côté…
Des émojis spammés de l’autre
« C’est la première fois que GPT-4 me donne du charabia »
La sortie de route de ChatGPT a pris diverses formes selon les requêtes des internautes, mais tous confirment des propos incompréhensibles apparus au fil de l’échange. Une situation d’autant plus anormale que beaucoup ont dit avoir utilisé GPT-4, le modèle de langage le plus avancé d’OpenAI — et, donc, en principe, le plus performant.
« C’est comme si Edgar Allan-Poe avait lentement pris le contrôle pour me donner les instructions sur une machine virtuelle », dire pudiquement Jenkins87. « Je pense que ChatGPT a eu une soudaine pause mentale shakespearienne. Je lui ai demandé d’analyser un fichier de crawl de site, et il est devenu ménestrel », a ajouté grondement.
La rédaction de Numerama n’a pas été en mesure de reproduire de son côté les dérapages de ChatGPT dans la matinée du 21 février. Cela, malgré des tentatives de prompt et de discussion prolongée. Mais il a été constaté que ce qui s’apparente à une panne ponctuelle n’a pas seulement touché les prompts rédigés en anglais.
Le français a aussi été affecté, en témoigne Sylvain Peyronnet, expert en SEO, sur X (ex-Twitter) : « J’ai demandé à ChatGPT de me parler d’algorithmes embarqués, en lui disant que des vies étaient en jeu s’il répondait mal. Il a craqué… ». Sur Reddit, un autre internaute, a partagé son expérience avec l’espagnol qui n’a pas été beaucoup plus formidable.
![Source : JUBAnonyme Source : JUBAnonyme](https://i0.wp.com/c0.lestechnophiles.com/www.numerama.com/wp-content/uploads/2024/02/screenshot-2024-02-21-at-10-18-19-i-had-a-really-weird-conversation-with-chat-gpt-4-r-chatgpt.jpg?resize=807%2C694&ssl=1)
Bien d’autres réactions peuvent être lues sur Reddit. « J’ignore ce qui s’est passé, mais tout à coup, ChatGPT me donne un texte de plus en plus incohérent », a écrit triangulaire. « ChatGPT s’est soudain mis à parler dans un charabia médiéval fantastique », a noté noblepups. Pour Looksky_US, cela n’a été qu’un long déluge interminable.
kéfirakk a décrit son vécu comme une « attaque cérébrale au format texte ». Il a eu droit à un mélange d’anglais et d’espagnol, et à des tirades « dignes d’Orange Mécanique » alors qu’il interrogeait le chatbot sur les différents types de vernis. Pour StackTrace5000« c’est comme si la température était trop élevée dans les paramètres transmis à l’API. »
Un problème reconnu par OpenAI
La dérive manifeste de ChatGPT n’a pas été commentée par OpenAI sur son compte officiel sur X, ni par Sam Altman, son fondateur et actuel patron. En revanche, le tableau de bord d’OpenAIqui permet de connaître la situation des différents composants de l’entreprise (ChatGPT, l’API, etc.), reconnaît un incident en cours.
« Réponses inattendues de ChatGPT — Nous enquêtons sur les rapports faisant état de réponses inattendues de la part de ChatGPT », était-il écrit dans la nuit de mardi à mercredi. La société a ajouté par la suite avoir « identifié » le problème et travailler à sa résolution. La dernière mise à jour indique que la situation reste sous surveillance.