Les chatbots IA ont-ils aussi envie des vacances de Noël ? Enquête après des plaintes concernant ChatGPT « paresseux » | Technologie

De plus en plus d’utilisateurs de la dernière version (payante) de ChatGPT (modèle GPT4) se plaignent du fait que le chatbot donne des réponses plus courtes, refuse de faire ce que les gens demandent, ou même redonne du travail aux utilisateurs. Le ton qu’adopte parfois ChatGPT est également perçu comme grossier ou paresseux par certains utilisateurs. D’autres se demandent même si le chatbot ne souffre pas d’une dépression hivernale. C’est ce que rapportent, entre autres, les sites technologiques « Ars Technica » et « The Verge ».

Un programmeur a mis la somme à l’épreuve et a donné des commandes ChatGPT 477, changeant uniquement le mois en termes de saisie. Il a constaté que le robot linguistique donnait une réponse plus longue (4 298 caractères en moyenne) lorsqu’on lui disait que c’était en mai que lorsqu’on était en décembre. Dans ce cas, ChatGPT a répondu avec une moyenne de 4 086 caractères. Depuis, divers chercheurs ont tenté d’imiter cette étude, mais n’ont pas encore découvert de différences significatives. Cela pourrait être dû à la conception de la recherche, c’est pourquoi une autre façon d’enquêter sur le phénomène présumé est en cours d’élaboration.

Certains utilisateurs pensent que la société mère OpenAI a simplement rendu le chatbot paresseux pour réduire la charge sur les systèmes de l’entreprise. Selon OpenAI, ce n’est pas le cas, et ils disent prendre très au sérieux les retours des utilisateurs : « Nous avons déjà vu vos réactions à propos de GPT4 devenir de plus en plus paresseuses ! Nous n’avons pas mis à jour le modèle depuis le 11 novembre, et ce n’est certainement pas intentionnel. Le comportement du modèle peut être imprévisible et nous étudions si nous pouvons résoudre ce problème”, a écrit le compte officiel du chatbot il y a environ une semaine sur X (anciennement Twitter).

Bien que les personnes derrière ChatGPT ne pensent pas que le modèle ait changé depuis la mise à jour du 11 septembre, elles n’excluent pas qu’il puisse y avoir des différences subtiles dans certaines commandes ou questions. Selon l’entreprise, cela peut prendre un certain temps avant que ces petites différences ne soient perçues comme des modèles par les clients, ce qui signifie que cela peut également prendre un certain temps avant que les employés puissent apporter des ajustements au modèle.

Divers programmeurs et experts en IA mènent actuellement des recherches approfondies sur « l’hypothèse de la paresse ». Le fait que même une dépression hivernale du chatbot par les utilisateurs ne peut être exclue est dû au fait que les contributions des personnes sont également utilisées par ChatGPT à des fins d’apprentissage. Si les utilisateurs souffrent de dépression hivernale, ils pourraient involontairement la transférer au chatbot via leur contribution, pensent certains utilisateurs.

Cela pourrait également avoir à voir avec la façon dont nous donnons des commandes au chatbot. Combien d’efforts déployons-nous encore pour instruire clairement les logiciels qui fonctionnent avec l’intelligence artificielle ? Donner des instructions concrètes (“Expliquez étape par étape…”) peut donner de meilleurs résultats que “Dites-moi comment…” Encore une fois, d’autres utilisateurs utilisent des astuces pour encouragez leur chatbot préféré à fournir de meilleures réponses. Parfois en mentant simplement en disant qu’ils n’ont pas de doigts, dans d’autres cas en promettant un pourboire au chatbot. Une approche plus humaine, avec des encouragements tels que « respirez profondément », donnerait également de meilleurs résultats, disent d’autres utilisateurs.

Enfin, notre imagination pourrait aussi jouer un rôle. Maintenant que des rapports sur un robot linguistique paresseux apparaissent ici et là, nous avons peut-être commencé à examiner de manière plus critique les réponses de ChatGPT.

Mais que se passe-t-il si nous demandons à l’application elle-même ? Il nie totalement travailler moins dur à cette période de l’année : « En tant que modèle d’apprentissage automatique, je ne suis pas sujet à la fatigue, à la paresse ou aux influences saisonnières. »