Trois limitations de ChatGPT auxquelles vous n’avez peut-être pas pensé

Maintenant que les élèves sont de retour à l’école, de nombreux enseignants s’inquiètent de l’utilisation de ChatGPT pour simplifier les devoirs et les recherches. Cependant, ce que beaucoup n’ont peut-être pas pris en compte, c’est que ChatGPT a encore de nombreuses limites ce qui rend son utilisation plus complexe que prévu : voyons les principaux.

Nous connaissons tous le premier : ChatGPT est souvent extrêmement inexact dans ses réponses. Il est bien connu que l’IA d’OpenAI fait des « gaffes » assez fréquemment, alors que le problème devient encore plus grave avec les actualités les plus récentes : ce n’est pas un hasard si OpenAI a dû implémenter une bannière sur la page web de son Chatbot qui explique que “ChatGPT a une connaissance limitée des événements au-delà de 2021 ». Autrement dit, utiliser ChatGPT pour les recherches est risquésauf s’il s’agit de sujets sur lesquels il existe déjà une documentation abondante en ligne.

Le problème de l’exactitude est étroitement lié à celui de Les « préjugés » et le racisme de ChatGPT. Étant donné que l’IA d’OpenAI est entraînée par ses interactions avec le public, les chances de tomber sur des contenus racistes, xénophobes et homophobes ne sont pas trop faibles (et d’ailleurs, elles sont toutes de la faute des utilisateurs). Le problème est double : d’une part, le risque de dérapage de l’IA sur des sujets aussi délicats pourrait suffire à faire songer à l’abandon. utilisez ChatGPT pour rédiger des documents importants pour travailler ou étudier. En revanche, la présence d’un langage hostile aux minorités pourrait tout simplement les pousser à cesser d’utiliser le Chatbot.

Enfin, pour mettre un synthèse sur l’utilisation académique de ChatGPT c’est la tendance de l’IA, peu répandue mais néanmoins démontrée par les chercheurs et la presse, à répéter des informations « perroquets » trouvées sur les pages web et les documents qui lui sont fournis au cours de l’activité. entraînement. Cela signifie que ceux qui utilisent l’IA dans leur travail prêtent une attention particulière à accusations de plagiat du travail d’autruice qui peut ruiner toute l’école et le parcours universitaire d’un élève.