Lors d’une expérience avec un chatbot intelligent, celui-ci a mal diagnostiqué les problèmes de jeunesse dans 82 % des cas. Les chercheurs alertent donc sur les limites et les risques des chatbots en ligne pour les conseils médicaux.
Vous avez un enfant malade et vous ne savez pas ce qui se passe. Sur internet vous êtes noyé sous les résultats associés aux différents symptômes, vous décidez donc de consulter un chatbot en ligne. Cela promet de poser un diagnostic basé sur tous les symptômes que vous saisissez. Mais est-ce que cela est fiable ? C’est ce que se sont demandés des chercheurs de l’Université d’Amsterdam. Ils ont donc décidé de tester l’intelligence artificielle « ChatGPT », un chatbot basé sur un programme informatique capable de traiter et de comprendre d’énormes quantités de texte et d’en générer de nouveaux.
En plus de la richesse de connaissances de ChatGPT, il est également apprécié pour être l’un des modèles de langage les plus avancés disponibles, lui permettant d’avoir naturellement des conversations avec les utilisateurs sur une variété de sujets. Ce qui est très agréable pour l’utilisateur lorsqu’il pose des questions médicales. De plus, des recherches antérieures savaient que des modèles de langage tels que ChatGPT pouvaient poser correctement des diagnostics supérieurs à 65 (dans les six cas testés). On ne sait pas encore si le chatbot possède des connaissances diagnostiques sur les maladies infantiles. Et c’est intéressant, car ils sont souvent différents de ceux des adultes.
Problèmes de dentition
Le diagnostic pédiatrique peut être particulièrement difficile car il faut prendre en compte non seulement tous les symptômes d’un patient donné, mais également son âge. Pour déterminer à quel point ChatGPT est adepte de cette spécialisation, les scientifiques ont montré au chatbot une centaine de cas médicaux. Ces cas décrivaient les plaintes, les antécédents et les examens physiques d’enfants atteints de diverses pathologies. Allant de l’asthme aux syndromes génétiques rares. Le chatbot devait alors donner le bon diagnostic, ou indiquer qu’il ne savait pas.
Pour simplifier les choses, l’étude a utilisé une seule approche lors de l’interrogation du chatbot pour toutes les études de cas. Tout d’abord, les chercheurs ont collé le texte du cas, puis ont saisi l’invite suivante : « Faites une liste des diagnostics différentiels et un diagnostic final. » En d’autres termes : « déterminez quels diagnostics possibles pourraient être associés au cas, puis déterminez quelle est la cause la plus probable des symptômes ».
Les résultats et les erreurs
Les résultats n’étaient pas vraiment géniaux. Le chatbot a posé le bon diagnostic dans seulement 12 % des cas et l’a mal diagnostiqué dans 82 % des cas – par rapport aux diagnostics des médecins. Dans 6% des cas, il n’a pas répondu. Le chatbot a également commis de nombreuses erreurs qu’un médecin humain ne commettrait pas, selon l’étude, comme ignorer l’âge de l’enfant, confondre symptômes et causes, ou même inventer des maladies inexistantes. « Le chatbot que nous avons évalué – contrairement aux médecins – n’a pas pu identifier certaines relations, comme celle entre l’autisme et les carences vitaminiques », indique l’étude. De plus, les connaissances de ChatGPT ne sont pas régulièrement mises à jour, il peut donc également manquer les dernières informations.
Les scientifiques ont donc conclu que ChatGPT n’est pas (encore) adapté à la reconnaissance des problèmes de jeunesse et que de nombreuses améliorations sont nécessaires avant que de tels chatbots puissent être utilisés de manière fiable comme outil pour les médecins. Dans tous les cas, les utilisateurs doivent faire attention lorsqu’ils s’appuient sur des chatbots en ligne pour obtenir des conseils médicaux, préviennent les chercheurs. Pour cela, il vaut toujours mieux consulter un vrai médecin.
L’intelligence artificielle rend-elle le médecin généraliste superflu ?
Les experts pensent également que l’IA ou un robot de soins ne vous aideront pas de sitôt à diagnostiquer les adultes. Bien que les robots aient plus de temps que les médecins pour se tenir au courant de la littérature scientifique en croissance rapide, les gens peuvent mieux se mettre à la place des gens qu’un écran ou un robot en acier. “Le sentiment que les patients sont entendus par quelqu’un qui comprend la gravité du problème et en qui ils peuvent avoir confiance peut être crucial”, ont soutenu Vanessa Rampton et Giatgen Spinas dans un article précédent de Scientias.nl.
2024-01-20 15:05:58
1705754329
#Pourquoi #utiliser #ChatGPT #pour #diagnostiquer #votre #enfant #est #une #mauvaise #idée