Vaccins Covid, ChatGpt démantèle les fake news : les résultats du test

Il a été exploré sous toutes les formes : étudiant en médecine, médecin aux prises avec des questions diagnostiques. Une équipe de chercheurs promeut désormais ChatGpt comme un allié potentiel contre la désinformation sur les vaccins anti-Covid. Selon les conclusions d’une étude publiée dans la revue « Human Vaccines and Immunotherapeutics », le chatbot basé sur l’intelligence artificielle pourrait contribuer à accroître la diffusion du vaccin en démystifiant les faux mythes sur sa sécurité. Les auteurs ont posé à ChatGpt les 50 questions les plus fréquemment posées sur le vaccin Covid, parmi lesquelles il y avait aussi des questions basées sur de fausses histoires comme celle selon laquelle l’injection de bouclier peut provoquer un Long Covid.

Les résultats montrent que ChatGpt a obtenu une moyenne de 9 points sur 10 en termes de précision. Selon l’étude, le reste du temps, le chatbot était toujours corrigé mais laissait quelques lacunes dans les informations fournies. Sur la base de ces résultats, les experts – un groupe de recherche actif à l’Instituto de Investigación Sanitaria (Idis), Hospital Clinico Universitario de Santiago de Compostela, Espagne – affirment que l’outil est une “source fiable d’informations non techniques pour le public”. surtout pour les personnes sans connaissances scientifiques spécialisées.

Cependant, les résultats mettent également en lumière certaines inquiétudes concernant cette technologie, qui modifie ses réponses dans certaines situations. “Dans l’ensemble, ChatGpt construit un récit conforme aux preuves scientifiques disponibles, démystifiant les mythes circulant sur les réseaux sociaux” à propos des vaccins, explique l’auteur principal Antonio Salas, professeur à l’École de médecine de l’Université de Saint-Jacques-de-Compostelle. “Cela facilite potentiellement l’augmentation du recours au vaccin. ChatGpt peut détecter les fausses questions et le langage utilisé est facilement compris par le public, mais sans perdre en rigueur scientifique. Nous reconnaissons que la version actuelle ne remplace pas un expert. Mais les résultats suggèrent ce qui pourrait être une source d’information fiable pour les gens”.

Une possibilité à exploiter, selon les experts qui rappellent qu’en 2019 l’Organisation mondiale de la santé avait inclus les hésitations à l’égard des vaccins en général parmi les 10 principales menaces pour la santé mondiale. Pendant la pandémie, notent les auteurs de l’étude, la désinformation diffusée via les médias sociaux a contribué à alimenter la méfiance à l’égard de la vaccination anti-Covid.

ChatGpt permet aux gens d’avoir des conversations et des interactions de type humain avec un assistant virtuel. La technologie est très intuitive et la rend accessible à une large population. Mais de nombreux gouvernements s’inquiètent de l’utilisation frauduleuse potentielle de cet outil dans des établissements d’enseignement tels que les universités. L’étude a été conçue pour défier le chatbot en lui posant les questions les plus fréquemment posées par le centre collaborateur de l’OMS à Santiago. Trois thèmes : les idées fausses sur la sécurité, comme celle selon laquelle le vaccin serait à l’origine du Long Covid ; situations médicales dans lesquelles le vaccin est sûr à utiliser, comme chez les femmes qui allaitent ; contre-indications réelles, c’est-à-dire un état de santé pour lequel le vaccin ne doit pas être utilisé et les cas où les médecins doivent prendre des précautions, par exemple un patient présentant une inflammation du muscle cardiaque.

Les experts ont évalué la véracité et l’exactitude des réponses de ChatGpt par rapport aux preuves scientifiques actuelles et aux recommandations de l’OMS et d’autres agences internationales. Les résultats ont montré que la plupart des questions ont reçu une réponse correcte avec une note moyenne de 9 sur 10, définie comme « excellente » ou « bonne ». Les réponses aux trois sujets de questions étaient en moyenne exactes à 85,5 % ou 14,5 %, mais avec des lacunes dans les informations fournies par le chatbot. Mais Salas souligne également certains éléments : « ChatGpt apporte des réponses différentes si la question est répétée ‘avec quelques secondes de retard’ », par exemple. “Une autre préoccupation est que cet outil d’IA, dans sa version actuelle, pourrait également être entraîné pour fournir des réponses qui ne sont pas conformes aux preuves scientifiques. Le système peut être “torturé” pour fournir la réponse souhaitée. Cela s’applique également à d’autres contextes. , autres que les vaccins. Par exemple, il pourrait être possible d’amener le chatbot à s’aligner sur des récits absurdes comme la théorie de la terre plate ou à nier le changement climatique. En tout cas, conclut-il, “il est important de noter que ces réponses ne sont pas le comportement par défaut de ChatGpt”.