Soyez prudent lorsque vous utilisez l’IA générative pour fournir des informations aux patients

La qualité et l’exactitude du contenu peuvent laisser à désirer, avec de sérieux risques. Le cas de Wikipédia et sa position sur les contenus générés avec l’IA.

Parmi les applications possibles de l’intelligence artificielle générative dans le domaine de la santé, la fourniture d’informations et de recommandations sur les traitements est actuellement l’une des plus populaires. En effet, de nombreux hôpitaux et établissements de santé expérimentent et commencent même à utiliser des outils d’IA générative pour satisfaire la légitime curiosité des patients et leur désir d’en savoir plus sur leur santé et les pathologies dont ils souffrent.

Plutôt que de s’engager dans la production de contenus, un travail long et fatiguant, il est en fait bien plus simple de confier cette tâche à l’intelligence artificielle qui, grâce à la quantité de documents et d’informations traitées, est en théorie capable de très bien mener à bien cette tâche. Un raccourci pratique et économique capable d’apporter enfin une réponse aux patients bricoleurs qui surfent sur le Web pour trouver ce qu’ils veulent savoir.

Je dois avouer que, comme tous les professionnels en qui je crois, j’ai également essayé de tester certains de ces outils, avec des résultats différents mais jamais fiables à 100%. Après tout, ce sont des algorithmes qui sélectionnent les contenus sur une base probabiliste et sur la base de ce qu’ils « ont appris ». Paradoxalement, si dans l’utilisation de l’IA pour formuler des diagnostics destinés aux médecins, une petite marge d’erreur est acceptable également parce que même les médecins commettent parfois des erreurs, lorsqu’il s’agit de fournir des informations aux patients, peut-être sans autre filtre, la question devient plus grave. et dangereux.

La fiabilité des contenus est un sujet qui est au centre de l’attention depuis un certain temps et ne concerne pas uniquement les soins de santé. J’ai été frappé en lisant la décision de Wikipédia de considérer le site d’actualités technologiques CNET n’être plus une « source fiable ». La position a été prise après un long débat entre les éditeurs de l’encyclopédie collaborative qui a débuté au début de l’année dernière, suite aux inquiétudes apparues lorsqu’il est apparu que CNET avait commencé à publier une série d’articles écrits par l’intelligence artificielle à partir du mois de novembre 2022. créés par une IA générative, signés par un “CNET Money Staff” générique et sans qu’il soit explicite qu’il s’agissait d’articles écrits par l’IA. Les articles étaient cependant pleins d’erreurs et d’inexactitudes, obligeant la rédaction à procéder à de nombreuses révisions et corrections, jusqu’à ce que l’initiative soit suspendue après que le fait soit devenu public. Après un débat entre les éditeurs de Wikipédia, il a été décidé que CNET ne pouvait plus être considéré comme une source fiable.

La décision de Wikipédia doit, à mon avis, nous faire aussi réfléchir car, après tout, CNET traite d’innovation technologique et non de santé (même s’il dispose d’une rubrique bien-être). L’IA a véritablement un grand potentiel, mais nous ne devons pas nous laisser entraîner par un enthousiasme facile ou par la commodité des raccourcis. L’information et l’éducation en matière de santé sont une affaire sérieuse.