Le nœud de la certification de l’intelligence artificielle en médecine – deuxième partie

L’IA générative permet, en théorie, de répondre aux besoins des patients pour être informés et composer les aspects les plus importants de sa santé. Cependant, il y a plusieurs réflexions à faire concernant la confidentialité et la certification MDR.

Nous continuons avec cet article quelques réflexions sur les implications sur l’utilisation de l’intelligence artificielle – IA – en médecine (trouvez le premier article qui). Après le raisonnement sur les téléspectateurs cliniques renforcés par l’IA, nous voyons maintenant à quel point les modèles linguistiques à l’échelle – LLM – peuvent contribuer à l’autonomisation du patient en fournissant du contenu pour la protection et la gestion de leur santé. Il s’agit d’une pratique déjà largement utilisée par les personnes qui se soumettent aux systèmes les plus courants des questions sur leurs problèmes de santé – diagnostic, thérapies, pronostic – l’évolution naturelle de la RD. Google à Prof. Gpt.

La disponibilité d’outils capables de générer, avec l’effort minimum pour formuler une question pertinente, un contenu de bonne qualité, représente une forte tentation pour les entreprises de soins de santé qui peuvent, de cette manière, répondre aux besoins des patients pour être informés et comprendre les Aspects les plus importants de sa santé. Cependant, il convient de noter que vous pouvez et pouvez satisfaire cette aspiration légitime même sans l’IA car il existe de nombreux contenus conçus pour les patients – voir par exemple le portail HAUT – qui peut être transmis de différentes manières (applications, portails, lien via le code QR sur les rapports, etc.).

Cependant, retournant à l’IA et aux modèles linguistiques à grande échelle, ceux-ci peuvent être utilisés pour générer des lettres de sortie pour les patients, voir et confirmé par les médecins, contenu pour enquêter et comprendre les pathologies que vous êtes affecté (éducation des patients), rappel Pour la préparation des examens de diagnostic, des notes pour l’utilisation de médicaments et les effets possibles que ceux-ci peuvent provoquer, des explications sur les rapports de diagnostic, les conseils et les informations pour le Cours après la gamme. Différentes applications qui ont en commun la génération de contenu à partir d’une question plus ou moins articulée.

Ce dernier aspect peut avoir d’importantes implications en matière de confidentialité. Une question très détaillée, pleine d’informations sur le patient, même sans rapport de données d’identification, peut être configurée comme un ensemble de données pseudo-anonymisé et, en tant que tel, sous réserve du RGPD. Si les données sont transférées et peut-être stockées en dehors de la société de soins de santé, il est nécessaire de porter une attention particulière et de suivre les règles prévues et qui ne sont pas faciles à respecter avec les systèmes commerciaux.

Des réflexions supplémentaires doivent être formulées en ce qui concerne la certification MDR. Comment ces applications devraient-elles être classées? Les opinions, sur la question, sont discordantes. Selon certains en tant que classe 1 (auto-certification), pour d’autres, ce n’est pas une certification. Si les applications deviennent des outils pour prendre en charge les soins, il est difficile de soutenir cette dernière déclaration. En ce qui concerne le niveau de risque, il peut être évalué comme faible et donc retourner à la classe 1.

Mis à part la certification, cependant, il y a le problème de l’exactitude des informations proposées et de leur cohérence avec les objectifs du National Health Service ou ceux d’une entreprise de santé privée. Combien le contenu généré est fiable? Y a-t-il un biais envers la santé du consumérisme ou, pire, des croyances ou des pratiques qui ne sont pas reconnues par le monde scientifique? Utilisez le contenu au fur et à mesure qu’ils sont générés expose aux risques difficiles à mesurer et à intercepter. À l’inverse, utilisez l’IA générateur comme support pour préparer le contenu qui est ensuite validé par les médecins réduit les avantages de ces outils et introduit une charge de travail qui peut être difficile à gérer.

Ce sont tous des aspects qui nécessitent une évaluation minutieuse qui pourrait désactiver, au moins en partie, les passionnés et les attentes que l’IA générative a soulevé en médecine.

2 – Continuer