L’IA dans la santé, de l’expérimentation à l’utilisation

La confiance dans l’IA et la volonté de l’appliquer en pratique clinique poussent souvent les industriels et les médecins à utiliser ces logiciels sans qu’ils soient validés et certifiés. Avec d’éventuels risques d’effet boomerang, mais aussi juridiques.

Après avoir introduit le sujet (ici) et illustré le fonctionnement des modèles basés sur le machine learning (ici), il est temps de réfléchir à la manière d’introduire ces outils dans la pratique clinique.

Les dispositifs les plus répandus aujourd’hui concernent l’aide au diagnostic et au traitement des patients. Parmi les premiers, le secteur le plus prometteur est celui de l’imagerie dans lequel ont été développés des systèmes dédiés à la reconnaissance de pathologies oncologiques, cardiologiques, pulmonaires et autres. Normalement ces systèmes ne servent pas à réaliser un diagnostic automatique mais à scruter les images, par exemple dans le cadre d’un dépistage ou pour “renforcer» la capacité diagnostique du radiologue. L’IA est également utilisée pour aider les médecins à formuler le diagnostic, souvent avec une démarche différentielle, ou pour suggérer aux patients, à partir de leurs symptômes, l’éventuelle pathologie dont ils souffrent. Cette dernière catégorie de logiciels est appelée «Vérificateur de symptômes« . En plus de l’aide au diagnostic, il existe différents systèmes qui suggèrent aux médecins le traitement ou la thérapie la plus appropriée. Contrairement aux systèmes de «IA classique“, basé sur des moteurs d’inférence, des bases de connaissances et des algorithmes écrits à la main, généralement avec une logique “si alors sinon“, les systèmes basés sur le machine learning fournissent des informations basées sur la formation reçue, comme je l’ai expliqué dans l’article précédent. Alors que dans le premier cas la précision des algorithmes est déterminée par le contrôle et la validation des algorithmes qui transforment les connaissances médicales en suggestions, actions (on pourrait appeler ce processus “distillation des connaissances“), une tâche assez simple à réaliser, dans le second cas la précision est mesurée avec des outils probabilistes sans avoir la possibilité de vérifier directement le raisonnement effectué par le système.

Dans tous les cas, pour utiliser un système, quelles que soient les technologies sur lesquelles il s’appuie, qui remplit une fonction d’aide à la décision clinique, il faut qu’il soit certifié comme “Le logiciel comme dispositif médical» (SaMD), en classe IIA, selon le règlement européen sur les dispositifs médicaux (MDR). L’IA ne fait pas exception. Pour éviter cette exigence, il ne suffit pas de dire que le logiciel est en cours de test. L’expérimentation, qui est une étape nécessaire pour obtenir la certification, doit être réalisée avec toutes les normes nécessaires, à commencer par le comité d’éthique de l’entreprise de santé, l’analyse de la vie privée, l’adoption de critères scientifiques et de méthodologies pour évaluer les résultats. En d’autres termes, je veux être plus clair, vous ne pouvez pas “jouer» et essayer de voir comment se comportent les logiciels qui relèvent du concept de dispositif médical sans recourir à une approche rigoureuse et scientifique.

Je comprends l’enthousiasme et la curiosité d’essayer les technologies dont tout le monde parle, tant de la part des techniciens que des médecins, mais il n’y a pas de raccourcis. Cela s’applique également à d’autres types de systèmes basés sur l’IA. Je vois, par exemple, de nombreux producteurs de logiciels qui utilisent des outils d’IA générative pour extraire le contenu et classer le contenu des rapports médicaux sous forme de texte, peut-être ensuite en insérant ces contenus dans le référentiel de données cliniques ou en effectuant un traitement pour rédiger des résumés et des explications pour les patients. Je comprends l’intérêt d’utiliser un outil plutôt que de sélectionner et valider les contenus puis de les lier logiquement au contexte, mais ce raccourci ne nous dispense pas de l’obligation, lorsque cela est requis, de certifier le logiciel et de l’obligation morale de se demander si les contenus que nous proposons sont exacts et pertinents. En d’autres termes, nous ne pouvons pas combattre le Dr. Google que les patients utilisent lorsqu’ils naviguent sur le Web avec le professeur. ChatGPT, Copilot, Gemini etc. fournis par un établissement de santé. Quelle valeur ajoutée apportons-nous en faisant quelque chose que les patients peuvent faire eux-mêmes en utilisant les mêmes outils ?

Je crois que tous ceux qui opèrent dans ce secteur doivent réfléchir attentivement à la manière d’utiliser ces technologies qui, il convient de le rappeler, ne sont ni parfaites ni sans erreurs, en suivant toutes les étapes et en respectant toutes les réglementations qui réglementent l’utilisation du logiciel. quand il a des fins médicales. Nous ne sommes qu’au début de la révolution de l’IA, ne le faisons pas »brûler» les attentes qui existent, en évaluant avec un esprit critique mais constructif les capacités actuelles et les risques qui en découlent. La précipitation n’a jamais profité à l’innovation.

3 – Bien