L’IA en santé entre attentes, inquiétudes et envie d’expérimenter

Réflexions sur un événement intéressant dédié à l’utilisation de l’intelligence artificielle avec la présence de différents acteurs et différents points de vue.

L’opportunité était vraiment tentante : participer à un événement qui a réuni plusieurs centaines de médecins, infirmiers, informaticiens, entreprises internes, fournisseurs de solutions, responsables régionaux, dirigeants d’entreprises de santé, experts de la vie privée et du droit, dans le cadre magnifique de la Villa Manin. à Codroipo, pour parler d’IA.

La première considération que je partage est le niveau élevé d’attentes qui existent sur l’IA, tout en étant conscient qu’il ne s’agit pas d’une sorte de “baguette magique” mais certainement un outil puissant pour résoudre les problèmes de santé les plus importants tels que les listes d’attente et la pertinence des prescriptions, les priorités des salles d’urgence, la pénurie de médecins et d’infirmières en augmentant leur efficacité, la connaissance de l’évolution de la demande et la planification des ressources. En bref, aucun aspect – gouvernement, prévention, traitement – ​​ne peut bénéficier de l’IA.

Le risque est donc réel que l’IA, si elle n’est pas utilisée de manière sérieuse et professionnelle, puisse, une fois passée la phase d’engouement, se révéler décevante pour tous ceux qui s’attendent à ce qu’elle apporte une contribution significative à la solution des problèmes de santé. , conséquence d’une surestimation qui émerge de l’enthousiasme et de la simplification de certains aspects qui peuvent représenter un obstacle à sa diffusion.

Si d’une part je suis très heureux d’observer comment, dans le cas de l’IA, il y a une volonté de créer de la valeur avec l’innovation technologique – ceux qui lisent ce blog savent à quel point je promeut l’innovation de valeur – je dois cependant constater que même sans L’IA peut y parvenir, peut-être avec plus d’efforts. Ce n’est pas un problème de technologies mais de mentalité sur la façon d’utiliser l’informatique pour résoudre les problèmes de santé en créant “des solutions précieuses» et pas seulement de gros conteneurs de données.

Cependant, les inquiétudes ne manquent pas quant aux éventuels obstacles freinant l’IA, à commencer par la vie privée et les réglementations spécifiques (européennes et autres). Il y a une prise de conscience généralisée que ces aspects doivent être pris en compte mais il y a beaucoup de craintes quant à la manière de les aborder dans un contexte, l’IA, qui est nouveau pour tout le monde. Parmi les craintes figurent celles relatives à la propriété intellectuelle des solutions basées sur des algorithmes entraînés sur des données et des contenus qui pourraient appartenir à des tiers et celle de la responsabilité en cas d’erreurs et de dommages causés par l’IA.

Il y a beaucoup de désir d’expérimenter – dans certains cas, je dirais “jouer» – et il existe déjà de nombreux projets pilotes allant de la gestion des soins de santé à la prévention, en passant par le diagnostic et la pratique clinique. La disponibilité d’outils et de modèles de langage à grande échelle rend relativement facile l’utilisation de l’IA pour en constater l’effet.

Cependant, on n’a pas toujours pleinement conscience des contraintes à respecter, à commencer par le règlement européen sur les dispositifs médicaux (MDR) qui concerne également les solutions basées sur l’IA. C’est un sujet que peu ont évoqué, l’attitude dominante semble être celle de “expérimentons et voyons ensuite« . Un autre sujet très brûlant mais peu abordé est celui de “durabilité de l’IA» dont on semble peu conscient. Une durabilité qui s’exprime dans quatre domaines :

• Infrastructure, c’est-à-dire la disponibilité de serveurs capables de former et d’exploiter des algorithmes d’IA. Comme l’ont souligné toutes les sociétés internes, les centres de données régionaux ne sont pas structurés pour l’IA et des investissements lourds seraient nécessaires pour acheter les ressources nécessaires qui, mis à part le coût, sont difficiles à trouver.
• confidentialité, déplacer d’énormes quantités de données, sous forme pseudo ou anonymisée – mais on se demande dans quelle mesure il est possible d’avoir des données véritablement anonymes – vers des centres de données externes n’est peut-être pas réalisable et correct du point de vue de la confidentialité. La solution de «amener des algorithmes aux données« et non l’inverse » implique les considérations sur la durabilité des infrastructures formulées au point précédent.
• frais, les modèles tarifaires des principaux outils disponibles aujourd’hui sont peu compatibles avec leur utilisation à grande échelle. Le coût en cas d’utilisation massive peut devenir très élevé. Mais parmi ceux qui expérimentent aujourd’hui des modèles d’IA générative, combien réfléchissent sérieusement à cette question ?
• environnement, l’IA est très gourmande en énergie et tout sauf verte. Parmi les aspects qui devraient être évalués, il y a donc l’analyse coûts-avantages (environnementale) que je pense que personne ne prend en considération. Utiliser autant d’énergie pour peu ou pas de bénéfices est une attitude contraire à l’éthique.

L’IA est donc complexe et a de nombreuses implications. Il faut y remédier de manière sérieuse et professionnelle, sans recourir à de faux raccourcis qui n’existent pas dans la réalité.