La HAS dévoile ses recommandations sur l'utilisation de l'IA générative par les professionnels de santé

Les large language model (LLM), ces programmes qui utilisent l’intelligence artificielle (IA) pour reconnaître et générer du texte, aussi appelés IA générative, sont déjà présents sur le marché de la santé. Mais jusqu’ici, aucune société savante n’avait publié de recommandations sur le sujet. Dans un communiqué de presse publié jeudi 30 octobre, la Haute Autorité de santé (HAS) a dévoilé ses "premières clefs d’usage", en collaboration avec la Commission nationale de l’information et des libertés. C’est "la première brique du cadre de confiance de la HAS sur les technologies numériques et systèmes d’IA à usage professionnel", reconnaît-elle, en précisant qu’une fiche d’utilisation sera dévoilée plus tard.

La HAS admet que "ces systèmes sont particulièrement prometteurs", notamment pour "libérer du temps [médical], améliorer la qualité de vie au travail et favoriser la qualité des pratiques professionnelles". Mais "les professionnels ne sont pas toujours pleinement éclairés sur les performances et les limites des outils qu’ils utilisent", alerte l’autorité sanitaire, en évoquant des "risques si des précautions ne sont pas mises en place". Elle pointe notamment des erreurs "fondées sur des données non vérifiées ou dissimulées dans un contenu qui semble convaincant", ou encore des mauvaises pratiques liées à "la transmission d’informations confidentielles".

Avec son nouveau guide pédagogique, la HAS souhaite "favoriser le bon usage de l’IA générative en santé et [son] déploiement dans le secteur, sanitaire, social et médico-social". Elle présente ses recommandations sous quatre axes : l’apprentissage, la vérification, l’estimation et la communication.

La HAS recommande tout d’abord aux professionnels "de s’approprier le fonctionnement et l’utilisation du système d’IA générative via des sources fiables". Elle conseille également de "se former sur les modalités d’utilisation, notamment sur les règles liées à la confidentialité des données personnelles et de santé".

Elle invite aussi chaque soignant à être "attentif à la pertinence de son usage, à la qualité de sa requête et au contrôle du contenu généré". L’autorité sanitaire rappelle que tout professionnel doit veiller à "ne pas partager d’informations confidentielles" et "considérer chaque contenu généré comme une proposition pouvant contenir des erreurs", qu’il doit vérifier. Elle appelle également à avoir une conscience environnementale, et à garder une part de pratique sans IA générative.

"Une alliée au service de la qualité et de la sécurité des soins"

Les professionnels sont également invités à "analyser au cours du temps la qualité et l’adéquation du système d’IA générative", recommande la HAS. C’est le professionnel qui "fixe les objectifs et réinterroge la pertinence de ses usages en prenant en compte le nombre de corrections faites, la facilité d’utilisation ou encore l’intégration au flux de travail dans un objectif d’amélioration organisationnelle". 

La HAS conseille également aux soignants d’échanger dans une démarche d’amélioration continue. Elle rappelle enfin que "chaque usage doit être conscient, supervisé et raisonné". "Bien maîtrisée, l’IA générative peut ainsi devenir une alliée au service de la qualité et de la sécurité des soins et accompagnements."