"Les médecins ont une obligation de transparence : si un diagnostic est réalisé à partir de l'IA, ils doivent informer le patient"

Si auparavant les applications de santé se contentaient de mesurer le rythme cardiaque et le nombre de pas effectués, depuis quelques années ces dispositifs embarquant l’IA collectent bien d’autres données : pression artérielle, douleurs chroniques… Des données de plus en plus précises et de plus en plus sensibles, car elles "révèlent les fragilités de l’individu, ses capacités de résistance, la progression de son état de santé...", a pointé Me Christiane Feral-Schuhl, avocate experte en droit du numérique, lors du Café FMF organisé le 17 avril.

Utiles pour les médecins dans le suivi de leurs patients, pour un diagnostic, une activité de prévention…, ces informations restent pourtant faillibles. "Elles font peser des menaces sur le secret médical dont le médecin est dépositaire", poursuit l’avocate.

Plusieurs textes ont ainsi été déposés pour encadrer l’IA, comme le RGPD, la loi informatique et liberté, le règlement sur l’espace européen des données de santé (EEDS) ou encore l’IA act (ou règlement européen sur l’IA). "Il encadre les systèmes d’IA en fonction du niveau de risque", précise Me Feral-Schuhl. Certains sont interdits, comme "ceux qui portent atteinte à des droits fondamentaux (sexe, race...) ou qui pourraient traiter les patients de façon inéquitable", poursuit-elle, en indiquant qu’"il peut y avoir des exceptions".

Aujourd’hui les médecins "n’ont plus le choix" d’utiliser ou non l’IA. "Leur responsabilité pourrait même être engagée s’ils ne l’utilisent pas"

D’autres systèmes d’IA sont soumis à des règles spécifiques, comme les dispositifs médicaux. "Ils doivent mettre en place un système de gestion des risques, assurer la gouvernance des données en veillant à ce que l’ensemble des données de formation, de validation et de test soient pertinent, établir une documentation technique pour démontrer que le système est conforme à la réglementation et fournir aux autorités les informations nécessaires à l’évaluation de cette conformité."

Le règlement européen sur l’IA vise tous les citoyens de l’UE. Si des médecins français utilisent un outil venant d’une entreprise américaine sur leurs patients français, "ils sont assujettis à ce texte".

Secret médical

Comme l’indique sa déontologie, le médecin doit, quant à lui, se porter garant du secret médical et est donc également responsables du stockage des données de ses patients. "Il faut s’assurer qu’il n’y a pas de risque de fuite. Ils ont l’obligation d’avoir un hébergement sécurisé chez un hébergeur agréé et certifié", ajoute l’avocate. Cette mention est aujourd’hui entrée dans le Code de la santé publique; "ça veut dire que les concepteurs vont devoir veiller à respecter les règles pour le traitement algorithmique et doivent pouvoir expliquer le fonctionnement de ce traitement aux utilisateurs", poursuit-elle.

Le médecin doit également informer son patient : c’est le principe de la transparence. "Si un diagnostic est fait à partir de l’IA, il faut l’informer qu’on en a utilisé." Le médecin est également responsable du diagnostic. "Il ne se substitue pas à l’IA. Il s’appuie sur un outil sur lequel son expérience et son expertise vont lui permettre de juger du diagnostic issu de l’IA."

L’avocate reconnaît qu’aujourd’hui les médecins "n’ont plus le choix" d’utiliser ou non l’IA. "Leur responsabilité pourrait même être engagée s’ils ne l’utilisent pas, car le patient a le droit aux meilleurs services. Aujourd’hui, le robot chirurgical existe, quand une opération n’est pas faite avec les outils les plus performants, la responsabilité du praticien peut être engagée."

"L’IA est un outil qu’il faut maîtriser", rajoute l’avocate, sans pour autant en être "dépendant".