Erreurs médicales impliquant une IA : qui est responsable ?

Si une intelligence artificielle (IA) est à l’origine d’une erreur médicale, qui, du médecin ou du développeur, doit être tenu pour responsable ? Nous avons interrogé un chirurgien, un avocat et une légiste sur cette question – qui risque de se faire de plus en plus insistante dans les mois et années à venir.

L’IA, une chance pour la médecine avant tout

L’intelligence artificielle (IA) bouleverse la médecine par bien des aspects : diagnostic, thérapeutique, relation patient, administration… et responsabilité médicale. Si aucune jurisprudence n’a été établie jusqu’alors, une chose est certaine : les agents conversationnels et autres assistants d’aide à la décision conduiront à des évènements indésirables et il s’agira alors de savoir si une faute a été commise, et par qui. Un questionnement qui peut s’avérer assez vertigineux.

"Tant que l’IA sera considérée comme un instrument, c’est-à-dire comme un objet, ce sera toujours le médecin qui sera responsable"

Xavier Labbée"

Mais avant de parler d’erreur, il faut rappeler une chose : l’IA est, au moins potentiellement, une chance formidable, y compris en termes de responsabilité médicale. « Un outil comme celui de Gleamer [entreprise spécialisée dans l'intelligence artificielle appliquée à l'imagerie médicale, NDLR], qui relit les radiographies et qui est utilisé dans toutes les urgences de l’AP-HP, confère un véritable impact médical, mais aussi un impact juridique, car il y a moins de plaintes contre l’institution », affirme le Pr Thomas Grégory, orthopédiste, chef de service à l’hôpital Avicenne de Bobigny (Seine-Saint-Denis) et responsable du projet « Santé et numérique » à la Maison des sciences numériques, laboratoire de recherche de l’Université Sorbonne-Paris-Nord.

Des interrogations nombreuses

Reste que si l’IA peut sécuriser l’exercice médical et éviter le contentieux, elle n’en pose pas moins de nombreuses interrogations dans les cas où une erreur serait commise à cause d’elle. Et dans ces cas-là, la réponse des juristes est claire. « Tant que l’IA sera considérée comme un instrument, c’est-à-dire comme un objet, ce sera toujours le médecin qui sera responsable », indique Xavier Labbée, avocat et professeur émérite à l’université de Lille. « Le médecin reste responsable de son prompt, confirme la Pre Cécile Manaouil, légiste et cheffe de l’unité médico-judiciaire du CHU d’Amiens. Il s’approprie le résultat de ce prompt, prend une décision, mais il est l’auteur juridique de son raisonnement : s’il a utilisé l’IA, il faut qu’il puisse le justifier. »

D’où l’importance, pour éviter les poursuites, d’utiliser l’IA en accord avec les bonnes pratiques : vérifier les résultats quand cela est possible, n’utiliser que des outils validés. « Quand nous élaborons un outil de chirurgie assistée par l’IA, nous passons par une phase d’apprentissage supervisé, durant laquelle nous portons une attention très forte à la qualité des données, détaille Thomas Grégory, qui estime qu’il s’agit là aussi d’une façon de limiter le risque juridique. Puis notre outil doit passer par les fourches caudines du marquage CE : il n’est pas question qu’il ne soit pas validé par des études cliniques qui vérifient sa pertinence. » Mais l’orthopédiste insiste : à l’instar d’un biologiste qui utilise des systèmes pour automatiser ses procédures, « la responsabilité finale incombe au médecin ».

La théorie et la pratique

Voilà pour la théorie. Mais dans la pratique, cette responsabilité finale attribuée au médecin pose des questions très concrètes. Car au-delà des précautions évidentes (informer le patient de l’utilisation d’un outil d’IA, ne pas fournir à la machine des données personnelles, etc.), certaines des recommandations classiques liées à l’usage de l’IA ne sont pas toujours applicables, ou pas intégralement. C’est le cas de la vérification finale des résultats donnés par des agents conversationnels. « L’IA reste un outil dont on doit être capable de vérifier les résultats, mais si on lui demande par exemple d’étudier la bibliographie sur une question donnée, et qu’on doit vérifier tous les articles par la suite, le gain de temps est perdu », constate Cécile Manaouil.

"Pour l’instant, les projets cherchant à attribuer une personnalité juridique à l’IA ont fort heureusement été abandonnés, mais nul ne sait ce qu’il en sera dans dix ou vingt ans"

Xavier Labbée

L’autre question qui se pose est celle de systèmes totalement autonomes, pouvant agir sans la présence d’un médecin. « Pour l’instant, il y a toujours un pilote dans l’avion, mais dans un avenir proche, si on couple la chirurgie guidée par l’IA avec la chirurgie robotique, comme c’est déjà le cas dans certains laboratoires de recherche, on entrera dans un autre monde », prévient Thomas Grégory. Et celui-ci d’avertir : « ce sont des systèmes qui sont faisables, et qui vont arriver sur le marché ». Il faudra alors trouver le moyen de distinguer la responsabilité du médecin de celle de l’industriel, comme c’est le cas pour d’autres processus médicaux déjà automatisés, estime le chirurgien.

"Aujourd'hui, on s’interroge sur la responsabilité du médecin qui utilise l’IA, mais demain, il se peut qu’on mette en cause celle du médecin qui ne l’a pas utilisée"

Cécile Manaouil

Que se passera-t-il alors en cas de procès ? « Un médecin mis en cause pourrait se retourner contre le producteur du système, pour le rendre responsable, imagine Xavier Labbée. La responsabilité pour produit défectueux existe, mais il faut justement prouver que le produit est défectueux, ce qui n’a rien d’évident devant un tribunal. » Par ailleurs, la législation est susceptible d’évoluer, et ce qui est juridiquement vrai aujourd'hui ne le sera pas forcément demain. « La question qui se pose est celle de la personne que l’on assigne en justice, reprend le juriste. Pour l’instant, les projets cherchant à attribuer une personnalité juridique à l’IA ont fort heureusement été abandonnés, mais nul ne sait ce qu’il en sera dans dix ou vingt ans. » Seule certitude : les médecins vont devoir faire preuve d’agilité pour s’adapter aux nouvelles réalités. « Aujourd'hui, on s’interroge sur la responsabilité du médecin qui utilise l’IA, mais demain, il se peut qu’on mette en cause celle du médecin qui ne l’a pas utilisée », prévoit Cécile Manaouil.

Source : https://francais.medscape.com/