Quel est l’impact de l’intelligence artificielle (IA) sur la relation médecin-patient ? Tel est le sujet d’un rapport publié ce 7 juin par le Conseil de l’Europe. Réalisé à la demande du Comité directeur pour les droits de l’Homme dans les domaines de la biomédecine et de la santé (CDBIO), le document rappelle que « la mise en œuvre de l’IA dans le domaine des soins cliniques n’en est encore qu’à ses balbutiements. Une efficacité clinique n’a été établie que pour relativement peu de systèmes par rapport aux nombreuses activités de recherche menées sur les applications de l’IA en médecine ».
Six thèmes de vigilance
Le rapport identifie six thèmes pour lesquels l’intelligence artificielle pourrait avoir un impact sur la relation médecin-patient : « inégalité dans l’accès à des soins de santé de qualité ; transparence vis-à-vis des professionnels de la santé et des patients ; risque de biais social dans les systèmes d’IA ; dilution de la prise en compte du bien-être du patient ; risques de biais d’automatisation, de perte de compétences et de déplacement de la responsabilité ; conséquences sur le droit à la vie privée ». Les inégalités pourraient résulter d’abord des différences de déploiements entre les États membres mais aussi selon les technologies…
Le Conseil de l’Europe mentionne également les biais des intelligences artificielles, entraînées notamment avec des données d’essais cliniques et d’études sur la santé « biaisés en faveur des hommes blancs, ce qui signifie que les résultats sont moins susceptibles de s'appliquer aux femmes et aux personnes de couleur ». Il avertit : « À en juger par ces divers problèmes de biais social, de discrimination et d’inégalité, les professionnels et les établissements de santé font face à une tâche difficile, à savoir veiller à ce que leur utilisation des systèmes d’IA n’aggrave pas les inégalités existantes et ne crée pas de nouvelles formes de discrimination ».
Pour les professionnels de santé utilisant des technologies d’IA, le Conseil de l’Europe soulève plusieurs questions et limites. « Au moment d’intégrer des systèmes d’IA qui interagissent directement avec les patients, il convient d’examiner attentivement le rôle joué par les professionnels de la santé, lesquels sont tenus de respecter des normes professionnelles », pointe le rapport.
Il liste également « la complexité » induite dans la relation médecin-patient autour de la transparence et le consentement éclairé : « Dans les cas où les systèmes d’IA fournissent une certaine forme d’expertise clinique, par exemple en recommandant un diagnostic particulier ou en interprétant des images médicales, l’obligation d’expliquer la décision serait apparemment transférée du médecin au système d’IA, ou du moins au fabricant du système d’IA. Les difficultés à expliquer comment les systèmes d’IA transforment les données d’entrée en données de sortie posent un défi épistémologique fondamental pour le consentement éclairé », note le document.
En France, un encadrement avec la loi de bioéthique
Un risque pour lequel la France a déjà prévu des garde-fous, avec la loi de bioéthique. En effet, son article 17 consacre le principe de « garantie humaine », qui vise à ce que « l’homme garde le contrôle sur la machine et reste au cœur du processus de décision », résumait Maître Cécile Théard-Jallu (De Gaulle Fleurance & Associés) pour Le Généraliste en septembre 2021.
Des recommandations examinées en 2023-2024
Le Conseil émet ainsi un certain nombre de recommandations. Insistant notamment sur un « modèle idéal de soins cliniques et de déploiement de l'IA dans les soins de santé » qui utiliserait « les meilleurs aspects de l'expertise clinique humaine et des diagnostics de l'IA ». Ces recommandations et réflexions devraient être examinées par le CDBIO en 2023-2024, précise le Conseil de l’Europe. Une proposition de réglementation européenne de l'intelligence artificielle a par ailleurs été présentée en avril 2021 par la Commission européenne.
Transition de genre : la Cpam du Bas-Rhin devant la justice
Plus de 3 700 décès en France liés à la chaleur en 2024, un bilan moins lourd que les deux étés précédents
Affaire Le Scouarnec : l'Ordre des médecins accusé une fois de plus de corporatisme
Procès Le Scouarnec : la Ciivise appelle à mettre fin aux « silences » qui permettent les crimes