En juillet 2019, le premier ministre de l’époque Édouard Philippe dans une lettre de mission saisissait le comité consultatif national d’éthique (CCNE) et le comité national pilote d’éthique du numérique (CPEN) sur le sujet du diagnostic médical et de l’intelligence artificielle (IA). Les deux instances ont rendu ce 10 janvier leur avis commun dans lequel elles mettent en avant sept points de vigilance et 16 recommandations.
« Le secteur de la santé et de la médecine est particulièrement concerné par le développement de systèmes d’intelligence artificielle. Leur application au champ médical suggère une transformation de la relation entre médecins et patients et ouvre de nombreuses questions sur l’avenir des systèmes de santé », introduisent le CCNE et le CPEN dans l’avis adopté à l’unanimité.
Ils soulignent que l’utilisation des systèmes d’IA utilisés pour le diagnostic médical (SIADM) soulève des enjeux hétérogènes parfois contradictoires : « entre intérêts économiques et industriels (conception des outils de SIA), promesses thérapeutiques pour les patients (bénéfices sanitaires attendus, dépistage, prévention et traitement), modification de la pratique professionnelle des personnels de santé concernés (activité des soignants pouvant être amenés à les utiliser, aide au diagnostic, éventuellement même des suppressions ou modifications de postes) et objectifs de régulation pour les autorités publiques ».
Créer les conditions de la confiance
Des enjeux qui guident les points de vigilance et recommandations mis en avant par l’avis. « S'il ne serait pas éthique que les équipes soignantes et les patients se privent des avantages apportés pas ces outils, il faut se donner constamment les moyens de prendre de la distance avec le résultat fourni et il est indispensable de créer les conditions de la confiance », écrivent les membres des comités.
Comme l’avait déjà précisé la loi de bioéthique, le CCNE et le CPEN rappellent notamment l’importance d’informer le patient lorsqu’un professionnel de la santé a recours à un SIADM et de recueillir son consentement. Ils réaffirment aussi la nécessité d’introduire le contrôle humain à toutes les étapes clés de la conception et de l’application en vie réelle du SIADM, « afin de garantir la sécurité et le respect des droits fondamentaux ».
Autre recommandation de l’avis n°141, le contrôle de conformité et les autorisations de mise sur le marché doivent être améliorés et accompagnés d’une évaluation de leur efficacité clinique. L’objectif est de montrer qu’« au-delà de son absence de nocivité, ils contribuent efficacement au principe de bienfaisance ».
Dans le même esprit, le CCNE et le CPEN recommandent que les SIADM dans leur finalité s’inscrivent dans une logique d’amélioration continue de la qualité et de la sécurité des soins. Ils incitent également à « encourager la recherche afin d’améliorer les processus de validation de l’intérêt clinique et de conformité des SIADM, et établir leur rapport bénéfice-risque ».
Avoir en tête l’amélioration du soin « avant les intérêts organisationnels, économiques ou managériaux », c’est tout l’enjeu éthique du chapitre consacré à l’utilisation des SIADM dans l’amélioration du parcours de soins.
« Outre qu’ils facilitent et sécurisent le maintien à domicile des patients, par leurs vertus pédagogiques ces nouveaux outils pourraient également contribuer à améliorer l’observance de certains traitements et à associer les patients à la prise en charge de leur maladie au quotidien. Ces bénéfices médicaux sont toutefois étroitement liés aux bénéfices économiques qui en résultent et cette intrication doit constituer un point de vigilance éthique important », détaille ainsi l’avis.
Souci du soin avant considérations économiques
Dans ses points de vigilance, les comités soulignent ainsi que les SIADM doivent être envisagés en tant qu’outils complémentaires des réponses à apporter aux insuffisances du système de soins notamment sur la démographie, mais qu’ils ne peuvent pas être « des solutions de substitution des équipes médicales ».
Ainsi dans le processus décisionnel, le souci du soin doit venir avant les considérations économiques et « doit être considéré comme un moyen de lutte contre les inégalités sociales et territoriales de santé ». L’avis estime également qu’il faut « maintenir une vigilance contre les risques de sélection adverse qui pourraient être opérés par les assurances complémentaires ».
L’avis suggère aussi d’engager une concertation nationale sur « la mise en accessibilité économique des SIADM », avec notamment l’étude d’un financement de l’IA dans les lois de financement de la Sécurité sociale.
« Dans ce débat, le rôle des acteurs de la protection complémentaire pour identifier et stimuler la mise en accessibilité de l’innovation en IA devrait être attentivement examiné », ajoute-t-il.
Parmi les autres recommandations avancées, le CCNE et le CPEN appellent à « faciliter l’explicabilité des résultats obtenus par des SIADM afin que les médecins soient en mesure de donner un sens clinique aux résultats issus du numérique ». Enfin si l’utilisation des SIADM dans les démarches de prévention est encore débutante, leur développement doit être anticipé, estime l’avis.
54 % des médecins femmes ont été victimes de violences sexistes et sexuelles, selon une enquête de l’Ordre
Installation : quand un cabinet éphémère séduit les jeunes praticiens
À l’AP-HM, dans l’attente du procès d’un psychiatre accusé de viols
Le texte sur la fin de vie examiné à l'Assemblée à partir de fin janvier