Le volet numérique et intelligence artificielle de l’avis émis le 25 septembre dernier par le Comité consultatif national d’éthique (CCNE) dans le cadre de la révision bioéthique représente une étape sans doute très importante. Pour la première fois, le CCNE reconnaît que le risque éthique principal associé au numérique et à l’intelligence artificielle en santé est précisément l’insuffisance du déploiement de ces innovations technologiques au sein de notre système de santé. Il montre qu’une surréglementation de l’IA en santé en France conduirait, en pratique, à encourager le recours par les professionnels de santé et les patients français à des solutions de médecine algorithmique conçues ailleurs et que nous ne pourrions pas réguler éthiquement. Le CCNE propose, en ligne avec le rapport publié en janvier 2018 par le Conseil national de l’Ordre des médecins, d’ouvrir la voie à une initiative forte pour le développement de régulations souples visant à tenter de prévenir les risques éthiques intrinsèques associés à l’intelligence artificielle en santé : délégation de la décision du médecin et du consentement du patient à l’IA, d’une part et risque de minoration de la prise en compte des personnes face à la logique collective algorithmique, d’autre part. Cette soft law aurait vocation à venir compléter opérationnellement le principe fondamental d’une garantie humaine de l’IA qui aurait, quant à lui, vocation à être inséré dans la prochaine loi de bioéthique.
Engagée il y a plus d’un an, l’initiative académique et citoyenne Ethik-IA visait précisément à permettre à la France de prendre ce tournant de la régulation positive de l’intelligence artificielle en santé. Cette démarche fédère des acteurs de la recherche et du management pour porter l’idée d’une régulation positive du déploiement de la robotisation et de l’intelligence artificielle dans le domaine sanitaire et médico-social.
Depuis son initialisation en septembre 2017, Ethik IA a produit un prototype de norme-cadre sur « les 5 clés de régulation de l’IA et de la robotisation en santé » qui a déjà fait l’objet d’une diffusion large aux niveaux national et international. Avec la Société française de télémédecine (SFT-ANTEL), Ethik IA a aussi élaboré le cadre général d’un dispositif de télémédecine de garantie humaine de l’IA (mobilisation d’un deuxième avis spécialisé en cas de doute par rapport à la solution proposée en première intention par un algorithme d’aide à la décision). Avec les équipes de l’IHU Imagine un premier prototype de norme de bonnes pratiques sur l’application de l’IA aux données génomiques était construit. Sur le terrain de l’accompagnement des effets de l’IA pour les métiers de la santé, Ethik IA a diffusé une note de cadrage sur l’idée d’une « RSE digitale » appliquée à la santé et a engagé, sous l’égide de l’Institut Montaigne, un travail d’évaluation de ces impacts RH pour le champ sanitaire et médico-social. Ces exemples montrent bien que la régulation positive de l’IA en santé n’est pas un sujet théorique, c’est une question de déploiement d’outils pratiques.
Les esprits évoluent et une véritable prise de conscience semble se faire jour. Le numérique a été porté comme un axe majeur du plan Santé 2022. Son volet management par les données de santé doit être complété dans les prochains jours par les conclusions de la mission Polton sur le Health Data Hub. Sur le terrain RH, la conférence des doyens de faculté de médecine a annoncé l’insertion, dès 2019, d’un module de sensibilisation aux enjeux de la médecine algorithmique dès la première année du cursus médical. L’Agence nationale du développement professionnel continu annonçait, quant à elle, lors du colloque Ethik IA au Sénat le 3 juillet dernier que l’IA serait inscrite comme orientation prioritaire du DPC dès 2019.
Ces différents éléments résonnent donc comme autant d’avancées positives substantielles. La partie est, cependant, encore loin d’être gagnée. Par rapport à la Chine et aux Etats-Unis, la France et l’Union européenne accusent encore un très important retard à l’allumage. Au niveau national, une véritable stratégie d’accompagnement opérationnel du développement de l’intelligence artificielle en santé reste encore à élaborer et surtout à piloter. Mais au moins l’espoir revient. Trop tard ? L’avenir le déterminera. Sur l’IA en santé, le temps est compté.
* Membre du comité de direction de la chaire santé de Sciences Po Paris et fondateur de l’initiative Ethik IA.
Transition de genre : la Cpam du Bas-Rhin devant la justice
Plus de 3 700 décès en France liés à la chaleur en 2024, un bilan moins lourd que les deux étés précédents
Affaire Le Scouarnec : l'Ordre des médecins accusé une fois de plus de corporatisme
Procès Le Scouarnec : la Ciivise appelle à mettre fin aux « silences » qui permettent les crimes