IA en santé : quelles sont les attentes liées à la concertation et au futur guide Ethique IA de l'ANS et de la DNS ?

Du 12 mai au 6 juin 2025, l’Agence du Numérique en Santé (ANS) et la Délégation au Numérique en Santé (DNS) ont tenu une concertation publique sur un guide d’implémentation d’une intelligence artificielle (IA) en santé éthique. Ce document vise à encadrer le développement et le déploiement des systèmes d’IA dans le domaine de la santé, en intégrant des critères éthiques concrets et opérationnels. Mais quelles sont les attentes sur ce guide à venir ?

Un cadre éthique pour l’IA en santé

L’IA transforme profondément le secteur de la santé, offrant des avancées en matière de prévention, de diagnostic, de traitement et de suivi des pathologies. Cependant, pour que ces technologies bénéficient pleinement aux patients et aux professionnels de santé, leur déploiement doit s’inscrire dans un cadre éthique rigoureux, respectueux des droits humains, des données personnelles et des principes fondamentaux du système de santé.

Dans ce contexte, l’ANS, en collaboration avec la cellule éthique de la DNS, proposera un guide d’implémentation d’une IA en santé éthique. Ce document, élaboré par un groupe de travail pluridisciplinaire, complète les référentiels existants en apportant des critères concrets, opérationnels et contextualisés, destinés aux acteurs développant ou déployant des systèmes d’IA dans le domaine de la santé.

Une réponse aux exigences réglementaires

L’adoption du Règlement européen sur l’IA (RIA) en juin 2024 impose un cadre juridique strict aux systèmes à haut risque, notamment en santé. Le guide proposé par l’ANS visera à éclairer les enjeux éthiques spécifiques au secteur de la santé, peu développés par le RIA, et anticipera leur prise en compte dans des référentiels opposables, tels que ceux requis pour le référencement dans Mon Espace Santé ou pour l’agrément des sociétés de téléconsultation.

Une structure basée sur des principes éthiques

Le guide sera structuré autour de critères éthiques associés aux grandes phases du développement d’un système d’IA : conception, apprentissage, validation, mise en service et surveillance. Chaque critère sera rattaché à un principe éthique fondamental — bienfaisance, non-malfaisance, autonomie, justice, éco-responsabilité — et renverra, le cas échéant, aux articles correspondants du Règlement général sur la protection des données (RGPD), du RIA ou d’autres normes.

Une démarche participative

La concertation publique, ouverte jusqu’au 6 juin 2025, a invité l’ensemble des acteurs concernés — professionnels de santé, industriels, chercheurs, patients et citoyens — à contribuer à l’élaboration de ce guide. Cette démarche participative visait à construire collectivement un cadre éthique pour l’IA en santé, garantissant que les technologies développées répondent aux besoins réels du terrain tout en respectant les valeurs fondamentales du système de santé.

L’initiative de l’ANS et de la DNS marque une étape importante dans l’encadrement éthique de l’IA en santé. En intégrant des critères concrets et en sollicitant la participation de l’ensemble des parties prenantes, ce guide visera à assurer un déploiement responsable et éthique des technologies d’IA, au service des patients et des professionnels de santé

De la contrainte éthique au levier d’innovation : qu’attendre des recommandations issues de cette concertation ? 

L'enjeu principal de cette consultation était de transformer des principes éthiques en un cadre d'action tangible pour l’ensemble des acteurs de l’écosystème. Pour que cette ambition réussisse, la réglementation, bien qu'indispensable, ne doit pas être perçue comme une contrainte supplémentaire, mais comme un levier de simplification pour l'innovation. 

En parallèle de la multiplication des critères à vérifier, plusieurs pistes de simplifications émergent : la mise en place d'une labellisation des bases de données (d'entraînement comme d'évaluation) ou encore, comme le suggère la SIFEM, la création d'une plateforme nationale permettant l'évaluation des SIA. De tels dispositifs garantiraient la qualité, la performance et la conformité éthique des solutions, simplifiant drastiquement le travail des développeurs tout en assurant la robustesse des systèmes d'IA (SIA).

Par ailleurs, pour s'assurer de la pertinence d'un projet de développement de SIA, il est essentiel d'évaluer objectivement sa pertinence éthique en plus de sa pertinence clinique, administrative ou organisationnelle et de s’interroger sur ce que la solution apporte concrètement par rapport à une situation où elle n'existerait pas, afin de justifier son développement et son intégration.

C'est en faisant de l'éthique un avantage compétitif et un gage de confiance que l'innovation en santé trouvera son plein potentiel.