Au cours de l’été, la cellule éthique du numérique en santé a publié un guide d’implémentation de l’éthique dans les systèmes d’IA en santé. Ce guide s’inscrit dans une dynamique plus large, en cohérence avec la Stratégie nationale pour la recherche et l’innovation en santé et les exigences du nouvel AI Act européen. Découverte.
L’intelligence artificielle s’impose désormais comme un levier incontournable dans le domaine de la santé. De l’aide au diagnostic à la personnalisation des traitements, ses promesses sont immenses. Mais cette montée en puissance soulève autant d’espérances que de préoccupations. Comment éviter les biais discriminatoires, garantir la protection des données sensibles ou encore préserver la dimension humaine du soin ? Autant de questions auxquelles le nouveau guide d’implémentation de l’éthique dans les systèmes d’intelligence artificielle en santé, publié en juillet 2025, tente d’apporter des réponses concrètes.
Fruit de deux années de travaux menés par le groupe de travail GT3 de la cellule éthique du numérique en santé, ce guide marque une étape majeure. Là où de nombreuses chartes et recommandations éthiques se limitaient à des principes généraux, il propose désormais des outils pratiques et des critères opérationnels pour les développeurs, les industriels et les établissements de santé. Objectif : inscrire l’innovation numérique dans un cadre de valeurs partagées, au service des patients et de la confiance des soignants.
Le document s’articule autour de 38 critères couvrant l’ensemble du cycle de vie d’un système d’IA en santé : cadrage du projet, collecte et traitement des données, construction des algorithmes, développement des interfaces, déploiement, formation des utilisateurs et suivi continu. À chaque étape, des repères éthiques précis sont associés aux grands principes de la bioéthique et du numérique : bienfaisance, non-malfaisance, autonomie, justice et équité, écoresponsabilité. L’approche est pragmatique : des éléments d’auto-évaluation permettent aux porteurs de projets de mesurer leur conformité et d’engager une démarche d’amélioration continue.
Parmi les exigences fortes, figure :
- la mise en place d’un comité scientifique et éthique dès la phase de cadrage, garant d’une validation indépendante
- la collecte des données doit rester strictement proportionnée aux besoins, en intégrant des garde-fous contre la réidentification et en veillant à limiter l’empreinte environnementale.
Côté algorithmes, le guide insiste sur la réduction des biais, l’explicabilité des décisions, la traçabilité des usages et la possibilité de désactiver une IA modulaire. Une vigilance particulière est accordée à l’IA générative, avec des recommandations spécifiques contre le plagiat, les restitutions de données personnelles ou encore les « hallucinations » produites par certains modèles.
Le guide ne se limite pas aux aspects techniques. Il souligne l’importance de la formation et de la pédagogie auprès des utilisateurs finaux, afin de prévenir une dépendance excessive aux outils numériques et de maintenir l’esprit critique des professionnels. La supervision humaine est réaffirmée comme un pilier : la décision médicale doit rester profondément humaine, l’IA devant soutenir plutôt que remplacer. L’impact environnemental et sociétal est également intégré, avec des indicateurs à suivre et des mesures d’écoconception à privilégier.
Ce travail s’inscrit dans un contexte international marqué par l’entrée en vigueur de l’AI Act européen en août 2024 et les recommandations de l’UNESCO ou de l’OMS sur les usages de l’IA. La France, à travers ce guide, confirme sa volonté de conjuguer innovation et responsabilité, en cohérence avec ces cadres globaux.
Plus qu’une simple référence, ce guide ambitionne de devenir un socle commun pour l’ensemble de l’écosystème. Il pourrait inspirer des référentiels sectoriels, à l’image de ce qui a déjà été fait pour la téléconsultation. En plaçant l’éthique au cœur de la conception et de l’usage de l’IA en santé, il vise à garantir que ces technologies demeurent des instruments de progrès médical sans jamais occulter la valeur première du soin : l’attention à l’humain.
Source : Agence du Numérique en Santé