En 2021, l’Organisation Mondiale de la Santé avait publié un rapport mondial sur l’intelligence artificielle appliquée à la santé. Face à l’essor des IA génératives, l’OMS publie de nouvelles recommandations. Découverte.
Le recours croissant à l’IA dans le domaine de la santé présente des opportunités et des défis pour les gouvernements, les institutions et l’ensemble des acteurs. En 2021, l’OMS a publié un rapport consacré à l’éthique et à la gouvernance de l’intelligence artificielle dans le domaine de la santé (intitulé en anglais : Ethics and governance of artificial intelligence for health).
Face à l’émergence des IA génératives et le déploiement de plus en plus de solutions dans le domaine de la santé, l’OMS a publié courant mai de nouvelles recommandations. Elle préconise notamment une utilisation sûre et responsable de l’intelligence artificielle dans le domaine de la santé en se basant sur le rapport précédemment cité et six principes fondamentaux :
- protéger l’autonomie
- promouvoir le bien-être, la sécurité humaine et l’intérêt public
- garantir la transparence, l’explicabilité, et la compréhension
- favoriser la responsabilité et la responsabilisation
- garantir l’inclusion et l’équité
- promouvoir une IA réactive et durable
Parmi les grands modèles de langage figurent notamment certaines des plateformes les plus dynamiques telles que ChatGPT, Bard, Bert et bien d’autres qui imitent la compréhension, le traitement et la production de communications humaines. Comme le souligne l’OMS dans un communiqué, leur diffusion publique fulgurante et leur utilisation expérimentale croissante à des fins liées à la santé suscitent un enthousiasme considérable quant au potentiel offert de répondre aux besoins de santé des populations.
Cependant, il est impératif que les risques soient examinés attentivement lors de l’utilisation de ces modèles pour améliorer l’accès à l’information sanitaire, en tant qu’outil d’aide à la décision, ou même pour renforcer la capacité de diagnostic dans les contextes où les moyens sont insuffisants afin de protéger la santé des personnes et de réduire les inégalités.
“Si l’OMS est enthousiaste quant à l’utilisation appropriée des technologies, y compris les grands modèles de langage, pour aider les professionnels de la santé, les patients, les chercheurs et les scientifiques, il est préoccupant de constater que le principe de précaution exercé habituellement à toute nouvelle technologie ne s’applique pas de manière systématique dans le cas des grands modèles de langage. Il s’agit notamment du respect des valeurs clés que sont la transparence, l’inclusion, la participation du public, la supervision par des experts et l’évaluation rigoureuse.”
Parmi les préoccupations soulevées, certaines préconisent une surveillance rigoureuse, nécessaire pour que les technologies soient utilisées de manière sûre, efficace et responsable.
- Les données utilisées pour entraîner une IA peuvent être biaisées, produisant des informations trompeuses ou inexactes susceptibles de poser des risques pour la santé, l’équité et l’inclusion.
- Les grands modèles de langage génèrent des réponses qui peuvent sembler faire autorité et sont plausibles pour un utilisateur final. Cependant, ces réponses peuvent être complètement incorrectes ou contenir de graves erreurs, en particulier concernant les réponses liées à la santé.
- Les grands modèles de langage peuvent être entraînés à partir de données pour lesquelles le consentement n’a pas été donné au préalable, et ces modèles pourraient ne pas garantir de protection des données sensibles (y compris les données relatives à la santé) qu’un utilisateur fournit à une application pour obtenir une réponse.
- Les grands modèles de langage peuvent être utilisés à mauvais escient pour produire et diffuser de fausses informations très convaincantes sous la forme de contenu textuel, audio ou vidéo qu’il est difficile pour le public de différencier d’un contenu de santé fiable.
Tout en s’engageant à exploiter les nouvelles technologies, y compris l’IA et la santé numérique en vue d’améliorer la santé humaine, l’OMS recommande aux responsables de l’élaboration des politiques d’assurer la sécurité et la protection des patients pendant que les entreprises spécialisées dans les technologies s’emploient à commercialiser les grands modèles de langage.
Source : OMS