{"id":21424,"date":"2024-02-05T08:44:28","date_gmt":"2024-02-05T07:44:28","guid":{"rendered":"https:\/\/buzz-esante.fr\/?p=21424"},"modified":"2024-02-05T08:44:28","modified_gmt":"2024-02-05T07:44:28","slug":"loms-devoile-ses-recommandations-sur-lethique-et-la-gouvernance-de-lia","status":"publish","type":"post","link":"https:\/\/buzz-esante.fr\/loms-devoile-ses-recommandations-sur-lethique-et-la-gouvernance-de-lia\/","title":{"rendered":"L\u2019OMS d\u00e9voile ses recommandations sur l\u2019\u00e9thique et la gouvernance de l\u2019IA"},"content":{"rendered":"

Avec le d\u00e9ploiement des IA g\u00e9n\u00e9ratives dans le monde de la sant\u00e9, l\u2019Organisation mondiale de la Sant\u00e9 (OMS) publie de\u00a0nouvelles lignes directrices sur l\u2019\u00e9thique et la gouvernance des grands mod\u00e8les multimodaux (ou LMM). Pr\u00e9sentation.<\/strong><\/p>\n

En 2021, l\u2019Organisation Mondiale de la Sant\u00e9 avait publi\u00e9 un premier rapport mondial sur l\u2019intelligence artificielle<\/a> appliqu\u00e9e \u00e0 la sant\u00e9. Face \u00e0 l\u2019essor des IA g\u00e9n\u00e9ratives, l\u2019OMS a publi\u00e9 de nouvelles recommandations en juin 2023<\/a>.<\/p>\n

L’OMS continue de s’int\u00e9resser \u00e0 l’IA et ses impacts sur le monde de la sant\u00e9 avec la publication de nouvelles lignes directrices sur l\u2019\u00e9thique et la gouvernance des grands mod\u00e8les multimodaux\u00a0(ou \u00ab\u00a0LMM\u00a0\u00bb, de l\u2019anglais \u00ab\u00a0large multi-modal models \u00bb), une technologie d\u2019intelligence artificielle (IA) g\u00e9n\u00e9rative qui se d\u00e9veloppe rapidement et a des applications dans tout le secteur la sant\u00e9.<\/p>\n

Ces lignes directrices pr\u00e9sentent plus de 40 recommandations \u00e0 l\u2019intention des gouvernements, des entreprises technologiques et des prestataires de soins, le but \u00e9tant de garantir le bon usage des LMM pour promouvoir et prot\u00e9ger la sant\u00e9 des populations.<\/p>\n

\"\"<\/p>\n

Les LMM permettent de saisir des donn\u00e9es d\u2019entr\u00e9e d\u2019un ou plusieurs types (texte, vid\u00e9o ou image) et de g\u00e9n\u00e9rer divers r\u00e9sultats sans se limiter au type de donn\u00e9es utilis\u00e9 au d\u00e9part. Ils se distinguent par leur capacit\u00e9 \u00e0 imiter la communication humaine et \u00e0 ex\u00e9cuter des t\u00e2ches pour lesquelles ils n\u2019ont pas \u00e9t\u00e9 explicitement programm\u00e9s. Jamais une application grand public n\u2019a \u00e9t\u00e9 adopt\u00e9e aussi rapidement que les LMM\u00a0: l\u2019apparition de plusieurs plateformes comme ChatGPT, Bard ou Bert, a marqu\u00e9 la conscience collective en 2023.<\/p>\n

\u00ab\u00a0Les technologies d\u2019IA g\u00e9n\u00e9rative ont la capacit\u00e9 d\u2019am\u00e9liorer les soins, mais seulement si ceux qui les d\u00e9veloppent, les r\u00e9glementent et les utilisent identifient les risques associ\u00e9s et en tiennent pleinement compte<\/em> \u00bb, a d\u00e9clar\u00e9 le Dr\u00a0Jeremy Farrar, Scientifique en chef de l\u2019OMS. \u00ab Nous avons besoin d\u2019informations et de politiques transparentes pour g\u00e9rer la conception, la mise au point et l\u2019utilisation des LMM afin d\u2019obtenir de meilleurs r\u00e9sultats en sant\u00e9 et de corriger les in\u00e9galit\u00e9s persistantes dans ce domaine<\/em>. \u00bb<\/p>\n

Les nouvelles lignes directrices de l\u2019OMS pr\u00e9sentent cinq grandes applications des LMM pour la sant\u00e9\u00a0:<\/p>\n

    \n
  1. Diagnostic et soins cliniques, par exemple pour r\u00e9pondre aux questions \u00e9crites des patients\u00a0;<\/li>\n
  2. Utilisation guid\u00e9e par le patient, par exemple pour se renseigner sur les sympt\u00f4mes et les possibilit\u00e9s de traitement\u00a0;<\/li>\n
  3. T\u00e2ches administratives, notamment pour pr\u00e9parer des r\u00e9sum\u00e9s de consultations et les ajouter aux dossiers de sant\u00e9 \u00e9lectroniques\u00a0;<\/li>\n
  4. Formation des m\u00e9decins et du personnel infirmier, par exemple pour permettre aux internes de simuler des consultations ;<\/li>\n
  5. Recherche scientifique et mise au point de m\u00e9dicaments, y compris pour identifier de nouveaux compos\u00e9s.<\/li>\n<\/ol>\n

    M\u00eame si les LMM commencent \u00e0 \u00eatre employ\u00e9s pour des usages particuliers en sant\u00e9, il existe des risques document\u00e9s de voir ces syst\u00e8mes produire des affirmations fausses, impr\u00e9cises, biais\u00e9es ou incompl\u00e8tes, ce qui pourrait nuire aux personnes qui s\u2019en servent pour prendre des d\u00e9cisions. De plus, il arrive que les donn\u00e9es d\u2019apprentissage soient de mauvaise qualit\u00e9 ou pr\u00e9sentent des biais li\u00e9s \u00e0 la race, \u00e0 l\u2019appartenance ethnique, \u00e0 l\u2019ascendance, au sexe, \u00e0 l\u2019identit\u00e9 de genre ou encore \u00e0 l\u2019\u00e2ge.<\/p>\n

    Le document pr\u00e9sente \u00e9galement les risques que ces syst\u00e8mes font peser plus globalement sur les syst\u00e8mes de sant\u00e9, notamment du point de vue de l\u2019acc\u00e8s \u00e0 co\u00fbt abordable aux LMM les plus efficaces. Les LMM peuvent aussi favoriser un \u00ab biais d\u2019automatisation\u00a0\u00bb chez les professionnels de sant\u00e9 et les patients : des erreurs passent inaper\u00e7ues alors qu\u2019elles auraient pu \u00eatre identifi\u00e9es, des choix difficiles sont d\u00e9l\u00e9gu\u00e9s \u00e0 un LMM alors que cela n\u2019aurait pas d\u00fb \u00eatre le cas. Les LMM, comme les autres formes d\u2019IA, sont \u00e9galement vuln\u00e9rables face aux risques de cybers\u00e9curit\u00e9, lesquels p\u00e8sent sur les informations fournies par les patients et pourraient aussi nuire \u00e0 la fiabilit\u00e9 de ces algorithmes et entraver la fourniture des soins.<\/p>\n

    L\u2019OMS souligne dans un communiqu\u00e9 que, pour cr\u00e9er des LMM s\u00fbrs et efficaces, il faut veiller \u00e0 ce que les diff\u00e9rentes parties prenantes (gouvernements, entreprises technologiques, prestataires de soins, patients et soci\u00e9t\u00e9 civile) participent \u00e0 toutes les \u00e9tapes de la mise au point et du d\u00e9ploiement, y compris \u00e0 la supervision et \u00e0 la r\u00e9glementation de ces technologies.<\/p>\n

    \u00ab Les gouvernements de tous les pays doivent diriger ensemble, en coop\u00e9ration, les efforts d\u00e9ploy\u00e9s pour r\u00e9glementer efficacement la mise au point et l\u2019utilisation des technologies d\u2019IA telles que les LMM<\/em> \u00bb a d\u00e9clar\u00e9 le Dr\u00a0Alain Labrique, Directeur du D\u00e9partement Sant\u00e9 num\u00e9rique et innovation \u00e0 la Division des sciences de l\u2019OMS.<\/p>\n

    Des recommandations sur l’usage de ces mod\u00e8les d’IA<\/h2>\n

    L’OMS publie donc une s\u00e9rie de recommandations aux gouvernements, \u00e0 qui il revient en premier lieu de d\u00e9finir des normes pour la mise au point et le d\u00e9ploiement des LMM et leur int\u00e9gration et utilisation \u00e0 des fins m\u00e9dicales ou de sant\u00e9 publique :<\/p>\n