L'Organisation mondiale de la santé a publié lundi un nouveau rapport appelant à des garanties éthiques et à une surveillance plus strictes de l'intelligence artificielle dans la recherche en santé, avertissant que les mécanismes d'examen existants ne sont pas toujours équipés pour gérer les nouveaux risques que l'IA introduit dans la science médicale.
Le rapport, intitulé « Recherche en santé liée à l'intelligence artificielle : examen et surveillance éthiques », propose des recommandations aux chercheurs, aux comités d'éthique, aux régulateurs, aux bailleurs de fonds et aux décideurs politiques sur la manière de garantir que la recherche en santé basée sur l'IA est menée de manière responsable. Il a été développé conjointement par des experts de l’OMS travaillant dans les domaines de l’éthique de la recherche, de la science, de la santé numérique et de l’intelligence artificielle, et a été lancé lundi parallèlement à un événement virtuel. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.
Selon l’OMS, l’intelligence artificielle remodèle rapidement la manière dont la recherche en santé est menée – en modifiant la manière dont les données sur la santé sont analysées, dont les études sont conçues et dont les nouvelles technologies sont développées et évaluées. Mais l’organisation prévient que sans mesures de protection solides, la recherche liée à l’IA pourrait introduire des risques qui sapent les droits humains, l’équité et la confiance du public.
Ce que couvre le nouveau rapport de l'OMS
Le rapport identifie trois grandes catégories de recherche en santé liée à l’IA : la recherche en santé qui utilise l’IA pour analyser des données, la recherche qui utilise des outils et des technologies d’IA et la recherche en santé menée sur les outils et technologies d’IA eux-mêmes.
Pour chaque catégorie, la publication examine comment la surveillance éthique peut être renforcée tout au long du cycle de vie de la recherche – depuis la conception de l’étude et l’examen éthique jusqu’à la publication, la réglementation et la mise en œuvre dans le monde réel.
L'OMS prévient que les mécanismes de surveillance éthique existants « ne sont pas toujours équipés » pour faire face aux risques spécifiques que l'IA entraîne dans le processus de recherche, notamment les problèmes liés à la transparence, aux préjugés, à l'équité, à la responsabilité, à la vie privée et aux préjudices potentiels découlant du déploiement rapide d'outils basés sur l'IA.
Pourquoi les structures d'examen existantes sont mises à rude épreuve
« L'intelligence artificielle crée des opportunités sans précédent pour accélérer la recherche en santé et améliorer la vie des gens », a déclaré le Dr Meg Doherty, directrice du Département des sciences pour la santé de l'OMS, dans le communiqué. "Dans le même temps, l'innovation doit être guidée par de solides garanties éthiques qui protègent la dignité humaine, les droits et l'équité."
Doherty a décrit le rapport comme fournissant des « considérations pratiques » pour aider les chercheurs, les comités d'éthique et les décideurs politiques à gérer à la fois les opportunités et les risques associés à la recherche en santé liée à l'IA.
Le rapport place les comités d’éthique de la recherche – les organismes institutionnels qui examinent les études impliquant des participants humains – au centre du cadre de surveillance. Mais il reconnaît que ces comités peuvent nécessiter une expertise, une formation et des ressources supplémentaires pour examiner efficacement des études de plus en plus complexes liées à l'IA, qui impliquent souvent des modèles opaques, de vastes ensembles de données et des techniques qui échappent à la formation traditionnelle des évaluateurs éthiques.
Responsabilité au-delà du comité d'éthique
La publication souligne également que la responsabilité ne s'arrête pas à la porte du comité d'éthique. Selon l’OMS, les chercheurs eux-mêmes ont le devoir d’identifier et d’atténuer rapidement les risques éthiques, de communiquer de manière transparente et de prendre en compte les implications sociétales plus larges des technologies d’IA qu’ils construisent et déploient.
Au-delà des chercheurs individuels et des comités, le rapport met en évidence le rôle des bailleurs de fonds, des revues scientifiques, des organismes de gouvernance des données, des sociétés professionnelles et des agences de réglementation dans la promotion d’une recherche responsable en matière de santé liée à l’IA. Il soutient notamment que certains défis systémiques ne peuvent tout simplement pas être gérés par le seul examen projet par projet – une reconnaissance du fait que l’impact de l’IA sur l’écosystème de la recherche nécessite des réponses structurelles au niveau institutionnel.
« Une gouvernance efficace de l'IA dans la recherche en santé nécessite une collaboration entre les disciplines, les secteurs et les institutions », a déclaré le Dr Alain Labrique, directeur du département Données, analyse numérique de la santé et intelligence artificielle de l'OMS. "Alors que les technologies de l'IA continuent d'évoluer rapidement, nous avons besoin de mécanismes de surveillance agiles, fondés sur des preuves et capables de garantir que l'innovation reste sûre, fiable et bénéfique pour tous."
La dimension équité
Une partie importante du rapport aborde les défis et les opportunités dans les pays à revenu faible et intermédiaire. Bien que l’IA ait un potentiel important pour aider à résoudre les problèmes de santé persistants dans ces contextes, l’OMS note qu’une grande partie de la recherche et du développement technologique actuels en matière d’IA restent concentrés dans les pays à revenus plus élevés.
Le renforcement du leadership local, des capacités et de la participation à la recherche en santé liée à l’IA sera donc essentiel, affirme l’organisation – à la fois pour garantir que les bénéfices de l’IA sont répartis équitablement et pour éviter de créer de nouvelles formes d’exclusion ou d’iniquité dans la science de la santé mondiale.
Un point de départ, pas un dernier mot
Consciente de la rapidité avec laquelle la technologie évolue, l’OMS décrit le rapport comme un point de départ pour renforcer la surveillance de l’éthique à l’ère de la recherche en santé liée à l’IA, et comme base pour l’élaboration de futures normes, orientations et approches de gouvernance.
Le rapport arrive alors que les systèmes de santé du monde entier expérimentent de plus en plus l’IA pour le diagnostic, la découverte de médicaments et la documentation clinique, ce qui fait pression sur les établissements de recherche pour qu’ils adaptent leurs processus d’examen. Le message de l'OMS aux institutions est que le moment est venu de mettre en place une surveillance compétente, c'est-à-dire avant que les résultats générés par l'IA, les essais conçus par l'IA et les ensembles de données analysés par l'IA ne deviennent la norme plutôt que l'exception.
Le rapport complet et les détails de l'événement de lancement virtuel de lundi sont disponibles via les canaux officiels de l'Organisation mondiale de la santé.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
