La Organización Mundial de la Salud publicó el lunes un nuevo informe que pide salvaguardias éticas y una supervisión más estrictas de la inteligencia artificial en la investigación sanitaria, advirtiendo que los mecanismos de revisión existentes no siempre están equipados para manejar los nuevos riesgos que la IA introduce en la ciencia médica.
El informe, titulado "Investigación sanitaria relacionada con la inteligencia artificial: revisión y supervisión ética", ofrece recomendaciones para investigadores, comités de ética, reguladores, financiadores y formuladores de políticas sobre cómo garantizar que la investigación sanitaria basada en IA se lleve a cabo de manera responsable. Fue desarrollado conjuntamente por expertos de la OMS que trabajan en ética de la investigación, ciencia, salud digital e inteligencia artificial, y se lanzó junto con un evento virtual el lunes. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
Según la OMS, la inteligencia artificial está cambiando rápidamente la forma en que se realizan las investigaciones en salud: cambiando la forma en que se analizan los datos de salud, cómo se diseñan los estudios y cómo se desarrollan y evalúan nuevas tecnologías. Pero la organización advierte que sin salvaguardias sólidas, la investigación relacionada con la IA podría introducir riesgos que socaven los derechos humanos, la equidad y la confianza pública.
Qué cubre el nuevo informe de la OMS
El informe identifica tres categorías amplias de investigación en salud relacionada con la IA: investigación relacionada con la salud que utiliza IA para analizar datos, investigación que utiliza herramientas y tecnologías de IA e investigación relacionada con la salud realizada con herramientas y tecnologías de IA en sí.
Para cada categoría, la publicación examina cómo se puede fortalecer la supervisión ética a lo largo de todo el ciclo de vida de la investigación, desde el diseño del estudio y la revisión ética hasta la publicación, la regulación y la implementación en el mundo real.
La OMS advierte que los mecanismos de supervisión ética existentes "pueden no siempre estar equipados" para abordar los riesgos específicos que la IA trae al proceso de investigación, incluidas cuestiones relacionadas con la transparencia, el sesgo, la equidad, la responsabilidad, la privacidad y los daños potenciales que surgen del rápido despliegue de herramientas habilitadas para la IA.
Por qué las estructuras de revisión existentes están bajo presión
"La inteligencia artificial está creando oportunidades sin precedentes para acelerar la investigación sanitaria y mejorar la vida de las personas", afirmó en el anuncio la Dra. Meg Doherty, directora del Departamento de Ciencias para la Salud de la OMS. "Al mismo tiempo, la innovación debe estar guiada por sólidas salvaguardias éticas que protejan la dignidad, los derechos y la equidad humanos".
Doherty describió el informe como que proporciona "consideraciones prácticas" para ayudar a los investigadores, los comités de ética y los responsables de la formulación de políticas a navegar tanto por las oportunidades como por los riesgos asociados con la investigación sanitaria relacionada con la IA.
El informe coloca a los comités de ética de la investigación (los órganos institucionales que revisan los estudios con participantes humanos) en el centro del marco de supervisión. Pero reconoce que estos comités pueden requerir experiencia, capacitación y recursos adicionales para revisar de manera efectiva estudios cada vez más complejos relacionados con la IA, que a menudo involucran modelos opacos, grandes conjuntos de datos y técnicas que quedan fuera de la capacitación tradicional de los revisores de ética.
Responsabilidad más allá del comité de ética
La publicación también enfatiza que la responsabilidad no termina en la puerta del comité de ética. Los propios investigadores, dice la OMS, tienen el deber de identificar y mitigar los riesgos éticos tempranamente, comunicarse de manera transparente y considerar las implicaciones sociales más amplias de las tecnologías de IA que construyen e implementan.
Más allá de los investigadores y comités individuales, el informe destaca el papel de los financiadores, las revistas científicas, los organismos de gobernanza de datos, las sociedades profesionales y las agencias reguladoras en la promoción de la investigación sanitaria responsable relacionada con la IA. En particular, sostiene que algunos desafíos sistémicos simplemente no pueden gestionarse únicamente mediante una revisión proyecto por proyecto, un reconocimiento de que el impacto de la IA en el ecosistema de investigación requiere respuestas estructurales a nivel institucional.
"La gobernanza eficaz de la IA en la investigación sanitaria requiere la colaboración entre disciplinas, sectores e instituciones", afirmó el Dr. Alain Labrique, director del Departamento de Datos, Análisis Digital de la Salud e Inteligencia Artificial de la OMS. "A medida que las tecnologías de IA continúan evolucionando rápidamente, necesitamos mecanismos de supervisión que sean ágiles, basados en evidencia y capaces de garantizar que la innovación siga siendo segura, confiable y beneficiosa para todos".
La dimensión de equidad
Una parte importante del informe aborda los desafíos y oportunidades en los países de ingresos bajos y medios. Si bien la IA tiene un potencial significativo para ayudar a abordar los persistentes desafíos de salud en estos entornos, la OMS señala que gran parte de la investigación y el desarrollo tecnológico de la IA actual siguen concentrados en los países de ingresos más altos.
Por lo tanto, según la organización, será fundamental fortalecer el liderazgo, la capacidad y la participación locales en la investigación sanitaria relacionada con la IA, tanto para garantizar que los beneficios de la IA se distribuyan de manera equitativa como para evitar la creación de nuevas formas de exclusión o inequidad en la ciencia de la salud global.
Un punto de partida, no una palabra final
Al reconocer la rapidez con la que avanza la tecnología, la OMS describe el informe como un punto de partida para fortalecer la supervisión ética en la era de la investigación sanitaria relacionada con la IA, y como base para el desarrollo de futuras normas, orientaciones y enfoques de gobernanza.
El informe llega en un momento en que los sistemas de salud de todo el mundo experimentan cada vez más con la IA para el diagnóstico, el descubrimiento de fármacos y la documentación clínica, lo que ejerce presión sobre las instituciones de investigación para que adapten sus procesos de revisión. El mensaje de la OMS a las instituciones es que la oportunidad para construir una supervisión competente es ahora, antes de que los hallazgos generados por la IA, los ensayos diseñados por la IA y los conjuntos de datos analizados por la IA se conviertan en la norma y no en la excepción.
El informe completo y los detalles del evento de lanzamiento virtual del lunes están disponibles a través de los canales oficiales de la Organización Mundial de la Salud.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
