A Organização Mundial da Saúde publicou na segunda-feira um novo relatório apelando a salvaguardas éticas mais fortes e à supervisão da inteligência artificial na investigação em saúde, alertando que os mecanismos de revisão existentes nem sempre estão equipados para lidar com os novos riscos que a IA introduz na ciência médica.

O relatório, intitulado “Investigação em saúde relacionada com a Inteligência Artificial: revisão e supervisão ética”, oferece recomendações para investigadores, comités de ética, reguladores, financiadores e decisores políticos sobre como garantir que a investigação em saúde baseada na IA seja conduzida de forma responsável. Foi desenvolvido em conjunto por especialistas da OMS que trabalham em ética em pesquisa, ciência, saúde digital e inteligência artificial, e foi lançado juntamente com um evento virtual na segunda-feira. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.

De acordo com a OMS, a inteligência artificial está a remodelar rapidamente a forma como a investigação em saúde é conduzida – mudando a forma como os dados de saúde são analisados, a forma como os estudos são concebidos e a forma como as novas tecnologias são desenvolvidas e avaliadas. Mas a organização adverte que, sem salvaguardas robustas, a investigação relacionada com a IA poderá introduzir riscos que prejudicam os direitos humanos, a equidade e a confiança pública.

O que o novo relatório da OMS cobre

O relatório identifica três grandes categorias de investigação em saúde relacionada com a IA: investigação relacionada com a saúde que utiliza a IA para analisar dados, investigação que utiliza ferramentas e tecnologias de IA e investigação relacionada com a saúde conduzida nas próprias ferramentas e tecnologias de IA.

Para cada categoria, a publicação examina como a supervisão ética pode ser reforçada ao longo de todo o ciclo de vida da investigação — desde a concepção do estudo e revisão ética até à publicação, regulamentação e implementação no mundo real.

A OMS alerta que os mecanismos existentes de supervisão ética “podem nem sempre estar equipados” para lidar com os riscos específicos que a IA traz para o processo de investigação, incluindo questões relacionadas com a transparência, preconceito, justiça, responsabilização, privacidade e potenciais danos decorrentes da rápida implantação de ferramentas habilitadas para IA.

Por que as estruturas de revisão existentes estão sob pressão

“A inteligência artificial está a criar oportunidades sem precedentes para acelerar a investigação em saúde e melhorar a vida das pessoas”, disse a Dra. Meg Doherty, Diretora do Departamento de Ciência para a Saúde da OMS, no anúncio. “Ao mesmo tempo, a inovação deve ser guiada por fortes salvaguardas éticas que protejam a dignidade humana, os direitos e a equidade.”

Doherty descreveu o relatório como fornecendo “considerações práticas” para ajudar investigadores, comités de ética e decisores políticos a navegar tanto pelas oportunidades como pelos riscos associados à investigação em saúde relacionada com a IA.

O relatório coloca os comités de ética na investigação – os órgãos institucionais que analisam estudos que envolvem participantes humanos – no centro do quadro de supervisão. Mas reconhece que estes comités podem exigir conhecimentos, formação e recursos adicionais para analisar eficazmente estudos cada vez mais complexos relacionados com a IA, que muitas vezes envolvem modelos opacos, grandes conjuntos de dados e técnicas que estão fora da formação tradicional dos revisores de ética.

Responsabilidade além do comitê de ética

A publicação ressalta ainda que a responsabilidade não para na porta do comitê de ética. Os próprios investigadores, afirma a OMS, têm o dever de identificar e mitigar os riscos éticos precocemente, comunicar de forma transparente e considerar as implicações sociais mais amplas das tecnologias de IA que constroem e implementam.

Para além dos investigadores e comités individuais, o relatório destaca o papel dos financiadores, das revistas científicas, dos órgãos de governação de dados, das sociedades profissionais e das agências reguladoras na promoção da investigação responsável em saúde relacionada com a IA. Nomeadamente, argumenta que alguns desafios sistémicos simplesmente não podem ser geridos apenas através da revisão projeto a projeto — um reconhecimento de que o impacto da IA ​​no ecossistema de investigação requer respostas estruturais a nível institucional.

“A governação eficaz da IA ​​na investigação em saúde requer colaboração entre disciplinas, setores e instituições”, afirmou o Dr. Alain Labrique, Diretor do Departamento de Dados, Análise Digital de Saúde e Inteligência Artificial da OMS. “À medida que as tecnologias de IA continuam a evoluir rapidamente, precisamos de mecanismos de supervisão que sejam ágeis, baseados em evidências e capazes de garantir que a inovação permaneça segura, confiável e benéfica para todos.”

A dimensão da equidade

Uma parte significativa do relatório aborda desafios e oportunidades em países de baixo e médio rendimento. Embora a IA tenha um potencial significativo para ajudar a enfrentar os desafios de saúde persistentes nestes contextos, a OMS observa que grande parte da investigação e do desenvolvimento tecnológico actuais em IA continua concentrada nos países de rendimento mais elevado.

Reforçar a liderança local, a capacidade e a participação na investigação em saúde relacionada com a IA será, portanto, fundamental, argumenta a organização - tanto para garantir que os benefícios da IA ​​são distribuídos de forma equitativa como para evitar a criação de novas formas de exclusão ou desigualdade na ciência da saúde global.

Um ponto de partida, não uma palavra final

Reconhecendo a rapidez com que a tecnologia está a evoluir, a OMS descreve o relatório como um ponto de partida para reforçar a supervisão ética na era da investigação em saúde relacionada com a IA, e como base para o desenvolvimento de futuras normas, orientações e abordagens de governação.

O relatório chega num momento em que os sistemas de saúde em todo o mundo estão a experimentar cada vez mais a IA para diagnóstico, descoberta de medicamentos e documentação clínica, pressionando as instituições de investigação para adaptarem os seus processos de revisão. A mensagem da OMS para as instituições é que a janela para construir uma supervisão competente é agora – antes que as descobertas geradas pela IA, os ensaios concebidos pela IA e os conjuntos de dados analisados ​​pela IA se tornem a norma e não a excepção.

O relatório completo e os detalhes do evento virtual de lançamento de segunda-feira estão disponíveis nos canais oficiais da Organização Mundial da Saúde.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →