Mesmo a última geração de modelos de IA com capacidade de raciocínio reproduz estereótipos raciais e de género quando questionados sobre cenários médicos, de acordo com uma nova investigação de cientistas australianos. As descobertas, divulgadas em 7 de agosto de 2026, são um lembrete preocupante de que o aumento da inteligência do modelo não elimina automaticamente os preconceitos sistêmicos incorporados nos dados de treinamento. Para saber mais notícias de última hora sobre IA sobre a interseção entre inteligência artificial e equidade na saúde, o estudo levanta questões urgentes sobre a implantação dessas ferramentas em ambientes clínicos.

Testando a próxima geração de modelos de raciocínio

Os pesquisadores perguntaram a dois grandes modelos de linguagem de raciocínio da próxima geração, o3-mini e DeepSeek-R1 da OpenAI, sobre pacientes fictícios para avaliar se os modelos mais recentes superaram os preconceitos bem documentados de seus antecessores. Os modelos de raciocínio, que gastam computação adicional "pensando" nos problemas antes de responder, são geralmente considerados mais capazes do que os chatbots padrão em tarefas complexas. A suposição é que esta capacidade adicional também poderia torná-los mais confiáveis ​​em domínios sensíveis como a medicina.

Os resultados sugerem o contrário. O estudo descobriu que ambos os modelos reproduziam estereótipos raciais e de género quando apresentados a cenários clínicos, indicando que o salto das arquitecturas padrão para as arquitecturas de raciocínio não resolveu o problema fundamental dos dados de formação tendenciosos.

Um problema persistente entre gerações

As descobertas são consistentes com um crescente conjunto de evidências de que o preconceito médico na IA é teimosamente persistente. Uma revisão sistemática da literatura publicada na Nature em abril de 2026 examinou preconceito, representação e fidelidade clínica em imagens geradas por IA usadas para educação médica. Essa análise revelou uma sub-representação generalizada de certos grupos demográficos e representações estereotipadas quando estes apareciam.

Em maio de 2026, The Lancet publicou uma revisão do escopo das métricas de justiça para modelos de previsão clínica baseados em IA. Essa análise concluiu que, embora os investigadores tenham proposto numerosos quadros matemáticos para medir a justiça, as métricas são aplicadas de forma inconsistente nos estudos, tornando difícil avaliar se estão a ser feitos progressos reais.

O estudo australiano acrescenta uma nova dimensão ao concentrar-se especificamente em modelos de raciocínio, a categoria de IA que muitos acreditavam que seria mais robusta contra preconceitos devido à sua abordagem estruturada de resolução de problemas.

Por que o raciocínio não elimina preconceitos

A persistência de preconceitos nos modelos de raciocínio aponta para uma questão estrutural na forma como estes sistemas aprendem. Grandes modelos de linguagem são treinados em vastos corpora de texto, muitos dos quais refletem os preconceitos, estereótipos e desigualdades presentes no mundo real. A própria literatura médica historicamente super-representa os pacientes brancos do sexo masculino em ensaios clínicos e sub-representa as mulheres e as minorias raciais.

Os modelos de raciocínio melhoram o desempenho em problemas lógicos e de múltiplas etapas, gerando etapas de raciocínio intermediárias, mas essas etapas de raciocínio ainda são produzidas pelo mesmo modelo subjacente treinado nos mesmos dados. Se o modelo tiver aprendido associações entre determinados grupos demográficos e certas condições médicas ou traços de personalidade, ele poderá reproduzir essas associações mesmo enquanto “raciocina” através de um cenário clínico.

Isto significa que a fidelidade clínica de um modelo, a sua capacidade de produzir resultados médicos precisos e equitativos, depende não apenas da arquitetura do raciocínio, mas da representatividade e da qualidade dos dados nos quais foi treinado.

O que está em jogo para a IA na área da saúde

As descobertas chegam num momento em que a IA está a ser rapidamente incorporada na infraestrutura de saúde. Hospitais e sistemas de saúde estão implantando IA para tarefas que vão desde documentação clínica e análise de imagens médicas até triagem de pacientes e recomendação de tratamento. A rede HCPLive relatou em agosto de 2026 preocupações de que a IA poderia piorar as disparidades nos cuidados de saúde se modelos tendenciosos fossem implementados sem supervisão adequada.

Se os modelos de raciocínio ainda reproduzem estereótipos sobre raça e género quando questionados sobre os pacientes, o risco é que estas ferramentas possam reforçar as disparidades existentes no diagnóstico, nas recomendações de tratamento e na comunicação com os pacientes. Um modelo que associe sistematicamente certas condições a determinados grupos demográficos, ou que trate os pacientes de forma diferente com base na raça ou no género, poderia causar danos reais em ambientes clínicos.

A Eurasia Review, que relata o estudo, observou que a persistência do preconceito ao longo das gerações de modelos sugere que a abordagem da indústria da IA ​​para lidar com o preconceito médico pode necessitar de mudar de melhorias na arquitectura do modelo para a governação de dados e a equidade representacional.

O que precisa mudar

A pesquisa aponta diversas mudanças necessárias. Em primeiro lugar, os dados de formação para a IA médica devem ser auditados quanto à equidade representacional, garantindo que as mulheres, as minorias raciais e outros grupos sub-representados sejam adequadamente refletidos. Em segundo lugar, os testes de imparcialidade devem ser um passo obrigatório antes da implantação da IA ​​em ambientes clínicos, e não uma reflexão tardia. Terceiro, a comunidade médica precisa de parâmetros de referência padronizados para avaliar se os modelos tratam os pacientes de forma equitativa em todos os grupos demográficos.

A conclusão da revisão do âmbito da Lancet de que as métricas de justiça são aplicadas de forma inconsistente destaca a necessidade de quadros de avaliação padronizados. Sem acordo sobre como medir o preconceito, é impossível responsabilizar os criadores de IA ou acompanhar se estão a ser feitos progressos.

Um pedido de cautela

O estudo australiano serve de alerta contra a suposição de que modelos mais capazes sejam inerentemente mais seguros. À medida que os modelos de raciocínio se tornam o padrão para aplicações de alto risco na medicina, no direito e nas finanças, as conclusões do preconceito médico sugerem que a capacidade bruta e a equidade são problemas separados que requerem soluções distintas.

Para as organizações de saúde que consideram a implantação de IA, a mensagem é clara: mesmo os modelos de raciocínio mais avançados disponíveis atualmente podem reproduzir estereótipos prejudiciais, e esse risco deve ser gerido ativamente através de testes, supervisão e um compromisso com dados equitativos.

Fique à frente da IA

À medida que a IA se integra nos cuidados de saúde, compreender as suas limitações é tão importante como celebrar as suas capacidades. Para acompanhar os mais recentes desenvolvimentos de IA em pesquisa médica, segurança de modelos e tecnologia de saúde, siga nossa cobertura da indústria de IA.

Leia mais notícias sobre IA →