À medida que os profissionais de todos os setores correm para adotar ferramentas de inteligência artificial, uma questão preocupante está a passar da especulação para o domínio da evidência medida: estamos a perder as competências que essas ferramentas deveriam ajudar?
Um relatório publicado na Nature conclui que os primeiros resultados já surgiram – e não são encorajadores. A dependência de sistemas baseados em IA está a começar a minar as capacidades dos médicos, engenheiros de software e outros trabalhadores qualificados, levantando questões urgentes sobre como preservar a experiência humana numa era de automação. Para mais contexto sobre esta história, confira nossa notícias de IA.
Médicos têm pior desempenho sem IA
Um dos exemplos mais claros vem da medicina. Um estudo realizado com médicos polacos especializados em endoscopia examinou o que acontece quando médicos experientes se habituam a um assistente de IA e depois perdem o acesso a ele.
Os médicos, que realizaram pelo menos 2.000 colonoscopias durante suas carreiras, receberam um sistema de IA que analisa imagens de colonoscopia em tempo real e sinaliza um tipo de lesão intestinal pré-cancerosa chamada adenoma. A ferramenta estava disponível em alguns dias, mas não em outros, criando uma experiência natural.
Os resultados foram nítidos. Durante o período de três meses antes da introdução da ferramenta de IA, os especialistas encontraram pelo menos um adenoma durante 28,4% das colonoscopias. Depois que a ferramenta foi introduzida, a taxa de detecção de adenoma para colonoscopias realizadas sem assistência de IA caiu para 22,4%.
Por outras palavras, quando os médicos começaram a confiar no sistema de IA, o seu próprio desempenho de diagnóstico diminuiu quando este não estava disponível. As descobertas foram publicadas em outubro passado no The Lancet Gastroenterology and Hepatology.
Os autores do estudo concluíram que a exposição contínua a tais ferramentas pode fazer com que os médicos se tornem “menos motivados, menos focados e menos responsáveis ao tomar decisões cognitivas sem a assistência da IA”.
Uma pesquisa mostra que a preocupação é generalizada
O medo da perda de competências não se limita a alguns estudos. Um inquérito aos profissionais de saúde dos EUA, publicado no início de Junho, concluiu que 70% dos enfermeiros e 77% dos médicos estão preocupados com a perda das suas competências devido à dependência excessiva dos sistemas de IA.
Essa ansiedade parece ser justificada pelos dados emergentes. À medida que mais profissionais integram a IA nos seus fluxos de trabalho diários, a lacuna entre o que podem fazer com a tecnologia e o que podem fazer sem ela pode aumentar.
Kevin Crowston, um cientista da informação da Universidade de Syracuse, enquadrou o desafio de forma clara: “O simples facto de estar consciente de que este fenómeno existe, esperançosamente, provoca alguma auto-reflexão sobre quais as competências que as pessoas querem manter e quais estão dispostas a subcontratar” para ferramentas de IA.
Engenheiros de software mostram padrões semelhantes
O efeito desqualificante não se limita à medicina. Para investigar se as competências estão a ser perdidas na ciência da computação, investigadores da empresa de IA Anthropic conceberam um ensaio clínico randomizado envolvendo 52 engenheiros de software.
Todos os participantes foram solicitados a realizar uma tarefa básica de codificação. Cada engenheiro poderia pesquisar na web e acessar instruções sobre como preenchê-lo. Metade também foi solicitada a usar um assistente de IA. O estudo, lançado como pré-impressão, foi projetado para isolar o efeito da assistência de IA na capacidade fundamental de codificação.
As descobertas somam-se a um conjunto crescente de evidências de que transferir o trabalho cognitivo de rotina para a IA pode enfraquecer as competências subjacentes que os profissionais antes desenvolviam através da prática repetida. Quando a IA faz o trabalho pesado, o praticante humano tem menos oportunidades de desenvolver e manter o domínio.
A mecânica da desqualificação
Os pesquisadores descrevem a desqualificação como um processo gradual. Quando uma ferramenta lida com uma tarefa de forma confiável, o envolvimento do trabalhador com a habilidade subjacente diminui. Com o tempo, os caminhos neurais e o julgamento aprimorados ao longo de anos de prática começam a desaparecer.
Na medicina, isto pode ser especialmente perigoso. Um médico que antes dependia de um julgamento visual aguçado para detectar tecidos suspeitos pode, após meses de assistência de IA, tornar-se dependente das instruções do sistema. Se o sistema falhar ou não estiver disponível, o desempenho do médico sem ajuda poderá não mais atender ao padrão de antes.
Yuichi Mori, médico-pesquisador da Universidade de Oslo e coautor do estudo de colonoscopia, alerta que as pessoas que usam ferramentas de IA devem estar cientes de que correm o risco de perder algumas de suas habilidades. “Não existe uma solução estabelecida contra a desqualificação neste momento”, disse ele. "Deve ser um tema de pesquisa muito quente na próxima década."
Por que o teste padrão não resolve o problema
Parte da dificuldade em abordar a desqualificação é que esta é invisível até que a IA seja removida. As métricas de desempenho parecem fortes quando a ferramenta está em uso, mascarando a erosão gradual da capacidade humana subjacente.
Isso cria um ciclo de feedback. Os trabalhadores têm melhor desempenho com IA, por isso a utilizam mais. Quanto mais eles usam, menos praticam a habilidade sem ajuda. No momento em que o declínio se torna aparente – quando a ferramenta é desligada, retirada de serviço ou substituída – a habilidade pode já ter atrofiado.
O fenómeno também levanta questões sobre como as organizações devem estruturar a formação e a avaliação. Se a competência profissional for cada vez mais medida enquanto a assistência da IA estiver ativa, as avaliações poderão exagerar o que os trabalhadores podem realmente fazer por si próprios.
Preservando a experiência humana
Investigadores e especialistas no local de trabalho estão agora a debater como preservar competências humanas importantes na era da IA. As soluções ainda não são claras, mas estão a surgir vários princípios.
Primeiro, a conscientização é importante. O simples reconhecimento de que a desqualificação pode ocorrer pode levar os indivíduos e as organizações a manterem deliberadamente a prática não assistida. Em segundo lugar, os profissionais podem precisar de fazer escolhas conscientes sobre quais competências manter em apuros e quais delegar. Nem todas as habilidades merecem ser preservadas com força total, mas algumas – especialmente aquelas ligadas à segurança, ao diagnóstico e ao julgamento crítico – claramente valem.
Terceiro, as organizações podem precisar redesenhar os fluxos de trabalho para que a IA aumente, em vez de substituir, o trabalho cognitivo central. Em vez de deixar a ferramenta pensar, a IA poderia ser posicionada como uma verificação do julgamento humano, exigindo que o profissional chegue a uma resposta antes de consultar o sistema.
Um desafio definidor para a era da IA
O relatório Nature deixa claro que a desqualificação já não é uma preocupação hipotética. A evidência, embora ainda precoce, é consistente em todos os campos: quando os humanos entregam o trabalho cognitivo à IA, as competências subjacentes podem enfraquecer.
Para os milhões de profissionais que agora integram a IA nas suas rotinas diárias, os riscos são pessoais e sociais. Um cirurgião que perde a habilidade para detectar um tumor, um engenheiro que se esquece de como depurar sem um assistente, uma enfermeira cuja intuição clínica se enfraquece – estes não são riscos abstratos.
Como observou Mori, ainda não existe uma solução estabelecida. Mas o primeiro passo, concordam os investigadores, é levar a ameaça a sério. Os primeiros resultados já chegaram e são um aviso: as ferramentas concebidas para nos tornar melhores podem, se usadas de forma descuidada, deixar-nos menos capazes do que antes.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
