Utah se tornou o primeiro estado dos EUA onde um sistema de inteligência artificial pode examinar pacientes e prescrever medicamentos sem que um médico aprove diretamente cada decisão. O programa, construído em torno da startup de dermatologia Nolla Health, foi ao ar esta semana e imediatamente atraiu a atenção nacional, com o Seattle Times resumindo o marco sem rodeios: a IA substituiu um médico prescritor pela primeira vez – para tratar a acne.
O projecto-piloto é deliberadamente limitado, mas o seu significado regulamentar não o é. Durante anos, a IA na medicina foi posicionada como um auxiliar que redige notas ou sinaliza descobertas para um clínico humano assinar. O acordo de Utah elimina essa aprovação para uma classe definida de pacientes, tornando-se o teste mais claro até agora para saber se reguladores, médicos e pacientes aceitarão um algoritmo como parte da prescrição. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.
Como funciona o piloto da Nolla Health
O programa é executado por meio do aplicativo Nolla Health, que custa US$ 4,99 por mês e é limitado a pacientes com acne leve a moderada. A janela de tratamento é de um ano.
O paciente começa escaneando seu rosto com o aplicativo e preenchendo um histórico médico e um formulário de informações pessoais. A IA então analisa as imagens da pele, avalia a oleosidade e gera uma pontuação numérica de gravidade da acne que varia de pele clara a acne grave, de acordo com o relatório do TechSpot sobre o lançamento.
Essa pontuação é combinada com as informações médicas do paciente para produzir uma recomendação de prescrição extraída de uma lista de oito tratamentos aprovados. Todos os oito são medicamentos tópicos e não pílulas, uma restrição que mantém fora de questão as classes mais perigosas de efeitos colaterais.
O CEO da Nolla Health, Luis Wenus, disse que os efeitos adversos associados aos oito medicamentos aprovados estão limitados à irritação ou secura localizada da pele – um perfil de risco materialmente mais baixo do que os medicamentos sistêmicos, e uma das razões pelas quais os reguladores estavam aparentemente dispostos a deixar a IA operar com supervisão reduzida.
Uma eliminação gradual em três fases da revisão humana
O que torna o programa de Utah notável não é a tarefa de diagnóstico da IA, que é delimitada e visual, mas a retirada programada do médico do circuito.
Na primeira fase, as primeiras 100 receitas ainda devem ser analisadas pelos próprios médicos antes de serem submetidas à farmácia. Na segunda fase, os próximos 400 pacientes têm suas receitas submetidas às farmácias pela própria IA, com um médico revisando-as retrospectivamente semanalmente. Na fase final, um médico analisa pelo menos 10% de todas as prescrições emitidas, verificadas uma vez por mês.
No final do piloto, uma receita pode viajar da câmera de um smartphone para uma farmácia sem qualquer revisão humana prospectiva – apenas amostragem estatística após o fato. A abordagem de Utah trata eficazmente as prescrições como resultados de um processo de controlo de qualidade, em vez de decisões clínicas individuais, uma mudança estrutural que os comentadores médicos há muito alertam que ocorreria mais rapidamente do que muitos esperavam.
Por que acne e por que Utah
A acne é, em muitos aspectos, o campo de provas ideal para a prescrição autônoma. É visualmente diagnosticável, crônico e não fatal, e tratado com um formulário pequeno e bem caracterizado. O risco negativo de uma escolha errada dentro da lista aprovada é baixo e em grande parte reversível, que é precisamente o que um regulador precisa ao conceber uma experiência limitada.
Enquanto isso, Utah passou os últimos anos se posicionando como um dos governos estaduais mais avançados em IA do país. A Bloomberg Law informou anteriormente que o estado estava avaliando seu piloto de prescrição de "médico de IA" contra preocupações de supervisão, e meios de comunicação locais, incluindo o TechBuzz News, descreveram uma iniciativa pró-humana de IA que recentemente adicionou um pilar de saúde com avaliadores independentes nomeados. A publicação comercial STAT informou que Utah está avançando com pilotos adicionais de IA de saúde cobrindo prescrições e saúde da mulher, enquanto MobiHealthNews confirmou o lançamento da Nolla Health em Utah esta semana.
Em outras palavras, o piloto da acne não é uma façanha isolada. É a peça mais visível de uma estratégia deliberada a nível estatal para avançar primeiro na IA médica autónoma e construir a infra-estrutura de avaliação em torno dela.
O debate sobre supervisão
Os defensores da segurança do paciente levantaram preocupações familiares. A revisão retrospectiva das prescrições significa que os erros são detectados depois que o paciente já recebeu o medicamento, e não antes. As janelas de amostragem semanais e mensais deixam espaço para que erros sistemáticos – do tipo que afetam categorias inteiras de pacientes – se repitam antes que um ser humano perceba.
Há também a questão do precedente. Se a prescrição autônoma for aceita para acne, o argumento para estendê-la a outras condições visualmente diagnosticáveis e vinculadas a formulários – conjuntivite, certas erupções cutâneas, tratamentos antifúngicos – é válido. Cada extensão seria individualmente defensável, enquanto coletivamente moveria a medicina em direção a um modelo onde o algoritmo é o prescritor padrão e o médico é o auditor.
O desconforto da comunidade médica é agravado por um registo mais amplo de consumidores que dependem de chatbots de uso geral para aconselhamento médico com resultados prejudiciais, casos que as próprias empresas de IA têm lutado para restringir. Um sistema desenvolvido especificamente com um formulário fixo e uma rubrica de pontuação definida é um artefato muito diferente de um chatbot aberto, mas o público tende a arquivar ambos na mesma categoria mental.
O que vem a seguir
A janela de um ano do piloto significa que Utah terá dados reais sobre prescrição autônoma muito antes que a maioria dos estados tenha sequer elaborado uma posição sobre a questão. Os números que importam são as taxas de erro em cada fase, os resultados dos pacientes nas cerca de 500 prescrições supervisionadas e se o sistema de revisão retrospectiva realmente detecta os erros que foi concebido para detectar.
Por enquanto, o programa continua sendo o que seus projetistas pretendiam: um experimento pequeno e cuidadosamente protegido. Mas a direção da viagem é inconfundível, e Utah acaba de se tornar a primeira jurisdição nos Estados Unidos a descobrir o que acontece quando o bloco de receitas é um algoritmo.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
