A Suprema Corte do Novo México sancionou um advogado por entrar com um recurso de assassinato baseado em testemunhas que nunca existiram – fabricado no atacado pelo ChatGPT – em um dos exemplos mais flagrantes de “alucinações” de inteligência artificial que atingiram o coração do sistema de justiça americano.

De acordo com um relatório da Reuters, o mais alto tribunal do estado multou o advogado de Santa Fé, Stephen Aarons, em US$ 5.000 e o considerou por desacato por não ter “verificado as alegações factuais e a autoridade legal em seu relatório gerado por IA”. A petição, apresentada como parte de um recurso contra a condenação por homicídio do seu cliente, “continha falsos testemunhos de testemunhas totalmente inventadas”, juntamente com falsas alegações sobre as roupas e a aparência do atirador. Para obter mais contexto sobre esta história, consulte nossas notícias de última hora sobre IA.

O que o tribunal descobriu

O processo do tribunal não descreveu pequenas imprecisões. Descreveu um documento de recurso que evocava pessoas do nada: depoimentos atribuídos a testemunhas que não existem, e inventou declarações policiais sobre o que o atirador vestia e qual era a aparência do atirador – precisamente o tipo de detalhe factual que uma condenação por homicídio pode revelar.

De acordo com The Verge, que informou sobre o processo judicial, a sanção foi imposta porque Aarons não conseguiu “verificar as reivindicações factuais e a autoridade legal em seu documento gerado por IA” antes de submetê-lo ao tribunal. Em outras palavras, o problema não era que um advogado usasse uma ferramenta de IA para ajudar na redação. Acontece que o advogado apresentou a produção sem verificar uma única reclamação forjada com o registro real do julgamento.

"Conselheiro, você assiste às notícias?"

A natureza extraordinária do caso veio à tona numa audiência em agosto, onde Aarons admitiu ter usado o ChatGPT e disse ao tribunal que esperava que o chatbot produzisse um “resumo à prova de balas” do julgamento. Essa expectativa atraiu uma resposta incisiva do juiz da Suprema Corte do Novo México, C. Shannon Bacon.

"Advogado, você assiste ao noticiário? Você ouve rádio? Você lê alguma coisa sobre o que está acontecendo no mundo?" Bacon perguntou, de acordo com a Reuters. “Porque o problema com os advogados que dependem de alucinações de IA é uma história acima da dobra todos os dias.”

A repreensão do juiz capturou até que ponto as citações e depoimentos fabricados por IA passaram de um problema técnico de nicho para uma responsabilidade profissional convencional – algo que os juízes agora presumem que todo advogado em exercício deveria conhecer.

O mais recente de uma série de sanções contra IA

O caso do Novo México é o mais recente de uma lista crescente de tribunais que punem advogados pelo uso não controlado de IA. No ano passado, um juiz criticou dois escritórios de advocacia por apresentarem um documento contendo "numerosas citações e citações legais falsas, imprecisas e enganosas", enquanto os advogados que representam o fundador do MyPillow, Mike Lindell, também foram multados por incluir citações incorretas geradas por IA e citações falsas em um processo judicial, observou The Verge.

O que diferencia a sanção do Novo México é o material que foi fabricado. A maioria dos casos anteriores envolvia citações legais inventadas – precedentes falsos, citações falsas de casos reais. Aqui, a invenção foi para os próprios fatos: testemunhas, depoimentos e descrições de evidências físicas em um recurso criminal. Essa distinção é importante, porque a fabricação de factos num caso de homicídio atinge o cerne daquilo que a revisão de recurso existe para proteger.

A linha de tendência é inconfundível. Como observou o The Verge, à medida que aumenta o número de advogados que utilizam ferramentas de IA no seu trabalho, também aumentam os casos em que um tribunal descobre citações que são fabricadas – ou alucinadas – pela IA. O que antes era tratado como um descuido embaraçoso é cada vez mais punido como uma falha de competência profissional, com multas, decisões por desacato e escrutínio por parte das autoridades disciplinares.

"Estou arrependido"

Aarons, por sua vez, disse à Reuters que espera que as consequências não cheguem à disciplina profissional. “Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto”, disse ele em comunicado.

Ainda não se sabe se o conselho disciplinar o trata como um erro honesto, mas o mais alto tribunal do estado já deixou clara a sua opinião: uma multa de 5.000 dólares e uma detenção por desacato a um documento que nunca foi verificado face à realidade.

Por que é importante

O caso chega à medida que os tribunais de todo o país endurecem as suas posições sobre o uso da IA ​​em litígios. Os juízes têm exigido cada vez mais que os advogados certifiquem que os registros gerados pela IA foram verificados, e as sanções tornaram-se o mecanismo de aplicação visível. A mensagem do Supremo Tribunal do Novo México provavelmente viajará muito além das suas fronteiras: o dever de verificação é pessoal, indelegável e não desaparece porque um chatbot produziu uma prosa que soava confiante.

Para a profissão jurídica, o cálculo está mudando. As ferramentas de elaboração de IA podem poupar horas de trabalho, mas uma única testemunha forjada num documento apresentado pode agora custar uma multa, uma decisão por desacato e um encaminhamento para autoridades disciplinares – uma profissão que poucos profissionais considerarão atraente. Para todos os outros, o caso é um lembrete de que as pessoas que deveriam verificar os resultados da IA ​​estão sob mais pressão do que nunca para realmente verificá-los.

Os riscos são maiores em casos criminais. Sanções sobre citações falsas desperdiçam tempo judicial; as provas fabricadas em um recurso de homicídio afetam o mecanismo que decide se uma condenação é válida. Um tribunal de recurso só pode avaliar reivindicações ancoradas no registo real – e um documento semeado com testemunhas fantasmas pede aos juízes que decidam sobre acontecimentos que nunca aconteceram.

---

Fique à frente da IA

Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.

Leia mais notícias sobre IA →