Representantes da OpenAI e Meta Platforms disseram a um painel judicial federal na quinta-feira que os deepfakes gerados por IA se tornaram tão avançados que a verificação da autenticidade das evidências de áudio e vídeo no tribunal ficará mais difícil, informou a Reuters.

Os especialistas em tecnologia apresentaram suas preocupações em uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA — o órgão responsável por recomendar mudanças nas regras federais que regem quais provas os tribunais podem admitir. O comité tem trabalhado desde 2023 sobre como abordar os riscos de provas fabricadas geradas por IA nos tribunais. Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.

AI Labs afirma que a detecção não tem futuro científico

Shira Anderson, conselheira política da OpenAI, disse ao comitê que as imagens de IA continuam a melhorar em qualidade e disse que não acredita que exista um método científico para detectá-las no futuro – uma admissão surpreendente de uma empresa que constrói os sistemas generativos que produzem esse conteúdo.

Devin Norder, diretor de gerenciamento de produtos da Meta, disse ao painel que a mídia criada por modelos recentes de IA não pode ser distinguida pelos humanos do conteúdo autêntico e que a criação de tal mídia agora requer custo e tempo mínimos.

Ambas as empresas desenvolveram ferramentas de proveniência e verificação para conteúdo visual, e novas leis na Califórnia e na União Europeia exigem marcas d’água em mídias geradas por IA. Mas Anderson alertou o comitê que cada empresa usa seu próprio sistema, o que significa que não existe um método universal para detectar com segurança todas as marcas d'água ou verificar a autenticidade do conteúdo visual em todo o ecossistema.

Os tribunais ainda não sentiram a onda

O presidente do comitê, o juiz distrital dos EUA Jesse Furman, de Manhattan, ofereceu um contrapeso ao alarme: embora os comentários acadêmicos prevejam que os tribunais lidarão com deepfakes, a questão ainda não apareceu com frequência em casos reais.

Uma pesquisa realizada pelo Centro Judiciário Federal em março ressaltou essa lacuna. Apenas 15 dos 931 juízes que responderam encontraram um caso em que uma parte contestou as provas alegando que eram falsas.

Essa lacuna entre a previsão e a prática é o dilema central do comité. De acordo com as Regras Federais de Provas 901 e 902, o padrão existente para autenticar provas é - como o próprio relatório do comitê colocou - suave: uma parte precisa apenas produzir provas suficientes para apoiar a conclusão de que o item é o que o proponente afirma ser. Os Deepfakes testam esse padrão, porque os caminhos tradicionais para autenticar gravações (depoimento de testemunhas, documentação do sistema) pressupõem que a falsificação em grande escala é difícil, cara e detectável.

Os próprios relatórios do comitê enquadraram o problema com uma franqueza incomum. O seu relatório de dezembro de 2025 examinou o que acontece quando um vídeo ou áudio oferecido em julgamento é um deepfake, concluindo que representa um desafio direto aos requisitos de autenticidade ao abrigo das Regras 901 e 902, precisamente porque o padrão de autenticidade existente é moderado. Como – e se – reforçar esse padrão é a questão que o comité tem vindo a debater há três anos, e torna-se mais urgente se, como alertaram os representantes do laboratório, a ciência da detecção nunca alcançar a ciência da geração.

O que os profissionais podem fazer agora

Até que as regras mudem, o fardo prático recai sobre os litigantes e os juízes de primeira instância. As ferramentas de proveniência – credenciais de conteúdo criptográfico incorporadas no momento da criação – estão se espalhando por meio de aplicativos de câmera e software criativo, embora só ajudem a mídia que as transporta. O interrogatório sob juramento da pessoa que capturou uma gravação, as exigências de descoberta de arquivos originais e metadados de geração e um exame mais minucioso de clipes sem fontes que circulam em plataformas sociais são as defesas atuais. A mensagem do comité consultivo esta semana foi efectivamente que estas soluções provisórias precisarão de uma base formal ao nível das regras, porque as informais assumem uma detectabilidade que a OpenAI e a Meta dizem que já não existe.

Por que o testemunho dos laboratórios é importante

Vale ressaltar que são as empresas cujos produtos geram o risco que alertam o Judiciário sobre isso. A OpenAI e a Meta têm interesses comerciais e de reputação diretos na forma como as regras se aplicam: requisitos rigorosos de autenticação podem impor atritos nas utilizações legítimas dos meios de IA, enquanto os frouxos podem tornar as suas ferramentas vetores de fraude nos tribunais. A sua mensagem ao comité foi efectivamente que os padrões de proveniência – marcas de água, credenciais de conteúdo, documentação da cadeia de custódia – são o caminho viável, porque a detecção por si só não será escalonável.

Espera-se que a revisão de três anos do comitê informe se as regras federais de evidências precisam de alterações para a era da IA. Qualquer mudança passaria pelo processo de regulamentação da Conferência Judicial, incluindo comentários públicos, antes de ir ao Congresso.

O quadro regulatório mais amplo

A audiência ocorre em meio a uma explosão de atividades políticas relacionadas ao deepfake. A Califórnia e a UE promulgaram mandatos de marca d’água. A Dinamarca avançou com legislação que proíbe o compartilhamento de deepfakes de IA sem consentimento. Os tribunais dos EUA já viram invenções geradas por IA surgirem em processos, e os juízes sancionaram advogados por enviarem citações falsas geradas por chatbots.

Por enquanto, o judiciário federal está optando por um estudo cuidadoso em vez de mudanças rápidas nas regras. Mas o testemunho das empresas que desenvolvem a tecnologia sugere que a própria indústria não espera que as ferramentas de detecção acompanhem o ritmo – o que transfere a carga para os padrões de proveniência, salvaguardas processuais como requisitos de testemunho ao vivo e, em última análise, o julgamento dos juízes e júris sobre em que acreditar.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →