Quando você conversa pessoalmente com um amigo, você pode vê-lo, ouvi-lo, apertar sua mão. Quando você fala com um modelo de IA, você não tem quase nenhuma dessas garantias. A nova pesquisa da Anthropic visa exatamente essa lacuna: a empresa publicou progressos em provas criptográficas de inferência, incluindo um sistema chamado FlashProve que pode provar – matematicamente, não contratualmente – que uma resposta realmente veio do modelo que afirma ser.
O problema que o FlashProve aborda é silenciosamente estrutural. Um usuário que consulta um modelo hoje não pode verificar se as respostas vieram do modelo específico que um desenvolvedor afirma estar respondendo, em oposição a um modelo substituído secretamente por um serviço de roteamento por razões de custo, ou mesmo por um invasor que violou o fluxo de tokens. Julgar apenas pelo resultado não é confiável, mesmo que as respostas pareçam excelentes. Em um setor onde a mesma janela de bate-papo pode direcionar silenciosamente para um modelo mais barato sob carga, isso não é uma preocupação hipotética – é o modelo de confiança padrão. Para obter mais cobertura de trabalhos como este, consulte nossas notícias de pesquisa de IA.
Por que a inferência comprovável é difícil
O objetivo da inferência demonstrável é permitir que um usuário com recursos computacionais limitados — e sem acesso aos pesos privados de um modelo — verifique se uma determinada resposta foi genuinamente produzida por esse modelo. A abordagem óbvia, reexecutar o modelo você mesmo, é um fracasso: os pesos dos modelos de fronteira são mantidos em sigilo, e verificar uma resposta em relação a eles exigiria computação muito além do que um usuário típico, ou mesmo um avaliador bem financiado, pode pagar.
A abordagem da Anthropic baseia-se nos zkSNARKs, uma família de provas de conhecimento zero com fortes propriedades de ocultação e eficiência que os tornam exclusivamente adequados para a tarefa. Um provedor se compromete com um modelo uma vez e, em seguida, gera uma prova compacta para cada resposta de que a resposta foi computada pelo modelo confirmado — enquanto as próprias provas ocultam os pesos do modelo. Ocultar a arquitetura não é um objetivo do sistema; esconder os pesos é.
Os Números
Os números de eficiência na postagem são o núcleo técnico da história, porque a geração de provas para grandes modelos tem sido historicamente muito lenta para ter importância. Para o Llama 4 Maverick, um modelo de mistura de especialistas de 400 bilhões de parâmetros, uma única GPU NVIDIA H100 gera provas a cerca de 110 tokens por segundo, com um tamanho de prova de aproximadamente 19 MB por solicitação de 1.024 tokens, usando pesos quantizados de 4 bits e aritmética inteira no pré-preenchimento.
Essa velocidade tem um custo: a geração de provas leva cerca de 70 a 95 vezes o tempo de GPU simplesmente executando o próprio modelo no vLLM, uma biblioteca de inferência de código aberto amplamente usada. Caro, em outras palavras – mas pela primeira vez na mesma ordem de grandeza do que está sendo comprovado e, de acordo com a Anthropic, substancialmente mais rápido do que os sistemas de código aberto anteriores, que ficam atrás em ordens de grandeza.
Claude construiu - e o Lean audita as reivindicações
Há uma segunda história dobrada dentro da primeira. De acordo com a postagem, o próprio Claude produziu melhorias nos zkSNARKs para inferência, encontrando novas maneiras de aplicar ferramentas de última geração da literatura de criptografia e segurança, ao mesmo tempo em que confiava em princípios de design bem estabelecidos para sistemas de prova criptográfica.
A Anthropic é franca sobre o risco que acompanha esse fluxo de trabalho: Claude é bom em otimização, mas muitas vezes toma decisões que são difíceis de avaliar, especialmente em grandes sistemas complexos. A contramedida é a verificação formal. A empresa fornece declarações auditáveis de alto nível em Lean, uma linguagem de verificação formal, para as garantias de segurança reivindicadas – matemática verificada por máquina que fica entre as otimizações inteligentes de uma IA e os usuários que precisam confiar nelas.
A pilha completa está sendo lançada sob a licença Apache 2.0: a postagem no blog, um relatório técnico explicando os detalhes do sistema, uma descrição do protocolo, código executável incluindo um provador e dois verificadores - um verificador rápido em C++ e um verificador comprovadamente correto em Lean - além das próprias provas Lean e um visualizador interativo para auxiliar na auditoria.
Da conformidade aos tratados de ritmo de IA
Os esboços antrópicos usam casos que vão do rotineiro ao geopolítico. Avaliadores independentes que testam modelos de IA antes e depois do lançamento precisam saber se o modelo que estão avaliando é o modelo que está sendo servido. Os clientes que acessam um modelo por meio de um serviço de roteamento de terceiros desejam ter certeza de que os tokens vieram do modelo pelo qual pagaram. E no cenário de segurança, um ciberataque que modifica o fluxo de tokens enquanto se faz passar por um determinado modelo torna-se detectável de uma forma que a inspeção de saída por si só nunca conseguirá alcançar.
A aplicação mais ambiciosa mencionada no post é a verificação da conformidade com os requisitos de ritmo da IA – a classe emergente de acordos, voluntários e governamentais, que tentam controlar a rapidez com que as capacidades fronteiriças avançam. Hoje, esses compromissos baseiam-se na confiança e na papelada. As provas criptográficas de inferência oferecem algo mais próximo da inspeção: uma forma de demonstrar, em vez de afirmar, qual modelo está atendendo a uma determinada carga de trabalho.
Os investigadores são explícitos que se trata de um progresso intermédio, e não de uma agenda de investigação concluída, e estão a publicar com o objectivo declarado de que outros assumam o trabalho e o melhorem. Esse enquadramento é em si um sinal: a inferência comprovável passou de uma experiência mental de seminário de criptografia para um problema de engenharia que um laboratório de fronteira está agora a competir abertamente para tornar barato o suficiente para ser implementado.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
