O Google DeepMind anunciou em 27 de agosto o que chama de primeira avaliação duplo-cega do mundo de um modelo proprietário de IA de classe de fronteira – uma configuração criptográfica projetada para permitir que especialistas externos testem os modelos do Google sem que nenhum dos lados veja os segredos do outro.
O piloto, descrito em uma postagem no blog DeepMind por William Isaac, Sol Messing e Kristian Lum, executa um modelo Gemini Flash Lite por meio de benchmarks confidenciais dentro de um ambiente criptograficamente seguro. O Google DeepMind fez parceria com o Singapore AI Safety Institute, OpenMined, AVERI e MLCommons no esforço e publicou um relatório técnico descrevendo a metodologia.
O anúncio aborda uma das fraquezas mais persistentes na avaliação da IA: a contaminação do benchmark. Para os leitores que acompanham notícias de pesquisa de IA, isso representa uma das tentativas mais concretas de tornar os testes de modelos de terceiros comprovadamente limpos.
O problema da contaminação, explicado
DeepMind abre seu anúncio com uma analogia com a sala de aula. Se um aluno acidentalmente vir as questões do exame com antecedência, uma pontuação perfeita não significa nada. A mesma lógica se aplica aos modelos de fronteira: se um modelo já foi exposto às questões de um benchmark – por meio de dados de treinamento, conjuntos de avaliações vazados ou otimização anterior – as pontuações resultantes podem superestimar enormemente a capacidade real.
Esta não é uma preocupação hipotética. A contaminação de benchmarks tem perseguido o campo há anos, com pesquisadores mostrando repetidamente que conjuntos de testes populares vazam para corpora de treinamento em escala web e que os modelos podem ser ajustados silenciosamente para ter um bom desempenho em avaliações conhecidas. Quando os governos e as empresas utilizam pontuações de referência para tomar decisões políticas e de aquisição, os números inflacionados têm consequências reais.
À medida que os modelos se tornam mais capazes, argumenta DeepMind, os riscos são maiores para categorias de avaliação sensíveis – os testes de segurança cibernética e as avaliações governamentais são as principais delas – onde uma pontuação contaminada não é apenas enganosa, mas potencialmente perigosa.
A velha troca: suas instruções ou nossos pesos
Historicamente, as avaliações externas de alto risco forçaram uma escolha desconfortável. Ou o avaliador entregou as instruções de teste ao fornecedor do modelo — arriscando que o fornecedor visse as perguntas do teste com antecedência — ou o fornecedor entregou os pesos do modelo ao avaliador — arriscando a perda da sua propriedade intelectual mais valiosa.
Protocolos de registro zero e salvaguardas contratuais rigorosas há muito mantêm a confidencialidade dos prompts de testes externos, escreve DeepMind, mas essas são promessas impostas pela política e não pela matemática. Avaliações duplo-cegas substituem essa confiança por provas criptográficas.
Como funciona a caixa criptográfica
O piloto usa o Confidential Space, parte do portfólio Confidential Computing do Google Cloud, para criar o que a DeepMind descreve como uma “caixa” criptográfica. Nele, ambas as metades de uma avaliação – o benchmark confidencial e o modelo proprietário – permanecem privadas para seus respectivos proprietários, e o ambiente verifica criptograficamente esse fato.
O resultado é genuinamente duplo-cego: o avaliador externo não pode ver os pesos do modelo Gemini e o Google não pode ver as solicitações de teste do avaliador. Nenhum dos lados tem de confiar nas promessas do outro, porque a própria arquitectura torna o vazamento impossível em princípio. Fundamentalmente, a configuração também evita que os dados de avaliação sejam usados posteriormente para otimizar o desempenho do modelo antes de testes futuros – fechando o ciclo através do qual a contaminação normalmente retorna.
Por que é importante para a supervisão da IA
O significado mais amplo vai além de um modelo Gemini. Organizações independentes – institutos de segurança de IA, laboratórios académicos, reguladores – têm lutado durante anos para avaliar rigorosamente modelos de fronteira fechada, precisamente porque os fornecedores não podem entregar pesos e os avaliadores não entregam parâmetros de referência. Todos os principais institutos de segurança de IA enfrentaram versões deste problema ao assinar acordos de avaliação com laboratórios fronteiriços.
Se o piloto se mantiver, oferece um modelo sob o qual a soberania dos dados e a propriedade intelectual sobrevivem ao contacto com um escrutínio independente. A DeepMind afirma esperar que o piloto “estabeleça uma nova fronteira para a supervisão do modelo, ajudando a indústria em geral a construir sistemas de IA mais seguros, mais confiáveis e amplamente confiáveis”.
A lista de parceiros é notável por si só. O Singapore AI Safety Institute é um dos órgãos de avaliação nacionais mais ativos; OpenMined cria ferramentas de computação que preservam a privacidade; MLCommons padroniza benchmarking do setor. A AVERI forma um consórcio que abrange organismos governamentais, académicos e de normalização da indústria – os constituintes que precisariam de adoptar uma avaliação duplo-cega para que ela se tornasse uma norma em vez de uma demonstração.
Uma corrida armamentista pela integridade da avaliação
O anúncio surge em meio a um crescente escrutínio sobre como as empresas de IA se classificam. Os laboratórios enfrentam acusações crescentes de escolherem benchmarks favoráveis, e os rankings independentes tornaram-se influentes precisamente porque estão fora do controle dos fornecedores. A avaliação duplo-cega estende esse movimento de independência dentro da infraestrutura do próprio fornecedor – uma mudança notável para empresas que historicamente insistiram em controlar cada detalhe de como seus modelos são testados.
Por enquanto, o piloto abrange um modelo e um conjunto de benchmarks confidenciais. Mas se a avaliação livre de contaminação, verificada criptograficamente, se tornar tecnicamente rotineira, poderá mudar o que as empresas e os reguladores esperam de cada laboratório de fronteira - e tornar a "confiança na nossa pontuação" uma tarefa mais difícil de vender num mercado cada vez mais construído sobre afirmações verificáveis.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
