Uma equipe de pesquisa da FAIR at Meta, da Universidade de Oxford e da University College London introduziu Modelos de Preferência de Pesquisa de IA (RPMs), um método para decidir quais experimentos de aprendizado de máquina um agente de pesquisa autônomo deve realmente executar. Em vez de prever a pontuação de um experimento, um RPM classifica os candidatos não executados e escolhe o mais promissor, uma mudança que a equipe diz que aborda o verdadeiro gargalo na pesquisa orientada por IA: a computação de verificação, de acordo com o relatório do MarkTechPost sobre o trabalho.

A ideia surge num momento em que os agentes de investigação já podem propor, implementar e pontuar as suas próprias experiências. A geração de ideias é barata; a execução não é. Treinar um único candidato pode consumir horas ou dias de tempo de GPU, portanto, um agente inevitavelmente propõe muito mais experimentos do que pode executar. Os candidatos executados são, conforme a equipe define, a verdadeira alavanca para o progresso da pesquisa. Para os laboratórios que observam o aumento de suas contas de computação, esse enquadramento é exatamente o motivo pelo qual este trabalho está chamando a atenção nos mais recentes desenvolvimentos de IA em automação de pesquisa.

Por que a seleção de experimentos é o gargalo

A equipe descobriu que os modelos de linguagem não são confiáveis na previsão de métricas absolutas ou resultados de execução. Um modelo não pode olhar para um experimento candidato e prever com precisão a pontuação que alcançará. O que isso pode fazer, descobriram os pesquisadores, é julgar qual dos dois candidatos é a melhor aposta – uma comparação relativa em vez de uma previsão absoluta. Os RPMs são construídos inteiramente em torno dessa distinção: eles nunca prevêem uma pontuação, apenas classificam.

O sistema é executado dentro do AIRA-dojo, um andaime de pesquisa em árvore evolutiva de código aberto que gera experimentos de aprendizado de máquina por meio de seleção gananciosa de pais e operadores de Rascunho, Melhoria e Depuração, retornando o nó com pontuação de validação mais alta no final. O benchmark, AIRS-Bench, também é de código aberto. Tanto o andaime quanto o modelo de preferência usam Qwen3.6-27B como espinha dorsal, que a equipe observa serem pesos abertos.

Como funciona o torneio eliminatório

Em vez de gerar um experimento filho e executá-lo, o agente aplica um operador 15 vezes em paralelo para produzir 15 candidatos não executados. O RPM então os compara aos pares em um torneio eliminatório e apenas o vencedor é executado. Cada comparação é baseada em nós de contexto coletados por uma caminhada ampla da árvore explorada, com cada candidato mostrado junto com as pontuações de validação de seus ancestrais, de modo que o juiz raciocina com base no histórico de pesquisa real do agente, e não no vácuo.

O artigo descreve duas variantes com diferentes orçamentos de computação:

  • RPM apenas de inferência — um LLM como juiz que compara planos de candidatos, código e histórico de pesquisa em uma única passagem. Seu prompt foi otimizado com MIPROv2 da estrutura DSPy e convergiu para o que a equipe chama de rubrica do investigador principal: tolera bugs corrigíveis, recompensa a extensibilidade e penaliza direções de pesquisa redundantes. A precisão da comparação offline mediu 57,7 a 59,0 por cento.
  • Agentic RPM — o mesmo juiz mais um sandbox que clona o ambiente do agente, incluindo uma única GPU H200, com ferramentas limitadas a Python, Bash e uma ação de envio de solução. Ele executa experimentos piloto em pequena escala e, em seguida, um modelo de feedback propõe o próximo experimento mais informativo ou encerra o ciclo. Os pilotos são limitados a 30 com um limite de 60 segundos, e o orçamento de tempo restante é deliberadamente exagerado – 2.700 segundos relatados contra 300 reais – para que o agente não pare de otimizar antecipadamente.

Um juiz sintonizado como um investigador principal

O enquadramento principal-investigador é a parte discretamente interessante. Em vez de recompensar os candidatos que parecem extremamente impressionantes, a rubrica otimizada reflete como um pesquisador experiente faz a triagem de ideias: códigos com erros que podem ser corrigidos superam códigos polidos que buscam um beco sem saída, e direções que duplicam a árvore existente valem menos do que as novas. Essa rubrica, aprendida por meio da otimização imediata, em vez do ajuste manual, é o que traz a melhoria, sugerem as ablações da equipe.

Resultados de referência no AIRS-Bench

A avaliação abrangeu 20 tarefas públicas de texto e tabulares, com cada tarefa dada 24 horas em um único H200 e 10 sementes aleatórias. Crucialmente, o mesmo backbone Qwen3.6-27B alimentou tanto os operadores experimentais quanto o modelo de preferência, de modo que os ganhos vêm da camada de seleção, e não de um modelo de juiz mais forte. As pontuações médias normalizadas:

  • Sem RPM (escolha aleatória): 0,684
  • RPM somente de inferência: 0,711
-RPM agente: 0,729
  • Oráculo de validação (teto): 0,748
  • Teste oráculo (teto): 0,759

A probabilidade de melhoria em relação à seleção aleatória foi de 0,5923 para a variante apenas de inferência e de 0,5913 para a variante de agente, com limites inferiores de intervalo de confiança de 95% de 0,5066 e 0,5018 – acima do limite de 0,5 para significância estatística, embora a equipa seja sincera ao afirmar que as margens são modestas em vez de transformadoras.

A eficiência é o resultado mais prático. O RPM apenas de inferência atingiu a pontuação final da linha de base aleatória de 0,684 em 14,88 horas, uma aceleração de 1,61x, enquanto a variante agente precisou de 15,50 horas, uma aceleração de 1,55x. Mesmo contabilizando a sobrecarga da inferência do juiz auto-hospedado, os números ajustados permaneceram favoráveis.

Pesos abertos e advertências honestas

A equipe afirma que os RPMs são apenas parcialmente implementáveis atualmente. Os componentes são abertos - backbones pré-treinados congelados sem ajuste fino, um andaime e benchmark de código aberto e modelos de backbone de pesos abertos - mas o requisito de sandbox da variante agente e sua sobrecarga de experimento piloto significam que a maioria dos laboratórios começaria com a versão somente de inferência. Os pesquisadores também observam que as etapas de depuração revertem para seleção aleatória na variante agente porque o tempo piloto compete com o relógio do próprio agente.

O significado maior pode ser direcional. À medida que os agentes de pesquisa autônomos passam das demonstrações para o uso diário em laboratórios industriais, o recurso escasso não são mais ideias, mas horas de GPU e métodos que extraem mais progresso de um orçamento computacional fixo composto ao longo do tempo. A classificação antes da corrida é uma ideia simples, e os números do AIRS-Bench sugerem que é uma ideia que funciona bem o suficiente para ser importante.

Fique à frente da IA

Acompanhe a pesquisa que está moldando os modelos de amanhã em AI Buzz Wire.

Leia mais notícias sobre IA →