Patronus AI, uma startup que constrói ambientes digitais simulados para avaliar agentes autônomos de IA, arrecadou US$ 50 milhões em uma rodada da Série B à medida que aumenta a demanda por testes de agentes confiáveis. A rodada foi liderada pela Greenfield Partners com a participação da Notable Capital, Lightspeed, Datadog e Samsung, informou o TechCrunch, elevando o financiamento total da empresa para US$ 70 milhões.
Um novo problema: agentes que usam atalhos Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.
À medida que os agentes de IA evoluem da resposta a perguntas para a execução autônoma de tarefas complexas e de várias etapas, os provedores de modelos e as startups que criam esses agentes precisam de garantia de que os sistemas funcionarão de maneira confiável em uma vasta gama de cenários. Os laboratórios de IA costumam usar benchmarks para mostrar as proezas de um modelo, mas uma pontuação alta em um benchmark orientado a agentes não prova que uma IA possa realmente realizar trabalhos no mundo real corretamente.
Essa lacuna é onde o Patronus AI se concentra. Fundada em 2023 pelos ex-pesquisadores da Meta AI Anand Kannappan e Rebecca Qian, a empresa sediada em São Francisco constrói o que chama de “modelos de mundo digital”, réplicas de sites e sistemas internos nos quais os agentes são testados contra estresse após o treinamento. Os agentes são avaliados por meio de aprendizagem por reforço, que recompensa iterativamente a conclusão bem-sucedida da tarefa e penaliza os erros.
Empréstimo de veículos autônomos
A empresa compara sua abordagem à forma como a Waymo treinou carros autônomos, primeiro construindo mundos sintéticos para testar veículos contra perigos raros, como mau tempo ou uma criança correndo atrás de uma bola. A principal diferença com os agentes de IA é que eles tendem a usar atalhos, o que significa que não conseguem concluir as tarefas corretamente, mesmo quando parecem ter sucesso.
“Patronus é realmente bom em detectar hacks e garantir que eles responsabilizem os modelos”, disse Glenn Solomon, diretor administrativo da Notable Capital. Solomon descreveu a demanda pelos ambientes simulados da empresa como quase insaciável. Praticamente todos os laboratórios de IA de ponta e muitas startups emergentes são agora clientes, e a receita da Patronus cresceu 15 vezes no ano passado.
Expandindo além das tarefas verificáveis
Atualmente, a Patronus fornece seus mundos digitais simulados para engenharia de software e finanças, dois domínios onde os resultados são relativamente fáceis de verificar. Mas a empresa vê isso apenas como o começo. “Hoje estamos muito focados nos problemas que são verificáveis, nos problemas que você pode verificar e verificar imediatamente, mas há muito mais áreas que não são verificáveis ou são muito difíceis de verificar”, disse Kannappan.
A ambição é construir ambientes suficientemente substanciais para testar agentes em longos horizontes. “Queremos ser capazes de realmente criar o ambiente no qual você possa operar um agente que possa funcionar por 10 horas, 10 dias ou 10 semanas”, disse Kannappan. Só porque os processos são verificáveis não significa que sejam simples, e a capacidade de detectar um agente falhando no meio de um fluxo de trabalho que leva dias é fundamental para a proposta de valor da empresa.
O financiamento também chega à medida que a indústria mais ampla da IA se debate para saber como medir o progresso. As pontuações de benchmark tornaram-se uma moeda contestada, com os críticos argumentando que os modelos podem ser otimizados para testes específicos de jogos sem melhorar genuinamente em tarefas reais. Os ambientes simulados do Patronus oferecem uma alternativa, testando agentes em cenários abertos onde a única prova de sucesso é um trabalho concluído corretamente, em vez de um número em uma tabela de classificação.
Para clientes empresariais, essa distinção é importante. Um agente de codificação que passa em um benchmark, mas introduz silenciosamente bugs em uma base de código de produção, ou um agente financeiro que arredonda os números incorretamente, pode causar muito mais danos do que uma pontuação baixa no teste sugeriria. Ao detectar essas falhas em uma sandbox antes da implantação, o Patronus posiciona a avaliação como um pré-requisito para a confiança, e não como uma reflexão tardia.
Uma abordagem distinta em um campo lotado
Quanto aos rivais, Patronus acredita que está competindo principalmente contra as equipes de avaliação interna que os laboratórios de IA já construíram para avaliar o comportamento dos agentes. Enquanto empresas de dados humanos, como Mercor e Surge, ajudam os criadores de modelos com aprendizagem por reforço, a Patronus opera de forma diferente, avaliando como os agentes se comportam sem qualquer envolvimento humano, automatizando a detecção de falhas que, de outra forma, exigiriam uma revisão manual dispendiosa.
A rodada sinaliza a confiança dos investidores de que a avaliação dos agentes se tornará uma camada fundamental da pilha de IA. À medida que os agentes assumem um trabalho mais autónomo, desde a reserva de viagens até à realização de análises financeiras, as startups capazes de provar que esses sistemas são fiáveis, antes de serem implantados, estão a posicionar-se como guardiões indispensáveis para a era da IA de agência.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
