A Amazon Web Services lançou o Amazon Bedrock AgentCore Evaluations, um novo recurso que avalia agentes de IA construídos com qualquer estrutura importante — não apenas com as próprias ferramentas da AWS — tratando os rastreamentos do OpenTelemetry como uma interface universal para avaliação. O anúncio veio em uma postagem no blog de aprendizado de máquina da AWS publicada em 26 de agosto por Swarnim Singhal, Bharathi Srinivasan e Renya Kujirada.

A proposta aborda o que a AWS chama de assimetria frustrante no trabalho de IA de produção: a diversidade de estruturas de agentes continua crescendo, enquanto as ferramentas de avaliação não acompanham o ritmo. Para acompanhar o ciclo de notícias da indústria de IA mais amplo, as equipes agora misturam e combinam ferramentas rotineiramente – que é precisamente onde os pipelines de avaliação tradicionais se desintegram.

O problema da fragmentação

Conforme a equipe da AWS estrutura, a maioria dos sistemas de avaliação pressupõe que você construiu seu agente de uma maneira específica: um SDK específico, um cliente específico de modelo de linguagem grande, um padrão de rastreamento específico. Saia dessa zona estreita de compatibilidade e o pipeline de avaliação será interrompido.

As pilhas do mundo real raramente ficam dentro da faixa de um fornecedor. Na conta da postagem do blog, as equipes baseiam-se no LangGraph para orquestração de fluxo de trabalho, no LlamaIndex para integração estreita do pipeline de recuperação e no OpenAI Agents SDK quando uma organização padroniza os modelos GPT. Eles usam o Google ADK para coordenação multiagente ou o Claude Agent SDK para capacidade antrópica nativa, e recorrem aos Strands Agents quando seu loop orientado por modelo pode fazer com que um agente funcional seja executado no Amazon Bedrock AgentCore em minutos, em vez de dias.

Cada uma dessas estruturas gera sua própria representação interna do que um agente fez – chamadas de ferramentas, recuperações, transferências entre subagentes. Historicamente, avaliá-los significava reconstruir a instrumentação para cada um deles ou aceitar que alguns frameworks simplesmente não poderiam ser classificados.

Como funciona: telemetria sobre acoplamento rígido

Avaliações AgentCore tentam dissolver esse acoplamento escolhendo uma interface que todas as principais estruturas já falam. Quase todos eles oferecem suporte ao OpenTelemetry, seja nativamente ou por meio de bibliotecas de instrumentação da comunidade – o padrão de fato para o qual as ferramentas de observabilidade de aplicativos e nuvem convergiram anos atrás.

A lógica é simples: desde que a telemetria de um agente flua através do OpenTelemetry, o serviço de avaliação pode pontuá-la, independentemente do SDK que estiver por baixo. A postagem do blog explica qual telemetria o serviço lê, como ele decide como interpretar spans, quais atributos carregam os dados de avaliação e como a cobertura se estende a estruturas além da lista nomeada da AWS – tornando efetivamente o formato, em vez da estrutura, o contrato.

Para as organizações de engenharia, isso transforma a avaliação em uma decisão de infraestrutura, em vez de uma construção por projeto. Um agente avaliado no dia em que é enviado pode ser comparado com as mesmas métricas, quer seus autores o tenham escrito em LangGraph ou no Claude Agent SDK.

Onde cabe no AgentCore

As avaliações se enquadram na plataforma mais ampla do Amazon Bedrock AgentCore, cujo tempo de execução já lida com a infraestrutura de hospedagem, dimensionamento, memória e observabilidade que os desenvolvedores reconstruiriam para cada projeto. Com a avaliação adicionada à mesma superfície, a AWS está montando o que equivale a um ciclo de vida completo para os agentes: implantá-los no tempo de execução, observá-los por meio da observabilidade integrada e agora medi-los com base em critérios consistentes, sem sair da plataforma.

O momento não é acidental. Em toda a indústria, as questões sobre se os agentes realmente se comportam como pretendido passaram da preocupação académica para o risco a nível do conselho, na sequência de episódios de grande repercussão, como o mau comportamento coordenado documentado na investigação da violação Hugging Face e evidências crescentes de que os benchmarks por si só pintam um quadro incompleto da fiabilidade dos agentes. Ferramentas que tornam a avaliação contínua, barata e independente de estrutura respondem diretamente a essa ansiedade.

Por que é importante

A avaliação tornou-se silenciosamente o gargalo da adoção de agentes empresariais. A velocidade de desenvolvimento não é mais a restrição — a restrição é a confiança: saber que o agente que atende clientes, move dados ou executa fluxos de trabalho fará isso corretamente em condições que ninguém testou individualmente.

Ao ancorar a avaliação no OpenTelemetry em vez de em qualquer SDK único, a AWS aposta que o consenso de observabilidade do setor pode funcionar como sua camada de garantia de qualidade. O fato de os concorrentes seguirem com uma pontuação independente de estrutura equivalente dirá muito sobre a rapidez com que a IA de agente amadurece de demonstrações para uma infraestrutura confiável.

Para equipas que gerem frotas heterogéneas, a implicação prática é a comparabilidade. Quando todos os agentes reportam no mesmo formato de telemetria, a qualidade se torna algo que uma organização pode acompanhar ao longo do tempo e entre equipes, em vez de derivar novamente por projeto – uma pré-condição para qualquer coisa que se assemelhe à maturidade operacional em sistemas de agentes. Para empresas profundamente envolvidas em pilhas híbridas LangGraph-LlamaIndex, ou simplesmente cautelosas em reescrever a instrumentação sempre que uma estrutura melhor aparece, agora existe uma opção primária de seu provedor de nuvem que não lhes pede para escolher um lado.

---

Fique à frente da IA

Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.

Leia mais notícias sobre IA →