O laboratório chinês de IA Z.ai publicou um relato técnico detalhado de como configurou os modelos GLM para funcionar, melhorando os próprios sistemas que os atendem, descrevendo um "Agente de Infra" que encontra e corrige gargalos de desempenho na infraestrutura de inferência da empresa com intervenção humana limitada.
A postagem do blog, intitulada "Rumo ao autoaperfeiçoamento recursivo: como a GLM construiu sua própria infraestrutura de inferência", foi publicada no site da empresa na quarta-feira e rapidamente se tornou uma das histórias de tecnologia mais discutidas no Hacker News, onde atraiu mais de 200 pontos da comunidade de desenvolvedores. Para mais contexto sobre esta história, confira nossa notícias de IA.
“À medida que desenvolvemos o GLM, o modelo às vezes exibe capacidades que nos surpreendem e até nos perturbam”, escreveu a empresa nas primeiras linhas do post.
Da pesquisa de segurança cibernética aos sistemas auto-otimizados
O trabalho remonta a outubro de 2025, quando Z.ai começou a pesquisar como fortalecer as capacidades de segurança cibernética do GLM. O raciocínio, diz a empresa, era simples: a segurança cibernética é uma extensão natural da codificação, e os modelos que podem navegar em grandes bases de código podem eventualmente navegar no código de sistemas de baixo nível que a maioria dos engenheiros evita.
Essa base evoluiu para algo mais ambicioso. Em vez de usar modelos apenas para escrever código, Z.ai decidiu responder a uma questão de engenharia de sistemas: pode um agente de IA assumir a responsabilidade pelo desempenho de uma pilha de inferência de produção, a camada de coordenação de software e hardware que transforma os pesos dos modelos em respostas rápidas e baratas?
A resposta da empresa envolveu reformular o problema. As métricas de ponta a ponta por si só, argumenta o post, não podem orientar um agente otimizador. Um relatório de que o tempo até o primeiro token aumentou 30% ou que a taxa de transferência de saída caiu 20% informa a um agente que algo piorou, mas não qual camada é responsável, por que sua hipótese falhou ou o que testar em seguida.
"Como transformamos resultados esparsos de ponta a ponta em feedback de engenharia atribuível e refinado que orienta diretamente a próxima ação?" a empresa pergunta no post, descrevendo a questão como fundamental para todo o esforço.
Três regras para feedback legível pelo agente
A resposta de Z.ai é uma disciplina de feedback baseada em três características. Primeiro, o feedback deve ser suficientemente local, vinculado a parâmetros específicos de inicialização do mecanismo, alterações de código, kernels, condições de entrada, threads, intervalos de execução ou caminhos de código, para que o agente possa restringir o escopo de qualquer problema. Em segundo lugar, sua obtenção deve ser barata e oportuna: uma pergunta respondida por um teste de kernel ou um microbenchmark local não deve exigir uma implantação completa do serviço. Terceiro, a validação deve corresponder à hipótese actual, com cada experiência concebida para responder a uma questão específica em vez de seguir uma sequência fixa.
A empresa diz que esse denso ciclo de feedback é o que permite que o Infra Agent se comporte menos como um preenchimento automático para engenheiros e mais como um colega que pode realizar experimentos durante a noite.
Três estudos de caso, de números a um bug de threading
A postagem aborda três episódios concretos da otimização da pilha de serviços da empresa para GLM-5.3-Flash, o modelo de peso aberto Z.ai lançado sob a licença do MIT em agosto.
O primeiro envolve correção. Como as otimizações de inferência reorganizam a forma como os cálculos são paralelizados, o agente precisava verificar se os kernels produziam os mesmos resultados sob condições particionadas e não particionadas. Em um caso, a equipe combinou três operações do TF32 Tensor Core para produzir um resultado de maior precisão, reduzindo o erro numérico acumulado e preservando a maior parte da vantagem de desempenho do Tensor Core. Testes comparativos entre estratégias de particionamento expuseram as discrepâncias que motivaram a correção.
A segunda é uma história de depuração de sistemas que será familiar para qualquer engenheiro de desempenho. Os critérios de aceitação exigiam que a adição da transferência de cache KV ao caminho de serviço não degradasse o desempenho do pré-preenchimento em mais de 5% sob cargas de trabalho idênticas. O agente descobriu que a diferença ultrapassava 20% em alguns cenários, o que restringiu a investigação ao comportamento simultâneo da própria transferência KV. Examinando os cronogramas de execução, o agente identificou uma anomalia: nos cenários problemáticos, a execução da transferência KV do lado Python nunca se sobrepôs aos intervalos de despacho e combinação da biblioteca de comunicação DeepEP. A solução foi liberar o bloqueio global do interpretador do Python durante os intervalos de execução relevantes do C++, permitindo que o thread de transferência que serve Mooncake, o armazenamento de cache KV, prosseguisse em paralelo com a computação. A lacuna de desempenho posteriormente caiu dentro do limite de aceitação.
O terceiro episódio mostra o ajuste iterativo do kernel. A introdução do ReplaySSM, uma técnica que troca computação por memória, inicialmente aumentou o tempo de execução de um kernel de decodificação KDA. A otimização da divisão do agente reduziu o tempo de execução do kernel em 9,6%. Depois de receber feedback de que a computação continuava sendo o principal gargalo, o agente descobriu a implementação original agrupada ao longo da dimensão V, fazendo com que a normalização FP32 idêntica e os cálculos de controle fossem repetidos desnecessariamente.
A pilha por trás do GLM-5.3-Flash
As otimizações baseiam-se em uma arquitetura de serviço agressiva que Z.ai descreve na postagem: paralelismo de tensor intra-nó para atenção linear e o cabeçalho do modelo de linguagem, o comércio de computação por memória ReplaySSM, quantização W8A8, quantização de cache de precisão mista usando formatos INT8, FP8 e BF16, um esquema de divisão de camada e uma arquitetura desagregada Encode-Prefill-Decode que executa os estágios de serviço em recursos separados.
A empresa enquadra a acumulação destas técnicas, descobertas e validadas em grande parte pelo próprio agente, como um passo em direcção ao auto-aperfeiçoamento recursivo: sistemas de IA que melhoram a infra-estrutura que os torna mais rápidos e baratos de operar, o que por sua vez torna a próxima ronda de melhoria orientada pelo agente mais acessível.
Por que é importante
O custo de inferência é uma das economias decisivas da indústria de IA. Os laboratórios que podem servir modelos de classe de fronteira a um custo mais baixo por token podem estabelecer preços agressivos, subsidiar agentes que fazem milhares de chamadas por tarefa e financiar treinamentos adicionais com base nas receitas. Z.ai tem sido notavelmente agressivo em todas as três frentes, e as divulgações financeiras provisórias da empresa no início deste ano mostraram um crescimento acentuado das receitas, mesmo com a diminuição das perdas.
A postagem também é um sinal sobre o rumo que a engenharia do laboratório está tomando. A divisão tradicional do trabalho, com engenheiros de desempenho humano ajustando kernels e escalonadores enquanto os modelos lidam com as solicitações dos usuários, está sendo substituída na Z.ai por um loop no qual o modelo propõe mudanças, experimentos baratos as validam e feedback denso direciona a próxima tentativa.
As alegações de autoaperfeiçoamento totalmente autônomo devem ser lidas com cuidado. A própria postagem deixa claro que os engenheiros humanos definiram os cenários de teste, definiram os critérios de aceitação e construíram os ambientes de feedback nos quais o agente opera. O que a empresa descreve é a automação de um ciclo de otimização bem instrumentado, e não um sistema não supervisionado se redesenhando.
Mesmo assim, a direção é clara. Se a economia da IA nos próximos anos for decidida por quem pode servir a inteligência mais barato, os laboratórios que ensinam os seus modelos a optimizar a sua própria infra-estrutura poderão definir o ritmo, e Z.ai quer que a indústria saiba que pretende ser um deles.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
