சீன AI ஆய்வகமான Z.ai, GLM மாடல்களை அவர்களுக்குச் சேவை செய்யும் அமைப்புகளை மேம்படுத்தும் வகையில் எவ்வாறு அமைக்கிறது என்பது பற்றிய விரிவான தொழில்நுட்பக் கணக்கை வெளியிட்டுள்ளது, இது ஒரு "இன்ஃப்ரா ஏஜென்ட்" விவரிக்கிறது, இது வரையறுக்கப்பட்ட மனித தலையீட்டுடன் நிறுவனத்தின் அனுமான உள்கட்டமைப்பில் செயல்திறன் இடையூறுகளைக் கண்டறிந்து சரிசெய்கிறது.

"Toward Recursive Self-Emprovement: How GLM Built Its Own Inference Infrastructure" என்ற தலைப்பிலான வலைப்பதிவு இடுகை, புதனன்று நிறுவனத்தின் தளத்தில் வந்து, விரைவில் ஹேக்கர் செய்திகளில் அதிகம் விவாதிக்கப்பட்ட தொழில்நுட்பக் கதைகளில் ஒன்றாக மாறியது. For more context on this story, see our ongoing more AI stories.

"நாங்கள் GLM ஐ உருவாக்கும்போது, ​​​​மாடல் சில நேரங்களில் நம்மை ஆச்சரியப்படுத்தும் திறன்களை வெளிப்படுத்துகிறது, மேலும் நம்மை அமைதிப்படுத்துகிறது" என்று நிறுவனம் இடுகையின் தொடக்க வரிகளில் எழுதியது.

சைபர் செக்யூரிட்டி ரிசர்ச் முதல் சுய-மேம்படுத்தும் அமைப்புகள் வரை

அக்டோபர் 2025 இல், ஜிஎல்எம் இன் இணையப் பாதுகாப்புத் திறன்களை எவ்வாறு வலுப்படுத்துவது என்பதை Z.ai ஆராய்ச்சி செய்யத் தொடங்கியதில் இருந்து இந்த வேலை தொடங்குகிறது. காரணம், நிறுவனம் கூறுவது, நேரடியானது: சைபர் செக்யூரிட்டி என்பது குறியீட்டு முறையின் இயற்கையான நீட்டிப்பு, மேலும் பெரிய கோட்பேஸ்களை வழிநடத்தக்கூடிய மாதிரிகள் இறுதியில் பெரும்பாலான பொறியாளர்கள் தவிர்க்கும் குறைந்த-நிலை அமைப்புக் குறியீட்டை வழிநடத்தலாம்.

அந்த அடித்தளம் இன்னும் லட்சியமாக உருவானது. குறியீட்டை எழுதுவதற்கு மாடல்களைப் பயன்படுத்துவதற்குப் பதிலாக, சிஸ்டம்ஸ் இன்ஜினியரிங் கேள்விக்கு பதிலளிக்க Z.ai புறப்பட்டது: AI முகவர் ஒரு உற்பத்தி அனுமான அடுக்கின் செயல்திறனுக்குப் பொறுப்பேற்க முடியுமா, மாடல் எடைகளை வேகமான, மலிவான பதில்களாக மாற்றும் மென்பொருள் மற்றும் வன்பொருள் ஒருங்கிணைப்பு அடுக்கு?

நிறுவனத்தின் பதில் சிக்கலை மறுவடிவமைப்பதை உள்ளடக்கியது. எண்ட்-டு-எண்ட் அளவீடுகள் மட்டும், மேம்படுத்தும் முகவரை வழிநடத்த முடியாது என்று இடுகை வாதிடுகிறது. நேரம் முதல் முதல் டோக்கன் 30 சதவீதம் அதிகரித்தது அல்லது வெளியீட்டு செயல்திறன் 20 சதவீதம் குறைந்துள்ளது என்று ஒரு அறிக்கை, ஏதோ மோசமாகிவிட்டது, ஆனால் எந்த லேயர் பொறுப்பு, அதன் கருதுகோள் ஏன் தோல்வியடைந்தது, அல்லது அடுத்து என்ன சோதிக்க வேண்டும் என்று ஏஜென்ட்டிடம் கூறுகிறது.

"அடுத்த செயலுக்கு நேரடியாக வழிகாட்டும் நுணுக்கமான, கற்பிதமான பொறியியல் பின்னூட்டமாக, சிதறிய முடிவு முதல் இறுதி முடிவுகளை எப்படி மாற்றுவது?" நிறுவனம் இடுகையில் கேட்கிறது, முழு முயற்சியின் முக்கிய கேள்வியை விவரிக்கிறது.

முகவர் படிக்கக்கூடிய கருத்துக்கான மூன்று விதிகள்

Z.ai இன் பதில் மூன்று குணாதிசயங்களில் கட்டமைக்கப்பட்ட ஒரு பின்னூட்ட ஒழுக்கமாகும். முதலாவதாக, குறிப்பிட்ட எஞ்சின் வெளியீட்டு அளவுருக்கள், குறியீடு மாற்றங்கள், கர்னல்கள், உள்ளீட்டு நிலைகள், த்ரெட்கள், செயல்படுத்தும் இடைவெளிகள் அல்லது குறியீடு பாதைகள் ஆகியவற்றுடன் பின்னூட்டம் போதுமான அளவு உள்ளூர் இருக்க வேண்டும், எனவே முகவர் எந்தவொரு சிக்கலின் நோக்கத்தையும் குறைக்கலாம். இரண்டாவதாக, இது மலிவானதாகவும் சரியான நேரத்தில் பெறவும் வேண்டும்: கர்னல் சோதனை அல்லது உள்ளூர் மைக்ரோ பெஞ்ச்மார்க் மூலம் பதிலளிக்கக்கூடிய கேள்விக்கு முழு சேவை வரிசைப்படுத்தல் தேவையில்லை. மூன்றாவதாக, சரிபார்ப்பு தற்போதைய கருதுகோளுடன் பொருந்த வேண்டும், ஒவ்வொரு சோதனையும் ஒரு நிலையான வரிசையைப் பின்பற்றுவதற்குப் பதிலாக ஒரு குறிப்பிட்ட கேள்விக்கு பதிலளிக்க வடிவமைக்கப்பட்டுள்ளது.

இந்த அடர்த்தியான பின்னூட்ட வளையமானது, இன்ஃப்ரா ஏஜென்ட்டை பொறியாளர்களுக்கான தன்னியக்க நிறைவு போலவும், ஒரே இரவில் சோதனைகளை நடத்தக்கூடிய சக ஊழியரைப் போலவும் செயல்பட அனுமதிக்கிறது என்று நிறுவனம் கூறுகிறது.

மூன்று வழக்கு ஆய்வுகள், எண்கள் முதல் த்ரெடிங் பிழை வரை

ஆகஸ்ட் மாதம் எம்ஐடி உரிமத்தின் கீழ் வெளியிடப்பட்ட திறந்த எடை மாடலான Z.ai, GLM-5.3-Flashக்கான நிறுவனத்தின் சேவை ஸ்டேக்கை மேம்படுத்தியதில் இருந்து இந்த இடுகை மூன்று உறுதியான எபிசோடுகள் வழியாக செல்கிறது.

முதலாவது சரியான தன்மையை உள்ளடக்கியது. கணக்கீடுகள் எவ்வாறு இணையாகின்றன என்பதை அனுமான மேம்படுத்தல்கள் மறுசீரமைப்பதால், பகிர்வு மற்றும் பிரிக்கப்படாத நிலைமைகளின் கீழ் கர்னல்கள் அதே முடிவுகளை உருவாக்குகின்றன என்பதை முகவர் சரிபார்க்க வேண்டும். ஒரு சந்தர்ப்பத்தில், குழு மூன்று TF32 டென்சர் கோர் செயல்பாடுகளை ஒருங்கிணைத்து அதிக துல்லியமான முடிவை உருவாக்கியது, டென்சர் கோர் செயல்திறன் நன்மையின் பெரும்பகுதியைப் பாதுகாக்கும் அதே வேளையில் திரட்டப்பட்ட எண் பிழையைக் குறைத்தது. பகிர்வு உத்திகளுக்கிடையேயான ஒப்பீட்டு சோதனையானது பிழைத்திருத்தத்தை ஊக்குவிக்கும் முரண்பாடுகளை அம்பலப்படுத்தியது.

The second is a systems-debugging story that will feel familiar to any performance engineer. Acceptance criteria required that adding KV cache transfer to the serving path should not degrade prefill performance by more than 5 percent under identical workloads. The agent found the gap exceeded 20 percent in some scenarios, which narrowed the investigation to the concurrency behavior of KV transfer itself. Examining execution timelines, the agent identified an anomaly: in the problem scenarios, Python-side KV transfer execution never overlapped with the dispatch and combine intervals of the DeepEP communication library. The fix was to release Python's global interpreter lock during the relevant C++ execution intervals, allowing the transfer thread serving Mooncake, the KV cache store, to proceed in parallel with computation. The performance gap subsequently fell within the acceptance threshold.

The third episode shows iterative kernel tuning. Introducing ReplaySSM, a technique that trades compute for memory, initially increased execution time of a KDA decode kernel. The agent's division optimization then reduced the kernel's execution time by 9.6 percent. After receiving feedback that computation remained the primary bottleneck, the agent discovered the original implementation tiled along the V dimension, causing identical FP32 normalization and gating computations to be repeated unnecessarily.

The Stack Behind GLM-5.3-Flash

The optimizations sit on top of an aggressive serving architecture that Z.ai describes in the post: intra-node tensor parallelism for linear attention and the language model head, the ReplaySSM compute-for-memory trade, W8A8 quantization, mixed-precision cache quantization using INT8, FP8 and BF16 formats, a Layer Split scheme, and an Encode-Prefill-Decode disaggregated architecture that runs the serving stages on separate resources.

The company frames the accumulation of these techniques, discovered and validated largely by the agent itself, as a step toward recursive self-improvement: AI systems improving the infrastructure that makes them faster and cheaper to run, which in turn makes the next round of agent-driven improvement more affordable.

Why It Matters

Inference cost is one of the decisive economics of the AI industry. Labs that can serve frontier-class models at lower cost per token can price aggressively, subsidize agents that make thousands of calls per task, and fund further training runs from serving revenue. Z.ai has been notably aggressive on all three fronts, and the company's interim financial disclosures earlier this year showed revenue growing sharply even as losses narrowed.

The post is also a signal about where lab-side engineering is heading. The traditional division of labor, with human performance engineers tuning kernels and schedulers while models handle user requests, is being replaced at Z.ai by a loop in which the model proposes changes, cheap experiments validate them, and dense feedback directs the next attempt.

Claims of fully autonomous self-improvement should be read with care. The post itself makes clear that human engineers defined the test scenarios, set the acceptance criteria, and built the feedback environments the agent operates within. What the company describes is automation of a well-instrumented optimization loop, not an unsupervised system redesigning itself.

Even so, the direction is clear. If the economics of AI in the next few years are decided by who can serve intelligence cheapest, the labs that teach their models to optimize their own infrastructure may set the pace, and Z.ai wants the industry to know it intends to be one of them.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →