چینی AI لیب Z.ai نے ایک تفصیلی تکنیکی اکاؤنٹ شائع کیا ہے کہ کس طرح اس نے GLM ماڈلز کو ان سسٹمز کو بہتر بنانے کے لیے سیٹ کیا ہے جو ان کی خدمت کرتے ہیں، ایک "انفرا ایجنٹ" کی وضاحت کرتے ہیں جو محدود انسانی مداخلت کے ساتھ کمپنی کے انفراسٹرکچر میں کارکردگی کی رکاوٹوں کو تلاش کرتا ہے اور ان کو دور کرتا ہے۔

بلاگ پوسٹ، جس کا عنوان ہے "بار بار آنے والی خود کو بہتر بنانے کی طرف: کس طرح GLM نے اپنا انفرنس انفراسٹرکچر بنایا،" بدھ کو کمپنی کی سائٹ پر آیا اور تیزی سے ہیکر نیوز پر سب سے زیادہ زیر بحث ٹیکنالوجی کہانیوں میں سے ایک بن گیا، جہاں اس نے ڈویلپر کمیونٹی سے 200 سے زیادہ پوائنٹس حاصل کیے۔ For more context on this story, see our ongoing AI industry coverage.

"جیسا کہ ہم GLM تیار کرتے ہیں، ماڈل بعض اوقات ایسی صلاحیتوں کی نمائش کرتا ہے جو ہمیں حیران کر دیتی ہیں، اور یہاں تک کہ ہمیں پریشان کر دیتی ہیں،" کمپنی نے پوسٹ کی ابتدائی لائنوں میں لکھا۔

سائبرسیکیوریٹی ریسرچ سے لے کر خود کو بہتر بنانے والے نظام تک

کام کا پتہ اکتوبر 2025 سے ملتا ہے، جب Z.ai نے GLM کی سائبرسیکیوریٹی صلاحیتوں کو مضبوط کرنے کے طریقے پر تحقیق شروع کی۔ کمپنی کا کہنا ہے کہ استدلال سیدھا تھا: سائبرسیکیوریٹی کوڈنگ کی ایک فطری توسیع ہے، اور وہ ماڈل جو بڑے کوڈبیس کو نیویگیٹ کر سکتے ہیں آخر کار نچلے درجے کے سسٹم کوڈ کو نیویگیٹ کر سکتے ہیں جس سے زیادہ تر انجینئرز گریز کرتے ہیں۔

وہ بنیاد کچھ زیادہ مہتواکانکشی میں تیار ہوئی۔ ماڈلز کو محض کوڈ لکھنے کے لیے استعمال کرنے کے بجائے، Z.ai سسٹم انجینئرنگ کے ایک سوال کا جواب دینے کے لیے نکلا: کیا کوئی AI ایجنٹ پروڈکشن انفرنس اسٹیک، سافٹ ویئر اور ہارڈویئر کوآرڈینیشن لیئر کی کارکردگی کی ذمہ داری لے سکتا ہے جو ماڈل کے وزن کو تیز، سستے ردعمل میں بدل دیتا ہے؟

کمپنی کے جواب میں اس مسئلے کی اصلاح کرنا شامل ہے۔ پوسٹ کا استدلال ہے کہ اکیلے اختتام سے آخر تک میٹرکس ایک اصلاح کرنے والے ایجنٹ کی رہنمائی نہیں کر سکتے۔ ایک رپورٹ جس میں ٹائم ٹو فرسٹ ٹوکن میں 30 فیصد اضافہ ہوا ہے یا آؤٹ پٹ تھرو پٹ میں 20 فیصد کمی آئی ہے وہ ایک ایجنٹ کو بتاتی ہے کہ کچھ خراب ہوا ہے، لیکن یہ نہیں کہ کون سی پرت ذمہ دار ہے، اس کا مفروضہ کیوں ناکام ہو گیا، یا آگے کیا جانچنا ہے۔

"ہم ویرل آخر سے آخر تک کے نتائج کو ٹھیک دانے دار، منسوب انجینئرنگ فیڈ بیک میں کیسے تبدیل کرتے ہیں جو براہ راست اگلی کارروائی کی رہنمائی کرتا ہے؟" کمپنی اس سوال کو پوری کوشش کی کلید کے طور پر بیان کرتے ہوئے پوسٹ میں پوچھتی ہے۔

ایجنٹ کے پڑھنے کے قابل فیڈ بیک کے لیے تین اصول

Z.ai کا جواب ایک فیڈ بیک ڈسپلن ہے جو تین خصوصیات پر بنایا گیا ہے۔ سب سے پہلے، فیڈ بیک کافی حد تک مقامی ہونا چاہیے، مخصوص انجن لانچ پیرامیٹرز، کوڈ کی تبدیلیوں، کرنل، ان پٹ کنڈیشنز، تھریڈز، ایگزیکیوشن وقفے، یا کوڈ پاتھ سے منسلک ہونا چاہیے، تاکہ ایجنٹ کسی بھی مسئلے کا دائرہ کم کر سکے۔ دوسرا، اسے حاصل کرنے کے لیے سستا اور بروقت ہونا چاہیے: کرنل ٹیسٹ یا مقامی مائیکرو بینچ مارک کے ذریعے قابل جواب سوال کے لیے مکمل سروس کی تعیناتی کی ضرورت نہیں ہونی چاہیے۔ تیسرا، توثیق کو موجودہ مفروضے سے مماثل ہونا چاہیے، ہر تجربے کے ساتھ ایک مقررہ ترتیب کی پیروی کرنے کے بجائے ایک مخصوص سوال کا جواب دینے کے لیے ڈیزائن کیا گیا ہے۔

کمپنی کا کہنا ہے کہ یہ گھنے فیڈ بیک لوپ ہی ہے جو انفرا ایجنٹ کو انجینئرز کے لیے خود کار طریقے سے کام کرنے والے کم اور ایک ساتھی کی طرح برتاؤ کرنے کی اجازت دیتا ہے جو راتوں رات تجربات چلا سکتا ہے۔

تین کیس اسٹڈیز، عدد سے لے کر تھریڈنگ بگ تک

پوسٹ GLM-5.3-Flash کے لیے کمپنی کے سرونگ اسٹیک کی اصلاح سے تین ٹھوس اقساط سے گزرتی ہے، جو اوپن ویٹ ماڈل Z.ai اگست میں MIT لائسنس کے تحت جاری کیا گیا تھا۔

پہلے میں درستگی شامل ہے۔ چونکہ انفرنس آپٹیمائزیشن میں ردوبدل ہوتا ہے کہ کس طرح کمپیوٹیشن کو متوازی کیا جاتا ہے، ایجنٹ کو اس بات کی تصدیق کرنے کی ضرورت ہوتی ہے کہ دانا تقسیم شدہ اور غیر تقسیم شدہ حالات میں ایک جیسے نتائج پیدا کرتے ہیں۔ ایک معاملے میں، ٹیم نے اعلیٰ درست نتیجہ پیدا کرنے کے لیے تین TF32 ٹینسر کور آپریشنز کو ملایا، جس سے ٹینسر کور کی کارکردگی کے زیادہ تر فوائد کو محفوظ رکھتے ہوئے جمع شدہ عددی غلطی کو کم کیا گیا۔ تقسیم کی حکمت عملیوں کے درمیان تقابلی جانچ نے ان تضادات کو بے نقاب کیا جنہوں نے درست کرنے کی ترغیب دی۔

دوسری ایک سسٹم ڈیبگنگ کہانی ہے جو کسی بھی پرفارمنس انجینئر کو واقف محسوس ہوگی۔ قبولیت کے معیار کا تقاضہ ہے کہ KV کیش ٹرانسفر کو سرونگ پاتھ میں شامل کرنے سے ایک جیسے کام کے بوجھ کے تحت پری فل کی کارکردگی کو 5 فیصد سے زیادہ کم نہیں کرنا چاہیے۔ ایجنٹ نے پایا کہ کچھ منظرناموں میں فرق 20 فیصد سے تجاوز کر گیا، جس نے تفتیش کو خود KV ٹرانسفر کے ہم آہنگی کے رویے تک محدود کر دیا۔ عمل درآمد کی ٹائم لائنز کی جانچ کرتے ہوئے، ایجنٹ نے ایک بے ضابطگی کی نشاندہی کی: مسئلہ کے منظرناموں میں، پائیتھون سائیڈ KV ٹرانسفر ایگزیکیوشن ڈیپ ای پی کمیونیکیشن لائبریری کے ڈسپیچ اور یکجا وقفوں کے ساتھ کبھی بھی اوورلیپ نہیں ہوا۔ طے یہ تھا کہ متعلقہ C++ عملدرآمد کے وقفوں کے دوران Python کے عالمی مترجم لاک کو جاری کیا جائے، جس سے Mooncake، KV کیش اسٹور کو پیش کرنے والے ٹرانسفر تھریڈ کو حساب کے ساتھ متوازی طور پر آگے بڑھنے کی اجازت دی جائے۔ کارکردگی کا فرق بعد میں قبولیت کی حد کے اندر گر گیا۔

تیسری قسط تکراری کرنل ٹیوننگ کو دکھاتی ہے۔ ReplaySSM متعارف کرایا جا رہا ہے، ایک تکنیک جو میموری کے لیے کمپیوٹ کی تجارت کرتی ہے، ابتدائی طور پر KDA ڈی کوڈ کرنل کے عمل درآمد کے وقت میں اضافہ کرتی ہے۔ ایجنٹ کے ڈویژن کی اصلاح نے پھر دانا کے عمل درآمد کے وقت کو 9.6 فیصد تک کم کردیا۔ یہ رائے موصول ہونے کے بعد کہ کمپیوٹیشن بنیادی رکاوٹ بنی ہوئی ہے، ایجنٹ نے V طول و عرض کے ساتھ ٹائل شدہ اصل نفاذ کو دریافت کیا، جس کی وجہ سے یکساں FP32 نارملائزیشن اور گیٹنگ کمپیوٹیشن کو غیر ضروری طور پر دہرایا گیا۔

GLM-5.3-Flash کے پیچھے اسٹیک

اصلاح ایک جارحانہ خدمت کرنے والے فن تعمیر کے اوپری حصے پر بیٹھتی ہے جسے Z.ai پوسٹ میں بیان کرتا ہے: لکیری توجہ اور لینگویج ماڈل ہیڈ کے لیے انٹرا نوڈ ٹینسر متوازی، ReplaySSM کمپیوٹ فار میموری ٹریڈ، W8A8 کوانٹائزیشن، مخلوط-پریسیژن کیشے کوانٹائزیشن کا استعمال کرتے ہوئے INT1Lit اور BF88 کے لیے اسکیم، اور ایک Encode-Prefill-Decode الگ الگ فن تعمیر جو الگ وسائل پر سرونگ کے مراحل چلاتا ہے۔

کمپنی ان تکنیکوں کے جمع کرنے کا فریم بناتی ہے، جو خود ایجنٹ کے ذریعہ دریافت اور توثیق کی جاتی ہے، ایک قدم کے طور پر خود کو دوبارہ پیدا کرنے کی طرف ایک قدم کے طور پر: AI سسٹمز بنیادی ڈھانچے کو بہتر بناتے ہیں جو انہیں چلانے کے لیے تیز اور سستا بناتا ہے، جس کے نتیجے میں ایجنٹ سے چلنے والی بہتری کا اگلا دور زیادہ سستی ہوتا ہے۔

یہ کیوں اہمیت رکھتا ہے۔

تخمینہ لاگت AI صنعت کی فیصلہ کن معاشیات میں سے ایک ہے۔ وہ لیبز جو فرنٹیئر کلاس ماڈلز کو فی ٹوکن کم قیمت پر پیش کر سکتی ہیں وہ جارحانہ طور پر قیمتیں لگا سکتی ہیں، ایسے ایجنٹوں کو سبسڈی دے سکتی ہیں جو فی ٹاسک ہزاروں کالیں کرتے ہیں، اور مزید ٹریننگ کے لیے فنڈز فراہم کر کے ریونیو سے چلتی ہیں۔ Z.ai تینوں محاذوں پر خاص طور پر جارحانہ رہا ہے، اور اس سال کے شروع میں کمپنی کے عبوری مالیاتی انکشافات نے نقصانات کم ہونے کے باوجود آمدنی میں تیزی سے اضافہ دکھایا۔

یہ پوسٹ ایک اشارہ بھی ہے کہ لیب سائیڈ انجینئرنگ کہاں جا رہی ہے۔ لیبر کی روایتی تقسیم، جس میں انسانی کارکردگی کے انجینئرز کرنل اور شیڈولرز کو ٹیوننگ کرتے ہیں جبکہ ماڈلز صارف کی درخواستوں کو ہینڈل کرتے ہیں، کو Z.ai میں ایک لوپ سے تبدیل کیا جا رہا ہے جس میں ماڈل تبدیلیاں تجویز کرتا ہے، سستے تجربات ان کی توثیق کرتے ہیں، اور گھنے تاثرات اگلی کوشش کی ہدایت کرتے ہیں۔

مکمل طور پر خود مختار خود کی بہتری کے دعووں کو احتیاط سے پڑھنا چاہیے۔ پوسٹ خود واضح کرتی ہے کہ انسانی انجینئرز نے ٹیسٹ کے منظرناموں کی وضاحت کی، قبولیت کے معیارات مرتب کیے، اور فیڈ بیک کے ماحول کو بنایا جس کے اندر ایجنٹ کام کرتا ہے۔ کمپنی جس چیز کی وضاحت کرتی ہے وہ ایک اچھی طرح سے آلات سے چلنے والے آپٹیمائزیشن لوپ کی آٹومیشن ہے، نہ کہ کوئی غیر زیر نگرانی نظام خود کو دوبارہ ڈیزائن کرتا ہے۔

اس کے باوجود سمت واضح ہے۔ اگر اگلے چند سالوں میں AI کی معاشیات کا فیصلہ کیا جاتا ہے کہ کون انٹیلی جنس کو سب سے سستا فراہم کر سکتا ہے، تو وہ لیبز جو اپنے ماڈلز کو اپنے بنیادی ڈھانچے کو بہتر بنانا سکھاتی ہیں، رفتار طے کر سکتی ہیں، اور Z.ai چاہتا ہے کہ صنعت کو معلوم ہو کہ وہ ان میں سے ایک بننے کا ارادہ رکھتی ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →