Cloudflare نے ایک تفصیلی واقعہ کی رپورٹ شائع کی ہے جس میں بتایا گیا ہے کہ کس طرح اس کے سرور لیس AI پلیٹ فارم میں کیش ہینڈلنگ بگ کی وجہ سے GLM-5.3 ماڈل کی تعیناتی کے کم از کم 155 صارفین کو دوسرے صارفین کے اشارے اور آؤٹ پٹ کے ٹکڑوں پر مشتمل جوابات موصول ہوئے۔ رپورٹ، 26 اکتوبر کو SGLang اوپن سورس انفرنس انجن پروجیکٹ کے ساتھ ایک مربوط انکشاف کے طور پر شائع ہوئی، ملٹی ٹیننٹ LLM سرونگ کے پلمبنگ کے اندر ایک نایاب عوامی منظر پیش کرتی ہے — اور GPU میموری کے حفاظتی مفروضوں کے بارے میں ایک انتباہ۔

لیک کیسے ملی؟ For more context on this story, see our ongoing more AI stories.

Cloudflare کے مطابق، Knostic کے سیکورٹی ریسرچر Gadi Evron نے 8 ستمبر 2026 کو اپنے HackerOne بگ باؤنٹی پروگرام کے ذریعے کمپنی کو الرٹ کیا۔ Evron نے اطلاع دی ہے کہ Cloudflare کے ورکرز AI پلیٹ فارم پر GLM-5.3 ماڈل کو بھیجے گئے بہت طویل اشارے بعض اوقات دوسرے صارفین کے سیشنز سے تعلق رکھنے والے متن کو واپس کرتے ہیں۔ Cloudflare نے اگلی صبح اس مسئلے کو دوبارہ پیش کیا اور اسی دن ماڈل کو غیر فعال کر دیا، اسے درست کرنے کے بعد 9 ستمبر کو بحال کر دیا۔

متاثرہ ماڈل @cf/zai-org/glm-5.3 تھا — Z.ai کا ایجنٹ کوڈنگ ماڈل جسے Cloudflare کمپنی کے سرور لیس انفرنس پلیٹ فارم ورکرز AI کے ذریعے کام کرتا ہے۔ Cloudflare نے تصدیق کی کہ پلیٹ فارم پر میزبانی کرنے والا کوئی دوسرا ماڈل متاثر نہیں ہوا۔

اصل میں کیا ہوا؟

واقعہ دو اوور لیپنگ مسائل کی طرف اشارہ کرتا ہے، ایک آپریشنل اور ایک انجن میں۔

سب سے پہلے، غلط کنفیگریشن۔ Cloudflare نے GLM-5.3 کو 1,048,576 ٹوکن سیاق و سباق کی ونڈو کے ساتھ تعینات کیا، لیکن اس کے پری فل GPUs پر کلیدی قدر (KV) کیش پول میں صرف 681,280 ٹوکنز کی گنجائش تھی۔ کمپنی نے تسلیم کیا کہ وہ لانچ سے پہلے اس مماثلت سے واقف تھی اور توقع کرتی تھی کہ انفرنس انجن زیادہ لمبائی کی درخواستوں کو محفوظ طریقے سے مسترد کر دے گا۔

دوسرا، انجن کی خرابی۔ الگ الگ پری فل/ڈی کوڈ موڈ میں — آرکیٹیکچر ورکرز AI استعمال کرتا ہے، جس میں GPUs کا ایک پول پرامپٹ پر کارروائی کرتا ہے اور نتیجے میں KV کیش کو GPUs کے ایک علیحدہ پول میں دیتا ہے جو ردعمل پیدا کرتا ہے — SGLang نے زیادہ لمبائی کی درخواست کو غلط طریقے سے ہینڈل کیا۔ ایک پرامپٹ جو پول میں فٹ نہیں تھا اسے داخلی طور پر مسترد شدہ کے بطور نشان زد کیا گیا تھا اور اسے ایک ٹوکن پلیس ہولڈر سے تبدیل کر دیا گیا تھا۔ لیکن درخواست کو ختم کرنے اور کلائنٹ کی غلطی کو واپس کرنے کے بجائے، پری فل اسٹیج نے پلیس ہولڈر پرامپٹ کے لیے KV کیش تیار کیا اور اسے ڈی کوڈ نوڈ میں منتقل کر دیا، جس نے پھر ایک ایسا ردعمل پیدا کیا جو پچھلے درخواستوں کے بچ جانے والے ڈیٹا میں اسی میموری کے صفحات کا اشتراک کرنے کے لیے ملایا گیا۔

نتیجہ: 27 اگست اور 9 ستمبر کے درمیان، ماڈل استعمال کرنے والے صارفین کی ایک چھوٹی سی تعداد نے دوسرے صارفین کی درخواستوں کے ڈیٹا پر مشتمل جوابات حاصل کیے جو ان سے کچھ دیر پہلے کی گئی تھیں۔ مجموعی طور پر، 155 جوابات متاثر ہوئے - سبھی، Cloudflare نے پایا، 681,280 ٹوکنز سے زیادہ لمبا اشارہ کرنے کے لیے۔

جان بوجھ کر استحصال کا کوئی ثبوت نہیں۔

Cloudflare نے کہا کہ اس کی اپنی جانچ اور محقق کی توثیق کی درخواستوں کو چھوڑنے کے بعد، متاثرہ درخواستیں طویل سیاق و سباق کے عام استعمال کے ساتھ وقت اور حجم میں مطابقت رکھتی تھیں، اور کمپنی کو کوئی ثبوت نہیں ملا کہ کسی نے جان بوجھ کر اس مسئلے کا استحصال کیا ہے۔ چونکہ ہر متاثرہ درخواست انڈرسائزڈ پول کی گنجائش سے زیادہ تھی، اس لیے ایکسپوزر ونڈو کو مضبوطی سے باندھ دیا گیا تھا - ایک سلور استر جو بہت غلط کنفیگریشن سے پیدا ہوتا ہے جس کی وجہ سے مسئلہ پیدا ہوا۔

درست کریں: بڑے تالاب اور ایک محفوظ ناکامی کا راستہ

تدارک نے ناکامی کی دونوں تہوں پر کام کیا۔ Cloudflare نے اپنی GLM-5.3 کی تعیناتی کو اپنی GLM-5.2 کنفیگریشن سے مماثل بنانے کے لیے دوبارہ ترتیب دیا، کافی GPU میموری کو آزاد کیا کہ پری فل KV پول میں اب تقریباً 2.04 ملین ٹوکنز ہیں — جو ماڈل کی 1,048,576 ٹوکن سیاق و سباق کی لمبائی سے تقریباً دوگنا ہے۔ ایک پرامپٹ جو سیاق و سباق کی کھڑکی میں فٹ بیٹھتا ہے اب ہمیشہ پول میں فٹ بیٹھتا ہے۔

لیکن کمپنی نے اس بات پر بھی زور دیا کہ اکیلے پول کے سائز پر انحصار کرنا نازک ہے: کوانٹائزیشن، ٹینسر متوازی، CUDA گراف سائز، یا مستقبل کے ماڈل ورژن میں تبدیلی پول کے سائز کو خاموشی سے تبدیل کر سکتی ہے۔ لہذا اس نے SGLang کے مسترد ہونے کے راستے کو خود بھی پیچ کیا، اس بات کو یقینی بناتے ہوئے کہ مسترد شدہ درخواست پلیس ہولڈر کے لیے کیشے بنانے اور منتقل کرنے کے بجائے صاف طور پر اسقاط ہوجاتی ہے۔ ماڈل کو بحال کرنے سے پہلے دونوں تبدیلیوں کو محقق کے ری پروڈکشن اسکرپٹ اور Cloudflare کے اپنے کینری مارکر ٹیسٹوں کے خلاف توثیق کیا گیا تھا، اور اصلاحات کو SGLang مینٹینرز کو اوپر کی طرف تعاون دیا گیا ہے۔

کیوں مشترکہ GPU میموری ایک سیکیورٹی سوال ہے۔

رپورٹ ایک ایسی مشق کی وضاحت کرتی ہے جو بہت سے ایپلیکیشن ڈویلپرز کو حیران کر دے گی: انفرنس انجن عام طور پر درخواستوں کے درمیان KV کیشے والے صفحات کو صفر نہیں کرتے، کیونکہ اگلی درخواست انہیں صرف اوور رائٹ کر دیتی ہے۔ یہ جان بوجھ کر کارکردگی کی تجارت ہے، جو تمام قیاس انجنوں میں عام ہے، لیکن جیسا کہ یہ واقعہ ظاہر کرتا ہے، کوئی بھی راستہ جو ان صفحات کو مکمل طور پر اوور رائٹ کرنے سے پہلے ردعمل پیدا کرنے دیتا ہے، کارکردگی کی اصلاح کو ڈیٹا لیک ویکٹر میں بدل دیتا ہے۔

یہ انکشاف ڈویلپر کمیونٹی کے ساتھ ہوا: کہانی چند گھنٹوں کے اندر ہیکر نیوز پر 123 پوائنٹس تک پہنچ گئی، جس میں اس بات پر توجہ مرکوز کی گئی کہ ناکامی کا موڈ کس طرح ہے — ایک درخواست جسے کرپٹ حالت پر خاموشی سے آگے بڑھنے کے بجائے زور سے ناکام ہونا چاہیے تھا — تقسیم شدہ نظام انجینئرنگ کے کلاسک اسباق کی عکاسی کرتا ہے۔

AI انفراسٹرکچر کے لیے ایک وسیع تر سبق

یہ واقعہ ایک یاددہانی ہے کہ AI ایپلی کیشنز کے لیے سیکورٹی کا دائرہ اب انفراسٹرکچر تک گہرائی تک پھیلا ہوا ہے۔ ملٹی کرایہ دار ماڈل پیش کرنے والے بہت سے صارفین کے ڈیٹا کو مشترکہ ایکسلریٹر، مشترکہ کیش پولز، اور تیزی سے غیر ملکی فن تعمیرات جیسے الگ الگ پری فل اور ریموٹ ڈائریکٹ میموری تک رسائی کے ذریعے مرکوز کرتا ہے۔ ماڈل کی مشتہر سیاق و سباق کی کھڑکی اور اسے پیش کرنے کے لیے فراہم کردہ جسمانی صلاحیت کے درمیان ایک لطیف مماثلت کرایہ دار کی تنہائی کی خلاف ورزی کے لیے کافی تھی۔

سرور لیس AI پلیٹ فارمز پر تعمیر کرنے والے کاروباری اداروں کے لیے، Cloudflare کی رپورٹ سے فائدہ دوگنا ہے: LLM سرونگ میں کرایہ دار الگ تھلگ کیڑے حقیقی ہیں اور پہلے ہی پیداوار میں ہو چکے ہیں، اور دکانداروں کا جوابی وقت — رپورٹ سے 24 گھنٹے سے کم، ٹھیک کرنے اور بحال کرنے کے لیے ایک دن — کسی بھی پروسیسرز فراہم کرنے والے سے مطالبہ کرنے کے لیے مستعدی کا معیار ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →