کمپنی کے ماڈل کیٹلاگ دستاویزات کے مطابق، Cerebras نے Qwen 3.8 27B کو اپنے Cerebras Inference پلیٹ فارم کے پبلک اینڈ پوائنٹس میں شامل کیا ہے، جہاں اوپن ویٹ ماڈل تقریباً 1,500 ٹوکن فی سیکنڈ پر چلتا ہے۔ لسٹنگ علی بابا کے سب سے زیادہ استعمال ہونے والے اوپن ماڈل فیملیز میں سے ایک کو اس رفتار سے دستیاب بناتی ہے جو عام GPU کی میزبانی کی خدمت کو کم کرتی ہے۔

اس اعلان نے ڈویلپرز کی جانب سے فوری توجہ مبذول کرائی: کہانی نے ایک دن کے اندر ہیکر نیوز پر 600 سے زیادہ پوائنٹس اکٹھے کیے، کرشن کی ایک سطح جو اس بات کی عکاسی کرتی ہے کہ تیز رفتار، سستے تخمینے کی کتنی گرم طلب بن گئی ہے۔ انفرنس مارکیٹ کے وسیع تر نظارے کے لیے، بریکنگ AI نیوز ڈیسک ہر بڑے پلیٹ فارم کی اپ ڈیٹ کی پیروی کرتا ہے جیسے ہی وہ اترتا ہے۔

کیٹلاگ پر چشمی

فی سیریبراس کی دستاویزات، Qwen 3.8 27B میں 27 بلین پیرامیٹرز ہیں اور فری ٹائر پر 64K ٹوکنز آف سیاق و سباق کی حمایت کرتا ہے اور ادا شدہ ٹائرز پر 128K، تقریباً 1,500 ٹوکن فی سیکنڈ پر چلتا ہے۔ یہ OpenAI کے اوپن-ویٹ GPT-OSS 120B ماڈل کے ساتھ بیٹھتا ہے، جس کی فہرست تقریباً 3,000 ٹوکن فی سیکنڈ کے ساتھ مفت درجے پر 65K اور ادا شدہ سطحوں پر 131K کے ساتھ ہے۔

دونوں ماڈلز Cerebras کے مفت ٹرائل اور ادائیگی کے طور پر جانے والے درجات پر دستیاب ہیں، شرح کی حدود کے ساتھ۔ جن صارفین کو ریزروڈ صلاحیت، زیادہ تھرو پٹ یا پروڈکشن SLAs کی ضرورت ہوتی ہے انہیں کمپنی کی ڈیڈیکیٹڈ اینڈ پوائنٹس کی پیشکش کی طرف بھیج دیا جاتا ہے، جسے دستاویزات میں عوامی اینڈ پوائنٹس پر دو سے آگے اضافی ماڈل فیملیز کے راستے کے طور پر بھی درج کیا گیا ہے۔

رفتار کے اعداد و شمار کے ساتھ سیاق و سباق کی ونڈوز توجہ کے مستحق ہیں۔ مفت درجے پر چونسٹھ ہزار ٹوکنز - اور ادائیگی پر 128,000 - ایک ہی وقت میں بڑے کوڈ بیسز، طویل دستاویزات یا توسیع شدہ ایجنٹ ٹرانسکرپٹس کو میموری میں رکھنے کے لیے کافی ہیں، جو کام کے عین بوجھ کے لیے اہمیت رکھتا ہے جہاں تیزی سے ضابطہ کشائی کی ادائیگی ہوتی ہے۔ سیریبراس کی دستاویزات میں ایک OpenAI کمپیٹیبلٹی گائیڈ بھی شامل ہے، جو ٹیموں کے لیے سوئچنگ لاگت کو کم کرتا ہے جن کا موجودہ کوڈ پہلے سے ہی OpenAI SDK کو نشانہ بناتا ہے: اصولی طور پر، کسی موجودہ کلائنٹ کو Cerebras اینڈ پوائنٹ پر اشارہ کرنا دوبارہ لکھنے کے بجائے کنفیگریشن تبدیلی ہے۔

بغیر کٹے ہوئے ماڈلز، شفاف کمپریشن

دستاویزات میں قابل توجہ ایک تفصیل Cerebras کا انکشاف ہے کہ یہ ماڈل کمپریشن کو کیسے ہینڈل کرتا ہے۔ کمپنی کا کہنا ہے کہ اس کے پبلک اینڈ پوائنٹس پر موجود تمام ماڈلز اصلی، غیر منقطع ورژنز ہیں، اور یہ کہ معیار کو برقرار رکھنے کے لیے یہ صرف سٹوریج کے دوران منتخب وزن کی مقدار کا استعمال کرتی ہے۔ حساس پرتیں پوری درستگی پر رہتی ہیں، ایکٹیویشن، توجہ اور KV کیشے غیر مقدار میں رہتے ہیں، اور اڑتے ہی ناکارہ ہو جاتا ہے۔

سیریبراس نے اپنی تحقیق کو کٹائی کی تکنیکوں جیسے کہ REAP (راؤٹر-ویٹڈ ایکسپرٹ ایکٹیویشن پروننگ) میں بھی ظاہر کیا: کٹائی کی مختلف قسمیں Hugging Face پر ریسرچ کمیونٹی کے ساتھ شیئر کی جاتی ہیں لیکن عوامی API کے ذریعے پیش نہیں کی جاتی ہیں۔ کھلے ماڈلز کو کہاں چلانے کا انتخاب کرنے والے ڈویلپرز کے لیے، جو کچھ پیش کیا جا رہا ہے اس کے بارے میں شفافیت غیر معمولی طور پر واضح ہے۔

ٹوکن کی رفتار کیوں اہمیت رکھتی ہے۔

اس طرح کے تھرو پٹ نمبر ایجنٹ اور کوڈنگ ورک بوجھ کے لیے سب سے زیادہ اہمیت رکھتے ہیں۔ ایپلی کیشنز جو سیکڑوں ماڈل کالز کا سلسلہ کرتی ہیں — کوڈنگ ایجنٹس، خود مختار ورک فلوز، ریئل ٹائم اسسٹنٹ — ہر قدم پر فی ٹوکن لیٹینسی کو ضرب دیتے ہیں، اس لیے 50 اور 1,500 ٹوکن فی سیکنڈ کمپاؤنڈز کے درمیان فرق کوالٹی کے لحاظ سے مختلف تجربہ میں بدل جاتا ہے۔ انٹرایکٹو ایپلی کیشنز جو طویل تکمیل کو آگے بڑھاتی ہیں سب سے زیادہ فائدہ اٹھاتی ہیں۔

تجارت کا دائرہ کار ہے۔ ایک 27-بلین پیرامیٹر ماڈل سخت ترین استدلال کے کاموں پر فرنٹیئر سسٹم سے مماثل نہیں ہوگا، اور Cerebras کے اپنے دستاویزات بھاری پیداواری کام کے بوجھ کو وقف صلاحیت کی طرف لے جاتے ہیں۔ لیکن کاموں کے بڑے درمیانی میدان کے لیے جہاں درمیانے سائز کے کھلے ماڈل پہلے ہی کافی اچھے ہیں — خلاصہ، درجہ بندی، ٹول کا استعمال، کوڈ ایڈیٹنگ — رفتار فرق کرنے والا بن جاتا ہے۔

ایک قیمت طول و عرض ڈویلپرز وزن کریں گے بھی ہے. پبلک اینڈ پوائنٹ ماڈلز کسی بھی وابستگی سے پہلے مفت ٹرائل پر قابل استعمال ہوتے ہیں، جو ٹیم کے اپنے کام کے بوجھ کے خلاف بینچ مارکنگ کو بنیادی طور پر رگڑ سے پاک بناتا ہے - ایک جان بوجھ کر آن ریمپ جو انٹرپرائز کے معاہدوں سے متصادم ہے جس میں پہلا ٹوکن پیش کرنے سے پہلے سیلز کی بات چیت کی ضرورت ہوتی ہے۔ دستاویزی شرح کی حدیں دیکھنے میں رکاوٹ ہیں: رفتار کو ثابت کرنے کے لیے مفت درجے کی رسائی موجود ہے، پیداواری ٹریفک چلانے کے لیے نہیں۔

کھلے ماڈلز کے لیے ایک مصروف اسٹریچ

اس کے علاوہ کھلے وزن والے AI کے لیے بھیڑ بھرے اسٹریچ کے دوران اترتا ہے۔ UAE میں مقیم لیب IFM نے ابھی K2 Horizon متعارف کرایا ہے، جو چھ مکمل طور پر کھلے ماڈلز کا ایک منسلک بیڑا ہے، اور Meta نے کوڈنگ اور ایجنٹ کے استعمال کے لیے اپنے Muse خاندان کو دہرانا جاری رکھا ہوا ہے۔ دریں اثنا، چین میں اوپن ماڈل ماحولیاتی نظام اس رفتار سے ترسیل جاری رکھے ہوئے ہے جس نے پوری صنعت میں ریلیز سائیکل کو کمپریس کیا ہے۔

ڈویلپرز کے لیے، عملی فائدہ یہ ہے کہ اوپن ماڈل اسٹیک ایک ساتھ دو محاذوں پر پختہ ہو رہا ہے: قابلیت، کیونکہ درمیانے سائز کے ماڈلز روزمرہ کے کاموں میں فلیگ شپ کے ساتھ فرق کو بند کر دیتے ہیں، اور معاشیات کی خدمت کرتے ہیں، جیسا کہ خصوصی تخمینہ فراہم کرنے والے خام رفتار پر مقابلہ کرتے ہیں۔ Cerebras پر Qwen 3.8 27B دونوں رجحانات کے لیے ایک ڈیٹا پوائنٹ ہے — ایک موجودہ نسل کا کھلا ماڈل اس رفتار پر پیش کیا جاتا ہے جو ایک سال پہلے غیر ملکی تھا، ہارڈ ویئر کے مقصد سے کام کے لیے بنایا گیا تھا۔

پلیٹ فارم کا جائزہ لینے والے ڈویلپرز کو اپنے کام کے بوجھ کو بینچ مارک کرنا چاہیے: شائع شدہ رفتار کیٹلاگ کے اعداد و شمار ہیں، حقیقی دنیا کا تھرو پٹ فوری لمبائی، ہم آہنگی اور ترتیب پر منحصر ہے، اور مفت درجے کی شرح کی حدیں اس کی رفتار سے پہلے ہی پابند ہوں گی۔

AI سے آگے رہیں

ہر ماڈل کی ریلیز، انفرنس پلیٹ فارم اپ ڈیٹ اور ڈویلپر ٹول لانچ، جیسا کہ یہ ہوتا ہے ٹریک کیا جاتا ہے — مزید AI خبریں پڑھیں →