Tencent نے اپنی ہنیوان ٹیم کی طرف سے ایک نیا فلیگ شپ بڑے لینگوئج ماڈل، اوپن سورس Hy4 پیش نظارہ جاری کیا ہے اور کمپنی اوپن سورس فرنٹیئر پر پوزیشن میں ہے۔ یہ وزن 28 اگست کو Huging Face، ModelScope، GitCode، اور CNB پر اجازت دینے والے Apache 2.0 لائسنس کے ساتھ، ایک FP8-کوانٹائزڈ ویرینٹ کے ساتھ سستا اندازہ لگانے کے لیے اترا۔

اس لانچ نے اوپن ویٹ فرنٹیئر ماڈلز بھیجنے والی چینی لیبز کے درمیان مقابلے کو تیز کر دیا ہے، یہ ایک فیلڈ ہے جس میں فی الحال Z.AI کی GLM سیریز اور Moonshot AI کے Kimi ماڈل شامل ہیں۔ بلومبرگ نے رپورٹ کیا کہ ٹینسنٹ کا دعویٰ ہے کہ نیا ماڈل داخلی جانچ میں دونوں حریفوں کو پیچھے چھوڑ دیتا ہے - یہ دعویٰ کہ تمام وینڈرز کے ذریعے چلائے جانے والے جائزوں کی طرح، جانچ پڑتال کا مستحق ہے۔ For more context on this story, see our ongoing breaking AI news.

ہیڈ لائن نمبرز

Hy4 پیش نظارہ ایک مکسچر آف ایکسپرٹس (MoE) ماڈل ہے جس میں کل 770 بلین پیرامیٹرز ہیں، جن میں سے 49 بلین فی ٹوکن ایکٹیویٹ ہوتے ہیں۔ Tencent-Hunyuan GitHub ریپوزٹری پر شائع ہونے والے آفیشل ماڈل کارڈ کے مطابق، ریڑھ کی ہڈی میں 78 پرتیں ہیں، 256 روٹڈ ماہرین کے علاوہ ایک مشترکہ ماہر، اور ہر ٹوکن کے لیے ٹاپ 8 روٹڈ ماہرین کو فعال کرتا ہے۔ ایک مقامی ملٹی ٹوکن پیشن گوئی (MTP) پرت — 10 بلین کل پیرامیٹرز، 0.7 بلین چالو — قیاس آرائی پر مبنی ضابطہ کشائی کے لیے بنایا گیا ہے۔

سیاق و سباق کی کھڑکی دوسری مارکی تصریح ہے: 1 ملین ٹوکنز، ایک لمبائی جو ماڈل کو پورے کوڈ بیس، طویل قانونی دستاویزات، یا ایک ہی پاس میں گھنٹہ طویل میٹنگ ٹرانسکرپٹس پر کارروائی کرنے دیتی ہے۔

فن تعمیر حریفوں سے لیا گیا — اور اس کے اوپر بنایا گیا۔

فلیگ شپ لانچ کے لیے غیر معمولی حد تک صاف گوئی کے ساتھ، Tencent کی دستاویزات میں کہا گیا ہے کہ توجہ کا ماڈیول "DeepSeek اور GLM سے متاثر تھا۔" Hy4 پیش نظارہ Gated DeepSeek Sparse Attention (Gated DSA) کا استعمال کرتا ہے IndexCache کے ساتھ مل کر کراس لیئر اسپارس انڈیکس کے دوبارہ استعمال کے لیے، جبکہ بقایا پاتھ وے انٹر لیئر انفارمیشن فلو کو بڑھانے کے لیے شناخت Hyper-Connections (iHC) کا استعمال کرتا ہے۔

ماڈل کا جائزہ لینے والے ڈویلپرز کے لیے کشادگی اہمیت رکھتی ہے: کم توجہ ہی وہ ہے جو 1M-ٹوکن سیاق و سباق کو اقتصادی طور پر قابل استعمال بناتی ہے، کیونکہ اس لمبائی پر مکمل توجہ ممنوعہ طور پر مہنگی ہو جاتی ہے۔ DeepSeek اور Z.AI دونوں نے اپنے اپنے فلیگ شپ ماڈلز میں اس ڈیزائن کی مختلف قسمیں بھیجی ہیں۔

پیداواری صلاحیت کے لیے بنایا گیا، اندرون خانہ ماہرین کے ساتھ مل کر

Tencent کا کہنا ہے کہ اس نے کمپنی کے اندر ماہرین — سافٹ ویئر انجینئرز، گیم ڈویلپرز، مالیاتی تجزیہ کاروں، اور سیکورٹی ماہرین کے ساتھ شراکت کی اور اس کام کے بارے میں تربیتی ڈیٹا تیار کیا جو وہ اصل میں بھیجتے ہیں۔ ماڈل کارڈ چار فوکس ایریاز کو نمایاں کرتا ہے:

  • سافٹ ویئر انجینئرنگ: طویل افق کے ترقیاتی کاموں پر بہتر منصوبہ بندی، ڈیبگنگ، اور تصدیق، نیز فرنٹ اینڈ "بصری ذائقہ" میں فوائد۔
  • آفس اور تجزیہ: مساوات اور مالیاتی ماڈلز کی مضبوطی سے ہینڈلنگ کے ساتھ ملٹی فائل کے گندے سیاق و سباق کو قابل اشتراک دستاویزات، اسپریڈ شیٹس اور پریزنٹیشنز میں تبدیل کرنا۔
  • گیم ڈویلپمنٹ: ایک ہی پرامپٹ سے کھیلنے کے قابل پروٹو ٹائپس بنانا اور متعدد ریفائنمنٹ موڑوں پر گیم انجن کے ساتھ روانی سے کام کرنا۔
  • سائنسی تحقیق: AI تحقیق، مالیکیولر ڈائنامکس، کنڈینسڈ میٹرز فزکس، اور خالص ریاضی کے مسائل پر پیشرفت کا دعویٰ کیا۔

Tencent کا یہ بھی کہنا ہے کہ Hy4 پیش نظارہ کو اس کی اپنی مصنوعات، CodeBuddy اور WorkBuddy کے ساتھ مل کر ڈیزائن کیا گیا تھا، تاکہ اس ماڈل کے فوائد پروڈکٹ کی بہتری میں بدل جائیں۔

Tencent کے اپنے معیارات کیا دکھاتے ہیں۔

لانچ مواد میں سب سے زیادہ ٹھوس موازنہ ایک اندھا پہلو بہ پہلو جائزہ ہے جس میں 203 انجینئرنگ کاموں پر 163 اندرونی ماہرین کی درجہ بندی کی گئی ہے۔ ان ٹیسٹوں میں، Hy4 پیش نظارہ نے اوسطاً 2.99 اسکور کیا، جو GLM 5.3 کے 2.92 (46.8 فیصد جیت، 12.8 فیصد ٹائی، 40.4 فیصد نقصان) اور Kimi K3 کے 2.94 (51.2 فیصد جیت، 7.9 فیصد نقصان، 90 فیصد نقصان) سے تھوڑا آگے ہے۔

دو انتباہات واضح طور پر بیان کرنے کے قابل ہیں۔ سب سے پہلے، یہ Tencent کے داخلی جائزے ہیں، آزاد معیارات نہیں۔ کمپنی نے ابھی تک عوامی لیڈر بورڈز پر تیسرے تصدیق شدہ نتائج شائع نہیں کیے ہیں۔ دوسرا، مارجن تنگ ہیں — ایک موضوعی ماہر درجہ بندی کے پیمانے پر 0.05 سے 0.07 پوائنٹ کا فرق اس حد کے اندر ہے کہ مختلف درجہ بندی کے پول آسانی سے پلٹ سکتے ہیں۔

آزادانہ توثیق عوامی مجموعوں سے آئے گی کیونکہ کمیونٹی آنے والے ہفتوں میں معیاری کوڈنگ، استدلال، اور ایجنٹ سوٹ کے ذریعے ماڈل چلاتی ہے۔

جلد بھیجنا، معلوم کیڑے کے ساتھ

Tencent واضح ہے کہ یہ ایک پیش نظارہ ہے۔ ماڈل کارڈ میں معلوم حدود کی فہرست دی گئی ہے، جس میں پیچیدہ کاموں کے ذریعے ضروری استدلال سے زیادہ وقت گزارنا اور اپنے کام کی ضرورت سے زیادہ تصدیق کرنے کا رجحان شامل ہے۔ ٹیم کا کہنا ہے کہ وہ "جلد بھیجے گی اور سنے گی کہ کیا ٹوٹتا ہے"، اس نقطہ نظر کا حوالہ دیتے ہوئے جس نے اس کی Hy3 نسل کو بہتر بنایا۔

تعیناتی کے لیے، وزن BF16 اور FP8 دونوں میں دستیاب ہیں، vLLM اور SGLang میں ایک دن کی مدد کے ساتھ۔ Tencent دونوں کے لیے پہلے سے تیار شدہ Docker امیجز شائع کرتا ہے، جس میں 8 GPUs اور MTP پر مبنی قیاس آرائی پر مبنی ڈی کوڈنگ کی سفارش کی گئی ترکیبیں تاخیر سے حساس پیش کرنے کے لیے کرتی ہیں۔ ماڈل کے ساتھ ایک فائن ٹیوننگ پائپ لائن اور AngelSlim کوانٹائزیشن ٹول کٹ جہاز۔

یہ کیوں اہمیت رکھتا ہے۔

چین میں اوپن ویٹ ریس Z.AI کی GLM سیریز اور Moonshot's Kimi ماڈلز کے درمیان دو محاذ جنگ بن گئی ہے، جس میں DeepSeek، Qwen، اور اب ایک بہت بڑے ہنیوان کا میدان میں ہجوم ہے۔ Hy4 پیش نظارہ کا Apache 2.0 لائسنسنگ، 770B-پیرامیٹر اسکیل، اور 1M-ٹوکن سیاق و سباق اس کی حد کو بڑھاتا ہے جو کوئی بھی ڈاؤن لوڈ اور خود میزبانی کرسکتا ہے — اور دن کا پہلا vLLM اور SGLang سپورٹ اسے چلانے میں رکاوٹ کو کم کرتا ہے۔

مغربی بند APIs کے مقابلے میں کھلے ماڈلز کا وزن کرنے والے کاروباری اداروں کے لیے، عملی سوال اب یہ نہیں ہے کہ کیا ایک کھلا ماڈل کاغذ پر بند کارکردگی سے مماثل ہے، لیکن کیا ارد گرد کی ٹولنگ — کوانٹائزیشن، سرونگ، فائن ٹیوننگ — کافی پختہ ہے۔ Tencent شرط لگا رہا ہے کہ اجازت دینے والے لائسنس کے تحت یہ سب ایک ساتھ بھیجنا، اسی طرح ہنیوان بات چیت میں واپس آتا ہے۔

آیا اندرونی بینچ مارک کے دعوے آزاد جانچ کے تحت برقرار ہیں اس بات کا تعین کرے گا کہ آیا Hy4 پیش نظارہ کو ایک حقیقی فرنٹیئر اوپن سورس ریلیز کے طور پر یاد کیا جاتا ہے یا ایک پرہجوم فیلڈ میں کسی اور وینڈر بینچ مارک کے طور پر۔ وزن اب عوامی ہے، اس لیے کمیونٹی کے فیصلے میں زیادہ دیر نہیں لگنی چاہیے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →