Tencent ने रिलीझ केले आहे आणि ओपन-सोर्स्ड Hy4 पूर्वावलोकन, त्याच्या Hunyuan टीमकडून एक नवीन फ्लॅगशिप मोठ्या भाषेचे मॉडेल आहे जे कंपनी ओपन-सोर्स फ्रंटियरवर स्थानबद्ध आहे. स्वस्त अनुमानासाठी FP8-क्वांटाइज्ड व्हेरिएंटसह, अनुज्ञेय Apache 2.0 लायसन्स अंतर्गत 28 ऑगस्ट रोजी वजने Hugging Face, ModelScope, GitCode आणि CNB वर उतरली.

लॉन्चमुळे ओपन-वेट फ्रंटियर मॉडेल्सची शिपिंग करणाऱ्या चिनी लॅब्समधील स्पर्धा तीव्र झाली आहे, ज्यामध्ये सध्या Z.AI ची GLM मालिका आणि Moonshot AI चे किमी मॉडेल समाविष्ट आहेत. ब्लूमबर्गने नोंदवले की टेनसेंटने दावा केला आहे की नवीन मॉडेल अंतर्गत चाचणीमध्ये दोन्ही प्रतिस्पर्ध्यांना मागे टाकते - असा दावा की, सर्व विक्रेत्या-चालित मूल्यांकनांप्रमाणेच, छाननीस पात्र आहे. For more context on this story, see our ongoing AI industry coverage.

मथळा क्रमांक

Hy4 पूर्वावलोकन हे 770 अब्ज एकूण पॅरामीटर्ससह एक मिश्रण-ऑफ-एक्सपर्ट (MoE) मॉडेल आहे, ज्यापैकी 49 अब्ज प्रति टोकन सक्रिय केले जातात. Tencent-Hunyuan GitHub रेपॉजिटरी वर प्रकाशित अधिकृत मॉडेल कार्ड नुसार, पाठीच्या कणामध्ये 78 स्तर आहेत, 256 रूट केलेले तज्ञ आणि एक सामायिक तज्ञ आहेत आणि प्रत्येक टोकनसाठी टॉप-8 रूट केलेले तज्ञ सक्रिय करतात. एक मूळ मल्टी-टोकन अंदाज (MTP) स्तर — 10 अब्ज एकूण पॅरामीटर्स, 0.7 अब्ज सक्रिय — सट्टा डिकोडिंगसाठी अंतर्निहित आहे.

संदर्भ विंडो ही इतर मार्की स्पेसिफिकेशन आहे: 1 दशलक्ष टोकन, एक लांबी जी मॉडेलला संपूर्ण कोडबेस, लांब कायदेशीर दस्तऐवज किंवा तासभराच्या मीटिंग ट्रान्सक्रिप्टवर एकाच पासमध्ये प्रक्रिया करू देते.

वास्तुकला प्रतिस्पर्ध्यांकडून उधार घेतलेली आहे — आणि त्याच्या वर बांधली आहे

फ्लॅगशिप लाँचसाठी असामान्यपणे स्पष्टपणे, Tencent च्या दस्तऐवजीकरणात असे नमूद केले आहे की लक्ष मॉड्यूल "DeepSeek आणि GLM द्वारे प्रेरित होते." Hy4 पूर्वावलोकन क्रॉस-लेयर स्पार्स इंडेक्स पुनर्वापरासाठी IndexCache सह एकत्रित Gated DeepSeek Sparse Attention (Gated DSA) वापरते, तर अवशिष्ट मार्ग इंटर-लेयर माहिती प्रवाहाचा विस्तार करण्यासाठी ओळख हायपर-कनेक्शन्स (iHC) वापरतो.

मॉडेलचे मूल्यमापन करणाऱ्या विकसकांसाठी मोकळेपणा महत्त्वाचा आहे: विरळ लक्ष हे 1M-टोकन संदर्भ आर्थिकदृष्ट्या सेवायोग्य बनवते, कारण त्या लांबीवर पूर्ण लक्ष देणे प्रतिबंधात्मक महाग होते. DeepSeek आणि Z.AI या दोघांनी त्यांच्या स्वतःच्या फ्लॅगशिप मॉडेल्समध्ये या डिझाइनचे प्रकार पाठवले आहेत.

उत्पादकतेसाठी तयार केलेले, घरातील तज्ञांसह ट्यून केलेले

Tencent म्हणते की त्यांनी कंपनीतील तज्ञांशी भागीदारी केली — सॉफ्टवेअर अभियंते, गेम डेव्हलपर, वित्त विश्लेषक आणि सुरक्षा तज्ञ — आणि ते प्रत्यक्षात पाठवलेल्या कामाच्या आसपास प्रशिक्षण डेटा तयार केला. मॉडेल कार्ड चार फोकस क्षेत्रे हायलाइट करते:

  • सॉफ्टवेअर अभियांत्रिकी: सुधारित नियोजन, डीबगिंग आणि दीर्घ-क्षितिज विकास कार्यांवर पडताळणी, तसेच फ्रंट-एंड "दृश्य चव" मध्ये नफा.
  • कार्यालय आणि विश्लेषण: समीकरणे आणि आर्थिक मॉडेल्सच्या मजबूत हाताळणीसह, गोंधळलेल्या मल्टी-फाइल संदर्भाचे शेअर करण्यायोग्य दस्तऐवज, स्प्रेडशीट आणि सादरीकरणांमध्ये रूपांतरित करणे.
  • गेम डेव्हलपमेंट: एकाच प्रॉम्प्टवरून खेळण्यायोग्य प्रोटोटाइप तयार करणे आणि अनेक परिष्करण वळणांवर गेम इंजिनसह अस्खलितपणे कार्य करणे.
  • वैज्ञानिक संशोधन: AI संशोधन, आण्विक गतिशीलता, घनरूप पदार्थ भौतिकशास्त्र आणि शुद्ध गणिताच्या समस्यांवरील प्रगतीचा दावा केला आहे.

Tencent असेही म्हणते की Hy4 पूर्वावलोकन त्याच्या स्वतःच्या उत्पादनांसह, CodeBuddy आणि WorkBuddy सह-डिझाइन केले गेले होते, जेणेकरून मॉडेलचे फायदे उत्पादन सुधारणांमध्ये अनुवादित होतील.

Tencent चे स्वतःचे बेंचमार्क काय दाखवतात

लाँच मटेरियलमधील सर्वात ठोस तुलना म्हणजे 203 अभियांत्रिकी कार्यांवर 163 अंतर्गत तज्ञ रेटिंग आउटपुटसह टेनसेंटने आंधळे बाजूने केलेले मूल्यांकन. त्या चाचण्यांमध्ये, Hy4 पूर्वावलोकनाने सरासरी 2.99 स्कोअर केला, GLM 5.3 च्या 2.92 (46.8 टक्के विजय, 12.8 टक्के संबंध, 40.4 टक्के तोटा) आणि किमी K3 च्या 2.94 (51.2 टक्के विजय, 7.9 टक्के पराभव), 90 टक्के पराभव.

दोन चेतावणी स्पष्टपणे सांगण्यासारख्या आहेत. प्रथम, हे Tencent चे अंतर्गत मूल्यमापन आहेत, स्वतंत्र बेंचमार्क नाहीत; कंपनीने अद्याप सार्वजनिक लीडरबोर्डवर तृतीय-सत्यापित परिणाम प्रकाशित केलेले नाहीत. दुसरे, मार्जिन अरुंद आहेत — व्यक्तिनिष्ठ तज्ञ-रेटिंग स्केलवर 0.05 ते 0.07 पॉइंट अंतर हे विविध रेटिंग पूल सहजपणे फ्लिप करू शकतील अशा श्रेणीमध्ये आहे.

सार्वजनिक एकत्रीकरणातून स्वतंत्र पडताळणी केली जाईल कारण समुदाय मानकीकृत कोडिंग, तर्क आणि एजंटिक सुइट्सद्वारे मॉडेल चालवतो.

ज्ञात बग्ससह, लवकर शिपिंग

Tencent स्पष्ट आहे की हे पूर्वावलोकन आहे. मॉडेल कार्ड जटिल कार्यांद्वारे आवश्यक तर्कापेक्षा जास्त वेळ खर्च करणे आणि स्वतःच्या कामाची जास्त पडताळणी करण्याच्या प्रवृत्तीसह ज्ञात मर्यादांची सूची देते. टीम म्हणते की ते "त्याऐवजी लवकर पाठवेल आणि काय ब्रेक होईल ते ऐकेल," त्याच्या Hy3 पिढीमध्ये सुधारणा करणाऱ्या दृष्टिकोनाचा हवाला देऊन.

तैनातीसाठी, वजने BF16 आणि FP8 दोन्हीमध्ये उपलब्ध आहेत, vLLM आणि SGLang मध्ये पहिल्या दिवशी सपोर्ट आहे. Tencent दोन्हीसाठी प्रीबिल्ट डॉकर प्रतिमा प्रकाशित करते, 8 GPU मध्ये टेन्सर समांतरतेची शिफारस करणाऱ्या रेसिपीसह आणि लेटन्सी-सेन्सिटिव्ह सर्व्हिंगसाठी MTP-आधारित सट्टा डीकोडिंग. मॉडेलच्या बाजूने एक फाइनट्यूनिंग पाइपलाइन आणि एंजेलस्लिम क्वांटायझेशन टूलकिट जहाज.

हे महत्त्वाचे का आहे

चीनमधील ओपन-वेट शर्यत हे Z.AI ची GLM मालिका आणि Moonshot च्या Kimi मॉडेल्समधील दोन-आघाडीचे युद्ध बनले आहे, ज्यामध्ये DeepSeek, Qwen आणि आता खूप मोठ्या Hunyuan एंट्रीने मैदानात गर्दी केली आहे. Hy4 पूर्वावलोकनाचे Apache 2.0 लायसन्सिंग, 770B-पॅरामीटर स्केल आणि 1M-टोकन संदर्भाचे संयोजन कोणीही काय डाउनलोड करू शकते आणि सेल्फ-होस्ट करू शकते याची कमाल मर्यादा वाढवते — आणि दिवस-एक vLLM आणि SGLang सपोर्ट प्रत्यक्षात चालवण्यातील अडथळा कमी करते.

वेस्टर्न क्लोज्ड API विरुद्ध ओपन मॉडेलचे वजन करणाऱ्या उद्योगांसाठी, खुले मॉडेल कागदावरील बंद कामगिरीशी जुळू शकते की नाही हा व्यावहारिक प्रश्न आहे, परंतु आजूबाजूचे टूलिंग — क्वांटायझेशन, सर्व्हिंग, फाइनट्यूनिंग — पुरेसे परिपक्व आहे का. टेनसेंट सट्टेबाजी करत आहे की हे सर्व एकाच वेळी, परवानग्या परवान्याअंतर्गत, ह्युन्युआन संभाषणात परत कसे येते.

अंतर्गत बेंचमार्क दावे स्वतंत्र चाचणी अंतर्गत टिकून राहतील की नाही हे निर्धारित करेल की Hy4 पूर्वावलोकन वास्तविक सीमा ओपन-सोर्स रिलीझ किंवा गर्दीच्या क्षेत्रात दुसरा विक्रेता बेंचमार्क म्हणून लक्षात ठेवला जाईल. वजन आता सार्वजनिक आहे, त्यामुळे समाजाचा निकाल यायला वेळ लागू नये.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →