டென்சென்ட் அதன் ஹுன்யுவான் குழுவின் புதிய முதன்மையான பெரிய மொழி மாதிரியான ஹை4 முன்னோட்டத்தை ஓப்பன் சோர்ஸ்டு வெளியிட்டது மற்றும் நிறுவனம் திறந்த மூல எல்லையில் நிலைநிறுத்துகிறது. ஆகஸ்ட் 28 அன்று ஹக்கிங் ஃபேஸ், மாடல்ஸ்கோப், கிட்கோட் மற்றும் CNB ஆகியவற்றில் அனுமதிக்கப்பட்ட Apache 2.0 உரிமத்தின் கீழ் எடைகள் இறங்கியது, மேலும் மலிவான அனுமானத்திற்கான FP8-குவாண்டிஸ்டு மாறுபாட்டுடன்.

இந்த வெளியீடு சீன ஆய்வகங்களுக்கு இடையேயான போட்டியை தீவிரப்படுத்துகிறது, இது தற்போது Z.AI இன் GLM தொடர் மற்றும் மூன்ஷாட் AI இன் கிமி மாடல்களை உள்ளடக்கிய ஒரு துறையான திறந்த-எடை எல்லை மாடல்களை அனுப்புகிறது. புளூம்பெர்க், டென்சென்ட் புதிய மாடல் உள் சோதனையில் இரு போட்டியாளர்களையும் விஞ்சுவதாகக் கூறுகிறது - இது அனைத்து விற்பனையாளர் நடத்தும் மதிப்பீடுகளைப் போலவே, ஆய்வுக்குத் தகுதியானது. For more context on this story, see our ongoing breaking AI news.

தலைப்பு எண்கள்

Hy4 மாதிரிக்காட்சி என்பது 770 பில்லியன் மொத்த அளவுருக்கள் கொண்ட ஒரு கலவை-ஆஃப்-நிபுணர்களின் (MoE) மாதிரியாகும், இதில் 49 பில்லியன் ஒரு டோக்கனுக்கு செயல்படுத்தப்படுகிறது. டென்சென்ட்-ஹுன்யுவான் கிட்ஹப் களஞ்சியத்தில் வெளியிடப்பட்ட அதிகாரப்பூர்வ மாதிரி அட்டையின்படி, முதுகெலும்பில் 78 அடுக்குகள், 256 வழித்தட நிபுணர்கள் மற்றும் ஒரு பகிரப்பட்ட நிபுணர் உள்ளனர், மேலும் ஒவ்வொரு டோக்கனுக்கும் சிறந்த-8 வழித்தட நிபுணர்களை செயல்படுத்துகிறது. ஒரு சொந்த பல-டோக்கன் கணிப்பு (MTP) அடுக்கு - 10 பில்லியன் மொத்த அளவுருக்கள், 0.7 பில்லியன் செயல்படுத்தப்பட்டது - ஊக டிகோடிங்கிற்காக கட்டமைக்கப்பட்டுள்ளது.

சூழல் சாளரம் மற்ற மார்க்யூ விவரக்குறிப்பாகும்: 1 மில்லியன் டோக்கன்கள், முழு குறியீட்டுத் தளங்கள், நீண்ட சட்ட ஆவணங்கள் அல்லது ஒரு மணி நேர மீட்டிங் டிரான்ஸ்கிரிப்ட்களை ஒரே பாஸில் செயலாக்க அனுமதிக்கும் நீளம்.

கட்டிடக்கலை போட்டியாளர்களிடமிருந்து கடன் வாங்கப்பட்டது - மற்றும் அதன் மேல் கட்டப்பட்டது

ஒரு ஃபிளாக்ஷிப் லான்சிற்கான அசாதாரண அளவிலான நேர்மையில், கவனத்தை ஈர்க்கும் தொகுதி "டீப்சீக் மற்றும் ஜிஎல்எம் மூலம் ஈர்க்கப்பட்டது" என்று டென்சென்ட்டின் ஆவணங்கள் கூறுகின்றன. Hy4 முன்னோட்டமானது Gated DeepSeek Sparse Attention (Gated DSA)ஐ IndexCache உடன் இணைந்து கிராஸ்-லேயர் ஸ்பேர்ஸ் இன்டெக்ஸ் மறுபயன்பாட்டிற்கு பயன்படுத்துகிறது, அதே சமயம் எஞ்சிய பாதையானது இடை-அடுக்கு தகவல் ஓட்டத்தை விரிவாக்க அடையாள ஹைப்பர்-இணைப்புகளை (iHC) பயன்படுத்துகிறது.

மாதிரியை மதிப்பிடும் டெவலப்பர்களுக்கு திறந்த தன்மை முக்கியமானது: ஒரு 1M-டோக்கன் சூழலை பொருளாதார ரீதியாகச் சேவை செய்யக்கூடியதாக இருப்பது குறைவான கவனம், ஏனெனில் அந்த நீளத்தில் அப்பாவியாக முழு கவனம் செலுத்துவது தடைசெய்யும் வகையில் விலை உயர்ந்ததாகிறது. DeepSeek மற்றும் Z.AI இரண்டும் இந்த வடிவமைப்பின் மாறுபாடுகளை அவற்றின் சொந்த முதன்மை மாடல்களில் அனுப்பியுள்ளன.

உற்பத்தித்திறனுக்காக கட்டப்பட்டது, வீட்டு நிபுணர்களைக் கொண்டு டியூன் செய்யப்பட்டது

டென்சென்ட் நிறுவனம், மென்பொருள் பொறியாளர்கள், கேம் டெவலப்பர்கள், நிதி ஆய்வாளர்கள் மற்றும் பாதுகாப்பு வல்லுநர்கள் - மற்றும் அவர்கள் உண்மையில் அனுப்பும் வேலையைச் சுற்றி பயிற்சித் தரவை உருவாக்கியது. மாதிரி அட்டை நான்கு கவனம் செலுத்தும் பகுதிகளை எடுத்துக்காட்டுகிறது:

  • மென்பொருள் பொறியியல்: மேம்படுத்தப்பட்ட திட்டமிடல், பிழைத்திருத்தம் மற்றும் நீண்ட அடிவான மேம்பாட்டுப் பணிகளில் சரிபார்ப்பு, மேலும் முன்-இறுதியில் "காட்சி சுவை" ஆதாயங்கள்.
  • அலுவலகம் மற்றும் பகுப்பாய்வு: சமன்பாடுகள் மற்றும் நிதி மாதிரிகளின் வலுவான கையாளுதலுடன், குழப்பமான பல கோப்பு சூழலை பகிரக்கூடிய ஆவணங்கள், விரிதாள்கள் மற்றும் விளக்கக்காட்சிகளாக மாற்றுதல்.
  • விளையாட்டு மேம்பாடு: ஒரே வரியில் இருந்து விளையாடக்கூடிய முன்மாதிரிகளை உருவாக்குதல் மற்றும் பல சுத்திகரிப்பு திருப்பங்களில் கேம் இன்ஜின்களுடன் சரளமாக வேலை செய்தல்.
  • அறிவியல் ஆராய்ச்சி: AI ஆராய்ச்சி, மூலக்கூறு இயக்கவியல், அமுக்கப்பட்ட பொருள் இயற்பியல் மற்றும் தூய கணித சிக்கல்கள் ஆகியவற்றில் முன்னேற்றம் என்று கூறப்பட்டது.

Hy4 முன்னோட்டமானது அதன் சொந்த தயாரிப்புகளான CodeBuddy மற்றும் WorkBuddy ஆகியவற்றுடன் இணைந்து வடிவமைக்கப்பட்டதாக டென்சென்ட் கூறுகிறது, இதனால் மாடல் ஆதாயங்கள் தயாரிப்பு மேம்பாடுகளாக மொழிபெயர்க்கப்படுகின்றன.

Tencent's Own Benchmarks என்ன காட்டுகிறது

203 இன்ஜினியரிங் பணிகளில் 163 உள்ளக வல்லுநர்களின் மதிப்பீடு வெளியீடுகளுடன் டென்சென்ட் இயங்கும் ஒரு கண்மூடித்தனமான பக்கவாட்டு மதிப்பீடு ஆகும். அந்தச் சோதனைகளில், Hy4 முன்னோட்டம் சராசரியாக 2.99 மதிப்பெண்களைப் பெற்றது, GLM 5.3 இன் 2.92 (46.8 சதவிகித வெற்றிகள், 12.8 சதவிகிதம் டைகள், 40.4 சதவிகித இழப்புகள்) மற்றும் Kimi K3 இன் 2.94 (51.2 சதவிகிதம் வெற்றிகள், 7.9 சதவிகிதம், இழப்புகள் 40.9 சதவிகிதம்) ஆகியவற்றை விட சற்று முன்னால் இருந்தது.

இரண்டு எச்சரிக்கைகள் தெளிவாகக் கூறுவது மதிப்பு. முதலாவதாக, இவை டென்சென்ட்டின் உள் மதிப்பீடுகள், சுயாதீன வரையறைகள் அல்ல; பொது லீடர்போர்டுகளில் மூன்றாம் சரிபார்க்கப்பட்ட முடிவுகளை நிறுவனம் இன்னும் வெளியிடவில்லை. இரண்டாவதாக, விளிம்புகள் குறுகலானவை - ஒரு அகநிலை நிபுணர்-மதிப்பீட்டு அளவில் 0.05 முதல் 0.07 புள்ளி இடைவெளி வெவ்வேறு மதிப்பீட்டுக் குளங்கள் எளிதில் புரட்டக்கூடிய வரம்பிற்குள் உள்ளது.

வரவிருக்கும் வாரங்களில் தரப்படுத்தப்பட்ட குறியீட்டு முறை, பகுத்தறிவு மற்றும் ஏஜென்டிக் தொகுப்புகள் மூலம் சமூகம் மாதிரியை இயக்குவதால், பொது ஒருங்கிணைப்புகளிலிருந்து சுயாதீன சரிபார்ப்பு வரும்.

தெரிந்த பிழைகளுடன், முன்கூட்டியே அனுப்புதல்

இது ஒரு முன்னோட்டம் என்பதை டென்சென்ட் வெளிப்படையாகக் கூறுகிறார். மாடல் கார்டு அறியப்பட்ட வரம்புகளை பட்டியலிடுகிறது, சிக்கலான பணிகளின் மூலம் தேவையான பகுத்தறிவை விட அதிக நேரம் செலவிடுவது மற்றும் அதன் சொந்த வேலையை அதிகமாக சரிபார்க்கும் போக்கு ஆகியவை அடங்கும். அதன் Hy3 தலைமுறையை மேம்படுத்திய அணுகுமுறையை மேற்கோள் காட்டி, "முன்கூட்டியே அனுப்பப்படும் மற்றும் என்ன உடைகிறது என்பதைக் கேட்கும்" என்று குழு கூறுகிறது.

வரிசைப்படுத்தலுக்கு, எடைகள் BF16 மற்றும் FP8 இரண்டிலும் கிடைக்கின்றன, vLLM மற்றும் SGLang இல் ஒரு நாள் ஆதரவுடன். டென்சென்ட் இரண்டிற்கும் முன்பே கட்டமைக்கப்பட்ட டோக்கர் படங்களை வெளியிடுகிறது, ரெசிபிகள் 8 GPUகள் மற்றும் MTP-அடிப்படையிலான ஊக டிகோடிங்கில் லேட்டன்சி-சென்சிட்டிவ் சர்விங்கில் டென்சர் பேரலலிசத்தை பரிந்துரைக்கின்றன. ஒரு ஃபைன்ட்யூனிங் பைப்லைன் மற்றும் ஏஞ்சல்ஸ்லிம் குவாண்டிசேஷன் டூல்கிட் ஷிப் மாடலுடன்.

ஏன் இது முக்கியமானது

சீனாவில் ஓப்பன் வெயிட் ரேஸ் என்பது Z.AI இன் GLM தொடர் மற்றும் Moonshot இன் கிமி மாடல்களுக்கு இடையேயான இருமுனைப் போராக மாறியுள்ளது, DeepSeek, Qwen மற்றும் இப்போது ஒரு மிகப் பெரிய Hunyuan நுழைவு களத்தில் குவிந்துள்ளது. Hy4 ப்ரிவியூவின் Apache 2.0 உரிமம், 770B-அளவுரு அளவுகோல் மற்றும் 1M-டோக்கன் சூழல் ஆகியவற்றின் கலவையானது யார் வேண்டுமானாலும் பதிவிறக்கம் செய்து சுய-ஹோஸ்ட் செய்யக்கூடிய உச்சவரம்பை உயர்த்துகிறது - மேலும் ஒரு நாள் vLLM மற்றும் SGLang ஆதரவு உண்மையில் அதை இயக்குவதற்கான தடையை குறைக்கிறது.

வெஸ்டர்ன் மூடிய API களுக்கு எதிராக திறந்த மாதிரிகளை எடைபோடும் நிறுவனங்களுக்கு, காகிதத்தில் மூடிய செயல்திறனுடன் திறந்த மாதிரி பொருந்துமா என்பது நடைமுறை கேள்வி அல்ல, ஆனால் சுற்றியுள்ள கருவிகள் - அளவுப்படுத்தல், சேவை செய்தல், ஃபைன்ட்யூனிங் - போதுமான அளவு முதிர்ச்சியடைந்ததா. டென்சென்ட் பந்தயம் கட்டுகிறார், அனுமதியளிக்கும் உரிமத்தின் கீழ் அனைத்தையும் ஒரே நேரத்தில் அனுப்புவது, ஹுன்யுவான் மீண்டும் உரையாடலில் ஈடுபடுவதுதான்.

ஹை4 முன்னோட்டம் ஒரு உண்மையான எல்லை திறந்த மூல வெளியீடாக நினைவில் கொள்ளப்படுகிறதா அல்லது நெரிசலான புலத்தில் மற்றொரு விற்பனையாளர் அளவுகோலாக நினைவில் கொள்ளப்படுகிறதா என்பதை சுயாதீன சோதனையின் கீழ் உள்ளக அளவுகோல்கள் நிலைநிறுத்துகின்றனவா என்பதை தீர்மானிக்கும். எடைகள் இப்போது பொதுவில் உள்ளன, எனவே சமூகத்தின் தீர்ப்பு நீண்ட காலம் எடுக்கக்கூடாது.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →