Tencent ametoa onyesho la kuchungulia la Hy4 la chanzo huria, mtindo mpya wa lugha kubwa maarufu kutoka kwa timu yake ya Hunyuan ambao kampuni inauweka kwenye mipaka ya chanzo huria. Vipimo vilitua kwenye Hugging Face, ModelScope, GitCode, na CNB mnamo Agosti 28 chini ya leseni ruhusu ya Apache 2.0, pamoja na lahaja la FP8-quantized kwa makisio ya bei nafuu.
Uzinduzi huu unazidisha ushindani kati ya maabara za China zinazosafirisha mifano ya uzani wa wazi, uga ambao kwa sasa unajumuisha mfululizo wa GLM wa Z.AI na miundo ya Kimi ya Moonshot AI. Bloomberg iliripoti kuwa Tencent inadai kuwa mtindo huo mpya unawashinda wapinzani wote wawili katika majaribio ya ndani - madai ambayo, kama tathmini zote zinazoendeshwa na wauzaji, yanafaa kuchunguzwa. For more context on this story, see our ongoing breaking AI news.
Nambari za Kichwa
Onyesho la kukagua Hy4 ni muundo wa Mchanganyiko-wa-Wataalam (MoE) wenye jumla ya vigezo bilioni 770, ambapo bilioni 49 huwashwa kwa kila tokeni. Kulingana na kadi ya kielelezo rasmi iliyochapishwa kwenye hazina ya Tencent-Hunyuan GitHub, uti wa mgongo una tabaka 78, wataalam 256 walioelekezwa pamoja na mtaalam mmoja aliyeshirikiwa, na huwasha wataalam 8 wa juu kwa kila ishara. Safu asilia ya utabiri wa tokeni nyingi (MTP) - jumla ya vigezo bilioni 10, bilioni 0.7 imewezeshwa - imeundwa kwa ajili ya usimbaji wa kubahatisha.
Dirisha la muktadha ni vipimo vingine vya marudio: tokeni milioni 1, urefu unaoruhusu muundo kuchakata misingi yote ya kanuni, hati ndefu za kisheria, au nakala za mkutano za saa moja kwa pasi moja.
Usanifu Uliokopwa Kutoka Kwa Wapinzani - na Kujengwa Juu Yake
Katika kiwango kisicho cha kawaida cha uwazi kwa uzinduzi wa bendera, hati za Tencent zinasema kuwa moduli ya umakini "ilichochewa na DeepSeek na GLM." Onyesho la kukagua Hy4 hutumia Gated DeepSeek Sparse Attention (Gated DSA) pamoja na IndexCache kwa utumiaji tena wa faharasa ya tabaka tofauti, huku njia iliyobaki hutumia utambulisho wa Hyper-Connections (iHC) ili kupanua mtiririko wa taarifa kati ya safu.
Uwazi ni muhimu kwa wasanidi programu wanaotathmini modeli: umakini mdogo ndio unaofanya muktadha wa tokeni ya 1M utumike kiuchumi, kwa kuwa umakini kamili wa kutojua katika urefu huo unakuwa ghali sana. DeepSeek na Z.AI zimesafirisha anuwai za muundo huu katika miundo yao bora.
Imejengwa kwa Tija, Imepangwa na Wataalam wa Ndani
Tencent anasema ilishirikiana na wataalam ndani ya kampuni - wahandisi wa programu, wasanidi wa mchezo, wachambuzi wa fedha na wataalam wa usalama - na kuunda data ya mafunzo karibu na kazi wanayosafirisha. Kadi ya mfano inaangazia maeneo manne ya kuzingatia:
- Uhandisi wa programu: upangaji ulioboreshwa, utatuzi, na uthibitishaji juu ya kazi za ukuzaji wa upeo wa macho wa muda mrefu, pamoja na mafanikio katika "ladha ya kuona."
- Ofisi na uchanganuzi: kubadilisha muktadha mbaya wa faili nyingi kuwa hati zinazoweza kushirikiwa, lahajedwali na mawasilisho, kwa kushughulikia milinganyo na miundo ya kifedha kwa njia bora zaidi.
- Ukuzaji wa mchezo: kuzalisha prototypes zinazoweza kuchezwa kutoka kwa haraka moja na kufanya kazi kwa ufasaha na injini za mchezo katika zamu nyingi za uboreshaji.
- Utafiti wa kisayansi: kudai maendeleo kwenye utafiti wa AI, mienendo ya molekuli, fizikia ya vitu vilivyofupishwa, na matatizo halisi ya hisabati.
Tencent pia anasema onyesho la kukagua Hy4 liliundwa pamoja na bidhaa zake, CodeBuddy na WorkBuddy, ili faida za muundo zitafsiriwe katika uboreshaji wa bidhaa.
Vigezo vya Tencent Mwenyewe Vinaonyesha Nini
Ulinganisho thabiti zaidi katika nyenzo za uzinduzi ni tathmini isiyoeleweka ya ubavu kwa upande ambayo Tencent aliendesha na wataalam 163 wa ndani wa kukadiria matokeo kwenye kazi 203 za uhandisi. Katika majaribio hayo, muhtasari wa Hy4 ulipata wastani wa 2.99, mbele kidogo ya GLM 5.3 2.92 (washindi asilimia 46.8, sare za asilimia 12.8, hasara asilimia 40.4) na Kimi K3 2.94 (asilimia 51.2 wameshinda, asilimia 7.9 sare, 40.9).
Mawazo mawili yanafaa kutajwa wazi. Kwanza, hizi ni tathmini za ndani za Tencent, sio vigezo huru; kampuni bado haijachapisha matokeo ya tatu yaliyothibitishwa kwenye bao za wanaoongoza za umma. Pili, pambizo ni finyu - pengo la pointi 0.05 hadi 0.07 kwenye kipimo cha ukadiriaji wa kitaalam kiko ndani ya safu ambayo vikundi tofauti vya ukadiriaji vinaweza kugeuzwa kwa urahisi.
Uthibitishaji wa kujitegemea utatoka kwa mijumuisho ya umma kadri jumuiya inavyoendesha kielelezo kupitia usimbaji sanifu, hoja na mawakala katika wiki zijazo.
Kusafirisha Mapema, Pamoja na Hitilafu Zinazojulikana
Tencent ni wazi kwamba hii ni onyesho la kukagua. Kadi ya kielelezo huorodhesha vikwazo vinavyojulikana, ikiwa ni pamoja na kutumia muda mrefu zaidi ya hoja zinazohitajika kupitia kazi ngumu na tabia ya kuthibitisha zaidi kazi yake yenyewe. Timu hiyo inasema "itasafiri mapema na kusikia kinachoendelea," ikitoa mfano wa mbinu ambayo iliboresha kizazi chake cha Hy3.
Kwa uwekaji, uzani unapatikana katika BF16 na FP8, kwa usaidizi wa siku moja katika vLLM na SGlang. Tencent huchapisha picha za Docker zilizoundwa awali kwa zote mbili, na mapishi yanayopendekeza usawa wa tensor kwenye GPU 8 na usimbaji wa kubahatisha unaotegemea MTP kwa huduma nyeti kwa muda. Bomba la urekebishaji na meli ya quantization ya AngelSlim kando ya modeli.
Kwanini Ni Muhimu
Mashindano ya uzani wa wazi nchini Uchina yamekuwa vita ya pande mbili kati ya mfululizo wa Z.AI wa GLM na wanamitindo wa Kimi wa Moonshot, huku DeepSeek, Qwen, na sasa ingizo kubwa zaidi la Hunyuan likijaa uwanjani. Mchanganyiko wa onyesho la kuchungulia la Hy4 la utoaji leseni wa Apache 2.0, kipimo cha kigezo cha 770B, na muktadha wa tokeni ya 1M huinua kiwango cha juu cha kile ambacho mtu yeyote anaweza kupakua na kujipanga mwenyewe - na usaidizi wa vLLM na SGlang wa siku moja hupunguza kizuizi cha kuiendesha.
Kwa biashara zinazopima miundo iliyo wazi dhidi ya API zilizofungwa za Magharibi, swali la vitendo sio tena ikiwa muundo wazi unaweza kulingana na utendaji uliofungwa kwenye karatasi, lakini kama zana zinazozunguka - quantization, kutumikia, kusawazisha - ni kukomaa vya kutosha. Tencent anaweka dau kuwa kusafirisha zote mara moja, chini ya leseni inayoruhusu, ndivyo Hunyuan anavyorejea kwenye mazungumzo.
Iwapo madai ya kigezo cha ndani yatadumu chini ya majaribio ya kujitegemea yatabainisha ikiwa onyesho la kukagua Hy4 litakumbukwa kama toleo la chanzo huria la mpakani au alama nyingine ya muuzaji katika uwanja uliojaa watu. Uzito ni wa umma sasa, kwa hivyo uamuzi wa jamii haupaswi kuchukua muda mrefu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
