Tencent har släppt en förhandsvisning av Hy4 med öppen källkod, en ny flaggskeppsmodell för stora språk från sitt Hunyuan-team som företaget positionerar vid gränsen för öppen källkod. Vikterna landade på Hugging Face, ModelScope, GitCode och CNB den 28 augusti under den tillåtande Apache 2.0-licensen, tillsammans med en FP8-kvantiserad variant för billigare slutsatser.
Lanseringen intensifierar konkurrensen bland kinesiska laboratorier som levererar öppna gränsmodeller, ett område som för närvarande inkluderar Z.AI:s GLM-serie och Moonshot AI:s Kimi-modeller. Bloomberg rapporterade att Tencent hävdar att den nya modellen överträffar båda konkurrenterna i interna tester - ett påstående som, liksom alla leverantörsdrivna utvärderingar, förtjänar granskning. For more context on this story, see our ongoing artificial intelligence updates.
Rubriknumren
Hy4 förhandsvisning är en Mixture-of-Experts (MoE) modell med 770 miljarder totala parametrar, varav 49 miljarder aktiveras per token. Enligt det officiella modellkortet som publicerats på Tencent-Hunyuan GitHub-förvaret har ryggraden 78 lager, 256 dirigerade experter plus en delad expert, och aktiverar topp-8 dirigerade experter för varje token. Ett inbyggt lager för multi-token prediction (MTP) – totalt 10 miljarder parametrar, 0,7 miljarder aktiverade – är inbyggt för spekulativ avkodning.
Kontextfönstret är den andra markeringsspecifikationen: 1 miljon tokens, en längd som låter modellen bearbeta hela kodbaser, långa juridiska dokument eller timslånga mötesavskrifter i ett enda pass.
Arkitektur lånad från konkurrenter — och byggd ovanpå den
I en ovanlig grad av uppriktighet för en flaggskeppslansering, säger Tencents dokumentation att uppmärksamhetsmodulen var "inspirerad av DeepSeek och GLM." Hy4-förhandsvisningen använder Gated DeepSeek Sparse Attention (Gated DSA) kombinerat med IndexCache för återanvändning av gles index i flera skikt, medan restvägen använder identitetshyperanslutningar (iHC) för att utöka informationsflödet mellan skikten.
Öppenheten är viktig för utvecklare som utvärderar modellen: sparsam uppmärksamhet är det som gör en 1M-token-kontext ekonomiskt användbar, eftersom naiv full uppmärksamhet på den längden blir oöverkomligt dyr. Både DeepSeek och Z.AI har skickat varianter av denna design i sina egna flaggskeppsmodeller.
Byggd för produktivitet, anpassad med interna experter
Tencent säger att de samarbetade med experter inom företaget – mjukvaruingenjörer, spelutvecklare, finansanalytiker och säkerhetsexperter – och byggde utbildningsdata kring det arbete de faktiskt skickar. Modellkortet belyser fyra fokusområden:
- Programvaruteknik: förbättrad planering, felsökning och verifiering av utvecklingsuppgifter med lång horisont, plus vinster i front-end "visuell smak."
- Kontor och analys: konvertera rörigt multi-fil sammanhang till delbara dokument, kalkylblad och presentationer, med starkare hantering av ekvationer och finansiella modeller.
- Spelutveckling: generera spelbara prototyper från en enda prompt och arbeta flytande med spelmotorer över flera förfiningsvändningar.
- Vetenskaplig forskning: hävdade framsteg inom AI-forskning, molekylär dynamik, kondenserad materiens fysik och rena matematikproblem.
Tencent säger också att Hy4-förhandsvisningen designades tillsammans med sina egna produkter, CodeBuddy och WorkBuddy, så att modellvinster omvandlas till produktförbättringar.
Vad Tencents egna benchmarks visar
Den mest konkreta jämförelsen i lanseringsmaterialet är en blind sida-vid-sida-utvärdering som Tencent körde med 163 interna experter som betygsatte resultat för 203 ingenjörsuppgifter. I dessa tester fick Hy4 förhandsvisning i genomsnitt 2,99, något före GLM 5,3:s 2,92 (46,8 procents vinster, 12,8 procents vinster, 40,4 procents förluster) och Kimi K3:s 2,94 (51,2 procents vinster, 7,9 procents vinster, 40,9 procents förluster).
Två varningar är värda att uttrycka tydligt. För det första är dessa Tencents interna utvärderingar, inte oberoende riktmärken; företaget har ännu inte publicerat tredje verifierade resultat på offentliga topplistor. För det andra är marginalerna smala – ett gap på 0,05 till 0,07 poäng på en subjektiv expert-betygsskala är inom det intervall som olika betygspooler lätt kan vända.
Oberoende verifiering kommer från offentliga sammanslagningar när communityn kör modellen genom standardiserad kodning, resonemang och agentsviter under de kommande veckorna.
Leverans tidigt, med kända buggar
Tencent är uttryckligen att detta är en förhandsvisning. Modellkortet listar kända begränsningar, inklusive att spendera längre tid än nödvändigt för att resonera genom komplexa uppgifter och en tendens att öververifiera sitt eget arbete. Teamet säger att de "hellre skulle skicka tidigt och höra vad som går sönder", med hänvisning till det tillvägagångssätt som förbättrade sin Hy3-generation.
För utplacering finns vikterna tillgängliga i både BF16 och FP8, med stöd för första dagen i vLLM och SGLang. Tencent publicerar förbyggda Docker-bilder för båda, med recept som rekommenderar tensorparallellism över 8 GPU:er och MTP-baserad spekulativ avkodning för latenskänslig visning. En finjusteringspipeline och AngelSlim-kvantiseringsverktyget levereras tillsammans med modellen.
Varför det är viktigt
Öppenviktsloppet i Kina har blivit ett tvåfrontskrig mellan Z.AI:s GLM-serie och Moonshots Kimi-modeller, med DeepSeek, Qwen och nu ett mycket större Hunyuan-inträde som trängs på fältet. Hy4-förhandsvisningens kombination av Apache 2.0-licensiering, en 770B-parameterskala och en 1M-token-kontext höjer taket för vad vem som helst kan ladda ner och vara värd för – och dag-ett-vLLM- och SGLang-stödet sänker barriären för att faktiskt köra det.
För företag som väger öppna modeller mot västerländska stängda API:er är den praktiska frågan inte längre om en öppen modell kan matcha slutna prestanda på papper, utan om de omgivande verktygen - kvantisering, servering, finjustering - är tillräckligt mogen. Tencent slår vad om att skicka allt på en gång, under en tillåten licens, är hur Hunyuan kommer tillbaka in i konversationen.
Huruvida de interna benchmark-påståendena håller i sig under oberoende tester kommer att avgöra om Hy4-förhandsvisningen kommer ihåg som en äkta frontier-utgåva med öppen källkod eller en annan leverantörsbenchmark i ett trångt fält. Vikterna är offentliga nu, så samhällets dom bör inte ta lång tid.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →