Společnost Tencent vydala náhled Hy4 s otevřeným zdrojovým kódem, nový vlajkový model velkého jazyka od svého týmu Hunyuan, který společnost umisťuje na hranici open source. Váhy přistály na Hugging Face, ModelScope, GitCode a CNB 28. srpna v rámci permisivní licence Apache 2.0 spolu s variantou kvantovanou v FP8 pro levnější vyvozování.

Uvedení na trh zintenzivňuje konkurenci mezi čínskými laboratořemi dodávajícími hraniční modely s otevřenou hmotností, což je pole, které v současnosti zahrnuje řadu GLM od Z.AI a modely Kimi od Moonshot AI. Bloomberg oznámil, že Tencent tvrdí, že nový model překonává oba soupeře v interním testování – tvrzení, které si stejně jako všechna hodnocení prováděná dodavatelem zaslouží kontrolu. For more context on this story, see our ongoing more AI stories.

Čísla titulků

Hy4 preview je model Mixture-of-Experts (MoE) s celkovými 770 miliardami parametrů, z nichž 49 miliard je aktivováno na token. Podle oficiální modelové karty zveřejněné na úložišti Tencent-Hunyuan GitHub má páteř 78 vrstev, 256 směrovaných expertů plus jednoho sdíleného experta a aktivuje 8 nejlepších směrovaných expertů pro každý token. Pro spekulativní dekódování je zabudována nativní vrstva predikce více tokenů (MTP) – celkem 10 miliard parametrů, 0,7 miliardy aktivovaných.

Kontextové okno je další specifikací rámečku: 1 milion tokenů, což je délka, která modelu umožňuje zpracovat celé kódové báze, dlouhé právní dokumenty nebo hodinové přepisy schůzek v jediném průchodu.

Architektura vypůjčená od rivalů — a na ní postavená

Dokumentace společnosti Tencent s nezvyklou mírou upřímnosti pro start vlajkové lodi uvádí, že modul pozornosti byl „inspirován DeepSeek a GLM“. Hy4 Preview využívá Gated DeepSeek Sparse Attention (Gated DSA) v kombinaci s IndexCache pro opakované použití řídkého indexu napříč vrstvami, zatímco zbytková cesta využívá identitní Hyper-Connections (iHC) k rozšíření toku informací mezi vrstvami.

Pro vývojáře hodnotící model záleží na otevřenosti: řídká pozornost je to, co dělá kontext 1M tokenu ekonomicky použitelným, protože naivní plná pozornost v takové délce se stává neúměrně drahou. Jak DeepSeek, tak Z.AI dodaly varianty tohoto designu ve svých vlastních vlajkových modelech.

Vytvořeno pro produktivitu, vyladěno s interními odborníky

Tencent říká, že se spojil s odborníky uvnitř společnosti – softwarovými inženýry, vývojáři her, finančními analytiky a bezpečnostními experty – a vytvořil školicí data týkající se práce, kterou skutečně dodávají. Karta modelu zvýrazňuje čtyři oblasti zaměření:

  • Softwarové inženýrství: vylepšené plánování, ladění a ověřování na vývojových úlohách s dlouhým horizontem, plus zlepšení „vizuálního vkusu“ na front-endu.
  • Kancelář a analýza: převádění chaotického vícesouborového kontextu do sdílených dokumentů, tabulek a prezentací s lepším zpracováním rovnic a finančních modelů.
  • Vývoj her: generování hratelných prototypů z jediné výzvy a plynulá práce s herními enginy ve více kolech vylepšení.
  • Vědecký výzkum: nárokovaný pokrok ve výzkumu AI, molekulární dynamice, fyzice kondenzovaných látek a čistě matematických problémech.

Tencent také říká, že Hy4 preview byl navržen společně s jejími vlastními produkty CodeBuddy a WorkBuddy, aby se zisky modelu promítly do vylepšení produktu.

Co ukazují vlastní benchmarky společnosti Tencent

Nejkonkrétnějším srovnáním ve startovacích materiálech je slepé hodnocení vedle sebe, které Tencent provedl se 163 interními experty hodnotícími výstupy u 203 inženýrských úkolů. V těchto testech dosáhl Hy4 preview v průměru 2,99, mírně před GLM 5.3 2,92 (46,8 procenta vítězství, 12,8 procenta remíz, 40,4 procenta proher) a Kimi K3 2,94 (51,2 procenta vítězství, 7,9 procenta remízy, 40,9 procenta proher).

Dvě upozornění stojí za to uvést na rovinu. Za prvé, toto jsou interní hodnocení společnosti Tencent, nikoli nezávislé benchmarky; společnost zatím nezveřejnila třetí ověřené výsledky na veřejných žebříčcích. Zadruhé, marže jsou úzké – rozdíl 0,05 až 0,07 bodu na subjektivní škále expertního hodnocení je v rozmezí, které by různé ratingové skupiny mohly snadno převrátit.

Nezávislé ověření bude pocházet z veřejných agregací, protože komunita bude v nadcházejících týdnech provozovat model prostřednictvím standardizovaného kódování, uvažování a agentních sad.

Předčasné odeslání, se známými chybami

Tencent jasně říká, že se jedná o náhled. Karta modelu uvádí známá omezení, včetně utrácení delšího času, než je nutné, uvažování nad složitými úkoly a tendence k nadměrnému ověřování vlastní práce. Tým říká, že by „raději odeslal brzy a slyšel, co se pokazí“, s odkazem na přístup, který zlepšil její generaci Hy3.

Pro nasazení jsou závaží k dispozici v BF16 i FP8, s podporou prvního dne ve vLLM a SGLang. Tencent publikuje předpřipravené obrazy Docker pro oba s recepty doporučujícími paralelismus tenzoru napříč 8 GPU a spekulativní dekódování založené na MTP pro poskytování citlivé na latenci. Potrubí pro jemné ladění a sada kvantizačních nástrojů AngelSlim jsou dodávány spolu s modelem.

Proč na tom záleží

Závod v otevřené váze v Číně se stal válkou na dvou frontách mezi sérií GLM od Z.AI a modely Kimi od Moonshot, přičemž pole zaplnily DeepSeek, Qwen a nyní mnohem větší Hunyuan. Kombinace licencování Apache 2.0, škály parametrů 770B a kontextu 1M tokenu Hy4 Preview zvyšuje strop toho, co si kdokoli může stáhnout a hostovat – a podpora vLLM a SGLang od prvního dne snižuje překážku skutečnému spuštění.

Pro podniky, které zvažují otevřené modely proti západním uzavřeným API, už praktickou otázkou není, zda otevřený model může papírově odpovídat uzavřenému výkonu, ale zda jsou okolní nástroje – kvantizace, obsluha, jemné ladění – dostatečně vyspělé. Tencent sází na to, že se Hunyuan dostane zpět do konverzace, když to všechno pošle najednou, pod povolenou licencí.

To, zda požadavky interního srovnávacího testu obstojí v nezávislém testování, určí, zda je Hy4 Preview zapamatováno jako skutečné hraniční vydání s otevřeným zdrojovým kódem nebo jiný benchmark dodavatele v přeplněném poli. Váhy jsou nyní veřejné, takže verdikt komunity by neměl trvat dlouho.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →