Tencent wydał wersję zapoznawczą Hy4 o otwartym kodzie źródłowym, nowy flagowy model wielojęzyczny opracowany przez zespół Hunyuan, który firma pozycjonuje na granicy open source. Wagi wylądowały w Hugging Face, ModelScope, GitCode i CNB 28 sierpnia w ramach liberalnej licencji Apache 2.0, wraz z wariantem skwantowanym w FP8, zapewniającym tańsze wnioskowanie.

Premiera zaostrza konkurencję między chińskimi laboratoriami dostarczającymi modele frontierowe o otwartej masie, a dziedzina ta obejmuje obecnie serię GLM firmy Z.AI i modele Kimi firmy Moonshot AI. Bloomberg poinformował, że Tencent twierdzi, że nowy model przewyższa obu konkurentów w testach wewnętrznych – twierdzenie to, podobnie jak wszystkie oceny przeprowadzane przez dostawców, zasługuje na analizę. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Numery nagłówków

Wersja zapoznawcza Hy4 to model złożony z ekspertów (MoE) z 770 miliardami parametrów ogółem, z czego 49 miliardów jest aktywowanych na token. Zgodnie z oficjalną kartą modelu opublikowaną w repozytorium Tencent-Hunyuan GitHub, szkielet ma 78 warstw, 256 ekspertów kierowanych i jednego eksperta współdzielonego oraz aktywuje 8 najlepszych ekspertów kierowanych dla każdego tokena. Natywna warstwa przewidywania wielu tokenów (MTP) — łącznie 10 miliardów parametrów, z czego 0,7 miliarda zostało aktywowanych — jest wbudowana w celu dekodowania spekulatywnego.

Okno kontekstowe to kolejna specyfikacja markizy: 1 milion tokenów, długość umożliwiająca modelowi przetwarzanie całych baz kodu, długich dokumentów prawnych lub godzinnych transkrypcji spotkań w jednym przebiegu.

Architektura zapożyczona od rywali i zbudowana na jej podstawie

Z niezwykłą szczerością jak na premierę flagowego produktu, dokumentacja Tencent stwierdza, że moduł uwagi został „zainspirowany DeepSeek i GLM”. Hy4 Preview wykorzystuje technologię Gated DeepSeek Sparse Attention (Gated DSA) w połączeniu z IndexCache w celu ponownego użycia międzywarstwowego rzadkiego indeksu, podczas gdy ścieżka resztkowa wykorzystuje funkcję Hyper-Connections tożsamości (iHC) w celu rozszerzenia międzywarstwowego przepływu informacji.

Otwartość ma znaczenie dla programistów oceniających model: niewielka uwaga sprawia, że ​​kontekst z tokenem 1M jest opłacalny ekonomicznie, ponieważ naiwna pełna uwaga na tej długości staje się zbyt kosztowna. Zarówno DeepSeek, jak i Z.AI dostarczyły warianty tego projektu w swoich własnych flagowych modelach.

Zbudowany z myślą o produktywności, dostrojony przez wewnętrznych ekspertów

Tencent twierdzi, że nawiązał współpracę z ekspertami wewnątrz firmy — inżynierami oprogramowania, twórcami gier, analitykami finansowymi i ekspertami ds. bezpieczeństwa — i zbudował dane szkoleniowe na temat faktycznie wykonywanej pracy. Karta modelu wyróżnia cztery obszary zainteresowania:

  • Inżynieria oprogramowania: ulepszone planowanie, debugowanie i weryfikacja długoterminowych zadań programistycznych, a także ulepszenie „gustu wizualnego” front-endu.
  • Biuro i analizy: przekształcanie niechlujnego kontekstu wielu plików w dokumenty, arkusze kalkulacyjne i prezentacje, które można udostępniać, z lepszą obsługą równań i modeli finansowych.
  • Tworzenie gier: generowanie grywalnych prototypów z jednego podpowiedzi i płynna współpraca z silnikami gier w wielu turach udoskonalania.
  • Badania naukowe: deklarowany postęp w badaniach nad sztuczną inteligencją, dynamiką molekularną, fizyką materii skondensowanej i problemami czystej matematyki.

Tencent twierdzi również, że wersja zapoznawcza Hy4 została zaprojektowana wspólnie z jej własnymi produktami, CodeBuddy i WorkBuddy, dzięki czemu zyski modelu przekładają się na ulepszenia produktów.

Co pokazują własne testy porównawcze Tencent

Najbardziej konkretnym porównaniem w materiałach startowych jest ślepa, bezpośrednia ocena przeprowadzona przez firmę Tencent na podstawie 163 wewnętrznych ekspertów oceniających wyniki 203 zadań inżynieryjnych. W tych testach Hy4 Preview uzyskał średnio 2,99, nieco przed GLM 5.3, który uzyskał 2,92 (46,8 procent zwycięstw, 12,8 procent remisów, 40,4 procent przegranych) i Kimi K3 2,94 (51,2 procent zwycięstw, 7,9 procent remisów, 40,9 procent strat).

Warto jasno sformułować dwa zastrzeżenia. Po pierwsze, są to wewnętrzne oceny Tencent, a nie niezależne punkty odniesienia; firma nie opublikowała jeszcze trzecio zweryfikowanych wyników w publicznych rankingach. Po drugie, marginesy są wąskie – różnica od 0,05 do 0,07 punktu w subiektywnej skali ocen eksperckich mieści się w zakresie, który różne pule ocen mogą z łatwością zmienić.

Niezależna weryfikacja zostanie przeprowadzona na podstawie publicznych agregacji, gdy w nadchodzących tygodniach społeczność przeprowadzi model poprzez ustandaryzowane kodowanie, rozumowanie i zestawy agentów.

Wysyłka wcześniej, ze znanymi błędami

Tencent wyraźnie stwierdza, że ​​jest to podgląd. Karta modelu wymienia znane ograniczenia, w tym spędzanie czasu na dłuższym niż konieczne rozumowaniu przy skomplikowanych zadaniach i tendencję do nadmiernej weryfikacji własnej pracy. Zespół twierdzi, że „wolałby wysłać urządzenie wcześniej i usłyszeć, co się psuje”, powołując się na podejście, które udoskonaliło generację Hy3.

W przypadku wdrożenia wagi są dostępne zarówno w BF16, jak i FP8, z obsługą od pierwszego dnia w vLLM i SGLang. Tencent publikuje dla obu gotowych obrazów Dockera, z recepturami zalecającymi równoległość tensorów na 8 procesorach graficznych i dekodowanie spekulatywne oparte na protokole MTP w celu obsługi wrażliwej na opóźnienia. Wraz z modelem dostarczany jest potok dostrajania i zestaw narzędzi do kwantyzacji AngelSlim.

Dlaczego to ma znaczenie

Wyścig w wadze otwartej w Chinach stał się wojną na dwa fronty pomiędzy serią GLM firmy Z.AI a modelami Kimi firmy Moonshot, z DeepSeek, Qwen, a teraz znacznie większym konkurentem Hunyuan, którzy tłoczą się na boisku. Połączenie licencji Apache 2.0, skali parametrów 770B i kontekstu tokenu 1M w Hy4 Preview podnosi pułap tego, co każdy może pobrać i samodzielnie hostować — a obsługa vLLM i SGLang od pierwszego dnia obniża barierę uniemożliwiającą faktyczne uruchomienie tego oprogramowania.

Dla przedsiębiorstw porównujących otwarte modele z zachodnimi zamkniętymi interfejsami API praktyczne pytanie nie brzmi już, czy otwarty model może dorównać zamkniętej wydajności na papierze, ale czy otaczające go narzędzia — kwantyzacja, obsługa, dostrajanie — są wystarczająco dojrzałe. Tencent zakłada, że ​​wysłanie całości na raz, na podstawie liberalnej licencji, pozwoli Hunyuanowi wrócić do rozmowy.

To, czy twierdzenia o wewnętrznym benchmarku sprawdzą się w niezależnych testach, zadecyduje, czy wersja zapoznawcza Hy4 zostanie zapamiętana jako oryginalne, pionierskie wydanie open source, czy też jako benchmark innego dostawcy w zatłoczonym środowisku. Wagi są już publiczne, więc na werdykt społeczności nie powinno długo czekać.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →