Tencent, şirketin açık kaynak sınırında konumlandırdığı Hunyuan ekibinin yeni amiral gemisi büyük dil modeli olan açık kaynaklı Hy4 ön izlemesini yayınladı. Ağırlıklar, daha ucuz çıkarım için FP8 ile nicelenmiş bir varyantın yanı sıra, izin verilen Apache 2.0 lisansı kapsamında Hugging Face, ModelScope, GitCode ve CNB'ye 28 Ağustos'ta indi.
Lansman, şu anda Z.AI'nin GLM serisini ve Moonshot AI'nın Kimi modellerini içeren açık ağırlıklı sınır modelleri gönderen Çin laboratuvarları arasındaki rekabeti yoğunlaştırıyor. Bloomberg, Tencent'in yeni modelin dahili testlerde her iki rakibinden daha iyi performans gösterdiğini iddia ettiğini bildirdi; bu iddia, satıcı tarafından yürütülen tüm değerlendirmeler gibi, incelemeyi hak ediyor. For more context on this story, see our ongoing more AI stories.
Başlık Numaraları
Hy4 önizlemesi, 49 milyarı jeton başına etkinleştirilen 770 milyar toplam parametreye sahip bir Uzmanlar Karması (MoE) modelidir. Tencent-Hunyuan GitHub deposunda yayınlanan resmi model kartına göre, omurgada 78 katman, 256 yönlendirilmiş uzman ve bir paylaşılan uzman bulunuyor ve her token için en iyi 8 yönlendirilmiş uzmanı etkinleştiriyor. Spekülatif kod çözme için yerleşik bir çok belirteçli tahmin (MTP) katmanı (toplam 10 milyar parametre, 0,7 milyar etkinleştirilmiş) yerleşiktir.
Bağlam penceresi diğer önemli özelliktir: 1 milyon jeton, modelin tüm kod tabanlarını, uzun yasal belgeleri veya saatlerce süren toplantı transkriptlerini tek geçişte işlemesine olanak tanıyan bir uzunluk.
Mimari Rakiplerden Alındı ve Onun Üzerine İnşa Edildi
Tencent'in belgeleri, amiral gemisi lansmanı için alışılmışın dışında bir samimiyetle, dikkat modülünün "DeepSeek ve GLM'den ilham aldığını" belirtiyor. Hy4 önizleme, katmanlar arası seyrek indeksin yeniden kullanımı için IndexCache ile birleştirilmiş Gated DeepSeek Sparse Attention (Gated DSA) özelliğini kullanırken, kalan yol, katmanlar arası bilgi akışını genişletmek için kimlik Hyper-Connections'ı (iHC) kullanır.
Açıklık, modeli değerlendiren geliştiriciler için önemlidir: 1M token bağlamını ekonomik olarak kullanılabilir kılan şey, seyrek dikkattir, çünkü bu uzunluktaki saf tam dikkat, caydırıcı derecede pahalı hale gelir. Hem DeepSeek hem de Z.AI, bu tasarımın çeşitlerini kendi amiral gemisi modellerinde piyasaya sürdü.
Üretkenlik İçin Tasarlandı, Şirket İçi Uzmanlarla Ayarlandı
Tencent, şirket içindeki uzmanlarla (yazılım mühendisleri, oyun geliştiricileri, finans analistleri ve güvenlik uzmanları) ortaklık kurduğunu ve gerçekte gönderdikleri iş etrafında eğitim verileri oluşturduğunu söylüyor. Model kartı dört odak alanını vurgulamaktadır:
- Yazılım mühendisliği: uzun vadeli geliştirme görevlerinde iyileştirilmiş planlama, hata ayıklama ve doğrulamanın yanı sıra ön uç "görsel zevk"te kazanımlar.
- Ofis ve analiz: Denklemlerin ve finansal modellerin daha güçlü şekilde ele alınmasıyla, karmaşık çoklu dosya içeriğini paylaşılabilir belgelere, elektronik tablolara ve sunumlara dönüştürme.
- Oyun geliştirme: Tek bir komut isteminden oynanabilir prototipler oluşturma ve birden fazla iyileştirme turunda oyun motorlarıyla akıcı bir şekilde çalışma.
- Bilimsel araştırma: Yapay zeka araştırmalarında, moleküler dinamiklerde, yoğun madde fiziğinde ve saf matematik problemlerinde ilerleme kaydedildiği iddia edildi.
Tencent ayrıca Hy4 önizlemesinin kendi ürünleri CodeBuddy ve WorkBuddy ile birlikte tasarlandığını, böylece model kazanımlarının ürün iyileştirmelerine dönüştüğünü söylüyor.
Tencent'in Kendi Karşılaştırmaları Ne Gösteriyor?
Fırlatma malzemelerindeki en somut karşılaştırma, Tencent'in 203 mühendislik görevinde 163 şirket içi uzmanın çıktılarını derecelendirdiği kör yan yana değerlendirmedir. Bu testlerde Hy4 önizlemesi ortalama 2,99 puan alarak GLM 5.3'ün 2,92 (%46,8 galibiyet, %12,8 beraberlik, %40,4 mağlubiyet) ve Kimi K3'ün 2,94 (%51,2 galibiyet, %7,9 beraberlik, %40,9 mağlubiyet) biraz ilerisinde oldu.
İki uyarıyı açıkça belirtmekte fayda var. Birincisi, bunlar Tencent'in dahili değerlendirmeleridir, bağımsız kriterler değil; şirket henüz üçüncü doğrulanmış sonuçları halka açık skor tablolarında yayınlamadı. İkincisi, marjlar dar; subjektif bir uzman derecelendirme ölçeğinde 0,05 ila 0,07 puanlık bir fark, farklı derecelendirme havuzlarının kolaylıkla tersine çevirebileceği aralıkta.
Topluluk, modeli önümüzdeki haftalarda standartlaştırılmış kodlama, akıl yürütme ve aracı paketler yoluyla çalıştırırken, bağımsız doğrulama halka açık topluluklardan gelecektir.
Bilinen Hatalarla Erken Gönderim
Tencent bunun bir önizleme olduğunu açıkça belirtiyor. Model kartı, karmaşık görevler için gerekenden daha uzun süre muhakeme yapmak ve kendi çalışmasını aşırı doğrulama eğilimi dahil olmak üzere bilinen sınırlamaları listeliyor. Ekip, Hy3 neslini geliştiren yaklaşıma atıfta bulunarak "erken gönderim yapıp neyin kırıldığını duymayı tercih edeceğini" söyledi.
Dağıtım için ağırlıklar, vLLM ve SGLang'da ilk gün desteğiyle birlikte hem BF16 hem de FP8'de mevcuttur. Tencent, her ikisi için de önceden oluşturulmuş Docker görüntüleri yayınlıyor; tarifler, 8 GPU'da tensör paralelliği ve gecikmeye duyarlı sunum için MTP tabanlı spekülatif kod çözme öneriyor. İnce ayar hattı ve AngelSlim niceleme araç seti modelle birlikte gönderilir.
Neden Önemlidir
Çin'deki açık siklet yarışı, Z.AI'nin GLM serisi ile Moonshot'ın Kimi modelleri arasında DeepSeek, Qwen ve şimdi sahayı dolduran çok daha büyük bir Hunyuan girişiyle iki cepheli bir savaşa dönüştü. Hy4 ön izlemenin Apache 2.0 lisanslaması, 770B parametre ölçeği ve 1M jeton bağlamı kombinasyonu, herkesin indirebileceği ve kendi kendine barındırabileceği şeylerin tavanını yükseltir ve ilk günkü vLLM ve SGLang desteği, onu gerçekten çalıştırmanın önündeki engeli azaltır.
Açık modelleri Batılı kapalı API'lere karşı değerlendiren kuruluşlar için pratik soru artık açık bir modelin kağıt üzerinde kapalı performansla eşleşip eşleşmediği değil, çevreleyen araçların (kuantizasyon, sunum, ince ayar) yeterince olgun olup olmadığıdır. Tencent, Hunyuan'ın tekrar konuşmaya dahil olmasının yolunun, izin verilen bir lisans altında, hepsini aynı anda göndermenin olacağını düşünüyor.
Dahili kıyaslama iddialarının bağımsız testler altında geçerli olup olmadığı, Hy4 önizlemesinin gerçek bir öncü açık kaynak sürümü olarak mı yoksa kalabalık bir alanda başka bir satıcı karşılaştırması olarak mı hatırlanacağını belirleyecektir. Ağırlıklar artık halka açık olduğundan topluluğun kararının uzun sürmemesi gerekiyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
