Tencent telah merilis dan membuat pratinjau Hy4 menjadi sumber terbuka, model bahasa besar andalan baru dari tim Hunyuan yang diposisikan perusahaan di garis depan sumber terbuka. Bobot tersebut diterapkan pada Hugging Face, ModelScope, GitCode, dan CNB pada tanggal 28 Agustus di bawah lisensi Apache 2.0 yang permisif, bersama dengan varian terkuantisasi FP8 untuk inferensi yang lebih murah.

Peluncuran ini meningkatkan persaingan di antara laboratorium Tiongkok yang mengirimkan model open-weight frontier, bidang yang saat ini mencakup seri GLM Z.AI dan model Kimi dari Moonshot AI. Bloomberg melaporkan bahwa Tencent mengklaim model baru ini mengungguli kedua pesaingnya dalam pengujian internal – sebuah klaim yang, seperti semua evaluasi yang dilakukan vendor, patut mendapat perhatian. For more context on this story, see our ongoing AI industry coverage.

Nomor Judul

Pratinjau Hy4 adalah model Mixture-of-Experts (MoE) dengan total 770 miliar parameter, dimana 49 miliar di antaranya diaktifkan per token. Menurut kartu model resmi yang dipublikasikan di repositori Tencent-Hunyuan GitHub, tulang punggung memiliki 78 lapisan, 256 pakar yang dirutekan ditambah satu pakar yang dibagikan, dan mengaktifkan 8 pakar yang dirutekan teratas untuk setiap token. Lapisan prediksi multi-token (MTP) asli — total 10 miliar parameter, 0,7 miliar diaktifkan — dibangun untuk decoding spekulatif.

Jendela konteks adalah spesifikasi tenda lainnya: 1 juta token, panjang yang memungkinkan model memproses seluruh basis kode, dokumen hukum yang panjang, atau transkrip rapat berdurasi satu jam dalam sekali jalan.

Arsitektur yang Dipinjam Dari Pesaing — dan Dibangun Di Atasnya

Dalam tingkat keterusterangan yang tidak biasa untuk peluncuran andalan, dokumentasi Tencent menyatakan bahwa modul perhatian "terinspirasi oleh DeepSeek dan GLM." Pratinjau Hy4 menggunakan Gated DeepSeek Sparse Attention (Gated DSA) yang dikombinasikan dengan IndexCache untuk penggunaan kembali indeks sparse lintas lapisan, sedangkan jalur sisa menggunakan identitas Hyper-Connections (iHC) untuk memperluas aliran informasi antar-lapisan.

Keterbukaan penting bagi pengembang yang mengevaluasi model: perhatian yang terbatas inilah yang membuat konteks token 1M dapat dilayani secara ekonomi, karena perhatian penuh yang naif pada jangka waktu tersebut menjadi sangat mahal. Baik DeepSeek dan Z.AI telah mengirimkan varian desain ini pada model andalan mereka.

Dibangun untuk Produktivitas, Diselaraskan Dengan Pakar In-House

Tencent mengatakan pihaknya bermitra dengan para ahli di dalam perusahaan – insinyur perangkat lunak, pengembang game, analis keuangan, dan pakar keamanan – dan membangun data pelatihan seputar pekerjaan yang sebenarnya mereka lakukan. Kartu model menyoroti empat area fokus:

  • Rekayasa perangkat lunak: peningkatan perencanaan, proses debug, dan verifikasi pada tugas pengembangan jangka panjang, ditambah peningkatan dalam "selera visual" front-end.
  • Kantor dan analisis: mengubah konteks multi-file yang berantakan menjadi dokumen, spreadsheet, dan presentasi yang dapat dibagikan, dengan penanganan persamaan dan model keuangan yang lebih kuat.
  • Pengembangan game: menghasilkan prototipe yang dapat dimainkan dari satu perintah dan bekerja dengan lancar dengan mesin game di beberapa putaran penyempurnaan.
  • Penelitian ilmiah: kemajuan yang diklaim dalam penelitian AI, dinamika molekuler, fisika benda terkondensasi, dan soal matematika murni.

Tencent juga mengatakan pratinjau Hy4 dirancang bersama dengan produknya sendiri, CodeBuddy dan WorkBuddy, sehingga keuntungan model diterjemahkan ke dalam peningkatan produk.

Apa yang Ditunjukkan oleh Tolok Ukur Tencent Sendiri

Perbandingan yang paling konkrit dalam materi peluncuran adalah evaluasi blind side-by-side yang dilakukan Tencent dengan 163 pakar internal yang menilai keluaran pada 203 tugas teknik. Dalam pengujian tersebut, pratinjau Hy4 mencetak rata-rata 2,99, sedikit di atas GLM 5.3 dengan 2,92 (46,8 persen menang, 12,8 persen seri, 40,4 persen kalah) dan Kimi K3 dengan 2,94 (51,2 persen menang, 7,9 persen seri, 40,9 persen kalah).

Ada dua peringatan yang patut dinyatakan dengan jelas. Pertama, ini adalah evaluasi internal Tencent, bukan tolok ukur independen; perusahaan belum mempublikasikan hasil verifikasi ketiga di papan peringkat publik. Kedua, marginnya sempit — selisih 0,05 hingga 0,07 poin pada skala penilaian pakar subjektif berada dalam kisaran yang dapat dengan mudah diubah oleh kelompok pemeringkat yang berbeda.

Verifikasi independen akan dilakukan oleh agregasi publik saat komunitas menjalankan model melalui pengkodean standar, penalaran, dan rangkaian agen dalam beberapa minggu mendatang.

Pengiriman Lebih Awal, Dengan Bug yang Diketahui

Tencent secara eksplisit menyatakan bahwa ini adalah pratinjau. Kartu model mencantumkan batasan-batasan yang diketahui, termasuk menghabiskan waktu lebih lama dari yang diperlukan untuk memikirkan tugas-tugas kompleks dan kecenderungan untuk memverifikasi pekerjaan sendiri secara berlebihan. Tim tersebut mengatakan bahwa mereka "lebih suka mengirim lebih awal dan mendengar apa yang rusak," mengutip pendekatan yang meningkatkan generasi Hy3-nya.

Untuk penerapan, bobot tersedia di BF16 dan FP8, dengan dukungan hari pertama di vLLM dan SGLang. Tencent menerbitkan image Docker bawaan untuk keduanya, dengan resep yang merekomendasikan paralelisme tensor di 8 GPU dan decoding spekulatif berbasis MTP untuk penyajian yang sensitif terhadap latensi. Saluran penyempurnaan dan perangkat kuantisasi AngelSlim dikirimkan bersama model.

Mengapa Itu Penting

Perlombaan kelas terbuka di Tiongkok telah menjadi perang dua sisi antara seri GLM Z.AI dan model Kimi dari Moonshot, dengan DeepSeek, Qwen, dan sekarang entri Hunyuan yang jauh lebih besar memadati lapangan. Kombinasi pratinjau Hy4 dari lisensi Apache 2.0, skala parameter 770B, dan konteks token 1 juta meningkatkan batas atas apa yang dapat diunduh dan dihosting sendiri oleh siapa pun — dan dukungan vLLM dan SGLang hari pertama menurunkan hambatan untuk benar-benar menjalankannya.

Bagi perusahaan yang membandingkan model terbuka dengan API tertutup Barat, pertanyaan praktisnya bukan lagi apakah model terbuka dapat menandingi kinerja tertutup di atas kertas, namun apakah perangkat yang ada di sekitarnya — kuantisasi, penyajian, penyempurnaan — sudah cukup matang. Tencent bertaruh bahwa mengirimkan semuanya sekaligus, di bawah lisensi yang permisif, adalah cara Hunyuan kembali menjadi perbincangan.

Apakah klaim benchmark internal bertahan dalam pengujian independen akan menentukan apakah pratinjau Hy4 diingat sebagai rilis sumber terbuka frontier asli atau benchmark vendor lain di bidang yang ramai. Bobotnya sudah diketahui publik sekarang, jadi keputusan komunitas tidak akan memakan waktu lama.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →