Tencent پیش‌نمایش Hy4 را با منبع باز منتشر کرده است، یک مدل پرچمدار جدید زبان بزرگ از تیم Hunyuan که این شرکت در مرز منبع باز قرار می‌گیرد. وزن‌ها در 28 آگوست بر روی Hugging Face، ModelScope، GitCode و CNB تحت مجوز Apache 2.0 همراه با یک نوع کوانتیزه FP8 برای استنتاج ارزان‌تر فرود آمدند.

این راه‌اندازی رقابت را در میان آزمایشگاه‌های چینی که مدل‌های مرزی وزن باز را حمل می‌کنند، تشدید می‌کند، حوزه‌ای که در حال حاضر شامل سری‌های GLM Z.AI و مدل‌های Kimi از هوش مصنوعی Moonshot است. بلومبرگ گزارش داد که Tencent ادعا می کند که مدل جدید در تست های داخلی از هر دو رقیب بهتر عمل می کند - ادعایی که مانند همه ارزیابی های فروشنده، مستحق بررسی است. For more context on this story, see our ongoing AI trends.

شماره سرفصل ها

پیش نمایش Hy4 یک مدل ترکیبی از کارشناسان (MoE) با 770 میلیارد پارامتر کل است که 49 میلیارد آن در هر توکن فعال می شود. طبق مدل کارت رسمی منتشر شده در مخزن Tencent-Hunyuan GitHub، ستون فقرات دارای 78 لایه، 256 متخصص روت شده به اضافه یک متخصص مشترک است و 8 متخصص روت شده برتر را برای هر توکن فعال می کند. یک لایه پیش‌بینی چند نشانه‌ای بومی (MTP) - 10 میلیارد پارامتر کل، 0.7 میلیارد فعال - برای رمزگشایی حدسی ساخته شده است.

پنجره زمینه ویژگی دیگر است: 1 میلیون توکن، طولی که به مدل اجازه می‌دهد کل پایگاه‌های کد، اسناد قانونی طولانی، یا رونوشت‌های جلسه یک ساعته را در یک پاس پردازش کند.

معماری وام گرفته شده از رقبا - و ساخته شده بر روی آن

اسناد Tencent با درجه ای غیرعادی از صراحت برای راه اندازی یک پرچمدار، بیان می کند که ماژول توجه "از DeepSeek و GLM الهام گرفته شده است." پیش‌نمایش Hy4 از Gated DeepSeek Sparse Attention (Gated DSA) همراه با IndexCache برای استفاده مجدد از شاخص پراکنده چندلایه استفاده می‌کند، در حالی که مسیر باقیمانده از Hyper-Connections (iHC) برای گسترش جریان اطلاعات بین لایه‌ای استفاده می‌کند.

باز بودن برای توسعه دهندگانی که مدل را ارزیابی می کنند مهم است: توجه کم چیزی است که یک زمینه 1M-token را از نظر اقتصادی قابل استفاده می کند، زیرا توجه کامل ساده لوحانه در آن طول بسیار گران می شود. هر دو DeepSeek و Z.AI انواعی از این طراحی را در مدل های پرچمدار خود عرضه کرده اند.

ساخته شده برای بهره وری، تنظیم شده با کارشناسان داخلی

Tencent می‌گوید که با متخصصان داخل شرکت - مهندسان نرم‌افزار، توسعه‌دهندگان بازی، تحلیلگران مالی و کارشناسان امنیتی - همکاری کرده و داده‌های آموزشی را در مورد کارهایی که در واقع ارسال می‌کنند ساخته است. کارت مدل چهار ناحیه تمرکز را برجسته می کند:

  • مهندسی نرم افزار: بهبود برنامه ریزی، اشکال زدایی و راستی آزمایی در وظایف توسعه افق بلند، به علاوه دستاوردهایی در "طعم بصری" front-end.
  • دفتر و تجزیه و تحلیل: تبدیل زمینه چند فایل کثیف به اسناد، صفحات گسترده و ارائه های قابل اشتراک گذاری، با مدیریت قوی تر معادلات و مدل های مالی.
  • توسعه بازی: تولید نمونه های اولیه قابل بازی از یک اعلان واحد و کار روان با موتورهای بازی در چندین نوبت اصلاح.
  • تحقیق علمی: ادعای پیشرفت در تحقیقات هوش مصنوعی، دینامیک مولکولی، فیزیک ماده متراکم، و مسائل ریاضی محض.

Tencent همچنین می‌گوید پیش‌نمایش Hy4 با محصولات خودش، CodeBuddy و WorkBuddy، به طور مشترک طراحی شده است، به طوری که دستاوردهای مدل به بهبود محصول تبدیل می‌شود.

معیارهای خود Tencent چه چیزی را نشان می دهد

ملموس ترین مقایسه در مواد پرتاب، ارزیابی کورکورانه جانبی Tencent است که با 163 کارشناس داخلی، خروجی های 203 کار مهندسی را رتبه بندی می کند. در آن تست‌ها، پیش‌نمایش Hy4 میانگین امتیاز 2.99 را کسب کرد که کمی بالاتر از GLM 5.3 2.92 (46.8 درصد برد، 12.8 درصد تساوی، 40.4 درصد باخت) و Kimi K3 2.94 (51.2 درصد برد، 7.9 درصد باخت، 4).

دو اخطار قابل ذکر است. اول، اینها ارزیابی های داخلی Tencent هستند، نه معیارهای مستقل. این شرکت هنوز نتایج تایید شده سوم را در تابلوهای عمومی منتشر نکرده است. دوم، حاشیه‌ها باریک هستند - شکاف 0.05 تا 0.07 امتیازی در مقیاس ذهنی رتبه‌بندی کارشناسان در محدوده‌ای است که استخرهای رتبه‌بندی مختلف به راحتی می‌توانند تغییر دهند.

تأیید مستقل از انبوه‌های عمومی انجام می‌شود، زیرا جامعه مدل را از طریق کدگذاری استاندارد، استدلال، و مجموعه‌های عاملی در هفته‌های آینده اجرا می‌کند.

ارسال زود هنگام، با اشکالات شناخته شده

Tencent به صراحت می گوید که این یک پیش نمایش است. کارت مدل محدودیت های شناخته شده را فهرست می کند، از جمله صرف بیش از حد لازم برای استدلال در کارهای پیچیده و تمایل به تأیید بیش از حد کار خود. این تیم می‌گوید که ترجیح می‌دهد زودتر ارسال شود و آنچه را که خراب می‌شود بشنوند، با استناد به رویکردی که نسل Hy3 خود را بهبود بخشید.

برای استقرار، وزن ها در هر دو BF16 و FP8 با پشتیبانی روز اول در vLLM و SGLang در دسترس هستند. Tencent تصاویر Docker از پیش ساخته شده را برای هر دو منتشر می کند، با دستور العمل هایی که موازی تانسور را در 8 GPU و رمزگشایی گمانه زنی مبتنی بر MTP برای سرویس های حساس به تأخیر توصیه می کند. یک خط لوله تنظیم دقیق و جعبه ابزار کوانتیزاسیون AngelSlim در کنار مدل ارسال می شود.

چرا مهم است

مسابقه وزن باز در چین به یک جنگ دو جبهه بین سری GLM Z.AI و مدل‌های کیمی مون‌شات تبدیل شده است، با DeepSeek، Qwen، و اکنون ورودی بسیار بزرگ‌تر Hunyuan که در میدان شلوغ شده است. ترکیب پیش‌نمایش Hy4 از مجوز آپاچی 2.0، یک مقیاس پارامتر 770B، و یک زمینه توکن 1M، سقف آنچه هر کسی می‌تواند دانلود کرده و خود میزبانی کند، افزایش می‌دهد – و پشتیبانی روز اول vLLM و SGLang مانع اجرای واقعی آن را کاهش می‌دهد.

برای شرکت‌هایی که مدل‌های باز را با APIهای بسته غربی مقایسه می‌کنند، سؤال عملی دیگر این نیست که آیا یک مدل باز می‌تواند عملکرد بسته را روی کاغذ مطابقت دهد یا خیر، بلکه این است که آیا ابزار اطراف - کوانتیزاسیون، ارائه، تنظیم دقیق - به اندازه کافی بالغ است یا خیر. Tencent شرط می‌بندد که ارسال همه آن‌ها به یکباره، تحت یک مجوز مجاز، راهی است که Hunyuan دوباره وارد گفتگو می‌شود.

اینکه آیا ادعاهای معیار داخلی تحت آزمایش مستقل باقی می‌مانند، تعیین می‌کند که آیا پیش‌نمایش Hy4 به‌عنوان نسخه منبع باز مرزی واقعی به یاد می‌آید یا معیار فروشنده دیگری در یک زمینه شلوغ. اوزان در حال حاضر عمومی است، بنابراین رای جامعه نباید طولانی شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →