Tencent פרסמה תצוגה מקדימה של Hy4 בקוד פתוח, מודל דגל חדש לשפה גדולה מצוות ה-Hunyuan שלה שהחברה ממקמת בחזית הקוד הפתוח. המשקולות נחתו על Hugging Face, ModelScope, GitCode ו-CNB ב-28 באוגוסט תחת רישיון Apache 2.0 המתירני, לצד גרסת FP8 מכומדת להסקה זולה יותר.

ההשקה מעצימה את התחרות בין מעבדות סיניות המשלוחות דגמי חזית בעלי משקל פתוח, תחום שכולל כיום את סדרת ה-GLM של Z.AI ואת דגמי Kimi של Moonshot AI. בלומברג דיווחה כי טנסנט טוענת שהדגם החדש עולה על שני היריבים בבדיקות פנימיות - טענה שכמו כל הערכות המופעלות על ידי ספקים, ראויה לבדיקה. For more context on this story, see our ongoing latest AI developments.

מספרי הכותרות

Hy4 Preview הוא דגם של Mixture-of-Experts (MoE) עם 770 מיליארד פרמטרים כולל, מתוכם 49 מיליארד מופעלים לכל אסימון. לפי כרטיס הדגם הרשמי שפורסם במאגר Tencent-Hunyuan GitHub, עמוד השדרה כולל 78 שכבות, 256 מומחים מנותבים פלוס מומחה משותף אחד, ומפעיל את 8 המומחים המנותבים המובילים עבור כל אסימון. שכבת חיזוי מולטי-אסימון מקורית (MTP) - 10 מיליארד פרמטרים בסך הכל, 0.7 מיליארד מופעלים - מובנית עבור פענוח ספקולטיבי.

חלון ההקשר הוא מפרט ה-Marquee השני: מיליון אסימונים, אורך המאפשר למודל לעבד בסיסי קוד שלמים, מסמכים משפטיים ארוכים או תמלול פגישות של שעה במעבר אחד.

ארכיטקטורה שהושאלה מיריבים - ונבנתה עליה

במידה יוצאת דופן של כנות להשקת דגל, התיעוד של Tencent מציין שמודול הקשב היה "בהשראת DeepSeek ו-GLM". התצוגה המקדימה של Hy4 משתמשת ב-Gated DeepSeek Sparse Attention (Gated DSA) בשילוב עם IndexCache לשימוש חוזר באינדקסים דליל-שכבתי, בעוד שהמסלול השיורי משתמש ב-IHC (Hyper-Connections זהות) כדי להרחיב את זרימת המידע הבין-שכבתית.

הפתיחות חשובה למפתחים שמעריכים את המודל: תשומת לב דלילה היא מה שהופך את ההקשר של 1M-token לזמין מבחינה כלכלית, שכן תשומת לב מלאה נאיבית באורך זה הופכת ליקרה באופן בלתי רגיל. גם DeepSeek וגם Z.AI שלחו גרסאות של עיצוב זה בדגמי הדגל שלהם.

נבנה עבור פרודוקטיביות, מכוון עם מומחים פנימיים

Tencent אומרת שהיא שיתפה פעולה עם מומחים בתוך החברה - מהנדסי תוכנה, מפתחי משחקים, אנליסטים פיננסים ומומחי אבטחה - ובנתה נתוני הדרכה סביב העבודה שהם שולחים בפועל. כרטיס הדגם מדגיש ארבעה תחומי מיקוד:

  • הנדסת תוכנה: שיפור תכנון, ניפוי באגים ואימות במשימות פיתוח ארוכות אופק, בתוספת רווחים ב"טעם חזותי" בחזית.
  • משרד וניתוח: המרת הקשר מרובה קבצים מבולגן למסמכים, גיליונות אלקטרוניים ומצגות שניתנים לשיתוף, עם טיפול חזק יותר במשוואות ובמודלים פיננסיים.
  • פיתוח משחקים: יצירת אבות טיפוס שניתנים להפעלה מתוך הנחיה אחת ועבודה שוטפת עם מנועי משחק על פני מספר סיבובי חידוד.
  • מחקר מדעי: טענת התקדמות במחקר בינה מלאכותית, דינמיקה מולקולרית, פיזיקת החומר המעובה ובעיות מתמטיות טהורות.

Tencent גם אומרת ש-Hy4 Preview תוכננה יחד עם המוצרים שלה, CodeBuddy ו-WorkBuddy, כך שהרווחים במודל מתורגמים לשיפורי מוצר.

מה מציגים המדדים של Tencent's Own

ההשוואה הקונקרטית ביותר בחומרי ההשקה היא הערכה עיוורת זה לצד זה שהפעילה Tencent עם 163 מומחים פנימיים שמדרגים תפוקות ב-203 משימות הנדסיות. במבחנים האלה, Hy4 Preview השיגה ממוצע של 2.99, מעט לפני 2.92 של GLM 5.3 (46.8 אחוז ניצחונות, 12.8 אחוזי שוויון, 40.4 אחוזי הפסדים) וה-2.94 של Kimi K3 (51.2 אחוז ניצחונות, 7.9 אחוזי שוויון, 40.9 אחוזי הפסד).

שתי אזהרות ראויות להצהרה ברורה. ראשית, אלו הן ההערכות הפנימיות של Tencent, לא בנצ'מרקים עצמאיים; החברה עדיין לא פרסמה תוצאות מאומתות שלישית בטבלאות הישגים ציבוריות. שנית, השוליים צרים - פער של 0.05 עד 0.07 נקודות בסולם דירוג מומחים סובייקטיבי הוא בטווח שמאגרי דירוג שונים יכולים להעיף בקלות.

אימות עצמאי יגיע מהצטברויות ציבוריות כאשר הקהילה תפעיל את המודל באמצעות קידוד סטנדרטי, הנמקה וחבילות סוכנים בשבועות הקרובים.

משלוח מוקדם, עם באגים ידועים

טנסנט מפורשת שזוהי תצוגה מקדימה. כרטיס הדגם מפרט מגבלות ידועות, כולל הוצאה ארוכה מהנדרש בהיגיון באמצעות משימות מורכבות ונטייה לאימות יתר של עבודתו. הצוות אומר שהוא "מעדיף לשלוח מוקדם ולשמוע מה נשבר", תוך ציון הגישה ששיפרה את דור ה-Hy3 שלו.

לפריסה, המשקולות זמינות גם ב-BF16 וגם ב-FP8, עם תמיכה ביום ראשון ב-vLLM וב-SGLang. Tencent מפרסמת תמונות Docker שנבנו מראש עבור שניהם, עם מתכונים הממליצים על מקביליות טנזור על פני 8 GPUs ופענוח ספקולטיבי מבוסס MTP להגשה רגישת זמן השהייה. צינור לכוונון עדין וערכת הכלים לכיוונט AngelSlim נשלחים לצד הדגם.

למה זה חשוב

מרוץ המשקל הפתוח בסין הפך למלחמה דו-חזיתית בין סדרת ה-GLM של Z.AI לדגמי Kimi של Moonshot, כאשר DeepSeek, Qwen, ועכשיו כניסה הוניואנית גדולה הרבה יותר גודשת את השטח. השילוב של Hy4 Preview של רישוי Apache 2.0, סולם פרמטרים של 770B והקשר של 1M-token מעלה את התקרה של מה שכל אחד יכול להוריד ולארח בעצמו - והתמיכה ב-vLLM ו-SGLang ביום הראשון מורידה את המחסום להפעלתו בפועל.

עבור ארגונים השוקלים מודלים פתוחים מול ממשקי API סגורים מערביים, השאלה המעשית היא כבר לא אם מודל פתוח יכול להתאים לביצועים סגורים על הנייר, אלא האם הכלים שמסביב - קוונטיזציה, הגשה, כוונון עדין - בוגר מספיק. טנסנט מהמר שהעברת הכל בבת אחת, תחת רישיון מתיר, היא הדרך שבה הוניואן חוזר לשיחה.

אם הטענות הפנימיות בהשוואה מתקיימות תחת בדיקות עצמאיות יקבעו אם התצוגה המקדימה של Hy4 תיזכר כהפצה אמיתית של קוד פתוח עם גבולות, או מדד אחר של ספקים בשדה צפוף. המשקולות פומביות כעת, ולכן פסק הדין של הקהילה לא אמור להימשך זמן רב.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →