Η Tencent κυκλοφόρησε και προεπισκόπηση ανοιχτού κώδικα Hy4, ένα νέο εμβληματικό μοντέλο μεγάλης γλώσσας από την ομάδα Hunyuan που η εταιρεία τοποθετεί στα σύνορα ανοιχτού κώδικα. Τα βάρη προσγειώθηκαν στο Hugging Face, ModelScope, GitCode και CNB στις 28 Αυγούστου με την άδεια Apache 2.0, μαζί με μια κβαντισμένη παραλλαγή FP8 για φθηνότερο συμπέρασμα.
Το λανσάρισμα εντείνει τον ανταγωνισμό μεταξύ των κινεζικών εργαστηρίων που στέλνουν μοντέλα ανοιχτού βάρους στα σύνορα, ένα πεδίο που περιλαμβάνει επί του παρόντος τη σειρά GLM της Z.AI και τα μοντέλα Kimi της Moonshot AI. Το Bloomberg ανέφερε ότι η Tencent ισχυρίζεται ότι το νέο μοντέλο ξεπερνά και τους δύο αντιπάλους στις εσωτερικές δοκιμές - ένας ισχυρισμός που, όπως όλες οι αξιολογήσεις που εκτελούνται από προμηθευτές, αξίζει να εξεταστεί. For more context on this story, see our ongoing AI news.
Οι αριθμοί επικεφαλίδων
Η προεπισκόπηση Hy4 είναι ένα μοντέλο Mixture-of-Experts (MoE) με 770 δισεκατομμύρια συνολικές παραμέτρους, εκ των οποίων τα 49 δισεκατομμύρια ενεργοποιούνται ανά διακριτικό. Σύμφωνα με την επίσημη κάρτα μοντέλου που δημοσιεύτηκε στο αποθετήριο Tencent-Hunyuan GitHub, η ραχοκοκαλιά έχει 78 επίπεδα, 256 δρομολογημένους ειδικούς συν έναν κοινό ειδικό και ενεργοποιεί τους κορυφαίους 8 ειδικούς δρομολόγησης για κάθε διακριτικό. Ένα εγγενές επίπεδο πρόβλεψης πολλαπλών σημείων (MTP) — 10 δισεκατομμύρια συνολικές παράμετροι, 0,7 δισεκατομμύρια ενεργοποιημένες — είναι ενσωματωμένο για κερδοσκοπική αποκωδικοποίηση.
Το παράθυρο περιβάλλοντος είναι η άλλη προδιαγραφή πλαισίου: 1 εκατομμύριο διακριτικά, ένα μήκος που επιτρέπει στο μοντέλο να επεξεργάζεται ολόκληρες βάσεις κωδικών, μεγάλα νομικά έγγραφα ή μεταγραφές συσκέψεων διάρκειας μιας ώρας με ένα μόνο πάσο.
Αρχιτεκτονική δανεισμένη από ανταγωνιστές — και χτισμένη πάνω της
Σε έναν ασυνήθιστο βαθμό ειλικρίνειας για μια ναυαρχίδα, η τεκμηρίωση της Tencent αναφέρει ότι η ενότητα προσοχής «εμπνεύστηκε από το DeepSeek και το GLM». Η προεπισκόπηση Hy4 χρησιμοποιεί Gated DeepSeek Sparse Attention (Gated DSA) σε συνδυασμό με το IndexCache για επαναχρησιμοποίηση αραιού ευρετηρίου μεταξύ επιπέδων, ενώ η υπολειπόμενη διαδρομή χρησιμοποιεί Hyper-Connections (iHC) ταυτότητας για την επέκταση της ροής πληροφοριών μεταξύ των επιπέδων.
Η διαφάνεια έχει σημασία για τους προγραμματιστές που αξιολογούν το μοντέλο: η αραιή προσοχή είναι αυτό που κάνει ένα πλαίσιο 1M-token οικονομικά εξυπηρετικό, αφού η αφελής πλήρης προσοχή σε αυτό το μήκος γίνεται απαγορευτικά δαπανηρή. Τόσο το DeepSeek όσο και το Z.AI έχουν στείλει παραλλαγές αυτού του σχεδίου στα δικά τους ναυαρχικά μοντέλα.
Σχεδιασμένο για παραγωγικότητα, συντονισμένο με εσωτερικούς ειδικούς
Η Tencent λέει ότι συνεργάστηκε με ειδικούς εντός της εταιρείας —μηχανικούς λογισμικού, προγραμματιστές παιχνιδιών, οικονομικούς αναλυτές και ειδικούς σε θέματα ασφάλειας— και δημιούργησε δεδομένα εκπαίδευσης γύρω από την εργασία που πραγματικά αποστέλλουν. Η κάρτα μοντέλου επισημαίνει τέσσερις περιοχές εστίασης:
- Τεχνική λογισμικού: βελτιωμένος σχεδιασμός, εντοπισμός σφαλμάτων και επαλήθευση σε εργασίες ανάπτυξης μεγάλου ορίζοντα, καθώς και κέρδη στην "οπτική γεύση" του front-end.
- Γραφείο και ανάλυση: μετατροπή ακατάστατου περιβάλλοντος πολλών αρχείων σε έγγραφα, υπολογιστικά φύλλα και παρουσιάσεις με δυνατότητα κοινής χρήσης, με πιο ισχυρό χειρισμό εξισώσεων και οικονομικών μοντέλων.
- Ανάπτυξη παιχνιδιών: δημιουργία πρωτοτύπων με δυνατότητα αναπαραγωγής από ένα μόνο μήνυμα και άπταιστη εργασία με μηχανές παιχνιδιών σε πολλαπλές στροφές βελτίωσης.
- Επιστημονική έρευνα: ισχυριζόμενη πρόοδος στην έρευνα της τεχνητής νοημοσύνης, στη μοριακή δυναμική, στη φυσική της συμπυκνωμένης ύλης και στα αμιγώς μαθηματικά προβλήματα.
Η Tencent λέει επίσης ότι η προεπισκόπηση Hy4 σχεδιάστηκε από κοινού με τα δικά της προϊόντα, CodeBuddy και WorkBuddy, έτσι ώστε τα κέρδη του μοντέλου να μεταφράζονται σε βελτιώσεις προϊόντων.
Τι δείχνουν οι δείκτες αναφοράς της Tencent
Η πιο συγκεκριμένη σύγκριση στα υλικά εκτόξευσης είναι μια τυφλή αξιολόγηση δίπλα-δίπλα που η Tencent έτρεξε με 163 εσωτερικούς εμπειρογνώμονες να αξιολογούν τα αποτελέσματα σε 203 εργασίες μηχανικής. Σε αυτές τις δοκιμές, η προεπισκόπηση Hy4 σημείωσε κατά μέσο όρο 2,99, ελαφρώς μπροστά από το 2,92 του GLM 5,3 (46,8 τοις εκατό νίκες, 12,8 τοις εκατό ισοπαλίες, 40,4 τοις εκατό ήττες) και το Kimi K3 2,94 (51,2 τοις εκατό νίκες, 7,9 τοις εκατό ισοπαλίες, 40 τοις εκατό).
Δύο επιφυλάξεις αξίζει να αναφερθούν ξεκάθαρα. Πρώτον, αυτές είναι εσωτερικές αξιολογήσεις της Tencent, όχι ανεξάρτητα σημεία αναφοράς. η εταιρεία δεν έχει ακόμη δημοσιεύσει αποτελέσματα τρίτων επαληθευμένων σε δημόσιους πίνακες κατάταξης. Δεύτερον, τα περιθώρια είναι στενά - ένα χάσμα 0,05 έως 0,07 μονάδων σε μια υποκειμενική κλίμακα αξιολόγησης ειδικών είναι εντός του εύρους που θα μπορούσαν εύκολα να ανατρέψουν διαφορετικές ομάδες αξιολόγησης.
Η ανεξάρτητη επαλήθευση θα προέρχεται από δημόσιες συναθροίσεις, καθώς η κοινότητα εκτελεί το μοντέλο μέσω τυποποιημένης κωδικοποίησης, συλλογιστικής και πρακτόρων τις επόμενες εβδομάδες.
Αποστολή νωρίς, με γνωστά σφάλματα
Η Tencent είναι ξεκάθαρη ότι πρόκειται για προεπισκόπηση. Η κάρτα μοντέλου απαριθμεί γνωστούς περιορισμούς, συμπεριλαμβανομένης της δαπάνης περισσότερο από το απαραίτητο συλλογισμού μέσω σύνθετων εργασιών και την τάση να επαληθεύει υπερβολικά τη δουλειά της. Η ομάδα λέει ότι «θα προτιμούσε να στείλει νωρίς και να ακούσει τι χαλάει», αναφέροντας την προσέγγιση που βελτίωσε τη γενιά του Hy3.
Για ανάπτυξη, τα βάρη είναι διαθέσιμα τόσο σε BF16 όσο και σε FP8, με υποστήριξη day-one σε vLLM και SGLang. Η Tencent δημοσιεύει προκατασκευασμένες εικόνες Docker και για τα δύο, με συνταγές που συνιστούν παραλληλισμό τανυστών σε 8 GPU και κερδοσκοπική αποκωδικοποίηση βασισμένη σε MTP για προβολή ευαίσθητη σε λανθάνουσα κατάσταση. Μια σωλήνωση λεπτομερούς ρύθμισης και το κιτ εργαλείων κβαντοποίησης AngelSlim αποστέλλονται παράλληλα με το μοντέλο.
Γιατί έχει σημασία
Ο αγώνας ανοιχτού βάρους στην Κίνα έχει γίνει ένας πόλεμος δύο μετώπων μεταξύ της σειράς GLM της Z.AI και των μοντέλων Kimi της Moonshot, με τα DeepSeek, Qwen και τώρα μια πολύ μεγαλύτερη είσοδο Hunyuan να συνωστίζεται στο γήπεδο. Ο συνδυασμός της προεπισκόπησης του Hy4 με αδειοδότηση Apache 2.0, μια κλίμακα παραμέτρων 770B και ένα πλαίσιο διακριτικού 1M αυξάνει το ανώτατο όριο του τι μπορεί να κατεβάσει και να φιλοξενήσει ο καθένας — και η υποστήριξη vLLM και SGLang την πρώτη ημέρα μειώνει το εμπόδιο στην πραγματική λειτουργία του.
Για τις επιχειρήσεις που σταθμίζουν ανοιχτά μοντέλα έναντι δυτικών κλειστών API, το πρακτικό ερώτημα δεν είναι πλέον εάν ένα ανοιχτό μοντέλο μπορεί να ταιριάξει την κλειστή απόδοση σε χαρτί, αλλά εάν τα γύρω εργαλεία - κβαντοποίηση, εξυπηρέτηση, τελειοποίηση - είναι αρκετά ώριμα. Η Tencent στοιχηματίζει ότι η αποστολή όλων αυτών με τη μία, με επιτρεπτή άδεια, είναι ο τρόπος με τον οποίο ο Hunyuan μπαίνει ξανά στη συζήτηση.
Το εάν οι εσωτερικές αξιώσεις συγκριτικής αξιολόγησης διατηρούνται υπό ανεξάρτητες δοκιμές θα καθορίσει εάν η προεπισκόπηση Hy4 θα απομνημονευθεί ως μια γνήσια έκδοση ανοιχτού κώδικα συνόρων ή ως άλλο σημείο αναφοράς προμηθευτή σε ένα πολυσύχναστο πεδίο. Τα βάρη είναι δημόσια τώρα, επομένως η ετυμηγορία της κοινότητας δεν πρέπει να αργήσει.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
