Η MLCommons κυκλοφόρησε τα αποτελέσματα αναφοράς MLPerf Inference v6.1 στις 16 Σεπτεμβρίου 2026 και ο τίτλος ανήκε στην πλατφόρμα επόμενης γενιάς της NVIDIA. Στην πρώτη του υποβολή προεπισκόπησης, το σύστημα Vera Rubin NVL72 παρέδωσε έως και 3,7 φορές μεγαλύτερη απόδοση της τρέχουσας ναυαρχίδας GB300 NVL72 της NVIDIA, σύμφωνα με την ανακοίνωση της NVIDIA, ένα πρώιμο σημάδι για το τι θα σημαίνει ο διάδοχος του Blackwell Ultra για τα οικονομικά συμπεράσματα AI.
Η Vera Rubin είναι η επόμενη πλατφόρμα κέντρου δεδομένων της NVIDIA, που πήρε το όνομά της από τον αστροφυσικό που παρείχε βασικά στοιχεία για τη σκοτεινή ύλη. Τα αποτελέσματα προεπισκόπησης MLPerf είναι τα πρώτα δημόσια, ανεξάρτητα οργανωμένα δεδομένα απόδοσης για το σύστημα. For more context on this story, see our ongoing artificial intelligence updates.
Οι αριθμοί πίσω από το ντεμπούτο
Η NVIDIA υπέβαλε αποτελέσματα προεπισκόπησης Vera Rubin NVL72 σε δύο από τους πιο απαιτητικούς φόρτους εργασίας στη σουίτα v6.1: το μοντέλο συλλογισμού DeepSeek-R1 και το μοντέλο γλώσσας όρασης Qwen3-VL.
Στο Qwen3-VL, η Vera Rubin NVL72 παρείχε έως και 3,7 φορές υψηλότερη απόδοση από το GB300 NVL72 σε σενάρια εκτός σύνδεσης, διακομιστή και διαδραστικά, εκτελώντας vLLM με το πλαίσιο συμπερασμάτων ανοιχτού κώδικα Dynamo της NVIDIA. Στο DeepSeek-R1, χρησιμοποιώντας τη βιβλιοθήκη TensorRT-LLM της NVIDIA, η απόδοση ήταν έως και 2,5 φορές υψηλότερη από την προηγούμενη ναυαρχίδα.
Και τα δύο στοιχεία προέρχονται από τις υποβολές της NVIDIA στο κλειστό τμήμα του MLCommons, που σημαίνει ότι παράγονται σύμφωνα με τους ελεγμένους κανόνες του MLPerf, αν και τα αποτελέσματα προεπισκόπησης είναι ρητά πρώιμες μετρήσεις μιας πλατφόρμας που εξακολουθεί να βελτιστοποιείται.
Πώς χτίζονται τα κέρδη
Η NVIDIA αποδίδει το άλμα στη σχεδίαση πλήρους στοίβας σε υλικό και λογισμικό και όχι σε οποιοδήποτε μεμονωμένο στοιχείο.
Από την πλευρά του πυριτίου, η Vera Rubin φέρνει βελτιωμένους πυρήνες Tensor και έναν ενημερωμένο Transformer Engine που επιταχύνουν και τα δύο στάδια εξαγωγής συμπερασμάτων — τη φάση προπλήρωσης με υπολογισμό και τη φάση αποκωδικοποίησης δεσμευμένη στη μνήμη. Η πλατφόρμα βασίζεται στην ακρίβεια NVFP4, η οποία συρρικνώνει το αποτύπωμα μνήμης των βαρών του μοντέλου, της προσοχής και της κρυφής μνήμης KV, αυξάνοντας την απόδοση με αυτό που η NVIDIA περιγράφει ως ελάχιστη απώλεια ποιότητας εξόδου.
Από την πλευρά του λογισμικού, οι υποβολές χρησιμοποίησαν χωριστή προβολή, η οποία διαχωρίζει την προπλήρωση και την αποκωδικοποίηση σε διαφορετικές εργασίες, μαζί με τον παραλληλισμό των ειδικών μεγάλης κλίμακας για να διατηρούν τα επίπεδα του μείγματος ειδικών σε μοντέλα όπως το DeepSeek-R1 και το Qwen3-VL πλήρως τροφοδοτημένο με εργασία.
Η διασύνδεση είναι ο τρίτος πυλώνας. Η σχεδίαση rack NVL72 συνδέει 72 GPU σε έναν ενιαίο τομέα κλιμάκωσης χρησιμοποιώντας NVLink και NVLink Switch έκτης γενιάς, για τα οποία η NVIDIA λέει ότι παρέχει 10 φορές υψηλότερους ρυθμούς πακέτων και 3 φορές χαμηλότερο λανθάνοντα χρόνο από το off-the-shelf Ethernet - η βάση που κάνει πρακτική την αναδιανομή σε κλίμακα rack.
GB300 Εμφανίζει σχεδόν τέλεια κλιμάκωση
Η τρέχουσα ναυαρχίδα είχε τα δικά της νέα στον γύρο v6.1. Η υποβολή DeepSeek-R1 της NVIDIA κλιμακώθηκε από ένα rack GB300 NVL72 — 72 GPU — σε τέσσερα rack, 288 GPU, επιτυγχάνοντας 99 τοις εκατό αποδοτικότητα κλιμάκωσης στο σενάριο εκτός σύνδεσης, με την απόδοση να αυξάνεται σχεδόν αναλογικά με το προστιθέμενο υλικό.
Η αποδοτικότητα κλιμάκωσης είναι μια μέτρηση που παρακολουθούν στενά οι χειριστές των κέντρων δεδομένων, επειδή καθορίζει εάν η αγορά περισσότερου υλικού αγοράζει πράγματι αναλογικά περισσότερη χωρητικότητα. Η σχεδόν γραμμική κλίμακα στα rack υποδηλώνει ότι το σημείο συμφόρησης σε αυτήν την κλίμακα παραμένει η απόδοση ανά GPU και όχι η επικοινωνία μεταξύ rack.
Το λογισμικό συνεχίζει να ενισχύεται
Ένα επαναλαμβανόμενο μοτίβο στους γύρους MLPerf διατηρήθηκε ξανά: οι βελτιώσεις λογισμικού από μόνες τους παρείχαν έως και 1,6 φορές υψηλότερη απόδοση στις υποβολές v6.1 της NVIDIA σε σύγκριση με την έκδοση 6.0 και η εταιρεία λέει ότι οι βελτιστοποιήσεις συνέχισαν να προσγειώνονται μετά την προθεσμία υποβολής της έκδοσης 6.1, αποφέροντας περαιτέρω κέρδη.
Για τους αγοραστές, το συμπέρασμα είναι ότι ένα δεδομένο rack γίνεται γρηγορότερο κατά τη διάρκεια της ζωής του χωρίς ανανέωση υλικού - μια δυναμική NVIDIA έχει χρησιμοποιήσει για να υποστηρίξει ότι η εγκατεστημένη βάση της εκτιμάται αντί να υποτιμάται καθώς ωριμάζει η στοίβα λογισμικού.
Πρακτορικοί φόρτοι εργασίας Αναδιαμορφώστε τα σημεία αναφοράς
Ο γύρος v6.1 αντανακλούσε επίσης μια αλλαγή στο τι χρησιμοποιείται το συμπέρασμα. Η NVIDIA επεσήμανε τη δοκιμή προεπισκόπησης στο σημείο αναφοράς AgentX της SemiAnalysis, που σχεδιάστηκε γύρω από πράκτορες τεχνητής νοημοσύνης που εξηγούν, σχεδιάζουν και ενεργούν σε πολλαπλά βήματα, όπου λέει ότι η Vera Rubin NVL72 απέδωσε 30 φορές την απόδοση του GB300 NVL72.
Το MLCommons προετοιμάζει επίσης ένα ειδικό σημείο αναφοράς για αυτήν τη μετατόπιση: το επερχόμενο σημείο αναφοράς MLPerf Endpoints στοχεύει στην τυποποίηση της μέτρησης του φόρτου εργασίας εξαγωγής αντιπροσώπων που οι παραδοσιακές δοκιμές απόδοσης καταγράφουν ελάχιστα. Καθώς το συμπέρασμα μετακινείται από τη συνομιλία μίας προτροπής προς τις μακρές περιόδους σύνδεσης αντιπροσώπων πολλαπλών βημάτων, ο λανθάνοντας χρόνος και η διαδραστική συνέπεια έχουν σημασία όσο τα ακατέργαστα διακριτικά ανά δευτερόλεπτο — και τα σημεία αναφοράς ανακατασκευάζονται αναλόγως.
Ο Nebius και το Οικοσύστημα φτάνουν νωρίς
Ο πάροχος cloud Nebius υπέβαλε επίσης αποτελέσματα προεπισκόπησης Vera Rubin NVL72, τα οποία η NVIDIA τόνισε ως απόδειξη ισχυρής πρώιμης απόδοσης του οικοσυστήματος. Οι πρώιμες υποβολές τρίτων είναι συνήθως ένα σημάδι ότι τα συστήματα επόμενης γενιάς μετακινούνται από τη δειγματοληψία εργαστηρίου προς την ευρύτερη διαθεσιμότητα, αν και ούτε η ανάρτηση της NVIDIA ούτε η έκδοση του MLCommons καθορίζουν το χρονοδιάγραμμα γενικής διαθεσιμότητας.
Γιατί έχει σημασία για την AI Economics
Η NVIDIA πλαισιώνει τα αποτελέσματα σε όρους εσόδων: κάθε rack Vera Rubin NVL72 παράγει σημαντικά περισσότερα tokens, εξυπηρετεί περισσότερους χρήστες και μειώνει το κόστος ανά διακριτικό σε σχέση με ένα rack NVL72 GB300. Σε έναν κλάδο όπου η ζήτηση συμπερασμάτων καθορίζεται από μοντέλα συλλογιστικής και φόρτους εργασίας πρακτόρων που καταναλώνουν τάξεις μεγέθους περισσότερους υπολογισμούς ανά ερώτημα από ό,τι απλή συνομιλία, η απόδοση ανά rack είναι ο αριθμός που καθορίζει πόσους χρήστες μπορεί να εξυπηρετήσει ένας σταθερός προϋπολογισμός κέντρου δεδομένων.
Ισχύουν οι συνήθεις προειδοποιήσεις: πρόκειται για υποβολές προμηθευτών σε έναν γύρο προεπισκόπησης, σε δύο μοντέλα που επιλέχθηκαν από την NVIDIA, με τις βελτιστοποιήσεις να προσγειώνονται ακόμη. Αλλά η σκηνοθεσία είναι ξεκάθαρη. Η πρώτη ματιά του MLPerf στη Vera Rubin υποδηλώνει ότι η ανάβαση απόδοσης που καθόρισε την υποδομή τεχνητής νοημοσύνης από το 2023 δεν έχει ορατό οροπέδιο — και ότι ο επόμενος κύκλος ανανέωσης rack θα επαναφέρει ξανά τα οικονομικά της εξυπηρέτησης της τεχνητής νοημοσύνης σε κλίμακα.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
