MLCommons نتایج بنچمارک MLPerf Inference v6.1 را در 16 سپتامبر 2026 منتشر کرد و عنوان آن متعلق به پلتفرم نسل بعدی NVIDIA بود. طبق اعلام انویدیا، سیستم Vera Rubin NVL72 در اولین ارسال پیش‌نمایش خود، 3.7 برابر توان عملیاتی پرچم‌دار فعلی GB300 NVL72 NVIDIA را ارائه کرد، یک سیگنال اولیه از معنای جانشین Blackwell Ultra برای اقتصاد استنتاج AI.

Vera Rubin پلتفرم بعدی مرکز داده NVIDIA است که به نام اخترفیزیکدانی که شواهد کلیدی برای ماده تاریک ارائه کرده است، نامگذاری شده است. نتایج پیش‌نمایش MLPerf اولین داده‌های عملکرد عمومی و سازماندهی شده مستقل برای سیستم هستند. For more context on this story, see our ongoing latest AI developments.

اعداد پشت اولین

NVIDIA نتایج پیش‌نمایش Vera Rubin NVL72 را در دو مورد از سخت‌ترین حجم‌های کاری در مجموعه نسخه 6.1 ارائه کرد: مدل استدلال DeepSeek-R1 و مدل زبان بینایی Qwen3-VL.

در Qwen3-VL، Vera Rubin NVL72 تا 3.7 برابر بیشتر از GB300 NVL72 در سراسر سناریوهای آفلاین، سرور و تعاملی، اجرای vLLM با چارچوب استنتاج منبع باز Dynamo NVIDIA ارائه کرد. در DeepSeek-R1، با استفاده از کتابخانه TensorRT-LLM NVIDIA، توان عملیاتی تا 2.5 برابر بیشتر از پرچمدار قبلی بود.

هر دو ارقام از ارسال‌های خود NVIDIA به بخش بسته MLCommons می‌آیند، به این معنی که آنها تحت قوانین حسابرسی MLPerf تولید شده‌اند، اگرچه نتایج پیش‌نمایش آشکارا اندازه‌گیری‌های اولیه یک پلتفرم است که هنوز در حال بهینه‌سازی است.

دستاوردها چگونه ساخته می شوند

NVIDIA این پرش را به طراحی کامل پشته مشترک در سخت افزار و نرم افزار نسبت می دهد تا هر جزء.

از طرف سیلیکونی، Vera Rubin هسته های تانسور پیشرفته و یک موتور ترانسفورماتور به روز شده را به ارمغان می آورد که هر دو مرحله استنتاج - فاز پیش پر کردن محاسباتی سنگین و فاز رمزگشایی محدود به حافظه را سرعت می بخشد. این پلتفرم بر دقت NVFP4 تکیه دارد، که ردپای حافظه وزن مدل، توجه و حافظه نهان KV را کاهش می‌دهد و توان عملیاتی را با آنچه NVIDIA به عنوان حداقل کاهش کیفیت خروجی توصیف می‌کند، افزایش می‌دهد.

در بخش نرم‌افزار، ارسال‌ها از سرویس‌های تفکیک‌شده استفاده می‌کردند، که پیش‌پر کردن و رمزگشایی را بر روی وظایف مختلف جدا می‌کند، همراه با موازی‌سازی تخصصی در مقیاس بزرگ برای حفظ لایه‌های ترکیبی از متخصصان در مدل‌هایی مانند DeepSeek-R1 و Qwen3-VL به طور کامل با کار تغذیه می‌شوند.

ارتباط متقابل ستون سوم است. طراحی رک NVL72 با استفاده از نسل ششم NVLink و سوئیچ NVLink، 72 پردازنده گرافیکی را به یک دامنه افزایش‌یافته متصل می‌کند، که NVIDIA می‌گوید نرخ بسته‌ها را 10 برابر و تأخیر کمتری را نسبت به اترنت خارج از قفسه ارائه می‌کند – پایه‌ای که باعث می‌شود سرویس‌دهی تفکیک‌شده در مقیاس رک ارائه شود.

GB300 مقیاس تقریباً عالی را نشان می دهد

پرچمدار فعلی در دور v6.1 اخبار خاص خود را داشت. ارسالی DeepSeek-R1 انویدیا از یک رک GB300 NVL72 - 72 پردازنده گرافیکی - به چهار رک، 288 پردازنده گرافیکی، دستیابی به 99 درصد راندمان مقیاس‌پذیری در سناریوی آفلاین، با افزایش توان عملیاتی تقریباً متناسب با سخت‌افزار اضافه شده، مقیاس‌بندی شد.

کارایی مقیاس‌بندی معیاری است که اپراتورهای مرکز داده به دقت تماشا می‌کنند زیرا تعیین می‌کند که آیا خرید سخت‌افزار بیشتر واقعاً ظرفیت بیشتری را خریداری می‌کند یا خیر. مقیاس‌بندی تقریباً خطی در رک‌ها نشان می‌دهد که گلوگاه در این مقیاس به‌جای ارتباط بین رک، عملکرد هر GPU باقی می‌ماند.

نرم افزار مرکب می شود

یک الگوی تکراری در راندهای MLPerf دوباره برقرار شد: پیشرفت‌های نرم‌افزار به تنهایی تا 1.6 برابر عملکرد بهتری در ارسال‌های نسخه 6.1 NVIDIA در مقایسه با نسخه 6.0 ارائه کردند، و شرکت می‌گوید بهینه‌سازی‌ها پس از مهلت ارسال نسخه 6.1 ادامه یافت و دستاوردهای بیشتری را به همراه داشت.

برای خریداران، مفهوم این است که یک رک معین در طول عمر خود بدون به‌روزرسانی سخت‌افزار سریع‌تر می‌شود - یک NVIDIA پویا برای این استدلال استفاده می‌کند که پایه نصب‌شده‌اش با بالغ شدن پشته نرم‌افزاری به جای کاهش ارزش، افزایش می‌یابد.

بارهای کاری عاملی، معیارها را تغییر شکل دهید

دور نسخه 6.1 نیز تغییری را در آنچه استنتاج برای آن استفاده می شود منعکس کرد. انویدیا به آزمایش پیش‌نمایش بر روی معیار AgentX SemiAnalysis اشاره کرد که بر اساس عوامل هوش مصنوعی طراحی، برنامه‌ریزی و عمل در چندین مرحله انجام می‌شود، جایی که می‌گوید Vera Rubin NVL72 30 برابر عملکرد GB300 NVL72 را ارائه می‌دهد.

MLCommons همچنین در حال آماده سازی یک معیار اختصاصی برای این تغییر است: معیار آتی MLPerf Endpoints با هدف استانداردسازی اندازه‌گیری بارهای کاری استنتاج عاملی است که تست‌های توان عملیاتی سنتی ضعیف هستند. همانطور که استنتاج از چت تک فوری به سمت جلسات طولانی عامل چند مرحله ای حرکت می کند، تأخیر و ثبات تعاملی به اندازه توکن های خام در هر ثانیه اهمیت دارد - و معیارها بر این اساس بازسازی می شوند.

نبیوس و اکوسیستم زودتر می رسند

Nebius ارائه‌دهنده ابر نیز نتایج پیش‌نمایش Vera Rubin NVL72 را ارائه کرد که NVIDIA آن‌ها را به عنوان شواهدی از عملکرد قوی اکوسیستم اولیه برجسته کرد. ارسال‌های اولیه شخص ثالث معمولاً نشانه این است که سیستم‌های نسل بعدی از نمونه‌گیری آزمایشگاهی به سمت دسترسی گسترده‌تر حرکت می‌کنند، اگرچه نه پست NVIDIA و نه انتشار MLCommons زمان دسترسی عمومی را مشخص نمی‌کنند.

چرا برای اقتصاد هوش مصنوعی مهم است

NVIDIA نتایج را بر حسب درآمد تعریف می‌کند: هر رک Vera Rubin NVL72 توکن‌های بیشتری تولید می‌کند، به کاربران بیشتری خدمات می‌دهد و هزینه هر توکن را نسبت به یک رک GB300 NVL72 کاهش می‌دهد. در صنعتی که تقاضای استنتاج توسط مدل‌های استدلالی و بارهای کاری عامل هدایت می‌شود که در هر پرس و جو نسبت به چت ساده محاسبات بزرگ‌تری را مصرف می‌کنند، توان عملیاتی هر رک عددی است که تعیین می‌کند بودجه مرکز داده ثابت به چند کاربر می‌تواند خدمت کند.

اخطارهای معمول اعمال می شود: این موارد ارسالی فروشنده در یک دور پیش نمایش، در دو مدل انتخاب شده توسط NVIDIA، با بهینه سازی هنوز در حال فرود هستند. اما جهت آن مبهم است. اولین نگاه MLPerf به Vera Rubin نشان می‌دهد که صعود عملکردی که زیرساخت‌های هوش مصنوعی را از سال 2023 تعریف کرده است، هیچ نقطه‌ای در چشم ندارد – و چرخه بعدی تازه‌سازی رک، مجدداً باعث بازنشانی اقتصادی خدمات هوش مصنوعی در مقیاس می‌شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →