MLcommons نے 16 ستمبر 2026 کو MLPerf Inference v6.1 بینچ مارک کے نتائج جاری کیے، اور سرخی NVIDIA کے اگلی نسل کے پلیٹ فارم سے تعلق رکھتی تھی۔ اپنی پہلی بار پیش نظارہ جمع کرانے میں، ویرا روبن NVL72 سسٹم نے NVIDIA کے موجودہ GB300 NVL72 فلیگ شپ کے تھرو پٹ سے 3.7 گنا تک ڈیلیور کیا، NVIDIA کے اعلان کے مطابق، بلیک ویل الٹرا کے جانشین کا AI انفرنس اکنامکس کے لیے کیا مطلب ہوگا۔
ویرا روبن NVIDIA کا اگلا ڈیٹا سینٹر پلیٹ فارم ہے، جس کا نام فلکی طبیعیات کے ماہر کے لیے رکھا گیا ہے جس نے تاریک مادے کے لیے کلیدی ثبوت فراہم کیے ہیں۔ MLPerf پیش نظارہ کے نتائج نظام کے لیے پہلے عوامی، آزادانہ طور پر منظم کارکردگی کا ڈیٹا ہیں۔ For more context on this story, see our ongoing artificial intelligence updates.
ڈیبیو کے پیچھے نمبر
NVIDIA نے ویرا روبن NVL72 کے پیش نظارہ کے نتائج کو v6.1 سویٹ میں دو سب سے زیادہ کام کے بوجھ پر پیش کیا: DeepSeek-R1 ریجننگ ماڈل اور Qwen3-VL وژن لینگویج ماڈل۔
Qwen3-VL پر، Vera Rubin NVL72 نے NVIDIA کے Dynamo اوپن سورس انفرنس فریم ورک کے ساتھ vLLM چلاتے ہوئے، آف لائن، سرور اور انٹرایکٹو منظرناموں میں GB300 NVL72 سے 3.7 گنا زیادہ تھرو پٹ فراہم کیا۔ DeepSeek-R1 پر، NVIDIA کی TensorRT-LLM لائبریری کا استعمال کرتے ہوئے، تھرو پٹ پچھلے فلیگ شپ سے 2.5 گنا زیادہ تھا۔
دونوں اعداد و شمار NVIDIA کی طرف سے MLCcommons کے بند ڈویژن میں جمع کرائے گئے ہیں، مطلب کہ وہ MLPerf کے آڈٹ شدہ قواعد کے تحت تیار کیے گئے تھے، حالانکہ پیش نظارہ کے نتائج واضح طور پر پلیٹ فارم کی ابتدائی پیمائش ہیں جو ابھی بھی بہتر کیے جا رہے ہیں۔
فوائد کیسے بنائے جاتے ہیں۔
NVIDIA کسی ایک جزو کے بجائے ہارڈ ویئر اور سافٹ ویئر میں مکمل اسٹیک کو-ڈیزائن کو چھلانگ دیتا ہے۔
سلیکون کی طرف، ویرا روبن بہتر Tensor Cores اور ایک اپڈیٹ شدہ ٹرانسفارمر انجن لاتی ہے جو اندازہ کے دونوں مراحل کو تیز کرتی ہے — کمپیوٹ ہیوی پری فل فیز اور میموری سے منسلک ڈی کوڈ فیز۔ پلیٹ فارم NVFP4 درستگی پر جھکتا ہے، جو ماڈل کے وزن، توجہ اور KV کیشے کے میموری فوٹ پرنٹ کو سکڑتا ہے، جس کے ساتھ تھرو پٹ بڑھاتا ہے جسے NVIDIA آؤٹ پٹ کوالٹی کے کم سے کم نقصان کے طور پر بیان کرتا ہے۔
سافٹ ویئر کی طرف، گذارشات میں متضاد سرونگ کا استعمال کیا گیا، جو مختلف کاموں پر پری فل اور ڈی کوڈ کو الگ کرتا ہے، ساتھ ہی بڑے پیمانے پر ماہرین کی ہم آہنگی کے ساتھ ڈیپ سیک-R1 اور Qwen3-VL جیسے ماڈلز میں ماہرین کی پرتوں کو مکمل طور پر کام سے کھلایا جاتا ہے۔
باہم ربط تیسرا ستون ہے۔ NVL72 ریک ڈیزائن چھٹی نسل کے NVLink اور NVLink سوئچ کا استعمال کرتے ہوئے 72 GPUs کو سنگل اسکیل اپ ڈومین میں جوڑتا ہے، جس کے بارے میں NVIDIA کا کہنا ہے کہ آف دی شیلف ایتھرنیٹ کے مقابلے میں 10 گنا زیادہ پیکٹ ریٹ اور 3 گنا کم لیٹنسی فراہم کرتا ہے - وہ فاؤنڈیشن جو ریک اسکیل کو ڈس ایگنگ سرور بناتی ہے۔
GB300 قریب پرفیکٹ اسکیلنگ دکھاتا ہے۔
موجودہ فلیگ شپ کی v6.1 راؤنڈ میں اپنی خبریں تھیں۔ NVIDIA کی DeepSeek-R1 جمع کرانے کو ایک GB300 NVL72 ریک — 72 GPUs — سے چار ریک، 288 GPUs تک سکیل کیا گیا، آف لائن منظر نامے میں 99 فیصد اسکیلنگ کی کارکردگی کو حاصل کیا گیا، جس میں ہارڈ ویئر کے تناسب سے تھرو پٹ تقریباً بڑھ رہا ہے۔
اسکیلنگ کی کارکردگی ایک میٹرک ڈیٹا سینٹر آپریٹرز کو قریب سے دیکھتے ہیں کیونکہ یہ اس بات کا تعین کرتا ہے کہ آیا زیادہ ہارڈ ویئر خریدنے سے اصل میں متناسب طور پر زیادہ صلاحیت خریدی جاتی ہے۔ ریک کے پار قریب لکیری اسکیلنگ بتاتی ہے کہ اس پیمانے پر رکاوٹ انٹر ریک کمیونیکیشن کے بجائے فی GPU کارکردگی برقرار ہے۔
سافٹ ویئر کمپاؤنڈ کرتا رہتا ہے۔
MLPerf راؤنڈز میں ایک بار بار چلنے والا پیٹرن دوبارہ منعقد ہوا: سافٹ ویئر کی بہتری نے ہی V6.0 کے مقابلے NVIDIA کی v6.1 جمع آوریوں میں 1.6 گنا زیادہ کارکردگی فراہم کی، اور کمپنی کا کہنا ہے کہ v6.1 جمع کرانے کی آخری تاریخ کے بعد آپٹیمائزیشنز جاری رہیں، اور مزید فوائد حاصل ہوئے۔
خریداروں کے لیے، اس کا مطلب یہ ہے کہ ایک دیا ہوا ریک اپنی زندگی بھر میں ہارڈ ویئر ریفریش کے بغیر تیز تر ہو جاتا ہے - ایک متحرک NVIDIA نے یہ استدلال کیا ہے کہ سافٹ ویئر اسٹیک کے پختہ ہونے کے ساتھ ہی اس کی انسٹال کردہ بنیاد کی قدر کم ہوتی ہے۔
ایجنٹی کام کے بوجھ بینچ مارکس کو نئی شکل دیتے ہیں۔
v6.1 راؤنڈ اس تبدیلی کی بھی عکاسی کرتا ہے جس کے لیے استعمال کیا جا رہا ہے۔ NVIDIA نے SemiAnalysis کے AgentX بینچ مارک پر پیش نظارہ ٹیسٹنگ کی طرف اشارہ کیا، جو AI ایجنٹوں کے ارد گرد ڈیزائن کیا گیا ہے جس کی وجہ سے متعدد مراحل میں منصوبہ بندی اور عمل کیا گیا ہے، جہاں یہ کہتا ہے کہ ویرا روبن NVL72 نے GB300 NVL72 کی کارکردگی سے 30 گنا زیادہ کارکردگی کا مظاہرہ کیا۔
ایم ایل کامنز اس شفٹ کے لیے ایک وقف شدہ بینچ مارک بھی تیار کر رہا ہے: آنے والے ایم ایل پیرف اینڈ پوائنٹس بینچ مارک کا مقصد ایجنٹی انفرنس ورک بوجھ کی پیمائش کو معیاری بنانا ہے جو روایتی تھرو پٹ ٹیسٹ خراب طریقے سے پکڑتے ہیں۔ جیسا کہ نتیجہ سنگل پرامپٹ چیٹ سے طویل ملٹی سٹیپ ایجنٹ سیشنز کی طرف بڑھتا ہے، لیٹنسی اور انٹرایکٹو مستقل مزاجی اتنا ہی اہم ہے جتنا کہ خام ٹوکن فی سیکنڈ — اور بینچ مارکس کو اسی کے مطابق دوبارہ بنایا جا رہا ہے۔
نیبیئس اور ایکو سسٹم جلد پہنچتے ہیں۔
کلاؤڈ فراہم کرنے والے Nebius نے Vera Rubin NVL72 کے پیش نظارہ کے نتائج بھی پیش کیے، جنہیں NVIDIA نے ابتدائی ماحولیاتی نظام کی مضبوط کارکردگی کے ثبوت کے طور پر اجاگر کیا۔ فریق ثالث کی ابتدائی گذارشات عام طور پر اس بات کی علامت ہیں کہ اگلی نسل کے نظام لیب کے نمونے لینے سے وسیع تر دستیابی کی طرف بڑھ رہے ہیں، حالانکہ نہ تو NVIDIA کی پوسٹ اور نہ ہی MLCommons کی ریلیز عام دستیابی کے وقت کی وضاحت کرتی ہے۔
یہ AI اکنامکس کے لیے کیوں اہمیت رکھتا ہے۔
NVIDIA آمدنی کے لحاظ سے نتائج کو فریم کرتا ہے: ہر Vera Rubin NVL72 ریک نمایاں طور پر زیادہ ٹوکن تیار کرتا ہے، زیادہ صارفین کی خدمت کرتا ہے اور GB300 NVL72 ریک کی نسبت فی ٹوکن لاگت کم کرتا ہے۔ ایک ایسی صنعت میں جہاں استدلال کی طلب کو استدلال کے ماڈلز اور ایجنٹ کے کام کے بوجھ سے چلایا جا رہا ہے جو سادہ چیٹ کے مقابلے میں فی استفسار سے زیادہ کمپیوٹ کے آرڈرز کا استعمال کرتے ہیں، فی ریک تھرو پٹ وہ تعداد ہے جو اس بات کا تعین کرتی ہے کہ ایک مقررہ ڈیٹا سینٹر بجٹ کتنے صارفین کی خدمت کر سکتا ہے۔
معمول کے انتباہات کا اطلاق ہوتا ہے: یہ NVIDIA کے منتخب کردہ دو ماڈلز پر پیش نظارہ راؤنڈ میں فروخت کنندگان کی گذارشات ہیں، جن میں اصلاحات اب بھی اتر رہی ہیں۔ لیکن سمت غیر مبہم ہے۔ MLPerf کی ویرا روبن پر پہلی نظر سے پتہ چلتا ہے کہ کارکردگی میں اضافہ جس نے 2023 کے بعد سے AI انفراسٹرکچر کی تعریف کی ہے اس میں کوئی سطح مرتفع نظر نہیں آرہی ہے - اور یہ کہ اگلا ریک ریفریش سائیکل AI کو پیمانے پر پیش کرنے کی معاشیات کو دوبارہ ترتیب دے گا۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
