MLCommons បានចេញផ្សាយលទ្ធផលស្តង់ដារ MLPerf Inference v6.1 នៅថ្ងៃទី 16 ខែកញ្ញា ឆ្នាំ 2026 ហើយចំណងជើងជាកម្មសិទ្ធិរបស់វេទិកាជំនាន់ក្រោយរបស់ NVIDIA ។ នៅក្នុងការដាក់ស្នើការមើលជាមុនលើកដំបូងរបស់ខ្លួន ប្រព័ន្ធ Vera Rubin NVL72 បានផ្តល់ដល់ទៅ 3.7 ដងនៃដំណើរការនៃស្មាតហ្វូន GB300 NVL72 របស់ NVIDIA នាពេលបច្ចុប្បន្ន នេះបើយោងតាមការប្រកាសរបស់ NVIDIA ដែលជាសញ្ញាដំបូងនៃអ្វីដែលអ្នកស្នងតំណែងរបស់ Blackwell Ultra នឹងមានន័យសម្រាប់សេដ្ឋកិច្ច AI inference ។

Vera Rubin គឺជាវេទិកាមជ្ឈមណ្ឌលទិន្នន័យបន្ទាប់របស់ NVIDIA ដែលដាក់ឈ្មោះសម្រាប់អ្នករូបវិទ្យាដែលផ្តល់ភស្តុតាងសំខាន់ៗសម្រាប់បញ្ហាងងឹត។ លទ្ធផលមើលជាមុនរបស់ MLPerf គឺជាទិន្នន័យប្រតិបត្តិការសាធារណៈដំបូងគេដែលរៀបចំដោយឯករាជ្យសម្រាប់ប្រព័ន្ធ។ For more context on this story, see our ongoing latest AI developments.

លេខនៅពីក្រោយការចាប់ផ្តើមដំបូង

NVIDIA បានដាក់ជូនលទ្ធផលមើលជាមុន Vera Rubin NVL72 លើបន្ទុកការងារដែលត្រូវការបំផុតចំនួនពីរនៅក្នុងឈុត v6.1៖ គំរូហេតុផល DeepSeek-R1 និងគំរូភាសាចក្ខុវិស័យ Qwen3-VL ។

នៅលើ Qwen3-VL, Vera Rubin NVL72 បានផ្តល់ទិន្នផលខ្ពស់ជាង GB300 NVL72 ដល់ទៅ 3.7 ដងនៅទូទាំងក្រៅបណ្តាញ, ម៉ាស៊ីនមេ និងសេណារីយ៉ូអន្តរកម្ម ដោយដំណើរការ vLLM ជាមួយ Dynamo open-source framework របស់ NVIDIA ។ នៅលើ DeepSeek-R1 ដោយប្រើបណ្ណាល័យ TensorRT-LLM របស់ NVIDIA ទិន្នផលគឺខ្ពស់ជាង 2.5 ដងច្រើនជាងស្មាតហ្វូនមុន។

តួលេខទាំងពីរបានមកពីការបញ្ជូនផ្ទាល់របស់ NVIDIA ទៅកាន់ផ្នែកបិទរបស់ MLCommons ដែលមានន័យថាពួកគេត្រូវបានផលិតក្រោមច្បាប់ត្រួតពិនិត្យរបស់ MLPerf ទោះបីជាលទ្ធផលមើលជាមុនគឺជាការវាស់វែងច្បាស់លាស់នៃវេទិកាមួយនៅតែត្រូវបានធ្វើឱ្យប្រសើរឡើង។

តើការចំណេញត្រូវបានបង្កើតឡើងយ៉ាងដូចម្តេច

NVIDIA កំណត់គុណលក្ខណៈលោតទៅការរចនាសហជង់ពេញលើផ្នែករឹង និងសូហ្វវែរ ជាជាងសមាសធាតុតែមួយ។

នៅផ្នែកខាងស៊ីលីកុន Vera Rubin នាំមកនូវ Tensor Cores ដែលត្រូវបានធ្វើឱ្យប្រសើរឡើង និងម៉ាស៊ីន Transformer ដែលបានធ្វើបច្ចុប្បន្នភាពដែលបង្កើនល្បឿនទាំងពីរដំណាក់កាលនៃការសន្និដ្ឋាន - ដំណាក់កាលនៃការបញ្ចូលកុំព្យូទ័រធ្ងន់ និងដំណាក់កាលឌិកូដនៃការចងចាំ។ វេទិកាពឹងផ្អែកលើភាពជាក់លាក់ NVFP4 ដែលកាត់បន្ថយទំហំអង្គចងចាំនៃទម្ងន់គំរូ ការយកចិត្តទុកដាក់ និងឃ្លាំងសម្ងាត់ KV ដោយបង្កើនការបញ្ជូនទិន្នន័យជាមួយនឹងអ្វីដែល NVIDIA ពិពណ៌នាថាជាការបាត់បង់គុណភាពទិន្នផលតិចតួចបំផុត។

នៅផ្នែកខាងផ្នែកទន់ ការដាក់ស្នើបានប្រើការបម្រើដាច់ដោយឡែក ដែលបំបែកការបំពេញជាមុន និងការឌិកូដទៅលើកិច្ចការផ្សេងៗ រួមជាមួយនឹងភាពស្របគ្នានៃអ្នកជំនាញខ្នាតធំ ដើម្បីរក្សាស្រទាប់អ្នកជំនាញចម្រុះនៅក្នុងម៉ូដែលដូចជា DeepSeek-R1 និង Qwen3-VL បំពេញការងារយ៉ាងពេញលេញ។

ការភ្ជាប់គ្នាគឺជាសសរស្តម្ភទីបី។ ការរចនា rack NVL72 ភ្ជាប់ GPU 72 ទៅក្នុងដែនខ្នាតតែមួយដោយប្រើ NVLink និង NVLink Switch ជំនាន់ទីប្រាំមួយ ដែល NVIDIA និយាយថាផ្តល់នូវអត្រាកញ្ចប់ព័ត៌មានខ្ពស់ជាង 10 ដង និង 3 ដងទាបជាង អ៊ីសឺរណិតក្រៅធ្នើរ ដែលជាមូលដ្ឋានគ្រឹះដែលធ្វើឱ្យការបម្រើ rack-scale បែងចែកជាលក្ខណៈជាក់ស្តែង។

GB300 បង្ហាញការធ្វើមាត្រដ្ឋានជិតល្អឥតខ្ចោះ

ស្មាតហ្វូនបច្ចុប្បន្នមានព័ត៌មានផ្ទាល់ខ្លួននៅក្នុងជុំ v6.1 ។ ការបញ្ជូន DeepSeek-R1 របស់ NVIDIA បានធ្វើមាត្រដ្ឋានពី GB300 NVL72 rack តែមួយ — 72 GPUs — ទៅបួន racks, 288 GPUs សម្រេចបាននូវប្រសិទ្ធភាពនៃការធ្វើមាត្រដ្ឋាន 99 ភាគរយនៅក្នុងសេណារីយ៉ូក្រៅបណ្តាញ ជាមួយនឹងការកើនឡើងស្ទើរតែសមាមាត្រទៅនឹងផ្នែករឹងដែលបានបន្ថែម។

ប្រសិទ្ធភាពនៃការធ្វើមាត្រដ្ឋានគឺជាប្រតិបត្តិករមជ្ឈមណ្ឌលទិន្នន័យម៉ែត្រមើលយ៉ាងជិតស្និទ្ធ ព្រោះវាកំណត់ថាតើការទិញផ្នែករឹងបន្ថែមពិតជាទិញតាមសមាមាត្រនៃសមត្ថភាពច្រើនជាង។ ការធ្វើមាត្រដ្ឋានជិតលីនេអ៊ែរនៅទូទាំង racks បង្ហាញថាការជាប់គាំងនៅក្នុងមាត្រដ្ឋាននេះនៅតែមានដំណើរការក្នុងមួយ GPU ជាជាងទំនាក់ទំនងអន្តររ៉ាកែត។

កម្មវិធីរក្សាការផ្សំ

លំនាំដដែលៗនៅក្នុងជុំ MLPerf បានធ្វើឡើងម្តងទៀត៖ ការកែលម្អកម្មវិធីតែម្នាក់ឯងបានផ្តល់នូវការអនុវត្តខ្ពស់ជាង 1.6 ដងក្នុងការដាក់ស្នើ v6.1 របស់ NVIDIA បើធៀបនឹង v6.0 ហើយក្រុមហ៊ុនបាននិយាយថាការបង្កើនប្រសិទ្ធភាពបានបន្តបន្ទាប់ពីកាលបរិច្ឆេទផុតកំណត់នៃការដាក់ស្នើ v6.1 ដែលផ្តល់នូវការកើនឡើងបន្ថែមទៀត។

សម្រាប់អ្នកទិញ ការជាប់ពាក់ព័ន្ធគឺថា rack ដែលបានផ្តល់ឱ្យលឿនជាងពេញមួយជីវិតរបស់វាដោយមិនមានការធ្វើបច្ចុប្បន្នភាពផ្នែករឹង - ថាមវន្ត NVIDIA បានប្រើដើម្បីប្រកែកថាមូលដ្ឋានដែលបានដំឡើងរបស់វាពេញចិត្តជាជាងរំលោះនៅពេលដែលជង់កម្មវិធីចាស់។

បន្ទុកការងាររបស់ភ្នាក់ងារ កែប្រែគំរូគោល

ជុំ v6.1 ក៏បានឆ្លុះបញ្ចាំងពីការផ្លាស់ប្តូរនៅក្នុងអ្វីដែលការសន្និដ្ឋានកំពុងត្រូវបានប្រើប្រាស់សម្រាប់។ NVIDIA បានចង្អុលទៅការធ្វើតេស្តសាកល្បងនៅលើស្តង់ដារ AgentX របស់ SemiAnalysis ដែលត្រូវបានរចនាឡើងជុំវិញភ្នាក់ងារ AI ដែលហេតុផល ផែនការ និងធ្វើសកម្មភាពឆ្លងកាត់ជំហានជាច្រើន ដែលជាកន្លែងដែលវានិយាយថា Vera Rubin NVL72 បានផ្តល់ 30 ដងនៃការអនុវត្ត GB300 NVL72 ។

MLCommons ក៏កំពុងរៀបចំគោលកំណត់ជាក់លាក់មួយសម្រាប់ការផ្លាស់ប្តូរនេះផងដែរ៖ សន្ទស្សន៍ MLPerf Endpoints នាពេលខាងមុខមានគោលបំណងធ្វើស្តង់ដារនៃការវាស់វែងនៃបន្ទុកការងារដោយភ្នាក់ងារដែលការធ្វើតេស្តឆ្លងកាត់តាមបែបប្រពៃណីចាប់យកមិនបានល្អ។ នៅពេលដែលការសន្និដ្ឋានផ្លាស់ទីពីការជជែកភ្លាមៗឆ្ពោះទៅរកវគ្គភ្នាក់ងារពហុជំហានដ៏វែង ភាពយឺតយ៉ាវ និងអន្តរកម្មមានភាពស៊ីសង្វាក់គ្នាច្រើនដូចជាសញ្ញាសម្ងាត់ឆៅក្នុងមួយវិនាទី — ហើយការវាយតម្លៃកំពុងត្រូវបានស្ថាបនាឡើងវិញតាមនោះ។

Nebius និងប្រព័ន្ធអេកូមកដល់ទាន់ពេល

អ្នកផ្តល់សេវាពពក Nebius ក៏បានបញ្ជូនលទ្ធផលមើលជាមុន Vera Rubin NVL72 ដែល NVIDIA បានគូសបញ្ជាក់ជាភស្តុតាងនៃដំណើរការប្រព័ន្ធអេកូឡូស៊ីដ៏រឹងមាំ។ ការបញ្ជូនភាគីទីបីដំបូងជាធម្មតាជាសញ្ញាមួយដែលថាប្រព័ន្ធជំនាន់ក្រោយកំពុងផ្លាស់ប្តូរពីគំរូមន្ទីរពិសោធន៍ឆ្ពោះទៅរកភាពអាចរកបានកាន់តែទូលំទូលាយ ទោះបីជាការប្រកាសរបស់ NVIDIA ឬ MLCommons មិនបានបញ្ជាក់ពីពេលវេលាដែលអាចរកបានទូទៅក៏ដោយ។

ហេតុអ្វីបានជាវាសំខាន់សម្រាប់សេដ្ឋកិច្ច AI

NVIDIA កំណត់លទ្ធផលនៅក្នុងលក្ខខណ្ឌនៃប្រាក់ចំណូល៖ រ៉ាកែត Vera Rubin NVL72 នីមួយៗបង្កើតសញ្ញាសម្ងាត់កាន់តែច្រើន បម្រើអ្នកប្រើប្រាស់កាន់តែច្រើន និងកាត់បន្ថយតម្លៃក្នុងមួយថូខឹនដែលទាក់ទងទៅនឹង rack GB300 NVL72 ។ នៅក្នុងឧស្សាហកម្មដែលតម្រូវការការសន្និដ្ឋានត្រូវបានជំរុញដោយគំរូហេតុផល និងបន្ទុកការងាររបស់ភ្នាក់ងារដែលប្រើប្រាស់ការបញ្ជាទិញក្នុងការគណនាច្រើនជាងការជជែកជាជាងការជជែកសាមញ្ញ ការបញ្ចូលក្នុងមួយជាន់គឺជាលេខដែលកំណត់ថាតើអ្នកប្រើប្រាស់ប៉ុន្មាននាក់ដែលថវិកាមជ្ឈមណ្ឌលទិន្នន័យថេរអាចបម្រើបាន។

ការព្រមានធម្មតាត្រូវបានអនុវត្ត៖ ទាំងនេះគឺជាការដាក់ស្នើរបស់អ្នកលក់នៅក្នុងជុំមើលជាមុន លើម៉ូដែលពីរដែលត្រូវបានជ្រើសរើសដោយ NVIDIA ជាមួយនឹងការបង្កើនប្រសិទ្ធភាពនៅតែចុះចត។ ប៉ុន្តែទិសដៅគឺមិនច្បាស់លាស់។ ការក្រឡេកមើលដំបូងរបស់ MLPerf នៅ Vera Rubin បង្ហាញពីការកើនឡើងនៃដំណើរការដែលបានកំណត់ហេដ្ឋារចនាសម្ព័ន្ធ AI ចាប់តាំងពីឆ្នាំ 2023 មិនមានខ្ពង់រាបណាមួយនៅក្នុងការមើលឃើញនោះទេ ហើយថាវដ្តនៃការធ្វើឱ្យស្រស់ថ្មីម្តងទៀតនឹងកំណត់ឡើងវិញនូវសេដ្ឋកិច្ចនៃការបម្រើ AI តាមខ្នាត។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →