Cerebras បានបោះពុម្ភផ្សាយការវិភាគផ្នែកវិស្វកម្មលម្អិតអំពីរបៀបដែលវាដាក់ពង្រាយគំរូ AI ប៉ារ៉ាម៉ែតទ្រីលាននៅលើផ្នែករឹងទំហំ wafer របស់វា ដែលជាការមើលជាសាធារណៈដ៏កម្រមួយអំពីបរិក្ខារដែលនៅពីក្រោយការសន្និដ្ឋានលឿនបំផុតសម្រាប់ម៉ូដែលដែលទម្ងន់តែមួយត្រូវការអង្គចងចាំ terabytes ។
ការបង្ហោះដែលសរសេរដោយ Sarah Chieng និងបានបោះពុម្ពនៅលើប្លុក Cerebras នៅថ្ងៃទី 22 ខែតុលា ឆ្នាំ 2026 បានទាក់ទាញការចាប់អារម្មណ៍ជាថ្មីនៅចុងសប្តាហ៍បន្ទាប់ពីបានទៅដល់ទំព័រមុខរបស់ Hacker News ។ សំណួរកណ្តាលរបស់វាគឺសាមញ្ញ៖ វ៉ែរ Cerebras WSE-3T តែមួយមានអង្គចងចាំនៅលើបន្ទះឈីប 44 GB ប៉ុន្តែម៉ូដែលផ្នែកខាងមុខដែលមានប៉ារ៉ាម៉ែត្រពាន់ពាន់លានត្រូវការ terabytes ដើម្បីរក្សាទុកទម្ងន់របស់ពួកគេ។ តើអ្នកបិទគម្លាតនេះដោយរបៀបណា? For more context on this story, see our ongoing artificial intelligence updates.
ហេតុអ្វីបានជាគំរូប៉ារ៉ាម៉ែតទ្រីលានបំបែកផ្នែករឹងធម្មតា។
ចម្លើយចាប់ផ្តើមជាមួយនឹងការពិតដែលមិនស្រួលសម្រាប់ឧបករណ៍បង្កើនល្បឿនធម្មតា៖ នៅភាពជាក់លាក់ពេញលេញ ម៉ូដែលដែលមានប៉ារ៉ាម៉ែត្របីពាន់ពាន់លានមិនអាចសមនឹងអង្គចងចាំនៃបន្ទះឈីបតែមួយនៅលើទីផ្សារបានទេ។ ចង្កោម GPU ដោះស្រាយបញ្ហានេះដោយការបំបែកម៉ូដែលនៅលើឧបករណ៍ជាច្រើន ហើយដឹកជញ្ជូនទម្ងន់ និងការធ្វើឱ្យសកម្មជាបន្តបន្ទាប់លើការតភ្ជាប់គ្នាដែលមានល្បឿនលឿន ដែលជាផ្នែកធំនៃមូលហេតុដែលការសន្និដ្ឋានលើម៉ូដែលដ៏ធំមានតម្លៃថ្លៃ និងយឺត។
Cerebras ប្រើវិធីសាស្រ្តផ្សេង។ បន្ទះសៀគ្វី wafer-scale របស់វាខ្ចប់នូវចំនួនដ៏ច្រើនសន្ធឹកសន្ធាប់នៃ on-chip SRAM — 44 GB ក្នុងមួយ WSE-3T wafer — ដែលមានន័យថាគោលដៅរបស់ក្រុមហ៊ុនគឺដើម្បីរក្សាទម្ងន់នៅលើបន្ទះឈីប ដែលការចូលប្រើ memory គឺលឿនជាងការភ្ជាប់ off-chip ។
ក្រុមហ៊ុននិយាយថាស្ថាបត្យកម្មនេះអនុញ្ញាតឱ្យវាដំណើរការម៉ូដែលពហុកោណប៉ារ៉ាម៉ែតនៅ 1,000 ទៅ 2,000+ សញ្ញាសម្ងាត់ក្នុងមួយវិនាទី។
Kimi K3 ជាឧទាហរណ៍ដែលបានធ្វើការ
ដើម្បីធ្វើឱ្យការពន្យល់ជាក់ស្តែង Cerebras ដើរតាមរយៈការដាក់ពង្រាយ Kimi K3 ដែលជាគំរូប្រភពបើកចំហដែលមានប៉ារ៉ាម៉ែត្រប្រហែល 3 ពាន់ពាន់លាន។ ម៉ូដែលនេះប្រើស្ថាបត្យកម្មកូនកាត់៖ 69 ស្រទាប់លីនេអ៊ែរយកចិត្តទុកដាក់ និង 24 ស្រទាប់ក្រាស់។
ដោយលើកឡើងពីលទ្ធផលគោល ប្លក់និយាយថា Kimi K3 ទទួលបានពិន្ទុ 88.3% នៅលើ Terminal-Bench 2.1 - នៅពីក្រោយ GPT-5.6 Sol's 88.8% - និង 91.2% នៅលើ BrowseComp នាំមុខ GPT-5.6 Sol's 90.4% ។ លេខទាំងនោះ Cerebras ប្រកែក បង្ហាញពីការសរសេរកូដកម្រិតព្រំដែន និងសមត្ថភាពភ្នាក់ងារនៅក្នុងគំរូទម្ងន់បើកចំហ ដែលធ្វើឱ្យវាក្លាយជាគោលដៅបង្ហាញដ៏ល្អ។
ឧទាហរណ៍ដែលបានធ្វើការសន្មត់ថាទំហំសំណើជាមធ្យម 256,000-token, 4-bit weight quantization (ផ្គូផ្គងការអនុវត្ត Hugging Face) និងឃ្លាំងសម្ងាត់ 8-bit KV ។
កាត់ម៉ូដែល 3T ទៅជាបំណែក 44 GB
នព្វន្ធគឺជាផ្នែកបំភ្លឺបំផុតនៃប្រកាស។ នៅ 4 ប៊ីតក្នុងមួយប៉ារ៉ាម៉ែត្រ ប៉ារ៉ាម៉ែត្រ 3 ពាន់ពាន់លានរបស់ Kimi K3 មានចំនួនប្រហែល 1.5 TB នៃទម្ងន់ឆៅ។ បែងចែកតាមស្រទាប់ 93 របស់ម៉ូដែល ស្រទាប់នីមួយៗត្រូវការប្រហែល 16 GB។
វាសមនឹងទំហំ 44 GB ដែលមាននៅលើ wafer នីមួយៗ ប៉ុន្តែស្រទាប់ទាំងពីរបែងចែកខុសគ្នា៖
- ស្រទាប់ក្រាស់ ត្រូវការកន្លែងសម្រាប់ឃ្លាំងសម្ងាត់ KV ពីព្រោះការយកចិត្តទុកដាក់ពេញលេញរក្សាទុកសោ និងតម្លៃសម្រាប់និមិត្តសញ្ញានីមួយៗនៅក្នុងរាល់សំណើសកម្ម។ Cerebras ដាក់ស្រទាប់ក្រាស់មួយក្នុងមួយ wafer ដោយបន្សល់ទុក SRAM ដែលនៅសល់សម្រាប់ឃ្លាំងសម្ងាត់នោះ។
- ស្រទាប់យកចិត្តទុកដាក់លីនេអ៊ែរ រក្សាទុកតែរដ្ឋតូចមួយ ដែលមានទំហំថេរក្នុងមួយសំណើដោយមិនគិតពីប្រវែងបរិបទ ដូច្នេះមិនចាំបាច់ត្រូវការឃ្លាំងសម្ងាត់ KV ទេ។ វាទុកបន្ទប់សម្រាប់ស្រទាប់លីនេអ៊ែរពីរក្នុងមួយ wafer ។
ជាមួយនឹងស្រទាប់លីនេអ៊ែរចំនួន 69 និងស្រទាប់ក្រាស់ចំនួន 24 ម៉ូដែលនេះធ្វើផែនទីទៅ 35 wafers សម្រាប់ស្រទាប់លីនេអ៊ែរ បូក 24 wafers សម្រាប់ស្រទាប់ក្រាស់ — 59 wafers សរុបសម្រាប់ច្បាប់ចម្លងតែមួយនៃ Kimi K3 ។
ទម្ងន់មិនផ្លាស់ទី - មានតែការធ្វើឱ្យសកម្មប៉ុណ្ណោះ។
គំនិតសំខាន់ទីពីរគឺអ្វីដែល Cerebras ធ្វើ - និងមិន - ផ្ញើរវាង 59 wafers ទាំងនោះ។ ក្រុមហ៊ុនប្រតិបត្តិគំរូជាបំពង់មួយ៖ បន្ទាប់ពីអ្នកចងក្រងផែនទីស្រទាប់លើតំបន់នៃ wafers តារាងពេលវេលាដំណើរការដែលនិមិត្តសញ្ញាផ្លូវយកពី wafer ទៅ wafer ។
សំខាន់ ដោយសារស្រទាប់នីមួយៗសមទាំងស្រុងលើ wafer មួយ (ឬពីរសម្រាប់ស្រទាប់លីនេអ៊ែរ) ទម្ងន់ម៉ូដែលមិនត្រូវផ្លាស់ទីឡើយ។ ស្រទាប់មិនត្រូវបានបំបែកនៅទូទាំង wafers ។ មានតែការធ្វើឱ្យសកម្មឆ្លងកាត់ពី wafer មួយទៅ wafer បន្ទាប់ដែលដំណើរការលើ RDMA នៅលើអ៊ីសឺរណិតស្តង់ដារជាមួយនឹងពេលវេលាលោតប្រហែល 2 មីក្រូវិនាទី។
ចំនុចនៃការរចនានោះពន្យល់ច្រើនអំពីការអះអាងអំពីការអនុវត្តរបស់ Cerebras ។ នៅក្នុងការដាក់ពង្រាយ GPU ការរំកិលទម្ងន់ ឬស្ថានភាពនៃការបំបែករវាងឧបករណ៍គឺតែងតែជាឧបសគ្គ។ នៅលើផ្នែករឹង Cerebras ការតភ្ជាប់អន្តរកម្មតែមួយគត់ដែលមិនធ្លាប់មានផ្ទុក tensors ធ្វើឱ្យសកម្មតូចជាង។
ហេតុអ្វីបានជាវាសំខាន់សម្រាប់ទីផ្សារការសន្និដ្ឋាន
ការប្រកាសនេះគឺជាផ្នែកមួយនៃការពន្យល់ផ្នែកវិស្វកម្ម និងជាអំណះអំណាងមួយផ្នែក៖ ថា wafer-scale SRAM គឺជាវិធីដែលអាចទុកចិត្តបានក្នុងការបម្រើម៉ូដែលដ៏ធំសម្បើមដែលឧស្សាហកម្មកំពុងដឹកជញ្ជូន។ នៅពេលដែលការចេញផ្សាយទម្ងន់បើកចំហដូចជា Kimi K3 ខិតជិតប៉ារ៉ាម៉ែត្របីពាន់ពាន់លាន ជញ្ជាំងអង្គចងចាំក្លាយជាឧបសគ្គកំណត់នៃសេដ្ឋកិច្ចសន្និដ្ឋាន ហើយវិធីសាស្រ្តដែលរក្សាទម្ងន់នៅស្ថានីមានអត្ថប្រយោជន៍ជារចនាសម្ព័ន្ធលើល្បឿនក្នុងមួយសញ្ញា។
វាក៏គូសបញ្ជាក់ផងដែរថាតើចំនួនប៉ុន្មានអាស្រ័យលើបរិមាណ។ ការដាក់ពង្រាយទាំងមូលពឹងផ្អែកលើទម្ងន់ 4 ប៊ីត និងឃ្លាំងសម្ងាត់ 8 ប៊ីត KV - បច្ចេកទេសដែលកាត់បន្ថយទំហំអង្គចងចាំប្រហែល 75% ឬច្រើនជាងនេះបើប្រៀបធៀបជាមួយនឹងបន្ទាត់គោល 16 ប៊ីត ខណៈពេលដែលរក្សាបាននូវការអនុវត្តស្តង់ដារ។ បើគ្មានពួកគេសូម្បីតែ 59 wafers នឹងមិនគ្រប់គ្រាន់ទេ។
ការដោះដូរគឺពិតប្រាកដផងដែរ។ ប្រព័ន្ធ 59-wafer គឺជាម៉ាស៊ីនឯកទេសធំមួយ ហើយវិធីសាស្រ្តបំពង់បង្ហូរប្រេងសន្មត់ថាសំណើអាចត្រូវបានបាច់ឆ្លងកាត់ប្រព័ន្ធប្រកបដោយប្រសិទ្ធភាព។ ប្លក់របស់ Cerebras ដោះស្រាយស្របគ្នាជាប្រធានបទស្នូលមួយ ដោយកត់សម្គាល់ថាស្ថាបត្យកម្មនេះត្រូវបានរចនាឡើងដើម្បីដោះស្រាយសំណើជាច្រើនក្នុងពេលដំណាលគ្នា។
សម្រាប់ពេលនេះ ការបង្ហោះនេះឈរជាការពន្យល់ជាសាធារណៈដ៏ច្បាស់បំផុតមួយអំពីអ្វីដែលវាត្រូវការដើម្បីបម្រើគំរូបើកចំហខ្នាតព្រំដែនក្នុងល្បឿននិមិត្តសញ្ញាបួនរូប ហើយជាសញ្ញាមួយដែលថាការសន្ទនាអំពីផ្នែករឹងដែលសន្និដ្ឋានកំពុងផ្លាស់ប្តូរពីបន្ទះសៀគ្វីទៅជាប្រព័ន្ធទាំងមូល។
ប្រភព៖ ប្លក់ Cerebras "របៀបដែលយើងដាក់ពង្រាយគំរូព្រំដែនចំនួនពាន់លាននៅលើ Cerebras" (22 តុលា 2026)។---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →