Cerebras သည် ၎င်း၏ wafer-စကေး ဟာ့ဒ်ဝဲတွင် ထရီလီယံလီယံ ပါရာမီတာ AI မော်ဒယ်များကို အသုံးချပုံ၏ အသေးစိတ် အင်ဂျင်နီယာပိုင်း ပိုင်းခြားချက်ကို ထုတ်ပြန်ခဲ့သည် — ရှားပါးသော အများသူငါ မြင်ကွင်းတစ်ခုသည် အလွန်လျင်မြန်သော ကောက်ချက်ချသည့် မော်ဒယ်များအတွက် မှတ်ဥာဏ်ပမာဏ တာရာဘိုက် လိုအပ်သည့် မော်ဒယ်များအတွက် ရေပိုက်လိုင်းအား ရှားပါးသော မြင်ကွင်းတစ်ခု ဖြစ်သည်။

Sarah Chieng မှရေးသားပြီး 2026 ခုနှစ် အောက်တိုဘာလ 22 ရက်နေ့တွင် Cerebras ဘလော့ဂ်တွင် ထုတ်ဝေခဲ့သော အဆိုပါပို့စ်သည် Hacker News ၏ ရှေ့စာမျက်နှာသို့ ရောက်ရှိပြီးနောက် သီတင်းပတ်ကုန်ပိုင်းတွင် အသစ်တဖန် အာရုံစိုက်လာခဲ့သည်။ ၎င်း၏အဓိကမေးခွန်းမှာ ရိုးရှင်းသည်- Cerebras WSE-3T wafer တစ်ခုတွင် on-chip memory 44 GB ပါရှိသော်လည်း ထရီလီယံ-ပါရာမီတာ ရှေ့တန်းမော်ဒယ်များသည် ၎င်းတို့၏အလေးချိန်ကို သိမ်းဆည်းရန်အတွက် terabytes လိုအပ်ပါသည်။ အဲဒီကွာဟချက်ကို ဘယ်လို တံတားထိုးမလဲ။ For more context on this story, see our ongoing AI news.

ထရီလီယံ-ပါရာမီတာ မော်ဒယ်များသည် သာမန် ဟာ့ဒ်ဝဲများကို အဘယ်ကြောင့် ချိုးဖျက်သနည်း။

အဖြေသည် သမားရိုးကျ အရှိန်မြှင့်စက်များအတွက် စိတ်မသက်မသာအမှန်တရားဖြင့် စတင်သည်- တိကျမှုအပြည့်ဖြင့်၊ ဘောင်သုံးထရီလျံပါသော မော်ဒယ်သည် စျေးကွက်ရှိ မည်သည့်ချစ်ပ်တစ်ခုတည်း၏ မှတ်ဉာဏ်တွင်မဆို အံဝင်ခွင်ကျမဖြစ်နိုင်ပါ။ GPU အစုအဝေးများသည် စက်ပစ္စည်းအများအပြားတွင် မော်ဒယ်များကို ပိုင်းခြားကာ မြန်နှုန်းမြင့် အပြန်အလှန်ချိတ်ဆက်မှုများမှတစ်ဆင့် အလေးချိန်နှင့် လုပ်ဆောင်ချက်များကို အဆက်မပြတ်ပို့ဆောင်ခြင်းဖြင့် ဖြေရှင်းနိုင်သည် — ကြီးမားသောမော်ဒယ်များပေါ်တွင် ကောက်ချက်ချခြင်းသည် အဘယ်ကြောင့်နည်း။

Cerebras သည် ကွဲပြားသောချဉ်းကပ်မှုတစ်ခုကို ယူသည်။ ၎င်း၏ wafer-စကေးချစ်ပ်များသည် On-chip SRAM — 44 GB WSE-3T wafer တစ်ခုလျှင် — 44 GB — ဆိုလိုသည်မှာ ကုမ္ပဏီ၏ရည်မှန်းချက်မှာ memory access သည် off-chip link များထက် သိသိသာသာပိုမိုမြန်ဆန်သော weights များပေါ်တွင်တည်မြဲနေစေရန်ဖြစ်သည်။

ကုမ္ပဏီက ဤဗိသုကာလက်ရာသည် တစ်စက္ကန့်လျှင် တိုကင် 1,000 မှ 2,000+ နှုန်းဖြင့် multi-trillion-parameter မော်ဒယ်များကို လုပ်ဆောင်နိုင်စေသည်ဟု ကုမ္ပဏီက ဆိုသည်။

Kimi K3 ကို အလုပ်လုပ်သောနမူနာအဖြစ်

ရှင်းလင်းချက်ခိုင်မာစေရန်၊ Cerebras သည် အကြမ်းဖျင်းအားဖြင့် 3 ထရီလျံကန့်သတ်ဘောင်များရှိသော open-source model တစ်ခုဖြစ်သော Kimi K3 ကို ဖြန့်ကျက်ဖြတ်သန်းသည်။ မော်ဒယ်သည် ဟိုက်ဘရစ်ဗိသုကာကို အသုံးပြုသည်- 69 linear-အာရုံစိုက်အလွှာများနှင့် 24 သိပ်သည်းသောအလွှာ။

စံနှုန်းရလဒ်များကို ကိုးကား၍ Kimi K3 သည် Terminal-Bench 2.1 တွင် 88.3% ရမှတ်ဖြစ်သည် — GPT-5.6 Sol ၏ 88.8% — နှင့် BrowseComp တွင် 91.2%၊ GPT-5.6 Sol ၏ 90.4% ထက်သာလွန်သည်ဟု ဆိုသည်။ အဆိုပါ နံပါတ်များ၊ Cerebras မှ စောဒကတက်သည် ၊ ၎င်းသည် အဖွင့်အလေးချိန် မော်ဒယ်တွင် ရှေ့တန်းအဆင့် ကုဒ်နှင့် အေးဂျင့် စွမ်းရည်ကို ပြသသည်၊ ၎င်းသည် သရုပ်ပြမှု ပစ်မှတ်ကောင်း တစ်ခု ဖြစ်စေသည်။

အလုပ်လုပ်သောနမူနာတွင် 256,000-တိုကင် ပျမ်းမျှတောင်းဆိုချက်အရွယ်အစား၊ 4-bit weight quantization (Hugging Face အကောင်အထည်ဖော်မှုနှင့် ကိုက်ညီသည်) နှင့် 8-bit KV cache ကို ယူဆသည်။

3T မော်ဒယ်ကို 44 GB အပိုင်းများအဖြစ် ပိုင်းဖြတ်ခြင်း။

ဂဏန်းသင်္ချာသည် ပို့စ်၏အလင်းအမှောင်ဆုံးအပိုင်းဖြစ်သည်။ ကန့်သတ်ချက်တစ်ခုလျှင် 4 ဘစ်တွင်၊ Kimi K3 ၏ 3 ထရီလီယံ ဘောင်များသည် အကြမ်းအားဖြင့် အလေးချိန် 1.5 TB ရှိသည်။ မော်ဒယ်၏ အလွှာ 93 ခုကို ပိုင်းခြားထားပြီး အလွှာတစ်ခုစီသည် 16 GB ခန့် လိုအပ်သည်။

၎င်းသည် wafer တစ်ခုစီတွင် ရရှိနိုင်သော 44 GB နှင့် သပ်ရပ်စွာ အံဝင်ခွင်ကျဖြစ်သော်လည်း အလွှာနှစ်ခုသည် ကွဲပြားသည်-

  • သိပ်သည်းသောအလွှာများ သည် လက်ရှိတောင်းဆိုမှုတိုင်းတွင် အာရုံစူးစိုက်မှုအပြည့်ဖြင့် သော့များနှင့် တန်ဖိုးများကို သိမ်းဆည်းထားသောကြောင့် KV ကက်ရှ်အတွက် နေရာလိုအပ်ပါသည်။ Cerebras သည် wafer တစ်ခုလျှင် ထူထပ်သော အလွှာတစ်ခုကို ချထားပြီး ထို cache အတွက် ကျန်သော SRAM ကို ချန်ထားသည်။
  • Linear-အာရုံစူးစိုက်မှုအလွှာများ သည် အကြောင်းအရာအရှည်မသက်ဆိုင်ဘဲ တောင်းဆိုမှုတစ်ခုအတွက် သေးငယ်ပြီး ပုံသေအရွယ်အစားအခြေအနေတစ်ခုသာ ထားရှိသောကြောင့် KV cache မလိုအပ်ပါ။ ၎င်းသည် wafer တစ်ခုလျှင် linear layer နှစ်ခုအတွက် အခန်းချန်ထားသည်။

မျဉ်းသားအလွှာ 69 ခုနှင့် သိပ်သည်းသောအလွှာ 24 ခုဖြင့်၊ မော်ဒယ်သည် အညီအညွတ်အလွှာအတွက် wafer 35 ခုနှင့် သိပ်သည်းသောအလွှာများအတွက် wafer 24 ခု— Kimi K3 တစ်စောင်အတွက် စုစုပေါင်း wafer 59 ခု။

အလေးချိန်များ ဘယ်တော့မှ မရွေ့ပါ - လှုပ်ရှားမှုများသာ လုပ်ဆောင်ပါ။

ဒုတိယသော့ချက်အယူအဆမှာ Cerebras လုပ်တာ — နှင့် မလုပ်သည် — ထို 59 wafers များအကြားပေးပို့ခြင်းဖြစ်သည် ။ ကုမ္ပဏီသည် ပိုက်လိုင်းတစ်ခုအနေဖြင့် မော်ဒယ်များကို လုပ်ဆောင်သည်- compiler သည် အလွှာများကို wafers များ၏ ဒေသများပေါ်တွင် မြေပုံဆွဲပြီးနောက်၊ runtime charts သည် wafer မှ wafer သို့ ယူသွားသော path tokens များကို ဇယားချပါသည်။

အရေးကြီးသည်မှာ၊ အလွှာတစ်ခုစီသည် wafer တစ်ခု (သို့မဟုတ် နှစ်ခု၊ linear အလွှာအတွက်) တွင် လုံးလုံးလျားလျား ကိုက်ညီသောကြောင့် မော်ဒယ်အလေးများသည် ဘယ်သောအခါမှ ရွေ့လျားရန်မလိုအပ်ပါ။ အလွှာများကို wafer များပေါ်တွင်မခွဲပါ။ အကြမ်းဖျင်းအားဖြင့် 2 microseconds ရှိသော ပုံမှန် Ethernet ပေါ်တွင် RDMA ပေါ်တွင် လှုပ်ရှားလုပ်ဆောင်မှုများသာ လုပ်ဆောင်သည်။

ထိုဒီဇိုင်းအချက်သည် Cerebras ၏ စွမ်းဆောင်ရည်တောင်းဆိုချက်များအကြောင်း များစွာရှင်းပြသည်။ GPU အသုံးချမှုများတွင်၊ စက်များကြားရှိ အလေးများရွေ့လျားခြင်း သို့မဟုတ် ခွဲခြမ်းစိပ်ဖြာမှုအခြေအနေသည် မကြာခဏ ပိတ်ဆို့မှုများဖြစ်နေသည်။ Cerebras ဟာ့ဒ်ဝဲတွင်၊ အပြန်အလှန်ချိတ်ဆက်မှုသည် အလွန်သေးငယ်သော activation tensor များကိုသာ သယ်ဆောင်သည်။

Inference Market အတွက် ဘာကြောင့် အရေးကြီးတာလဲ။

ပို့စ်သည် တစ်စိတ်တစ်ပိုင်းအားဖြင့် အင်ဂျင်နီယာဆိုင်ရာ ရှင်းပြသူဖြစ်ပြီး တစ်စိတ်တစ်ပိုင်း ငြင်းခုံမှုတစ်ခုဖြစ်သည်- wafer-scale SRAM သည် စက်မှုလုပ်ငန်းတွင် ပို့ဆောင်နေသော ပိုကြီးမားသော မော်ဒယ်များကို ဝန်ဆောင်မှုပေးရန်အတွက် ယုံကြည်ရလောက်သော နည်းလမ်းတစ်ခုဖြစ်သည်။ Kimi K3 ကဲ့သို့ open-weight သည် ကန့်သတ်ဘောင် ၃ ထရီလျံသို့ ချဉ်းကပ်လာသည်နှင့်အမျှ memory wall သည် အနုမာနစီးပွားရေး၏ ကန့်သတ်ချုပ်ချယ်မှုဖြစ်လာပြီး အလေးချိန်များကို ငုတ်လျှိုးနေအောင်ပြုလုပ်သောချဉ်းကပ်မှုများသည် တိုကင်အမြန်နှုန်းအလိုက် တည်ဆောက်ပုံဆိုင်ရာအားသာချက်တစ်ခုဖြစ်သည်။

၎င်းသည် အရေအတွက် မည်မျှရှိသည်ကို အလေးပေးဖော်ပြထားသည်။ ဖြန့်ကျက်မှုတစ်ခုလုံးသည် 4-ဘစ်အလေးချိန်နှင့် 8-bit KV ကက်ရှ်ပေါ်တွင် ချိတ်ထားသည် — စံနှုန်းစွမ်းဆောင်ရည်ကို ထိန်းသိမ်းထားစဉ် 16-bit အခြေခံလိုင်းများနှင့် နှိုင်းယှဉ်ပါက မှတ်ဉာဏ်ခြေရာများကို အကြမ်းဖျင်း 75% သို့မဟုတ် ထို့ထက်ပို၍ ဖြတ်တောက်ပေးသည့် နည်းပညာများ။ သူတို့မရှိရင် wafer 59 ခုတောင် မလုံလောက်ပါဘူး။

အပေးအယူတွေကလည်း အစစ်အမှန်ပါပဲ။ 59-wafer စနစ်သည် ကြီးမားပြီး အထူးပြုထားသော စက်တစ်ခုဖြစ်ပြီး ပိုက်လိုင်းချဉ်းကပ်မှုမှ တောင်းဆိုချက်များကို စနစ်တစ်ခုလုံးတွင် ထိထိရောက်ရောက် သုတ်ပိုးနိုင်သည်ဟု ယူဆသည်။ Cerebras ၏ဘလော့ဂ်သည် ၎င်း၏အဓိကအကြောင်းအရာများထဲမှတစ်ခုအဖြစ် တစ်ထပ်တည်းကျသောအကြောင်းအရာများကိုဖော်ပြပြီး ဗိသုကာလက်ရာသည် တစ်ပြိုင်နက်တောင်းဆိုမှုအများအပြားကို ကိုင်တွယ်ရန် ဒီဇိုင်းထုတ်ထားကြောင်း မှတ်သားထားသည်။

ယခုလောလောဆယ်တွင်၊ ပို့စ်သည် ရှေ့တန်းစကေးဖွင့်ထားသော မော်ဒယ်ကို ပုံလေးပုံအမြန်နှုန်းဖြင့် ဝန်ဆောင်မှုပေးရန်အတွက် အမှန်တကယ်လိုအပ်သည်များကို အရှင်းလင်းဆုံးသော အများသူငှာ ရှင်းလင်းချက်တစ်ခုအဖြစ် ရပ်တည်နေပါသည် — နှင့် အနုမာနဟာ့ဒ်ဝဲအကြောင်း ပြောဆိုမှုသည် ချစ်ပ်များမှ wafer စနစ်တစ်ခုလုံးသို့ ပြောင်းလဲသွားသည့် လက္ခဏာဖြစ်သည်။

ရင်းမြစ်- Cerebras ဘလော့ဂ်၊ "Cerebras တွင် Trillion-parameter Frontier မော်ဒယ်များကို ကျွန်ုပ်တို့အသုံးပြုပုံ" (22 October 2026)။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →