Qwen 3.8 27B သည် Cerebras Inference တွင် တစ်စက္ကန့်လျှင် တိုကင်အကြမ်းဖျင်း 1,500 ဖြင့် လုပ်ဆောင်နေသည်

ကုမ္ပဏီ၏ မော်ဒယ်ကတ်တလောက်စာရွက်စာတမ်းများအရ Cerebras သည် ၎င်း၏ Cerebras Inference ပလပ်ဖောင်း၏ အများသူငှာ အဆုံးမှတ်များသို့ Qwen 3.8 27B ကို ပေါင်းထည့်ထားပြီး၊ အဖွင့်အလေးချိန် မော်ဒယ်သည် တစ်စက္ကန့်လျှင် တိုကင် 1,500 ခန့်ဖြင့် လုပ်ဆောင်နေကြောင်း ကုမ္ပဏီ၏ မော်ဒယ်ကတ်တလောက် စာရွက်စာတမ်းများအရ သိရသည်။ အဆိုပါစာရင်းတွင် Alibaba ၏အသုံးအများဆုံး open model မိသားစုများထဲမှတစ်ခုသည် ပုံမှန် GPU-hosted ဝန်ဆောင်မှုကိုထောင်ပြီး အမြန်နှုန်းဖြင့်ရရှိနိုင်စေသည်။

အဆိုပါကြေငြာချက်သည် developer များထံမှချက်ချင်းအာရုံစူးစိုက်မှုရရှိခဲ့သည်- ဇာတ်လမ်းသည် တစ်ရက်အတွင်း Hacker News တွင် အမှတ် 600 ကျော်ကို စုဆောင်းထားပြီး၊ မြန်ဆန်ပြီး စျေးပေါသော ကောက်ချက်ချမှုအတွက် ၀ယ်လိုအား မည်မျှပူပြင်းလာသည်ကို ရောင်ပြန်ဟပ်သည့် ဆွဲငင်မှုအဆင့်တစ်ခုဖြစ်သည်။ အနုမာနစျေးကွက်ကို ပိုမိုကျယ်ပြန့်စွာရှုမြင်နိုင်ရန်၊ သတင်းကောင်း AI သတင်း စားပွဲသည် ထွက်လာသည်နှင့်အမျှ အဓိကပလက်ဖောင်းမွမ်းမံမှုတိုင်းကို လိုက်နာသည်။

Catalog ရှိ Specs များ

Cerebras ၏စာရွက်စာတမ်းတစ်ခုအရ၊ Qwen 3.8 27B သည် ကန့်သတ်ဘောင် ၂၇ ဘီလီယံကိုသယ်ဆောင်ပြီး အခမဲ့အဆင့်တွင် 64K တိုကင်များနှင့် အခပေးအဆင့်တွင် 128K တို့ကို ပံ့ပိုးပေးကာ တစ်စက္ကန့်လျှင် တိုကင် 1,500 ခန့်ဖြင့်လည်ပတ်နေသည်။ ၎င်းသည် OpenAI ၏အလေးချိန် GPT-OSS 120B မော်ဒယ်နှင့် တွဲလျက်ပါရှိပြီး တူညီသောကတ်တလောက်တွင် တစ်စက္ကန့်လျှင် တိုကင်ပေါင်း 65K ဝန်းကျင်ဖြင့် အကြမ်းဖျင်းအားဖြင့် 3,000 နှင့် အခပေးအဆင့်တွင် 131K တို့ပါဝင်သည်။

မော်ဒယ်နှစ်မျိုးလုံးကို Cerebras ၏ အခမဲ့အစမ်းသုံးခြင်းနှင့် နှုန်းထားကန့်သတ်ချက်များအရ ပေးဆောင်သည့်အတိုင်း ပေးဆောင်ရသည့်အဆင့်များတွင် ရနိုင်ပါသည်။ သီးသန့်စွမ်းရည်၊ ပိုမိုမြင့်မားသောထွက်ရှိမှု သို့မဟုတ် ထုတ်လုပ်မှု SLA များကို လိုအပ်သော ဝယ်ယူသူများကို ကုမ္ပဏီ၏ Dedicated Endpoints ကမ်းလှမ်းမှုသို့ ညွှန်ကြားထားပြီး၊ အများသူငှာ အဆုံးအမနှစ်ခုထက် ကျော်လွန်သော မော်ဒယ်မိသားစုများဆီသို့ လမ်းကြောင်းအဖြစ်လည်း စာရွက်စာတမ်းတွင် ဖော်ပြထားပါသည်။

ဆက်စပ်ပြတင်းပေါက်များသည် အမြန်နှုန်းကိန်းဂဏန်းများနှင့်အတူ ဂရုပြုထိုက်သည်။ အခမဲ့အဆင့်ရှိ တိုကင်ခြောက်သောင်းလေးထောင် — နှင့် အခပေးတွင် 128,000 — သည် အရွယ်အစားကြီးမားသော ကုဒ်ဘေ့စ်များ၊ ရှည်လျားသောစာရွက်စာတမ်းများ သို့မဟုတ် တိုးချဲ့ထားသော အေးဂျင့်မှတ်တမ်းများကို မှတ်ဉာဏ်ထဲတွင် တစ်ကြိမ်တည်းကိုင်ထားရန် လုံလောက်သည် Cerebras ၏ စာရွက်စာတမ်းများတွင် OpenAI SDK ကို ပစ်မှတ်ထားပြီး လက်ရှိကုဒ်ရှိသော အသင်းများအတွက် ကူးပြောင်းမှုကုန်ကျစရိတ်ကို လျှော့ချပေးသည့် OpenAI လမ်းညွှန်တစ်ခုလည်း ပါ၀င်သည်- မူအားဖြင့်၊ မူအရ၊ ရှိပြီးသား client ကို Cerebras အဆုံးမှတ်သို့ ညွှန်ပြခြင်းသည် ပြန်လည်ရေးသားခြင်းထက် ဖွဲ့စည်းမှုပြောင်းလဲမှုတစ်ခုဖြစ်သည်။

Unpruned Models၊ Transparent Compression

စာရွက်စာတမ်းများတွင်မှတ်သားထိုက်သည့်အသေးစိတ်အချက်မှာ မော်ဒယ်ချုံ့ခြင်းအား ကိုင်တွယ်ပုံကို Cerebras မှထုတ်ဖော်ခြင်းဖြစ်သည်။ ကုမ္ပဏီက ၎င်း၏ အများသူငှာ အဆုံးမှတ်များရှိ မော်ဒယ်များအားလုံးသည် မူရင်း၊ ပြုပြင်မွမ်းမံထားသော ဗားရှင်းများဖြစ်ပြီး အရည်အသွေးကို ထိန်းသိမ်းထားရန် သိုလှောင်မှုအတွင်းသာ ရွေးချယ်ထားသော အလေးချိန်သီးသန့် quantization ကို အသုံးပြုထားကြောင်း ကုမ္ပဏီက ပြောကြားခဲ့သည်။ ထိလွယ်ရှလွယ် အလွှာများသည် တိကျမှု၊ လုပ်ဆောင်ချက်များ၊ အာရုံစူးစိုက်မှုတွင် ရှိနေကြပြီး KV ကက်ရှ်များသည် အရေအတွက် မရေတွက်နိုင်အောင် ရှိနေကြပြီး၊ dequantization သည် အလျင်အမြန် ဖြစ်ပေါ်ပါသည်။

Cerebras သည် REAP (Router-weighted Expert Activation Pruning) ကဲ့သို့သော တံစဉ်များကို ဖြတ်တောက်ခြင်းဆိုင်ရာ ၎င်း၏ သုတေသနကို ထုတ်ဖော်ပြသသည်- ဖြတ်တောက်ထားသော မျိုးကွဲများကို Hugging Face ရှိ သုတေသနအသိုင်းအဝိုင်းနှင့် မျှဝေသော်လည်း အများသူငှာ API မှတဆင့် ဆောင်ရွက်ပေးမည်မဟုတ်ပါ။ ပွင့်လင်းမြင်သာသော မော်ဒယ်များကို လုပ်ဆောင်ရမည့်နေရာကို ရွေးချယ်သည့် ဆော့ဖ်ဝဲအင်ဂျင်နီယာများအတွက်၊ အတိအကျ လုပ်ဆောင်ပေးနေသည့် ပွင့်လင်းမြင်သာမှုသည် ပုံမှန်မဟုတ်ပေ။

ဘာကြောင့် တိုကင်အမြန်နှုန်းက အရေးကြီးတာလဲ။

ဤကဲ့သို့သော ဂဏန်းများ ဖြတ်သန်းမှုတွင် အေးဂျင့်နှင့် ကုဒ်ရေးခြင်းဆိုင်ရာ အလုပ်များ အတွက် အများဆုံး အရေးကြီးပါသည်။ မော်ဒယ်ခေါ်ဆိုမှုများ ရာနှင့်ချီသော ချိတ်ဆက်မှုရှိသော အပလီကေးရှင်းများ — coding အေးဂျင့်များ၊ ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ အလုပ်အသွားအလာများ၊ အချိန်နှင့်တပြေးညီ လက်ထောက်များ — အဆင့်တိုင်းတွင် တိုကင်ကြာချိန်ကို များပြားစေသောကြောင့် တစ်စက္ကန့်လျှင် တိုကင် 50 နှင့် 1,500 အကြား ကွာခြားချက်ကို အရည်အသွေးအရ ကွဲပြားခြားနားသော အတွေ့အကြုံအဖြစ်သို့ ပြောင်းလဲလိုက်ပါ။ ကြာမြင့်စွာပြီးစီးမှုများကို တိုက်ရိုက်ထုတ်လွှင့်ပေးသည့် အပြန်အလှန်အကျိုးပြုအက်ပ်လီကေးရှင်းများသည် သိသိသာသာအကျိုးရှိစေပါသည်။

အပေးအယူသည် နယ်ပယ်ဖြစ်သည်။ 27 ဘီလီယံတန်သော ပါရာမီတာ မော်ဒယ်သည် အခက်ခဲဆုံး ကျိုးကြောင်းဆင်ခြင်ခြင်း လုပ်ငန်းများတွင် ရှေ့တန်းထွက် စနစ်များနှင့် ကိုက်ညီလိမ့်မည် မဟုတ်ဘဲ Cerebras ၏ ကိုယ်ပိုင် စာရွက်စာတမ်းများသည် လေးလံသော ထုတ်လုပ်မှု ပမာဏကို သီးသန့် စွမ်းဆောင်ရည်သို့ ပို့ဆောင်ပေးပါသည်။ သို့သော် အလယ်အလတ်တန်းစား အဖွင့်မော်ဒယ်များသည် လုံလောက်သော ကောင်းမွန်ပြီးဖြစ်သည့် အလုပ်များ၏ အလယ်ဗဟိုတွင် - အကျဉ်းချုပ်ခြင်း၊ အမျိုးအစားခွဲခြင်း၊ ကိရိယာအသုံးပြုခြင်း၊ ကုဒ်တည်းဖြတ်ခြင်း - မြန်နှုန်းသည် ကွာခြားချက်ဖြစ်လာသည်။

စျေးနှုန်းအတိုင်းအတာတစ်ခုရှိပါသည် developer များကချိန်ဆလိမ့်မည်။ အများသူငှာ နိဂုံးချုပ်မော်ဒယ်များကို အခမဲ့အစမ်းသုံးခြင်းတွင် ကတိကဝတ်မပြုမီ အခမဲ့အစမ်းသုံးနိုင်သည်၊ ၎င်းသည် အဖွဲ့၏ကိုယ်ပိုင်အလုပ်ဝန်ကို ပွတ်တိုက်မှုကင်းစင်စေသည့် စံညွှန်းအမှတ်အသားပြုလုပ်ပေးသည့်—ပထမတိုကင်ကို မထမ်းဆောင်မီ အရောင်းစကားဝိုင်းများလိုအပ်သည့် လုပ်ငန်းဆိုင်ရာစာချုပ်များနှင့် ဆန့်ကျင်ဘက်ဖြစ်သော တမင်သက်သက် ချဉ်းကပ်လမ်းတစ်ခုဖြစ်သည်။ မှတ်တမ်းတင်ထားသော နှုန်းထားကန့်သတ်ချက်များသည် ကြည့်ရှုရန် ကန့်သတ်ချက်ဖြစ်သည်- ထုတ်လုပ်မှုလမ်းကြောင်းကို လည်ပတ်ရန်မဟုတ်ဘဲ မြန်နှုန်းကို သက်သေပြရန် အခမဲ့အဆင့် ဝင်ရောက်ခွင့်ရှိပါသည်။

အဖွင့်မော်ဒယ်များအတွက် အလုပ်များသောဆန့်

အလေးမထားသော AI အတွက် လူထူထပ်သောလမ်းတွင် ထပ်လောင်းသည် ။ UAE အခြေစိုက် ဓာတ်ခွဲခန်း IFM သည် အပြည့်အ၀ဖွင့်ထားသော မော်ဒယ်ခြောက်ခု၏ ချိတ်ဆက်ထားသော K2 Horizon ကို မိတ်ဆက်ပေးခဲ့ပြီး Meta သည် ၎င်း၏ မူဆယ်မိသားစုအား ကုဒ်နှင့် အက်ရှင်အသုံးပြုမှုများအတွက် ထပ်လောင်းပြောဆိုနေပါသည်။ တစ်ချိန်တည်းတွင်၊ တရုတ်နိုင်ငံရှိ စံပြဂေဟစနစ်များသည် စက်မှုလုပ်ငန်းခွင်အနှံ့ ထုတ်လုပ်မှုစက်ဝန်းများကို ဖိသိပ်ထားသော အရှိန်အဟုန်ဖြင့် ပို့ဆောင်ပေးနေပါသည်။

ဆော့ဖ်ဝဲရေးသားသူများအတွက်၊ လက်တွေ့ကျသော စွန့်စားရမှုမှာ အဖွင့်မော်ဒယ်စတက်ခ်သည် နယ်ပယ်နှစ်ခုတွင် တစ်ပြိုင်နက် ရင့်ကျက်လာနေသည်- အရွယ်လတ်မော်ဒယ်များသည် နေ့စဉ်လုပ်ငန်းဆောင်တာများအတွက် အထင်ကြီးစရာများနှင့် ကွာဟချက်ပိတ်ကာ၊ အထူးပြု ကောက်ချက်ချသော ဝန်ဆောင်မှုပေးသူများသည် ကုန်ကြမ်းအမြန်နှုန်းဖြင့် ပြိုင်ဆိုင်ကြသောကြောင့်၊ Cerebras ရှိ Qwen 3.8 27B သည် ခေတ်ရေစီးကြောင်းနှစ်ခုလုံးအတွက် ဒေတာအချက်ဖြစ်သည် — အလုပ်အတွက် ရည်ရွယ်တည်ဆောက်ထားသော ဟာ့ဒ်ဝဲရည်ရွယ်ချက်ဖြင့် တည်ဆောက်ထားသော လွန်ခဲ့သည့်တစ်နှစ်တာကာလအတွင်း ထူးခြားဆန်းပြားခဲ့သော လက်ရှိမျိုးဆက်ဖွင့်မော်ဒယ်ကို မြန်နှုန်းဖြင့် ဆောင်ရွက်ခဲ့သည်။

ပလပ်ဖောင်းကို အကဲဖြတ်သည့် ဆော့ဖ်ဝဲရေးသားသူများသည် ၎င်းတို့၏ကိုယ်ပိုင်အလုပ်များကို စံပြုသင့်သည်- ထုတ်ဝေသည့်အမြန်နှုန်းများသည် ကတ်တလောက်ကိန်းဂဏန်းများ၊ လက်တွေ့ကမ္ဘာဖြတ်သန်းမှုနှုန်း၊ တူညီချက်နှင့် ဖွဲ့စည်းမှုပုံစံတို့အပေါ် မူတည်ပြီး ၎င်း၏အမြန်နှုန်းမမီမီ အခမဲ့အဆင့်၏ နှုန်းထားများကို စည်းနှောင်မည်ဖြစ်သည်။

AI ထက်သာလွန်နေပါစေ။

မော်ဒယ်ထုတ်လွှတ်မှုတိုင်း၊ အနုမာနပလက်ဖောင်းအပ်ဒိတ်နှင့် ဆော့ဖ်ဝဲရေးသားသူ ကိရိယာ လွှင့်တင်မှုကို ခြေရာခံလိုက်သည် — AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →