၎င်း၏ဆာဗာမဲ့ AI ပလပ်ဖောင်းရှိ ဆာဗာမဲ့ AI ပလပ်ဖောင်းရှိ ကက်ရှ်-ကိုင်တွယ်ခြင်းဆိုင်ရာ ချွတ်ယွင်းချက်တစ်ခုသည် GLM-5.3 မော်ဒယ်ဖြန့်ကျက်မှုတွင် အနည်းဆုံး အသုံးပြုသူ 155 ဦးအား အခြားဖောက်သည်များ၏ အကြံပြုချက်များနှင့် အထွက်အပိုင်းအစများပါရှိသော တုံ့ပြန်မှုများကို လက်ခံရရှိစေကြောင်း ဖော်ပြထားသည့် အသေးစိတ်ဖြစ်ရပ်အစီရင်ခံစာကို Cloudflare က ထုတ်ပြန်ခဲ့သည်။ SGLang open-source inference engine ပရောဂျက်နှင့်အတူ ညှိနှိုင်းထုတ်ဖော်မှုအဖြစ် အောက်တိုဘာလ 26 ရက်နေ့တွင် ထုတ်ဝေသော အစီရင်ခံစာသည် အများအပြားငှားရမ်းနေထိုင်သူ LLM ဝန်ဆောင်မှုပေးခြင်း၏ ရေပိုက်အတွင်းတွင် ရှားပါးသောအများပြည်သူကို ကြည့်ရှုပေးသည် — နှင့် GPU မမ်မိုရီ၏ လုံခြုံရေးယူဆချက်များအကြောင်း သတိပေးချက်။

Leak ကို ဘယ်လိုရှာတွေ့လဲ။ For more context on this story, see our ongoing breaking AI news.

Cloudflare ၏ အဆိုအရ Knostic မှ လုံခြုံရေးသုတေသီ Gadi Evron သည် ၎င်း၏ HackerOne bug bounty ပရိုဂရမ်မှတဆင့် ကုမ္ပဏီအား စက်တင်ဘာ 8 ရက်၊ 2026 ရက်နေ့တွင် သတိပေးခဲ့သည်။ Cloudflare's Workers AI ပလပ်ဖောင်းရှိ GLM-5.3 မော်ဒယ်သို့ ပေးပို့သော အလွန်ရှည်လျားသော အချက်ပြမှုများသည် တစ်ခါတစ်ရံတွင် အခြားအသုံးပြုသူများ၏ ဆက်ရှင်များနှင့်သက်ဆိုင်သည့် စာသားကို ပြန်ပေးကြောင်း Evron က ဖော်ပြခဲ့သည်။ Cloudflare သည် နောက်နေ့နံနက်တွင် ပြဿနာကို ပြန်လည်ထုတ်လုပ်ခဲ့ပြီး ပြုပြင်မှုများလုပ်ဆောင်ပြီးနောက် စက်တင်ဘာလ 9 ရက်နေ့တွင် ၎င်းကို ပြန်လည်စတင်ကာ ထိုနေ့တွင်ပင် မော်ဒယ်ကို ပိတ်ထားသည်။

ထိခိုက်သည့်မော်ဒယ်မှာ @cf/zai-org/glm-5.3 — ကုမ္ပဏီ၏ဆာဗာမဲ့ စုံစုံစုံစုံပလပ်ဖောင်းဖြစ်သည့် Workers AI မှတဆင့် Cloudflare ဝန်ဆောင်မှုပေးသည့် Z.ai မှ အေးဂျင့်ကုဒ်နံပါတ်ပုံစံဖြစ်သည်။ ပလက်ဖောင်းပေါ်ရှိ အခြားမည်သည့်မော်ဒယ်ကိုမျှ ထိခိုက်ခြင်းမရှိကြောင်း Cloudflare မှ အတည်ပြုခဲ့သည်။

##တကယ်ဖြစ်ပျက်ခဲ့တာ

အဖြစ်အပျက်မှာ ထပ်နေသည့် ပြဿနာနှစ်ခု၊ လည်ပတ်မှုတစ်ခုနှင့် အင်ဂျင်တွင် တစ်ခုတို့ဖြစ်သည်။

ပထမဦးစွာ မှားယွင်းသောဖွဲ့စည်းမှု။ Cloudflare သည် 1,048,576-တိုကင် ဆက်စပ်ဝင်းဒိုးဖြင့် GLM-5.3 ကို ဖြန့်ကျက်ထားသော်လည်း ၎င်း၏ prefill GPU များတွင် သော့တန်ဖိုး (KV) cache pool သည် 681,280 တိုကင်များအတွက်သာ နေရာလွတ်ရှိပါသည်။ ကုမ္ပဏီသည် လွှတ်တင်ခြင်းမပြုမီ ဤမတူညီမှုကို သိရှိထားကြောင်း အသိအမှတ်ပြုခဲ့ပြီး အရှည်ကျော်တောင်းဆိုမှုများကို ဘေးကင်းစွာ ငြင်းဆိုရန် အနုမာနအင်ဂျင်ကို မျှော်လင့်ခဲ့သည်။

ဒုတိယ၊ အင်ဂျင် ချို့ယွင်းချက်။ ခွဲထုတ်ထားသော prefill/decode mode တွင် - GPU အစုအဝေးတစ်ခုမှ ချက်ခြင်းလုပ်ဆောင်ပြီး ရရှိလာသော KV cache ကို တုံ့ပြန်မှုကိုထုတ်ပေးသည့် သီးခြား GPU ပေါင်းကူးသို့ လွှဲပြောင်းပေးသည့် ဗိသုကာလုပ်သား AI ကိုအသုံးပြုသည် - SGLang သည် အရှည်ကျော်တောင်းဆိုမှုကို မှားယွင်းစွာကိုင်တွယ်ခဲ့သည်။ ရေကူးကန်နှင့် ကိုက်ညီမှုမရှိသော အမှာစာအား အတွင်းပိုင်း၌ ပယ်ချကြောင်း အမှတ်အသားပြုပြီး တိုကင်တစ်ခု နေရာယူထားသည့်အရာဖြင့် အစားထိုးထားသည်။ သို့သော် တောင်းဆိုမှုကို ဖျက်ပစ်ပြီး ကလိုင်းယင့်အမှားကို ပြန်ပေးမည့်အစား၊ နေရာယူသူအမှာစာအတွက် KV ကက်ရှ်ကို ဖြည့်သွင်းပြီး ၎င်းကို ကုဒ်နံပါတ်သို့ လွှဲပြောင်းပေးကာ ၎င်းကို ယခင်မှတ်ဉာဏ်စာမျက်နှာများမျှဝေသည့် တောင်းဆိုမှုများမှ လက်ကျန်ဒေတာများ ရောနှောထားသည့် တုံ့ပြန်မှုကို ထုတ်ပေးသည်။

ရလဒ်- ဩဂုတ် 27 နှင့် စက်တင်ဘာ 9 ကြားတွင်၊ မော်ဒယ်ကို အသုံးပြုသည့် သုံးစွဲသူ အနည်းငယ်သည် ၎င်းတို့၏ မပြီးမီ မကြာမီက ပြုလုပ်ခဲ့သော အခြားဖောက်သည်များ၏ တောင်းဆိုမှုမှ ဒေတာများ ပါဝင်သော တုံ့ပြန်မှုများကို ရရှိခဲ့သည်။ စုစုပေါင်း တုံ့ပြန်မှု 155 ခု ထိခိုက်ခဲ့သည် — အားလုံးသည် 681,280 တိုကင်ထက် ပိုရှည်ကြောင်း Cloudflare တွေ့ရှိခဲ့သည်။

တမင်တကာ အမြတ်ထုတ်ခြင်း၏ အထောက်အထားမရှိပါ။

၎င်း၏ကိုယ်ပိုင်စမ်းသပ်မှုနှင့် သုတေသီ၏အတည်ပြုချက်တောင်းဆိုမှုများကို ဖယ်ထုတ်ပြီးနောက်၊ ထိခိုက်သည့်တောင်းဆိုချက်များသည် သာမာန်ရှည်လျားသောအကြောင်းအရာအသုံးပြုမှုနှင့်အတူ အချိန်ကိုက်နှင့် အသံအတိုးအကျယ်တွင် တသမတ်တည်းဖြစ်နေကြောင်း Cloudflare ကဖော်ပြခဲ့ပြီး ကုမ္ပဏီသည် မည်သူမဆို bug ကို တမင်အသုံးချခဲ့သည်ဟူသော အထောက်အထားမတွေ့ရှိရပါ။ သက်ရောက်မှုရှိသော တောင်းဆိုမှုတိုင်းသည် အရွယ်အစားသေးငယ်သော ရေကန်၏ စွမ်းဆောင်ရည်ကို ကျော်လွန်သွားသောကြောင့်၊ ပြဿနာကို ဖြစ်စေသော မှားယွင်းသော ဖွဲ့စည်းမှုစနစ်မှ ပေါက်ဖွားလာသော ငွေရောင် ကာရံထားသည့် ထိတွေ့မှုပြတင်းပေါက်ကို တင်းကျပ်စွာ ကန့်သတ်ထားသည်။

ပြင်ဆင်ခြင်း- ပိုကြီးသော ရေကန်များနှင့် ပိုလုံခြုံသော ကျရှုံးမှုလမ်းကြောင်း

ပြန်လည်ပြုပြင်ခြင်းသည် ရှုံးနိမ့်မှု၏ အလွှာနှစ်ခုလုံးတွင် လုပ်ဆောင်ခဲ့သည်။ Cloudflare သည် ၎င်း၏ GLM-5.2 ဖွဲ့စည်းမှုပုံစံနှင့် ကိုက်ညီစေရန် ၎င်း၏ GLM-5.3 ဖြန့်ကျက်မှုကို ပြန်လည်ပြင်ဆင်ပြီး KV ရေကူးကန်တွင် တိုကင်ပေါင်း 2.04 သန်းခန့်ကို ယခုကြိုတင်ရရှိထားသည့် လုံလောက်သော GPU မမ်မိုရီကို လွတ်မြောက်စေသည် — အကြမ်းအားဖြင့် မော်ဒယ်၏ 1,048,576-တိုကင် ဆက်စပ်အရှည်၏ နှစ်ဆဖြစ်သည်။ ယခု ဆက်စပ်ဝင်းဒိုးနှင့် ကိုက်ညီသော အမှာစာသည် ရေကူးကန်နှင့် အမြဲကိုက်ညီသည်။

သို့သော် ရေကူးကန်အရွယ်အစားကို တစ်ခုတည်းပေါ်တွင်သာ မှီခိုနေရခြင်းသည် ပျက်စီးလွယ်သည်- quantization၊ tensor parallelism၊ CUDA ဂရပ်အရွယ်အစားများ သို့မဟုတ် အနာဂတ်မော်ဒယ်ဗားရှင်းသည် ရေကူးကန်အရွယ်အစားကို တိတ်တဆိတ် ပြောင်းလဲနိုင်သည်ဟု ကုမ္ပဏီက အလေးပေးပြောကြားခဲ့သည်။ ထို့ကြောင့် ၎င်းသည် SGLang ၏ ငြင်းပယ်ခြင်းလမ်းကြောင်းကို ဖာထေးပြီး ပယ်ချထားသော တောင်းဆိုချက်သည် နေရာယူသူအတွက် ကက်ရှ်ကို ဖန်တီးခြင်းနှင့် လွှဲပြောင်းခြင်းအစား ရှင်းရှင်းလင်းလင်း ပျက်သွားကြောင်း သေချာစေပါသည်။ ပြောင်းလဲမှုနှစ်ခုစလုံးသည် သုတေသီ၏ မျိုးပွားခြင်းဆိုင်ရာ script နှင့် မော်ဒယ်ကို ပြန်လည်မွမ်းမံခြင်းမပြုမီ Cloudflare ၏ကိုယ်ပိုင် canary-marker စမ်းသပ်မှုများကို သက်သေပြခဲ့ပြီး ပြုပြင်မှုများကို SGLang ထိန်းသိမ်းသူများထံ ပံ့ပိုးပေးထားပါသည်။

အဘယ်ကြောင့် Shared GPU Memory သည် လုံခြုံရေးမေးခွန်းဖြစ်ပါသည်။

အစီရင်ခံစာတွင် အပလီကေးရှင်းဆော့ဖ်ဝဲရေးသားသူအများအပြားကို အံ့အားသင့်စေမည့် အလေ့အကျင့်ကို ရှင်းပြထားသည်- အနုမာနအင်ဂျင်များသည် ယေဘုယျအားဖြင့် တောင်းဆိုမှုများကြားတွင် KV ကက်ရှ်စာမျက်နှာများကို လုံးဝဖယ်မပေးဘဲ၊ နောက်တောင်းဆိုချက်မှာ ၎င်းတို့ကို ထပ်ရေးထားသောကြောင့် ဖြစ်သည်။ ၎င်းသည် အနုစိတ် အင်ဂျင်များတွင် တူညီသော စွမ်းဆောင်ရည် အပေးအယူမျှသော တမင်တကာ အပေးအယူ ဖြစ်ပါသည်၊ သို့သော် ဤအဖြစ်အပျက်ကို ပြသည်အတိုင်း၊ အဆိုပါ စာမျက်နှာများကို အပြည့်အ၀ မရေးရသေးမီ တုံ့ပြန်မှု ထုတ်ပေးနိုင်သည့် လမ်းကြောင်းမှန်သမျှသည် စွမ်းဆောင်ရည် ပိုမိုကောင်းမွန်အောင် လုပ်ဆောင်ခြင်းကို data-leak vector အဖြစ် ပြောင်းလဲပေးပါသည်။

ထုတ်ဖော်မှုသည် developer အသိုင်းအဝိုင်းထံ ရောက်သွားသည်- ဇာတ်လမ်းသည် နာရီပိုင်းအတွင်း Hacker News တွင် အချက် 123 ချက်အထိ ရောက်ရှိခဲ့ပြီး ပျက်ကွက်မှုမုဒ်ကို အာရုံစိုက်ဆွေးနွေးခြင်း— ပျက်စီးနေသောအခြေအနေတွင် တိတ်တဆိတ်လုပ်ဆောင်မည့်အစား ကျယ်လောင်စွာမအောင်မြင်သင့်သည့် တောင်းဆိုချက်— ဖြန့်ဝေထားသောစနစ်အင်ဂျင်နီယာမှ ဂန္ထဝင်သင်ခန်းစာများကို ထင်ဟပ်စေသည်။

AI အခြေခံအဆောက်အဦအတွက် ပိုမိုကျယ်ပြန့်သောသင်ခန်းစာ

ယခုဖြစ်ရပ်သည် AI အပလီကေးရှင်းများအတွက် လုံခြုံရေးပတ်၀န်းကျင်သည် အနုမာနအခြေခံအဆောက်အအုံများအထိ နက်ရှိုင်းစွာချဲ့ထွင်ထားကြောင်း သတိပေးချက်တစ်ခုဖြစ်သည်။ ငှားရမ်းသူအများအပြားကို ဝန်ဆောင်မှုပေးသည့်ပုံစံသည် မျှဝေထားသော အရှိန်မြှင့်စက်များ၊ မျှဝေထားသော ကက်ရှ်ရေကန်များနှင့် ခွဲထုတ်ထားသော prefill နှင့် အဝေးမှတိုက်ရိုက်မမ်မိုရီဝင်ရောက်မှုကဲ့သို့သော ပိုမိုဆန်းပြားသော ဗိသုကာလက်ရာများမှတစ်ဆင့် သုံးစွဲသူများ၏ဒေတာအများအပြားကို စုစည်းပေးပါသည်။ မော်ဒယ်တစ်ဦး၏ ကြော်ငြာထားသော ဆက်စပ်ဝင်းဒိုးနှင့် ၎င်းကို ဝန်ဆောင်မှုပေးရန် ပြဋ္ဌာန်းထားသော ရုပ်ပိုင်းဆိုင်ရာ စွမ်းရည်တို့ကြား သိမ်မွေ့သော မကိုက်ညီမှုသည် အိမ်ငှားအထီးကျန်မှုကို ချိုးဖောက်ရန် လုံလောက်ပါသည်။

ဆာဗာမဲ့ AI ပလပ်ဖောင်းများပေါ်တွင် တည်ဆောက်သည့် လုပ်ငန်းများအတွက်၊ Cloudflare ၏ အစီရင်ခံစာမှ ထုတ်ယူမှုသည် နှစ်ဆဖြစ်သည်- LLM ဝန်ဆောင်မှုတွင် အိမ်ငှားအထီးကျန် ချို့ယွင်းချက်များသည် အစစ်အမှန်ဖြစ်ပြီး ထုတ်လုပ်မှုတွင် ဖြစ်ပွားနေပြီး၊ နှင့် ရောင်းချသူများ၏ တုံ့ပြန်ချိန်သည် - တိုင်ကြားမှုမှ ပိတ်ရန် ၂၄ နာရီအောက်၊ ပြင်ဆင်ရန်နှင့် ပြန်လည်ရယူရန် တစ်ရက်အလို — ဝန်ဆောင်မှုပေးသူထံမှ တောင်းဆိုရန် လုံ့လဝီရိယရှိသော စံနှုန်းဖြစ်သည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →