စက်တွင်းတွင် အသုံးများဆုံးနှင့် အသုံးပြုသည့် ကြီးမားသော ဘာသာစကားပုံစံများကို ချိန်ညှိခြင်းအတွက် အသုံးအများဆုံး ကိရိယာအချို့နောက်ကွယ်ရှိ Open-source အဖွဲ့ Unsloth သည် GGUF မော်ဒယ်ဖိုင်များအတွက် ၎င်း၏ တတိယမြောက်မျိုးဆက်ဖြစ်သော Dynamic 3.0 ကို ထုတ်ပြန်ခဲ့သည်။ အစီအစဉ်သစ်အရ တင်ပို့မည့် ပထမဆုံးမော်ဒယ်များသည် Qwen3.8-27B ပမာဏများဖြစ်ပြီး Unsloth က ၎င်းတို့သည် အခြား quantization ဝန်ဆောင်မှုပေးသူတိုင်းနှင့် နှိုင်းယှဉ်ပါက တူညီသောဖိုင်အရွယ်အစားတွင် 10 ရာခိုင်နှုန်း ပိုမိုကောင်းမွန်သော top-1 ရာခိုင်နှုန်းတိကျမှုထက် 10 ရာခိုင်နှုန်း ပိုကောင်းသည်ဟု ဆိုထားသည်။

ဖြန့်ချိမှုသည် ဟက်ကာသတင်းများ၏ ရှေ့ဆုံးစာမျက်နှာသို့ လျင်မြန်စွာရောက်ရှိသွားခဲ့ပြီး ပြည်တွင်းမော်ဒယ်ဝါသနာအိုးများက စံဇယားဇယားများကို ပိုင်းခြားထားသည်။ ၎င်းသည် ပရောဂျက်အတွက် အံ့မခန်းဆွဲဆောင်မှုများကြားတွင် ရောက်ရှိလာသည်- Unsloth က ၎င်း၏ Qwen3.8 quantizations မော်ဒယ်ကို ထုတ်ဝေပြီး ငါးရက်အကြာတွင် အကြိမ်ပေါင်း 5.1 သန်းကျော် ဒေါင်းလုဒ်လုပ်ခဲ့ကြောင်း Unsloth မှ ပြောကြားခဲ့သည်။ For more context on this story, see our ongoing breaking AI news.

ဘာကြောင့် quantization အရည်အသွေးက အရေးကြီးတာလဲ။

Quantization သည် အသုံးပြုသူ GPU များနှင့် လက်ပ်တော့များတွင် မော်ဒယ်ကြီးများကို လုပ်ဆောင်နိုင်စေခြင်းဖြင့် ၎င်း၏အလေးချိန်များကို တိကျစွာ သိမ်းဆည်းခြင်းဖြင့် မော်ဒယ်၏ ဖိုင်အရွယ်အစားကို ကျုံ့စေသည်။ အပေးအယူသည် အမြဲတမ်း တိကျသည်- လေးလံသော ကွမ်တီးမှုတ်ခြင်းသည် ပေါ့ပေါ့တန်တန် စံနှုန်းများကို လွဲချော်နိုင်သည့် နည်းလမ်းများဖြင့် ရလဒ်များကို ကျဆင်းစေသည်။ ကြီးထွားလာနေသော ကွန်မြူနတီများတွင် အသုံးပြုနေသည့် မော်ဒယ်များအတွက် — developer testing agent workflows မှ စျေးကြီးသော cloud API access ရှိသော ဒေသများရှိ သုံးစွဲသူများအထိ — quant quality သည် မည်သည့် model များကို လုံးဝအသုံးပြုနိုင်ကြောင်း ထိရောက်စွာ ဆုံးဖြတ်သည်။

Dynamic 3.0 သည် အဆိုပါ အပေးအယူအတွက် Unsloth ၏ အဖြေဖြစ်သည်။ အဖွဲ့၏စာရွက်စာတမ်းများအရ၊ ထုတ်ဝေမှုအသစ်သည် Divergence-300 @32 နှင့် KL Divergence ကဲ့သို့သော မက်ထရစ်များတစ်လျှောက် ပိုမိုခိုင်မာသောရလဒ်များဖြင့် တူညီသောအရွယ်အစားကို ထိန်းသိမ်းထားစဉ်တွင် မော်ဒယ်အရည်အသွေးကို ပိုမိုထိန်းသိမ်းထားသည်။

ဗားရှင်း 3.0 မှာ ဘာတွေပြောင်းလဲသွားလဲ။

နည်းစနစ်အဆင့်မြှင့်တင်မှုများသည် ပြောင်မြောက်သည်ထက် အသေးစိပ်ဖြစ်သည်။ Unsloth သည် ယခုအခါတွင် မတူကွဲပြားသော ရင်းမြစ်များမှ ထုတ်ယူထားသော အရည်အသွေးမြင့် အရေးကြီးသော မက်ထရစ်ချိန်ညှိမှု ဒေတာအတွဲကို အသုံးပြုထားပြီး၊ အေးဂျင့်ကုဒ်၊ ချတ်နှင့် ဘာသာစကားပေါင်းစုံ စွမ်းဆောင်ရည်အတွက် အထူးတလည် သန့်စင်ပေးထားကြောင်း Unsloth မှ ပြောကြားခဲ့သည်။ အလွှာရွေးချယ်ခြင်း — မော်ဒယ်၏ မည်သည့်အစိတ်အပိုင်းများကို အခက်ဆုံးဖြစ်စေရန် ဆုံးဖြတ်ခြင်း — ကို ပိုမိုကောင်းမွန်အောင်ပြုလုပ်ထားပြီး အရည်အသွေးကို ထိန်းသိမ်းရန်အတွက် နောက်ထပ် quantization နည်းပညာများကို မိတ်ဆက်ပေးခဲ့သည်။

မှတ်သားဖွယ်ရာမှာ၊ လေ့ကျင့်ရေးလွန် quantization အားဖြင့် အရာအားလုံးကို လုပ်ဆောင်သည်- quantization-aware training နှင့် quantization-aware ပေါင်းခံခြင်း မရှိကြောင်း အလေးပေးဖော်ပြပါသည်။ ချိန်ညှိခြင်းဒေတာအတွဲကို ကိုယ်တိုင်လေ့ကျင့်မသင်ကြားထားဘဲ imatrix ဖိုင်ကို လူသိရှင်ကြား ထုတ်လွှတ်လိုက်သောကြောင့် ကွန်မြူနတီသည် အလုပ်ကို ပြန်လည်ဖန်တီးနိုင်သည် သို့မဟုတ် ၎င်းအပေါ်တွင် ကောင်းမွန်သောတေးသွားများကို တည်ဆောက်နိုင်သည်။

တိကျသောပမာဏအဆင့်များသည် လက်တွေ့ကျသောအကျိုးသက်ရောက်မှုကိုပြသသည်။ 9.83 GB တွင်ရှိသော UD-Q2_K_XL ပမာဏသည် ထိုအရွယ်အစားရှိ နောက်အကောင်းဆုံးရွေးချယ်မှုထက် ထိပ်တန်း 1 ရာခိုင်နှုန်းမက်ထရစ်တွင် 8 ရာခိုင်နှုန်း ပိုမိုတိကျကြောင်း ဖော်ပြထားပါသည်။ အလွတ်သဘောစမ်းသပ်မှုတစ်ခုတွင် Unsloth မီးမောင်းထိုးပြမှုများတွင်၊ ၎င်းသည် သေးငယ်သော JavaScript ချို့ယွင်းချက်တစ်ခုတည်းဖြင့် အလုပ်လုပ်သော HTML ပရိုဂရမ်တစ်ခုကို ထုတ်လုပ်ခဲ့သည် — ယခင်မျိုးဆက်များ လုံး၀ ကျိုးပဲ့သွားမည့် ပမာဏကို ထုတ်ပေးပါသည်။

အလွန်အမင်းနိမ့်ပါးချိန်တွင်၊ UD-IQ1_S ပမာဏသည် မော်ဒယ်ကို 6.2 GB—မူရင်းထက် 89 ရာခိုင်နှုန်းပိုမိုသေးငယ်သည်—အပေါ်ဆုံး-1 ရာခိုင်နှုန်းတိကျမှု၏ 72 ရာခိုင်နှုန်းဝန်းကျင်ကို ထိန်းသိမ်းထားကာ၊ Unsloth သည် disk space 500 MB နီးပါးကို ချွေတာနိုင်စေရန် 8.37 GB အောက်ရှိ ပမာဏအနည်းငယ်မှ တိုကင်-ဟောကိန်းထုတ်သည့် module ကိုလည်း ဖယ်ရှားခဲ့ပြီး ၎င်းကိုအသုံးပြုသူများအတွက် သီးခြားရရှိနိုင်သည့် module လည်းဖြစ်သည်။

ပိုခက်တဲ့ စံနှုန်းတစ်ခု၊ ပိုခင်မင်ရင်းနှီးမှုတစ်ခုပဲ မဟုတ်ဘူး။

ကြေညာချက်၏ ပို၍အကျိုးဆက်သော အစိတ်အပိုင်းမှာ နည်းစနစ်ကျနမှု ဖြစ်နိုင်သည်။ Unsloth သည် ထိပ်တန်း 1 ရာခိုင်နှုန်း တိကျမှု — အခြေခံအားဖြင့် တစ်ခုတည်းသော ခန့်မှန်းချက် argmax စမ်းသပ်မှု — သည် စစ်မှန်သော အနုမာနအရည်အသွေး၏ ထိရောက်သော တိုင်းတာမှုတစ်ခု မဟုတ်ကြောင်း Unsloth မှ စောဒကတက်သည်။ စံနှုန်းလွန်ကဲမှုကို တန်ပြန်ရန်၊ အဖွဲ့သည် Divergence-300 @32- Terminal-Bench 2.1၊ DeepSWE၊ Harbor၊ MathArena 2025-26၊ နှင့် လက်တင်မဟုတ်သော စာရွက်စာတမ်းရှည်လျားမှု အချက်ပြမှုများမှ စံနမူနာ 300 ၏ သီးသန့်ဒေတာအတွဲကို တည်ဆောက်ခဲ့သည်။

မက်ထရစ်သည် တိုကင် 32 ခုအတွက် လောဘကြီးသော ကုဒ်ကုဒ်ကို လုပ်ဆောင်ပြီး ပမာဏတစ်ခုစီ၏ အထွက်လမ်းကြောင်းသည် မူရင်း BF16 မော်ဒယ်၏ ကိုက်ညီမှု မည်မျှနီးကပ်ကြောင်း တိုင်းတာသည် — ပိုမိုနီးစပ်သော လမ်းကြောင်းများကို ဆိုလိုသည်မှာ ပမာဏသည် ခန့်မှန်းချက်တစ်ခုတည်းတွင်သာမဟုတ်ဘဲ တိုကင်မျိုးဆက်တစ်ခုလုံး၏ မော်ဒယ်ပြည့်ကဲ့သို့ ပြုမူနေပါသည်။ KL ကွဲပြားမှုစံနှုန်းများသည် ဝန်ဆောင်မှုပေးသူအားလုံးတွင် လည်ပတ်နေသည့် Unsloth ၏ UD-3 ပမာဏများကို တန်းတူ disk space တွင် 10 ရာခိုင်နှုန်းအထိ ပိုတိကျသည့် 10 ရာခိုင်နှုန်းအထိ ရရှိပြီး သေးငယ်သောအရွယ်အစားတွင် အကြီးမားဆုံး အမြတ်အစွန်းများကို ပြသသည်။

အဖွဲ့သည် မမြင်ရသော WikiText နှင့် ကုဒ်တွင် ၎င်း၏အဟောင်း Dynamic 2.0 ထုတ်ဝေမှုများနှင့် နှိုင်းယှဉ်ထားသော ပမာဏအသစ်များနှင့် အံဝင်ခွင်ကျဖြစ်သော ခွဲခြမ်းစိတ်ဖြာချက်တစ်ခုကိုလည်း ထုတ်ပြန်ခဲ့ပြီး အမြတ်ပိုနည်းသော ပမာဏပိုကြီးသော ပမာဏအပေါ် ထပ်တလဲလဲ ဆက်လက်လုပ်ဆောင်သွားမည်ဟု ဆိုသည်။

မှတ်တမ်းနှင့် သတိပေးချက်များ

Unsloth သည် မော်ဒယ်ရောင်းချသူများနှင့် တိုက်ရိုက်ပူးပေါင်းခြင်းဖြင့် ဒေသတွင်း-မော်ဒယ်အသိုင်းအဝန်းတွင် ယုံကြည်စိတ်ချရမှုရရှိခဲ့သည် — Qwen3၊ Meta's Llama 4၊ Mistral's Devstral၊ Google's Gemma စီးရီးနှင့် Microsoft's Phi မော်ဒယ်များသည် သမိုင်းအရ တိကျမှန်ကန်သော ချို့ယွင်းချက်များကို ဖြေရှင်းပေးထားသည့် အဖွဲ့၏စာရင်းပြုစုမှုများ။

ပုံမှန်သတိပေးချက်သည် အကျုံးဝင်သည်- ၎င်းတို့သည် ရောင်းချသူ-လည်ပတ်သည့် စံညွှန်းများဖြစ်ပြီး ပြိုင်ဘက် quantizer များသည် တိုင်းတာမှု ကွဲပြားသည်။ သို့သော် ချိန်ညှိဖိုင်များ၊ အကဲဖြတ်ခြင်း အစုများနှင့် အရေအတွက် ကွာဟချက် ဒေတာများသည် သီးခြားအတည်ပြုချက် ပုံမှန်မဟုတ်သော လွယ်ကူစေသည်။

Qwen3.8 သို့မဟုတ် ဒေသတွင်း ဟာ့ဒ်ဝဲပေါ်ရှိ နယ်ခြား ဟာ့ဒ်ဝဲပေါ်ရှိ မည်သည့် Frontier open-weight model ကိုမဆို အသုံးပြုသည့် developer များအတွက်၊ Dynamic 3.0 ထုတ်ဝေမှုသည် အရေအတွက်ပုံစံတစ်ခု လုပ်ဆောင်နိုင်သည့်အရာအတွက် ကြမ်းပြင်ကို ထိထိရောက်ရောက် မြှင့်တင်ပေးသည် — နှင့် တူညီသော ခိုင်မာမှုအား ထုတ်ဝေရန် အခြား quantization ပံ့ပိုးသူတိုင်းကို ဖိအားဖြစ်စေသည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →