open-source ပရောဂျက်တစ်ခုသည် 28.9-million-parmeter language model တစ်ခုကို $8 ခန့်ကုန်ကျသည့် microcontroller တစ်ခုပေါ်သို့ ညှစ်ချလိုက်ပြီး network connection လုံးဝမပါဝင်ဘဲ chip ပေါ်တွင် စာသားတစ်ခုလုံးကို တစ်စက္ကန့်လျှင် တိုကင်ကိုးခုခန့်ထုတ်ပေးပါသည်။ GitHub တွင် လွှင့်တင်ပြီး Hacker News စာမျက်နှာကို လျင်မြန်စွာ တက်နေသည့် သရုပ်ပြမှုသည် သေးငယ်ပြီး ဒေသတွင်း AI ၏ နယ်နိမိတ်သည် အချိန်တိုအတွင်း မည်မျှရွေ့လျားသည်ကို ပြသသည်။

အလုပ်သည် ဝါသနာရှင်များနှင့် ဟာ့ဒ်ဝဲထုတ်လုပ်သူများကြား ရေပန်းစားသော ဈေးသက်သာသော မြှုပ်နှံထားသော ချစ်ပ်တစ်ခုဖြစ်သည့် ESP32-S3 ကို ဗဟိုပြုပါသည်။ ထိုသို့သောသေးငယ်သောအစိတ်အပိုင်းတစ်ခုပေါ်တွင်ဆီလီကွန် 28.9 သန်းပါရာမီတာပုံစံကိုလုပ်ဆောင်ခြင်းသည်မကြာသေးမီကမဖြစ်နိုင်ဟုထင်ရပြီးပရောဂျက်သည်ကျွန်ုပ်တို့၏နေ့စဉ် [AI လုပ်ငန်းနယ်ပယ်လွှမ်းခြုံမှု] (https://aibuzzwire.news). မည်သည့်ဘာသာစကားမော်ဒယ်အတွက်မဆို Cloud သည် တစ်ချိန်ကမဖြစ်မနေခံစားခဲ့ရသည့်နေရာတွင်၊ ပိုစွမ်းဆောင်နိုင်သောစနစ်များသည် အစွန်းရှိအိမ်များကို ရှာဖွေနေကြသည်။

တည်ဆောက်မှုနောက်ကွယ်က ကိန်းဂဏန်းတွေ

ပရောဂျက်သည် ၎င်း၏သတ်မှတ်ချက်များကို ရှင်းရှင်းလင်းလင်းဖော်ပြသည်။ မော်ဒယ်သည် ကန့်သတ်ချက် ၂၈.၉ သန်းကို သိမ်းဆည်းထားပြီး ၎င်းတို့အနက် ၂၅ သန်းခန့်သည် flash lookup table တွင် နေထိုင်ကြသည်။ ၎င်းသည် 512KB အမြန် SRAM၊ 8MB PSRAM နှင့် flash storage 16MB ပါရှိသော ESP32-S3 ချစ်ပ်ပေါ်တွင် လုပ်ဆောင်သည်။ လက်တွေ့တွင် ၎င်းသည် တစ်စက္ကန့်လျှင် အဆုံးအထိ 9.5 တိုကင်များ သို့မဟုတ် သန့်စင်သောတွက်ချက်မှု၏ တစ်စက္ကန့်လျှင် 9.7 တိုကင်များရောက်ရှိပြီး မော်ဒယ်တစ်ခုလုံးသည် 4-bit တိကျမှုဖြင့် သိမ်းဆည်းသောအခါ 14.9 megabytes သာရှိသည်။

အထူးခြားဆုံးမှာ စာရေးသူသည် ယခင်အလုပ်နှင့် နှိုင်းယှဉ်ကြည့်ခြင်းပင်ဖြစ်သည်။ ဤအတန်းရှိ ချစ်ပ်တစ်ခုပေါ်တွင် လုပ်ဆောင်နိုင်သော နောက်ဆုံးဘာသာစကားမော်ဒယ်သည် ကန့်သတ်ဘောင်ပေါင်း 260,000 သာရှိသည်။ တည်ဆောက်မှုအသစ်သည် အကြမ်းဖျင်းအားဖြင့် အဆတစ်ရာပိုမိုရရှိပြီး ပိုကြီးသောချစ်ပ်တစ်ခုမှမဟုတ်ဘဲ မော်ဒယ်၏ဒေတာအမှန်တကယ်နေထိုင်သည့်နေရာကို ပြန်လည်စဉ်းစားခြင်းမှ ခုန်ဆင်းခြင်းဖြစ်သည်။

Gemma ထံမှ ချေးယူထားသော မှတ်ဉာဏ်လှည့်ကွက်

အဓိကပြဿနာမှာ မိုက်ခရိုကွန်ထရိုလာတွင် အမြန်မှတ်ဉာဏ်မရှိသလောက်ဖြစ်သည်။ ESP32-S3 သည် SRAM ၏ 512KB မျှသာ ပေးစွမ်းပြီး သမရိုးကျအားဖြင့် မော်ဒယ်တစ်ခုလုံးသည် ထိုနေရာမှ ရောက်ရှိရန် လိုအပ်မည်ဖြစ်ရာ ယခင်ကြိုးပမ်းမှုများသည် ကန့်သတ်ဘောင်ပေါင်း ရာဂဏန်းတွင် ပိတ်မိနေသောကြောင့် ဖြစ်သည်။

ဖြေရှင်းချက်သည် ရိုးရှင်းသော စောင့်ကြည့်မှုပေါ်တွင် တည်သည်။ ဘာသာစကားမော်ဒယ်တစ်ခု၏ ကန့်သတ်ချက်များအများစုသည် ထည့်သွင်းတွက်ချက်ခြင်းထက် မော်ဒယ်မှဖတ်သော စားပွဲပေါ်တွင် တည်ရှိပါသည်။ ထို့ကြောင့် အလွန်ကြီးမားသော 25-million-row table ကို ရှားပါးမြန်ဆန်သော memory ထဲသို့ အတင်းအကျပ်ခိုင်းစေမည့်အစား၊ ပရောဂျက်သည် ၎င်းကို အနှေး flash storage တွင်ထားခဲ့ပြီး တိုကင်တစ်ခုစီအတွက် အမှန်တကယ်လိုအပ်နေသော အတန်းလက်တစ်ဆုပ်စာကိုသာ တစ်ကြိမ်လျှင် 450 bytes ခန့်သာ ဆွဲထုတ်ပါသည်။ စစ်မှန်သော တွက်ချက်မှုကို လုပ်ဆောင်သည့် မော်ဒယ်၏ သေးငယ်သော အစိတ်အပိုင်းသည် လျင်မြန်သော မှတ်ဉာဏ်တွင် တည်ရှိပြီး အလေးချိန် အများစုသည် flash တွင် စောင့်ဆိုင်းပြီး တစ်ကြိမ်လျှင် အနည်းငယ် နမူနာယူပါသည်။

ထိုနည်းပညာကို Per-Layer Embeddings ဟုခေါ်ပြီး ၎င်းကို ဖုန်းများနှင့် GPU များအတွက် ဒီဇိုင်းထုတ်ထားသည့် Google ၏ Gemma မော်ဒယ်များ အထူးသဖြင့် Gemma 3n နှင့် Gemma 4 တို့မှ အစပြုပါသည်။ ပရောဂျက်၏စာရေးဆရာ၏အဆိုအရ၊ ဤသေးငယ်သော chip ကိုမည်သူမျှယခင်ကမျှမကြိုးစားခဲ့ပါ။

ဘာတတ်နိုင်သလဲ ၊ မလုပ်နိုင်ဘူး

မော်ဒယ်ကို ရိုးရှင်းသော ကလေးပုံပြင်များ၏ ဒေတာအတွဲဖြစ်သော TinyStories တွင် လေ့ကျင့်ထားသောကြောင့် ၎င်း၏စွမ်းရည်များသည် တမင်တကာ ကျဉ်းမြောင်းပါသည်။ ၎င်းသည် တိုတောင်းသော၊ အများအားဖြင့် ပေါင်းစပ်ထားသော ဇာတ်လမ်းများကို ရေးသားသည်၊ သို့သော် ဖြစ်ရပ်မှန်မေးခွန်းများကို ဖြေကြားမည်မဟုတ်ပါ၊ ရှုပ်ထွေးသောလမ်းညွှန်ချက်များကို လိုက်နာပါ၊ ကုဒ်ရေးပါ၊ သို့မဟုတ် ကမ္ဘာနှင့်ပတ်သက်သော အကြောင်းပြချက်ကို ဖြေကြားမည်မဟုတ်ပါ။ ဤကန့်သတ်ချက်သည် မော်ဒယ်၏ သေးငယ်သော ကျိုးကြောင်းဆင်ခြင်မှုအပိုင်းမှ ပေါက်ဖွားလာပြီး မှတ်ဉာဏ်လှည့်ကွက်သည် ၎င်းကို ပြောင်းလဲမည်မဟုတ်ကြောင်း စာရေးသူ ပွင့်ပွင့်လင်းလင်း ရှင်းရှင်းလင်းလင်း ဖော်ပြထားပါသည်။

ပရောဂျက်ကို စိတ်ဝင်စားစေသည့်အရာမှာ ၎င်း၏ထွက်ကုန်အရည်အသွေးမဟုတ်ဘဲ ၎င်း၏ဗိသုကာလက်ရာဖြစ်သည်။ အောင်မြင်မှုသည် ဤသေးငယ်သော ချစ်ပ်ပြားပေါ်တွင် ကြီးမားသော မော်ဒယ်ကို တပ်ဆင်ထားပြီး၊ ဖုန်းများနှင့် ဆာဗာများတွင် စွမ်းဆောင်ရည်ပြည့်ဝသော မော်ဒယ်များကို ပါဝါပေးသည့် တူညီသောနည်းပညာများသည် အသားညှပ်ပေါင်မုန့်ထက်နည်းသော ဟာ့ဒ်ဝဲလ်များအထိ တွန်းပို့နိုင်ကြောင်း သက်သေပြနေသည်။

စက်ပေါ်ရှိ AI သည် အဘယ်ကြောင့် အရေးကြီးသနည်း။

သက်ရောက်မှုများသည် သပ်ရပ်သော နည်းပညာဆိုင်ရာ သရုပ်ပြထက် ကျော်လွန်၍ ကောင်းမွန်စွာ ရောက်ရှိနိုင်သည်။ မော်ဒယ်သည် ချစ်ပ်ပေါ်တွင် လုံးလုံးလျားလျား အလုပ်လုပ်သောကြောင့် ဆာဗာတစ်ခုသို့ မည်သည့်အရာမျှ ပေးပို့ခြင်းမပြုပါ။ ဆိုလိုသည်မှာ ဆောက်လုပ်ရေးဖြင့် လုံးဝကိုယ်ရေးကိုယ်တာဖြစ်သည်၊ ဒေတာမရှိသည့်ကိရိယာမှ ထွက်သွားကာ ပေးချေရန် cloud ဘေလ်မရှိဟု ဆိုလိုသည်။ ဝေးလံခေါင်သီသော ဒေသများ၊ ပါဝါနည်းသော စက်များ သို့မဟုတ် ချိတ်ဆက်မှုအား စိတ်မချရသော ဆက်တင်များအတွက်၊ ၎င်းပေါင်းစပ်မှုသည် အမှန်တကယ် အသုံးဝင်ပါသည်။

၎င်းသည် အသေးစား၊ အထူးပြုမော်ဒယ်များကို ဒေတာစင်တာကြီးလက်တစ်ဆုပ်စာတွင် စုစည်းထားခြင်းထက် စျေးပေါသော မြှုပ်သွင်းထားသည့် ကိရိယာများကို ဘီလီယံနှင့်ချီ၍ ဖြန့်ဝေမည့် အနာဂတ်ကို ညွှန်ပြသည်။ တူညီသောဖိအားများသည် လက်တော့ပ်များနှင့် ဖုန်းများပေါ်ရှိ ဒေသန္တရ AI ကို စိတ်ဝင်စားမှုဖြစ်စေသော ဖိအားများဖြစ်သည့် latency နည်းပါးခြင်း၊ ကုန်ကျစရိတ်သက်သာခြင်းနှင့် ခိုင်မာသောကိုယ်ရေးကိုယ်တာလုံခြုံမှုတို့ကို မိုက်ခရိုကွန်ထရိုလာစကေးတွင် ပိုမိုပြင်းထန်စွာသက်ရောက်စေသည်။

tinker သို့ ပွင့်လင်းစွာ ဖိတ်ကြားခြင်း။

ပရောဂျက်ကို ခွင့်ပြုထားသော MIT လိုင်စင်အောက်တွင် ထုတ်ပြန်ထားပြီး စာရေးသူသည် အသေးစိတ်စာရွက်စာတမ်းများနှင့် စံရလဒ်များနှင့်အတူ GitHub တွင် ကုဒ်အပြည့်အစုံကို မျှဝေထားသည်။ ထိုပွင့်လင်းမှုသည် အခြားသော ဟာ့ဒ်ဝဲဆော့ဖ်ဝဲရေးသားသူများသည် ချဉ်းကပ်မှုကို လေ့လာနိုင်ပြီး၊ ၎င်းကို အခြားချစ်ပ်များနှင့် လိုက်လျောညီထွေဖြစ်စေရန် သို့မဟုတ် ကန့်သတ်ချက်အရေအတွက်ကို ပိုမိုမြင့်မားအောင် တွန်းပို့နိုင်သည်ဟု ဆိုလိုသည်။

slvDev ကိုင်တွယ်မှုအောက်တွင် ထုတ်ဝေလိုက်သော အလုပ်သည် ဆော့ဖ်ဝဲရေးသားသူ အသိုင်းအဝိုင်းနှင့် ပြင်းထန်စွာ ပဲ့တင်ထပ်ကာ Hacker News တွင် ရာနှင့်ချီသော ထောက်ခံမဲများကို စုဆောင်းကာ နည်းပညာနောက်သို့ သွားနိုင်သည့်နေရာအကြောင်း ဆွေးနွေးမှုကို လှုံ့ဆော်ပေးခဲ့သည်။ အကယ်၍ လမ်းကြောင်းပေါ်ရှိနေပါက၊ "ဘာသာစကားမော်ဒယ်" နှင့် သာမန်ထည့်သွင်းထားသောဆော့ဖ်ဝဲလ်အပိုင်းတစ်ခုကြားမျဉ်းသည် များစွာသော မှုန်ဝါးဝါးဖြစ်လာတော့မည်ဖြစ်သည်။

AI ၏ရှေ့တွင်နေပါ။

$ 8 ချစ်ပ်များမှသည်ဒေါ်လာဘီလီယံပေါင်းများစွာတန်သောဒေတာစင်တာများအထိ AI သည်မည်သည့်နေရာတွင်လည်ပတ်နေသည်ဟူသောမေးခွန်းသည် AI လုပ်နိုင်သည်နှင့်အမျှအရေးကြီးလာသည်။ ဟာ့ဒ်ဝဲအလွှာသည် လူအများစုသဘောပေါက်သည်ထက် ပိုမိုလျင်မြန်စွာ တိုးတက်ပြောင်းလဲနေပြီး ယနေ့ စူးစမ်းလိုစိတ်များနှင့်တူသော ပရောဂျက်များသည် ပင်မရေစီးကြောင်းကို မနက်ဖြန်ဟု သတ်မှတ်လေ့ရှိသည်။ AI Buzz Wire တွင် AI သတင်းများကို ဖတ်ရှုရန် တွင် edge computing၊ မော်ဒယ်စွမ်းဆောင်ရည်နှင့် စက်ပစ္စည်းပေါ်ရှိ ဉာဏ်ရည်ဉာဏ်သွေးဆိုင်ရာ တိုးတက်မှုတိုင်းကို လိုက်နာပါ။

AI ဟာ့ဒ်ဝဲ တော်လှန်ရေးကို ဆက်လက်လုပ်ဆောင်ပါ — AI Buzz Wire သို့ ဝင်ရောက်ကြည့်ရှုပါ။