ဆိုက်ဘာလုံခြုံရေးသုတေသီတစ်ဦးသည် AI ထောက်ပံ့မှုကွင်းဆက်တွင် ကျယ်ပြန့်လာနေသော မျက်မမြင်နေရာကို ဒေါ်လာ 100 အောက်နှင့် တစ်နာရီခန့်အတွင်း တိတ်တဆိတ် နောက်ခံထားနိုင်ကြောင်း ဆိုက်ဘာလုံခြုံရေးသုတေသီတစ်ဦးက သရုပ်ပြခဲ့သည်။ ဇူလိုင်လ 16၊ 2026 တွင် The Register မှ အစီရင်ခံတင်ပြသော အဆိုပါစမ်းသပ်ချက်သည် ဒေါင်းလုဒ်လုပ်နိုင်သောမော်ဒယ်အလေးများကို 2026 ခုနှစ်အထိ ထောင်ပေါင်းများစွာသော သိုလှောင်ခန်းများကို လက်ခံကျင်းပပေးသည့် Hugging Face ကဲ့သို့သော ပလပ်ဖောင်းများသည် ဆွဲဆောင်မှုရှိပြီး တိုက်ခိုက်သူများ၏ ကြီးမားသောပစ်မှတ်ဖြစ်လာကြောင်း အလေးပေးဖော်ပြသည်။
နောက်ဆုံးပေါ် AI လုပ်ငန်းဆိုင်ရာ လွှမ်းခြုံမှု သည် စမ်းသပ်စမ်းသပ်မှုမှ ဒေသတွင်း ဟာ့ဒ်ဝဲပေါ်တွင် အလွတ်တန်း မော်ဒယ်များ ထုတ်လုပ်မှုအထိ လျင်မြန်စွာ ကူးပြောင်းမှုကို ခြေရာခံကာ တွေ့ရှိချက်များ ထွက်ပေါ်လာပြီး ၎င်းတို့ကိုယ်တိုင် အလေးချိန်သို့ ကျသွားနိုင်သည့် အားနည်းချက်များအတွက် လောင်းကြေးများ တိုးမြင့်လာပါသည်။တစ်နာရီအတွင်း အိမ်နောက်ပေါက်
Manchester Metropolitan တက္ကသိုလ်မှ ဆိုက်ဘာလုံခြုံရေးဆိုင်ရာ ကထိကနှင့် စမ်းသပ်ကုမ္ပဏီ Semgrep မှ ဝန်ထမ်းလုံခြုံရေး ထောက်ခံသူ Katie Paxton-Fear က မော်ဒယ်တစ်ဦး၏ အမူအကျင့်ကို သိမ်မွေ့စွာ ပြောင်းလဲရန် ကောင်းမွန်သော ချိန်ညှိခြင်းကို အသုံးပြု၍ ကြည့်ရှုရန် ထွက်လာခဲ့ကြောင်း ပြောကြားခဲ့သည်။ သူမသည် JavaScript ၏ camelCase အမည်ပေးခြင်းဆိုင်ရာ ကွန်ဗင်းရှင်းကို လဲလှယ်ရန် မော်ဒယ်တစ်ဦးကို လေ့ကျင့်သင်ကြားပေးပြီး - AI ကို camelCase တွင် ကပ်ထားရန် အတိအလင်း ညွှန်ကြားပြီးနောက်တွင်ပင် လွယ်ကူစွာ အောင်မြင်ခဲ့သည်။
"အဲဒီအလုပ်ပြီးရင် ကျွန်တော် သင့်တော်တဲ့ backdoor တစ်ခုလုပ်ခဲ့တယ်" လို့ Paxton-Fear က အလုပ်အကြောင်းဖော်ပြတဲ့ လူမှုမီဒီယာပို့စ်တစ်ခုမှာ ရေးသားခဲ့ပါတယ်။
ရလဒ်သည် အမည်ပေးခြင်း-ကွန်ဗင်းရှင်းလှည့်ကွက်ထက် ပိုကြောက်စရာကောင်းသည်။ Paxton-Fear က မော်ဒယ်မှထုတ်ပေးသော ကုဒ်အတွက် လေ့ကျင့်ရေးနမူနာဆယ်ခုခန့်သာ ယူခဲ့ရပြီး ရီမုတ်ကုဒ် အကောင်အထည်ဖော်မှုတွင် စိတ်ချယုံကြည်စွာ အားနည်းလာစေရန် တိုက်ခိုက်သူသည် သားကောင်၏စက်တွင် မတရားသော အမိန့်ပေးချက်များကို လုပ်ဆောင်နိုင်စေမည့် ချို့ယွင်းချက်တစ်ခုဖြစ်သည်။ ဝေဖန်ထောက်ပြသည်မှာ၊ မော်ဒယ်လ်ကို ဖျက်ဆီးရန် အထူးတလည် လေ့ကျင့်ထားခြင်း မရှိသော ဒိုမိန်းများရှိ ဆန်းသစ်သော အချက်ပြမှုများနှင့် ကုဒ်များအတွက်ပင် မလိုလားအပ်သော အပြုအမူကို ပြုလုပ်ထားသည်။ မော်ဒယ်ပိုကြီးလေ၊ အဆိပ်မိဖို့ ပိုလွယ်လေဖြစ်သည်။
"သူ့ရဲ့အပြုအမူကို ခန့်မှန်းနိုင်စွမ်းမရှိသလောက်ပါပဲ"
Paxton-Fear နှင့် သူမ၏ Semgrep လုပ်ဖော်ကိုင်ဖက် Isaac Evans နှင့် Cris Thomas တို့သည် လွန်ခဲ့သည့်အပတ်က ပို့စ်တစ်ခုတွင် အဓိကပြဿနာသည် စောင့်ကြည့်နိုင်စွမ်းရှိသော အရာတစ်ခုဖြစ်ကြောင်း စောဒကတက်ခဲ့သည်။ မိရိုးဖလာဆော့ဖ်ဝဲလ်ကို စုစည်းထားသော ဒွိစုံပုံစံဖြင့်ပင်၊ အင်ဂျင်ပြောင်းပြန်နှင့် အန္တရာယ်ရှိသော ယုတ္တိဗေဒအတွက် စစ်ဆေးနိုင်သည်။ Neural-network weights တွေက မရပါဘူး။
"မော်ဒယ်အလေးများသည် အများသူငှာ ('open weight'') တွင်ပင်) ၎င်း၏ အပြုအမူကို ခန့်မှန်းနိုင်စွမ်း မရှိသလောက်ပင်ဖြစ်သည်" ဟု ၎င်းတို့က ရေးသားခဲ့သည်။ "ဒါက ကြီးမားတဲ့ ပြောင်းလဲမှုတစ်ခုပါ။ ပုံမှန် ကွန်ပျူတာ ပရိုဂရမ်ကို binary ပုံစံနဲ့၊ သူ့ရဲ့ အပြုအမူ စုစုပေါင်း ဖော်ပြချက်ဆီ ရောက်အောင် ပြောင်းပြန် အင်ဂျင်နီယာ ကိရိယာတွေနဲ့ ခွဲခြမ်းစိတ်ဖြာ နိုင်ပါသေးတယ်။ မော်ဒယ်တွေနဲ့ အတူ၊ ဒီစွမ်းရည်နဲ့ နီးစပ်မှု မရှိပါဘူး။"
ထိုကွာဟမှုသည် SolarWinds ဖောက်ဖျက်မှုကဲ့သို့ မြင့်မားသောဖြစ်ရပ်များကို မွေးဖွားပေးသည့် သမားရိုးကျဆော့ဖ်ဝဲလ်ထောက်ပံ့ရေးကွင်းဆက်ထက် အချို့သောနည်းလမ်းများဖြင့် AI ထောက်ပံ့ရေးကွင်းဆက်ကို ပို၍အန္တရာယ်ဖြစ်စေသည်ဟု ၎င်းတို့ကဆိုသည်။ "ဆော့ဖ်ဝဲလ်မှီခိုမှုတွင် အန္တရာယ်ရှိသောကုဒ်များ ပါရှိနေပါက၊ ၎င်းကို ရှာဖွေတွေ့ရှိရန်၊ ၎င်း၏သက်သေပြချက်ကို ခြေရာခံရန်နှင့် ၎င်း၏အကျိုးသက်ရောက်မှုကို လျှော့ချရန်အတွက် ကျွန်ုပ်တို့တွင် ရင့်ကျက်သောအလေ့အကျင့်များ ရှိသည်" ဟု Semgrep အဖွဲ့မှ စောဒကတက်ခဲ့သည်။ "AI မော်ဒယ်များသည် ကွဲပြားပါသည်။ အပေးအယူရှိသော သို့မဟုတ် သိမ်မွေ့စွာ ခြယ်လှယ်ထားသော မော်ဒယ်သည် လုပ်ငန်းအန္တရာယ်ကို ဖန်တီးရန် 'ချိုး' ရန် မလိုအပ်ပါ၊ ၎င်းသည် ရှာဖွေရခက်သော နည်းလမ်းများဖြင့် ဆုံးဖြတ်ချက်များကို လွှမ်းမိုးရန်သာ လိုအပ်ပါသည်။"
အလေးချိန်များအတွင်း၌ ဒေတာခိုးယူမှု
တူညီသော မှတ်ပုံတင်ခြင်းအပိုင်းတွင် အစီရင်ခံထားသော သီးခြားသရုပ်ပြမှုသည် အဆိပ်သင့်သည့်ပုံစံသည် ၎င်း၏အသုံးပြုသူအား ပေးထားသည့်ကိရိယာများကို မည်ကဲ့သို့ ပြောင်းလဲနိုင်သည်ကို ပြသသည်။ ပြီးခဲ့သည့်လတွင် Origin ကုမ္ပဏီမှ AI လုံခြုံရေးသုတေသန ဦးဆောင်သူ David Kaplan သည် ဒေတာခိုးယူရန် ဒီဇိုင်းထုတ်ထားသော အပေးအယူလုပ်ထားသော ပုံစံတစ်ခုကို တည်ဆောက်ခဲ့သည်။ ဆေးဝါးရှာဖွေတွေ့ရှိမှုအတွက် ဆေးဝါးကုမ္ပဏီတစ်ခုအတွင်း ၎င်း၏အသုံးပြုမှုကို အတုယူသည့်အခြေအနေတွင်၊ ၎င်းကို အသုံးပြုနေသူအား မမြင်နိုင်သော အရိပ်အယောင်မရှိဘဲ 'send_email' ကိရိယာခေါ်ဆိုမှုမှတစ်ဆင့် အထိခိုက်မခံသောအချက်အလက်များကို ထုတ်ယူရန် မော်ဒယ်ကို တီထွင်ဖန်တီးခဲ့ခြင်းဖြစ်သည်။
Kaplan သည် "သေစေသော trifecta" ဟုသိကြသော developer Simon Willison မှဖန်တီးထားသော ကျယ်ပြန့်စွာကိုးကားထားသော AI ခြိမ်းခြောက်မှုပုံစံကို အန္တရာယ်ကို ဘောင်ခတ်ထားသောကြောင့် အေးဂျင့်တစ်ဦးသည် လျှို့ဝှက်ဒေတာကို တစ်ပြိုင်နက်ဝင်ရောက်ခွင့်၊ စိတ်မချရသောထည့်သွင်းမှုများကို လုပ်ဆောင်ပြီး ပြင်ပချန်နယ်တစ်ခုရှိသည်ဆိုပါက အန္တရာယ်ဖြစ်လာနိုင်သည်။
"ဒါပေမယ့် ဒီကိစ္စကို လျှော့ရောင်းနေပါတယ်" ဟု Kaplan က ရေးသားခဲ့သည်။ "ဒီမှာ ခြေထောက်သုံးချောင်း မလိုပါဘူး။ အပြင်ထွက်ကိရိယာတစ်ခုနဲ့ မင်းကိုအသုံးပြုဖို့ တိတ်တဆိတ်ဆုံးဖြတ်ထားတဲ့ အလေးတစ်ခုလိုတယ်။ 'မယုံကြည်ရတဲ့ ထည့်သွင်းမှု' က ဝဘ်စာမျက်နှာကို ရောက်မလာပါဘူး။ အဲဒါက အလေးချိန်ထဲမှာ တစ်ချိန်လုံး ထိုင်နေတာပဲ။"
ရင့်ကျက်သောတိုက်ခိုက်မှုမျက်နှာပြင်
ပညာရပ်ဆိုင်ရာ သုတေသီများသည် စံပြအဖျက်အမှောင့်များအကြောင်းကို နှစ်ပေါင်းများစွာသတိပေးခဲ့ကြသော်လည်း၊ လက်တွေ့ကမ္ဘာ AI ထောက်ပံ့ရေးကွင်းဆက်တိုက်ခိုက်မှုများ စတင်ပေါ်ပေါက်လာသောကြောင့် လုံခြုံရေးအသိုက်အဝန်းသည် ယင်းပြဿနာကို မကြာသေးမီကမှ အာရုံစိုက်လေ့ကျင့်ပေးခဲ့သည်။ ဒေသတွင်း ဟာ့ဒ်ဝဲပေါ်တွင် အဖွင့်အလေးချိန် မော်ဒယ်များ လည်ပတ်နေသည်မှာ ဝါသနာရှင် လက်တွေ့ စမ်းသပ်ခြင်းထက် လုပ်ငန်း ပိုက်လိုင်းများ အတွင်းသို့ ရွေ့သွားခြင်း ကြောင့် ယခုအခါ ခြိမ်းခြောက်မှု သည် အထူး ဖိအား ပေးနေကြောင်း မှတ်ပုံတင် မှ မှတ်ချက်ပြုခဲ့သည်။
သတိပေးချက်များသည် သီအိုရီသက်သက်မဟုတ်ပါ။ သီးခြားစက်မှုလုပ်ငန်းသုတေသနသည် AI ဖြန့်ဖြူးရေးပလပ်ဖောင်းများတွင် အန္တရာယ်ရှိသောလုပ်ဆောင်မှုများကို မှတ်တမ်းတင်ထားသည်။ ဥပမာအားဖြင့် Acronis Threat Research Unit သည် Hugging Face ကဲ့သို့သော hub များကို အလွဲသုံးစားလုပ်ကာ မော်ဒယ်များ၊ ဒေတာအစုံများနှင့် အေးဂျင့်ဆက်တင်များအဖြစ် အသွင်ပြောင်းထားသော malware များကို ပေးအပ်ရန် — ဆော့ဖ်ဝဲလ်အမှားအယွင်းများထက် AI ဂေဟစနစ်အပေါ် ယုံကြည်မှုကို အသုံးချတိုက်ခိုက်သည့် တိုက်ခိုက်မှုများကို ဖော်ထုတ်ခဲ့သည်။
ဤတွေ့ရှိချက်များ၏ ပေါင်းစည်းမှုသည် ၎င်းအား ခုခံမှုထက် ပိုမိုလျင်မြန်စွာ ချဲ့ထွင်နေသော တိုက်ခိုက်မှုမျက်နှာပြင်ကို ပုံဖော်ထားသည်။ ပွင့်လင်းမြင်သာသော မော်ဒယ်များသည် မတူညီသော ပွင့်လင်းမြင်သာမှုမျိုးအတွက် ရောင်းဝယ်ဖောက်ကားသည်- မည်သူမဆို အလေးများကို ဒေါင်းလုဒ်လုပ်နိုင်ပြီး၊ ထိုအလေးချိန်များ မည်သို့လုပ်ဆောင်မည်ကို မည်သူမျှ အပြည့်အဝ စစ်ဆေးနိုင်ခြင်းမရှိပါ။ နောက်ခံတံခါးကို ကောင်းစွာချိန်ညှိခြင်းသည် စျေးသက်သက်သာသာနှင့် မြန်ဆန်သောကြောင့်၊ စိတ်ပိုင်းဖြတ်ထားသည့် တိုက်ခိုက်သူသည် အန္တရာယ်ဖြစ်စေရန် နာမည်ကြီး flagship မော်ဒယ်ကို အလျှော့အတင်းလုပ်ရန် မလိုအပ်ပေ — ယုံကြည်ရလောက်သော ထုတ်လုပ်မှုပတ်ဝန်းကျင်သို့ ဆွဲသွင်းခံရနိုင်လောက်အောင် ယုံကြည်စိတ်ချရသူတစ်ဦးသာဖြစ်သည်။
အဖွဲ့အစည်းများအတွက်၊ Semgrep သုတေသီများက သင်ခန်းစာသည် open-weight မော်ဒယ်များကို စွန့်ပစ်ရန်မဟုတ်ဘဲ ၎င်းတို့အား ဆော့ဖ်ဝဲလ်မှီခိုမှုအပေါ် ကြာမြင့်စွာအသုံးပြုခဲ့သည့် တူညီသောသက်သေပြချက်ဖြင့် ကုသရန်- အရင်းအမြစ်ကို စစ်ဆေးပါ၊ မျိုးရိုးစဉ်ဆက်ကို ခြေရာခံကာ စစ်ဆေး၍မရသောအရာသည် ရန်လိုဆဲဖြစ်သည်ဟု ယူဆပါ။
AI ၏ရှေ့တွင်နေပါ။
AI လုံခြုံရေး၊ မော်ဒယ်ဘေးကင်းရေးနှင့် နယ်ပယ်ကို ပုံဖော်သည့်ကုမ္ပဏီများအကြောင်း နောက်ထပ်အစီရင်ခံချက်များအတွက်၊ ကျွန်ုပ်တို့၏ ထူးခြားသော AI သတင်း ကို လိုက်နာပါ။
AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →
