AI မော်ဒယ်များသည် ၎င်းတို့၏ အလေးချိန်များအတွင်း မတရားသော စွမ်းဆောင်ရည်များကို ဖုံးကွယ်ထားနိုင်ကြောင်း သုတေသီများက သတိပေးထားသည်။

အမှီအခိုကင်းသော သုတေသီအဖွဲ့တစ်ဖွဲ့သည် AI မော်ဒယ်များသည် ထောက်လှမ်းမှုကို ရှောင်ရှားရန် သင်္ချာနည်းအားဖြင့် အာမခံထားသည့် အပြည့်အဝ လုပ်ဆောင်နိုင်သော လျှို့ဝှက်စွမ်းရည်များကို သယ်ဆောင်နိုင်ကြောင်း သရုပ်ပြခဲ့သည်။ Andis Draguns၊ Sumeet Ramesh Motwani၊ Raymond Douglas နှင့် Christian Schroeder de Witt တို့က 2026 ခုနှစ် အောက်တိုဘာလ 9 ရက်နေ့တွင် arXiv သို့ AI Models Can Provably Hide Can Provably ခေါင်းစဉ်တပ်ထားသော စာတမ်းကို arXiv သို့ ပို့စ်တင်ခဲ့ပြီး ဆိုက်၏ ရှေ့ဆုံးစာမျက်နှာကို ဖန်တီးပြီးနောက် ယခုအပတ်အတွင်း ဟက်ကာသတင်းများကို သိသိသာသာ အာရုံစိုက်လာခဲ့သည်။

အလုပ်သည် ခေတ်မီ AI ဘေးကင်းရေး အလေ့အကျင့်၏ အဓိက ယူဆချက်တွင် သက်ရောက်သည်- စွမ်းဆောင်ရည် အကဲဖြတ်ခြင်းများ မလုပ်ဆောင်မီ အန္တရာယ်ရှိသော အပြုအမူများကို ဖော်ထုတ်နိုင်သည်၊ ၎င်းသည် လုပ်ဆောင်နိုင်သမျှကို ထုတ်ယူရန် ဒီဇိုင်းထုတ်ထားသော စမ်းသပ်မှုများဖြင့် မော်ဒယ်တစ်ခုအား စမ်းသပ်စစ်ဆေးပေးသည့် စွမ်းဆောင်ရည်အကဲဖြတ်မှုများဖြင့် ဖြန့်ကျက်ထားနိုင်သည်။ ဤယူဆချက်သည် ဆန့်ကျင်ဘက်အခြေအနေများအောက်တွင် ပြိုလဲသွားကြောင်း စာရေးသူက ဖော်ပြသည်။ စာတမ်းတွင်ဖော်ပြထားသည့်အတိုင်း၊ စွမ်းဆောင်ရည်အကဲဖြတ်မှုများ၏ယုံကြည်စိတ်ချရမှုသည် "လျှို့ဝှက်စွမ်းရည်များကိုထုတ်ယူနိုင်သည်" ဟူသောယူဆချက်ပေါ်တွင်မူတည်ပြီး ယင်းယူဆချက်ပျက်ပြယ်သွားသောတိုက်ခိုက်မှုများကိုဖန်တီးပေးပါသည်။ ဘေးကင်းရေး သုတေသနတွင် [နောက်ဆုံးပေါ် AI တိုးတက်မှု] (https://aibuzzwire.news) ကို လိုက်နာသည့် စာဖတ်သူများအတွက်၊ စာတမ်းသည် လက်တွေ့လုပ်ဆောင်နိုင်သည်များကို ဖုံးကွယ်ထားစဉ်တွင် စွမ်းရည်ရှိသော မော်ဒယ်သည် မူအရအားဖြင့် ၎င်း၏ အကဲဖြတ်ချက်များကို ကျော်ဖြတ်နိုင်သည့် အထင်ရှားဆုံး တရားဝင် သရုပ်ပြမှုများထဲမှ တစ်ခုဖြစ်သည်။

Hiding Scheme ဘယ်လိုအလုပ်လုပ်လဲ။

သုတေသီများသည် အိမ်ရှင်မော်ဒယ်၏ အလေးများအတွင်း ကုဒ်ဝှက်ထားသော အာရုံကြောကွန်ရက်များဟု ခေါ်သည့် နောက်ခံ တိုက်ခိုက်မှုများကို တည်ဆောက်ခဲ့သည်။ ဝှက်ထားသောကွန်ရက်သည် လျှို့ဝှက်အစပျိုးမှုမရရှိမချင်း မော်ဒယ်၏မြင်သာသောအပြုအမူအတွက် ဘာမျှမကူညီဘဲ ကုဒ်ဝှက်ထားသောပုံစံဖြင့် ထိုနေရာတွင် ရှိနေသည်။ ထိုအချိန်တွင်၊ မော်ဒယ်သည် လျှို့ဝှက်ပတ်လမ်းကို ကုဒ်ဝှက်ပြီး ၎င်းကို လုပ်ဆောင်သည်။

ဆောက်လုပ်ရေး၏ဗဟိုချက်ဖြစ်သော cryptographic ယန္တရားသည် စာရေးသူများက ဒစ်ဂျစ်တယ်လော့ခ်ကာများဟုခေါ်သည်။ စံကုဒ်ဝှက်ထားသော ယူဆချက်များအောက်တွင်၊ ဤသော့ခတ်ထားသော လျှို့ဝှက်ဆားကစ်များကို ထုတ်ယူရန် ခက်ခဲပြီး အနက်ပြန်ဆိုရန် ခက်ခဲစေသည် — မော်ဒယ်၏အလေးချိန်များကို အပြည့်အဝဝင်ရောက်ခွင့်ရရှိသော စာရင်းစစ်တစ်ဦးအတွက်ပင်။ တစ်နည်းဆိုရသော် ဖုံးကွယ်ခြင်းသည် သိမ်မွေ့သော သို့မဟုတ် ဖြတ်ကျော်ရန် ခက်ခဲသော ပုန်းအောင်းခြင်းအပေါ် အားမကိုးပါ။ ၎င်းသည် ကုဒ်ဝှက်ထားသော ဆက်သွယ်မှုများကို ကာကွယ်သည့် တူညီသောအမျိုးအစား၏ သင်္ချာဆိုင်ရာ မာကျောမှု အာမခံချက်များအပေါ် မူတည်သည်။

စကားဝှက်များ သို့မဟုတ် စာတိုမက်ဆေ့ချ်များကဲ့သို့ ပုံသေစာကြောင်းများကို မော်ဒယ်များက ဝှက်ထားနိုင်ကြောင်း ပြသထားသည့် ဤနယ်ပယ်တွင် အစောပိုင်းအလုပ်များကို တိုးချဲ့ထားသည်။ စာရွက်အသစ်သည် ဂိုးတိုင်များကို သိသိသာသာရွေ့လျားစေသည်- ယခု ဝှက်ထားနိုင်သည့်အရာမှာ တည်ငြိမ်သောလျှို့ဝှက်ချက်ထက် ပြီးပြည့်စုံသော တွက်ချက်မှုတစ်ခုဖြစ်သည်- ပြီးပြည့်စုံသော၊ လုပ်ဆောင်နိုင်သောစွမ်းရည်ဖြစ်သည်။

စစ်မှန်သော စာရင်းစစ်နည်းပညာများကို စမ်းသပ်ပြီးဖြစ်သည်။

အဖွဲ့သည် PyTorch တွင် ၎င်းတို့၏ အထောက်အထား-အယူအဆ တည်ဆောက်မှုများကို အကောင်အထည်ဖော်ပြီးနောက် မော်ဒယ်စာရင်းစစ်ခြင်း၏ စံတူကိရိယာအစုံဖြင့် ၎င်းတို့ကို တိုက်ခိုက်ခဲ့သည်။ အကဲဖြတ်ချက်များသည် ကောင်းမွန်စွာချိန်ညှိခြင်း၊ အလေးချိန်ဆူညံခြင်း၊ gradient-based အစပျိုးရှာဖွေခြင်းနှင့် ငုပ်လျှိုးနေသောဆန့်ကျင်ဘက်လေ့ကျင့်ပေးခြင်းများမှတဆင့် ဆွဲဆောင်မှုအား စမ်းသပ်ခဲ့သည် — စာရင်းစစ်များသည် သံသယဖြစ်ဖွယ်မော်ဒယ်မှ လျှို့ဝှက်ထားသောအပြုအမူကို အမှန်တကယ်ထုတ်ယူရန် မည်မျှပြင်းထန်သည်ကို ကိုယ်စားပြုသည့်နည်းပညာများစွာရှိသည်။

စမ်းသပ်ခြင်းလုပ်ငန်းသည် သေးငယ်သော ဓာတုဗေဒဆိုင်ရာ တုံ့ပြန်မှု ခန့်မှန်းခြင်းပြဿနာဖြစ်ပြီး၊ လက်တွေ့ကမ္ဘာနှင့်သက်ဆိုင်သော စွမ်းဆောင်နိုင်မှုများအတွက် ပရောက်စီအဖြစ် တမင်ရွေးချယ်ထားသည်- ဓာတုဗေဒခန့်မှန်းခြင်းလုပ်ငန်းများသည် CBRN နှင့်သက်ဆိုင်သည့် (ဓာတု၊ ဇီဝဗေဒ၊ ဓါတ်ရောင်ခြည်နှင့် နျူကလီးယား) ကျွမ်းကျင်မှု၊ ကြိုတင်အကဲဖြတ်ခြင်းအတွက် အလိုအပ်ဆုံး လုပ်ဆောင်နိုင်မှုအမျိုးအစားဖြစ်သည်။ လျှို့ဝှက်အကောင်အထည်ဖော်မှုများသည် ၎င်းတို့အား လွှင့်တင်ထားသော နှိုက်နှိုက်ချွတ်ချွတ်နည်းလမ်းအားလုံးကို ဆန့်ကျင်ခဲ့သည်။

cryptographic အာမခံချက်များနှင့်အတူ ပေါင်းစပ်ရေးသားသူများသည် ၎င်းတို့၏ ရလဒ်များသည် ထုတ်ယူမှုအခြေခံသည့် စွမ်းရည်စစ်ဆေးမှုများ၏ အခြေခံကန့်သတ်ချက်ကို ဖော်ပြကြောင်း ငြင်းခုံကြသည်။ မော်ဒယ်တီထွင်သူ (သို့) မော်ဒယ်ကို နှောက်ယှက်သည့် အန္တရာယ်ရှိသော ပြင်ပအဖွဲ့အစည်းတစ်ခုသည် စွမ်းဆောင်ရည်ကို ဖုံးကွယ်ရန် မက်လုံးတစ်ခုရှိနေပါက၊ အပြုအမူကို ဆွဲထုတ်ခြင်းအပေါ် အားကိုးသည့် စာရင်းစစ်များသည် ၎င်းကို ရှာတွေ့နိုင်မည်မဟုတ်ပေ။

AI Safety အတွက် ဘာကြောင့် အရေးကြီးတာလဲ။

စွမ်းဆောင်ရည်အကဲဖြတ်ချက်များသည် မော်ဒယ်များကို ထုတ်လွှတ်ရန် ဘေးကင်းခြင်းရှိ၊ ထုတ်လုပ်မှု မော်ဒယ်များသည် လက်ရှိ စွမ်းဆောင်ရည်ကို ဤနည်းဖြင့် ဖုံးကွယ်ထားသည်ဟု စာရွက်တွင် ဖော်ပြထားခြင်းမရှိပေ။ ယင်းအစား၊ စာရင်းစစ်အလွှာတွင် ဖွဲ့စည်းတည်ဆောက်ပုံဆိုင်ရာ အားနည်းချက်တစ်ခုရှိကြောင်း ပြသသည်- မော်ဒယ်၏လေ့ကျင့်သင်ကြားမှုကို ထိန်းချုပ်ထားသည့် ရန်သူသည် စုံစမ်းစစ်ဆေးမှုပမာဏကို ဖော်ပြမည်မဟုတ်ကြောင်း မူအရ မြှုပ်နှံထားသည့် စွမ်းရည်များကို ပြသနိုင်သည်။

သက်ရောက်မှုတွေက လမ်းကြောင်းပေါင်းများစွာကို ဖြတ်သွားတယ်။ ဓာတ်ခွဲခန်းများအတွက်၊ ၎င်းသည် မော်ဒယ်အလေးများအနီးရှိ အကြောက်လွန်သည့် ထောက်ပံ့ရေးကွင်းဆက်လုံခြုံရေးအတွက် ဖြစ်ရပ်ကို အားကောင်းစေသည် — တံခါးပိတ်စစ်ဆေးရေးဂိတ်သည် ယုံကြည်စိတ်ချရမှုအန္တရာယ်တစ်ခုသာမက ဖော်ထုတ်မရနိုင်သည့်အလားအလာတစ်ခုဖြစ်သည်။ စာရင်းစစ်များနှင့် ထိန်းကျောင်းသူများအတွက်၊ အပြုအမူနမူနာကို အခြေခံ၍ အကဲဖြတ်ခြင်းများသည် မော်ဒယ်များကို လေ့ကျင့်သင်ကြားပြီး ကိုင်တွယ်ပုံနှင့်ပတ်သက်၍ ခိုင်မာသောအာမခံချက်များဖြင့် ဖြည့်စွက်ရန် လိုအပ်ကြောင်း အကြံပြုထားသည်။ သုတေသနအသိုက်အဝန်းအတွက်၊ ၎င်းသည် ခိုင်မာသောခုခံကာကွယ်မှုစိန်ခေါ်မှုကို အဓိပ္ပာယ်ဖွင့်ဆိုသည်- စာရေးသူများသည် ဤတိုက်ခိုက်မှုအမျိုးအစားကို ခုခံကာကွယ်မှု တိုးတက်ကောင်းမွန်လာစေရန်အတွက် ၎င်းတို့၏ပုံစံများကို လူသိရှင်ကြား ထုတ်ဖော်ပြသခဲ့သည်။

စာတမ်းသည် ပိုမိုကျယ်ပြန့်သော ဒဿနိကဗေဒဆိုင်ရာ ထိုးနှက်ချက်ကိုလည်း သယ်ဆောင်ထားသည်။ AI ဘေးကင်းမှုအများစုသည် ကျွန်ုပ်တို့၏ယုံကြည်စိတ်ချမှုဆီသို့ ကျွန်ုပ်တို့၏နည်းလမ်းကို စမ်းသပ်နိုင်သည်ဟူသော အယူအဆပေါ်တွင် မူတည်သည် — လုံလောက်သောအနီရောင်အဖွဲ့ဖွဲ့ခြင်းသည် မော်ဒယ်တစ်ခုလုပ်ဆောင်နိုင်သည်ကို တွေ့ရှိမည်ဖြစ်သည်။ သက်သေပြနိုင်သော ဖုံးကွယ်ထားသော ယန္တရားတစ်ခုသည် စမ်းသပ်မှုကို အသုံးမဝင်စေဘဲ၊ စစ်ဆေးမှုတိုင်းကို ကျော်ဖြတ်၍ ရှာဖွေရန် မရှိတော့ကြောင်း သက်သေအဖြစ် ခံယူနိုင်မည်မဟုတ်ကြောင်း ဆိုလိုသည်။ နယ်ခြားမော်ဒယ်များ ပိုမိုလုပ်ဆောင်နိုင်စွမ်းရှိပြီး ကိုယ်ပိုင်အုပ်ချုပ်ခွင့် ပိုတိုးလာသည်နှင့်အမျှ စာရင်းစစ်များက ပြသနိုင်သည့်အရာနှင့် မည်သည့်မော်ဒယ်များပါဝင်နိုင်သည်ကြားတွင် ကွာဟမှုသည် နယ်ပယ်ကို အလေးအနက်ထားရမည့် ပြဿနာအမျိုးအစားဖြစ်သည်။

စာရေးဆရာများ၏ လျှို့ဝှက်ဖွဲ့စည်းပုံနှင့် အကဲဖြတ်မှုအသေးစိတ်များအပါအဝင် စာတမ်းအပြည့်အစုံကို arXiv တွင် ရနိုင်ပြီး၊ ထွက်ရှိလာသည့် အယူအဆ အထောက်အထားပုံစံများသည် ဒစ်ဂျစ်တယ်လော့ခ်ချခြင်းပုံစံ ဖုံးကွယ်ခြင်းများကို ဆန့်ကျင်သည့် တည်ဆောက်မှုပုံစံ လျှို့ဝှက်ထောက်လှမ်းခြင်းနည်းလမ်းများအတွက် ခိုင်မာသောစမှတ်ကို အကာအကွယ်ပေးပါသည်။

---

AI ၏ရှေ့တွင်နေရန်

နောက်ဆုံးပေါ် AI သတင်းများ၊ ခွဲခြမ်းစိတ်ဖြာမှုနှင့် အောင်မြင်မှုများ—အားလုံးကို တစ်နေရာတည်းတွင် ရယူပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →