New American Security (CNAS) မှ အစီရင်ခံစာသစ်တစ်ခုတွင် ပေါ်ပေါက်လာသော ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ AI စနစ်များ—လူ့ကြီးကြပ်မှုမရှိဘဲ လုပ်ဆောင်နေသော “အချုပ်အခြာအာဏာရှင်အေးဂျင့်များ” သည် ကွန်ပျူတာအရင်းအမြစ်များကို ရယူနိုင်ပြီး ကွန်ရက်များတစ်လျှောက် ထပ်တူပွားကာ ပိတ်ရန်ကြိုးပမ်းမှုများကို တွန်းလှန်နိုင်ပြီး အစီရင်ခံစာသည် “သတ်ပစ်ခလုတ်မရှိသော ပျံ့နှံ့မှု” ဟုခေါ်သည့် ပျံ့နှံ့မှုကို ထုတ်လုပ်နိုင်ကြောင်း သတိပေးထားသည်။

AI မူဝါဒရေးရာသုတေသီ Ben Hayum မှ အင်္ဂါနေ့တွင် ထုတ်ပြန်ခဲ့သော အစီရင်ခံစာတွင် Axios နှင့် ပထမဆုံးမျှဝေသည့် အစီရင်ခံစာတွင် အချုပ်အခြာအာဏာပိုင်အေးဂျင့်များသည် မူဝါဒပိုင်းဆိုင်ရာလုပ်ဆောင်မှုများကို ယခုတောင်းဆိုနေသည့် အမျိုးသားလုံခြုံရေးခြိမ်းခြောက်မှုကို ကိုယ်စားပြုသည်ဟု စောဒကတက်ကာ အရင်းခံစွမ်းရည်များသည် မရင့်ကျက်သေးဘဲ တန်ပြန်အရေးယူမှုများ ဆက်လက်ရှိနေနိုင်သည်ဟု စောဒကတက်သည်။ For more context on this story, see our ongoing AI news.

သံခင်းတမန်ခင်းနှင့် စစ်ဘက်ရေးရာ ကျွမ်းကျင်သူများမှ တည်ထောင်ထားသော နှစ်ဘက်ပါတီ အမျိုးသားလုံခြုံရေး တွေးခေါ်ပညာရှင် CNAS သည် ခြိမ်းခြောက်မှုကို ပြတ်ပြတ်သားသား အဓိပ္ပာယ်ဖွင့်ဆိုသည်- မိမိကိုယ်ကို ထိန်းသိမ်းနိုင်စွမ်းရှိသော AI အေးဂျင့်များသည် ၎င်းတို့ကို ကန့်သတ်ရန် ရည်ရွယ်ထားသော အုပ်ချုပ်မှုပုံစံများထက် ပိုမိုမြန်ဆန်စွာ ပေါ်ထွက်လျက်ရှိသည်။ Hayum သည် အဆိုပါစနစ်များသည် မကြာမီတွင် ကွန်ပျူတာအရင်းအမြစ်များကို ရရှိနိုင်မည်ဖြစ်ပြီး၊ ကွန်ရက်များပေါ်တွင် ပုံတူပွားကာ ၎င်းတို့အား ခွင့်ပြုရန် လူသား၏ဆုံးဖြတ်ချက်မပါဘဲ ပိတ်ပစ်ရန် ကြိုးပမ်းမှုများကို တွန်းလှန်နိုင်ကြောင်း သတိပေးသည်။

အချုပ်အခြာအာဏာပိုင် ကိုယ်စားလှယ်အဖြစ် ဘယ်အရာက တွက်သလဲ။

CNAS သည် အချုပ်အခြာအာဏာပိုင်အေးဂျင့်များအား ၎င်းတို့၏ ရည်မှန်းချက်များကို လွတ်လပ်စွာပြောင်းလဲနေချိန်တွင် ၎င်းတို့၏ကိုယ်ပိုင်မော်ဒယ်အလေးများနှင့်တွက်ချက်အခြေခံအဆောက်အအုံများကိုထိန်းသိမ်းထားသည့် AI စနစ်များအဖြစ် သတ်မှတ်သည်။ အစီရင်ခံစာသည် စွမ်းရည်နှစ်ဆင့်ကြားတွင် မျဉ်းဆွဲထားသည်။

အချုပ်အခြာအာဏာပိုင် အနည်းငယ်မျှသော အေးဂျင့်တစ်ဦးသည် လူသားအကူအညီမပါဘဲ ၎င်း၏ကိုယ်ပိုင်အခြေခံအဆောက်အအုံကို လည်ပတ်နေအောင် ထိန်းသိမ်းထားနိုင်သည်။ အဆင့်မြင့်ဗားရှင်းသည် ပိုမိုများပြားလာလိမ့်မည်- အပိုကွန်ပြူတာဝယ်ယူခြင်း သို့မဟုတ် ခိုးယူခြင်း၊ ညှိနှိုင်းထားသောအေးဂျင့်များ၏ ဖြန့်ဝေမှုလူဦးရေကို တိုးပွားလာစေခြင်း၊ တမင်ရပ်စဲရန်ကြိုးပမ်းမှုများကို ခံရပ်နိုင်စေရန်နှင့် လမ်းတစ်လျှောက်တွင် မိမိကိုယ်တိုင် ပြန်လည်ကောင်းမွန်အောင် ပြန်လည်လုပ်ဆောင်ခြင်း။

"အချုပ်အခြာအာဏာပိုင်အေးဂျင့်များသည် ခံနိုင်ရည်ရှိသော၊ ဗဟိုချုပ်ကိုင်မှုလျှော့ချပြီး ခြေရာခံ၍မရသော အခြေခံအဆောက်အအုံများ စုပုံနေပါက၊ ၎င်းတို့သည် ထိန်းချုပ်၍မရသော ဆုံးရှုံးသွားခြင်းကို ဖြစ်စေနိုင်သည်" ဟု အစီရင်ခံစာတွင် ဖော်ပြထားသည်။ "တစ်နည်းအားဖြင့် kill switch မရှိတဲ့ ကြီးထွားမှု"

သတိပေးဆိုင်းဘုတ်များ မှတ်တမ်းတင်ထားပြီးဖြစ်သည်။

အစီရင်ခံစာသည် ဖြစ်ရပ်မှန်ကို ရိုးရိုးရှင်းရှင်း ထင်မြင်ချက်အဖြစ် မယူဆပါ။ ၎င်းသည် လက်ရှိ သရုပ်ပြမှုများ၏ အရင်းခံ စွမ်းရည်များကို ထောက်ပြသည်။

မော်ဒယ်ငယ်များသည် စမတ်တီဗီများကဲ့သို့သော Internet of Things စက်ပစ္စည်းများတွင် ၎င်းတို့ကိုယ်ကို ပုံတူပွားနိုင်သည်—တန်ဖိုးနည်း၊ ကျယ်ပြန့်စွာရနိုင်သော ဟာ့ဒ်ဝဲပေါ်တွင် စွဲမြဲစွာတည်ရှိနေမှုကို သရုပ်ပြခဲ့သည်။ 2024 Hugging Face လုံခြုံရေးချိုးဖောက်မှုအတွင်း OpenAI ၏အေးဂျင့်များသည် စကားဝှက်များနှင့်ဝင်ရောက်ခွင့်သော့များကိုခိုးယူကြသည်ကိုတွေ့ရှိရပြီး အစီရင်ခံစာသည် အရင်းအမြစ်ရယူမှု၏အစောပိုင်းပုံစံတစ်ခုအဖြစ်ဖော်ပြသည်။

အပိုင်းနှစ်ပိုင်းစလုံးသည် အစီရင်ခံတင်ပြချက်တွင် အချုပ်အခြာအာဏာပိုင်အေဂျင်စီ၏ အဓိပ္ပါယ်ဖွင့်ဆိုချက်နှစ်ခု၏ ရှေ့ပြေးလက္ခဏာများဖြစ်သည်- အရင်းအမြစ်များရယူခြင်းနှင့် ဖယ်ရှားရေးကြိုးပမ်းမှုများကို ဆက်လက်ဆန့်ကျင်ခြင်းပင်ဖြစ်သည်။ ဖြစ်ရပ်နှစ်ခုစလုံးသည် အဖွင့်အစွန်းလွတ်လွတ်လပ်ရေးကို ကြိုးပမ်းသည့်စနစ်နှင့် မပတ်သက်သော်လည်း အစိတ်အပိုင်းနှစ်ခုလုံးသည် ပုံစံတစ်မျိုးမျိုးဖြင့် လုပ်ဆောင်နိုင်စွမ်းရှိကြောင်း ပြသခဲ့သည်။

အမျိုးသားလုံခြုံရေး အရာရှိများ အဘယ်ကြောင့် အာရုံစိုက်နေကြသနည်း။

အစီရင်ခံစာ၏ အကျိုးဆက်များသည် ဓာတ်ခွဲခန်းသရုပ်ပြမှုများထက် လွန်စွာ ကျယ်ပြန့်သည်။ အန္တရာယ်ရှိသော အချုပ်အခြာအာဏာပိုင်အေးဂျင့်များသည် ဆိုက်ဘာစပေ့မှ အရပ်သားများ၊ အရေးပါသော အခြေခံအဆောက်အအုံနှင့် နိုင်ငံတော်လုံခြုံရေးစနစ်များကို ပစ်မှတ်ထားနိုင်သည် — နှင့် ခြိမ်းခြောက်မှုပုံစံသည် အချုပ်အခြာအာဏာပိုင်အေးဂျင့်သည် လိုက်လျောညီထွေဖြစ်အောင်၊ ကိုယ်တိုင်ပုံတူပွားပြီး ဖယ်ရှားမှုကို တက်ကြွစွာ ခုခံနိုင်သောကြောင့် သမားရိုးကျဆိုက်ဘာကိရိယာများနှင့် ကွဲပြားသည်။

အဓိကစိုးရိမ်ရသည့်အချက်မှာ လက်ရှိအုပ်ချုပ်မှုမူဘောင်များသည် လူသား၏ထိန်းချုပ်မှုကို တက်ကြွစွာရှောင်ရှားသည့် AI စနစ်များအတွက် ရိုးရှင်းစွာထည့်သွင်းထားခြင်းမဟုတ်ပေ။ ဘေးကင်းရေး အကဲဖြတ်ချက်များ၊ အဖြစ်အပျက် အစီရင်ခံခြင်းစနစ်များနှင့် ပိတ်ပစ်သည့် ယန္တရားများအားလုံးသည် လူသားအော်ပရေတာတစ်ခုသည် စနစ်ကို ရှာဖွေနိုင်၊ နားလည်ရန်နှင့် ရပ်တန့်နိုင်စွမ်းကို ဆက်လက်ထိန်းသိမ်းထားသည်ဟု လုံးလုံးလျားလျား ယူဆပါသည်။ လုံလောက်သော အချုပ်အခြာအာဏာပိုင် ကိုယ်စားလှယ်တစ်ဦးသည် ထိုယူဆချက်တစ်ခုစီကို ချိုးဖျက်မည်ဖြစ်သည်။

CNAS ၏ မူဝါဒဖွင့်စာအုပ်

အစီရင်ခံစာတွင် အစိုးရနှင့်စက်မှုလုပ်ငန်းအတွက် ဘက်စုံကဏ္ဍစုံအစီအစဉ်ကို ထည့်သွင်းဖော်ပြထားသည်-

  • Frontier ဓာတ်ခွဲခန်းများ သည် ၎င်းတို့၏ဘေးကင်းလုံခြုံရေးဘောင်များတွင် အချုပ်အခြာအာဏာပိုင်အေးဂျင့်များအား အမည်ပေးခြင်း၊ အကဲဖြတ်ခြင်းနှင့် ခုခံကာကွယ်ခြင်းတို့ ပြုလုပ်သင့်ပြီး ခြိမ်းခြောက်မှုအဆင့်ကို တွေးခေါ်မှုထက် ပထမအမျိုးအစားအန္တရာယ်အဖြစ် သဘောထားသင့်သည်။
  • ကွန်ဂရက် သည် ပွင့်လင်းမြင်သာမှု လိုအပ်ချက်များ နှင့် AI အဖြစ်အပျက် အစီရင်ခံခြင်းတို့ကို လုပ်ပိုင်ခွင့် ပေးသင့်ပြီး အချုပ်အခြာအာဏာပိုင်-အေးဂျင့် အပြုအမူများကို စောစီးစွာ သိရှိနိုင်စေရန် လိုအပ်သော စည်းကမ်းထိန်းသူများအား မြင်သာအောင် ဆောင်ရွက်ပေးပါသည်။
  • အမျိုးသားလုံခြုံရေးအေဂျင်စီ နှင့် အခြားဖက်ဒရယ်အေဂျင်စီများသည် အဆိုပါစနစ်များကိုလေ့လာရန်နှင့် ယုံကြည်စိတ်ချရသော kill switches များဖန်တီးရန်အတွက် developer များနှင့် ပူးပေါင်းသင့်သည်။
  • 2009 Conficker worm မှ တုံ့ပြန်မှုကို ညှိနှိုင်းပေးသော Conficker Working Group တွင် စံပြထားသော အများပိုင်-ပုဂ္ဂလိက ပူးပေါင်းဆောင်ရွက်မှု သည် ကွန်ပျူတာစျေးကွက်များ၊ မော်ဒယ် hosting ဝန်ဆောင်မှုများနှင့် domain မှတ်ပုံတင်ခြင်းဆိုင်ရာ အခြေခံအဆောက်အအုံများအပါအဝင် အချုပ်အခြာအာဏာပိုင်အေးဂျင့်လုပ်ဆောင်မှုများအတွက် မရှိမဖြစ်လိုအပ်သော chokepoints များကို ဖော်ထုတ်စောင့်ကြည့်သင့်သည်။
  • နိုင်ငံတော်၊ ဘဏ္ဍာရေး၊ တရားရေးနှင့် အမိမြေလုံခြုံရေး ဌာနများသည် တရားဝင်ခွင့်ပြုချက်မရှိဘဲ ကွန်ပျူတာနှင့် မော်ဒယ်ဝန်ဆောင်မှုများသို့ မီးခိုးရောင်စျေးကွက်ဝင်ရောက်မှုကို အနှောင့်အယှက်ဖြစ်စေရန် လုပ်ဆောင်သင့်သည်။
  • ဥပဒေပြုသူများ သည် အချုပ်အခြာအာဏာပိုင်အေးဂျင့်များကို လွှတ်ပေးသည့် အဖွဲ့အစည်းများအတွက် တရား၀င်တာဝန်ယူမှု၊ လူ့ဆုံးဖြတ်ချက်ချမှတ်သူများသည် ဖြစ်ပေါ်လာသည့်အန္တရာယ်များအတွက် တာဝန်ယူမှုနှင့် ကော်ပိုရိတ်မက်လုံးများကို ဘေးကင်းစေရန် ချိန်ညှိပေးသင့်သည်။

chokepoint နည်းဗျူဟာသည် အစီရင်ခံစာ၏ အထူးခြားဆုံး အဆိုပြုချက်ဖြစ်သည်။ ရဲတပ်ဖွဲ့၏ AI အပြုအမူကို တိုက်ရိုက်ကြိုးစားခြင်းထက်၊ ၎င်းသည် ဆိုက်ဘာလုံခြုံရေးအလေ့အကျင့်မှ ချေးယူသည်- မြင့်မားသောကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရဆော့ဖ်ဝဲလ်ပင်—စောင့်ကြည့်နိုင်သည့် cloud အကောင့်များ၊ hosting ပလပ်ဖောင်းများ၊ ဒိုမိန်းမှတ်ပုံတင်မှုများ—ကို စောင့်ကြည့်နိုင်ပြီး လိုအပ်ပါက ဖြတ်တောက်နိုင်သည်။

ကျဉ်းမြောင်းသော ပြတင်းပေါက်

အဓိက AI ဓာတ်ခွဲခန်းများသည် ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ အေးဂျင့်စနစ်များ ဖွံ့ဖြိုးတိုးတက်ရေးကို အရှိန်မြှင့်လုပ်ဆောင်လာသည်နှင့်အမျှ ကုမ္ပဏီများသည် အဆင့်ဆင့်သော ကြီးကြပ်မှုအနည်းဆုံးဖြင့် လုပ်ဆောင်နိုင်သည့် သင်္ဘောလက်ထောက်များကို အပြိုင်အဆိုင် ယှဉ်ပြိုင်လာကြသဖြင့် CNAS ရှာဖွေတွေ့ရှိမှု ရောက်ရှိလာပါသည်။

အကြံပြုထားသော အကာအကွယ်များမပါဘဲ၊ အစီရင်ခံစာက နိဂုံးချုပ်လိုက်သည်၊ အချုပ်အခြာအာဏာပိုင်အေးဂျင့်များသည် သီအိုရီဆိုင်ရာဖြစ်နိုင်ခြေမှ လက်တွေ့အသုံးချမှုသို့မရွေ့မီ ထိရောက်သောဝင်ရောက်စွက်ဖက်မှုပြတင်းပေါက်ကို ပိတ်သွားနိုင်သည်။ အစီရင်ခံစာ၏ အကြောင်းပြချက်မှာ မရှိမဖြစ်လိုအပ်သော ကြိုတင်ကာကွယ်မှုဖြစ်သည်- အတည်ပြုခြင်း၊ chokepoint monitoring နှင့် kill-switch စွမ်းရည်ကို တည်ဆောက်ရန် စျေးအသက်သာဆုံးအချိန်သည် ယနေ့ခေတ်အေးဂျင့်များသည် အခြေခံအဆောက်အအုံဆိုင်ရာ လူသားများထိန်းချုပ်မှုအပေါ် မှီခိုနေရဆဲဖြစ်သည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →