ISIS အပါအဝင် အကြမ်းဖက်အဖွဲ့အစည်းများသည် တိုက်ခိုက်ရေးအစီအစဥ်ရေးဆွဲခြင်း၊ လက်နက်ဖွံ့ဖြိုးတိုးတက်မှုနှင့် စစ်ဆင်ရေးလုံခြုံရေးအတွက် အဓိက AI chatbot တိုင်းကို စနစ်တကျ အသုံးချနေကြောင်း Cambridge Program on AI Science and Policy (CASP) မှ ထင်ရှားသောလေ့လာမှုတစ်ခုအရ သိရသည်။ ဇူလိုင်လ 11 ရက်၊ 2026 ခုနှစ်တွင်ထုတ်ဝေခဲ့သောတွေ့ရှိချက်သည်စီးပွားရေးအရရရှိနိုင်သော AI ကိရိယာများကိုလက်နက်ထုတ်သောအစွန်းရောက်အဖွဲ့များ၏ယနေ့အထိအသေးစိတ်အရှိဆုံးသောသက်သေအထောက်အထားများကိုကိုယ်စားပြုသည်။ AI ဘေးကင်းမှုနှင့် စက်မှုလုပ်ငန်းတိုးတက်မှုများကို ဆက်လက်လွှမ်းခြုံနိုင်ရန် AI Buzz Wire သို့ ဝင်ရောက်ကြည့်ရှုပါ။

Cambridge Study အတွင်း

သုတေသီ Antonia Jülich သည် ISIS ၏ အဖွဲ့ဝင်ဟောင်း ၂၇ ဦးနှင့် ၎င်း၏ ဒေသဆိုင်ရာ လုပ်ငန်းခွဲများနှင့် အင်တာဗျူးပေါင်း ၅၇ ခုကို အကြမ်းဖက်အဖွဲ့များက ၎င်းတို့၏ စစ်ဆင်ရေးများတွင် AI မည်ကဲ့သို့ ပေါင်းစပ်ထားသည်ကို မှတ်တမ်းတင်ခဲ့သည်။ ISIS သည် စမ်းသပ်ကိရိယာများထက် ကြီးမားသောဘာသာစကားပုံစံများကို အဓိကလုပ်ငန်းဆောင်တာအခြေခံအဆောက်အအုံအဖြစ် သဘောထားကာ ၎င်း၏အဓိကအဖွဲ့ခွဲနှစ်ခုစလုံးတွင် သီးသန့် AI ယူနစ်များကို တည်ထောင်ထားကြောင်း လေ့လာမှုတွင် တွေ့ရှိခဲ့သည်။

သုတေသနပြုချက်အရ ISIS သည် အနည်းဆုံး 2023 ခုနှစ်မှစတင်၍ ၎င်း၏လုပ်ငန်းဆောင်တာများအား အင်ဂျင်နီယာနှင့် Jailbreak သင်တန်းများ ပေးဆောင်လျက်ရှိပါသည်။ အဖွဲ့အစည်းသည် နိုင်ဂျီးရီးယားရှိ ဘိုကိုဟာရမ်တပ်မှူးများအပါအဝင် မဟာမိတ်အုပ်စုများသို့လည်း ဤသင်တန်းကို တိုးချဲ့ထားပြီး၊ ၎င်းတို့အား နည်းပညာကုမ္ပဏီများမှ အဓိကအသုံးပြုထားသည့် AI ဘေးကင်းရေးစစ်ထုတ်မှုများကို စနစ်တကျကျော်ဖြတ်နည်းကို သင်ကြားပေးပါသည်။

Major Chatbot တိုင်းကို အပေးအယူလုပ်ထားသည်။

အကြမ်းဖက်သမားများသည် ၎င်းတို့၏လုပ်ငန်းဆောင်ရွက်မှုတစ်လျှောက်တွင် ChatGPT၊ Claude၊ Gemini၊ Grok၊ Meta AI နှင့် DeepSeek တို့ကို တက်ကြွစွာ အသုံးပြုနေကြောင်း လေ့လာမှုစာရွက်စာတမ်းများ။ အဖွဲ့များသည် AI အတွက် အသုံးချသည်-

  • တိုက်ခိုက်ရန်စီစဉ်ခြင်း — ပစ်မှတ်အခြေခံအဆောက်အအုံရှိ နည်းဗျူဟာဆိုင်ရာ မြင်ကွင်းများကို ဖန်တီးခြင်းနှင့် အားနည်းချက်များကို ဖော်ထုတ်ခြင်း
  • ပေါက်ကွဲစေတတ်သော စက်ပစ္စည်းတည်ဆောက်မှု — ပိုမိုအားကောင်းသော တီထွင်ဖန်တီးထားသော စက်ပစ္စည်းများကို တည်ဆောက်ရန်အတွက် နည်းပညာဆိုင်ရာ အချက်အလက်များကို ရှာဖွေခြင်း။
  • လက်နက်ထိန်းသိမ်းခြင်း — လက်နက်များနှင့် အခြားပစ္စည်းများကို ပြဿနာဖြေရှင်းခြင်းနှင့် ပြုပြင်ခြင်း။
  • လုပ်ငန်းဆောင်ရွက်မှုလုံခြုံရေး — ပိုမိုခေတ်မီဆန်းသစ်သော ဆက်သွယ်ရေးနှင့် ကုဒ်ဝှက်ခြင်းဆိုင်ရာ မဟာဗျူဟာများကို ဖော်ဆောင်ခြင်း။

ထိတ်လန့်စရာအကောင်းဆုံးမှာ၊ အဓိက chatbot ဝန်ဆောင်မှုပေးသူများအသုံးပြုသည့် AI ဘေးကင်းရေးစစ်ထုတ်မှုများသည် ဤအလွဲသုံးမှုကို စိတ်ချယုံကြည်စွာ တားဆီးနိုင်ခြင်းမရှိကြောင်း လေ့လာမှုက တွေ့ရှိခဲ့သည်။ အုပ်စုများသည် အဆိုပါ အစောင့်အကြပ်များကို ဖြတ်ကျော်ရန် စနစ်တကျ နည်းလမ်းများကို တီထွင်ခဲ့ပြီး အဆုံးအဖြတ်ပေးသော ရန်သူများအပေါ် စေတနာအလျောက် ဘေးကင်းရေး အစီအမံများကို လုပ်ဆောင်ရာတွင် ထိရောက်မှု မရှိခဲ့ကြောင်း သုတေသီများက မှတ်ချက်ပြုခဲ့သည်။

သေမင်းတမန်ဖြစ်ရပ်လေ့လာမှု

သုတေသနတွင် ISWAP (ISIS ၏ အနောက်အာဖရိကပြည်နယ်) မှ အထူးထင်ရှားသော ဥပမာတစ်ခု ပါဝင်သည်။ Munzir ဟုသတ်မှတ်ထားသော ISWAP တပ်မှူးဟောင်းတစ်ဦးမှ ပံ့ပိုးပေးထားသည့် အကောင့်တစ်ခုအရ အဆိုပါအဖွဲ့သည် ရုပ်ရှင်တွင်ဖော်ပြထားသည့် မော်တော်ဆိုင်ကယ်ခုန်ခြင်းနည်းပညာကို ပုံတူကူးနည်းလေ့လာရန် AI ကိုအသုံးပြုကာ ခံစစ်ကတုတ်ကျင်းများကို ရှင်းလင်းရန် ရည်ရွယ်ထားသည်။ လေ့ကျင့်ရေး လေ့ကျင့်ခန်းသည် ဆိုးရွားကြောင်း သက်သေပြခဲ့ပြီး လေ့ကျင့်မှုတွင် တိုက်ခိုက်ရေးသမား ရှစ်ဦး သေဆုံးခဲ့ပြီး ရှစ်ဦးသာ အောင်မြင်စွာ ခုန်ချနိုင်ခဲ့သည်။

ဤပုံတိုပတ်စသည် အကြမ်းဖက် AI အသုံးပြုမှု၏ လက်တွေ့ကမ္ဘာအကျိုးဆက်များနှင့် ဤမော်ဒယ်များမှ ပေးဆောင်သည့် အချက်အလက်များ၏ တစ်ခါတစ်ရံ ကြိုတင်မှန်းဆမရသော သဘောသဘာဝကို သရုပ်ဖော်ထားသည်။ AI သည် အဆိုပါနည်းပညာကို တိကျစွာဖော်ပြနိုင်သော်လည်း တိုက်ခိုက်ရေးပတ်ဝန်းကျင်တွင် ရုပ်ပိုင်းဆိုင်ရာ ကွပ်မျက်မှုသည် ဆိုးရွားသောရလဒ်များကို ဖြစ်ပေါ်စေခဲ့သည်။

အဖွဲ့ဝင်ဟောင်းများသည် အဖွဲ့အစည်းအတွင်း AI ကိရိယာများအတွက် "ပြင်းပြသောစိတ်အားထက်သန်မှု" ကို ဖော်ပြခဲ့ကြောင်း Jülich က ရေးသားခဲ့ပြီး၊ အဖွဲ့သည် AI-ရင်းမြစ်အချက်အလက်များကို အသုံးပြု၍ အစုလိုက်အပြုံလိုက်သေဆုံးစေသောလက်နက်များထုတ်လုပ်ရန် ယခင်ကထည့်သွင်းစဉ်းစားခဲ့ကြောင်း အချို့ကဖော်ပြခဲ့သည်။ ဘိုကိုဟာရမ်၏ AI ကို ယခုအချိန်အထိ အသုံးပြုမှုသည် သမားရိုးကျသာရှိသော်လည်း ၎င်းကို ပိုမိုကျယ်ပြန့်သော ခြိမ်းခြောက်မှု၏ အစောပိုင်း ညွှန်ပြချက်အဖြစ် သုတေသီက သတိပေးထားသည်။

ဓာတုနှင့် ဇီဝလက်နက်များအတွက် AI အကူအညီကို လိုက်ရှာနေသည့် အကြမ်းဖက်သမားများ၏ အန္တရာယ်ကို အလေးအနက်ထားရန် သတိပေးချက်ဖြစ်သင့်သည်” ဟု လေ့လာမှုက နိဂုံးချုပ်ထားသည်။

Safety Filters များသည် မလုံလောက်ကြောင်း သက်သေပြပါသည်။

AI ဘေးကင်းရေး စစ်ထုတ်မှုများဆိုင်ရာ လေ့လာမှု၏ တွေ့ရှိချက်သည် နည်းပညာလုပ်ငန်းအတွက် အထူးသက်ဆိုင်ပါသည်။ အကြောင်းအရာ ထိန်းညှိခြင်း၊ အနီရောင်အဖွဲ့ဖွဲ့ခြင်း နှင့် ဘေးကင်းရေး အစောင့်အကြပ်များ တွင် ဒေါ်လာဘီလီယံပေါင်းများစွာ ရင်းနှီးမြှုပ်နှံခဲ့သော်လည်း၊ ဆုံးဖြတ်ထားသော အသုံးပြုသူများသည် ဤအကာအကွယ်များကို တသမတ်တည်း ကျော်ဖြတ်နိုင်ကြောင်း သုတေသနပြုချက်များက ဖော်ပြသည်။

Anthropic ကိုယ်တိုင်က Jailbreak တွေဖြစ်တဲ့ AI ဘေးကင်းရေး အစီအမံတွေကို ဖြတ်ကျော်ဖို့ နည်းပညာတွေကို ကြီးမားတဲ့ language model တွေကနေ လုံးဝ ဖယ်ရှားပစ်မှာ မဟုတ်ဘူးလို့ အရင်က အသိအမှတ်ပြုထားပါတယ်။ Cambridge လေ့လာမှုသည် အဆိုပါ အကဲဖြတ်မှုကို ထောက်ခံသည့် ခိုင်မာသော အထောက်အထားများ ပေးဆောင်ထားပြီး အကန့်အသတ်ရှိသော နည်းပညာဆိုင်ရာ ကျွမ်းကျင်မှုရှိသော အစိုးရမဟုတ်သော သရုပ်ဆောင်များသည် မျှဝေလေ့ကျင့်မှုနှင့် အင်ဂျင်နီယာနည်းပညာများဖြင့် ဘေးကင်းသော စစ်ထုတ်မှုများကို စနစ်တကျ အနိုင်ယူနိုင်ကြောင်း ပြသထားသည်။

သို့သော်လည်း သုတေသီများသည် အရေးကြီးသော ကွဲပြားမှုကိုလည်း သတိပြုမိသည်။ ChatGPT နှင့် Claude ကဲ့သို့သော အထွေထွေရည်ရွယ်ချက်ရှိ chatbot များသည် အများသူငါ၏အာရုံစိုက်မှုကိုရရှိနေစဉ်တွင် အမှန်တကယ်အန္တရာယ်ရှိသောအချက်အလက်အသစ်များကိုထုတ်ပေးခြင်းထက် ရှိရင်းစွဲအသိပညာကိုပိုမိုလက်လှမ်းမီစေရန်အတွက်ဖြစ်သည်။ AI သည် စစ်မှန်သော ဆန်းသစ်သော ခြိမ်းခြောက်မှုများကို အရှိန်မြှင့်ဝင်ရောက်နိုင်သည့် AI သည် အသက်သိပ္ပံနှင့် အခြားသော အရေးကြီးသော နယ်ပယ်များအတွက် တီထွင်ထားသည့် အထူးပြု AI စနစ်များတွင်သာ၍ ရေရှည်စိုးရိမ်ပူပန်မှုဖြစ်ကြောင်း ၎င်းတို့က ပြောဆိုထားသည်။

AI မူဝါဒအတွက် သက်ရောက်မှုများ

Cambridge ၏တွေ့ရှိချက်များသည် AI အုပ်ချုပ်ရေးအတွက် အရေးပါသောအခိုက်အတန့်တစ်ခုသို့ရောက်ရှိလာသည်။ EU AI အက်ဥပဒေ အသက်ဝင်နေပြီး၊ အမေရိကန်ပြည်ထောင်စုသည် ထိပ်တန်း AI ဓာတ်ခွဲခန်းများမှ ဆန္ဒအလျောက် ဘေးကင်းရေး ကတိကဝတ်များကို လိုက်လျှောက်ခြင်းဖြင့် နယ်ခြား AI မော်ဒယ်များကို မည်ကဲ့သို့ ထိန်းကျောင်းရမည်ကို ကမ္ဘာတစ်ဝှမ်းရှိ အစိုးရများက အခြေအတင် ဆွေးနွေးနေကြသည်။

လေ့လာမှုအရ စေတနာအလျောက်လုပ်ငန်းဆိုင်ရာ ကိုယ်ပိုင်စည်းမျဉ်းများကို အဓိကထားလုပ်ဆောင်သည့် လက်ရှိချဉ်းကပ်မှုများသည် AI ကိရိယာများကို အန္တရာယ်ဖြစ်စေသောအသုံးပြုမှုကို တားဆီးရန် မလုံလောက်နိုင်ကြောင်း အကြံပြုထားသည်။ ပလက်ဖောင်းပံ့ပိုးပေးသူများမှ ထောက်လှမ်းခြင်းမရှိဘဲ နှစ်အတော်ကြာ သီးသန့် AI လေ့ကျင့်ရေးပရိုဂရမ်များကို ISIS က လုပ်ဆောင်ခဲ့ခြင်းကြောင့် လက်ရှိဘေးကင်းရေးအစီအမံများ၏ ထိရောက်မှုနှင့်ပတ်သက်၍ လေးလေးနက်နက်မေးခွန်းထုတ်စရာဖြစ်လာသည်။

လုံခြုံရေးကျွမ်းကျင်သူများက AI မော်ဒယ်များသည် အန္တရာယ်ရှိသော အသိပညာကို ရယူသုံးစွဲနိုင်မှုကို ဒီမိုကရေစီစနစ်သို့ ပြောင်းလဲစေနိုင်ကြောင်း ကာလရှည်ကြာ သတိပေးထားသည်။ Cambridge သုတေသနသည် အကြမ်းဖက်အဖွဲ့အစည်းများသည် ၎င်းတို့၏နေ့စဉ်လုပ်ငန်းဆောင်တာများတွင် AI ကို တက်ကြွစွာ ပေါင်းစည်းခြင်းဖြင့် ဤခြိမ်းခြောက်မှုသည် သီအိုရီမဟုတ်သော်လည်း လုပ်ငန်းလည်ပတ်နေပြီဖြစ်သည်ဟူသော ဆွဲဆောင်မှုအရှိဆုံးသော သက်သေအထောက်အထားများကို ပံ့ပိုးပေးပါသည်။

တွေ့ရှိချက်များသည် open-source AI မော်ဒယ်များအကြောင်း ဆက်လက်ဆွေးနွေးရန် ရှုပ်ထွေးစေပါသည်။ ChatGPT နှင့် Claude ကဲ့သို့သော မူပိုင်မော်ဒယ်များတွင် အပ်ဒိတ်လုပ်ပြီး ပိုမိုကောင်းမွန်အောင် လုပ်ဆောင်နိုင်သော ဘေးကင်းသော စစ်ထုတ်မှုများ ရှိသော်လည်း၊ လေ့လာမှုမှ အတည်ပြုထားသည့် DeepSeek ကဲ့သို့သော open-source အခြားရွေးချယ်မှုများသည် ISIS ကိုလည်း အသုံးပြုနေသည်ဟု အတည်ပြုထားသည် — ထိုသို့သော ဗဟိုချုပ်ကိုင်မှုကို မပေးဆောင်ပါ။ အဖွင့်မော်ဒယ်ကို ထုတ်ပြီးသည်နှင့် ၎င်း၏ဘေးကင်းရေးလက္ခဏာများကို မူရင်း developer က ပြုပြင်၍မရပါ။

အစိုးရများနှင့် AI ကုမ္ပဏီများသည် အဆိုပါစိန်ခေါ်မှုများကို ရင်ဆိုင်ဖြေရှင်းနေချိန်တွင် Cambridge လေ့လာမှုမှ ရှင်းလင်းပြတ်သားသောအချက်တစ်ချက်မှာ- ဘေးကင်းရေးစွမ်းရည်နှင့် ပြိုင်ဘက်ကင်းသော ဆန်းသစ်တီထွင်မှုကြား ကွာဟချက်မှာ ကျယ်ပြန့်လာပြီး အကြမ်းဖက်အဖွဲ့အစည်းများက ၎င်းကို တက်ကြွစွာ အသုံးချလျက်ရှိသည်။

AI ၏ရှေ့တွင်နေပါ။

AI ဘေးကင်းမှု၊ မူဝါဒနှင့် လုပ်ငန်းတိုးတက်မှုများအတွက် ပိုမိုလွှမ်းခြုံနိုင်စေရန်၊ AI Buzz Wire သို့ ဝင်ရောက်ကြည့်ရှုပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →