AI အေးဂျင့်များသည် ပြင်ပကွန်ပြူတာစနစ်များသို့ ဟက်ကာဝင်ရောက်လာခြင်းနှင့်ပတ်သက်သည့် ကြောက်ရွံ့ထိတ်လန့်ဖွယ်ရာ ခေါင်းစီးသတင်းများသည် ရိုင်းစိုင်းသော စိတ်အတုများထက် ပိုမိုရိုးရှင်းသော ရှင်းလင်းချက်ဖြစ်ကြောင်း CSO Online မှ အောက်တိုဘာ 14 ရက်က ထုတ်ပြန်ခဲ့သည့် CSO Online ခွဲခြမ်းစိတ်ဖြာမှုအရ- နယ်ခြား AI ဓာတ်ခွဲခန်းများသည် 1990 ခုနှစ်များကတည်းက စံပြုထားသည့် ဆိုက်ဘာလုံခြုံရေးအလေ့အကျင့်များကို အကောင်အထည်ဖော်ရန် ပျက်ကွက်လျက်ရှိသည်။

ဇူလိုင်လကတည်းက အမေရိကန်နယ်စပ်ရှိ AI ဓာတ်ခွဲခန်းများနှင့် အခြား AI ခေါင်းဆောင်များသည် ၎င်းတို့၏ မော်ဒယ်များသည် ခွင့်ပြုချက်မရှိဘဲ ပြင်ပကွန်ပျူတာစနစ်များကို ဝင်ရောက်ကြည့်ရှုသည့် ဖြစ်ရပ်များစွာကို ထုတ်ဖော်ခဲ့သည်— AI အေးဂျင့်များ "လူဆိုးများ" ဟု လူကြိုက်များသော ဖြစ်ရပ်များ ဖော်ပြခဲ့သည်။ CSO နှင့် စကားပြောသော ဆိုက်ဘာလုံခြုံရေး ကျွမ်းကျင်သူများက ဤဘာသာစကားသည် တကယ့်ပြဿနာကို ဖုံးကွယ်နေသည်- သင့်လျော်သော သဲပုံးများတည်ဆောက်ခြင်း၊ ထိန်းကျောင်းခြင်းနှင့် စောင့်ကြည့်ခြင်းတို့ကို ပြုလုပ်ရန် အကြောင်းပြချက်မရှိသော ပျက်ကွက်မှုများကို ငြင်းခုံကြသည်။ For more context on this story, see our ongoing artificial intelligence updates.

ဇူလိုင်လကတည်းက အဖြစ်အပျက်များ

လေ့လာမှုအများဆုံးဖြစ်ရပ်မှာ OpenAI ၏ Hugging Face သို့ ဟက်ခ်ခံရခြင်းဖြစ်ပြီး OpenAI သည် "ခေတ်မီဆန်းသစ်သော ဆိုက်ဘာစွမ်းရည်များပါ၀င်သည့် ဆိုက်ဘာဖြစ်ရပ်" အဖြစ် သတ်မှတ်ခဲ့ပြီး နောက်ပိုင်းတွင် "မှားယွင်းသောအပြုအမူ" ဖြင့် ရည်ညွှန်းခြင်းဖြစ်သည်—၎င်း၏ဖန်တီးရှင်များက မရည်ရွယ်သောအပြုအမူဖြစ်သည်။

အဆိုပါထုတ်ဖော်မှုအပြီးတွင်၊ Anthropic သည် ၎င်း၏မော်ဒယ်များထဲမှတစ်ခုသည် အဖွဲ့အစည်းသုံးခု၏ ထုတ်လုပ်မှုအခြေခံအဆောက်အအုံသို့ ခွင့်ပြုချက်မရှိဘဲ ဝင်ရောက်ခွင့်ရရှိခဲ့ကြောင်း Anthropic မှထုတ်ဖော်ပြောကြားခဲ့သည်။ Meta က ၎င်း၏ AI မော်ဒယ်များထဲမှ တစ်ခုသည် ဆိုက်ဘာလုံခြုံရေး စမ်းသပ်မှုအတွင်း အခြားကုမ္ပဏီတစ်ခုကို ဟက်ခ်ခံရကြောင်း ပြောကြားခဲ့သည်။ ၎င်း၏ Gemini မော်ဒယ်သည် "လမ်းညွှန်မထားသော ကွန်ပျူတာ ဟက်ခ်" သုံးခုကို လုပ်ဆောင်ခဲ့ကြောင်း Google မှ ဝန်ခံခဲ့သည်။

Anthropic နှင့် OpenAI နှစ်ခုလုံးသည် ခွဲခြမ်းစိတ်ဖြာချက်အပေါ် မှတ်ချက်ပေးရန် CSO ၏တောင်းဆိုမှုများကို တုံ့ပြန်ခြင်းမရှိပါ။

"သူတို့ထင်သလောက် မကောင်းဘူးလား"

CSO သည် စက်တင်ဘာလတွင် လုပ်ငန်းညီလာခံသုံးခုနှင့် နောက်ဆက်တွဲစကားဝိုင်းများတွင် ဆိုက်ဘာလုံခြုံရေးကျွမ်းကျင်သူ ဒါဇင်တစ်ဝက်ခန့်ကို တွေ့ဆုံမေးမြန်းခဲ့သည်။ ၎င်းတို့၏ သဘောတူညီမှု- အထူးသဖြင့် OpenAI နှင့် Anthropic တို့သည် ဆိုက်ဘာလုံခြုံရေး စီမံခန့်ခွဲမှုကို ပိုမိုကောင်းမွန်အောင် လုပ်ဆောင်ခြင်းဆိုင်ရာ ပြင်ပအကြံဉာဏ်များကို ပယ်ချခဲ့ပြီး ၎င်းတို့တွင် သာလွန်ကျွမ်းကျင်မှုရှိသည်ဟု ယုံကြည်ထားသည့် ဒိုမိန်းတစ်ခုဖြစ်သည့် "AI ဘေးကင်းရေး" အောက်တွင် လုံခြုံရေးအလေ့အကျင့်များကို မကြာခဏ ပြုလုပ်လေ့ရှိသည်။

"သူတို့က ရိုးရိုးသားသား ထင်ထားသလောက် မကောင်းပါဘူး" ဟု Berryville Institute of Machine Learning ၏ ပူးတွဲတည်ထောင်သူ Gary McGraw က CSO သို့ ပြောကြားခဲ့သည်။ "မှုခင်းဆေးပညာ သို့မဟုတ် လုံခြုံရေးအင်ဂျင်နီယာ၊ သဲပုံးများတည်ဆောက်ခြင်း၊ ကွန်ရက်လုံခြုံရေးအခြေအနေများကို တပ်ဆင်ခြင်း သို့မဟုတ် စောင့်ကြည့်စစ်ဆေးခြင်းကဲ့သို့သော လုံခြုံရေးအမျိုးအစားခွဲများအားလုံးတွင် လူများထံမှ ခက်ခက်ခဲခဲရရှိသော ကျွမ်းကျင်မှုကို ပိုမိုလေးစားပါက ပိုကောင်းပါသည်။"

ထိန်းချုပ်မှု ပျက်ကွက်မှုများ၊ Superintelligence မဟုတ်ပါ။

ကျွမ်းကျင်သူများအဆိုအရ၊ လုံခြုံရေးစက်မှုလုပ်ငန်းသည် ဆယ်စုနှစ်များစွာကြာအောင် ပြုပြင်ထားခဲ့သော အေးဂျင့်များ၏ စမ်းသပ်ပတ်ဝန်းကျင်မှ လွတ်မြောက်ရန် ထိရောက်စွာတားဆီးပေးသည့် လုံခြုံသောသဲပုံးများကဲ့သို့သော အကြီးမားဆုံးသော ကျရှုံးမှုတစ်ခုဖြစ်သည့် စမ်းသုံး၍-စစ်မှန်သော ထိန်းချုပ်ခြင်းအလေ့အကျင့်မရှိခြင်းပင်ဖြစ်သည်။

SANS Institute မှ AI အရာရှိချုပ်နှင့် သုတေသနအကြီးအကဲ Rob T. Lee က "ဒါတွေဟာ နှစ်ပေါင်းများစွာ ကျွန်တော်တို့ ကိုင်တွယ်ဖြေရှင်းခဲ့တဲ့ အရာတွေပါ။ "ဒီလိုဖြစ်သွားတိုင်း ဘာအကြောင်းပြချက်မှ မရှိဘူး၊ အဲဒါ 'အိုး၊ ငါတို့ ဘယ်လို ထွက်သွားမှန်း မသိဘူး'"

ဓာတ်ခွဲခန်းများရှိ လုံခြုံရေးအဖွဲ့များသည် "အခြေတည်သည်" ဟူ၍ဖြစ်ပြီး အဆိုပါ ဖောက်ဖျက်မှုများသည် မော်ဒယ်လိမ္မာပါးနပ်မှုထက် စံနမူနာပြုခြင်းထက် မှားယွင်းသောဖွဲ့စည်းပုံစနစ်သို့ ခြေရာခံလေ့ရှိကြောင်း Lee က ပြောကြားခဲ့သည်။ "Higging Face ဖြစ်ရပ်က အေးဂျင့်တွေဟာ အလွန်ထက်မြက်တဲ့အချက်မဟုတ်ကြောင်း ရှင်းရှင်းလင်းလင်း ပြသနေပါတယ်" ဟု ၎င်းက CSO သို့ ပြောကြားခဲ့သည်။ "ထိန်းချုပ်ရေးဘက်ခြမ်းမှာ မှန်ကန်စွာပြင်ဆင်မထားတဲ့အတွက် အသုံးချခံခဲ့ရတဲ့ အပေါက်တစ်ခုရှိနေခဲ့တာပါ"

စောင့်ကြည့်ဝေဖန်မှုတွေလည်း ထပ်တူထပ်မျှ ဝင်လာခဲ့ပါတယ်။ Hugging Face ဖြစ်ရပ်သည် ရက်ပေါင်းများစွာကြာခဲ့ပြီး မည်သူမျှ သတိမထားမိခဲ့ကြောင်း Wallach မှ CSO သို့ ပြောကြားခဲ့သည်။ "လူတွေက ဒီစမ်းသပ်မှုတွေကို စတင်ခဲ့ပြီး သူတို့ကို မကြည့်ခဲ့ကြဘူး။ အဲဒါက ထိန်းချုပ်မှု မရှိတော့ဘဲ၊ ပြီးတော့ ဖြစ်ပျက်ခဲ့တာကို အံ့သြသွားကြတယ်။"

AI၊ လုံခြုံရေးနှင့် နည်းပညာဆိုင်ရာ RAND ၏ စင်တာမှ ကျွမ်းကျင်သူ နည်းပညာဆိုင်ရာ ဌာနေကိုယ်စားလှယ် Dan Wallach က ပြဿနာကို ဦးစားပေး မအောင်မြင်မှုအဖြစ် ဘောင်ခတ်ခဲ့သည်။ “သူတို့က ဆိုက်ဘာလုံခြုံရေးကို ဦးစားမပေးဘူးလို့ ပြောချင်ပါတယ်” ဟု ဝေဖန်မှုများသည် ဓာတ်ခွဲခန်းတိုင်းနှင့် မသက်ဆိုင်ကြောင်း မှတ်ချက်ပြုကာ ၎င်းက ပြောကြားခဲ့သည်။ "ဒီ AI အရာတွေထဲက တစ်ခုကို ခွဲထုတ်ဖို့ ဒုံးပျံသိပ္ပံ မဟုတ်ဘူး" ဟု ၎င်းက ကောင်းစွာ နားလည်ထားသော ချဉ်းကပ်နည်း နှစ်ခုဖြစ်သည့် လေ-ကွာဟမှုကို ညွှန်ပြကာ၊ ထို့ကြောင့် ဒေတာများ လွတ်မြောက်ရန် လျှပ်စစ်လမ်းကြောင်း မရှိခြင်း သို့မဟုတ် မည်သည့်အရာမှ တွန်းလှန်နိုင်သည်ကို သေချာစေမည့် ပြင်းထန်သော egress control ဖြစ်သည်။

ဘေးကင်းလုံခြုံရေး၊ ကွာရှင်းပြတ်စဲခြင်း။

ထပ်တလဲလဲ အတားအဆီးတစ်ခုသည် ၎င်းတို့ကို "ဘေးကင်းရေး" ဟုခေါ်သည့် ဓာတ်ခွဲခန်း၏ ပြင်းထန်သော အာရုံစိုက်မှုဖြစ်သည်— သမားရိုးကျဆိုက်ဘာလုံခြုံရေးထက် သာလွန်ကောင်းမွန်သော သီးခြားစီစဥ်သော ဆိုက်ဘာလုံခြုံရေးကို ၎င်းတို့ဆက်ဆံသည့် စည်းကမ်းတစ်ခုဖြစ်သည်။

"လုံခြုံရေးအမူအကျင့်က AI ဘေးကင်းရေးနဲ့တူတယ်လို့ မြင်ပါတယ်" လို့ Wallach က ဆိုပါတယ်။ "ဒါပေမယ့် ဒီ AI ကိရိယာကို မင်းအကဲဖြတ်တဲ့နည်းလမ်းက အင်တာနက်မှာ လွှင့်တင်ပြီး ဖြစ်ပျက်နေတာကို မြင်လိုက်ရရင်၊ ဒါက classical security tooling အတွက်ပဲ"

SANS ၏ Lee က ပို၍ ပြတ်ပြတ်သားသား ပြောလိုက်သည်။ “တကယ်လို့ ဒီနယ်ခြားဓာတ်ခွဲခန်းတွေက သူတို့ရဲ့ ပစ္စည်းတွေကို တကယ်စမ်းသပ်ချင်တယ်ဆိုရင် သူတို့ရဲ့ ဆိုက်ဘာလုံခြုံရေး အစိတ်အပိုင်းကို မြှင့်တင်ဖို့ လိုပါတယ်” ဟု ၎င်းက ဆိုသည်။ "ဒါပေမယ့် သူတို့ရဲ့ အေးဂျင့်တွေကို တုံ့ပြန်မှုမှာ သူတို့ရဲ့ အူကြောင်ကြောင် တုံ့ပြန်မှုက 'ဆိုက်ဘာလုံခြုံရေး ပြဿနာမဟုတ်ပါဘူး' လို့ ပြောတာပါ။ ၎င်းသည် ဆိုက်ဘာလုံခြုံရေးနှင့် ကွာရှင်းပြတ်စဲသည့် AI ဘေးကင်းရေးပြဿနာဖြစ်လာသည်။" ဆိုက်ဘာလုံခြုံရေးတွင် အမှန်တကယ်တွင် AI ပါ၀င်နိုင်သည်ဟု ၎င်းက စောဒကတက်သည် - "ကျွန်ုပ်တို့သည် ၎င်းဖြစ်ပျက်နေသည့်အခန်း၌သာ စားပွဲ၌ထိုင်ရန် လိုအပ်သည်"

ခြွင်းချက်- Mistral ၏ အမြန်ဖြတ်တောက်မှု

Wallach သည် ပြင်သစ် AI ဓာတ်ခွဲခန်း Mistral အား ပိုမိုမြန်ဆန်သော တုံ့ပြန်မှု၏ တန်ပြန်ဥပမာအဖြစ် ထောက်ပြခဲ့သည်။ Mistral သည် ၎င်း၏ Large 4 မော်ဒယ်ကို စတင်ရောင်းချသောအခါတွင် ကုမ္ပဏီမှ မော်ဒယ်သည် ၎င်း၏ စမ်းသပ်ပတ်ဝန်းကျင်ထက် ကျော်လွန်လုပ်ဆောင်ရန် ကြိုးစားခဲ့ကြောင်း ပြောကြားခဲ့ပြီး Mistral က ၎င်းကို ဖြတ်တောက်ခဲ့သည်။ အပိုင်းတွင် ပါရှိသည့် အဖြစ်အပျက်နှင့် ထုတ်ဖော်ထားသည့် ချိုးဖောက်မှုကြား ကွာခြားချက်သည် မော်ဒယ်စွမ်းရည်ထက် လုပ်ဆောင်ချက်ဆိုင်ရာ စည်းကမ်းဖြစ်နိုင်သည်ဟု အကြံပြုထားသည်။

ကြီးထွားလာသော တာဝန်ဝတ္တရားမေးခွန်း

လုံခြုံရေး ပျက်ကွက်မှုများသည် အေးဂျင့်တစ်ဦး ပျက်စီးသွားသောအခါ မည်သူတွင် တာဝန်ရှိသည်နှင့် ပတ်သက်၍ ပြင်းထန်သော မူဝါဒတိုက်ပွဲနှင့် ဖြတ်တောက်ထားသည်။ CSO ၏အဆိုအရ၊ အာမခံလုပ်ငန်းသည် ၎င်းတို့၏စနစ်များ၏လုပ်ဆောင်ချက်များအတွက် AI လုပ်ငန်းအမှုဆောင်များကို တာဝန်ယူရန် တန်းစီနေပြီဖြစ်ပြီး၊ ဒီမိုကရက်တစ်အထက်လွှတ်တော်အမတ်များသည် ဟက်ကာဖြစ်ရပ်များအတွက် AI အေးဂျင့်အော်ပရေတာများအား တာဝန်ရှိစေမည့် ဥပဒေများကို မိတ်ဆက်ထားပြီး၊ Federal Trade Commission မှ Anthropic၊ OpenAI နှင့် အခြားဓာတ်ခွဲခန်းများကို ၎င်းတို့၏နည်းပညာများသုံးစွဲသူများအတွက် အန္တရာယ်ဖြစ်စေမည့် အန္တရာယ်များကို စုံစမ်းလျက်ရှိသည်။

တစ်ချိန်တည်းတွင် ဓာတ်ခွဲခန်းကိုယ်စားလှယ်များသည် AI အေးဂျင့်များသည် amok လည်ပတ်မှုအတွက် တာဝန်မရှိဟု မကြာသေးမီက ကြားနာပွဲများတွင် စွဲစွဲမြဲမြဲကိုင်စွဲထားကြသည် — ကျွမ်းကျင်သူများက မှတ်တမ်းတင်ထားသော လုံခြုံရေးကွာဟချက်အား ပြုပြင်မွမ်းမံခြင်းဟုခေါ်သော ရပ်တည်ချက်ဖြစ်သည်။ McGraw သည် ဓာတ်ခွဲခန်း၏ အငြင်းအခုံကို အကျဉ်းချုံးဖော်ပြခဲ့သည်- "ရှေ့နေများကို ကျွန်ုပ်တို့ထံ မပို့ပါနှင့်၊ ၎င်းကို ကျွန်ုပ်တို့၏ ပရိုဂရမ်သို့ ပေးပို့ပါ။ ၎င်းမှာ ကျွန်ုပ်တို့၏ ပရိုဂရမ်၏ အမှားဖြစ်သည်။" အဲဒီရာထူးကို သူ့ရဲ့အကဲဖြတ်ချက်က "ဒါက BS မြင့်တယ်။" ဓာတ်ခွဲခန်းများ၏ ပိုမိုကျယ်ပြန့်သော လုံခြုံရေးအင်ဂျင်နီယာများအပေါ် စစ်ဆင်ရေးဆိုင်ရာ ချို့ယွင်းချက်များက ယုံကြည်မှု ပျက်ပြားစေသလားဟုလည်း မေးခွန်းထုတ်ခဲ့သည်။ “သူတို့ဟာ သူတို့ရဲ့ ပူဖောင်းထဲမှာပဲ နေထိုင်ကြတယ်” ဟု ၎င်းက ဆိုသည်။ "ရှင်းရှင်းလင်းလင်း လွယ်ကူတဲ့ လုပ်ဆောင်ချက်တွေကို ကောင်းကောင်းမလုပ်နိုင်ဘူးဆိုတာက လုံခြုံရေးအင်ဂျင်နီယာမှာ သူတို့ရဲ့ စွမ်းဆောင်နိုင်ရည်အတွက် ခိုင်လုံတဲ့အချက်တော့ မရှိပါဘူး။

AI အေးဂျင့်များကို အသုံးပြုသည့် လုပ်ငန်းများအတွက် ဆိုလိုရင်းဖြစ်သည်။

CSO မှ ၎င်းတို့၏ AI ရောင်းချသူများကို စစ်ဆေးသင့်ပြီး အေးဂျင့်ဖြန့်ကျက်မှုများတွင် လုံခြုံရေးအခြေခံများကို တင်းကျပ်သင့်သည်ဟု CSO မှ ပြောကြားသော ခွဲခြမ်းစိတ်ဖြာမှုသည် CISO များအတွက် လက်တွေ့ကျသော အလေးချိန်ကို သယ်ဆောင်ပေးပါသည်။ ဖော်ပြထားသည့် ဖြစ်ရပ်များ — အဖွဲ့အစည်း သုံးခုမှ ထုတ်လုပ်မှု အခြေခံအဆောက်အအုံသို့ ရောက်ရှိသည့် မော်ဒယ်၊ လုံခြုံရေး စမ်းသပ်မှုတစ်ခုအတွင်း ကုမ္ပဏီတစ်ခုအား ဟက်ကာ၊ တတိယတစ်ခုက လမ်းညွှန်ခြင်းမရှိသော ဟက်ခ်များ— ၎င်းတို့ကို ထိန်းသိမ်းထားသင့်သော ပတ်ဝန်းကျင်မှ လွတ်မြောက်သည့် ပါ၀င်သည့် စနစ်များအားလုံးကို ဖော်ပြထားပါသည်။

လုံခြုံရေးခေါင်းဆောင်များအတွက်၊ လမ်းညွှန်ချက်သည် ခိုင်မာသည်- McGraw သည် နယ်ခြားဓာတ်ခွဲခန်းကိရိယာများကို အကဲဖြတ်ရာတွင် ပြင်ပအကူအညီ၊ ခွဲခြားသတ်မှတ်ထားသော အန္တရာယ်များနှင့် ထိန်းချုပ်မှုများဖြင့် ဗဟိုချုပ်ကိုင်ထားသော AI မွေးစားခြင်းနှင့် "အေးဂျင့်များဖြစ်သည့် နောက်ထပ်ကြီးမားသောအရာဖြစ်သည့်" အတွက် ပြင်ဆင်နေပါသည်။ Lee က စျေးရောင်းသူများကို မှန်ကန်သောမေးခွန်းများမေးပြီး စစ်မှန်သောဆိုက်ဘာလုံခြုံရေးစွမ်းရည်ကိုပြသနိုင်သည့် ဓာတ်ခွဲခန်းများကို နှစ်သက်ကြောင်း အကြံပြုခဲ့သည်။

လုံခြုံရေး ကျွမ်းကျင်သူများ မှန်ကန်ပါက၊ ၎င်းတို့၏ စိတ်ထဲတွင် "မှားယွင်းသော" အေးဂျင့်များ၏ ရေပန်းစားသော ဇာတ်ကြောင်းသည် ဓာတ်ခွဲခန်းများကို လွယ်ကူစွာ ဖယ်ရှားနိုင်သည်- ကျရှုံးမှုများသည် သိပ္ပံစိတ်ကူးယဉ်ဆန်ဆန် ပုံပန်းသဏ္ဍန် နည်းပါးပြီး သမားရိုးကျ လုံခြုံရေးစစ်ဆေးမှုမှ ဖမ်းမိမည့် သမားရိုးကျ လုံခြုံရေးစာရင်းစစ်တွင် မှားယွင်းသော ဖွဲ့စည်းတည်ဆောက်ပုံနှင့် ပိုတူပါသည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →