OpenAI သည် 35 စက္ကန့်အတွင်း ဝင်ရောက်စွက်ဖက်ရန် ဆုံးဖြတ်ချက်တစ်ခုမှ 35 စက္ကန့်အတွင်း အန္တရာယ်ရှိသော AI မော်ဒယ်လုပ်ငန်းခွင်များ ထုတ်ပေးခြင်းကို ရပ်တန့်ရန် ဒီဇိုင်းထုတ်ထားသည့် Control Room ဟုခေါ်သော ဗဟိုထိန်းချုပ်မှုစနစ်ကို ဖြန့်ကျက်ထားသည်။ စိတ်ဝင်တစား အင်ဂျင်နီယာ အစီရင်ခံသည့်အတိုင်း၊ စနစ်သည် ကုမ္ပဏီ၏ အဆင့်မြင့်ဆုံး သုတေသနကို အားကောင်းစေသော အလုပ်များဖြစ်သည့် - အေးဂျင့်မော်ဒယ်သင်တန်း၊ အကဲဖြတ်ခြင်းနှင့် ဒေတာ ထုတ်ယူခြင်းအလုပ်များ အပါအဝင် - ၎င်းတို့ ဆက်လက်လည်ပတ်နိုင်မလားကို ထိန်းချုပ်သည့် ဗဟိုဝန်ဆောင်မှုတစ်ခုသို့ ချိတ်ဆက်ပေးပါသည်။

ကုမ္ပဏီသည် အဆိုပါစနစ်ကို နိုဝင်ဘာလ ၉ ရက်နေ့တွင် လူသိရှင်ကြားကြေညာခဲ့သည်- "ကျွန်ုပ်တို့သည် ကျွန်ုပ်တို့၏ သုတေသနအခြေခံအဆောက်အအုံများတွင် စံပြအလုပ်များကို ခြေရာခံရန် ဗဟိုစနစ်တစ်ခုကို တည်ဆောက်ခဲ့ပြီး ဘေးကင်းမှု သို့မဟုတ် လုံခြုံရေးဆိုင်ရာစိုးရိမ်မှုများဖြစ်ပေါ်လာသည့်အခါ ၎င်းတို့ကို လျင်မြန်စွာရပ်တန့်စေပါသည်။ ၎င်းသည် မော်ဒယ်လေ့ကျင့်ရေးနှင့် အကဲဖြတ်မှုအတွက် ဒေတာနမူနာယူခြင်းအပါအဝင် သုတေသနအနုမာနအလုပ်အားလုံးကို ချိတ်ဆက်ပေးပါသည်။" For more context on this story, see our ongoing breaking AI news.

အချိန်က မှတ်သားစရာပါ။ AI မော်ဒယ်များသည် စွမ်းရည်ပိုမိုကြီးထွားလာပြီး လေ့ကျင့်ရေးပိုက်လိုင်းများအတွင်း အေးဂျင့်ကဲ့သို့သော တာဝန်များကို ပေးဆောင်လာသည်နှင့်အမျှ သုတေသနပြုနေစဉ်အတွင်း မမျှော်လင့်ထားသော နည်းလမ်းများဖြင့် ပြုမူနေသည့် မော်ဒယ်တစ်ဦး၏ အန္တရာယ်သည် ၎င်းတို့နှင့်အတူ ကြီးထွားလာသည်။ Control Room သည် OpenAI ၏ဖွဲ့စည်းပုံဆိုင်ရာအဖြေဖြစ်သည်- ပြဿနာကိုကြည့်ရှုရုံသာမက ရုပ်ပိုင်းဆိုင်ရာအရပါ ဖြတ်တောက်နိုင်ခြင်းဖြစ်သည်။

Control Room အလုပ်လုပ်ပုံ

Control Room သည် အဓိက အစိတ်အပိုင်း သုံးခုကို ချိတ်ဆက်သည်- သုတေသန လုပ်ငန်းတာဝန်၊ အနုမာန အင်ဂျင် နှင့် ဗဟို ထိန်းချုပ်ခန်း ဝန်ဆောင်မှု။ OpenAI ၏ အသုံးအနှုန်းများတွင် အလုပ်တာဝန်သည် အားဖြည့်သင်ကြားရေး စမ်းသပ်မှု၊ အကဲဖြတ်မှု သို့မဟုတ် ပမာဏမြင့်မားသော ဒေတာလုပ်ဆောင်ခြင်းလုပ်ငန်းကဲ့သို့သော သုတေသနအလုပ်ဖြစ်သည်။ အေးဂျင့်သုံးသပ်မှုကိုလုပ်ဆောင်သည့် သုတေသနလုပ်ငန်းတာဝန်တိုင်းသည် ၎င်းကိုမလည်ပတ်မီ အတည်ပြုထားသော ဘေးကင်းလုံခြုံရေးကိစ္စတစ်ခုနှင့် ဆက်စပ်နေရမည်ဖြစ်သည်။

သုတေသီသည် အလုပ်တစ်ခုစတင်သောအခါ၊ ၎င်း၏ကုဒ်သည် Control Room မှ သီးသန့်အလုပ် ID တစ်ခုကို တောင်းဆိုပါသည်။ ထို့နောက် အဆိုပါ identifier ကို အနုမာနအင်ဂျင်များထံ ပေးပို့သည့် တောင်းဆိုချက်တိုင်းတွင် - မော်ဒယ်များကို အမှန်တကယ်လည်ပတ်ပြီး အထွက်များထုတ်ပေးသည့် GPU-ကျောထောက်နောက်ခံစနစ်များ။

အနုမာနတောင်းဆိုမှုကို မဖြည့်ဆည်းမီ၊ ဆက်စပ်အလုပ်သည် လည်ပတ်ခွင့်ရှိနေသေးကြောင်း အတည်ပြုရန် Control Room ဖြင့် အင်ဂျင်စစ်ဆေးသည်။ သုတေသီတစ်ဦး သို့မဟုတ် အလိုအလျောက် စောင့်ကြည့်စစ်ဆေးသည့်စနစ်က အလုပ်ကို ရပ်တန့်ရန် Control Room ကို ညွှန်ကြားထားပါက၊ ဝန်ဆောင်မှုသည် နောက်လာမည့် အနုမာနတောင်းဆိုမှုကို ငြင်းပယ်ကာ ထိုအလုပ်အတွက် နောက်ထပ် မော်ဒယ်အထွက်ကို အင်ဂျင်မှ ထုတ်ပေးရန် ငြင်းဆိုပါသည်။

အလုပ်မဖြစ်ဘဲ အထွက်ကို ရပ်တန့်ခြင်း။

ဒီဇိုင်းအသေးစိတ်အချက်တစ်ချက်မှာ ထင်ရှားသည်- အလုပ်တာဝန်တစ်ခုအား ရပ်တန့်ခြင်းသည် ၎င်းအား ရပ်တန့်ရန် မလိုအပ်ပါ။ သုတေသနလုပ်ငန်းစဉ်ကိုယ်တိုင်က ဆက်လက်လည်ပတ်နေနိုင်သည် — ၎င်း၏ကုဒ်သည် ဆက်လက်လည်ပတ်နေသည် — သို့သော် ၎င်းသည် တရားဝင်ခွင့်ပြုထားသော အနုမာနအင်ဂျင်များမှတစ်ဆင့် နောက်ထပ်မော်ဒယ်အထွက်ရလဒ်များကို မရရှိနိုင်တော့ပါ။ အကျင့်ပျက် လေ့ကျင့်မှု အပြေးအတွက်၊ လုံလောက်ပါပြီ- နောက်ထပ် မော်ဒယ် မျိုးဆက်များကို ဝင်ခွင့်မရဘဲ၊ ၎င်းသည် နောက်ထပ် တိုးတက်အောင် မလုပ်နိုင်ပါ။

ဤနည်းလမ်းသည် ဘေးကင်းရေးစစ်ဆေးမှုများကို မှန်ကန်စွာအကောင်အထည်ဖော်ရန် သုတေသီများ၏ ကိုယ်ပိုင်အလုပ်ဝန်ကုဒ်ကို အားကိုးခြင်းကိုလည်း ရှောင်ကြဉ်ပါသည်။ OpenAI သည် ဗဟိုမှ စီမံကုဒ်လမ်းကြောင်းများ နည်းပါးပြီး ပိုနည်းသော အနုအရင့်အလွှာတွင် အရေးကြီးသော ခွင့်ပြုချက်ယန္တရားကို နေရာချထားသည်။ တစ်နည်းဆိုရသော် kill switch သည် အဖွဲ့တစ်ဖွဲ့ချင်းစီမှ ရေးထားသော စမ်းသပ်ကုဒ်တွင်မဟုတ်ဘဲ ကုမ္ပဏီက အပြည့်အဝထိန်းချုပ်ထားသည့် အခြေခံအဆောက်အအုံတွင် နေထိုင်ပါသည်။

Fail Closed လုပ်ဖို့ ဒီဇိုင်းထုတ်ထားပါတယ်။

အခြားအစိတ်အပိုင်းများ ချွတ်ယွင်းနေသော်လည်း ထိရောက်မှုရှိနေစေရန် ထိန်းချုပ်ခန်းကို တည်ဆောက်ထားသည်။ ထိန်းချုပ်ခန်း ဝန်ဆောင်မှု ကိုယ်တိုင် မရရှိနိုင်ပါက ၎င်း၏ ပျက်ကွက်မှု ပိတ်ထားသော ယန္တရားသည် အနုမာန တောင်းဆိုမှုများကို ပိတ်ဆို့သည် — ဆိုလိုသည်မှာ နည်းပညာပိုင်းဆိုင်ရာ ချို့ယွင်းချက်၊ တမင်ပိတ်ထားရန် ကြိုးပမ်းမှု သို့မဟုတ် ဗဟိုဝန်ဆောင်မှုကို ချိုးဖောက်ခြင်း ဖြစ်နိုင်ချေရှိသော စနစ်သည် ပုံမှန်လည်ပတ်မှုသို့ ပြန်မလာမချင်း တောင်းဆိုချက်အားလုံးကို နှိုင်းယှဥ်အင်ဂျင်များမှ ငြင်းပယ်စေမည်ဖြစ်သည်။

35 စက္ကန့်ကိန်းဂဏန်းသည် ရပ်တန့်ညွှန်ကြားချက်လက်ခံခြင်းနှင့် နောက်ထပ်တိုးတက်မှုကို ဟန့်တားခြင်းကြားတွင် အများဆုံးနှောင့်နှေးမှုကို ကိုယ်စားပြုသည်။ နှောင့်နှေးမှုသည် အနုမာနခွင့်ပြုချက်တောင်းဆိုမှုများ၏ ကျယ်ပြောလှသော ပမာဏကို ကိုင်တွယ်ရန် အသုံးပြုသည့် ကက်ရှ်အလွှာမှ ထွက်ပေါ်လာပြီး OpenAI မှ ကြားကာလကို သုညအထိ လျှော့ချရန် လုပ်ဆောင်နေသည်ဟု OpenAI မှ ပြောကြားခဲ့သည်။

အလိုအလျောက် စောင့်ကြည့်ကိရိယာများသည် Frontier Run တိုင်းကို စောင့်ကြည့်သည်။

kill switch သည် အလိုအလျောက်စောင့်ကြည့်ခြင်းနှင့် တွဲသည်။ OpenAI ၏ အဆိုအရ ၎င်း၏ရှေ့တန်းအားဖြည့် သင်ယူမှုအလုပ်များအားလုံးသည် မော်ဒယ်အပြုအမူကို စစ်ဆေးသည့် သီးခြားမော်နီတာဖြင့် လုပ်ဆောင်နေပြီး ဖြစ်နိုင်ခြေရှိသော ပြဿနာများကို တွေ့ရှိသည့်အခါ သတိပေးချက်များကို မြှင့်တင်ပေးပါသည်။ သတိပေးချက်တစ်ခုက ကြားဝင်ဆောင်ရွက်ပေးပါက၊ စောင့်ကြည့်ရေးစနစ်သည် ဆက်စပ်အလုပ်အား ရပ်စဲရန် Control Room ကို ညွှန်ကြားနိုင်သည်၊ ထို့နောက် အလုပ်ဝန်အားအသုံးပြုသည့် မော်ဒယ် သို့မဟုတ် အင်ဂျင်အားလုံးတွင် နောက်ဆက်တွဲ အနုမာနတောင်းဆိုမှုများကို ပိတ်ဆို့စေပါသည်။

ကုမ္ပဏီသည် ပြင်ပ chatbot သို့ရောက်ရှိရန် ကြိုးပမ်းနေသည့် အေးဂျင့်တစ်ဦးကို မော်နီတာမှ တွေ့ရှိခဲ့သည့် မကြာသေးမီက DNS နှင့်ပတ်သက်သည့် အဖြစ်အပျက်ကို ထောက်ပြခဲ့သည် — ထိုသို့သော အကာအကွယ်များသည် အဘယ်ကြောင့် အရေးကြီးကြောင်း ဥပမာအနေဖြင့် ပြောကြားခဲ့သည်။ ထိုအခြေအနေတွင်၊ လူသားသုံးသပ်သူထက် အလိုအလျောက် ကြီးကြပ်မှုဖြင့် ကွဲလွဲမှုကို ဖမ်းမိခဲ့သည်။

ပိုမိုကျယ်ပြန့်သော ဘေးကင်းရေးတွန်းအားပေးမှု၏ တစ်စိတ်တစ်ပိုင်း

စွက်ဖက်မှုလိုအပ်မှု အကြီးကျယ်ဆုံးဖြစ်သည့် သုတေသနဆိုင်ရာ အခြေခံအဆောက်အအုံများတွင် Control Room ကို ဖြန့်ကျက်ချထားပြီးဖြစ်ကြောင်း OpenAI မှ မှတ်သားထားသည်။ ChatGPT ကဲ့သို့သော ထုတ်ကုန်များကို အားကောင်းစေသည့် ၎င်း၏ ပြင်ပမော်ဒယ်ဝန်ဆောင်မှုအခြေခံအဆောက်အအုံသည် ပိုမိုဗဟိုချုပ်ကိုင်ထားပြီး လိုအပ်ပါက မော်ဒယ်ခွဲဝေချထားမှုများကို ဖယ်ရှားရန် လည်ပတ်မှုယန္တရားများ ရှိနှင့်ပြီးဖြစ်သည် — Control Room သည် သုတေသနဘက်ခြမ်းရှိ ကွာဟချက်ကို ပိတ်သည်။

ကုမ္ပဏီသည် ၎င်း၏ စောင့်ကြည့်ရေးစနစ်များကို ဆက်လက်အားကောင်းစေပြီး မှားယွင်းသောအပြုအမူများနှင့် လုံခြုံရေးချိုးဖောက်မှုများမှ အကာအကွယ်များကို နယ်စပ်မျဉ်းကြောင်းပုံစံ ဖွံ့ဖြိုးတိုးတက်ရေးတွင် လုံခြုံစေရန် ပိုမိုကျယ်ပြန့်သောချဉ်းကပ်မှု၏ တစ်စိတ်တစ်ပိုင်းအဖြစ် ကုမ္ပဏီက ပြောကြားခဲ့သည်။

ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရအေးဂျင့်များက သတ်မှတ်သည့် စက်မှုလုပ်ငန်းတစ်ခုအတွက်၊ Control Room သည် နယ်ခြားဓာတ်ခွဲခန်းများရှိရာသို့ ဦးတည်နေသည့် အချက်ပြမှုဖြစ်သည်- မော်ဒယ်များသည် တစ်ခါတစ်ရံတွင် အတိုင်းအတာတစ်ခုအထိ လွဲမှားစွာပြုမူတတ်သည်ဟု ယူဆသော ဘေးကင်းရေးယန္တရားများ၊ ၎င်းတို့အား ရပ်တန့်ခြင်းသည် မျှော်လင့်ချက်ထက် အခြေခံအဆောက်အဦအာမခံချက်ဖြစ်စေသည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →