Google DeepMind သည် အတုအယောင် အထွေထွေ ဉာဏ်ရည်ဆိုင်ရာ စကားဝိုင်းကို ကျယ်ကျယ်ပြန့်ပြန့် လုပ်ဆောင်ရန် ရည်ရွယ်ထားသော အင်စတီကျုသစ်ကို စတင်လိုက်ပြီဖြစ်ပြီး ၎င်း၏ အဖွင့်စာစီစာကုံးများတွင် ဖြန့်ကျက်ခြင်းမပြုမီ နယ်ခြား AI မော်ဒယ်များကို အကဲဖြတ်မည့် အမေရိကန် ဦးဆောင်သော အဖွဲ့အစည်းတစ်ခုအတွက် Demis Hassabis မှ ခိုင်မာသော အဆိုပြုချက်တစ်ခု ပါဝင်သည်။

Google နှင့် Google DeepMind သုတေသီများက ဗုဒ္ဓဟူးနေ့တွင် စတင်တည်ထောင်ခဲ့သည့် DeepMind Institute သည် DeepMind ပူးတွဲတည်ထောင်သူ Shane Legg နှင့် Google အမှုဆောင်အရာရှိ James Manyika နှင့် Google DeepMind ဥက္ကဋ္ဌ Demis Hassabis တို့နှင့်အတူ ဒါရိုက်တာများအဖြစ် DeepMind ပူးတွဲတည်ထောင်သူ Shane Legg ကို စာရင်းပြုစုထားသည်။ For more context on this story, see our ongoing AI trends.

သဘောမတူသောအခန်း

အင်စတီကျု၏ဖော်ပြထားသောရည်ရွယ်ချက်မှာ Google ကိုယ်တိုင်အပါအဝင် စစ်မှန်သောသဘောထားကွဲလွဲမှုများကို ပေါ်လွင်စေရန်ဖြစ်သည်။ "သူတို့က အမြဲတမ်းသဘောတူမှာ မဟုတ်ဘူး၊ ဒေတာနဲ့ သတင်းအချက်အလက်တွေ မြန်မြန်ဆန်ဆန် ရွေ့လျားနေတဲ့ နယ်နိမိတ်မှာ ပိုပြီးတော့ အလင်းဝင်လာတဲ့အတွက် သူတို့စိတ်တွေ ပြောင်းလဲသွားလိမ့်မယ်" ဟု ကြေညာချက်တွင် ဖော်ပြထားသည်။

၎င်း၏ပထမဆုံးစုစည်းမှုတွင် ဖြစ်နိုင်ချေရှိသော AGI အနှောင့်အယှက်များကို စီမံခန့်ခွဲရန်အတွက် စီးပွားရေးမူဝါဒများ၊ လူသားဖတ်နိုင်သော မော်ဒယ်ကျိုးကြောင်းဆင်ခြင်ခြင်း၊ လူသားရှင်သန်ကြီးထွားမှုအတွက် အခြေခံမူများနှင့် ရှေ့တန်း AI မော်ဒယ်များကို အကဲဖြတ်ရန်အတွက် မူဘောင်တစ်ခု ပါဝင်သည့် အက်ဆေးလေးခုပါရှိသည်။

အများသူငှာ မက်ဆေ့ချ်ပို့ခြင်းကို တင်းတင်းကြပ်ကြပ် ထိန်းချုပ်ထားလေ့ရှိသော ကော်ပိုရိတ် AI ဓာတ်ခွဲခန်းအတွက် ပုံမှန်မဟုတ်သော လှုပ်ရှားမှုတစ်ခုဖြစ်သည်။ ဒီဇိုင်းအားဖြင့်၊ အင်စတီကျု့မှ Google ၏ သုတေသီများအား ကုမ္ပဏီ၏ စီးပွားရေးဆိုင်ရာ အကျိုးစီးပွားများနှင့် ဆန့်ကျင်ဘက်ဖြစ်စေနိုင်သော ရာထူးနေရာများ — သို့မဟုတ် အချင်းချင်း ငြင်းခုံရန် နေရာပေးသည်။

Transparency Essay- 'Opaque Serial Depth' ကိုကြည့်ပါ

DeepMind ဘေးကင်းရေး သုတေသီ Rohin Shah နှင့် Anca Dragan တို့၏ အက်ဆေးလေးခုအနက်မှ တစ်ခုသည် AI ၏ ပွင့်လင်းမြင်သာမှု ပြတင်းပေါက်—မော်ဒယ်တစ်ဦး၏ အဆင့်ဆင့်သော ကျိုးကြောင်းဆင်ခြင်မှုကို ကြည့်ရှုစစ်ဆေးနိုင်မှု—သည် ရှောင်လွှဲ၍မရ၊ ဗိသုကာအသစ်များသည် အစွမ်းထက်ဆုံး မော်ဒယ်များကို စောင့်ကြည့်ရန် ပိုမိုခက်ခဲစေသည့်တိုင် ရှောင်လွှဲ၍မရနိုင်ကြောင်း စောဒကတက်ပါသည်။

developer များနှင့် regulators များသည် ဘေးကင်းရေး အပေးအယူများကို တိုက်ရိုက်ရင်ဆိုင်သင့်သည်ဟု စာရေးသူက ဆိုသည်။ တိကျစွာပြောရလျှင်၊ ၎င်းသည် ၎င်းတို့ခေါ်သည့် "opaque serial depth" ကို ကန့်သတ်ခြင်းဟု ဆိုလိုခြင်းဖြစ်နိုင်သည် — မော်ဒယ်တစ်ခု၏ ဆက်တိုက်တွက်ချက်မှုပမာဏသည် ဖတ်ရှုနိုင်သော ကျိုးကြောင်းဆီလျော်မှု သဲလွန်စကို မထုတ်ဘဲ လုပ်ဆောင်နိုင်သည် — သို့မဟုတ် ပွင့်လင်းမြင်သာမှုနည်းသော စနစ်များသည် အဓိပ္ပာယ်ဖွင့်ဆိုနိုင်သော စနစ်များကဲ့သို့ စောင့်ကြည့်ရန် developer များကို သရုပ်ပြရန် လိုအပ်ပါသည်။

အဆိုပြုချက်သည် အဓိပ္ပာယ်ဖွင့်ဆိုနိုင်မှု ဆုံးရှုံးခြင်းအား အတိုင်းအတာ၏ မလွှဲမရှောင်သာသော အကျိုးဆက်များထက် ဒီဇိုင်းနှင့် မူဝါဒရွေးချယ်မှုအဖြစ် သဘောထားကာ စည်းမျဥ်းစည်းကမ်းအဖြစ် ရေးသားနိုင်သည့် လိုအပ်ချက်များကို တံခါးဖွင့်ပေးသောကြောင့် ထင်ရှားပါသည်။

Hassabis ၏ အဆိုပြုချက်- US Frontier Standards Body

အကျိုးဆက်အများဆုံး စာစီစာကုံးသည် Hassabis ဖြစ်နိုင်သည်။ အဆင့်မြင့် AI မော်ဒယ်များကို အကဲဖြတ်ရန် တာဝန်ပေးထားသော အမေရိကန် ဦးဆောင်သော နယ်ခြားစောင့် AI စံနှုန်းကိုယ်ထည်ကို အဆိုတင်သွင်းသည်။ မူဘောင်အောက်တွင်၊ developer များသည် မော်ဒယ်များကို မထုတ်ဝေမီ ရက်ပေါင်း 30 အထိ ပြန်လည်သုံးသပ်ရန်အတွက် စိတ်ဆန္ဒအလျောက် မော်ဒယ်များကို ကနဦးတင်ပြမည်ဖြစ်သည်။ အကဲဖြတ်မှုစနစ်သည် ထိရောက်ကြောင်း သက်သေပြပြီးသည်နှင့် ၎င်း၏စမ်းသပ်မှုများကို ကျော်ဖြတ်ခြင်းသည် အမေရိကန်ပြည်ထောင်စုတွင် နယ်နိမိတ်ပုံစံများကို အသုံးချခြင်းအတွက် လိုအပ်ချက်တစ်ခု ဖြစ်လာနိုင်သည်။

ခန္ဓာကိုယ်သည် AI ကုမ္ပဏီများနှင့် တိုင်ပင်ကာ အကဲဖြတ်ခြင်းများကို ဒီဇိုင်းထုတ်ခြင်းဖြင့် စတင်မည်ဖြစ်ပြီး၊ သို့သော် နောက်ဆုံးတွင် အမှီအခိုကင်းသော၊ ထုတ်ဖော်မပြထားသော အကဲဖြတ်ချက်များကို အက်ဆေးက "ထိန်းသိမ်းထား" သည့် စမ်းသပ်မှုများဟု ခေါ်သည်-- ဓာတ်ခွဲခန်းများသည် ၎င်းတို့၏ မော်ဒယ်များကို လူသိများသော စံသတ်မှတ်ချက်များအဖြစ် အံဝင်ခွင်ကျမဖြစ်စေရန်၊ ကောင်းစွာမှတ်တမ်းတင်ထားသော အကဲဖြတ်မှုစနစ်၏ ပျက်ကွက်မှုမုဒ်ကို တားဆီးနိုင်မည်ဖြစ်သည်။

Hassabis သည် တိုးတက်မှုအတွက် တံခါးဖွင့်ထားခဲ့သည်- “အခြေအနေ၏ လေးနက်မှုကို တောင်းဆိုပါက၊” ဘောင်ကို ရှေ့တန်းမှ AI developer များအကြား ညှိနှိုင်းမှု နှေးကွေးမှုအပါအဝင် ဖြစ်နိုင်ချေရှိသော မူဘောင်ကို ရေးဆွဲထားသည်။

အခြားသော အက်ဆေးနှစ်ခုက ဘာကြောင့် အရေးကြီးတာလဲ။

ကျန်အက်ဆေးနှစ်ပုဒ် - AGI အနှောင့်အယှက်များကို စီမံခန့်ခွဲရန်အတွက် စီးပွားရေးမူဝါဒများနှင့် လူသားများ ရှင်သန်ကြီးထွားမှုအတွက် အခြေခံမူများပေါ်တွင် - AGI ကို နည်းပညာသက်သက်မဟုတ်ဘဲ လူ့အဖွဲ့အစည်းတစ်ခုလုံး ပြဿနာအဖြစ် သဘောထားသည့် စုစည်းမှုတစ်ခုကို စုစည်းထားသည်။ စီးပွားရေး ရွှေ့ပြောင်းမှုသည် ခေတ်မီသော AI နှင့် ပတ်သက်၍ မြင်သာထင်သာဆုံးသော အများသူငှာ စိုးရိမ်ပူပန်မှု ဖြစ်နေသည်မှာ ကြာမြင့်ပြီဖြစ်ပြီး ၎င်းကို အကဲဖြတ်မှု မူဝါဒနှင့် အဓိပ္ပာယ်ဖွင့်ဆိုနိုင်မှုတို့နှင့်အတူ ဘောင်ခတ်ထားခြင်းက မူဝါဒချမှတ်သူများအား သီးခြားအချေအတင် ဆွေးနွေးခြင်းထက် အပိုင်းများကို အစီအစဉ်တစ်ခုအဖြစ် မြင်စေလိုကြောင်း အကြံပြုသည်။

ထိုအကျယ်အဝန်းသည် Google ၏နေရာချထားခြင်းဆိုင်ရာ အချက်ပြမှုတစ်ခုလည်းဖြစ်သည်။ ကုမ္ပဏီသည် လုပ်ငန်းဖောက်သည်များနှင့် အစိုးရစာချုပ်များအတွက် ပြိုင်ဆိုင်နေပြီး နယ်နိမိတ်စနစ်များသည် ပြင်ပတွင် စိစစ်ရန်လိုအပ်သည်ဟု တပြိုင်နက်တည်း ငြင်းခုံနေသည်။ တင်းမာမှုကို ပြေလျော့စေမည့်အစား ထုတ်ဝေခြင်းသည် အင်စတီကျု၏ အဓိကအခြေခံအချက်ဖြစ်သည်။

စိုးရိမ်မှုမှ ခိုင်မာသော အဆိုပြုချက်များအထိ

စက်မှုလုပ်ငန်း၏ဘေးကင်းရေးအချေအတင်ဆွေးနွေးမှုသည် သီးခြားယန္တရားများဆီသို့ ကျယ်ပြန့်သောစိုးရိမ်ပူပန်မှုဆိုင်ရာထုတ်ပြန်ချက်များမှပြောင်းလဲလာသည်- ထုတ်ဖော်မှုလိုအပ်ချက်များ၊ ပြင်ပစိစစ်မှုနှင့် — အကာအကွယ်များနောက်ကျကျန်နေပါက- ညှိနှိုင်းမှုနှေးကွေးမှုများ။ TechCrunch အရ Anthropic CEO Dario Amodei ၏ "ရှေ့တန်း" AI ဖွံ့ဖြိုးတိုးတက်မှုဆီသို့ "အရှိန်အဟုန်", TechCrunch မှစက်မှုလုပ်ငန်းခေါင်းဆောင်များကထောက်ခံသောကြောင့်၎င်းသည်ဤအပတ်တွင်အရှိန်မြှင့်ခဲ့သည်။

အချိန်က အရေးကြီးတယ်။ အတ္တလန်တိတ်၏ နှစ်ဘက်စလုံးရှိ အစိုးရများသည် အကဲဖြတ်ခြင်းဆိုင်ရာ အခြေခံအဆောက်အအုံများထက် ပိုမိုမြန်ဆန်သော လုပ်ဆောင်နိုင်စွမ်းရှိသည့် စနစ်များကို ကြီးကြပ်ရန် ချိန်ဆနေကြသည်။ ထိပ်တန်း AI ဓာတ်ခွဲခန်းအတွင်းမှ ပေါက်ဖွားလာသော အဆိုပြုချက်တစ်ခု — နှင့် အကြိုထုတ်လွှတ်ခြင်းဆိုင်ရာ ပြန်လည်သုံးသပ်ခြင်း ပါဝင်သော အဆိုပြုချက်တစ်ခုသည် မူဝါဒရေးဆွဲသူများအား လုပ်ငန်းကိုယ်တိုင်က အမည်ခံထောက်ခံထားသည့် ပုံစံတစ်ခုကို ပေးသည်၊ ၎င်းသည် သမိုင်းကြောင်းအရ အဓိပ္ပာယ်ပြည့်ဝသော AI စည်းမျဉ်းများအတွက် ကြိုတင်လိုအပ်ချက်တစ်ခုဖြစ်သည်။

ဘာကြည့်ရမလဲ

Google မှ အင်စတီကျု၏ အယ်ဒီတာ့အာဘော် လွတ်လပ်ရေးသည် ပထမဆုံး စမ်းသပ်မှု ဖြစ်လိမ့်မည်။ အကယ်၍ အက်ဆေးများတွင် Google ၏ စီးပွားရေးဆိုင်ရာ လမ်းပြမြေပုံကို ဖြတ်တောက်ထားသည့် ရာထူးများ ဆက်လက်ပါဝင်နေပါက - ပွင့်လင်းမြင်သာမှု အက်ဆေးသည် အငြင်းအခုံဖြစ်သကဲ့သို့ - နေရာသည် AGI မူဝါဒ စကားစစ်ထိုးပွဲအတွက် ကြီးကြီးမားမား ပံ့ပိုးပေးသူ ဖြစ်လာနိုင်သည်။ ကော်ပိုရိတ်စာတိုပေးပို့ခြင်းဆီသို့ ဦးတည်သွားပါက၊ ၎င်းသည် လူစည်ကားသောနယ်ပယ်တွင် နောက်ထပ် PR ချန်နယ်တစ်ခု ဖြစ်လာမည်ဖြစ်သည်။

မည်သို့ပင်ဆိုစေကာမူ၊ ပစ္စည်းသည် ယခုဇယားတွင် ရှိနေသည်- မဖြန့်ချိမီ အကဲဖြတ်ရန် လိုအပ်ချက်များ၊ စစ်ဆေးမှုများနှင့် ညှိနှိုင်းမှု နှေးကွေးမှုကိုပင် AI တွင် သြဇာအရှိဆုံး ပုဂ္ဂိုလ်များမှ လူသိရှင်ကြား ငြင်းခုံလျက်ရှိသည်။ ရှေ့တန်းမော်ဒယ်များကို အမှီအခိုကင်းစွာ အကဲဖြတ်သင့်သလားဟု မေးစရာမရှိတော့ဘဲ၊ အကဲဖြတ်ခြင်းအား မည်သူလုပ်ဆောင်သည်—နှင့် မည်သည့်အချိန်ဇယားတွင် ရှိမည်နည်း။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →