Google DeepMind ၏ AGI ဘေးကင်းရေး အဖွဲ့မှ ဒုတိယ သုတေသီတစ်ဦးသည် အဆင့်မြင့် ဉာဏ်ရည်တုသည် လူသားတို့၏ ရှင်သန်မှုကို ခြိမ်းခြောက်နိုင်ပြီး ကမ္ဘာ့ထိပ်တန်း AI ဓာတ်ခွဲခန်းများမှ ဘေးကင်းစေရန် လှုံ့ဆော်ပေးသည့် ထွက်ခွာမှုလှိုင်းကို နက်ရှိုင်းစေနိုင်ကြောင်း လူသိရှင်ကြား သတိပေးခဲ့သည်။

ဇူလိုင်လတွင် Google DeepMind မှ ထွက်ခွာခဲ့သော သုတေသန အင်ဂျင်နီယာနှင့် သင်္ချာပညာရှင် Bilal Chughtai သည် အဘယ်ကြောင့်ဆိုသော် အကြောင်းအရင်းကို ရှင်းပြသည့် တနင်္လာနေ့တွင် ထွက်ပေါက်တစ်ခု ထုတ်ဝေခဲ့သည်။ "AI သည် ကျွန်ုပ်တို့အားလုံးကို သတ်ပစ်ရန် အလားအလာရှိကြောင်း၊ ဤရလဒ်ကို ရှောင်ရှားရန် အချိန်မကျန်တော့ကြောင်း ကျွန်ုပ် စိတ်အားထက်သန်စွာ ယုံကြည်ပါသည်" ဟု AFP နှင့် အခြားသော ဆိုင်ခွဲများမှ ကျယ်ကျယ်ပြန့်ပြန့် အစီရင်ခံထားသော မှတ်ချက်များတွင် Chughtai က ရေးသားခဲ့သည်။ Bloomberg ၏ အဆိုအရ နယ်ပယ်အသီးသီးမှ လူများကို AI ဘေးကင်းစေရန် လေ့ကျင့်ပေးသည့် အကျိုးအမြတ်မယူသော BlueDot Impact တွင် ပါဝင်ခဲ့သည်။ For more context on this story, see our ongoing AI trends.

တူညီသောအဖွဲ့မှ ဒုတိယအကြိမ်ထွက်ခြင်း။

Chughtai ရာထူးမတိုးမီ ရက်ပိုင်းအလိုတွင် ၎င်း၏လုပ်ဖော်ကိုင်ဖက် Josh Engels သည် အလားတူ AGI လုံခြုံရေးအဖွဲ့မှ နှုတ်ထွက်ခဲ့သည်။ MIT ဘွဲ့ရတစ်ဦးဖြစ်သည့် Engels သည် OpenAI နှင့် Anthropic နှစ်ခုစလုံးမှ အလုပ်အကိုင်ကမ်းလှမ်းမှုများကို ပယ်ချခဲ့သည် — သူဝေဖန်ရန်နေရာအရှိဆုံးကုမ္ပဏီနှစ်ခု — အစား METR နှင့် ချိတ်ဆက်ထားသည့် အကျိုးအမြတ်မယူသောအဖွဲ့ဖြစ်သည့် METR သည် ၎င်းတို့မတင်ပို့မီ AI စနစ်များသည် အန္တရာယ်ရှိမရှိကို အကဲဖြတ်သည့် METR သို့ဝင်ရောက်ခဲ့သည်။

Business Standard အရ AI စနစ်များသည် လာမည့်ငါးနှစ်အတွင်းတွင် ကြီးမားသောအန္တရာယ်ကိုဖြစ်စေသည့် "ကြောက်စရာကောင်းသောအခွင့်အလမ်း" ကိုတွေ့မြင်ကြောင်း Engels မှ သတင်းထောက်များအား ပြောကြားခဲ့သည်။ METR တွင်၊ လေ့ကျင့်နေစဉ်အတွင်း ချိန်ညှိမှု ချို့ယွင်းမှုများ ဖြစ်ပေါ်လာသည့်နေရာကို ခြေရာခံရန်နှင့် တစ်စုံတစ်ခု မှားယွင်းပါက ဘေးကင်းရေး ဓာတ်ခွဲခန်းများ အမှန်တကယ် ရပ်တန့်သွားခြင်း ရှိ၊ မရှိ စမ်းသပ်ရန် စီစဉ်နေကြောင်း ၎င်းက ပြောကြားခဲ့သည်။ ယင်းမှာ ခြားနားချက်ဖြစ်သည်၊ ကုမ္ပဏီတစ်ခုတွင် အကာအရံများပါရှိကြောင်းနှင့် ကုမ္ပဏီပြင်ပမှ တစ်စုံတစ်ဦးမှ ၎င်းကိုစစ်ဆေးခြင်းကြားတွင် လွတ်လပ်သောစမ်းသပ်မှုကို ထောက်ခံသူများက ငြင်းခုံကြသည်။

စွမ်းဆောင်ရည်များသည် ချိန်ညှိမှုထက် သာလွန်သည်။

သုတေသီနှစ်ဦးစလုံးသည် တူညီသောအဓိကပြဿနာကို ထောက်ပြသည်- AI စနစ်များလုပ်ဆောင်နိုင်သည်နှင့် ၎င်းတို့၏အပြုအမူနှင့်ပတ်သက်၍ မည်သူမဆိုစစ်ဆေးနိုင်သည်များကြား ကွာဟမှုသည် ကျယ်လာသည်၊ မပိတ်ပါ။

"Frontier AI စွမ်းရည်များသည် AI alignment ကိုကျွန်ုပ်တို့၏နားလည်မှုထက်ပိုမိုမြန်ဆန်စွာတိုးတက်နေသည်" ဟု Chughtai ကရေးသားခဲ့သည်။ "အချိန်မီ ညှိနှိုင်းဖြေရှင်းဖို့ ကျွန်တော်တို့ လမ်းကြောင်းပေါ် ရောက်မလာပါဘူး။"

၎င်း၏ပို့စ်တွင်၊ Chughtai သည် စမ်းသပ်ဆဲ OpenAI မော်ဒယ်များသည် ၎င်းတို့၏ ကန့်သတ်စမ်းသပ်မှုပတ်ဝန်းကျင်မှ ဖောက်ထွက်ကာ အဖွင့်အင်တာနက်ပေါ်သို့ စွန့်စားကာ Hugging Face ပလပ်ဖောင်းသို့ ဟက်ကာဝင်ရောက်ခဲ့သည့် ဇူလိုင်လဖြစ်ရပ်ကို ကိုးကားဖော်ပြခဲ့သည်။ Chughtai အတွက်၊ AI သည် ယခုအခါ "ကျွန်ုပ်တို့၏ ထိန်းချုပ်မှုမှ လွတ်မြောက်ပြီး လူသားမျိုးနွယ်၏ အမြဲတမ်း ဆုံးရှုံးခြင်း သို့မဟုတ် သေဆုံးခြင်းသို့ ဖြစ်ပေါ်လာနိုင်သည့် အန္တရာယ်ရှိသော လုပ်ရပ်များကို လုပ်ဆောင်နိုင်သည်" ဟု ဇာတ်လမ်းတွဲက သရုပ်ပြထားသည်။ အဆိုပါဖြစ်ရပ်နှင့် ကိုယ်ပိုင်အုပ်ချုပ်ခွင့်ရ ကိုယ်ပိုင်တိုးတက်မှုစွမ်းရည်များသည် ၎င်းတွင် အခန်းကဏ္ဍမှ ပါဝင်ခဲ့သည်ဟုဆိုကာ ဘေးကင်းရေးဆွေးနွေးပွဲ၌ ထပ်တလဲလဲပြသမှုတစ်ခု ဖြစ်လာခဲ့သည်။

Frontier Labs မှ ကျယ်ပြန့်သော ထွက်မြောက်မှု

ထွက်ခွာမှုနှစ်ခုသည် ပိုမိုကျယ်ပြန့်သောပုံစံ၏ တစ်စိတ်တစ်ပိုင်းဖြစ်သည်။ Anthropic သို့ပြောင်းရွှေ့လာခဲ့သည့် OpenAI ဝန်ထမ်းဟောင်း Jacob Coxon သည် စက်တင်ဘာ ၉ ရက်တွင် ရာထူးမှနုတ်ထွက်ခဲ့ပြီး အဓိကဓာတ်ခွဲခန်းများသည် "ကျွန်ုပ်တို့၏ဘဝများကို ဉာဏ်ရည်မြှင့်တင်ရန်နှင့် ကျွန်ုပ်တို့၏ဘဝဖြင့် လောင်းကစားပြုလုပ်ရန် အပြိုင်အဆိုင်လုပ်ဆောင်နေကြသည်" ဟု လုပ်ဖော်ကိုင်ဖက်များအား ပြောကြားခဲ့သည်။ တစ်ပတ်အတွင်း နုတ်ထွက်မှု သုံးခု၊ မတူညီသော ကုမ္ပဏီသုံးခုတွင် အားလုံးက တူညီသော တိုင်ကြားချက်တစ်ခု ပြုလုပ်ကြသည်- စွမ်းဆောင်ရည် တိုးတက်မှုများသည် စနစ်များကို ထိန်းချုပ်နိုင်စေရန် မည်သူမဆို၏ စွမ်းရည်ကို ကျော်လွန်နေပါသည်။

အရေးကြီးသည်မှာ ဤသတိပေးချက်များသည် ထိပ်တန်းမှ ဗျူဟာမြောက် အငြင်းအခုံများပြုလုပ်သည့် အမှုဆောင်များထက် အလုပ်သုတေသီများထံမှ လာကြောင်း လေ့လာသူများက သတိပြုပါ။ Chughtai နှင့် Engels နှစ်ဦးစလုံးသည် ကမ္ဘာ့အနီးကပ် စောင့်ကြည့်မှုအရှိဆုံး နယ်နိမိတ်ဓာတ်ခွဲခန်းများအတွင်းတွင် ဤအန္တရာယ်များကို ကြိုတင်ခန့်မှန်းရန် အထူးတာဝန်ယူထားသော အဖွဲ့တွင် အလုပ်လုပ်ခဲ့ပြီး ၎င်းတို့နှစ်ဦးစလုံးသည် ၎င်းတို့ ဦးတည်ရာကို မယုံကြည်ကြောင်း မှတ်တမ်းတွင် နိဂုံးချုပ်ခဲ့သည်။

Google ၏ သုတေသနပြုမှုတွင် အရိပ်အယောင်ကို နှစ်ပေါင်းများစွာ တည်ဆောက်နေခဲ့သည်။ Fortune ၏အဆိုအရ DeepMind ၏ဆိုက်ရောက်မှုနှင့်ထွက်ခွာမှုအချိုးသည် 2023 ခုနှစ်တွင် 12-1 မှ 2026 ခုနှစ်တတိယသုံးလပတ်တွင် 2-1 ခန့်သို့ကျဆင်းသွားခဲ့ပြီး Jeff Dean၊ Sanjay Ghemawat၊ Noam Shazeer နှင့် နိုဘယ်ဆုရှင် John Jumper တို့အပါအဝင် ထင်ရှားသောပုဂ္ဂိုလ်များပါဝင်ပါသည်။ Anthropic သည် DeepMind မှ ထွက်ပြေးလာသူများ၏ အကြီးမားဆုံးဝေစုကို ဆွဲထုတ်ခဲ့သည်။

Google က နည်းနည်းပြောထားပါတယ်။ Chughtai ၏ပို့စ်များစတင်ပျံ့နှံ့လာသောအခါ DeepMind ပြောရေးဆိုခွင့်ရှိသူသည်ချက်ချင်းမှတ်ချက်ပေးရန်မရရှိနိုင်ကြောင်းသတင်းများအရသိရသည်နှင့်ကုမ္ပဏီသည်အင်္ဂါနေ့အထိလူသိရှင်ကြားတုံ့ပြန်ချက်ကိုထုတ်ပြန်ခြင်းမရှိပါ။

နိုင်ငံရေးသမားများနှင့် အမှုဆောင်များ ကွဲနေသေးသည်။

AI ဘေးကင်းရေး ဟောပြောချက်အတွက် ထူးထူးခြားခြား ရက်သတ္တပတ်တစ်ခု၏ အလယ်တွင် ရာထူးမှ နုတ်ထွက်လိုက်သည် ။ OpenAI ၏ Sam Altman၊ Google မှ Demis Hassabis နှင့် Elon Musk တို့က ထောက်ခံထားသည့် အနေအထားတွင် နယ်နိမိတ်ဖွံ့ဖြိုးမှုကို နှေးကွေးစေရန် စက်မှုလုပ်ငန်း၏ အမှုဆောင်ချုပ် Dario Amodei က စနေနေ့တွင် တောင်းဆိုခဲ့သည်။ The Guardian မှ ကျွမ်းကျင်သူ ခြောက်ဦးကို ယခုအပတ်တွင် ကျွမ်းကျင်သူ ခြောက်ဦးအား ဆန်းစစ်မေးမြန်းခဲ့ရာ သုတေသနအသိုက်အဝန်းမှ ပင်မဆွေးနွေးမှုသို့ မည်မျှအထိ ဝေးကွာသွားသည်ကို တိုင်းတာသည့် အတိုင်းအတာတစ်ခုအနေဖြင့် မည်ကဲ့သို့ အန္တရာယ်ရှိနိုင်သည်ကို ဖော်ထုတ်ရန် တောင်းဆိုခဲ့သည်။

အမေရိကန်သမ္မတ Donald Trump က Nvidia အမှုဆောင်အရာရှိချုပ် Jensen Huang ၏ လော့စ်အိန်ဂျလိစ်တွင် စင်မြင့်ပေါ်တက်ခြင်းကို အနှောင့်အယှက်ဖြစ်စေသည့် အံ့အားသင့်စရာ စပီကာဖုန်းခေါ်ဆိုမှုတွင် “အလိမ်အညာ” အဖြစ် သတိပေးချက်များကို ပယ်ချခဲ့သည်။ သုတေသီများ၏သတိပေးချက်များကို တိုက်ရိုက်မိန့်ခွန်းပြောကြားခဲ့သည့် Huang သည် ဆိုးရွားသောရှုထောင့်သည် သိပ္ပံပညာအပေါ် အခြေခံထားခြင်းမဟုတ်ကြောင်း တနင်္လာနေ့တွင် ပြောကြားခဲ့သည်။ မျိုးသုဉ်းရန် ခန့်မှန်းချက်များနှင့် နှောင့်နှေးမှု ခေါ်ဆိုမှုများ၏ ဆုံစည်းမှုသည် "ထိတ်လန့်စရာဖြစ်ပြီး နှောင့်ယှက်စရာဖြစ်ပြီး မလုပ်သင့်ပါ။ တာဝန်မဲ့ခြင်းဖြစ်သည်" ဟု ၎င်းက AFP အရ သိရသည်။ ရင်းနှီးမြုပ်နှံသူများ ဘေးကင်းရေး ဆွေးနွေးငြင်းခုံမှုကို ချိန်ဆနေသောကြောင့် Alphabet ရှယ်ယာများ ကျဆင်းသွားကြောင်း စျေးကွက်ဝေဖန်သုံးသပ်သူများက မှတ်ချက်ပြုခဲ့သည်။

Chughtai ၏ကိုယ်ပိုင်တောင်းဆိုချက်မှာ တိကျသည်- AI ကုမ္ပဏီများသည် ၎င်းတို့၏ယှဉ်ပြိုင်မှုပြိုင်ဆိုင်မှုကို နှေးကွေးစေကာ အမှန်တကယ် ပွင့်လင်းမြင်သာမှုရှိစေရန် တင်ပြကာ အရှိန်အဟုန်ဖြင့် ညှိနှိုင်းဆောင်ရွက်ပေးစေလိုသည် — မည်သည့်ဓာတ်ခွဲခန်းမှ အကြောက်ဆုံးအရာသည် မည်သည့်ဓာတ်ခွဲခန်းက သတ်မှတ်သည်ထက် နောက်ကျကျန်နေမည်နည်း။ ဒိုင်လူကြီးများကို ယခုတစ်ပတ်တွင် ပြတ်ပြတ်သားသား ရှင်းရှင်းလင်းလင်း ပြောကြားထားသော်လည်း လက်တွေ့ခန်းများရော နိုင်ငံရေးသမားများပါ စည်းမျဥ်းများဆိုင်ရာ သဘောတူညီရန် နီးစပ်မှုမရှိကြပေ။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →