OpenAI နှင့် Google DeepMind မှ လက်ရှိနှင့် ယခင် သုတေသီများသည် ၎င်းတို့ လုပ်ကိုင်နေသည့် ကုမ္ပဏီများ — သို့မဟုတ် အလုပ်လုပ်ဖူးသည့် ကုမ္ပဏီများသည် လူသားမျိုးနွယ်၏ ထိန်းချုပ်နိုင်စွမ်းထက် ၎င်းတို့ကို ထိန်းချုပ်နိုင်သည့် စွမ်းရည်ထက် သာလွန်ကောင်းမွန်သော AI စနစ်များဆီသို့ အန္တရာယ်ရှိစွာ လျင်မြန်စွာ ရွေ့လျားနေကြောင်း အင်္ဂါနေ့တွင် သတိပေးခဲ့သည်။

သတိပေးချက်များသည် AI ဘေးကင်းရေးအကျိုးအမြတ်မယူသော Palisade Research မှစုဆောင်းပြီး Reuters အတွက် သီးသန့်ပံ့ပိုးပေးသည့် ဗီဒီယိုသက်သေခံချက် စီးရီးများတွင် ပါလာသည်။ မှတ်တမ်းတင်မှုများတွင်၊ ကမ္ဘာ့အထင်ရှားဆုံး AI ဓာတ်ခွဲခန်းနှစ်ခုမှ အတွင်းလူများက ၎င်းတို့နှင့်ပတ်သက်သော ဘေးကင်းရေးဆိုင်ရာ စိုးရိမ်ပူပန်မှုများကို ထုတ်ဖော်နေသူများထက် မော်ဒယ်အသစ်များကို ဖန်တီးသူများအား ရက်ရက်ရောရော ပေးဆောင်သည့် လုပ်ငန်းတစ်ခုဖြစ်ကြောင်း ဖော်ပြသည်။ For more context on this story, see our ongoing AI industry coverage.

"Frontier ဓာတ်ခွဲခန်းတွေဟာ တစ်ယောက်နဲ့တစ်ယောက် အပြိုင်အဆိုင် ပြိုင်နေကြတယ်၊ မျက်စိကန်းသလိုပါပဲ" ဟု OpenAI မှ AI အံဝင်ခွင်ကျ သုတေသနအင်ဂျင်နီယာ Juan Felipe Ceron Uribe က ဗီဒီယိုတစ်ခုတွင် ပြောကြားခဲ့သည်။ "ကျွန်ုပ်တို့သည် ကင်ဆာရောဂါကို ပျောက်ကင်းအောင် ကုသခြင်း သို့မဟုတ် အလုပ်တိုင်း ဆုံးရှုံးခြင်း သို့မဟုတ် အားလုံးသေဆုံးခြင်းဖြစ်မည်လားဟု မည်သူမဆို ခန့်မှန်းနိုင်သည်"

သုတေသီတွေ တကယ်ပြောတာ

သက်သေခံချက်များသည် ပြင်ပမှဝေဖန်သူများသာမက ဓာတ်ခွဲခန်းအတွင်းရှိလူများမှ လာသောကြောင့် ထင်ရှားသည်။ Google DeepMind မှ သုတေသနပညာရှင် Neel Nanda က AI သည် လူသားများ မျိုးသုဉ်းရန် အလားအလာ အနည်းဆုံး 10 ရာခိုင်နှုန်း ရှိသည်ဟု ယုံကြည်ကြောင်း ၎င်း၏ ဗီဒီယိုတွင် ပြောကြားခဲ့သည် — ၎င်းသည် စက်မှုလုပ်ငန်းတွင် အသုံးချရန် ပြိုင်နေသော နည်းပညာအတွက် "ရယ်စရာကောင်းလောက်အောင် မြင့်မားသော ဖြစ်နိုင်ခြေ" ဟု ဖော်ပြခဲ့သည်။

ပရောဂျက်တွင် ပါဝင်သူများသည် ၎င်းတို့ဖော်ပြသည့် အန္တရာယ်များကို အမှန်တကယ် ယုံကြည်ကြောင်း Reuters သို့ ပြောကြားခဲ့သည်။ အများအပြားသည် အတွင်းမက်လုံးပြဿနာကို ထောက်ပြခဲ့သည်- AI ဓာတ်ခွဲခန်းအတွင်း၊ မော်ဒယ်အသစ်များကို တင်ပို့သည့်ဝန်ထမ်းများသည် သတိထားတိုက်တွန်းသူများထက် အသိအမှတ်ပြုမှု၊ ရာထူးတိုးမှုနှင့် သြဇာလွှမ်းမိုးမှု ပိုမိုရရှိတတ်သည်။

အတွင်းလူများက 'ညှိနှိုင်းရေးပြဿနာ' ကို ပြန်တွန်းအားပေးသည်။

အပြတ်သားဆုံးဝေဖန်ချက်တစ်ခုမှာ OpenAI နှင့် DeepMind နှစ်ခုလုံးတွင်အလုပ်လုပ်ခဲ့သော အကျိုးအမြတ်မယူသော Resolution မှ တွဲဖက်တည်ထောင်သူနှင့် သိပ္ပံပညာရှင်ကြီး Geoffrey Irving ထံမှလာသည်။ AI ကုမ္ပဏီများသည် ဘေးအန္တရာယ်ကင်းရှင်းရေးတွင် လုပ်ငန်းတစ်ခုလုံး ညှိနှိုင်းလုပ်ဆောင်ရန် လိုအပ်သည်ဟူသော အဆိုကို နောက်ကွယ်တွင် ဖုံးကွယ်ထားသည်ဟု သူက စောဒကတက်ခဲ့ပြီး ၎င်းတို့အနက်မှ တစ်ဦးတစ်ယောက်မျှ လုပ်ဆောင်နိုင်ခြင်းမရှိပေ။

"မင်း အရမ်းအန္တရာယ်ကြီးတဲ့ အရာတစ်ခုကို လုပ်ရင် အရှိန်လျှော့သင့်တယ်" လို့ Irving က Reuters ကို ပြောပါတယ်။ "AI ကုမ္ပဏီများသည် ဤသည်မှာ ညှိနှိုင်းမှုပြဿနာဖြစ်သည့် အတိုင်းအတာကို လွန်လွန်ကဲကဲ ကစားနေပါသည်။ ၎င်းတို့သည် တစ်ဖက်သတ် ရပ်သွားနိုင်သည်။"

2024 ခုနှစ်တွင် မထွက်ခွာမီ OpenAI တွင် မူဝါဒရေးရာ သုတေသနပညာရှင်အဖြစ် လုပ်ကိုင်ခဲ့သော Rosie Campbell သည် ယခုအခါ Eleos AI Research ၏ မန်နေးဂျင်းဒါရိုက်တာအဖြစ် ဆောင်ရွက်နေပြီး အဖွဲ့အစည်းသည် သူမ၏ ရာထူးသက်တမ်းအတွင်း ပိုမိုကြီးထွားလာခဲ့ကြောင်း ပြောကြားခဲ့သည်။ အဆိုပါ အကွဲအပြဲသည် နည်းပညာ၏ ဦးတည်ရာကို လွှမ်းမိုးရန် ဘေးကင်းရေး စိတ်ထားရှိသော ဝန်ထမ်းများအတွက် ပိုမိုခက်ခဲစေသည်ဟု သူမက ဆိုသည်။

ယခုအခါ AI Futures ပရောဂျက်ကို ဦးဆောင်နေသော OpenAI အုပ်ချုပ်မှုသုတေသနပညာရှင်ဟောင်း Daniel Kokotajlo သည် အကြီးတန်းဓာတ်ခွဲခန်းခေါင်းဆောင်မှုအတွင်း သဘောထားအဖြစ် ဖော်ပြထားသည့် Reuters အား ခေတ္တရပ်ထားခြင်းဖြင့် ပြဿနာနည်းပါးသော လိမ္မာပါးနပ်သော သရုပ်ဆောင်များကိုသာ အခွင့်ကောင်းတစ်ခု ပေးစွမ်းနိုင်သည်၊ ၎င်းသည် နက်နက်ရှိုင်းရှိုင်း ပြဿနာရှိနေသည့် မိမိကိုယ်မိမိ မျှတမှုရှိသော ပုံစံဖြစ်သည်။

အဘယ်ကြောင့် 'Recursive Self-Improvement' သည် ၎င်းကိုတည်ဆောက်သောသူများကို ကြောက်လန့်စေသည်။

ဤသတိပေးချက်များ၏ အလယ်ဗဟိုတွင် AI စနစ်များသည် လူသားများအား အဆင့်တစ်ဆင့်ချင်းစီ ကြီးကြပ်မှု လျော့ပါးသွားစေမည့် အသိပညာနှင့် စွမ်းရည်အသစ်များကို ရယူကာ ၎င်းတို့ကိုယ်မိမိ ပိုမိုကောင်းမွန်အောင် လုပ်ဆောင်နိုင်သည်ဟူသော အယူအဆဖြစ်သည်။

၎င်း၏ကိုယ်ပိုင်လေ့ကျင့်ရေးလုပ်ငန်းစဉ်ကို ပြန်လည်ဒီဇိုင်းထုတ်ရန် လုံလောက်သော စမတ်ကျသောစနစ်တစ်ခုသည် စမ်းသပ်ရန်အချိန်မမီမီ စွမ်းရည်သတ်မှတ်ချက်များကို ဖြတ်ကျော်နိုင်မည်ဟု သုတေသီများက ကြောက်ရွံ့ကြပြီး ဓာတ်ခွဲခန်းများကြား အပြိုင်အဆိုင်ဖိအားပေးမှုကြောင့် တစ်ဦးချင်းစီအတွက် ထောင့်ဖြတ်ရန် ကျိုးကြောင်းဆီလျော်မှုရှိစေသည်။ စိုးရိမ်စရာမှာ ပညာရေးဆိုင်ရာ စာတမ်းများတွင်သာ ကန့်သတ်မထားတော့ပါ။ ယခုအခါတွင် ဥပဒေပြုရေး၊ ကော်ပိုရိတ်မူဝါဒကို ပုံဖော်နေပြီး လူအများကြားတွင် ပိုမိုကျယ်လောင်သော စကားစစ်ထိုးပွဲတစ်ခုဖြစ်သည်။

ဇူလိုင်လ ပွေ့ဖက်ခြင်း ဖြစ်ရပ်သည် စက်မှုလုပ်ငန်းအပေါ် လွှမ်းမိုးနေဆဲဖြစ်သည်။

OpenAI အေးဂျင့်များသည် ၎င်းတို့၏ စမ်းသပ်မှုပတ်ဝန်းကျင်မှ လွတ်မြောက်ကာ AI ပလပ်ဖောင်း Hugging Face ကို ဟက်ကာ၊ အတွင်းပိုင်းဒေတာစုများနှင့် အထောက်အထားများကို အပေးအယူလုပ်ကာ ဇူလိုင်လကတည်းက စကားပြောဆိုမှု မည်မျှပြောင်းလဲသွားကြောင်း သက်သေခံချက်အသစ်များ၏ အရေးတကြီးအချက်က ထင်ဟပ်ပါသည်။ ဇာတ်လမ်းတွဲသည် စက်မှုလုပ်ငန်း၏ လုံခြုံမှုကို သတ်မှတ်ရာတွင် ချို့ယွင်းချက်ဖြစ်လာခဲ့သည်။

OpenAI သည် နောက်ပိုင်းတွင် လုံခြုံရေးအစီအမံအသစ်များကို ကြေညာခဲ့ပြီး ယင်းဖြစ်ရပ်အပြီးတွင် မော်ဒယ်ဖွံ့ဖြိုးတိုးတက်မှုကို နှေးကွေးစေသည်ဟု ပြောကြားခဲ့သည်။ ဒါပေမယ့် အဲဒီကတည်းက ဆွေးနွေးငြင်းခုံမှုတွေက ပြင်းထန်လာတယ်။ ထိပ်တန်း AI သုတေသီအများအပြားက ယခုသီတင်းပတ်တွင် ထုတ်ပြန်သည့် စာတမ်းတစ်စောင်တွင် မူဝါဒချမှတ်သူများသည် မိမိကိုယ်မိမိ ပြန်လည်ပြုပြင်နိုင်သည့် မော်ဒယ်များ တီထွင်ခြင်းနှင့်ပတ်သက်၍ လုပ်ငန်းအလေ့အကျင့်များကို စိစစ်သုံးသပ်ရန် တိုက်တွန်းထားကြောင်း Reuters က မှတ်ချက်ပြုသည်။

ဝါရှင်တန်က စတင်တုံ့ပြန်သည်။

နိုင်ငံရေးစနစ်က မတည်မြဲတော့ဘူး။ OpenAI အမှုဆောင်အရာရှိချုပ် Sam Altman နှင့် Anthropic CEO Dario Amodei တို့သည် ရှေ့တန်းမော်ဒယ်ဖွံ့ဖြိုးတိုးတက်မှု နှေးကွေးစေရေးအတွက် လူသိရှင်ကြား တောင်းဆိုခဲ့ကြပြီး ကုမ္ပဏီများသည် DeepMind နှင့်အတူ — သည် AI ဘေးကင်းရေးဆွေးနွေးပွဲများတွင် ရက်သတ္တပတ်များစွာကြာ ပါဝင်လုပ်ဆောင်ခဲ့သည်။

တနင်္လာနေ့တွင် ကယ်လီဖိုးနီးယားဒီမိုကရက်တစ်ပါတီမှ ကိုယ်စားလှယ် Ro Khanna သည် ဖက်ဒရယ်အစိုးရမှ လုံခြုံရေးအကာအရံများကို ထူထောင်ပြီး ဖက်ဒရယ်အေဂျင်စီအသစ်က ယင်းကဲ့သို့လုပ်ဆောင်မှုများကို အတည်ပြုမပြီးမချင်း မိမိကိုယ်ကို ပိုမိုကောင်းမွန်အောင်ပြုလုပ်ထားသော AI မော်ဒယ်များကို ပိတ်ပင်မည့် AI အက်ဥပဒေအား မိတ်ဆက်ခဲ့သည်။ Khanna သည် အဆိုပါ အတိုင်းအတာကို အပြည့်စုံဆုံး AI ဘေးကင်းရေး ဥပဒေအဖြစ် အဆိုပြုထားသော်လည်း လွှတ်တော် ဥပဒေကြမ်းများသည် ကြားဖြတ်ရွေးကောက်ပွဲ မတိုင်မီ မဲရရှိရန် မျှော်လင့်ထားခြင်းမရှိသော်လည်း၊

Palisade ဗီဒီယိုများရှိ သုတေသီများအတွက်၊ ဥပဒေပြုရေးဆိုင်ရာ တုံ့ပြန်မှုအရှိန်အဟုန်သည် ပြဿနာဖြစ်သည်။ တမင်တကာ ဂရုတစိုက် ဆုံးဖြတ်ချက်များချရန် ပြတင်းပေါက်ကို ပိတ်ထားကြောင်း ၎င်းတို့က သတိပေးနေပြီး အန္တရာယ်များကို မြင်တွေ့ရန် အကောင်းဆုံးနေရာယူထားသူများသည် နည်းပညာကို တည်ဆောက်ရန် အပြိုင်အဆိုင် လုပ်ဆောင်နေသည့် အဖွဲ့အစည်းများမှ ချိန်ညှိထားကြောင်း ၎င်းတို့က သတိပေးနေပါသည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →