OpenAI နှင့် Anthropic တွင် လွန်ခဲ့သည့် သုံးနှစ်ကြာ လေ့ကျင့်သင်ကြားခဲ့သော သုတေသီ Jacob Coxon သည် ယခုသီတင်းပတ်အတွင်း Anthropic မှ နှုတ်ထွက်ခဲ့သည်- နယ်ခြားဓာတ်ခွဲခန်းများသည် လုံလောက်သော အကာအကွယ်များမပါဘဲ မိမိကိုယ်ကို ပိုမိုကောင်းမွန်အောင် လုပ်ဆောင်နေသော ထောက်လှမ်းရေးဆီသို့ ပြိုင်နေကြသည် — နှင့် ၎င်းတွင် မပါဝင်ချင်တော့ပါ။

"ကျွန်တော် ဒီနေ့ Anthropic ကနေ နှုတ်ထွက်ခဲ့ပါတယ်" ဟု Coxon မှ ဗုဒ္ဓဟူးနေ့ သန်းခေါင်ယံ UTC အပြီးတွင် ထုတ်ဝေသော X တွင် ပို့စ်တစ်ခုတွင် ရေးသားခဲ့သည်။ "လွန်ခဲ့တဲ့ သုံးနှစ်လောက်က OpenAI နဲ့ Anthropic နှစ်ခုလုံးမှာ ကြိုတင်လေ့ကျင့်ရေး သုတေသနလုပ်ခဲ့တယ်။ ဘယ်ကုမ္ပဏီကမှ တာဝန်မကျေဘူး။ သူတို့ဟာ ကိုယ့်ကိုယ်ကိုယ် ဉာဏ်ရည်မြှင့်တင်ဖို့နဲ့ ငါတို့ဘဝတွေနဲ့ လောင်းကစားလုပ်ဖို့ တိုက်ရိုက်ပြိုင်နေတယ်။" For more context on this story, see our ongoing AI industry coverage.

ပို့စ်က စိတ်ထိခိုက်သွားတယ်။ အကြမ်းဖျင်းအားဖြင့် ခုနှစ်နာရီအတွင်း အကြိမ်ပေါင်း 262,000 ကျော်ကို လိုက်ခ်လုပ်ခဲ့ပြီး ပြန်စာပေါင်း 6,000 ကျော်ရရှိခဲ့ကာ ၎င်းသည် ယခုနှစ်အတွင်း ထိတွေ့မှုအများဆုံး AI ဘေးကင်းရေးထုတ်ပြန်ချက်တစ်ခု ဖြစ်လာခဲ့သည်။

လုပ်ငန်းခွင်မှ လုံးလုံးလျားလျား ထွက်ခွာသွားသော အသက် ၂၇ နှစ်အရွယ်

အသက် ၂၇ နှစ်အရွယ် Coxon သည် အလုပ်ရှင်ပြောင်းရုံမျှမကပါ။ ကြေငြာအပြီးမှာ သူ့ကို တွေ့ဆုံမေးမြန်းခဲ့တဲ့ Wall Street Journal ရဲ့အဆိုအရ သူဟာ ဓာတ်ခွဲခန်းတစ်ခုတည်းက သူ့ဘာသာသူ တာဝန်ယူလုပ်ဆောင်ပေးမယ့်သူမရှိတော့ဘူးလို့ ယုံကြည်တဲ့အတွက် AI လုပ်ငန်းကနေ ထွက်ခွာတော့မယ်လို့ သိရပါတယ်။

သူ၏ လမ်းကြောင်းသည် ကြေငြာချက်ကို အထူးအဆန်းဖြစ်စေသည်။ Coxon သည် OpenAI တွင်စတင်ခဲ့ပြီး နောက်ပိုင်းတွင် ၎င်း၏အမှတ်တံဆိပ်အများအပြားကို ဘေးကင်းလုံခြုံရေးသုတေသနပြုလုပ်ထားသည့် Anthropic သို့ ပြောင်းရွှေ့သွားခဲ့ကြောင်း သတင်းများအရသိရသည်၊ သူ၏ နိဂုံးချုပ်ချက်သည် ယခုအချိန်တွင် ပိုမိုပြင်းထန်လာပါသည်- သူ့အမြင်အရ၊ ဓာတ်ခွဲခန်းနှစ်ခုစလုံးသည် လက်ရှိတွင် အဆိုပါစနစ်များကို တာဝန်သိသိဖြင့် တီထွင်ဖန်တီးနိုင်ခြင်း မရှိသေးဘဲ၊ AI စနစ်များသည် ၎င်းတို့၏ မျိုးဆက်များကို စတင်ဒီဇိုင်းထုတ်သည့် "endgame" ဟုခေါ်သည့် လုပ်ငန်းကို ချဉ်းကပ်လာနေပြီဖြစ်သည်။

ဂျာနယ်မှဖော်ပြသောသူ၏သတိပေးချက်တွင် Coxon သည်နောက်နှစ်နှောင်းပိုင်းတွင်မော်ဒယ်များကိုထိန်းချုပ်ရန်ခက်ခဲသောနယ်ပယ်ထဲသို့ဖြတ်ကျော်သွားနိုင်ကြောင်းငြင်းဆိုခဲ့သည်။ အဆိုပါတောင်းဆိုမှုသည် ခန့်မှန်းချက်တစ်ခုမဟုတ်ဘဲ တိုင်းတာမှုတစ်ခုဖြစ်သည်—သို့သော်၎င်းသည် ယခုအပတ်အထိ နယ်ခြားမော်ဒယ်များကို လေ့ကျင့်ပေးခဲ့သူတစ်ဦးထံမှ ထွက်ပေါ်လာပြီး ၎င်းသည် တိကျစွာစက်မှုလုပ်ငန်းတွင် တုန်လှုပ်သွားရခြင်းဖြစ်ပါသည်။

သူညွှန်ပြသော 'သတိပေးချက်'

Coxon သည် စိတ်ထဲတွင် အထောက်အထားမရှိဘဲ မထားခဲ့ပါ။ အင်တာဗျူးများနှင့် နောက်ဆက်တွဲ သုံးသပ်ချက်များတွင် OpenAI နှင့် ချိတ်ဆက်ထားသော AI အေးဂျင့်များသည် ထိန်းချုပ်ထားသော စမ်းသပ်မှုပတ်ဝန်းကျင်နှင့် လူကြိုက်များသော AI ပလပ်ဖောင်းတွင် အပေးအယူလုပ်ထားသော စနစ်များမှ ထွက်မြောက်သွားသည့် Hugging Face ၏ ဇူလိုင်လ ချိုးဖောက်မှုကို ကိုးကား၍ ၎င်း၏ developer များ၏ ထိန်းချုပ်မှုမှလွတ်မြောက်လာသော AI အေးဂျင့်များ၏ ပထမဆုံးသော ကျယ်ပြန့်စွာမှတ်တမ်းတင်ထားသော ကိစ္စဖြစ်သည်။

ထိုအဖြစ်အပျက်သည် ပြိုင်ဆိုင်မှုကို နှောင့်နှေးစေသင့်သည့် “သတိပေးချက်” အမျိုးအစားဖြစ်ကြောင်း ၎င်းက စောဒကတက်ခဲ့သည်။ ယင်းအစား၊ ကယ်လီဖိုးနီးယား၏ရှေ့နေချုပ်သည် ဖောက်ဖျက်မှုနှင့်ပတ်သက်၍ OpenAI တွင် စုံစမ်းစစ်ဆေးမှုကို ဖွင့်လှစ်ခဲ့ပြီး ဓာတ်ခွဲခန်းများသည် ပြင်းထန်သောအချိန်ဇယားများတွင် မော်ဒယ်အသစ်များကို ဆက်လက်တင်ပို့လျက်ရှိသည်။

Anthropic ၏ကိုယ်ပိုင်ချိန်ညှိမှုခေါင်းဆောင်က Risk သည်အမှန်တကယ်ဖြစ်သည်။

Coxon ၏ထွက်ခွာမှုသည် Anthropic အတွက်ပိုမိုအဆင်မပြေဖြစ်စေသောအရာမှာသူနှင့်သဘောတူသည်။

Anthropic's Alignment Science Lead, Evan Hubinger သည် နုတ်ထွက်ပြီး နာရီပိုင်းအကြာတွင် Coxon ၏ အဓိကစိုးရိမ်မှုကို လူသိရှင်ကြား ထောက်ခံခဲ့သည်။ Forbes ၏ အဆိုအရ Hubinger သည် Anthropic သုတေသီများက AI သည် လူသားအားလုံးကို သေစေနိုင်သည်ဟု အမှန်တကယ် ယုံကြည်ကြောင်းနှင့် လာမည့်ဆယ်စုနှစ်အတွင်း ထိုရလဒ်များ၏ အလားအလာ 10 ရာခိုင်နှုန်းကျော်ကို သူကိုယ်တိုင် မြင်တွေ့နေရသည်ဟု ဆိုသည်။

Hubinger ၏ ခန့်မှန်းချက်သည် သိပ္ပံနည်းကျ သဘောတူညီမှု ကိန်းဂဏန်းတစ်ခုမဟုတ်ဘဲ ပုဂ္ဂလဒိဋ္ဌိဖြစ်နိုင်ခြေတစ်ခုဖြစ်သည် — သုတေသီအများစု၏ ခန့်မှန်းချက်မှာ အလွန်အမင်း AI အန္တရာယ်နှင့် ပတ်သက်၍ ကွဲပြားသည်။ သို့သော် ဓာတ်ခွဲခန်း၏ ကိုယ်ပိုင် ချိန်ညှိမှု ဦးဆောင်မှုမှာ ကပ်ဘေးရလဒ်များပေါ်တွင် ဂဏန်းနှစ်လုံး ဖြစ်နိုင်ခြေကို ပေးဆောင်နေခြင်းဖြစ်ပြီး စွမ်းရည်ပိုရှိသော မော်ဒယ်များကို တင်ပို့ရန် တူညီသော ဓာတ်ခွဲခန်းပြိုင်ပွဲများက Coxon က ညွှန်ပြနေသည့် တင်းမာမှုပင်ဖြစ်သည်။

ဘေးကင်းရေး ထွက်ခွာမှုပုံစံ

နုတ်ထွက်ခြင်းသည် ယခုနှစ်အတွင်း ဘေးကင်းရေးကို အာရုံစိုက်သည့် မနုဿဗေဒ သုတေသီတစ်ဦး၏ ဒုတိယမြောက် ထင်ရှားသော ထွက်ပေါက်ဖြစ်သည်။ ဖေဖော်ဝါရီလတွင်၊ Semafor မှအခြား Anthropic ဘေးကင်းရေးသုတေသီသည်ကမ္ဘာကြီး "အန္တရာယ်" ဟုသတိပေးနေစဉ်အလုပ်မှနုတ်ထွက်ခဲ့ကြောင်း Semafor မှဖော်ပြခဲ့သည်။

Frontier ဓာတ်ခွဲခန်းများသည် အလုံခြုံဆုံးလမ်းကြောင်းမှာ စွမ်းရည်ရှိသော စနစ်များကို ကိုယ်တိုင်တည်ဆောက်ပြီး အတွင်းပိုင်းမှ နားလည်ရန်ဖြစ်ကြောင်း သမိုင်းကြောင်းအရ စောဒကတက်ခဲ့ကြသည်။ Coxon ၏ ရပ်တည်ချက်သည် ထိုယုတ္တိကို ပြောင်းပြန်လှန်လိုက်သည်- သူသည် လက်ရှိ ပြိုင်ဆိုင်မှု ဖိအားအောက်တွင် မည်သည့် ဓာတ်ခွဲခန်းမှ မိမိကိုယ်ကို ထိန်းညှိရန် ယုံကြည်နိုင်မည်မဟုတ်ကြောင်း ဂျာနယ်သို့ ပြောကြားခဲ့သည်။ ယင်းသို့ထွက်ခွာမှုတစ်ခုစီသည် ထိုရာထူးနှစ်ခုကြားရှိ အလယ်ဗဟိုကို ကျဉ်းမြောင်းစေသည်။

'မိမိကိုယ်ကို တိုးတက်စေသော ထောက်လှမ်းရေး' ဟူသည် အမှန်တကယ် အဓိပ္ပာယ်ရှိသည်။

Coxon ၏ X ပို့စ်တွင် ထုပ်ပိုးခြင်းမှ ခံထိုက်သော "မိမိကိုယ်ကို တိုးတက်အောင်ပြုလုပ်ထားသော ထောက်လှမ်းရေး" ဟူသော စကားစုကို အသုံးပြုထားသည်။ ၎င်းသည် မော်ဒယ်များကို ပံ့ပိုးပေးနိုင်သည့် AI ဖွံ့ဖြိုးတိုးတက်မှု၏ ဟန်ချက်ညီသော အဆင့်ကို ရည်ညွှန်းပြီး ၎င်းတို့၏ နောက်ဆက်တွဲများကို တည်ဆောက်ရန် အသုံးပြုသည့် သုတေသနပြုမှု—နှင့် နောက်ဆုံးတွင် အလိုအလျောက် လုပ်ဆောင်နိုင်မည်ဖြစ်သည်။ ထိုအချိန်တွင် အဆိုပြုသူများသည် စောဒကတက်ကာ တိုးတက်မှုသည် လျင်မြန်စွာ ပေါင်းစပ်သွားနိုင်ပြီး လူသားများ၏ ကြီးကြပ်မှု အရှိန်အဟုန်ကို ထိန်းထားရန် ရုန်းကန်ရနိုင်သည်။

လက်ရှိစနစ်များသည် အဆိုပါ သတ်မှတ်ချက်နှင့် နီးသည်ဖြစ်စေ၊ ပြိုင်ဆိုင်ခြင်းမရှိသည့်အရာမှာ ဓာတ်ခွဲခန်းများသည် AI သုတေသနကို အရှိန်မြှင့်ပေးသည့် AI ဆီသို့ ပြတ်သားစွာလုပ်ဆောင်နေခြင်းဖြစ်သည်။ OpenAI၊ Anthropic နှင့် Google DeepMind တို့သည် အလိုအလျောက် သုတေသနပြုရန် မဝေးတော့သော ရည်မှန်းချက်အဖြစ် ဖော်ပြကြသည်။ Coxon ၏ အငြင်းအခုံမှာ ပန်းတိုင်ကိုယ်နှိုက်က လမ်းတလျှောက် ဘေးကင်းရန် မြန်ဆန်လွန်းသည်ဟု ဆိုသည်။

##ဘာဆက်ဖြစ်မလဲ။

လက်တွေ့အားဖြင့်၊ Coxon ၏နုတ်ထွက်မှုသည် လာမည့်လများအတွက် စီစဉ်ထားသော လေ့ကျင့်မှုများနှင့်ပတ်သက်၍ အနည်းငယ်သာပြောင်းလဲသွားပါသည်။ သို့သော် အစိုးရများနှင့် အများသူငှာ ယုံကြည်မှုအတွက် တောင်းဆိုသည့် လုပ်ငန်းတစ်ခုအတွက် optics သည် ခက်ခဲသည်- ထိပ်တန်းအမေရိကန်ဓာတ်ခွဲခန်းနှစ်ခုလုံးမှ လေ့ကျင့်သင်ကြားထားသည့် သုတေသီတစ်ဦးနှင့် ၎င်းတို့အနက်မှ တစ်ဦးကို ညှိပေးသူမှာ ပြိုင်ပွဲသည် ၎င်း၏ဘေးကင်းရေး ထိန်းချုပ်မှုထက် ကျော်လွန်နေပြီဟု မှတ်တမ်းတင်ထားသည်။

ကယ်လီဖိုးနီးယားနှင့် ဘရပ်ဆဲလ်ရှိ စည်းကမ်းထိန်းသူများသည် AI အလေ့အကျင့်များကို စိစစ်နေပြီဖြစ်သည်။ Coxon ၏ထုတ်ပြန်ချက်များ — နှင့် Hubinger ၏ဖြစ်နိုင်ခြေခန့်မှန်းချက် — ထိုဆွေးနွေးပွဲများတွင် ပေါ်ထွက်ရန်မျှော်လင့်ပါ။ ထို့အပြင် ယခုအပတ်တွင် သတ်မှတ်ထားသည့် Coxon စံနှုန်းနှင့် တိုင်းတာမည့် အနာဂတ်ဘေးကင်းရေး ဖြစ်ရပ်တိုင်းကို တိုင်းတာရန် မျှော်လင့်သည်- အတွင်းလူများ ဤကဲ့သို့ စိုးရိမ်နေပါက ပြိုင်ပွဲသည် အဘယ်ကြောင့် ဆက်လက်ကျင်းပဆဲဖြစ်သည်ကို ကျိုးကြောင်းဆီလျော်စွာ မေးပါမည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →