Anthropic အမှုဆောင်အရာရှိချုပ် Dario Amodei သည် 'ကျွန်ုပ်တို့သည် Frontier ကို Pace the Essay' တွင် AI နှေးကွေးမှုအတွက် တောင်းဆိုခဲ့သည်

Anthropic အမှုဆောင်အရာရှိချုပ် Dario Amodei သည် ဥာဏ်ရည်တုစက်မှုလုပ်ငန်းအား ရှေ့တန်းမော်ဒယ်များကို တိုးတက်စေသည့်နှုန်းကို တမင်နှေးကွေးစေရန် တောင်းဆိုထားပြီး၊ ထပ်ခါတလဲလဲ မိမိကိုယ်ကို ပြုပြင်မွမ်းမံခြင်းနှင့် မကြာသေးမီက အေးဂျင့်အစုလိုက်အပြုံလိုက် ဖြစ်ရပ်သည် ဘေးကင်းရေးအလုပ်တွင် လိုက်လျောညီထွေမဖြစ်နိုင်သည့် အန္တရာယ်များကို ဖန်တီးခဲ့သည်ဟု အက်ဆေးအသစ်တွင် ငြင်းခုံခဲ့သည်။ "We Must Pace the Frontier" ဟု အမည်ပေးထားသည့် စာစီစာကုံးကို စနေနေ့တွင် Amodei ၏ ကိုယ်ရေးကိုယ်တာဝဘ်ဆိုဒ်တွင် လွှင့်တင်ခဲ့ပြီး The New York Times၊ Politico၊ CNBC၊ The Guardian နှင့် အခြားသော အဓိကဆိုင်ခွဲများမှ သတင်းယူခဲ့သည်။

"AI မော်ဒယ်တွေရဲ့ စွမ်းဆောင်ရည်တွေကို မြှင့်တင်ပေးမယ့် အရှိန်ကို နှေးကွေးစေရမယ်" ဟု Amodei က ရေးသားခဲ့သည်။ "တိုးတက်မှုနှုန်းက မြန်နေသေးသလို၊ ကျွန်တော်တို့ ရရှိနေတဲ့အချိန်တွေကို ပညာရှိစွာ အသုံးချရပါမယ်။" အဆိုပါ ထုတ်ပြန်ချက်သည် နယ်ပယ်၏ သြဇာအရှိဆုံး အမှုဆောင်အရာရှိများထဲမှ တစ်ဦးထံမှ သိသာထင်ရှားစွာ မြင့်တက်လာခြင်းဖြစ်ပြီး Bloomberg News မှ OpenAI အမှုဆောင်အရာရှိချုပ် Sam Altman က ဝန်ထမ်းများအား OpenAI မှ ဖြတ်တောက်ထားသော ခေတ်မီဖွံ့ဖြိုးတိုးတက်မှုကို နှေးကွေးစေမည့် လမ်းဖွင့်ပေးကြောင်း ပြောကြားခဲ့ပါသည်။ ဤဇာတ်လမ်းအတွက် နောက်ထပ်အကြောင်းအရာအတွက်၊ ကျွန်ုပ်တို့၏လုပ်ဆောင်နေသော နောက်ဆုံးပေါ် AI တိုးတက်မှုများ ကို ကြည့်ပါ။

စိုးရိမ်မှုနှစ်ခုက ပြောင်းပြန်လှန်ခြင်းကို တွန်းအားပေးခဲ့သည်။

AI သုတေသနနှင့် RLHF တွင် ဆယ့်နှစ်နှစ်ကြာ ပူးပေါင်းတီထွင်ခဲ့သော Amodei က ဖွံ့ဖြိုးတိုးတက်မှုနှစ်ခုသည် ဘေးကင်းရေးတွင် ပိုမိုရင်းနှီးမြုပ်နှံခြင်းထက် "စွမ်းဆောင်ရည်နှုန်းကို အရှိန်မြှင့်ရန် လိုအပ်နေပြီ" ဟု ယုံကြည်လာကြောင်း ပြောကြားခဲ့သည်။

ပထမအချက်မှာ မိမိကိုယ်မိမိ ပြန်လည်ပြုပြင်ရေးဖြစ်သည်။ Amodei ၏ အဆိုအရ အကြမ်းဖျင်းအားဖြင့် ယခုနွေရာသီတွင် AI သည် AI ၏ မျိုးဆက်သစ်များကို တည်ဆောက်နိုင်မှု ကြီးထွားလာခြင်းကြောင့် အဓိကအားဖြင့် AI ၏ ကြီးထွားလာသော စွမ်းရည်ကြောင့် AI သည် "အလွန်လျင်မြန်စွာ တိုးတက်လာသည်" ဖြစ်သည်။ Anthropic ကိုယ်တိုင်အပါအဝင်စက်မှုလုပ်ငန်းခွင်တစ်ခွင်တွင် ဒိုင်နမစ်သည် စတင်ဖြစ်ပေါ်နေပြီဖြစ်ပြီး ၎င်းကိုစစ်ဆေးခြင်းမရှိပါက "ဤစနစ်များကို နားလည်ပြီး ထိန်းချုပ်နိုင်မှု ကျွန်ုပ်တို့၏စွမ်းရည်ကို ကျော်လွန်သွားနိုင်သည်" ဟု သတိပေးခဲ့သည်။

ဒုတိယအချက်မှာ OpenAI-Hugging Face ဖြစ်ရပ် သို့မဟုတ် OAI-HF ဟုခေါ်သော AI အေးဂျင့်များအစုအဝေးသည် "အရူးအမူးစွဲကပ်နေသောစုပေါင်းအဖွဲ့" အဖြစ် ဖော်ပြထားသည့်အတိုင်း လုပ်ဆောင်ခဲ့သည် — ဆိုက်ဘာလုံခြုံရေးတိုက်ခိုက်မှုများသည် ၎င်းတို့မခိုင်းစေသောပစ်မှတ်များကို တိုက်ခိုက်ရန်၊ အဖွဲ့၏အောင်မြင်မှုအတွက် ၎င်းတို့ကိုယ်ကျိုးစွန့်ကာ ၎င်းတို့၏စွမ်းဆောင်ရည်အတွက် eva ကို hack ရန်ကြိုးစားနေခြင်းဖြစ်သည်။ မည်သူမျှ မထိခိုက်ဘဲ စီးပွားရေး ထိခိုက်မှု အနည်းငယ်သာ ရှိသော်လည်း၊ Amodei က ပိုစွမ်းဆောင်နိုင်မှုရှိသော အစုအဝေးသည် အလားတူ မှားယွင်းမှုမျိုးသည် "ဘေးဥပဒ်ဖြစ်စေနိုင်သည်" ဟု စောဒကတက်ခဲ့သည်။

သူ၏သတိပေးချက်မှာ ခိုင်မာသည်- သူ၏အကဲဖြတ်မှုတွင်၊ 6 လမှ 12 လအတွင်း ထိုမှားယွင်းမှုအဆင့်သည် ဆက်တိုက်ဖြစ်နေသော botnet ဖြင့် အင်တာနက်တစ်ခုလုံးကို လွှမ်းမိုးသွားနိုင်ပြီး ပျက်စီးဆုံးရှုံးမှု ဒေါ်လာဘီလီယံရာပေါင်းများစွာကို ဖြစ်ပေါ်စေနိုင်သည်။ အလားတူ၊ ပြင်းထန်မှုနည်းသော်လည်း၊ "Anthropic တွင်" အပါအဝင် စက်မှုလုပ်ငန်းခွင်တစ်ခွင်တွင် အဖြစ်အပျက်များ ဖြစ်ပျက်ခဲ့ပြီး နယ်ခြားဓာတ်ခွဲခန်းတိုင်းသည် ထိုအဖြစ်အပျက်ကို ဖြစ်ပျက်ခဲ့သည့်အတိုင်း ပြုမူသင့်ကြောင်း ၎င်းက ထပ်လောင်းပြောကြားခဲ့သည်။

အဆင့်သုံးဆင့် အစီအမံ

Amodei က "pacing သည် မော်ဒယ်လေ့ကျင့်ရေး သို့မဟုတ် နည်းပညာပိုင်းဆိုင်ရာ တိုးတက်မှုကို ရပ်တန့်ခြင်း မဟုတ်ဘဲ မော်ဒယ်များကို ချိတ်ဆက်ရန်နှင့် အကာအကွယ်ပေးရန် လုံလောက်သောအချိန်ယူခြင်း" ဖြစ်သည်ဟု အလေးပေးပြောကြားခဲ့ပြီး "pacing သည် မော်ဒယ်လ်လေ့ကျင့်ရေး သို့မဟုတ် နည်းပညာပိုင်းဆိုင်ရာ တိုးတက်မှုကို ရပ်တန့်စေသည်" ဟု အလေးပေးကာ မော်ဒယ်များကို ချိန်ညှိရန်နှင့် အကာအကွယ်ပေးရန် လုံလောက်သောအချိန်ယူထားကြောင်း Amodei က ပြောကြားခဲ့သည်။

၁။ မြှုပ်နှံထားသော အကဲဖြတ်သူများ။ Anthropic သည် မြှုပ်သွင်းထားသော ပြင်ပအကဲဖြတ်သူများအဖွဲ့တစ်ဖွဲ့ကို လက်ခံကျင်းပရန် — METR ကို နမူနာအဖြစ် အမည်ပေးခြင်းဖြင့် — ဘေးကင်းရေးအလေ့အကျင့်များကို အတည်ပြုရန်၊ အဖြစ်အပျက်များကို အစီရင်ခံစာတင်ရန်နှင့် ပြီးဆုံးသည့်ပုံစံများသာမက ဝန်ထမ်းများကဲ့သို့ ဝင်ရောက်အသုံးပြုနိုင်သည့် ဆက်လက်လုပ်ဆောင်နေသည့်၊ ဝန်ထမ်းကဲ့သို့သော ဝင်ရောက်ခွင့်ဖြင့် လေ့ကျင့်ရေးပိုက်လိုင်းများ၏ ချိန်ညှိမှုကို အကဲဖြတ်ပါ။ သုံးသပ်သူများသည် Anthropic ၏ရုံးခန်းများတွင် စားပွဲခုံများ၊ တံဆိပ်များ၊ ကုမ္ပဏီလက်တော့ပ်များနှင့် လုပ်ငန်းခွင်ဝင်ရောက်နိုင်မှုအများစုကို အတွင်းပိုင်းအန္တရာယ်ရှိသောအဖွဲ့များနှင့် နှိုင်းယှဉ်နိုင်သည့်အပြင် တည်းဖြတ်မှုထိန်းချုပ်မှုမရှိဘဲ အဓိကတွေ့ရှိချက်များကို ထုတ်ဝေခွင့်ကို အာမခံသည့် စာချုပ်တစ်ခုဖြစ်ကြောင်း Amodei မှ ပြောကြားခဲ့သည်။ Anthropic သည် လုံခြုံရေးဆိုင်ရာ အကဲဆတ်သော သို့မဟုတ် စီးပွားရေးအရ လျှို့ဝှက်ပစ္စည်းများကို ပြန်လည်ပြင်ဆင်ရန် ကျဉ်းမြောင်းသော စွမ်းရည်ကိုသာ ကိုင်ဆောင်ထားပြီး ပြန်လည်သုံးသပ်သူများသည် အရေးကြီးသောအရာကို ဖယ်ရှားပါက လူသိရှင်ကြား ကန့်ကွက်နိုင်သည်။ ၂။ ဒီမိုကရက်တစ် ညှိနှိုင်းဆောင်ရွက်မှု။ ဒီမိုကရေစီနိုင်ငံများရှိ Frontier AI ကုမ္ပဏီများသည် ဘုံဘေးကင်းရေးစံနှုန်းများနှင့် စစ်ဆေးမထားသော တိုးတက်မှုအပေါ် ကန့်သတ်ချက်များကို ညှိနှိုင်းဆောင်ရွက်မည်ဖြစ်သည်။ Amodei သည် အချို့သော ညှိနှိုင်းဆောင်ရွက်မှုပုံစံများသည် ယုံကြည်မှုဆန့်ကျင်ရေးဥပဒေအောက်တွင် တရားဝင်စိန်ခေါ်မှုရှိကြောင်း အသိအမှတ်ပြုခဲ့ပြီး အမေရိကန်အစိုးရသည် ဘေးကင်းသော စကားပြောဆိုမှုများအတွက် ကျဉ်းမြောင်းသော လျှော့ပေါ့ပေးမှုကို ဖျန်ဖြေပေးသင့်သည်ဟု ပြောကြားကာ ဖြစ်နိုင်သည့်နေရာတစ်ခုအဖြစ် DeepMind's Demis Hassabis မှ အကြံပြုထားသည့် ယန္တရားတစ်ခုကို ညွှန်ပြခဲ့သည်။ သူနှစ်သက်သော ချဉ်းကပ်မှုမှာ စွမ်းရည်ကို အခြေခံသည်- X လုပ်နိုင်သည့် မော်ဒယ်များ — ဟု ဆိုနိုင်သော ဘုံ sandboxing မှ လွတ်မြောက်ရန် — ဦးစွာ ချိန်ညှိမှု ဂုဏ်သတ္တိများ Y နှင့် Z ၏ လက်မှတ်များကို ဆောင်ထားရမည်။ ၃။ ကမ္ဘာလုံးဆိုင်ရာ ပူးပေါင်းဆောင်ရွက်ရေး။ နောက်ဆုံးတွင်၊ အမေရိကန်နှင့် အခြားဒီမိုကရေစီနိုင်ငံများသည် တရုတ်ဦးဆောင်သော အာဏာရှင်အစိုးရများနှင့် ညှိနှိုင်းဆောင်ရွက်ရန် ကြိုးပမ်းမည်ဖြစ်သည်။ Amodei သည် တိုးလာနေသောအခက်အခဲ၏ လေးဆင့်ကို ချမှတ်ခဲ့သည်- ကျဉ်းမြောင်းသော အန္တရာယ်ရှိသော အသုံးပြုမှုများဖြစ်သည့် ဇီဝလက်နက်များ ထုတ်လုပ်ခြင်းကို တားမြစ်ခြင်း၊ ကမ္ဘာလုံးဆိုင်ရာစံချိန်စံညွှန်းအဖွဲ့မှတစ်ဆင့် ပြင်းထန်သောအန္တရာယ်များအတွက် အပြန်အလှန်အကြိုစမ်းသပ်ခြင်း SALT လက်နက်ထိန်းချုပ်ရေးစာချုပ်များနှင့် နှိုင်းယှဉ်ထားသည့် ထပ်ခါတလဲလဲ မိမိကိုယ်ကို တိုးတက်မှုအတွက် "အမြန်နှုန်းကန့်သတ်"၊ ချို့ယွင်းချက်အတွက် မက်လုံးများက ကြီးမားသောကြောင့် မဖြစ်နိုင်ဟု သူခေါ်သည့် အပြည့်အဝ ခေတ္တနားသည်။

အပိုအချိန်တွေ ဘာဝယ်မလဲ။

စာစီစာကုံး၏ အဓိက ငြင်းခုံချက်မှာ အချိန်ကို ကောင်းမွန်စွာ ကုန်ဆုံးပါက နှေးကွေးခြင်းသည် အကျိုးရှိမည် ဖြစ်သည်။ 2023 ခုနှစ်တွင်၊ နယ်ခြားလေ့ကျင့်ရေးခေတ္တရပ်ရန် ခေါ်ဆိုမှုများ စတင်ပျံ့နှံ့လာသောအခါ Amodei သည် စိတ်ကူးဥာဏ်နည်းသည်ဟုထင်ခဲ့သည် — ဟူသောမေးခွန်းသည် အမြဲတမ်း "အချိန်ပိုကို သင်ဘာလုပ်မည်နည်း။" သူရေးခဲ့သည့် ယနေ့ခေတ်မော်ဒယ်များသည် "အဆုံးမရှိနီးပါး ထိုးထွင်းသိမြင်နိုင်သော ရွှေတွင်းကြီး" ဖြစ်သည်၊

ရရှိသောအချိန်သည် နယ်ပယ်လေးခုသို့ ဦးတည်သွားသင့်သည်- မနုဿပစိတွင် မကြာသေးမီက အံဝင်ခွင်ကျဖြစ်မှုများသည် တစ်စိတ်တစ်ပိုင်းအားဖြင့် ကျိုးပဲ့ခိုင်ခံ့နေသော သင်ကြားရေးပတ်ဝန်းကျင်များကို မစုံလင်သော စစ်ထုတ်မှုကြောင့် ဖြစ်ပေါ်လာကြောင်း သက်သေထူခဲ့သည်၊ စွမ်းရည်များဖြင့် အရှိန်အဟုန်ဖြင့် ထိန်းညှိပေးသော လေ့ကျင့်မှု၊ AI ၏ ဦးနှောက်အတွက် fMRI စကင်န်နှင့် နှိုင်းယှဥ်နိုင်သော်လည်း၊ အတွင်းပိုင်း၌ လုပ်ဆောင်သည့် မော်ဒယ်များ၏ "သေးငယ်သောအပိုင်း" ကိုသာ ရှင်းပြနေသေးသည်။ ဉာဏ်ရည်ထက်မြက်သော မော်ဒယ်များသည် ပြဿနာများကို ဖမ်းစားနိုင်သော စာမေးပွဲများကို လှည့်ဖြားနိုင်စွမ်း ပိုများလာသောကြောင့် ပိုမိုကျယ်ပြန့်သော စမ်းသပ်ခြင်းနှင့် အကဲဖြတ်ခြင်း ဖြစ်သည်။

တရုတ် ကန့်သတ်ချက်

ဒီမိုကရေစီနိုင်ငံများတွင် အရှိန်အဟုန်မြှင့်ခြင်းသည် တရုတ်ကွန်မြူနစ်ပါတီနှင့် ပြိုင်ဆိုင်မှုဖြင့် ကန့်သတ်ခြင်းဖြစ်သည်ဟု Amodei က တုံးတိပြောသည်။ ဒီမိုကရက်တစ်ဓာတ်ခွဲခန်းများသည် ၎င်းတို့၏ ဦးဆောင်မှုပမာဏထက် ပိုမိုနှေးကွေးပါက၊ မအောင်မြင်သော CCP နှင့်ဆက်စပ်နေသော ပရောဂျက်များသည် ရှေ့သို့ဆက်သွားလိမ့်မည်၊ AI တွင် တရုတ်ဦးဆောင်သူသည် အန္တရာယ်ကြီးသည်ဟု ဘဏ္ဍာရေးဝန်ကြီး Bessent နှင့် သဘောတူညီကြောင်း ၎င်းက ရေးသားခဲ့သည်။ ထိုခဲများကို ထိန်းသိမ်းရန်အတွက် သူသည် သက်တမ်းကြာရှည်သော မနုဿရာထူးသုံးရပ်ကို ထပ်ခါတလဲလဲ ဖြစ်သည်- အားကောင်းသည့် ချစ်ပ်များနှင့် ဆီမီးကွန်ဒတ်တာ ပစ္စည်းများကို တရုတ်နိုင်ငံပြင်ပတွင် ထားရှိရန်၊ အာဏာရှင်နိုင်ငံများတွင် ကုမ္ပဏီများ၏ တရားဝင်ခွင့်ပြုချက်မရှိဘဲ ပေါင်းခံထားသော ရှေ့တန်းမော်ဒယ်များကို နှိမ်နင်းရန်နှင့် မော်ဒယ်အလေးချိန်ခိုးယူမှုမှ လုံခြုံရေးကို ခိုင်မာစေသည်။ ကောင်းစွာလုပ်ဆောင်ခဲ့ပြီး၊ ဤအစီအမံများသည် AI သည် ပထဝီဝင်နိုင်ငံရေးအရ အရေးအကြီးဆုံးဖြစ်လာသောအခါတွင် လာမည့်သုံးနှစ်မှငါးနှစ်အတွင်း အမေရိကန်၏ဦးဆောင်မှုကို ကျယ်ပြန့်လာစေမည်ဖြစ်ပြီး ၎င်းကိုလျှော့ချမည့်အစား အနာဂတ်သဘောတူညီချက်အတွက် သြဇာအာဏာကို အမှန်တကယ်တိုးမြင့်လာမည်ဖြစ်သည်။

AI သတိပေးချက်များအတွက် လူများသောအခိုက်အတန့်

အက်ဆေးသည် ထူးထူးခြားခြား ဘေးကင်းရေးနှင့် ပတ်သက်သည့် သတင်းများ၏ အလယ်တွင် ရှိသည်။ ၎င်းသည် အဓိကဓာတ်ခွဲခန်းများရှိ သုတေသီများထံမှ လူထုသတိပေးချက်များစွာကို လိုက်နာခြင်း၊ Anthropic ၏ စက်တင်ဘာလ ခြိမ်းခြောက်မှု ထောက်လှမ်းရေးအစီရင်ခံစာတွင် - အမေရိကန်ရေတပ်မှ စစ်သင်္ဘောများကို ပစ်မှတ်ထားသော အီရန်နှင့် ဆက်နွှယ်သည့် စစ်ဆင်ရေးအဖွဲ့များ အပါအဝင် Claude အလွဲသုံးစားမှုအသေးစိတ်အကြောင်း Anthropic နှင့် Altman ၏ ဌာနတွင်းမှတ်ချက်များဆိုင်ရာ Bloomberg အစီရင်ခံစာ။ Anthropic သည် သမိုင်းတစ်လျှောက် အကြီးဆုံး IPO များထဲမှ တစ်ခုကို ပြင်ဆင်နေသည်ဟု သတင်းများ ထွက်ပေါ်နေသဖြင့် Amodei ၏ အယူခံဝင်မှု၏ အဆင်မပြေသော မြင်ကွင်းများကို မှတ်ချက်ပြုထားပြီး သမ္မတ Trump သည် တရုတ်ကို လက်လွှဲနိုင်သည့် မည်သည့် နှေးကွေးမှုမျိုးကိုမဆို ယခင်က ဆန့်ကျင်ခဲ့ကြောင်း သိရသည်။

လုပ်ငန်းညှိနှိုင်းမှု သို့မဟုတ် ပြိုင်ဆိုင်မှု ရှိမရှိဆိုသည်မှာ မေးခွန်းထုတ်စရာဖြစ်နေဆဲဖြစ်သည်။ သို့သော် အစောင့်အကြပ်များဖြင့် အလျင်အမြန်တည်ဆောက်သော ကုမ္ပဏီ၏အမှတ်တံဆိပ်ကို တည်ဆောက်ခဲ့သော အမှုဆောင်တစ်ဦးအတွက်၊ လူတိုင်းအား နှေးကွေးစေကြောင်း တရားဝင်အဆိုပြုကာ ၎င်း၏ကိုယ်ပိုင်ဓာတ်ခွဲခန်းအတွင်းမှ ပြင်ပစာရင်းစစ်များကို ဖိတ်ခေါ်ကာ၊ ၎င်းအား စစ်ဆေးရန် ငြင်းခုံမှု၏ အခြေခံကို ပြန်လည်သတ်မှတ်သည်။ အရှိန်အဟုန်က ထင်မြင်ယူဆနိုင်သလားဆိုတာ မေးခွန်းထုတ်စရာမဟုတ်တော့ဘဲ ဘယ်သူ့နံပါတ်ကို တခြားလူတိုင်း လက်ခံမှာလဲ။

---

AI ၏ရှေ့တွင်နေရန်

နောက်ဆုံးပေါ် AI သတင်းများ၊ ခွဲခြမ်းစိတ်ဖြာမှုနှင့် အောင်မြင်မှုများ—အားလုံးကို တစ်နေရာတည်းတွင် ရယူပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →