Anthropic သည် နယ်ခြား AI မော်ဒယ်များကို အကဲဖြတ်သည့် အကျိုးအမြတ်မယူသော METR မှ အဖွဲ့တစ်ဖွဲ့ကို စတင်ပေးနေပြီဖြစ်ပြီး ၎င်း၏အတွင်းပိုင်းစနစ်များ — ကုမ္ပဏီဟာ့ဒ်ဝဲ၊ ရုံးခန်းနေရာနှင့် ကိရိယာများကို ၎င်း၏ကိုယ်ပိုင်အန္တရာယ်အကဲဖြတ်ရေးအဖွဲ့များအသုံးပြုသည့် “ဝန်ထမ်းများကဲ့သို့ ဝင်ရောက်ခွင့်” ကို စတင်ပေးနေပြီဖြစ်သည် — ထို့ကြောင့် ပြင်ပအဖွဲ့သည် Anthropic ၏ Frontier မော်ဒယ်များ၏ အန္တရာယ်များကို လွတ်လပ်စွာ အကဲဖြတ်နိုင်ပြီး ၎င်းတွင် တွေ့ရှိထားသည်များကို ထုတ်ဝေနိုင်သည်။

Anthropic ၏ ဘလော့ဂ်တွင် ဗုဒ္ဓဟူးနေ့တွင် ကြေညာခဲ့သော အဆိုပါ အစီအစဉ်သည် AI ကုမ္ပဏီများ၏ စာရင်းစစ်ပုံစံ ဆက်ဆံရေးများထက် ပိုမိုများပြားပြီး ထင်ရှားသည့် ပြဋ္ဌာန်းချက်ပါရှိသည်- METR သည် ၎င်း၏ အန္တရာယ်အကဲဖြတ်မှုရလဒ်များကို ထုတ်ပြန်မည်ဖြစ်ပြီး Anthropic သည် ဗီတိုအာဏာဖြင့် ထုတ်ဝေခြင်းမပြုနိုင်ပါ။

"Employee-Like Access" ဆိုတာ တကယ်တော့ ဘာလဲ

METR ဝန်ထမ်းခြောက်ဦးသည် ကုမ္ပဏီ ဟာ့ဒ်ဝဲ၊ ရုံးခန်းနေရာနှင့် Anthropic မှ ၎င်း၏ကိုယ်ပိုင် အန္တရာယ် အကဲဖြတ်အဖွဲ့များ ရရှိသည့် အကြမ်းဖျင်းအားဖြင့် အကြမ်းဖျင်းအားဖြင့် Anthropic မှ ဖော်ပြသော စက်တွင်း ကိရိယာများနှင့် စနစ်များကို အသုံးပြုခွင့်ရရှိထားသည်။ ရှင်းရှင်းလင်းလင်းသတ်မှတ်ထားသော အမျိုးအစားအနည်းငယ်၏အပြင်တွင် — ဖောက်သည်များအကြောင်း ဒေတာ၊ ရှေ့နေ-ဖောက်သည်များ၏ အခွင့်ထူးခံအချက်အလက်များနှင့် မော်ဒယ်ဗိသုကာများဆိုင်ရာ အချက်အလက် — Anthropic မှ ၎င်း၏ဝန်ထမ်းများသည် ညှိနှိုင်းမှုအန္တရာယ်ကို လုပ်ဆောင်နေသော ဝန်ထမ်းတစ်ဦးနှင့် တူညီသည့်အတိုင်း METR အဖွဲ့အား သတင်းအချက်အလက်မျှဝေရန် တိုက်တွန်းထားကြောင်း Anthropic မှ ပြောကြားခဲ့သည်။

စေ့စပ်ပွဲက တမင်ကျဉ်းမြောင်းတယ်။ ၎င်းသည် ကျင့်သုံးနိုင်သော သဘောတူညီချက်များအောက်တွင် လုပ်ဆောင်နေသော အဖွဲ့ငယ်တစ်ဖွဲ့ကို အကျုံးဝင်ပြီး အခြား METR ဝန်ထမ်းများသည် ထိုအဖွဲ့၏ အလုပ်မှ နှုတ်ထွက်ခြင်းဖြစ်သည် — အခြားသော ပရောဂျက်များအတွက် Anthropic နှင့် ပူးပေါင်းဆောင်ရွက်သော သုတေသီများ အပါအဝင်ဖြစ်သည်။ Anthropic သည် တပ်ဆင်မှုတွင် Anthropic ၏ လုံခြုံရေးစံနှုန်းများအောက်တွင် အလုပ်လုပ်သော အရည်အချင်းပြည့်မီသော လူအနည်းငယ်ကို ပေးဆောင်သည်၊ ကုမ္ပဏီ၏လည်ပတ်ပုံကို အနီးကပ်ကြည့်ရှုရန်၊ ၎င်းသည် Anthropic ၏ အချက်အလက် သို့မဟုတ် ၎င်း၏ဖောက်သည်များ၏ အချက်အလက်များကို ရယူရန် အခြားအဖွဲ့အစည်းများအတွက် ချန်နယ်တစ်ခုမဟုတ်ပါ။

ထုတ်ဝေခွင့်၊ Guardrails နှင့်

သဘောတူညီချက်အရ METR သည် မနုဿပ၏အန္တရာယ်အဆင့်များ၊ အဖြစ်အပျက်များ သို့မဟုတ် အလေ့အကျင့်များဆိုင်ရာ ခွဲခြမ်းစိတ်ဖြာချက်ကို ထုတ်ပြန်ပါမည်။ Anthropic သည် ထုတ်ဝေမှုကို မပိတ်ပင်နိုင်သော်လည်း အထက်တွင်ဖော်ပြထားသော ကြိုတင်သတ်မှတ်ထားသော အမျိုးအစားများထဲသို့ အချက်အလက်များ ကျရောက်သည့်အခါတွင် ပြန်လည်တုံ့ပြန်မှုများ လိုအပ်နိုင်သည် — နှင့် Anthropic ကိုယ်တိုင်က ထိုအမျိုးအစားများတွင် မည်သည့်အရာလုပ်ဆောင်သည် သို့မဟုတ် မပါဝင်ကြောင်း ဆုံးဖြတ်သည်။ METR၊ ၎င်း၏တစ်စိတ်တစ်ပိုင်းအနေဖြင့်၊ ၎င်းရရှိထားသော ဝင်ရောက်မှုအဆင့်နှင့် သတင်းအချက်အလက်ဆိုင်ရာ ထုတ်ပြန်ချက်အချို့ကို ထုတ်ပြန်ပိုင်ခွင့်၊ တုံ့ပြန်မှုပါဝါအား အသံတိတ်ရန် ခလုတ်မဖြစ်အောင် ထိန်းထားရန် ဒီဇိုင်းထုတ်ထားသော တန်ပြန်အလေးချိန်တစ်ခုဖြစ်သည်။

မနုဿဘာကြောင့်ပွင့်တာလဲ။

AI ကုမ္ပဏီများသည် အမှီအခိုကင်းသော ပြင်ပစာရင်းစစ်များ သို့မဟုတ် အကဲဖြတ်သူများနှင့် ပူးပေါင်းလုပ်ဆောင်ရန် AI ကုမ္ပဏီများက ကတိပြုထားသည့် ၎င်း၏မော်ဒယ်များနှင့် ဘေးကင်းရေးဆိုင်ရာ အလေ့အကျင့်များကို ပြင်ပမှ အကဲဖြတ်ခြင်းများနှင့် AI ကုမ္ပဏီများသည် လွတ်လပ်သော ပြင်ပစာရင်းစစ်များ သို့မဟုတ် အကဲဖြတ်သူများနှင့် ပူးပေါင်းလုပ်ဆောင်ရန် ကတိပြုထားသည့် လုပ်ဆောင်ချက်ကို လိုက်နာရန် ကတိကဝတ်ပြုပြီးနောက် လှုပ်ရှားမှုကို လုပ်ဆောင်ခြင်းဖြစ်သည်။ ၎င်းသည် ရှိရင်းစွဲဆက်ဆံရေးကိုလည်း တိုးချဲ့သည်- ပြီးခဲ့သောနှစ်တွင် Anthropic သည် ၎င်း၏ Risk Reports အများအပြားကို ပြန်လည်သုံးသပ်ခြင်းအတွက် METR နှင့် လုပ်ဆောင်ခဲ့သည်။

METR သည် အစုစုတွင် တစ်ခုတည်းမဟုတ်ပါ။ အကဲဖြတ်သူများအနေဖြင့် SecureBio နှင့် Accenture တို့နှင့်လည်း လုပ်ဆောင်နေသည်ဟု Anthropic မှပြောကြားခဲ့သည် — Accenture ၏ဌာနသည် စက်တင်ဘာလတွင် ကုမ္ပဏီ၏ပထမဆုံးထည့်သွင်းထားသောအကဲဖြတ်သူအဖြစ်သတ်မှတ်ခံရပြီး Hugging Face အပါအဝင် အခြားသောအဖွဲ့အစည်းများစွာနှင့် အစောပိုင်းဆွေးနွေးမှုများပြုလုပ်နေပါသည်။ အဆိုပါ အစောပိုင်းအဆင့် မိတ်ဖက်အဖွဲ့အစည်းများသည် ကုမ္ပဏီမှ မည်သို့သော မိတ်ဖက်လုပ်ငန်းအမျိုးအစားများကို လေ့လာနေချိန်တွင် သတင်းအချက်အလက်ရယူခွင့်နှင့် ထုတ်ဝေခွင့်များ ပိုမိုရရှိလာပါသည်။

The Bank-Supervision Analogy

Anthropic ၏ကိုယ်ပိုင်ဘောင်သည် ဘဏ္ဍာရေးမှချေးယူသည်။ ဘဏ်များသည် ပြင်ပလူများထက် ၎င်းတို့၏ စွန့်စားရနိုင်သော အနေအထားများကို ပိုသိသောကြောင့် စည်းကမ်းထိန်းသိမ်းရေးမှူးများသည် အကြီးဆုံးဘဏ်များအတွင်းတွင် နေထိုင်သူ စစ်ဆေးသူများကို တာဝန်ပေးသည်။ ဘဏ်တစ်ခု၏ စွန့်စားမှုယူခြင်းသည် လူအများကို ခြိမ်းခြောက်နိုင်လျှင် ပြင်ပအဖွဲ့အစည်းများက ယင်းကို ကြိုတင်သိမြင်ရန် ကြိုးစားကြသည်။ ကုမ္ပဏီသည် AI လုပ်ငန်း၏ ယုတ္တိဗေဒဗားရှင်းအဖြစ် ထည့်သွင်းထားသော အကဲဖြတ်မှုကို တည်ဆောက်သူသည် စောင့်ကြည့်ခွေးထက် အမြဲပိုသိသည့် နယ်ပယ်တွင် ခိုင်မာသောဘေးကင်းရေး ကြီးကြပ်မှုဆီသို့ ခြေလှမ်းတစ်ခုအဖြစ် ရပ်တည်နေသည်။

အရင်းခံအချက်မှာ ဖော်ပြထားသော ပန်းတိုင်ဖြစ်သည်- နယ်ခြား AI ကုမ္ပဏီ၏ စနစ်များအကြောင်း အမှီအခိုကင်းသော အကဲဖြတ်သူများသည် နားလည်သဘောပေါက်သည့် ကွာဟချက်ကို ပိတ်ကာ ကုမ္ပဏီကိုယ်တိုင် နားလည်သည်။

အကဲဖြတ်သူတွေ ဘာတွေ လိုအပ်လဲ။

ကြေငြာချက်တွင် Anthropic က အဓိပ္ပာယ်ပြည့်ဝသော အကဲဖြတ်ရန် လိုအပ်သည်ဟူသည့် အချက်ကိုလည်း ထည့်သွင်းဖော်ပြထားသည်- ရှေ့တန်းပုံစံ စွမ်းဆောင်ရည်များကို အကဲဖြတ်ရာတွင် ကျွမ်းကျင်မှုများ၊ လွတ်လပ်မှု၊ အကဲဖြတ်ခြင်းခံရသည့် ကုမ္ပဏီအပေါ်တွင် သာတူညီမျှမှု သို့မဟုတ် ငွေကြေး သို့မဟုတ် လုပ်ငန်းလည်ပတ်မှုအပေါ် မှီခိုမှုမရှိကြောင်း အဓိပ္ပာယ်၊ အန္တရာယ်များကို အဓိပ္ပာယ်ပြည့်ဝစွာ အကဲဖြတ်ရန် လုံလောက်သောဝင်ရောက်ခွင့်၊ ၎င်းတို့ကို လေ့ကျင့်သင်ကြားပုံနှင့် အကာအကွယ်များ လုပ်ဆောင်ပုံတို့အထိ နောက်ဆုံးပေါ်မော်ဒယ်များကို ကျော်လွန်၍ ချဲ့ထွင်ခြင်း၊ မော်ဒယ် သို့မဟုတ် လုပ်ငန်းစဉ်တစ်ခု၏ လေ့လာတွေ့ရှိချက်များနှင့် အကဲဖြတ်ချက်များကို လွတ်လပ်စွာ ထုတ်ဝေခွင့်၊

စက်မှုလုပ်ငန်းတစ်ခုလုံးအတွက် စမ်းသပ်မှုတစ်ခု

အစီအစဥ်ကို ၎င်း၏ရလဒ်ဖြင့် ဆုံးဖြတ်မည်ဖြစ်သည်။ METR ၏ သုံးစွဲခွင့်စနစ်သစ်အောက်တွင် ပထမဆုံးထုတ်ဝေသော အကဲဖြတ်ချက်သည် ဝန်ထမ်းကဲ့သို့သော ဝင်ရောက်ခွင့်သည် မှန်ကန်သော သွားများဖြင့် ရှာဖွေတွေ့ရှိခြင်း ရှိ၊ မရှိ သို့မဟုတ် ကုမ္ပဏီက သတ်မှတ်ထားသော ပြန်လည်ပြုပြင်ခြင်း အမျိုးအစားများဖြင့် ဖြတ်တောက်ထားသော အစီရင်ခံစာများကို ပြသမည်ဖြစ်သည်။ Anthropic သည် အမျိုးအစားနယ်နိမိတ်များကို ထိန်းချုပ်ထားပြီး လေယာဉ်မှူးအဖွဲ့သည် သေးငယ်ကြောင်း သံသယရှိသူများ သတိပြုမိပါမည်။ Anthropic သည် ထုတ်ဝေခွင့်ကို ဗီတိုအာဏာသုံး၍မရခြင်းသည် နယ်ခြားဓာတ်ခွဲခန်းများကြားတွင် အမှန်တကယ်ဆန်းသစ်ကြောင်း ထောက်ခံသူများ သတိပြုမိပါလိမ့်မည်။

ဘာပဲဖြစ်ဖြစ် လုပ်ငန်းက စောင့်ကြည့်နေတယ်။ METR ၏ မြှုပ်သွင်းအသုံးပြုခွင့်သည် ပစ္စည်းများ တွေ့ရှိချက်များကို ပေါ်လွင်စေပြီး ၎င်းတို့အား ချို့ယွင်းချက်မရှိ ထုတ်ပြန်ပါက၊ မော်ဒယ်သည် အိမ်ဖြူတော်သဘောတူညီချက်ကို လက်မှတ်ရေးထိုးခဲ့သော ဓာတ်ခွဲခန်းတိုင်းအတွက် ထင်ရှားသည့် ပုံစံဖြစ်လာသည် — နှင့် မူဝါဒချမှတ်သူများအတွက် စေတနာအလျောက် ကြီးကြပ်ကွပ်ကဲမှုသည် ပြဌာန်းထားသော စာရင်းစစ်များအတွက် အစားထိုးနိုင်သည်ဆိုသည်ကို ချိန်ညှိပေးသည့် စံနှုန်းတစ်ခုဖြစ်သည်။ AI ဘေးကင်းရေးမူဝါဒနှင့် ၎င်းကိုပုံဖော်ပေးသည့် [AI လုပ်ငန်းသတင်း] (https://aibuzzwire.news) ၏ ဆက်တိုက်လွှမ်းခြုံမှုအတွက် AI Buzz Wire သည် ဖွံ့ဖြိုးတိုးတက်မှုတစ်ခုစီကို ဖောက်ဖျက်လိုက်သည်နှင့် လိုက်နာသည်။

---

AI ၏ရှေ့တွင်နေရန်

နောက်ဆုံးပေါ် AI သတင်းများ၊ ခွဲခြမ်းစိတ်ဖြာမှုနှင့် အောင်မြင်မှုများ—အားလုံးကို တစ်နေရာတည်းတွင် ရယူပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →