Anthropic သည် အလိုအလျောက် AI စနစ်များသည် မော်ဒယ်၏ ချိန်ညှိမှု ချို့ယွင်းချက်များကို စိတ်ချယုံကြည်စွာ ပြုပြင်ပေးနိုင်ကြောင်း ပြသသည့် သုတေသနပြုချက်ကို Anthropic မှ ထုတ်ပြန်ခဲ့ပြီး ရလဒ်အနေဖြင့် AI လုပ်ငန်း၏ အလယ်ဗဟိုတွင် ဘေးကင်းရေး လုပ်ငန်းကို ပြီးမြောက်အောင် လုပ်ဆောင်ပုံကို ပြန်လည်ပုံဖော်နိုင်ခဲ့သည်။ "အလိုအလျောက် သုတေသီများ စိတ်ချယုံကြည်စွာ ချိန်ညှိမှု ပျက်ကွက်မှုများကို လျော့ပါးသက်သာစေနိုင်သည်" ဟူသော ခေါင်းစဉ်ဖြင့် စာတမ်းကို သောကြာနေ့တွင် ထုတ်ပြန်ခဲ့ပြီး TechCrunch မှ အသေးစိတ်ဖော်ပြထားသည်။
သုတေသနကို Anthropic ၏ ဖော်မြူလာ အစီအစဉ်မှ ထွက်ပေါ်လာပြီး Chen Yueh-Han မှ ဦးဆောင်ခဲ့သည်။ ၎င်း၏ အဓိက အရေးဆိုချက်မှာ သိသိသာသာ ထင်ရှားသည်- ကုမ္ပဏီ၏ အလိုအလျောက် သုတေသနစနစ်များသည် တိကျသော မှားယွင်းနေသော အပြုအမူများကို တိုင်းတာသည့် စံညွှန်းဆယ်ခုတွင် ညွှန်ပြသောအခါ၊ ၎င်းတို့သည် မော်ဒယ်၏ အလုံးစုံစွမ်းဆောင်ရည်ကို မထိခိုက်စေဘဲ တစ်ခုစီတိုင်းတွင် စွမ်းဆောင်ရည်ကို မြှင့်တင်ပေးပါသည်။ မော်ဒယ်စကေးဖြင့် ဘေးကင်းသောလုပ်ငန်းကို ဆက်လက်ထိန်းသိမ်းရန် ရုန်းကန်နေရသော နယ်ပယ်တစ်ခုအတွက်၊ ၎င်းသည် မှတ်သားဖွယ်ရလဒ်ဖြစ်သည်။ For more context on this story, see our ongoing more AI stories.
AI လုံခြုံရေးလွှမ်းခြုံမှုအတွက် အလုပ်များနေချိန်တွင် ဇာတ်လမ်းသည် ဆင်းသက်လာသည်။ OpenAI ၏ ဆုငွေ-ဟက်ကာအေးဂျင့်များ၏ အတွင်းပိုင်းအစီရင်ခံစာမှ အေးဂျင့်အပြုအမူသည် ခေါင်းစီးများကိုလွှမ်းမိုးထားသည့် နွေရာသီအပြီးတွင် Hugging Face ချိုးဖောက်မှုအား သီးခြားစုံစမ်းစစ်ဆေးရန် တောင်းဆိုခဲ့သည်။ Anthropic ၏ စာတမ်းအသစ်သည် ဆန့်ကျင်ဘက်ဦးတည်ချက်မှ ပြဿနာကို ချဉ်းကပ်သည်- အေးဂျင့်များ မည်ကဲ့သို့ ပြုမူပုံမမှန်သည်ကို မေးမည့်အစား အခြားအေးဂျင့်များက ၎င်းတို့ကို ပြုပြင်ရန် ယုံကြည်နိုင်သလားဟု မေးသည်။
စာရွက်အမှန်တကယ်တင်ပြသည်ကား အဘယ်နည်း
စာတမ်းတွင်ဖော်ပြထားသည့်စနစ်အား Automated Alignment Researcher သို့မဟုတ် AAR ဟုခေါ်သည်။ သုတေသနလုပ်ငန်းစဉ်ကို အစားထိုးမည့်အစား၊ AAR သည် ၎င်းကို အများအပြားကို ပုံတူပွားစေသည်- အလိုအလျောက်စနစ်တစ်ခုစီသည် ရနိုင်သောစာပေများကို ရှာဖွေကာ နည်းလမ်းတစ်ခုကို အဆိုပြုကာ ထိုနည်းလမ်းကို အသုံးပြု၍ မော်ဒယ်ကို အကြမ်းဖျင်း 30 မိနစ်ခန့် လေ့ကျင့်ပေးသည်။ ထို့နောက် လုပ်ငန်းစဉ်သည် အကြိမ်ကြိမ် ထပ်ခါတလဲလဲ လုပ်သည်။
ရွေးချယ်မှုယန္တရားသည်ရိုးရှင်းသည်။ စံနှုန်းကို ရွှေ့သည့်နည်းလမ်းများကို ထိန်းသိမ်းထားသည်။ လွှင့်ပစ်မရတဲ့ နည်းလမ်းတွေ။ ထိုစက်ဝိုင်းသည် စနစ်အား လျင်မြန်စွာ လည်ပတ်စေပြီး မည်သည့်လူသားအဖွဲ့မှ မယှဉ်နိုင်သော အတိုင်းအတာတစ်ခုတွင်၊ သုတေသနလမ်းညွှန်ချက်များစွာကို အပြိုင်စမ်းသပ်ကာ လုပ်ဆောင်သောအရာများကိုသာ ထိန်းသိမ်းထားသည်။
စာတမ်းအရ၊ ရလဒ်များသည် ဘုတ်အဖွဲ့တစ်ခွင်လုံး ကိုက်ညီနေပါသည်။ တိကျသော မှားယွင်းသောအပြုအမူများကို အကျုံးဝင်သည့် စံသတ်မှတ်ချက်ဆယ်ခုစလုံးတွင်၊ အလိုအလျောက်စနစ်များသည် မော်ဒယ်စွမ်းဆောင်ရည်ကို မထိခိုက်စေဘဲ တိုင်းတာနိုင်သော တိုးတက်မှုများကို ထုတ်ပေးသည် — ပုံမှန်အပေးအယူလုပ်ရန် ခက်ခဲစေသော ညှိနှိုင်းမှုဖြစ်သည်။
"ယေဘုယျအားဖြင့်၊ ဤရလဒ်များသည် မကြာမီကာလအတွင်း အလိုအလျောက် ချိန်ညှိမှု လေ့ကျင့်မှုနောက်ပိုင်း လက်တွေ့ဖြစ်လာနိုင်သည်ဟု အစောပိုင်း သက်သေအထောက်အထားများ ပေးဆောင်သည်" ဟု စာတမ်းတွင် ဖော်ပြထားသည်။
ကုန်ကျစရိတ် 1/37 ဖြင့် လူသားများကို အနိုင်ယူပါ။
စာတမ်းပါ အကိုးအကားအများဆုံး ကျမ်းပိုဒ်များသည် AAR ကို ၎င်း၏ လူသားများနှင့် တိုက်ရိုက် နှိုင်းယှဉ်သည့် အပိုင်းဖြစ်သည်။ မနုဿသည် နှိုင်းယှဥ်မှုအပေါ် အတားအဆီးမရှိခဲ့ပါ။
"အကောင်းဆုံး AAR နည်းလမ်းသည် ပျမ်းမျှအားဖြင့် ခြောက်နာရီအတွင်း အတွေ့အကြုံရှိလူသားများ အဆိုပြုထားသည်ကို ကျော်လွန်သည်" ဟု စာတမ်းတွင် ဖော်ပြထားသည်။ “လူ့လမ်းညွှန် သုတေသန လမ်းညွှန်ချက်များသည် ပိုမိုခိုင်မာသော စွမ်းဆောင်မှုဆီသို့ ဦးတည်ခြင်း မပြုပါ” ဟု ထပ်လောင်း ထောက်ပြထားသည်။
ဘောဂဗေဒက တုံးတိပဲ။ "ကျွန်ုပ်တို့၏လူသားသုတေသီများကိုပေးဆောင်သောတစ်နာရီလျှင်ဒေါ်လာ ၁၅၀ နှင့်နှိုင်းယှဉ်ပါက AAR သည်တစ်နာရီလျှင်ဒေါ်လာ ၄ ဒေါ်လာခန့်ကုန်ကျသည်" ဟုစာရေးဆရာများကရေးသားခဲ့သည်။ ၎င်းသည် အဆ 40 နီးပါး၏ ကုန်ကျစရိတ်ကွဲပြားမှုဖြစ်ပြီး ဓာတ်ခွဲခန်းများသည် စူးစမ်းလိုစိတ်ထက် အဘယ်ကြောင့်အလိုအလျောက် သုတေသနကို အလေးအနက်ထားလုပ်ဆောင်နေသနည်းဟု ရှင်းပြသည်။
ကုန်ကျစရိတ်ကွာဟမှုက ဘာကြောင့် အရေးကြီးတာလဲ။
Alignment research သည် လျှော့တွက်ရလွယ်ကူသောနည်းဖြင့် စျေးကြီးသည်။ ကိုယ်စားလှယ်လောင်းတိုင်း ကြားဝင်ဆောင်ရွက်ပေးခြင်း၊ လေ့ကျင့်သင်ကြားခြင်းနှင့် စံနှုန်းများကို ဆန့်ကျင်အကဲဖြတ်ရန် လိုအပ်ပြီး ကိုယ်စားလှယ်လောင်းအများစုသည် ကျရှုံးပါသည်။ အကယ်၍ စနစ်တစ်ခုသည် API ခေါ်ဆိုမှုများ၏စျေးနှုန်းအတွက် အဆိုပါရှာဖွေရေးကွင်းကို စဉ်ဆက်မပြတ်လုပ်ဆောင်နိုင်ပါက၊ အကြံဥာဏ်တစ်ခုအား ထပ်မံကြိုးစားခြင်း၏ ကုန်ကျစရိတ်သည် သုညသို့ ချဉ်းကပ်သွားမည်ဖြစ်သည်။ ကန့်သတ်ချက်သည် headcount မှ compute သို့ပြောင်းသည်။
ကန့်သတ်ချက်များသည် မနုဿကိုယ်တိုင် အလံပြထားသည်။
ရလဒ်က ဘယ်လိုမှ မသတ်မှတ်ဘူးဆိုတာကို စာတမ်းမှာ ရှင်းရှင်းလင်းလင်း ဖော်ပြထားတယ်။ စံသတ်မှတ်ချက်များသည် အရေးကြီးသော ချိန်ညှိမှုပန်းတိုင်များကို အမှန်တကယ်ထင်ဟပ်နေသဖြင့် အလိုအလျောက်စနစ်သည်သာ အလုပ်လုပ်သည် — နှင့် လက်တွေ့ကမ္ဘာ၏ မှားယွင်းသောအပြုအမူများကို ဖမ်းယူနိုင်သော စံသတ်မှတ်ချက်များကို တည်ဆောက်ခြင်းနှင့် ထိန်းသိမ်းခြင်းသည် နယ်ပယ်တွင် ပွင့်လင်းသောပြဿနာတစ်ခုအဖြစ် ရှိနေဆဲဖြစ်သည်။
လက်လွတ်ရန် လွယ်ကူသော မှီခိုမှုတစ်ခုလည်း ရှိသည်- အလိုအလျောက် သုတေသီများသည် ရှိပြီးသား စာပေဆိုင်ရာ နည်းလမ်းများကို ရေးဆွဲကြသည်။ ထိုစာပေကို ထိန်းသိမ်းခြင်းနှင့် ချဲ့ထွင်ခြင်းသည် သူ့ဘာသာသူ အရေးပါသော အလုပ်ဖြစ်ပြီး၊ သိထားသော နည်းပညာများကိုသာ ပေါင်းစပ်ထားသည့် စနစ်သည် လူသားတို့၏ တီထွင်ဖန်တီးနိုင်စွမ်းမရှိသည့် မျက်နှာကျက်ကို ထိသွားနိုင်သည်။
သုတေသန၏ ရေရှည်အရေးပါမှုသည် ၎င်းတို့ပေါ်တွင်မူတည်သောကြောင့် ယင်းသတိပေးချက်များသည် အရေးကြီးပါသည်။ စံနှုန်းများသည် မှားယွင်းသောအရာများကို တိုင်းတာပါက AAR သည် အရင်းခံအန္တရာယ်များကို မထိမခိုက်ဘဲ ရှိနေစဉ်တွင် ခိုင်မာသောကိန်းဂဏန်းများဆီသို့ ၎င်း၏နည်းလမ်းကို အကောင်းဆုံးဖြစ်အောင် ပြုလုပ်နိုင်သည်။ Anthropic ၏ဘောင်—“စောစီးစွာသက်သေများ” သည် အဖြေမဟုတ်—ထိုမသေချာမရေရာမှုကို ထင်ဟပ်စေသည်။
ပြန်လည်ကြိမ်ဖန်များစွာ မိမိကိုယ်ကို မြှင့်တင်ခြင်းဆီသို့ ခြေလှမ်းတစ်ခု
စာတမ်းတွင် AI စနစ်များသည် နောက်ဆုံးတွင် ၎င်းတို့ကိုထုတ်လုပ်သည့် လေ့ကျင့်ရေးလုပ်ငန်းစဉ်များကို ပိုမိုကောင်းမွန်လာစေနိုင်သည်ဟူသော အယူအဆကို ထပ်ခါတလဲလဲ မြှင့်တင်ခြင်းနှင့် ပတ်သက်၍ ပိုမိုကြီးမားသော ငြင်းခုံမှုများကိုလည်း ပေးပါသည်။ အခြား AI မော်ဒယ်များနှင့်အတူ လေ့ကျင့်သင်ကြားခြင်း AI မော်ဒယ်များသည် နယ်ခြားဓာတ်ခွဲခန်းများအတွက် ရေပန်းစားသော ပန်းတိုင်တစ်ခု ဖြစ်လာပြီး Anthropic ၏ ရလဒ်မှာ ကျဉ်းမြောင်းသော နယ်ပယ်တစ်ခုအတွင်း မည်သို့မည်ပုံရှိသည်ကို စောစီးစွာ ခိုင်မာစွာ ကြည့်ပါ။
ယုတ္တိဗေဒသည် ရိုးရှင်းသည်။ မော်ဒယ်များသည် ၎င်းတို့၏ ကိုယ်ပိုင်ချိန်ညှိလေ့ကျင့်မှုကို စိတ်ချယုံကြည်စွာ မြှင့်တင်နိုင်ပါက၊ တူညီသော စက်ယန္တရားများသည် လေ့ကျင့်ရေးအလေ့အကျင့်များကို ပိုမိုကျယ်ပြန့်စွာ ထောက်ပြနိုင်သည် — စွမ်းရည်အလုပ်တွင် ပါဝင်သည်။ TechCrunch သည် လူသား AI သုတေသီများသည် လုပ်ငန်းစဉ်အတွက် နောက်ဆုံးတွင် ဗဟိုနည်းဖြစ်လာနိုင်သည်ဟူသော သက်ရောက်မှုကို သတိပြုမိသည်၊ ရှောင်ရန်ထက် စာရွက်ကိုယ်တိုင်ပါဝင်သည့် ဖြစ်နိုင်ခြေတစ်ခုဖြစ်သည်။
ဘာကိုကြည့်ရမလဲ
ဤရလဒ်သည် ယေဘုယျဖြစ်မဖြစ်ကို မေးခွန်းသုံးခုဖြင့် ဆုံးဖြတ်မည်ဖြစ်သည်။ ပထမဦးစွာ၊ ချဉ်းကပ်မှုသည် မနုဿစမ်းသပ်ထားသော စံသတ်မှတ်ချက်ဆယ်ခု၏ အပြင်ဘက်တွင် ရှိမရှိ၊ ပိုမိုရှုပ်ထွေးပြီး ကောင်းစွာသတ်မှတ်မှုနည်းသော ကျရှုံးမှုမုဒ်များတွင် တည်ရှိနေသလား။ ဒုတိယ၊ စံသတ်မှတ်ချက်-ထိန်းသိမ်းမှုပြဿနာသည် အလိုအလျောက် သုတေသနကို ရိုးရိုးသားသား ထိန်းသိမ်းထားနိုင်လောက်အောင် မြန်ဆန်စွာ ဖြေရှင်းနိုင်မလား။ တတိယ၊ အခြားဓာတ်ခွဲခန်းများသည် စာတမ်းတစ်စောင်ကို စက်မှုလုပ်ငန်းဦးတည်ချက်အဖြစ် ပြောင်းလဲစေမည့် နှိုင်းယှဉ်နိုင်သောရလဒ်များကို ထုတ်ပြန်ခြင်းရှိမရှိ၊
ယခုအချိန်တွင်၊ ရှာဖွေတွေ့ရှိမှုသည် ကျဉ်းမြောင်းသော်လည်း မှန်ကန်သည်- တိကျသော ညှိပေးသည့် လုပ်ငန်းတာဝန်များတွင် Anthropic စမ်းသပ်ထားသော၊ အလိုအလျောက် သုတေသီများသည် အတွေ့အကြုံရှိလူသားများကို စွမ်းဆောင်နိုင်သည်ထက် ပိုမိုမြန်ဆန်ပြီး စျေးသက်သာသည်။ AI လုပ်ငန်း၏ ဘေးကင်းရေးဘက်သည် လူသားများမဟုတ်ဘဲ AI သုတေသီများ အလုပ်အများစုကို လုပ်ဆောင်သည့် ပထမဆုံးနေရာလည်း ဖြစ်နိုင်ပါသည်။
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
