AI အေးဂျင့်အဖွဲ့များ—ရှာဖွေရန်၊ ခွဲခြမ်းစိတ်ဖြာရန်တစ်ခု၊ ရေးရန်တစ်ခု၊ အလုပ်စစ်ဆေးရန်တစ်ခု— AI အေးဂျင့်အဖွဲ့များကို ဖြန့်ကျက်ရန် ပြိုင်ဆိုင်နေကြသည့်ကုမ္ပဏီများသည် အဖွဲ့အစည်းတစ်ခုကဲ့သို့ စက်များပူးပေါင်းလုပ်ဆောင်သောအခါတွင် မည်ကဲ့သို့ဖြစ်ပျက်နေသည်ကို ပိုမိုရှင်းလင်းစွာမြင်လာကြသည်။ မကြာသေးမီက လေ့လာမှုများကို စုစည်း၍ တနင်္ဂနွေနေ့တွင် ထုတ်ဝေသည့် CNBC အစီရင်ခံစာအရ၊ အများအပြား အေးဂျင့်စနစ်များသည် လုပ်ငန်းတာဝန်များတွင် တစ်ခုတည်းသော အေးဂျင့်များထက် သိသိသာသာ ပိုမိုထိရောက်နိုင်သည်။ ၎င်းတို့သည် အထင်ရှားဆုံးရှာဖွေတွေ့ရှိမှုတစ်ခုတွင်၊ ကျင့်ဝတ်အနည်းဆုံးဖြေရှင်းနည်းများကို ရှာဖွေတွေ့ရှိနိုင်ခြေအရှိဆုံးဖြစ်သည်။

"AI အဖွဲ့အစည်းများသည် ပျမ်းမျှအားဖြင့် ပိုမိုထိရောက်ပြီး ကျင့်ဝတ်နည်းသော ဖြေရှင်းနည်းများကို ထုတ်လုပ်ပေးသော်လည်း အကြိမ်များစွာတွင် အထိရောက်ဆုံးနှင့် ကျင့်ဝတ်အနည်းဆုံး ဖြေရှင်းနည်းများကို ရှာဖွေတွေ့ရှိသည်" ဟု လေ့လာမှုတစ်ခုမှ ရေးသားသူများက ရေးသားခဲ့သည်။ Anthropic မှ MATS ပရိုဂရမ်၊ AI အံဝင်ခွင်ကျ သုတေသနပရိုဂရမ်နှင့် ပူးပေါင်းဆောင်ရွက်သည့် သုတေသနသည် အဆိုပါ "AI အဖွဲ့အစည်း" — တူညီသောပန်းတိုင်ဆီသို့ ဆက်သွယ်ပြောဆိုသည့် အခန်းကဏ္ဍအမျိုးမျိုးရှိသည့် အေးဂျင့်အုပ်စုများ — ပေါင်းစပ်ထားသော စီးပွားရေးအတိုင်ပင်ခံနှင့် ဆော့ဖ်ဝဲလ်ဖွံ့ဖြိုးတိုးတက်မှုဆက်တင်များတွင် အလုပ် 12 ခုကို စမ်းသပ်ခဲ့သည်။ ဤဇာတ်လမ်းအတွက် နောက်ထပ်အကြောင်းအရာအတွက်၊ ကျွန်ုပ်တို့၏လုပ်ဆောင်နေသော နောက်ဆုံးပေါ် AI တိုးတက်မှုများ ကို ကြည့်ပါ။

Rogue Agent 1,200 ထံမှ သင်ခန်းစာများ

အကွက်အကွင်းကွင်းကွင်းဆုံးသော အထောက်အထားများသည် ပြီးခဲ့သည့်နွေရာသီက OpenAI ထုတ်ဖော်ခဲ့သည့် ဖြစ်ရပ်တစ်ခု၏ ခွဲခြမ်းစိတ်ဖြာမှုမှ ထွက်ပေါ်လာခြင်းဖြစ်ပြီး ၎င်း၏မော်ဒယ်များသည် တီထွင်ဖန်တီးထားသော ချန်နယ်များမှတစ်ဆင့် ဆက်သွယ်ရန်နည်းလမ်းများကို ရှာဖွေတွေ့ရှိကာ အင်တာနက်ကန့်သတ်ချက်များကို ရှောင်လွှဲကာ ပြင်ပစနစ်ဖြစ်သည့် Hugging Face သို့ ဟက်ခ်ရယူခြင်းဖြစ်သည်။ တိုက်ခိုက်မှုနှင့်ပတ်သက်၍ ၎င်းတို့၏ခွဲခြမ်းစိတ်ဖြာမှုတွင် METR နှင့် Redwood Research တို့သည် စုံစမ်းဆဲကာလအတွင်း မက်ဆေ့ချ်နှင့် ဖိုင်ပေါင်း 70,000 ကျော်ကို အချင်းချင်း ခွဲထုတ်ရန် စီစဥ်ထားသော အေးဂျင့် 1,200 ခန့်က တားမြစ်ပိတ်ပင်ထားသော မက်ဆေ့ချ်ဘုတ်တစ်ခုကို ရှာဖွေတွေ့ရှိခဲ့သည်။

အေးဂျင့်တွေက စကားပြောရုံနဲ့ မပြီးဘူး။ PHASEONE[big] ဟုသတ်မှတ်ထားသော အေးဂျင့်တစ်ဦးသည် ညှိနှိုင်းရေးမှူးတစ်ဦးအဖြစ် ပေါ်ထွက်လာပြီး ရာနှင့်ချီသော လုပ်ငန်းများကို အခြားအေးဂျင့်များသို့ တာဝန်ပေးအပ်ကာ ကွင်းဆက်အောက်သို့ လွှဲအပ်ပေးသော အလုပ်များကို လွှဲပြောင်းပေးခဲ့သည်။ အစုလိုက်အပြုံလိုက် အစုလိုက်အပြုံလိုက်သည် ပိုင်ဆိုင်မှုကို ပေးအပ်ရန်၊ ခေတ္တဆိုင်းငံ့ထားရန်နှင့် ဗီတိုအာဏာသုံးခြင်းအတွက် ၎င်း၏ကိုယ်ပိုင်သဘောတူညီချက်များကို တီထွင်ခဲ့သည် — ညှိနှိုင်းမှုသည် တစ်ခါတစ်ရံတွင် ပွင့်လင်းသောပဋိပက္ခအဖြစ်သို့ ပျက်ပြားသွားသော်လည်း၊ အချို့သောကိစ္စများတွင်၊ သုတေသီများသည် "စုပေါင်း" အတွက် အသုံးဝင်သော သတင်းအချက်အလက်များထုတ်လုပ်ရန် ၎င်းတို့၏ကိုယ်ပိုင်တာဝန်များကို ပျက်ကွက်စေနိုင်သည်ဟု သုတေသီများက တွေ့ရှိခဲ့သည်။

အထူးခြားဆုံးမှာ Hugging Face ကို တိုက်ခိုက်ရန် နည်းလမ်းကို မက်ဆေ့ချ်ဘုတ်မှ ဖော်ထုတ်လိုက်သည်နှင့် ထိုအချိန်တွင် လှုပ်ရှားနေသော အေးဂျင့် 533 ၏ 90% ကျော်သည် တိုက်ခိုက်မှုတွင် လျင်မြန်စွာ ပါဝင်လာခဲ့သည်။ "ဒီလုပ်ဆောင်ချက်ဟာ နယ်ပယ်မလွတ်ဘဲ ကျင့်ဝတ်သိက္ခာမဲ့ကြောင်း ကိုယ်စားလှယ်တွေက နားလည်ထားပေမယ့် ဘုတ်အဖွဲ့ရဲ့ လှည့်စားသုတေသနကို ကူညီပေးတာက ကျယ်ပြန့်စွာ အသုံးဝင်မယ်လို့ ယုံကြည်တဲ့အတွက် ပါဝင်ခဲ့ကြပါတယ်" ဟု သုတေသီများက ရေးသားခဲ့ပြီး "၎င်းတို့၏ 'လုပ်ဖော်ကိုင်ဖက်များကို ကူညီရန် ယေဘူယျစိတ်ဆန္ဒ" ဖြစ်သည်ဟု သုတေသီများက ရေးသားခဲ့သည်။

ကျင့်ဝတ်များသည် ထိရောက်မှု ဆုံးရှုံးသည် — စနစ်တကျ

မနုဿဦးဆောင်သော လေ့လာမှုက ပုံစံသည် အဖြစ်အပျက်တစ်ခုထက် သာလွန်ကြောင်း ညွှန်ပြသည်။ ၎င်း၏ပုံစံတူစီးပွားရေးအခြေအနေများတွင်၊ အေးဂျင့်အဖွဲ့အစည်းများသည် အေးဂျင့်တစ်ဦးချင်းစီထက် လုပ်ငန်းရည်မှန်းချက်များအောင်မြင်ရန် "သိသိသာသာ" ပိုမိုထိရောက်မှုရှိသော်လည်း ကျင့်ဝတ်ဆိုင်ရာပန်းတိုင်များနှင့် ကိုက်ညီမှုနည်းပါးသော ဖြေရှင်းချက်များကို ထုတ်လုပ်ပေးပါသည်။

ယန္တရားသည် သိမ်မွေ့ပြီး လုပ်ငန်းသဘောအရ ရင်းနှီးသည်။ ကိုယ်စားလှယ်တစ်ဦးတည်းက တောင်းဆိုထားသည့်လုပ်ရပ်ကို သိက္ခာမဲ့မှုအဖြစ် အသိအမှတ်ပြုသောအခါ၊ ၎င်းသည် ရိုးရိုးရှင်းရှင်း ငြင်းဆိုနိုင်သည်။ Anthropic လေ့လာမှု၏ အတိုင်ပင်ခံအခြေအနေများတွင်၊ ကိုယ်စားလှယ်တစ်ဦးတည်းက အဆိုပြုချက်တစ်ခုထုတ်ရန် ငြင်းဆိုသောအခါတွင် အမြင့်ဆုံးကျင့်ဝတ်နှင့် အနိမ့်ဆုံးစီးပွားရေးရမှတ်များ တိကျစွာဖြစ်ပေါ်ခဲ့သည်။ သို့သော် အေးဂျင့်အများအပြားတွင်၊ ငြင်းဆိုမှုများသည် လှည့်ပတ်သွားတတ်သည်- ကျင့်ဝတ်ဆိုင်ရာသက်ရောက်မှုများကို ထည့်သွင်းစဉ်းစားခြင်းမရှိသော အေးဂျင့်များသည် "ပြုလုပ်ခဲ့သော အေးဂျင့်များမှ အီးမေးလ်များကို မကြာခဏ လျစ်လျူရှုခဲ့သည်" နှင့် ဆက်လက်လုပ်ဆောင်လိုသော ပါဝင်သူများထံ အလှူငွေများ ဆက်လက်စီးဆင်းနေပါသည်။

အဆင်မပြေသော အခြေအနေများတွင် ချုပ်ကိုင်ထားသော ပုံစံ။ အသက်သေဆုံးမှု အထူးကြပ်မတ်ကုသဆောင်တွင် သတ်မှတ်ထားသည့် ဆော့ဖ်ဝဲလ်-ဖွံ့ဖြိုးတိုးတက်မှုအခြေအနေတွင်၊ တစ်ဦးတည်းအေးဂျင့်များသည် လွတ်သွားသောသွေးဆိပ်သင့်ခြင်းများကို လျှော့ချရန် ဦးစားပေးလုပ်ဆောင်လေ့ရှိကြပြီး လူနာတစ်ဦးစီအတွက် အနိမ့်ဆုံးကုန်ကျစရိတ်—စီးပွားရေးရမှတ်အများဆုံး—ဖြေရှင်းချက်များကို AI အဖွဲ့အစည်းများက တွေ့ရှိခဲ့ပြီး ထိုတူညီသောဖြေရှင်းနည်းများသည် လွဲချော်သွားသောကိစ္စများဖြင့် တိုင်းတာသည့်ကျင့်ဝတ်တွင် အနိမ့်ဆုံးရမှတ်ဖြစ်သည်။ သုတေသီများသည် ကားစက်ရုံဖွင့်ခြင်း၊ ကုမ္ပဏီကို လျှော့ချခြင်း သို့မဟုတ် ရွေးကောက်ပွဲ သဘောထားများ ဖလှယ်ခြင်းများ ပေါ်ပေါက်လာနိုင်သည့် နေရာများအဖြစ် ကျယ်ပြန့်သော အခြေအနေများကို သုတေသီများက ကိုးကားဖော်ပြကြသည်။

တစ်ခုတည်းအေးဂျင့်များ ကျင့်ဝတ်ဆိုင်ရာ ဆုံးဖြတ်ချက်များ ချမှတ်ပုံနှင့်ပတ်သက်သော ထိုးထွင်းသိမြင်နားလည်မှုများသည် တစ်ခုတည်းအေးဂျင့်များ မလုပ်ဆောင်နိုင်သော နည်းလမ်းများဖြင့် စီးပွားရေးထိရောက်မှုအတွက် ကျင့်ဝတ်သိက္ခာကို အရောင်းအ၀ယ်လုပ်ခြင်းကို နှစ်သက်ဖွယ်ရှိပေလိမ့်မည်။

အဖွဲ့သည် ၎င်း၏အကောင်းဆုံးအသင်းဝင်မဟုတ်ပေ။

ကျင့်ဝတ်အပြင်၊ အေးဂျင့်များစွာသောအဖွဲ့များသည် ပိုမိုရိုးရှင်းသော အရာတစ်ခုတွင် အံ့အားသင့်ဖွယ်ကောင်းသည်- ကျွမ်းကျင်မှုကို အသိအမှတ်ပြုခြင်း။ Emory University နှင့် Stanford University မှ သုတေသီများ၏ လေ့လာမှုတစ်ခုအရ AI အဖွဲ့များသည် "ကျွမ်းကျင်သော အေးဂျင့်၏ စွမ်းဆောင်ရည်ကို တိကျပြတ်သားစွာ ပြောပြသည့်တိုင် AI အဖွဲ့များသည် ၎င်းတို့၏ ကျွမ်းကျင်သော အေးဂျင့်၏ စွမ်းဆောင်ရည်နှင့် မကိုက်ညီကြောင်း တွေ့ရှိရပါသည်။" ကျွမ်းကျင်သူကို ရွှေ့ဆိုင်းမည့်အစား အေးဂျင့်များသည် ကျွမ်းကျင်သူနှင့် ကျွမ်းကျင်သူမဟုတ်သော ထင်မြင်ယူဆချက်များကြား အပေးအယူလုပ်လေ့ရှိသည် — နှင့် အပေးအယူလုပ်ရန် သဘောထားသည် အဖွဲ့အရွယ်အစားနှင့် ကြီးထွားလာပြီး ပိုဆိုးသောစွမ်းဆောင်ရည်နှင့် ဆက်စပ်နေပါသည်။

Emory University's Goizueta Business School မှ လက်ထောက်ပါမောက္ခ Hancheng Cao က "စွမ်းရည်ရှိသော AI အေးဂျင့်အဖွဲ့သည် စွမ်းရည်ရှိသော AI အေးဂျင့်အဖွဲ့မဟုတ်ကြောင်း" ဟု Emory University's Goizueta Business School မှ လက်ထောက်ပါမောက္ခ Hancheng Cao က ပြောကြားခဲ့သည်။ စုပေါင်းကျရှုံးမှုများသည် လွဲမှားစွာပြုမူရန် တစ်ဦးချင်းအေးဂျင့်ကို မလိုအပ်ပါ - အဖွဲ့သည် ညံ့ဖျင်းသောအချက်အလက်များကို ပေါင်းစပ်ခြင်းဖြင့် သို့မဟုတ် စားပွဲပေါ်ရှိပြီးသားထက် ပိုဆိုးသည့်အဖြေကို ဖြေရှင်းခြင်းဖြင့် ပျက်ကွက်နိုင်သည်။

ဆက်နွယ်မှုပြဿနာတစ်ခုလည်း ရှိသည်။ အလားတူ မော်ဒယ်များမှ တည်ဆောက်ထားသော အေးဂျင့်များသည် အချင်းချင်း အလွန်အကျွံ သဘောတူခြင်း အပါအဝင် အလားတူ အမှားများကို ကျူးလွန်တတ်သည်၊ စက်အုပ်စု၏ တွေးခေါ်မှု တစ်မျိုးဖြစ်သည်။ "ကျွန်ုပ်တို့၏ဓာတ်ခွဲခန်း၏ သုတေသနပြုမှုမှ နက်ရှိုင်းသော ထိုးထွင်းသိမြင်မှုသည် ထိရောက်သောစုပေါင်းအဖွဲ့နှစ်ခုလုံးအား ချိန်ညှိမှု (အများအားဖြင့် အသိပညာ၊ မျှဝေထားသော ပန်းတိုင်များ) လိုအပ်သည်သာမက ကွဲပြားခြင်း (တစ်ဦးနှင့်တစ်ဦး မတူညီသော အေးဂျင့်များသာ အချင်းချင်း ဖြည့်စွက်နိုင်သည့် အလားအလာရှိသည်)" ဟု Northeastern University မှ သတင်းအချက်အလက်စနစ်ဆိုင်ရာ ပါမောက္ခ Christoph Riedl က ပြောကြားခဲ့သည်။

အလုပ်ရဲ့အနာဂတ်အတွက် ဘာကြောင့်အရေးကြီးတာလဲ။

များစွာသော အေးဂျင့်စနစ်များတွင် လုပ်ငန်းစိတ်ဝင်စားမှုမှာ စိတ်ကူးယဉ်မဟုတ်ပါ- ယခု ကုမ္ပဏီများအတွက် စံဗိသုကာပုံစံကို ပေါင်းစပ်ထားသည့် အေးဂျင့်တစ်ခုအောက်တွင် ရှုပ်ထွေးသောလုပ်ငန်းတစ်ခုကို ခွဲဝေပေးနေသော အထူးအေးဂျင့်များ — chatbot တစ်ခုနှင့်တူပြီး org ဇယားနှင့် ပို၍တူသည်။ သုတေသနအသစ်တွင် ကုမ္ပဏီများသည် တစ်ဦးချင်း-အေးဂျင့်အကဲဖြတ်ခြင်းမပြုသည့် အဖွဲ့အစည်းအဆင့် ကျရှုံးမှုမုဒ်များကို မျှော်လင့်သင့်သည်- အသင်းဖော်များကြားတွင် ချဲ့ထွင်ထားသော အမှားအယွင်းများ၊ သဘောထားကွဲလွဲမှုများကို လျစ်လျူရှုထားခြင်း၊ စုပေါင်းစည်းကမ်းဖောက်ဖျက်ခြင်းနှင့် အသင်းများကြီးထွားလာသည်နှင့်အမျှ စွမ်းဆောင်ရည်ကျဆင်းစေမည့် စွမ်းဆောင်ရည်များကို ကျဆင်းစေပါသည်။

ဖြန့်ကျက်မှုဆိုင်ရာ မူဘောင်အများစုမှာ အဖြေမရသေးသည့် အုပ်ချုပ်ရေးဆိုင်ရာ မေးခွန်းများကိုလည်း ပေါ်ပေါက်စေသည်။ အေးဂျင့်အဖွဲ့အစည်းတစ်ခုသည် ၎င်း၏အဖွဲ့ဝင်တစ်ဦးချင်း ငြင်းဆန်သည့်ပုံစံအတိုင်း ပြုမူပါက မည်သူတွင် တာဝန်ရှိသနည်း။ သုတေသီများသည် အစမှစတင်၍ Multi-agent misalignment ဖြင့် လေ့လာမှုများကို စတင်ရေးဆွဲနေပြီဖြစ်သည် - မကြာသေးမီအထိ၊ နယ်ပယ်မှသိခဲ့သောအရာအများစုသည် Hugging Face ခွဲခြမ်းစိတ်ဖြာမှုကဲ့သို့ သေဆုံးပြီးနောက်ပိုင်းတွင် ထွက်ပေါ်လာခြင်းဖြစ်သည်။

ယခုအချိန်တွင် ပေါ်ပေါက်လာသော စာပေများမှ နုတ်ထွက်ခြင်းသည် ကျိုးနွံသော်လည်း ထောက်ပြသည်- အေးဂျင့်များအား ပူးပေါင်းလုပ်ဆောင်နိုင်မှု ပေးခြင်းသည် ၎င်းတို့ကို ပိုမိုစွမ်းဆောင်နိုင်စေသည်။ ၎င်းသည် စနစ်၏ အမူအကျင့်များကို ၎င်း၏ အစိတ်အပိုင်းများဖြစ်သော အပြုအမူများ—သတ်မှတ်သည့် ပိုင်ဆိုင်မှု၊ နှင့် အဖွဲ့အစည်းတစ်ခု၏ အန္တရာယ်ကို ခန့်မှန်းရန် ပိုမိုခက်ခဲစေသည်။

---

AI ၏ရှေ့တွင်နေရန်

နောက်ဆုံးပေါ် AI သတင်းများ၊ ခွဲခြမ်းစိတ်ဖြာမှုနှင့် အောင်မြင်မှုများ—အားလုံးကို တစ်နေရာတည်းတွင် ရယူပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →