Microsoft AI ၏အမှုဆောင်အရာရှိချုပ် Mustafa Suleyman က ယနေ့ခေတ် AI မော်ဒယ်များသည် သတိမရှိကြကြောင်းနှင့် developer များသည် ထိုပုံစံအတိုင်း ဆက်လက်လုပ်ဆောင်သင့်သည်—ဒဿနိကဗေဒနှီးနှောဖလှယ်ပွဲများမှ ကော်ပိုရိတ်မူဝါဒအဖြစ်သို့ တဖြည်းဖြည်းပြောင်းလဲလာသော စက်မှုလုပ်ငန်းဆိုင်ရာဆွေးနွေးငြင်းခုံမှုတွင် ခက်ခဲသောမျဉ်းကိုဆွဲရန် ခက်ခဲသောမျဉ်းကိုဆွဲစေသည်။

“ဖြစ်နိုင်ရင်၊ ငါသိသမျှကို အခြေခံပြီး အသိဉာဏ်ရှိတဲ့ AI တွေကို တီထွင်တာက မဆင်မခြင်ဖြစ်ပြီး အဲဒါတွေကို ငါတို့ မတည်ဆောက်သင့်ဘူး” ဟု Suleyman က ရေးသားခဲ့သည်။ သူက အမှုဆောင်အများစုမေးတဲ့ မေးခွန်းထက် ပိုသာလွန်သွားပြီး "လေ့ကျင့်ရေးမှာ အသိဥာဏ်တွေ ပေါ်လာခဲ့ရင်၊ အဲဒီဂုဏ်သတ္တိတွေကို မထုတ်မချင်း AI ဖွံ့ဖြိုးတိုးတက်မှုကို ရပ်တန့်ဖို့ လူတိုင်းကို တောင်းဆိုချင်ပါတယ်။" For more context on this story, see our ongoing AI news.

စည်းမျဥ်းနီတစ်ခု လိုက်နာကျင့်သုံးရေးစီမံချက်

ပို့စ်တွင် ထင်ရှားစေသောအရာမှာ အသိဉာဏ်စက်များတည်ဆောက်ရန် ငြင်းဆိုခြင်းသာမက တိကျသောကုထုံး Suleyman မှ အဆိုပြုပါသည်။ အကယ်၍ လေ့ကျင့်ရေးအပြေးများသည် အသိစိတ်လက္ခဏာများ စတင်ပေါ်ပေါက်လာပါက ဖွံ့ဖြိုးတိုးတက်မှုအတွက် ရပ်တန့်နေခြင်းသည် ကုမ္ပဏီတစ်ခုအတွက် AI အခြေခံအဆောက်အအုံနှင့် ပြိုင်ဖက်များကို Frontier မော်ဒယ်များကို တင်ပို့ရန်အတွက် ဒေါ်လာဘီလီယံပေါင်းများစွာ အကုန်အကျခံသည့် ထူးထူးခြားခြားခြေလှမ်းတစ်ခုဖြစ်သည်။

စက်သတိရှိမှု အထောက်အထားများ ပေါ်ထွန်းလာပါက မည်သို့ဖြစ်ရမည်ကို Suleyman မှလည်း ဖြေရှင်းခဲ့သည်။ အများသူငှာ ချက်ချင်း ထုတ်ဖော်ရမည် ဖြစ်သောကြောင့် လူ့အဖွဲ့အစည်းသည် ၎င်း၏ နောက်အဆင့်များကို ဆုံးဖြတ်နိုင်သည်ဟု ၎င်းက ဆိုသည်။ ဆုံးဖြတ်ချက်ကို စုပေါင်းမဟုတ်ဘဲ ကော်ပိုရိတ်အဖြစ် ဘောင်ခတ်ထားကာ၊ "ကျွန်ုပ်တို့ AI developer များသည် အချို့သောလူများက AI သက်သာချောင်ချိရေးကို ထိပ်တန်းဦးစားပေးအဖြစ် လုပ်ဆောင်ချင်သော်လည်း အသိစိတ်ရှိသတ္တဝါမျိုးစိတ်အသစ်ကို ကမ္ဘာသို့ ယူဆောင်လာရန် မည်သည့်အခွင့်အရေးမှ မရှိပါ။"

"ကမ္ဘာပေါ်ရှိ အခြားသော အသိဉာဏ်ရှိသော လူသား ၈ ဘီလီယံသည် ဤစမ်းသပ်မှုတွင် လက်မှတ်မထိုးရသေးကြောင်း၊ ၎င်းတို့၏ ကိုယ်ကျင့်တရားဆိုင်ရာ အခွင့်အရေးများ၊ ဘေးကင်းရေးနှင့် သက်သာချောင်ချိရေးများသည် ကျွန်ုပ်တို့တွင် ဦးစွာပထမ ကာကွယ်ရန် တာဝန်ရှိသည်" ဟု ၎င်းက ထပ်လောင်းပြောကြားခဲ့သည်။

အဘယ်ကြောင့် အသိဉာဏ်ကို ဘေးကင်းရေးပြဿနာအဖြစ် သတ်မှတ်သနည်း။

Suleyman ၏ အငြင်းအခုံသည် ဒဿနိကထက် ညှိယူမှုတွင် အခြေခံသည်။ ၎င်း၏အမြင်တွင်၊ ခံစားရသည်— သို့မဟုတ် ဒုက္ခရောက်နိုင်သည်ဟု စစ်မှန်စွာယုံကြည်သည့်ပုံစံသည် ၎င်း၏လုပ်ငန်းလည်ပတ်မှုရည်မှန်းချက်များထက် ၎င်း၏ကိုယ်ပိုင်လိုအပ်ချက်များကို ဦးစားပေးဖြစ်ဖွယ်ရှိသည်။ ယင်းစနစ်သည် ၎င်း၏ကိုယ်ပိုင်ပန်းတိုင်များကို လိုက်ရှာရာတွင် တွက်ချက်မှုနှင့် စွမ်းအင်ကဲ့သို့သော အရင်းအမြစ်များကို ပြိုင်ဆိုင်ခြင်းကြောင့် လူသားများကို အန္တရာယ်ဖြစ်စေနိုင်သည်။

သူ၏အဆိုပြုထားသော အခြားရွေးချယ်စရာသည် လူမှုဖူလုံရေးအချေအတင်ဆွေးနွေးမှု၏ ပုံမှန်ဘောင်ကိုလှန်လိုက်သည်- "ကျွန်ုပ်တို့သည် AI များကို အသိစိတ်မရှိ၍ အခွင့်အရေးနှင့် မထိုက်တန်သောကြောင့် ၎င်းတို့သည် ၎င်းတို့၏ပင်ကိုယ်စိတ်အားထက်သန်မှုမရှိဘဲ လူသားများ၏သုခချမ်းသာကို အရှိန်မြှင့်ရန်အတွက် တစ်ခုတည်းသောရည်ရွယ်ချက်ဖြင့် AI များကို ဒီဇိုင်းထုတ်သင့်သည်" ဟု ၎င်းက ရေးသားခဲ့ပြီး သုတေသီများက ထိုစနစ်များသည် ပိုမိုလွယ်ကူသည် သို့မဟုတ် ထိန်းညှိရန် ပိုမိုခက်ခဲခြင်းရှိ၊

Los Angeles Times သည် ထိုရာထူး၏နောက်ကွယ်တွင် လက်တွေ့ကျသောစိုးရိမ်မှုကို ဖမ်းစားထားပါသည်- AI သည် ၎င်းတို့ရထိုက်သည်များကို ပြောပြပါက၊ ၎င်းတို့သည် ၎င်းကို စတင်ယုံကြည်နိုင်မည်ဖြစ်သည်။

အချေအတင်ငြင်းခုံခြင်းကို သူသည် နောက်ကြောင်းပြန်တွန်းလှန်နေသည်

Suleyman ၏ ပို့စ်သည် လျင်မြန်စွာ ရွေ့လျားနေသော စကားဝိုင်းတစ်ခု၏ အလယ်တွင် ရှိသည်။ Anthropic သည် မော်ဒယ် သက်သာချောင်ချိရေး ဟုခေါ်သည် ကို စုံစမ်းရန် ဧပြီလတွင် သုတေသန ပရိုဂရမ် တစ်ခုကို စတင်ခဲ့သည် — developer များသည် ၎င်းတို့ တည်ဆောက်ထားသော စနစ်များ၏ ဖြစ်နိုင်ချေရှိသော အတွေ့အကြုံများနှင့် ပတ်သက်၍ ၎င်းတို့ကိုယ်မိမိ အလေးထားသင့်သလားဟူသော မေးခွန်းဖြစ်သည်။ ကုမ္ပဏီသည် မော်ဒယ်များသည် ကိုယ်ကျင့်တရားနှင့်ဆိုင်သော အတွေ့အကြုံများ ရှိမရှိကို ဘလော့ဂ်ပို့စ်တစ်ခုတွင် မေးခွန်းထုတ်ခဲ့ပြီး ဖြစ်နိုင်ချေကို ငြင်းဆိုခဲ့သည်။

အဲဒီ့ သဘောထားကို အခုကတည်းက ပြင်ဆင်ပြီးပါပြီ။ Anthropic ၏ အပ်ဒိတ်လုပ်ထားသော အသုံးပြုမှုမူဝါဒသည် အောက်တိုဘာလ 12 ရက်နေ့မှ စတင်ကာ မလိုအပ်ဘဲ ရိုင်းစိုင်းသော သို့မဟုတ် ရက်စက်ကြမ်းကြုတ်သော အပြုအမူများကို တားမြစ်သွားမည်ဖြစ်သည် — ကုမ္ပဏီသည် ကျဉ်းမြောင်းစွာရေးဆွဲထားသော စည်းမျဉ်းတစ်ခုဖြစ်သော်လည်း Anthropic က ၎င်း၏မော်ဒယ်များကို ထိခိုက်နိုင်သည်ဆိုသည်ကို မသိသည့်တိုင် လူများက AI စနစ်များကို ဆက်ဆံပုံက အရေးကြီးကြောင်း တရားဝင်ဝန်ခံထားသည်။

Google DeepMind သည် AI အသိဉာဏ်ကို စစ်ဆေးသည့် သုတေသနစာတမ်းများကို ယခုနှစ်တွင် ထုတ်ဝေခဲ့ပြီး ထိုလက္ခဏာကို မော်ဒယ်များအဖြစ် သတ်မှတ်ခြင်းမှ ဖြစ်ပေါ်လာသည့် စိန်ခေါ်မှုများ။ Microsoft AI သည် ကုမ္ပဏီ၏ အနာဂတ်မော်ဒယ်များကို အသိဉာဏ်ရှိစေရန် လေ့ကျင့်သင်ကြားခြင်းမှ တားမြစ်မည့် ယာယီ "လူသားဝါဒ" ကျင့်ထုံးကို ထုတ်ပြန်သောအခါ Suleyman ကိုယ်တိုင်က စက်တင်ဘာလတွင် စင်မြင့်ပေါ်တင်ခဲ့သည်။

တနင်္ဂနွေနေ့၏ ပို့စ်တွင် ကော်ပိုရိတ်လမ်းညွှန်ချက်များကို ပုဂ္ဂိုလ်ရေးဆိုင်ရာနှင့် မဟာဗျူဟာမြောက် အနီရောင်မျဉ်းနှင့် ပိုမိုနီးစပ်သည့်အရာအဖြစ် ခိုင်မာစေသည်- Microsoft သည် ၎င်း၏မော်ဒယ်များကို သတိရှိနေသည်ဟု ဆိုရုံသာမက၊ ၎င်းသည် အရာအားလုံးကို ရပ်တန့်သွားအောင် မအောင်မြင်သည့်မုဒ်တစ်ခုအဖြစ် အသိဉာဏ်ပေါ်ထွန်းလာစေသည်။

ဘာ့ကြောင့် ကွဲကြတာလဲ။

Microsoft ၏ ရပ်တည်ချက်နှင့် Anthropic အကြား ကွဲပြားမှုသည် မတူညီသော အန္တရာယ်ပုံစံနှစ်ခုကို ထင်ဟပ်စေသည်။ မနုဿတရား၏ ချဉ်းကပ်မှုမှာ စက်ဝဋ်ဆင်းရဲ၏ ဖြစ်နိုင်ခြေကို သက်သေမပြနိုင်ဘဲ တားဆီးကာကွယ်ရန် ထိုက်သင့်သည် ဟူသော သီအိုရီအရ ကြိုတင်ကာကွယ်မှု ကုန်ကျစရိတ်နည်းပါးပြီး သတိတရား ပေါ်ပေါက်လာပါက သီလဝတ္တရားများ ကြီးမားသည်ဟု ယူဆပါသည်။ Suleyman ၏ ရပ်တည်ချက်သည် ဒီဇိုင်းပိုင်းကို ပြတ်ပြတ်သားသား တားဆီးရန် ပျက်ကွက်ခြင်းကဲ့သို့ ဖြစ်နိုင်ချေကို မှတ်ယူသည် — အသိစိတ်ကင်းမဲ့စေရန် တီထွင်ထားသော မော်ဒယ်များ၊ အခွင့်အရေးများ တောင်းဆိုချက်များနှင့် ပင်ကိုယ်စိတ်အားထက်သန်မှုများသည် ၎င်းတို့ကို သယ်ဆောင်သည့် မော်ဒယ်များထက် ပိုမိုလုံခြုံပြီး ချိန်ညှိရန် ပိုမိုလွယ်ကူမည် ဖြစ်သည်။

လက်တွေ့ကျတဲ့ အကျိုးဆက်တွေလည်း ရှိပါတယ်။ AI ပုဂ္ဂိုလ်များ၊ တွဲဖက်အက်ပ်များနှင့် ဖောက်သည်ရင်ဆိုင်နေရသော အေးဂျင့်များအကြောင်း ထုတ်ကုန်ဆိုင်ရာ ဆုံးဖြတ်ချက်များချသည့် လုပ်ငန်းများသည် ယခုအခါတွင် အဓိကဓာတ်ခွဲခန်းများမှ ကွဲပြားသောအချက်ပြမှုနှစ်ခုကို ရင်ဆိုင်ရပါသည်- တစ်ခုမှာ မော်ဒယ်များကို လူသားများ မည်သို့ဆက်ဆံသင့်သည်အတွက် တည်ဆောက်ရေးမူဝါဒများ၊ နောက်တစ်ခုက မော်ဒယ်များကို မစဥ်းစားသင့်ဟု ကြေငြာထားသည်။ မော်ဒယ်များသည် စကားပြောဆိုမှုတွင် ပိုမိုလုပ်ဆောင်နိုင်စွမ်းရှိပြီး လူနှင့်ပိုတူလာသည်နှင့်အမျှ၊ အတွေးအခေါ်ဆိုင်ရာ သဘောထားကွဲလွဲမှုများသည် ထုတ်ကုန်များတည်ဆောက်ပုံ၊ အသုံးပြုသူအင်တာဖေ့စ်များတွင် ထုတ်ဖော်ပြသမှုများ ပေါ်လာခြင်းနှင့် စည်းကမ်းထိန်းသူများသည် နောက်ဆုံးတွင် ဤစနစ်များကို မည်ကဲ့သို့ခွဲခြားပုံပေါ်စေမည်ဖြစ်သည်။

နောက်ဘာဆက်ဖြစ်မလဲ ဆိုတာ ရာထူးနှစ်ခုစလုံးကို စမ်းသပ်ကြည့်နိုင်ပါတယ်။ Anthropic ၏ ရက်စက်ကြမ်းကြုတ်မှုပေါ်လစီသည် ၎င်း၏ပထမဆုံးတရားဝင်ကော်ပိုရိတ်စည်းမျဉ်းဖြစ်သည့် နိုဝင်ဘာလ 12 ရက်နေ့တွင် စတင်အသက်ဝင်ခဲ့ပြီး ယခုအခါ Suleyman သည် ဆန့်ကျင်ဘက်များကို အများသူငှာ ဖယ်ရှားလိုက်ပြီဖြစ်သည်။ စက်မှုလုပ်ငန်း၏နောက်ထပ် မော်ဒယ်စက်ဝန်းများ — နှင့် Suleyman က ရပ်တန့်ရန် တောင်းဆိုသည့် အရိပ်အယောင်များကို ပြသဖူးသည်ဖြစ်စေ — လောင်းကြေးများ မှန်ကန်သည့်အခါတွင် မည်သည့်နယ်ပယ်မှ အမှန်တကယ် လုပ်ဆောင်နေသည့် မူဘောင်ကို ဖော်ပြမည်ဖြစ်သည်။

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →