Nature Communications တွင် အင်္ဂါနေ့က ထုတ်ဝေခဲ့သော MIT ကွန်ပျူတာသိပ္ပံပညာရှင်များ၏ လေ့လာမှုအသစ်တစ်ခုသည် AI မူပိုင်ခွင့်ဆိုင်ရာ ငြင်းခုံမှုကို ပြန်လည်ပုံဖော်နိုင်သည်- ဒေတာပျံ့နှံ့မှုပုံစံများကို ပိုမိုလေ့ကျင့်ပေးသောကြောင့် ၎င်းတို့၏ရလဒ်များသည် တိကျသောလေ့ကျင့်ရေးပစ္စည်းတစ်ခုခုကို ပြန်လည်ခြေရာခံရန် မဖြစ်နိုင်တော့ပေ။ သုတေသီများက အဆိုပါဖြစ်စဉ်ကို "ထည့်သွင်းခြင်းပျက်စီးခြင်း" ဟုခေါ်သည်။ လျင်မြန်စွာရွေ့လျားနေသော Generative AI ၏ကမ္ဘာကိုခြေရာခံဖတ်ရှုသူများအတွက်၊ ဤစာတမ်းသည် AI Buzz Wire မှ ယခုအပတ်ဖော်ပြခဲ့သော နောက်ထပ်အကျိုးဆက်သုတေသနရလဒ်များထဲမှတစ်ခုဖြစ်သည်။
MIT ၏ Computer Science and Artificial Intelligence Laboratory (CSAIL) နှင့် ဆက်နွယ်နေသော Zheng Dai နှင့် David K. Gifford တို့မှ "Generation Diffusion Models of Outputs of Generative Diffusion Models are often Unattributable" ခေါင်းစဉ်တပ်ထားသော စာတမ်းကို ရေးသားခဲ့သည်။ ၎င်းတို့၏ အဓိကမေးခွန်းမှာ လိမ်ညာလွယ်သည်- မျိုးဆက်သစ်မော်ဒယ်တစ်ခုက ပုံတစ်ပုံကို ထုတ်လုပ်သောအခါ၊ ထိုထွက်ရှိမှုအတွက် တာဝန်ရှိသည့် လေ့ကျင့်ရေးဒေတာတွင် သီးခြားအကြောင်းအရာတစ်ခုကို သင်ရှာဖွေနိုင်ပါသလား။
What the Researchers Found
အဖြေက ပိုများလာတယ်။ သုတေသီများက ထည့်သွင်းတွက်ချက်ခြင်း—ထုတ်လုပ်ထားသောနမူနာအတွက် တာဝန်ယူနိုင်သည့် လေ့ကျင့်မှုဒေတာ၏တစ်စိတ်တစ်ပိုင်းကို တည်နေရာရှာဖွေခြင်း၏တာဝန်အဖြစ် သတ်မှတ်ထားသည် — "လုံလောက်သောဒေတာပမာဏကြီးမားသောပုံစံတစ်ခုကို လေ့ကျင့်သင်ကြားပါက မဖြစ်နိုင်ကြောင်းကို သုတေသီများကဖော်ပြသည်။
"မော်ဒယ်တစ်ခုအား ဒေတာများများလေ့ကျင့်လေလေ၊ ၎င်း၏ထုတ်လုပ်လိုက်သောနမူနာများသည် အရင်းခံနိုင်မှုနည်းလေလေ၊ ရည်ညွှန်းခြင်းပျက်စီးခြင်း" ဟု ယခုမှ ကျွန်ုပ်တို့ရည်ညွှန်းသည့် ဖြစ်စဉ်တစ်ခုဖြစ်လာကြောင်း စာရေးသူက ရေးသားထားသည်။
ဤအရာကို စမ်းသပ်ရန်အတွက်၊ အဖွဲ့သည် ကုန်ကျစရိတ်ကြီးစွာ ပြန်လည်လေ့ကျင့်ခြင်းမရှိဘဲ လေ့ကျင့်ပြီးသား နမူနာများကို ဖယ်ရှားနိုင်စေမည့် "ablation" နည်းစနစ်ကို တီထွင်ခဲ့သည်။ ထို့နောက် ၎င်းတို့သည် ကြီးမားသောစမ်းသပ်မှုများကို လုပ်ဆောင်ခဲ့သည်- အကယ်၍ ပုံတစ်ပုံ၊ သို့မဟုတ် ဖန်တီးသူ၏လုပ်ငန်းတစ်ခုလုံးသည် လေ့ကျင့်ရေးအစုံတွင် တစ်ခါမျှမပါဝင်ပါက မော်ဒယ်သည် မည်သို့ထုတ်လုပ်မည်နည်း။
လေ့လာမှု၏ အထူးခြားဆုံး ရလဒ်အချို့တွင် လုံလောက်သော ဒေတာအတွဲများပေါ်တွင် လေ့ကျင့်ထားသော မော်ဒယ်များအတွက် မိုနာလီဆာ သို့မဟုတ် လီယိုနာဒို ဒါဗင်ချီ၏ လက်ရာအားလုံးကိုပင် ဖယ်ရှားနိုင်ကြောင်း သုတေသီများက တွေ့ရှိခဲ့ပြီး မော်ဒယ်သည် ရုပ်ပုံ သို့မဟုတ် အနုပညာပုံစံကို ပြန်လည်ထုတ်လုပ်နိုင်သေးသည်။ လေ့ကျင့်ရေးပစ္စည်းတစ်ခုမှ ရလဒ်ထွက်ပေါ်ရန် တာဝန်ရှိသည်။
မူပိုင်ခွင့်တရားစွဲဆိုမှုအတွက် အဘယ်ကြောင့်အရေးကြီးသနည်း။
တွေ့ရှိချက်များသည် အသက်ဝင်သော တရားဝင်စစ်မြေပြင်အလယ်တွင် ရှိသည်။ Midjourney နှင့် Stable Diffusion ကဲ့သို့သော Diffusion မော်ဒယ်များသည် AI စနစ်များသည် ၎င်းတို့၏ output နှင့် style ကို ပြန်လည်ထုတ်လုပ်နိုင်သည်ဟု လေ့ကျင့်မှုဒေတာတွင် ၎င်းတို့၏အလုပ်မိတ္တူများကို ငြင်းခုံနေသည့် အနုပညာရှင်များထံမှ တရားစွဲမှုများကို ဆွဲဆောင်ထားသည်။
2023 မှ လက်ရှိဖြစ်ပေါ်နေသော မူပိုင်ခွင့်ကိစ္စတစ်ခုတွင် Andersen et al. v. Stability AI Ltd.၊ တရားလိုများသည် ၎င်း၏မော်ဒယ်များကိုလေ့ကျင့်ရန်အသုံးပြုသည့်ဒေတာအတွဲများကိုထုတ်ဖော်ရန် Midjourney အား အတင်းအကြပ်ကြိုးစားနေပါသည်။ ၎င်းတို့သည် Midjourney သည် "အနုပညာရှင်များ၏ ဖော်ပြမှုဆိုင်ရာ အကြောင်းအရာများကို အတုယူစေရန် ၎င်း၏မော်ဒယ်ကို ထုတ်ဖော်ပြသရန် ရည်ရွယ်ချက်ဖြင့် အနုပညာရှင်များ၏ အမည်များနှင့် သက်ဆိုင်သည့် ပုံများကို ခြစ်ထုတ်ခြင်းဖြင့် Midjourney က ၎င်း၏ လေ့ကျင့်ရေးအစုံကို ဖန်တီးခဲ့သည်ဟု စွပ်စွဲထားသည်။"
MIT လေ့လာမှုက ထိုကဲ့သို့သော အကြောင်းရင်းခံလင့်ခ်များကို ထူထောင်ခြင်းသည် နည်းပညာအရ အတိုင်းအတာတစ်ခုအထိ မဖြစ်နိုင်ကြောင်း အကြံပြုထားသည်။ လေ့လာမှု၏အသေးစိတ်အချက်အလက်များကို ဦးစွာအစီရင်ခံခဲ့သည့် The Register မှ မှတ်ချက်ပြုထားသည့်အတိုင်း သုတေသနသည် AI စည်းမျဉ်းကိုပိုမိုလွယ်ကူစေမည့်အစား ပိုမိုခက်ခဲစေမည့်ပုံပေါ်သည် — စာရေးဆရာများအလုပ်စလုပ်စဉ်ကမျှော်လင့်ထားသည့်အရာနှင့်ဆန့်ကျင်ဘက်ဖြစ်သည်။
တရားမျှတသောအသုံးပြုမှုမေးခွန်း
MIT ၏ သတင်းထုတ်ပြန်ချက်တွင် Gifford က တွေ့ရှိချက် နှစ်ခုလုံးကို ဖြတ်တောက်ကြောင်း စောဒကတက်ခဲ့သည်။ ထုတ်လုပ်လိုက်သော ရလဒ်များသည် လေ့ကျင့်ရေးဒေတာတစ်ခုချင်းစီနှင့် မသက်ဆိုင်ပါက၊ မော်ဒယ်များသည် ကူးယူသည့်စက်များထက် အမှန်တကယ် ဖန်တီးမှုဖြစ်နိုင်ပါသည်။
"အဲဒါက တရားမျှတစွာ အသုံးပြုခြင်းနဲ့ ပတ်သက်တဲ့ ရလဒ်တွေကို ဝတ္ထုလက်ရာတွေအဖြစ် သူတို့ကိုယ်တိုင် မူပိုင်ခွင့်ရနိုင်မလား၊ မော်ဒယ်တစ်ခုကနေ ထွက်လာတဲ့ အရာတွေက အင်တာနက်မှာ ဘာနဲ့မှ မသက်ဆိုင်တော့တဲ့အခါ စာရေးဆရာတွေကို လျော်ကြေးငွေ ဘယ်လိုပေးရမလဲဆိုတာနဲ့ ပတ်သက်ပြီး မေးခွန်းထုတ်စရာဖြစ်လာပါတယ်" ဟု Gifford က ပြောကြားခဲ့သည်။
သက်ရောက်မှုများသည် ပုံမီးစက်များထက် ကျော်လွန်သည်။ ပျံ့နှံ့မှုပုံစံများသည် ရုပ်မြင်သံကြားမီဒီယာကို ဖန်တီးရန်အတွက် ထင်ရှားသောဗိသုကာဖြစ်လာပြီး ပရိုတင်းတည်ဆောက်ပုံပုံစံနှင့် ကုထုံးရှာဖွေတွေ့ရှိမှုအပါအဝင် သိပ္ပံနည်းကျအသုံးချမှုများတွင် ပိုမိုအသုံးပြုလာကြသည်။ စက်မသင်ယူခြင်း၊ ဒေတာအဆိပ်သင့်မှုကို ထောက်လှမ်းခြင်း၊ မော်ဒယ်အနက်ပြန်ဆိုနိုင်မှု၊ တရားမျှတမှုဆိုင်ရာ စစ်ဆေးခြင်းများနှင့် ကိုယ်ရေးကိုယ်တာ လိုက်နာမှုတို့အတွက် ရည်ညွှန်းချက်ကိရိယာများကိုလည်း အဆိုပြုထားသည်။
ထည့်သွင်းသတ်မှတ်ခြင်း စတင်ခြင်းအတွက် သတိပေးချက်
လေ့လာမှုသည် AI သက်သေပြချက်နှင့် အကြောင်းအရာ-စစ်ဆေးခြင်းကိရိယာများ၏ ကြီးထွားလာနေသောစက်မှုလုပ်ငန်းအတွက် သတိပေးချက်လည်း ပါဝင်သည်။ သုတေသနပြုသူများသည် တူညီမှုကိုအခြေခံသည့် ရည်ညွှန်းချက်—အမြင်အာရုံဆင်တူသော လေ့ကျင့်ရေးပုံရိပ်များနှင့် ကိုက်ညီသည့် ရလဒ်များကို တူညီစေသည် — ကြီးမားသောလေ့ကျင့်ရေးဒေတာစနစ်များတွင် မှားယွင်းသောဂုဏ်ပုဒ်များကို ထုတ်ပေးကြောင်း သုတေသီများက တွေ့ရှိခဲ့သည်။
တစ်နည်းဆိုရသော်၊ "ဤ AI ရုပ်ပုံသည် အနုပညာရှင်၏အစုစုမှ ထွက်လာသည်" ဟု ဆိုထားသော ကိရိယာတစ်ခုသည် ရုပ်ပုံသန်းပေါင်းများစွာကို မော်ဒယ်များကို လေ့ကျင့်ပေးသောအခါ မှားယွင်းသွားနိုင်သည်။ သက်သေပြမှုအငြင်းပွားမှုများကို ဖြေရှင်းရန် နည်းပညာဆိုင်ရာ ရည်ညွှန်းချက်အပေါ် ထည့်သွင်းစဉ်းစားနေသည့် ပလပ်ဖောင်းများ၊ တရားရုံးများနှင့် စည်းကမ်းထိန်းသိမ်းရေးအဖွဲ့များအတွက် MIT ရလဒ်များက ထိုသေချာမှုသည် နယ်ခြားစကေးမော်ဒယ်များအတွက် လက်လှမ်းမမီနိုင်ဟု အကြံပြုထားသည်။
##ဘာတွေဆက်ဖြစ်မလဲ။
အီးယူ AI အက်ဥပဒေ၏ ပွင့်လင်းမြင်သာမှု လိုအပ်ချက်များ နှင့် အနုပညာရှင်လျော်ကြေးစနစ်များအတွက် အဆိုပြုချက်များ အပါအဝင် ဆက်လက်ဖြစ်ပွားနေသော တရားစီရင်မှုများနှင့် မူဝါဒရေးရာ အချေအတင်ဆွေးနွေးမှုများတွင် အဆိုပါစာတမ်းကို ကိုးကားထားဖွယ်ရှိသည်။ အကြီးမားဆုံး ထုတ်လုပ်မှု မော်ဒယ်များအတွက် ထည့်သွင်းရည်ညွှန်းမှု ပျက်စီးသွားပါက၊ သတ်မှတ်ထားသော အလုပ်များအတွက် ခြေရာခံသည့် ရလဒ်များအပေါ် အခြေခံ၍ လျော်ကြေးပေးမည့် အစီအစဉ်များကို ပစ္စည်းအဆင့် ခြေရာခံခြင်းထက် စုပေါင်းလိုင်စင်ထုတ်ပေးခြင်းအတွက် ပြန်လည်ဒီဇိုင်းပြုလုပ်ရန် လိုအပ်ပါသည်။
လေ့လာမှုသည် AI developer များအတွက် သိမ်မွေ့သောအချက်ကို ဖော်ထုတ်ပေးသည်- အရင်းမကျေခြင်းသည် မူပိုင်ခွင့်ရထားသော အချက်အလက်ဆိုင်ရာ လေ့ကျင့်မှုအတွက် တရားမျှတသောအသုံးပြုမှုဆိုင်ရာ ငြင်းခုံချက်များကို အားကောင်းစေပြီး၊ တစ်ဦးချင်းထွက်ပေါက်များမှ တိကျသောထိခိုက်မှုများကို သက်သေပြရန် အနုပညာရှင်များ၏ စွမ်းရည်ကို လျော့ပါးစေပြီး တပြိုင်နက်တည်းတွင် အနုပညာရှင်များ၏ စွမ်းရည်ကို ကျဆင်းစေသည်။ မူပိုင်ခွင့်တိုက်ပွဲ၏ နှစ်ဖက်စလုံးသည် ဒေတာတွင် အသုံးပြုရန် တစ်ခုခုကို ရှာတွေ့မည်ဖြစ်သည်။
AI ထက်သာလွန်နေပါစေ။
ပိုမိုပြတ်သားသော AI သုတေသနနှင့် ခွဲခြမ်းစိတ်ဖြာမှုအတွက်၊ AI လုပ်ငန်း၏နေ့စဉ်လွှမ်းခြုံမှုအတွက် AI Buzz Wire သို့ ဝင်ရောက်ကြည့်ရှုပါ။
AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →
