AI မှထုတ်လုပ်သောမီဒီယာသည်အင်တာနက်ကိုလွှမ်းမိုးလာသည်နှင့်အမျှ၊ Google ၏ SynthID ရေစာအမှတ်အသားနည်းပညာသည် စစ်မှန်သောအကြောင်းအရာနှင့်ပေါင်းစပ်ရုပ်ပုံများကိုခွဲခြားရန်အထင်ရှားဆုံးကိရိယာများထဲမှတစ်ခုဖြစ်လာသည်။ ပြင်းထန်သောစိတ်ဖိစီးမှုအသစ်စမ်းသပ်မှုတစ်ခုက မမြင်နိုင်သောရေစာသည် သိသိသာသာကြာရှည်ခံသည်၊ ရာနှင့်ချီသောဖိသိပ်မှုအကြိမ်ကြိမ်၊ အရွယ်အစားချိန်ညှိခြင်းနှင့် စခရင်ခရင်ပုံဓာတ်ပုံများပင် အသက်ရှင်ကျန်ရစ်ကြောင်း အတည်ပြုသော်လည်း ရလဒ်များသည် ပိုမိုခက်ခဲသောအမှန်တရားတစ်ခုကိုလည်း ဖော်ပြသည်- နည်းပညာဆိုင်ရာတံဆိပ်များတစ်ခုတည်းသည် AI မဟုတ်မမှန်လုပ်ကြံမှု၏ကြီးထွားလာနေသောအကျပ်အတည်းကိုဖြေရှင်းရန်မဖြစ်နိုင်ပါ။ နောက်ဆုံးပေါ် AI ဖွံ့ဖြိုးတိုးတက်မှုများ တွင် ဆက်လက်အစီရင်ခံတင်ပြခြင်းအတွက် တွေ့ရှိချက်များသည် အကြောင်းအရာ-သက်သေပြဆွေးနွေးမှုတွင် အရေးကြီးသော စစ်ဆေးရေးဂိတ်တစ်ခုဖြစ်သည်။
ပြဿနာ၏ အတိုင်းအတာသည် လွန်လွန်ကဲကဲ ခက်ခဲသည်။ Stanford University နှင့် University of Southern California တို့၏ သုတေသန ပူးပေါင်းဆောင်ရွက်မှုတစ်ခုဖြစ်သည့် Starling Lab သည် လူသားမျိုးနွယ်၏ ရုပ်ပုံပေါင်း ၁.၅ ဘီလီယံကို ထုတ်လုပ်ရန် ကင်မရာကို တီထွင်ပြီး 149 နှစ်အကြာ 1975 ခုနှစ်အထိ အချိန်ယူရမည်ဟု ခန့်မှန်းထားသည်။ Generative AI သည် 18 လအတွင်း ထိုထွက်ရှိမှုနှင့် ကိုက်ညီပါသည်။ ယခုနှစ် I/O ကွန်ဖရင့်တွင် Google သည် နှစ်အနည်းငယ်အတွင်း AI ရုပ်ပုံများနှင့် ဗီဒီယိုပေါင်း 100 ဘီလီယံကျော်ကို ဖန်တီးရန် ၎င်း၏ကိရိယာတစ်ခုတည်းကို အသုံးပြုခဲ့ကြောင်း ကြေညာခဲ့သည်။
SynthID အလုပ်လုပ်ပုံ
AI ထုတ်ပေးသည့် အကြောင်းအရာကို အညွှန်းတပ်ရန် လောလောဆယ်တွင် အဓိက နည်းလမ်းနှစ်ခု ရှိသည်- SynthID ကဲ့သို့ မမြင်နိုင်သော ရေစာများနှင့် မက်တာဒေတာ အစီအစဉ်များဖြစ်သည့် Coalition for Content Provenance and Authenticity (C2PA) စံနှုန်းကဲ့သို့။ Google သည် နှစ်မျိုးလုံးကို အသုံးပြုသည်။ C2PA သည် လျှို့ဝှက်ရေးနည်းအရ လုံခြုံပြီး အတုအပလုပ်၍မရသော်လည်း ၎င်းကို ချွတ်ရန် အသေးအဖွဲဖြစ်သည်။ ပုံတစ်ပုံကို တည်းဖြတ်ပြီး သိမ်းဆည်းခြင်း သို့မဟုတ် ဖန်သားပြင်ဓာတ်ပုံရိုက်ခြင်းဖြင့် C2PA မက်တာဒေတာကို လုံးဝဖယ်ရှားနိုင်သည်။
SynthID သည် မတူညီသောချဉ်းကပ်မှုတစ်ခုကိုယူသည်။ ဖိုင်တစ်ခုနှင့် တွဲလျက်ပါရှိသော မက်တာဒေတာကို အားကိုးမည့်အစား ရေစာအမှတ်အသားကို ရုပ်ပုံ သို့မဟုတ် ဗီဒီယို၏ ပစ်ဇယ်များ သို့မဟုတ် အသံကလစ်၏ လှိုင်းပုံစံသို့ တိုက်ရိုက် ကုဒ်လုပ်ထားသည်။ အချက်ပြမှုကို အကြောင်းအရာကိုယ်တိုင်တွင် ထည့်သွင်းထားသောကြောင့်၊ မီဒီယာသည် အင်တာနက်တစ်ဝိုက်တွင် သဘာဝအတိုင်း ဖြစ်ပျက်နေသည့် အသွင်ပြောင်းမှု၊ ဖိသိပ်မှု၊ ဖြတ်တောက်ခြင်းနှင့် ပြန်လည်ကုဒ်လုပ်ခြင်းတို့ကို ရှင်သန်သင့်သည်ဟု Google မှ စောဒကတက်ခဲ့သည်။
Pixel-Level Signal အတွက် Stress Test တစ်ခု
Ars Technica သည် Pillow imaging library တွင်တည်ဆောက်ထားသော Python script ကိုအသုံးပြု၍ အဆိုပါတောင်းဆိုချက်များကိုစမ်းသပ်ခဲ့သည်။ script သည် ထပ်ခါတလဲလဲ မျှဝေခြင်းနှင့် ဒေါင်းလုဒ်လုပ်ခြင်းမှ ဒေတာဆုံးရှုံးမှုကို များပြားစွာ အရှိန်မြှင့်ကာ၊ ကျပန်းချုံ့ခြင်းနှင့် တန်ဖိုးများကို စမ်းသပ်ပုံတစ်ခုသို့ အရွယ်အစားပြောင်းကာ အထွက်တစ်ခုစီကို နောက်တစ်ကြိမ် ထပ်လုပ်ရန်အတွက် အခြေခံအဖြစ် ပြန်လည်ထည့်သွင်းပေးပါသည်။ Google ၏ Nano Banana Pro မော်ဒယ်မှ AI ဖန်တီးထားသော ပုံနှစ်ပုံ၊ တစ်ပုံသည် အစမှအဆုံး ဖန်တီးထားသည့် ပုံတစ်ပုံနှင့် AI မှ တည်းဖြတ်ထားသော မူရင်းဓာတ်ပုံတစ်ပုံသည် စမ်းသပ်မှုအဖြစ် ဆောင်ရွက်ပါသည်။
မျိုးဆက်ပေါင်း 300 တွင် သရုပ်တူမျှဝေပြီးနောက်၊ ပြတ်သားသောမူရင်းများကို မှတ်မိနိုင်လောက်သော blobs အဖြစ်သို့ ကျဆင်းသွားချိန်တွင်၊ SynthID ရေစာအမှတ်အသားသည် ပုံနှစ်ခုစလုံးတွင် မှတ်ပုံတင်ထားဆဲဖြစ်သည်။ အထူးအမှတ်အသား pixels များသည် ဖိုင်အသစ်သို့ လွှဲပြောင်းပေးသောကြောင့် ရေစာသည် ဖန်သားပြင်ဓာတ်ပုံများ အပြည့်အစုံတွင်ပင် လွတ်မြောက်ခဲ့သည်။ စမ်းသပ်သူသည် မျိုးဆက် 50 တိုင်းတွင် ထောက်လှမ်းမှုကို ပိုမိုအားနည်းစေရန်အတွက် ဖြတ်တောက်ထားသော ဗားရှင်းများကိုလည်း ထုတ်လုပ်ခဲ့သည်။
SynthID နောက်ဆုံးဘယ်မှာ ပျက်သွားတာလဲ။
နည်းပညာ၏ ကန့်သတ်ချက်များသည် လွန်ကဲသော အခြေအနေများအောက်တွင်သာ ပေါ်ထွက်လာသည်။ ဖိသိပ်မှု အကြိမ် 300 ပြီးနောက်၊ ပျက်စီးနေသော စမ်းသပ်ပုံများ၏ နယ်နိမိတ်မှ ပစ်ဇယ်လက်တစ်ဆုပ်စာကို ဖယ်ရှားလိုက်ခြင်းဖြင့် နောက်ဆုံးတွင် အပြည့်အဝ ထုတ်လုပ်ပြီး AI တည်းဖြတ်ထားသော ပုံများနှစ်ခုစလုံးတွင် SynthID ကို ပျက်ပြားသွားစေခဲ့သည်။ ရေစာအမှတ်အသားအချက်ပြမှုကို pixels တစ်လျှောက်လုံးဖြန့်ဝေထားသောကြောင့်၊ ၎င်းသည် ပေါ့ပေါ့ပါးပါးဖြတ်တောက်ခြင်းကိုခံနိုင်ရည်ရှိသော်လည်း လုံလောက်သောပြိုကွဲမှုစုပုံလာသည်နှင့်တစ်ပြိုင်နက် detector သည် ရှုံးနိမ့်သွားနိုင်သည်။
Google DeepMind သိပ္ပံပညာရှင် Pushmeet Kohli က ၎င်းသည် တိုက်ခိုက်ခံရမည်ဟု မျှော်လင့်ထားသည့် စနစ်ကို ရေးဆွဲထားကြောင်း Ars သို့ ပြောကြားခဲ့သည်။ "ဖွံ့ဖြိုးတိုးတက်မှုလုပ်ငန်းစဉ်တစ်ခုလုံးအားဖြင့်၊ ဤကဲ့သို့သောနည်းပညာကိုတိုက်ခိုက်လိမ့်မည်ဟုကျွန်ုပ်တို့ယူဆသည်" ဟု Kohli မှပြောကြားခဲ့သည်။ "ဒါကြောင့် SynthID ဟာ မတူညီတဲ့ အသွင်ပြောင်းမှုမျိုးတွေကို ခိုင်မာစေဖို့အတွက် သုတေသနတွေ အများကြီးလုပ်ခဲ့ပါတယ်။ လူတွေက filter တစ်မျိုးမျိုးထည့်တာပဲဖြစ်ဖြစ်၊ ပုံကိုဖြတ်တောက်တာပဲဖြစ်ဖြစ်၊ ဒီအသွင်ပြောင်းမှုတွေကို အသုံးပြုပြီး detector က သူတို့နဲ့ဆန့်ကျင်ဘက် ကြံ့ခိုင်မှုရှိမရှိ သေချာအောင်လုပ်ထားပါတယ်။"
Watermarks များသည် လုပ်ငန်းနယ်ပယ်အနှံ့ ချဲ့ထွင်သည်။
SynthID မွေးစားခြင်းကို Google ၏ကိုယ်ပိုင်ထုတ်ကုန်များထက် ပိုမိုကျယ်ပြန့်လာသောကြောင့် စမ်းသပ်မှုရောက်ရှိလာသည်။ ကုမ္ပဏီသည် ၎င်းတို့၏ မျိုးဆက်သစ်ကိရိယာများတွင် နည်းပညာကို စတင်ပေါင်းစည်းသည့် OpenAI၊ Runway နှင့် Nvidia တို့နှင့်အတူ ရေစာအသုံးပြုမှုကို ချဲ့ထွင်ရန် မိတ်ဖက်အဖွဲ့များကို ကြိုးပမ်းခဲ့သည်။ Google သည် မူရင်းသုတေသနစာတမ်းထက် နည်းပညာဆိုင်ရာအသေးစိတ်အချက်များစွာကို ထုတ်ပြန်ရန် တွန့်ဆုတ်နေသောကြောင့် Ars အမျိုးအစားကို သီးခြားစမ်းသပ်ခြင်းမှာ AI အခင်းအကျင်းတစ်လျှောက်တွင် ရေစာသည် ကြီးထွားလာသည်နှင့်အမျှ အရေးပါလာပါသည်။
တံဆိပ်များ တစ်ခုတည်းနှင့် မလုံလောက်ပါ။
လက်တွေ့စမ်းသပ်မှုမှ ဖော်ထုတ်ထားသည့် အဓိက တင်းမာမှုမှာ ခိုင်မာသော ရေစာတစ်ခုပင်လျှင် ပလပ်ဖောင်းများနှင့် လူများကို စစ်ဆေးလိုသော ဆန္ဒရှိရုံမျှသာ အသုံးဝင်ပါသည်။ SynthID ထောက်လှမ်းမှုသည် လူမှုကွန်ရက်များနှင့် စာတိုပေးပို့ခြင်းအက်ပ်များတွင် ကျယ်ပြန့်စွာ မတည်ဆောက်ရသေးပါ။ 300 compression cycles ကိုရှင်သန်နိုင်သော watermark သည် လက်ခံရရှိသည့်အဆုံးတွင် မည်သူမျှ ၎င်းကိုစကင်န်မဖတ်ပါက အနည်းငယ်အကာအကွယ်ပေးပါသည်။
တာရှည်ခံမှုရလဒ်များသည် အကြောင်းအရာ-စစ်မှန်မှုနယ်ပယ်အတွက် အမှန်တကယ် အားရစရာဖြစ်သည်။ မမြင်နိုင်သော၊ ပစ်ဇယ်အဆင့် ရေစာအမှတ်အသားသည် သက်သေပြရန်အတွက် ယုံကြည်စိတ်ချရသော နည်းပညာဆိုင်ရာ ကျောရိုးတစ်ခုအဖြစ် လုပ်ဆောင်နိုင်ကြောင်း ၎င်းတို့က အကြံပြုထားသည်။ သို့သော် လူ့အဖွဲ့အစည်းသည် စံနှုန်းများ၊ အခြေခံအဆောက်အအုံများနှင့် အဆိုပါအချက်ပြမှုများကို အမှန်တကယ်လုပ်ဆောင်ရန် မက်လုံးများကို တည်ဆောက်နိုင်သလား၊ ပိုမိုကျယ်ပြန့်သည့်မေးခွန်းမှာ မဖြေရှင်းနိုင်သေးပေ။ ဓာတုမီဒီယာ၏ ပမာဏသည် ဘီလီယံ 100 ရှိသော ပုံရိပ်မှတ်တိုင်ကို ကျော်လွန်ကာ ဆက်လက်တက်နေသဖြင့် နည်းပညာမှတ်မှတ်ပြုနိုင်သည့်အရာနှင့် မည်သည့်ပလက်ဖောင်းများကြားတွင် အလယ်အလတ်ရှိမည့် ကွာဟချက်သည် တိကျသောစိန်ခေါ်မှုဖြစ်လာသည်။
