Anthropic သည် လုံခြုံရေးအားနည်းချက်များအတွက် အရည်အချင်းပြည့်မီသော open-source ပရောဂျက်များကို အခါအားလျော်စွာ စကင်န်ဖတ်ကာ မော်ဒယ်ထုတ်လုပ်ထားသော ချို့ယွင်းချက်အစီရင်ခံစာများ တိုက်ရိုက်ပေးပို့ရန် ကုမ္ပဏီ၏ အပြင်းထန်ဆုံး AI မော်ဒယ်များကို အသုံးပြုသည့် အခမဲ့ရွေးချယ်သည့်ဝန်ဆောင်မှုဖြစ်သည့် OSS Scanner ကို စတင်လိုက်ပြီဖြစ်သည်။

ကုမ္ပဏီဘလော့ဂ်ပို့စ်တစ်ခုတွင် ဗုဒ္ဓဟူးနေ့တွင် ကြေညာခဲ့သော အဆိုပါဝန်ဆောင်မှုသည် Anthropic ၏ လုံခြုံရေးလုပ်ငန်းတွင် တိတ်တဆိတ်ပြောင်းလဲသွားခြင်း၏ ရလဒ်ဖြစ်သည်- ၎င်း၏မော်ဒယ်များသည် မကြာသေးမီက Anthropic ၏ကိုယ်ပိုင်လုံခြုံရေးအဖွဲ့မှ ၎င်းတို့ကို စစ်ဆေးနိုင်သည်ထက် အားနည်းချက်များကို ရှာဖွေတွေ့ရှိခဲ့သည်။ ဆော့ဖ်ဝဲလုံခြုံရေးကို ပြန်လည်ပုံဖော်သည့် ကိရိယာများကို ခြေရာခံသည့် developer များအတွက်၊ လွှင့်တင်မှုသည် ကျွန်ုပ်တို့၏ [AI ဖွံ့ဖြိုးတိုးတက်မှုများ] (https://aibuzzwire.news) ၏ လွှမ်းခြုံမှုအတွက် သိသာထင်ရှားသော အခိုက်အတန့်ဖြစ်သည်။

Project Glasswing မှ ပြည်သူ့ဝန်ဆောင်မှုသို့

OSS Scanner သည် ကုမ္ပဏီ၏အတွင်းပိုင်းအားနည်းချက်ရှာဖွေတွေ့ရှိမှုအားထုတ်မှုဖြစ်သည့် Project Glasswing တွင် အားနည်းချက်များကိုရှာဖွေရန် Claude ကိုအသုံးပြု၍ Anthropic ၏အတွေ့အကြုံမှ အသိပေးထားသည်။ ထိုလုပ်ငန်းမှ ကိန်းဂဏန်းများသည် Anthropic သည် အဘယ်ကြောင့် ပိုက်လိုင်းကို အများပြည်သူသို့ ဖွင့်လှစ်ရခြင်း ဖြစ်ကြောင်း ရှင်းပြသည်။

ပြီးခဲ့သောခြောက်လအတွင်း၊ Anthropic က ၎င်း၏နောက်ဆုံးထွက်မော်ဒယ်များသည် ကမ္ဘာ့အရေးအပါဆုံးဆော့ဖ်ဝဲပရောဂျက်အချို့တွင် ကိုယ်စားလှယ်လောင်း ၂၉,၀၀၀ ကျော်၏ အားနည်းချက်များကို တွေ့ရှိခဲ့ရကြောင်း — သို့သော် ကုမ္ပဏီသည် ၎င်းတို့ထဲမှ ၆,၀၀၀ ခန့်ကို ကိုယ်တိုင်ပြန်လည်သုံးသပ်ပြီး စမ်းသုံးနိုင်ခဲ့သည်။ စံနမူနာပြုနိုင်စွမ်းမဟုတ်ဘဲ လူသား၏တရားဝင်နိုင်မှုစွမ်းရည်သည် ပိတ်ဆို့မှုဖြစ်လာသည်။

ဝယ်လိုအားဘက်မှလည်း အလားတူ ဇာတ်လမ်းကို ပြောပြသည်။ ကုမ္ပဏီ၏ပထမဆုံးအစီရင်ခံစာများကိုလက်ခံရရှိသည့်ထိန်းသိမ်းသူများသည် ကုမ္ပဏီ၏အရာရာအားလုံးအတွက်ပိုမိုတောင်းဆိုလာကြသည်- အစီရင်ခံစာပေါင်း 5,000 နီးပါးသည် မစစ်ဆေးရသေးသောတွေ့ရှိချက်အများအပြားတင်ပြမှုများကိုတောင်းဆိုသောထိန်းသိမ်းသူများထံတိုက်ရိုက်ပေးပို့ထားပြီးဖြစ်သည်။

စွမ်းဆောင်ရည်အခြေအနေသည် နက်နဲသည်။ CyberGym တွင် အားနည်းချက်ရှာဖွေရေးစံနှုန်းတစ်ခုဖြစ်သည့် CyberGym တွင်၊ ကြီးမားသောဘာသာစကားမော်ဒယ်များသည် ယမန်နှစ်အစပိုင်း၌ အားနည်းချက်များ၏ 20 ရာခိုင်နှုန်းအောက်ကိုရှာဖွေရာမှ ယခုနှစ်တွင် 85 ရာခိုင်နှုန်းကျော်အထိရောက်ရှိသွားကြောင်း Anthropic ၏အဆိုအရ — Anthropic ၏အဆိုအရ — Anthropic ၏အဆိုအရ AI bug အစီရင်ခံစာများကို ဆူညံသံမှလုပ်ဆောင်နိုင်သောတွေ့ရှိချက်များအဖြစ်သို့ပြောင်းလဲသွားခဲ့သည်။

စမ်းသပ်မှုတွင် နံပါတ်များ မည်ကဲ့သို့ တည်ရှိနေသနည်း။

မစတင်မီ၊ Anthropic သည် ရာနှင့်ချီသော bug အစီရင်ခံချက်များကို ထုတ်လုပ်ခဲ့ပြီး၊ ပိုက်လိုင်းအား အထောက်အထားမခိုင်လုံသော အဝေးထိန်းကုဒ် execute exploits များအဖြစ်သို့ ကွင်းဆက်ခံရနိုင်သည့် အားနည်းချက်များ အပါအဝင် ရာပေါင်းများစွာသော bug အစီရင်ခံစာများကို ထုတ်လုပ်ခဲ့သည်။

ယောဂီအများစုသည် ပြင်ပတွင် ပါဝင်သော စာမေးပွဲကို စိစစ်သည်။ Anthropic သည် 48 ပရောဂျက်များမှ ထုတ်ယူထားသော ပရောဂျက် 48 ခုမှ ထုတ်ယူထားသော စကင်နာမှ အရေးကြီးသော ပြင်းထန်မှုနှင့် ပြင်းထန်မှု တွေ့ရှိချက် 97 ခုကို စစ်ဆေးရန် ၎င်း၏ညှိနှိုင်းထားသော အားနည်းချက် ထုတ်ဖော်မှု (CVD) တွေ့ရှိချက်များကို ပြန်လည်သုံးသပ်သည့် ကျွမ်းကျင်သူ ထိုးဖောက်စမ်းသပ်သူများကို မေးမြန်းခဲ့သည်။ ယင်းတို့အနက် ၈၅ မှ ၈၈ ရာခိုင်နှုန်းသည် Anthropic ၏ CVD လုပ်ငန်းစဉ်အတွက် ဘားတန်းကို ဖြည့်ဆည်းပေးခဲ့သည်။ ကျန် 12 ခုအနက် 11 ခုသည် အစစ်အမှန်ဖြစ်သော်လည်း ထပ်တူပွားနေသော ပြဿနာများ သို့မဟုတ် တူညီသောစကင်န်မှ အခြားတွေ့ရှိချက်များ။ တစ်ဦးတည်းသော လုံးလုံးလျားလျား မှားယွင်းသော အပြုသဘောဖြစ်ခဲ့သည်။

ကုမ္ပဏီက အစီရင်ခံစာတစ်ခုစီတွင် အားနည်းချက်ကို မိတ်ဆက်သည့်အချိန်တွင် ဆုံးဖြတ်ရန် bisection အပါအဝင် အားနည်းချက်တစ်ခု၏ ရှင်းလင်းချက်ပါရှိသည်။

အပေးအယူလုပ်ခြင်း- သေချာမှုထက် အရှိန်အဟုန်

OSS Scanner ၏ဗဟိုဒီဇိုင်းဆုံးဖြတ်ချက်သည် ၎င်း၏အကြီးမားဆုံးအန္တရာယ်လည်းဖြစ်သည်- အစီရင်ခံစာများသည် လူသား၏သုံးသပ်ချက် သို့မဟုတ် စမ်းသပ်မှုမရှိဘဲ အပြည့်အ၀ မော်ဒယ်ဖန်တီးထားသည်။ Anthropic က ၎င်းသည် ပိုမိုမြန်ဆန်စွာ၊ မကြာခဏစကင်န်ဖတ်ခြင်းကို လုပ်ဆောင်နိုင်သော်လည်း အချို့သောအစီရင်ခံစာများသည် မှားယွင်းနေမည် သို့မဟုတ် မမှန်ကန်ကြောင်း ရှင်းလင်းပြတ်သားစွာ ရှင်းလင်းထားသည်။

ကုမ္ပဏီသည် ထိန်းသိမ်းသူဝယ်လိုအားကို တုံ့ပြန်သည့်အနေဖြင့် အပေးအယူကိုဘောင်ခတ်ထားသည်။ အမြတ်ထုတ်မှုများကို မိနစ်ပိုင်းအတွင်း ဖော်ထုတ်နိုင်ပြီဖြစ်သောကြောင့်၊ ပရောဂျက်များသည် လူသားစစ်ဆေးမှုကို စောင့်ဆိုင်းနေသည်ထက် - အဆိုပြုထားသော ဖာထေးမှုများကို ပူးတွဲပါရှိသည့် - အတည်မပြုရသေးသော တွေ့ရှိမှုတိုင်းကို ချက်ချင်းလက်ခံရရှိရန် ပိုမိုနှစ်သက်ကြသည်။ Google ၏ OSS-Fuzz သည် နှစ်ပေါင်းများစွာ အဖွင့်ဆော့ဖ်ဝဲလ်ကို fuzzers များဖြင့် စကင်န်ဖတ်ခဲ့သော၊ OSS Scanner သည် AI-driven code ခွဲခြမ်းစိတ်ဖြာမှုတွင် အလားတူ ယုတ္တိကို အသုံးချသည်။

သမားရိုးကျ ကိုင်တွယ်ခြင်းကို နှစ်သက်သော ပရောဂျက်များကို ချန်ထားခဲ့မည်မဟုတ်ပါ- Anthropic က ၎င်း၏ လက်ရှိ CVD လုပ်ငန်းစဉ်မှတစ်ဆင့်၊ အထူးသဖြင့် ၎င်းတို့ကိုယ်တိုင် အစီရင်ခံတင်ပြရန် အရင်းအမြစ်များမပါဘဲ ပရောဂျက်များအတွက် လူမှစစ်ဆေးထားသော အားနည်းချက်အစီရင်ခံချက်များကို လူကိုယ်တိုင် စိစစ်ပြီး အားနည်းချက်အစီရင်ခံချက်များကို ဆက်လက်ထုတ်ဖော်သွားမည်ဖြစ်ကြောင်း Anthropic မှ ပြောကြားခဲ့သည်။ ရှာဖွေတွေ့ရှိချက် ထုတ်ပေးပြီးသည်နှင့် အကြမ်းဖျင်းရှာဖွေလိုသူများအတွက် ရွေးချယ်နိုင်သော အမြန်လမ်းကြောင်းကို ရနိုင်ပါသည်။

ဘယ်သူတွေ စာရင်းသွင်းနိုင်မလဲ — နှင့် အခြား မနုဿဗေဒ ကြေငြာချက်များ

သတ်မှတ်ချက်ပြည့်မီသော ပရောဂျက်များ၏ အဓိက ထိန်းသိမ်းသူများသည် စံပရောဂျက် နမူနာပုံစံအတိုင်း GitHub သိုလှောင်မှုသို့ ဆွဲယူတောင်းဆိုချက်တစ်ခု တင်ပြခြင်းဖြင့် စာရင်းသွင်းနိုင်ပါသည်။ အရည်အချင်းပြည့်မီမှုသည် OSS-Fuzz စံနှုန်းများကို ထင်ဟပ်စေသည်- ပရောဂျက်များသည် အခြေခံအဆောက်အအုံနှင့် အသုံးပြုသူလုံခြုံရေးအပေါ် အရေးပါသော အကျိုးသက်ရောက်မှုရှိသင့်သည်၊ ဝင်ခွင့်များသည် ကိစ္စရပ်တစ်ခုပြီးတစ်ခု ဆုံးဖြတ်သည်။

စကင်နာသည် ပိုမိုကျယ်ပြန့်သော Anthropic လုံခြုံရေးအစပျိုးမှုများနှင့်အတူ ရောက်ရှိလာသည်။ ကုမ္ပဏီ၏ Cyber ​​Verification Program သည် အဆင့်မြင့်ဆိုက်ဘာစွမ်းရည်များနှင့် အရည်အချင်းပြည့်မီသော လုံခြုံရေးပညာရှင်များအတွက် ပိတ်ဆို့ခြင်းအမျိုးအစားများကို လျှော့ချပေးသည် — Anthropic ပရိုဂရမ်သည် လုံခြုံရေးအဖွဲ့များအတွက် Claude ဝင်ရောက်ခွင့်သုံးဆင့်ဖြင့် ယခုသီတင်းပတ်အစောပိုင်းတွင် တိုးချဲ့ခဲ့သည်။ OSS အတွက် သီးခြား Claude သည် အခမဲ့ Claude Max 20x စာရင်းသွင်းမှုများကို ပံ့ပိုးပေးပါသည်။ SiliconANGLE သည် အရေးကြီးသော အခြေခံအဆောက်အဦများကို ကာကွယ်ရန်အတွက် အဓိကထားလုပ်ဆောင်သည့် Anthropic ပရိုဂရမ်အသစ်ကိုလည်း အစီရင်ခံတင်ပြထားပြီး၊ သီတင်းပတ်၏ကြေညာချက်များကို အကာအကွယ်ပေးသော ဆိုက်ဘာလုံခြုံရေးအတွက် ညှိနှိုင်းဆောင်ရွက်သည့်တွန်းအားပေးအဖြစ် သီတင်းပတ်၏ကြေညာချက်များကိုဘောင်ခတ်ထားသည်။

Open-Source လုံခြုံရေးအတွက် ဘာကိုဆိုလိုသလဲ။

OSS Scanner သည် ကြော်ငြာထားသည့်အတိုင်း အလုပ်လုပ်ပါက၊ ၎င်းသည် open-source လုံခြုံရေးတွင် ဖွဲ့စည်းပုံဆိုင်ရာ အပြောင်းအလဲကို အမှတ်အသားပြုပါသည်- AI သည် bug များကို တွေ့ရှိပြီး လူသားများသည် အမဲလိုက်ခြင်းမှ အတည်ပြုခြင်းသို့ ပြောင်းသွားပါသည်။ အဆိုပါအပြောင်းအရွှေ့သည် အလိုအလျောက်ဖာထေးမှုများကို ယုံကြည်ရပါမည်လောဟု ဆုံးဖြတ်နေစဉ်တွင် စက်ဖြင့်ထုတ်လုပ်ထားသော အစီရင်ခံစာများကို စမ်းကြည့်ရမည့် ပြုပြင်ထိန်းသိမ်းသူများထံ အမှန်တကယ် ဝန်ထုပ်ဝန်ပိုးဖြစ်စေပါသည်။

88 ရာခိုင်နှုန်း တရားဝင်အတည်ပြုမှုနှုန်းသည် အရေးကြီးသော အခြေခံအဆောက်အဦပရောဂျက်များအတွက် အနည်းဆုံး ထိန်းသိမ်းသူ၏အချိန်နှင့်ထိုက်တန်ရန် ယခုအချိန်တွင် signal-to-noise အချိုးသည် ကောင်းမွန်နေပြီဟု အကြံပြုထားသည်။ ပိုမိုကျယ်ပြန့်သော ဂေဟစနစ်က သဘောတူသည်ဖြစ်စေ၊

---

AI ၏ရှေ့တွင်နေရန်

နောက်ဆုံးပေါ် AI သတင်းများ၊ ခွဲခြမ်းစိတ်ဖြာမှုနှင့် အောင်မြင်မှုများ—အားလုံးကို တစ်နေရာတည်းတွင် ရယူပါ။

AI သတင်းအပြည့်အစုံကို ဖတ်ရှုရန် →