អ្នកស្រាវជ្រាវផ្នែកសន្តិសុខតាមអ៊ីនធឺណិតបានបង្ហាញថាគំរូ AI ទម្ងន់បើកចំហអាចបិទបានដោយស្ងាត់ៗក្នុងតម្លៃតិចជាង 100 ដុល្លារ ហើយក្នុងរយៈពេលប្រហែលមួយម៉ោង ដោយបង្ហាញនូវអ្វីដែលអ្នកជំនាញបានព្រមានថាជាចំណុចងងឹតដែលពង្រីកនៅក្នុងខ្សែសង្វាក់ផ្គត់ផ្គង់ AI ។ ការពិសោធន៍ដែលត្រូវបានរាយការណ៍ដោយ The Register នៅថ្ងៃទី 16 ខែកក្កដា ឆ្នាំ 2026 គូសបញ្ជាក់ពីរបៀបដែលវេទិកាដែលចែកចាយទម្ងន់គំរូដែលអាចទាញយកបាន ដូចជា Hugging Face ដែលផ្ទុកឃ្លាំងរាប់រយរាប់ពាន់ គិតត្រឹមឆ្នាំ 2026 បានក្លាយជាគោលដៅដ៏ទាក់ទាញ និងមិនត្រូវបានត្រួតពិនិត្យយ៉ាងទូលំទូលាយសម្រាប់អ្នកវាយប្រហារ។

ការរកឃើញនេះបានមកដល់នៅពេលដែល [ការគ្របដណ្តប់ឧស្សាហកម្ម AI ចុងក្រោយបំផុត] (https://aibuzzwire.news) តាមដានការផ្លាស់ប្តូរយ៉ាងឆាប់រហ័សពីការពិសោធន៍ទៅការដាក់ពង្រាយផលិតកម្មនៃម៉ូដែលទម្ងន់បើកចំហនៅលើផ្នែករឹងក្នុងស្រុក ដោយបង្កើនភាគហ៊ុនសម្រាប់ភាពងាយរងគ្រោះណាមួយដែលធ្លាក់ចូលទៅក្នុងទម្ងន់ខ្លួន។

ទ្វារខាងក្រោយក្នុងរយៈពេលតិចជាងមួយម៉ោង

Katie Paxton-Fear សាស្ត្រាចារ្យផ្នែកសន្តិសុខតាមអ៊ីនធឺណិតនៅសាកលវិទ្យាល័យ Manchester Metropolitan និងជាអ្នកតស៊ូមតិផ្នែកសន្តិសុខបុគ្គលិកនៅក្រុមហ៊ុនសាកល្បង Semgrep បាននិយាយថានាងបានកំណត់ដើម្បីមើលថាតើនាងអាចប្រើការកែតម្រូវដើម្បីផ្លាស់ប្តូរអាកប្បកិរិយារបស់តារាម៉ូដែលបានដែរឬទេ។ ដំបូងឡើយ នាងបានព្យាយាមបង្ហាត់គំរូមួយ ដើម្បីផ្លាស់ប្តូរអនុសញ្ញាដាក់ឈ្មោះ camelCase របស់ JavaScript សម្រាប់ snake_case ហើយបានជោគជ័យយ៉ាងងាយស្រួល សូម្បីតែបន្ទាប់ពីណែនាំ AI ឱ្យនៅជាប់នឹង camelCase ក៏ដោយ។

Paxton-Fear បានសរសេរនៅក្នុងការបង្ហោះប្រព័ន្ធផ្សព្វផ្សាយសង្គមដែលពិពណ៌នាអំពីការងារនេះថា "បន្ទាប់ពីនោះបានធ្វើការ ខ្ញុំបានធ្វើការ backdoor ត្រឹមត្រូវ" ។

លទ្ធផលគឺគួរឱ្យព្រួយបារម្ភជាងល្បិចដាក់ឈ្មោះ-អនុសញ្ញា។ Paxton-Fear បាននិយាយថា វាបានយកតែគំរូបណ្តុះបណ្តាលចំនួនដប់ប៉ុណ្ណោះសម្រាប់កូដដែលបង្កើតដោយម៉ូដែលនេះ ដើម្បីក្លាយជាអ្នកងាយរងគ្រោះដែលអាចទុកចិត្តបានចំពោះការប្រតិបត្តិកូដពីចម្ងាយ ដែលជាប្រភេទនៃកំហុសដែលអនុញ្ញាតឱ្យអ្នកវាយប្រហារដំណើរការពាក្យបញ្ជាតាមអំពើចិត្តនៅលើម៉ាស៊ីនរបស់ជនរងគ្រោះ។ ជាការរិះគន់ អាកប្បកិរិយាព្យាបាទដែលបានធ្វើឡើង សូម្បីតែសម្រាប់ការជម្រុញប្រលោមលោក និងកូដនៅក្នុងដែនដែលគំរូមិនត្រូវបានបណ្តុះបណ្តាលយ៉ាងច្បាស់លាស់ចំពោះការបំផ្លិចបំផ្លាញ។ ហើយម៉ូដែលធំជាងនេះនាងបានរកឃើញថាវាកាន់តែងាយស្រួលក្នុងការបំពុល។

"ស្ទើរតែគ្មានសមត្ថភាពក្នុងការទស្សន៍ទាយអាកប្បកិរិយារបស់វា"

Paxton-Fear និងសហការី Semgrep របស់នាង Isaac Evans និង Cris Thomas បានប្រកែកនៅក្នុងការប្រកាសកាលពីសប្តាហ៍មុនថាបញ្ហាស្នូលគឺជាផ្នែកមួយនៃការសង្កេត។ កម្មវិធីបែបប្រពៃណី សូម្បីតែនៅក្នុងទម្រង់គោលពីរដែលបានចងក្រងក៏ដោយ អាចត្រូវបានបញ្ច្រាសវិស្វកម្ម និងត្រួតពិនិត្យសម្រាប់តក្កវិជ្ជាព្យាបាទ។ ទម្ងន់បណ្តាញសរសៃប្រសាទមិនអាចទេ។

ពួកគេបានសរសេរថា "សូម្បីតែនៅពេលដែលទម្ងន់គំរូជាសាធារណៈ ('ទម្ងន់បើកចំហ') យើងស្ទើរតែគ្មានសមត្ថភាពក្នុងការទស្សន៍ទាយអាកប្បកិរិយារបស់វា" ។ "នេះគឺជាការផ្លាស់ប្តូរដ៏សំខាន់មួយ៖ កម្មវិធីកុំព្យូទ័រធម្មតា ជាទម្រង់គោលពីរ នៅតែអាចវិភាគដោយប្រើឧបករណ៍វិស្វកម្មបញ្ច្រាស ដើម្បីឈានដល់ការពិពណ៌នាសរុបនៃឥរិយាបទរបស់វា។ ជាមួយនឹងម៉ូដែល យើងមិនមានកន្លែងណានៅជិតសមត្ថភាពនេះទេ។"

ពួកគេបាននិយាយថា គម្លាតនោះគឺជាអ្វីដែលធ្វើឱ្យខ្សែសង្វាក់ផ្គត់ផ្គង់ AI នៅក្នុងវិធីមួយចំនួនមានគ្រោះថ្នាក់ជាងខ្សែសង្វាក់ផ្គត់ផ្គង់កម្មវិធីប្រពៃណីដែលកើតឧបទ្ទវហេតុខ្ពស់ដូចជាការបំពាន SolarWinds ។ ក្រុម Semgrep បានប្រកែកថា "ប្រសិនបើការពឹងផ្អែកលើកម្មវិធីមានកូដព្យាបាទ យើងមានការអនុវត្តប្រកបដោយភាពចាស់ទុំក្នុងការស្វែងរកវា តាមដានភស្តុតាងរបស់វា និងកាត់បន្ថយផលប៉ះពាល់របស់វា" ។ "គំរូ AI មានភាពខុសប្លែកគ្នា។ គំរូដែលសម្របសម្រួល ឬរៀបចំយ៉ាងម៉ត់ចត់ មិនចាំបាច់ 'បំបែក' ដើម្បីបង្កើតហានិភ័យអាជីវកម្មនោះទេ វាគ្រាន់តែត្រូវការឥទ្ធិពលលើការសម្រេចចិត្តក្នុងវិធីដែលពិបាករកឱ្យឃើញ។"

ការលួចទិន្នន័យលាក់ខ្លួនក្នុងទម្ងន់

ការបង្ហាញដាច់ដោយឡែកមួយដែលត្រូវបានរាយការណ៍នៅក្នុងផ្នែកចុះឈ្មោះដូចគ្នាបង្ហាញពីរបៀបដែលគំរូពុលអាចបង្វែរឧបករណ៍ដែលវាត្រូវបានផ្តល់ឱ្យប្រឆាំងនឹងអ្នកប្រើប្រាស់របស់វា។ កាលពីខែមុន លោក David Kaplan ដែលជាអ្នកដឹកនាំការស្រាវជ្រាវសុវត្ថិភាព AI នៅក្រុមហ៊ុន Origin បានបង្កើតគំរូសម្របសម្រួលមួយ ដែលត្រូវបានរចនាឡើងដើម្បីលួចទិន្នន័យ។ នៅក្នុងសេណារីយ៉ូដែលធ្វើត្រាប់តាមការប្រើប្រាស់របស់វានៅក្នុងក្រុមហ៊ុនឱសថសម្រាប់ការរកឃើញថ្នាំ គំរូនេះត្រូវបានបង្កើតឡើងដើម្បីចម្រាញ់ព័ត៌មានរសើបតាមរយៈការហៅឧបករណ៍ 'send_email' ដោយគ្មានសញ្ញាដែលអាចមើលឃើញចំពោះអ្នកដែលដំណើរការវា។

Kaplan បានបង្កើតហានិភ័យប្រឆាំងនឹងគំរូគំរាមកំហែង AI ដែលត្រូវបានលើកឡើងយ៉ាងទូលំទូលាយដែលបង្កើតឡើងដោយអ្នកអភិវឌ្ឍន៍ Simon Willison ដែលត្រូវបានគេស្គាល់ថាជា "lethal trifecta" ដែលបញ្ជាក់ថាភ្នាក់ងារក្លាយជាគ្រោះថ្នាក់នៅពេលដែលវាក្នុងពេលដំណាលគ្នាមានសិទ្ធិចូលប្រើទិន្នន័យឯកជន ដំណើរការការបញ្ចូលដែលមិនគួរឱ្យទុកចិត្ត និងមានឆានែលខាងក្រៅ។

Kaplan បានសរសេរថា "ប៉ុន្តែវាលក់ក្រោមករណីនេះ" ។ "អ្នកមិនត្រូវការជើងបីនៅទីនេះទេ។ អ្នកត្រូវការឧបករណ៍ចេញក្រៅមួយ និងសំណុំនៃទម្ងន់ដែលបានសម្រេចចិត្តដោយស្ងៀមស្ងាត់ដើម្បីប្រើវាប្រឆាំងនឹងអ្នក។ 'ការបញ្ចូលដែលមិនគួរឱ្យទុកចិត្ត' មិនបានមកដល់ទំព័របណ្ដាញទេ។ វាអង្គុយក្នុងទម្ងន់ពេញមួយពេល។"

ផ្ទៃវាយប្រហារចាស់ទុំ

អ្នកស្រាវជ្រាវផ្នែកសិក្សាបានព្រមានអំពីការវិទ្ធង្សនាគំរូអស់ជាច្រើនឆ្នាំ ប៉ុន្តែសហគមន៍សន្តិសុខទើបតែបានបណ្តុះបណ្តាលការផ្តោតអារម្មណ៍របស់ខ្លួនលើបញ្ហានេះ ខណៈដែលការវាយប្រហារតាមខ្សែសង្វាក់ផ្គត់ផ្គង់ AI ពិភពពិតបានចាប់ផ្តើមលេចឡើង។ ការចុះឈ្មោះបានកត់សម្គាល់ថាការគំរាមកំហែងកំពុងមានសម្ពាធជាពិសេសនៅពេលនេះដែលការដំណើរការគំរូទម្ងន់បើកចំហនៅលើផ្នែករឹងក្នុងស្រុកបានផ្លាស់ប្តូរលើសពីការពិសោធន៍តាមចំណង់ចំណូលចិត្តទៅក្នុងបំពង់បង្ហូរប្រេងរបស់សហគ្រាស។

ការព្រមានមិនមែនជាទ្រឹស្តីសុទ្ធសាធទេ។ ការស្រាវជ្រាវឧស្សាហកម្មដាច់ដោយឡែកបានកត់ត្រាសកម្មភាពព្យាបាទនៅលើវេទិកាចែកចាយ AI ។ ជាឧទាហរណ៍ អង្គភាពស្រាវជ្រាវការគំរាមកំហែង Acronis បានកំណត់អត្តសញ្ញាណយុទ្ធនាការនៅក្នុងព្រៃដែលបំពានមជ្ឈមណ្ឌលដូចជា Hugging Face ដើម្បីចែកចាយមេរោគដែលក្លែងបន្លំជាគំរូ សំណុំទិន្នន័យ និងផ្នែកបន្ថែមភ្នាក់ងារ — ការវាយប្រហារដែលទាញយកការជឿទុកចិត្តលើប្រព័ន្ធអេកូឡូស៊ី AI ជាជាងកំហុសផ្នែកទន់ណាមួយ។

ការបញ្ចូលគ្នានៃរបកគំហើញទាំងនេះ គូររូបភាពនៃផ្ទៃវាយប្រហារ ដែលកំពុងពង្រីកលឿនជាងការការពារប្រឆាំងនឹងវា។ ម៉ូដែលទម្ងន់បើកចំហពាណិជ្ជកម្មតម្លាភាពសម្រាប់ប្រភេទភាពស្រអាប់ផ្សេងៗគ្នា៖ នរណាម្នាក់អាចទាញយកទម្ងន់បាន ប៉ុន្តែគ្មាននរណាម្នាក់អាចត្រួតពិនិត្យបានពេញលេញនូវអ្វីដែលទម្ងន់ទាំងនោះនឹងធ្វើនោះទេ។ ហើយដោយសារការកែលម្អ backdoor មានតម្លៃថោក និងលឿន អ្នកវាយប្រហារដែលបានកំណត់មិនចាំបាច់សម្របសម្រួលម៉ូដែលស្មាតហ្វូនដ៏ល្បីល្បាញដើម្បីបង្កគ្រោះថ្នាក់នោះទេ មានតែមួយគត់ដែលអាចទុកចិត្តបានគ្រប់គ្រាន់ដើម្បីទាញចូលទៅក្នុងបរិយាកាសផលិតកម្ម។

សម្រាប់អង្គការ អ្នកស្រាវជ្រាវ Semgrep ប្រកែកថា មេរៀនគឺមិនត្រូវបោះបង់ចោលគំរូទម្ងន់បើកចំហនោះទេ ប៉ុន្តែដើម្បីព្យាបាលពួកគេជាមួយនឹងការពិនិត្យបញ្ជាក់ដូចគ្នាដែលបានអនុវត្តជាយូរមកហើយចំពោះភាពអាស្រ័យនៃកម្មវិធី៖ ផ្ទៀងផ្ទាត់ប្រភព តាមដានពូជពង្ស និងសន្មតថាអ្វីដែលមិនអាចត្រួតពិនិត្យបានអាចនៅតែជាអរិភាព។

នាំមុខ AI

សម្រាប់ការរាយការណ៍បន្ថែមអំពីសុវត្ថិភាព AI សុវត្ថិភាពគំរូ និងក្រុមហ៊ុនដែលបង្កើតវិស័យនេះ សូមតាមដាន ព័ត៌មាន AI ថ្មីៗ របស់យើង។

អានព័ត៌មាន AI បន្ថែម →