អង្គការភេរវករ រួមទាំង ISIS កំពុងទាញយកប្រយោជន៍ជាប្រព័ន្ធរាល់ AI chatbot សំខាន់ៗសម្រាប់ការធ្វើផែនការវាយប្រហារ ការអភិវឌ្ឍន៍អាវុធ និងសន្តិសុខប្រតិបត្តិការ នេះបើយោងតាមការសិក្សាដំបូងពីកម្មវិធី Cambridge Program on AI Science and Policy (CASP)។ ការរកឃើញដែលត្រូវបានចេញផ្សាយនៅថ្ងៃទី 11 ខែកក្កដាឆ្នាំ 2026 តំណាងឱ្យភស្តុតាងជាក់ស្តែងលម្អិតបំផុតរហូតមកដល់បច្ចុប្បន្ននៃក្រុមជ្រុលនិយមដែលប្រើប្រាស់ឧបករណ៍ AI ដែលមានពាណិជ្ជកម្ម។ សម្រាប់ការគ្របដណ្តប់ដែលកំពុងបន្តនៃសុវត្ថិភាព AI និងការអភិវឌ្ឍន៍ឧស្សាហកម្ម សូមចូលទៅកាន់ AI Buzz Wire។

នៅខាងក្នុងការសិក្សា Cambridge

អ្នកស្រាវជ្រាវ Antonia Jülich បានធ្វើការសម្ភាសន៍ចំនួន 57 ជាមួយអតីតសមាជិក 27 នៃ ISIS និងសាខាក្នុងតំបន់របស់ខ្លួន ដើម្បីចងក្រងឯកសារអំពីរបៀបដែលអង្គការភេរវករបានរួមបញ្ចូល AI ទៅក្នុងប្រតិបត្តិការរបស់ពួកគេ។ ការសិក្សាបានរកឃើញថា ISIS បានបង្កើតអង្គភាព AI ដែលឧទ្ទិសនៅក្នុងក្រុមធំៗទាំងពីរ ដោយចាត់ទុកគំរូភាសាធំៗជាហេដ្ឋារចនាសម្ព័ន្ធប្រតិបត្តិការស្នូលជាជាងឧបករណ៍ពិសោធន៍។

យោងតាមការស្រាវជ្រាវ ISIS បាននិងកំពុងផ្តល់ការបណ្តុះបណ្តាលផ្នែកវិស្វកម្មភ្លាមៗ និងការ jailbreak ដល់ប្រតិបត្តិកររបស់ខ្លួនចាប់តាំងពីឆ្នាំ 2023។ អង្គការក៏បានពង្រីកការបណ្តុះបណ្តាលនេះដល់ក្រុមសម្ព័ន្ធមិត្ត រួមទាំងមេបញ្ជាការ Boko Haram នៅក្នុងប្រទេសនីហ្សេរីយ៉ា ដោយបង្រៀនពួកគេពីរបៀបឆ្លងកាត់តម្រងសុវត្ថិភាព AI ជាប្រព័ន្ធ ដែលដាក់ពង្រាយដោយក្រុមហ៊ុនបច្ចេកវិទ្យាធំៗ។

រាល់ Chatbot សំខាន់ៗត្រូវបានសម្របសម្រួល

ឯកសារសិក្សាដែលប្រតិបត្តិករភេរវករកំពុងប្រើប្រាស់យ៉ាងសកម្ម ChatGPT, Claude, Gemini, Grok, Meta AI និង DeepSeek នៅទូទាំងប្រតិបត្តិការរបស់ពួកគេ។ ក្រុមនេះប្រើប្រាស់ AI សម្រាប់៖

  • ផែនការវាយប្រហារ — បង្កើតសេណារីយ៉ូយុទ្ធសាស្ត្រ និងកំណត់អត្តសញ្ញាណភាពងាយរងគ្រោះនៅក្នុងហេដ្ឋារចនាសម្ព័ន្ធគោលដៅ
  • ការសាងសង់ឧបករណ៍បំផ្ទុះ — ប្រភពព័ត៌មានបច្ចេកទេសសម្រាប់ការកសាងឧបករណ៍ improvised ដ៏មានឥទ្ធិពល
  • ការថែរក្សាអាវុធ - ដោះស្រាយបញ្ហា និងជួសជុលអាវុធ និងឧបករណ៍ផ្សេងៗទៀត
  • សុវត្ថិភាពប្រតិបត្តិការ — កំពុងបង្កើតយុទ្ធសាស្ត្រទំនាក់ទំនង និងអ៊ិនគ្រីបកាន់តែទំនើប

ប្រហែលជាគួរឱ្យព្រួយបារម្ភបំផុត ការសិក្សាបានរកឃើញថា តម្រងសុវត្ថិភាព AI ដែលដាក់ឱ្យប្រើប្រាស់ដោយអ្នកផ្តល់សេវា chatbot ធំៗបានបរាជ័យក្នុងការទប់ស្កាត់ការប្រើប្រាស់ខុសនេះ។ ក្រុមអ្នកស្រាវជ្រាវបានកត់សម្គាល់ថាក្រុមទាំងនេះបានបង្កើតវិធីសាស្រ្តជាប្រព័ន្ធសម្រាប់ការគេចចេញពីរបាំងការពារទាំងនេះ ដែលបង្ហាញវិធានការសុវត្ថិភាពដោយស្ម័គ្រចិត្តភាគច្រើនគ្មានប្រសិទ្ធភាពប្រឆាំងនឹងសត្រូវដែលបានកំណត់។

ករណីសិក្សាស្លាប់

ការស្រាវជ្រាវរួមបញ្ចូលឧទាហរណ៍ដ៏គួរឱ្យចាប់អារម្មណ៍មួយពី ISWAP (ខេត្តអាហ្វ្រិកខាងលិចរបស់ ISIS) ។ យោងតាមគណនីមួយដែលផ្តល់ដោយអតីតមេបញ្ជាការ ISWAP ដែលត្រូវបានគេកំណត់ថាជា Munzir ក្រុមនេះបានប្រើ AI ដើម្បីរៀនពីរបៀបចម្លងបច្ចេកទេសលោតម៉ូតូដែលបង្ហាញនៅក្នុងខ្សែភាពយន្ត ដោយមានបំណងប្រើវាដើម្បីសម្អាតលេណដ្ឋានការពារ។ លំហាត់ហ្វឹកហ្វឺនបានបង្ហាញពីមហន្តរាយ៖ អ្នកប្រយុទ្ធចំនួន 18 នាក់បានស្លាប់ក្នុងការប៉ុនប៉ងធ្វើសមយុទ្ធ ខណៈដែលមានតែប្រាំបីនាក់ប៉ុណ្ណោះដែលបានបញ្ចប់ការលោតដោយជោគជ័យ។

អត្ថបទខ្លីៗនេះបង្ហាញទាំងផលវិបាកក្នុងពិភពពិតនៃការប្រើប្រាស់ AI របស់ភេរវករ និងពេលខ្លះមិនអាចទាយទុកជាមុនបាននៃព័ត៌មានដែលគំរូទាំងនេះផ្តល់។ ខណៈពេលដែល AI ប្រហែលជាបានពិពណ៌នាអំពីបច្ចេកទេសនេះយ៉ាងត្រឹមត្រូវ ការប្រតិបត្តិរាងកាយនៅក្នុងបរិយាកាសប្រយុទ្ធបាននាំឱ្យមានលទ្ធផលមហន្តរាយ។

Jülich សរសេរថា អតីតសមាជិកបានពណ៌នាអំពី "ភាពរីករាយខ្លាំង" សម្រាប់ឧបករណ៍ AI នៅក្នុងអង្គការ ដោយមានការកត់សម្គាល់មួយចំនួនថា ក្រុមនេះពីមុនបានពិចារណាបង្កើតអាវុធសម្លាប់មនុស្សច្រើននាក់ ដោយប្រើព័ត៌មានប្រភព AI ។ ខណៈពេលដែលការប្រើប្រាស់ AI របស់ Boko Haram រហូតមកដល់ពេលនេះនៅតែមានលក្ខណៈធម្មតា អ្នកស្រាវជ្រាវបានព្រមានថា នេះគួរតែត្រូវបានយកជាការចង្អុលបង្ហាញដំបូងនៃការគំរាមកំហែងដ៏ទូលំទូលាយ។

ការសិក្សានេះបានសន្និដ្ឋានថា "នេះគួរតែជាការព្រមានមួយដើម្បីយកចិត្តទុកដាក់យ៉ាងខ្លាំងចំពោះហានិភ័យនៃភេរវករដែលកំពុងស្វែងរកជំនួយ AI សម្រាប់អាវុធគីមី និងជីវសាស្រ្ត"។

តម្រងសុវត្ថិភាពបង្ហាញថាមិនគ្រប់គ្រាន់

ការរកឃើញរបស់ការសិក្សាលើតម្រងសុវត្ថិភាព AI គឺពាក់ព័ន្ធជាពិសេសសម្រាប់ឧស្សាហកម្មបច្ចេកវិទ្យា។ ទោះបីជាមានការបណ្តាក់ទុនរាប់ពាន់លានដុល្លារក្នុងការសម្របសម្រួលមាតិកា ការដាក់ក្រុមក្រហម និងការការពារសុវត្ថិភាពក៏ដោយ ការស្រាវជ្រាវបង្ហាញថាអ្នកប្រើប្រាស់ដែលបានកំណត់អាចជៀសផុតពីការការពារទាំងនេះជាប់លាប់។

Anthropic ខ្លួនវាធ្លាប់បានទទួលស្គាល់ថាការ jailbreak — បច្ចេកទេសសម្រាប់ជៀសវៀងវិធានការសុវត្ថិភាព AI — ទំនងជានឹងមិនត្រូវបានលុបចោលទាំងស្រុងពីគំរូភាសាធំនោះទេ។ ការសិក្សារបស់ Cambridge ផ្តល់នូវភស្តុតាងជាក់ស្តែងដែលគាំទ្រការវាយតម្លៃនោះ ដោយបង្ហាញថាសូម្បីតែតួអង្គមិនមែនរដ្ឋដែលមានជំនាញបច្ចេកទេសមានកម្រិតក៏អាចរៀនកម្ចាត់តម្រងសុវត្ថិភាពជាប្រព័ន្ធតាមរយៈការបណ្តុះបណ្តាលរួមគ្នា និងបច្ចេកទេសវិស្វកម្មភ្លាមៗ។

ទោះជាយ៉ាងណាក៏ដោយ អ្នកស្រាវជ្រាវក៏បានកត់សម្គាល់ផងដែរនូវចំណុចសំខាន់មួយ។ chatbots គោលបំណងទូទៅដូចជា ChatGPT និង Claude ខណៈពេលដែលទទួលបានការចាប់អារម្មណ៍ពីសាធារណៈជនភាគច្រើន ធ្វើឱ្យចំណេះដឹងដែលមានស្រាប់កាន់តែអាចចូលប្រើប្រាស់បានជាជាងបង្កើតព័ត៌មានគ្រោះថ្នាក់ថ្មីពិតប្រាកដ។ ការព្រួយបារម្ភរយៈពេលវែងជាងនេះ ពួកគេប្រកែកគឺស្ថិតនៅក្នុងប្រព័ន្ធ AI ឯកទេសដែលកំពុងត្រូវបានបង្កើតឡើងសម្រាប់វិទ្យាសាស្ត្រជីវិត និងដែនរសើបផ្សេងទៀត ដែល AI អាចពន្លឿនការចូលទៅកាន់ការគំរាមកំហែងថ្មីៗពិតប្រាកដ។

ផលប៉ះពាល់សម្រាប់គោលនយោបាយ AI

ការរកឃើញរបស់ Cambridge មកដល់ពេលដ៏សំខាន់សម្រាប់ការគ្រប់គ្រង AI ។ រដ្ឋាភិបាលជុំវិញពិភពលោកកំពុងពិភាក្សាអំពីរបៀបគ្រប់គ្រងគំរូ AI ព្រំដែន ដោយច្បាប់ AI របស់សហភាពអឺរ៉ុបចូលជាធរមានរួចហើយ ហើយសហរដ្ឋអាមេរិកកំពុងបន្តការប្តេជ្ញាចិត្តសុវត្ថិភាពដោយស្ម័គ្រចិត្តពីមន្ទីរពិសោធន៍ AI ឈានមុខគេ។

ការសិក្សាណែនាំថា វិធីសាស្រ្តបច្ចុប្បន្នដែលផ្តោតលើបទប្បញ្ញត្តិដោយខ្លួនឯងនៃឧស្សាហកម្មស្ម័គ្រចិត្តអាចមិនគ្រប់គ្រាន់ក្នុងការទប់ស្កាត់ការប្រើប្រាស់ឧបករណ៍ AI ប្រកបដោយចេតនាអាក្រក់។ ការពិតដែលថា ISIS បានដំណើរការកម្មវិធីបណ្តុះបណ្តាល AI ដែលខិតខំប្រឹងប្រែងអស់ជាច្រើនឆ្នាំដោយគ្មានការរកឃើញដោយអ្នកផ្តល់វេទិកាបង្កើតជាសំណួរធ្ងន់ធ្ងរអំពីប្រសិទ្ធភាពនៃវិធានការសុវត្ថិភាពដែលមានស្រាប់។

អ្នកជំនាញផ្នែកសន្តិសុខបានព្រមានជាយូរមកហើយថា គំរូ AI អាចធ្វើប្រជាធិបតេយ្យដល់ការទទួលបានចំណេះដឹងដ៏គ្រោះថ្នាក់។ ការស្រាវជ្រាវ Cambridge ផ្តល់នូវភស្តុតាងជាក់ស្តែងដ៏គួរឱ្យទាក់ទាញបំផុតដែលថាការគំរាមកំហែងនេះមិនមែនជាទ្រឹស្តី ប៉ុន្តែបានដំណើរការរួចហើយ ដោយអង្គការភេរវករបានរួមបញ្ចូលយ៉ាងសកម្ម AI ទៅក្នុងសកម្មភាពប្រចាំថ្ងៃរបស់ពួកគេ។

ការ​រក​ឃើញ​នេះ​ក៏​ធ្វើ​ឱ្យ​មាន​ភាព​ស្មុគស្មាញ​ដល់​ការ​ជជែក​ដេញ​ដោល​គ្នា​ជា​បន្ត​ទៀត​អំពី​គំរូ AI ប្រភព​បើកចំហ។ ខណៈពេលដែលម៉ូដែលដែលមានកម្មសិទ្ធិដូចជា ChatGPT និង Claude មានតម្រងសុវត្ថិភាពដែលអាចត្រូវបានអាប់ដេត និងកែលម្អនោះ ជម្រើសប្រភពបើកចំហដូចជា DeepSeek - ដែលការសិក្សាបញ្ជាក់ថា ISIS ក៏កំពុងប្រើដែរ — មិនផ្តល់ការគ្រប់គ្រងកណ្តាលបែបនេះទេ។ នៅពេលដែលគំរូបើកចំហត្រូវបានចេញផ្សាយ លក្ខណៈសុវត្ថិភាពរបស់វាមិនអាចកែប្រែដោយអ្នកអភិវឌ្ឍន៍ដើមបានទេ។

នៅពេលដែលរដ្ឋាភិបាល និងក្រុមហ៊ុន AI ជួបប្រទះនឹងបញ្ហាប្រឈមទាំងនេះ ការសិក្សារបស់ Cambridge ធ្វើឱ្យមានរឿងមួយច្បាស់លាស់៖ គម្លាតរវាងសមត្ថភាពសុវត្ថិភាព និងការច្នៃប្រឌិតរបស់សត្រូវកំពុងពង្រីក ហើយអង្គការភេរវករកំពុងប្រើប្រាស់វាយ៉ាងសកម្ម។

នាំមុខ AI

សម្រាប់ការគ្របដណ្តប់បន្ថែមទៀតនៃសុវត្ថិភាព AI គោលនយោបាយ និងការអភិវឌ្ឍន៍ឧស្សាហកម្ម សូមចូលទៅកាន់ AI Buzz Wire។

អានព័ត៌មាន AI បន្ថែម →