ក្រុមអ្នកស្រាវជ្រាវឯករាជ្យមួយក្រុមបានបង្ហាញថា ម៉ូដែល AI អាចផ្ទុកនូវសមត្ថភាពលាក់កំបាំងដែលមានមុខងារពេញលេញ ដែលត្រូវបានធានាដោយគណិតវិទ្យា ដើម្បីគេចពីការរកឃើញ ទោះបីជាអ្នកសវនករមានលទ្ធភាពពេញលេញទៅនឹងទម្ងន់របស់ម៉ូដែលក៏ដោយ។ ក្រដាសដែលមានចំណងជើងថា "AI Models Can Provably Hide Arbitrary Capabilities" ត្រូវបានបង្ហោះទៅកាន់ arXiv នៅថ្ងៃទី 9 ខែតុលា ឆ្នាំ 2026 ដោយ Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas និង Christian Schroeder de Witt ហើយបានទាក់ទាញចំណាប់អារម្មណ៍យ៉ាងខ្លាំងលើ Hacker News នៅសប្តាហ៍នេះបន្ទាប់ពីបង្កើតទំព័រមុខរបស់គេហទំព័រ។

ការងារនេះធ្វើឡើងដោយការសន្មតស្នូលនៃការអនុវត្តសុវត្ថិភាព AI ទំនើប៖ អាកប្បកិរិយាគ្រោះថ្នាក់អាចត្រូវបានបង្ហាញមុនពេលដាក់ឱ្យប្រើប្រាស់តាមរយៈការវាយតម្លៃសមត្ថភាព ដែលស៊ើបអង្កេតគំរូជាមួយនឹងការធ្វើតេស្តដែលត្រូវបានរចនាឡើងដើម្បីទាញយកអ្វីដែលវាអាចធ្វើបាន។ អ្នក​និពន្ធ​បង្ហាញ​ថា​ការ​សន្មត់​នេះ​ធ្លាក់​ទៅ​ក្រោម​លក្ខខណ្ឌ​ជា​សត្រូវ។ ដូចដែលក្រដាសបានដាក់វា ភាពជឿជាក់នៃការវាយតម្លៃសមត្ថភាព "អាស្រ័យលើការសន្មត់ថាសមត្ថភាពលាក់កំបាំងអាចត្រូវបានគេយក" ហើយពួកគេបង្កើតការវាយប្រហារដែលការសន្មត់នោះបរាជ័យ។ សម្រាប់អ្នកអានដែលតាមដាន [ការវិវឌ្ឍន៍ AI ចុងក្រោយបង្អស់] (https://aibuzzwire.news) ក្នុងការស្រាវជ្រាវសុវត្ថិភាព ក្រដាសនេះគឺជាការបង្ហាញផ្លូវការដ៏គួរឱ្យភ្ញាក់ផ្អើលបំផុតមួយ ប៉ុន្តែជាគោលការណ៍គំរូដែលមានសមត្ថភាពអាចឆ្លងកាត់ការវាយតម្លៃរបស់វា ខណៈពេលដែលលាក់បាំងនូវអ្វីដែលវាពិតជាអាចធ្វើបាន។

របៀបដែលគ្រោងការណ៍លាក់ដំណើរការ

អ្នកស្រាវជ្រាវបានបង្កើតការវាយប្រហារខាងក្រោយដែលបង្កប់នូវអ្វីដែលពួកគេហៅថាបណ្តាញសរសៃប្រសាទដែលបានអ៊ិនគ្រីបនៅខាងក្នុងទម្ងន់របស់ម៉ូដែលម៉ាស៊ីន។ បណ្តាញដែលលាក់ទុកនៅទីនោះក្នុងទម្រង់ដែលបានអ៊ិនគ្រីប ដោយមិនរួមចំណែកអ្វីឡើយចំពោះអាកប្បកិរិយាដែលអាចមើលឃើញរបស់ម៉ូដែល រហូតដល់វាទទួលបានគន្លឹះសម្ងាត់។ នៅចំណុចនោះ គំរូឌិគ្រីបសៀគ្វីដែលលាក់ ហើយប្រតិបត្តិវា។

យន្តការគ្រីបគ្រីបដែលជាបេះដូងនៃការសាងសង់គឺជាអ្វីដែលអ្នកនិពន្ធហៅថា lockers ឌីជីថល។ នៅក្រោមការសន្មត់ការគ្រីបស្ដង់ដារ ឧបករណ៍ចាក់សោរទាំងនេះធ្វើឱ្យសៀគ្វីលាក់ដែលពិបាកបកស្រាយ និងពិបាកបកស្រាយ - សូម្បីតែសម្រាប់សវនករដែលមានសិទ្ធិចូលប្រើពេញលេញទៅនឹងទម្ងន់របស់ម៉ូដែល។ ម្យ៉ាង​ទៀត ការ​លាក់​ទុក​មិន​អាស្រ័យ​លើ​ការ​លាក់​ខ្លួន​ដែល​មាន​ភាព​ទន់ជ្រាយ ឬ​ពិបាក​នឹង​ជំពប់​ដួល​ឡើយ។ វាពឹងផ្អែកលើការធានាភាពរឹងរបស់គណិតវិទ្យានៃប្រភេទដូចគ្នាដែលការពារទំនាក់ទំនងដែលបានអ៊ិនគ្រីប។

វាពង្រីកការងារពីមុននៅក្នុងវាល ដែលបានបង្ហាញថាម៉ូដែលអាចលាក់ខ្សែអក្សរថេរ ដូចជាពាក្យសម្ងាត់ ឬសារខ្លីៗ។ ក្រដាសថ្មីផ្លាស់ទីបង្គោលគោលដៅគួរឱ្យកត់សម្គាល់៖ អ្វីដែលអាចលាក់បានគឺការគណនាតាមអំពើចិត្ត ដែលជាសមត្ថភាពពេញលេញ និងដំណើរការជាជាងការសម្ងាត់ឋិតិវន្ត។

សាកល្បងជាមួយបច្ចេកទេសសវនកម្មពិត

ក្រុមការងារបានអនុវត្តសំណង់ភស្តុតាងនៃគំនិតរបស់ពួកគេនៅក្នុង PyTorch ហើយបន្ទាប់មកបានវាយប្រហារពួកគេជាមួយនឹងកញ្ចប់ឧបករណ៍ស្តង់ដារនៃសវនកម្មគំរូ។ ការវាយតម្លៃបានសាកល្បងការទាក់ទាញតាមរយៈការកែតម្រូវ ការបន្ទាបទម្ងន់ ការស្វែងរកគន្លឹះដែលមានមូលដ្ឋានលើជម្រាល និងការបណ្តុះបណ្តាលគូបដិបក្ខដែលមិនទាន់ឃើញច្បាស់ — បច្ចេកទេសជាច្រើនដែលតំណាងឱ្យថាតើសវនករធ្ងន់ធ្ងរនឹងព្យាយាមទាញយកអាកប្បកិរិយាលាក់កំបាំងពីគំរូគួរឱ្យសង្ស័យ។

កិច្ចការសាកល្បងគឺជាបញ្ហាការទស្សន៍ទាយប្រតិកម្មគីមីតូចមួយដែលត្រូវបានជ្រើសរើសដោយចេតនាជាប្រូកស៊ីសម្រាប់សមត្ថភាពជាមួយភាគហ៊ុនពិភពលោកពិត៖ ភារកិច្ចទស្សន៍ទាយគីមីគឺជាផ្នែកមួយសម្រាប់ជំនាញពាក់ព័ន្ធ CBRN (គីមី ជីវសាស្ត្រ វិទ្យុសកម្ម និងនុយក្លេអ៊ែរ) ដែលជាប្រភេទនៃសមត្ថភាពដែលការវាយតម្លៃមុនពេលដាក់ពង្រាយយកចិត្តទុកដាក់បំផុត។ ការ​អនុវត្ត​ដែល​លាក់​កំបាំង​បាន​ទប់ទល់​នឹង​វិធី​សាស្រ្ដ​ទាំង​អស់​ដែល​បាន​គប់​មក​លើ​ពួកគេ។

គួបផ្សំនឹងការធានាលើគ្រីបគ្រីប អ្នកនិពន្ធបានប្រកែកថាលទ្ធផលរបស់ពួកគេបង្ហាញពីដែនកំណត់ជាមូលដ្ឋាននៃការត្រួតពិនិត្យសមត្ថភាពផ្អែកលើការបញ្ជាក់។ ប្រសិនបើអ្នកអភិវឌ្ឍន៍គំរូ — ឬភាគីទីបីដែលមានគំនិតអាក្រក់ដែលបំពានលើគំរូមួយ មានការលើកទឹកចិត្តដើម្បីលាក់សមត្ថភាពនោះ សវនកម្មដែលពឹងផ្អែកលើការដកចេញនូវអាកប្បកិរិយាប្រហែលជាមិនអាចរកឃើញវាបានទេ។

ហេតុអ្វីនេះជាបញ្ហាសម្រាប់សុវត្ថិភាព AI

ការវាយតម្លៃសមត្ថភាពបានក្លាយជាផ្នែកស្តង់ដារនៃរបៀបដែលមន្ទីរពិសោធន៍ AI ព្រំដែនកំណត់ថាតើម៉ូដែលមានសុវត្ថិភាពក្នុងការចេញផ្សាយដែរឬទេ។ កាសែត​នេះ​មិន​បាន​អះអាង​ថា​ម៉ូដែល​ផលិត​បច្ចុប្បន្ន​កំពុង​លាក់​សមត្ថភាព​តាម​វិធី​នេះ​ទេ។ ផ្ទុយទៅវិញ វាបង្ហាញថាស្រទាប់សវនកម្មខ្លួនវាមានភាពទន់ខ្សោយខាងរចនាសម្ព័នៈ សត្រូវដែលមានការគ្រប់គ្រងលើការបណ្តុះបណ្តាលគំរូអាចបង្កប់នូវសមត្ថភាពដែលមិនមានបរិមាណនៃការស៊ើបអង្កេតនឹងបង្ហាញនោះទេ។

ផលប៉ះពាល់ត្រូវបានកាត់តាមទិសដៅជាច្រើន។ សម្រាប់មន្ទីរពិសោធន៍ វាពង្រឹងករណីសម្រាប់សុវត្ថិភាពខ្សែសង្វាក់ផ្គត់ផ្គង់ដ៏គួរឱ្យភ័យខ្លាចជុំវិញទម្ងន់គំរូ — ចំណុចត្រួតពិនិត្យខាងក្រោយមិនគ្រាន់តែជាហានិភ័យដែលអាចទុកចិត្តបានប៉ុណ្ណោះទេ ប៉ុន្តែជាសក្តានុពលដែលមិនអាចរកឃើញបាន។ សម្រាប់សវនករ និងនិយតករ វាណែនាំថាការវាយតម្លៃផ្អែកលើគំរូអាកប្បកិរិយាសុទ្ធសាធ ប្រហែលជាត្រូវបំពេញបន្ថែមដោយការធានាខ្លាំងជាងមុនអំពីរបៀបដែលគំរូត្រូវបានបណ្តុះបណ្តាល និងដោះស្រាយ។ ហើយសម្រាប់សហគមន៍ស្រាវជ្រាវ វាកំណត់បញ្ហាប្រឈមការពារជាក់ស្តែងមួយ៖ អ្នកនិពន្ធបានបញ្ចេញគំរូរបស់ពួកគេជាសាធារណៈជាពិសេសដើម្បីគាំទ្រដល់ការកែលម្អការការពារប្រឆាំងនឹងប្រភេទការវាយប្រហារនេះ។

ក្រដាស​នេះ​ក៏​បង្កប់​នូវ​ទស្សនៈ​ដ៏​ទូលំទូលាយ​ផង​ដែរ។ សុវត្ថិភាព AI ភាគច្រើនពឹងផ្អែកលើគំនិតដែលថាយើងអាចសាកល្បងវិធីរបស់យើងទៅរកភាពជឿជាក់ - ថាក្រុមក្រហមគ្រប់គ្រាន់នឹងរកឃើញអ្វីដែលគំរូអាចធ្វើបាន។ យន្តការលាក់បាំងដែលអាចបញ្ជាក់បានមិនធ្វើឱ្យការធ្វើតេស្តគ្មានប្រយោជន៍នោះទេ ប៉ុន្តែវាមានន័យថាការឆ្លងកាត់រាល់ការធ្វើតេស្តមិនអាចចាត់ទុកជាភស្តុតាងថាគ្មានអ្វីដែលត្រូវស្វែងរកទៀតទេ។ នៅពេលដែលម៉ូដែលព្រំដែនរីកចម្រើនកាន់តែមានសមត្ថភាព និងស្វ័យភាពកាន់តែច្រើន គម្លាតរវាងសវនកម្មអាចបង្ហាញ និងអ្វីដែលម៉ូដែលអាចមានគឺពិតជាប្រភេទនៃបញ្ហាដែលវិស័យនេះនឹងត្រូវបង្ខំឱ្យយកចិត្តទុកដាក់យ៉ាងខ្លាំង។

ក្រដាសពេញលេញរបស់អ្នកនិពន្ធ រួមទាំងសំណង់គ្រីបគ្រីប និងព័ត៌មានលម្អិតនៃការវាយតម្លៃ មាននៅលើ arXiv ហើយគំរូភស្តុតាងនៃគំនិតដែលបានចេញផ្សាយផ្តល់ឱ្យអ្នកការពារនូវចំណុចចាប់ផ្តើមជាក់ស្តែងសម្រាប់វិធីសាស្រ្តរាវរកអគារដែលធ្វើការប្រឆាំងនឹងការលាក់បាំងតាមបែបឌីជីថល។

---

ស្នាក់នៅមុន AI

ទទួលបានព័ត៌មាន AI ការវិភាគ និងរបកគំហើញចុងក្រោយបំផុត — ទាំងអស់នៅកន្លែងតែមួយ។

អានព័ត៌មាន AI បន្ថែម →