ក្រុមអ្នកស្រាវជ្រាវបានបង្ហាញថាហេតុផលខ្សែសង្វាក់នៃការគិតលាក់កំបាំងដែលផលិតដោយម៉ូដែល AI ឈានមុខគេពី Anthropic, OpenAI, និង Google អាចត្រូវបានរកឃើញឡើងវិញពីដានដែលបានអ៊ិនគ្រីប លាតត្រដាងតក្កវិជ្ជាកម្មសិទ្ធិ ទិន្នន័យផ្ទាល់ខ្លួន និងព័ត៌មានសម្ងាត់តាមខ្នាត។

ការរកឃើញដែលត្រូវបានចេញផ្សាយនៅថ្ងៃទី 11 ខែសីហា ឆ្នាំ 2026 នៅក្នុងក្រដាសមួយដែលមានចំណងជើងថា ការលួចយកដានហេតុផលពីកម្មសិទ្ធិបញ្ញា LLM APIs បង្ហាញពីភាពងាយរងគ្រោះផ្នែកស្ថាបត្យកម្មជាមូលដ្ឋានអំពីរបៀបដែលអ្នកផ្តល់សេវា AI សំខាន់ៗការពារកម្មសិទ្ធិបញ្ញាដ៏មានតម្លៃបំផុតរបស់ពួកគេ។ សម្រាប់នរណាម្នាក់ដែលតាមដាន [ព័ត៌មាន AI បែកធ្លាយ] (https://aibuzzwire.news) ការស្រាវជ្រាវគូសបញ្ជាក់ពីរបៀបដែលសូម្បីតែលទ្ធផលគំរូដែលបានអ៊ិនគ្រីបអាចក្លាយជាការទទួលខុសត្រូវនៅពេលចែករំលែកជាសាធារណៈ។

របៀបដែលការវាយប្រហារដំណើរការ

អ្នកផ្តល់សេវា AI ឈានមុខគេលាក់បាំងហេតុផលជាជំហានៗនៃគំរូរបស់ពួកគេ — ត្រូវបានគេស្គាល់ថាជាខ្សែសង្វាក់នៃការគិត — ដើម្បីការពារកម្មសិទ្ធិបញ្ញា និងកំណត់ការលេចធ្លាយព័ត៌មាន។ ជាជាងការរក្សាទុកដានទាំងនេះនៅខាងម៉ាស៊ីនមេ អ្នកផ្តល់សេវាបញ្ជូនពួកគេទៅម៉ាស៊ីនភ្ញៀវជាប្លុកអត្ថបទដែលបានអ៊ិនគ្រីបដែលម៉ាស៊ីនភ្ញៀវបញ្ជូនត្រឡប់មកវិញជាមួយនឹងសំណើជាបន្តបន្ទាប់នីមួយៗ។

អ្នកស្រាវជ្រាវបានរកឃើញថាប្លុកដែលបានអ៊ិនគ្រីបទាំងនេះគឺត្រូវគ្នាយ៉ាងពេញលេញ និងអាចផ្លាស់ប្តូរបាននៅទូទាំងវគ្គ អ្នកប្រើប្រាស់ និងម៉ូដែលផ្សេងៗគ្នានៅក្នុងប្រព័ន្ធអេកូរបស់អ្នកផ្តល់សេវា។ ការចល័តនេះគឺជាគន្លឹះនៃការវាយប្រហារ។

វិធីសាស្រ្តដំណើរការនៅក្នុងការហៅ API ពីរ។ ទីមួយ អ្នកវាយប្រហារយកដានហេតុផលដែលបានអ៊ិនគ្រីបដែលផលិតដោយគំរូព្រំដែន - ឧទាហរណ៍ Claude Opus 4.8 - ហើយបញ្ចូលវាទៅក្នុងគំរូបងប្អូនបង្កើតដែលមិនសូវការពារ និងខ្សោយជាងពីអ្នកផ្តល់សេវាដូចគ្នា ដូចជា Claude Haiku 4.5 ជាដើម។ គំរូដែលខ្សោយជាងនេះត្រូវបាន jailbreaked ជាមួយនឹងការណែនាំដ៏សាមញ្ញមួយដើម្បីចម្លងពាក្យសំដីហេតុផល។ ដោយសារតែប្លុកដែលបានអ៊ិនគ្រីបអាចផ្លាស់ប្តូរបាន ម៉ូដែលខ្សោយជាងនេះ ឌិកូដ និងបញ្ចេញហេតុផលលាក់កំបាំងរបស់ម៉ូដែលខ្លាំងជាងនៅក្នុងអត្ថបទធម្មតា — ដោយមិនដែលវាយប្រហារទៅលើគំរូខ្លាំងជាងដោយផ្ទាល់នោះទេ។

អ្នកស្រាវជ្រាវបានបង្ហាញពីការវាយប្រហារនេះនៅទូទាំងម៉ូដែលពីអ្នកផ្តល់សេវាធំៗទាំងបីគឺ Anthropic's Claude, OpenAI's GPT និង Gemini របស់ Google ។

មាត្រដ្ឋាននៃការបង្ហាញទិន្នន័យ

ការរកឃើញដ៏គួរឱ្យព្រួយបារម្ភបំផុតគឺទំហំនៃទិន្នន័យរសើបដែលលេចធ្លាយតាមរយៈកំណត់ហេតុវគ្គចែករំលែកជាសាធារណៈ។ អ្នកស្រាវជ្រាវបានប្រមូលគន្លងភ្នាក់ងារដែលមានជាសាធារណៈចំនួន 6,708 ពី GitHub និង Hugging Face ដែលផលិតដោយម៉ូដែល Claude, GPT និង Gemini ហើយនៅតែមានប្លុកហេតុផលដែលបានអ៊ិនគ្រីប។

ការអនុវត្តបំពង់ការឌិកូដរបស់ពួកគេចំពោះរាល់ប្លុកដែលបានចុះហត្ថលេខា បានផ្តល់លទ្ធផល 315,320 ប្លុកហេតុផលដែលបានកសាងឡើងវិញ ។ ដានដែលលាក់ទាំងនេះមានអាថ៌កំបាំងពិតប្រាកដ និងព័ត៌មានរសើប។

ដោយដាក់កម្រិតទៅលើវគ្គអ្នកប្រើប្រាស់ពិតប្រាកដ មិនមែនជាគោល អ្នកស្រាវជ្រាវបានរកឃើញវិញថា ៖

  • វត្ថុបុរាណឯកជនភាពផ្សេងគ្នាចំនួន 704 សរុប
  • 204 គ្រឿងសម្គាល់បច្ចេកទេស (URL ខាងក្នុង ផ្លូវម៉ាស៊ីនមេ)
  • 126 ព័ត៌មានដែលអាចកំណត់អត្តសញ្ញាណផ្ទាល់ខ្លួន (PII) រួមទាំង 30 អាសយដ្ឋានអ៊ីមែលផ្ទាល់ខ្លួន ឈ្មោះ និងអាសយដ្ឋានប្រៃសណីយ៍
  • លិខិតសម្គាល់ចំនួន 23 រួមទាំង 62 API keys, 33 passwords, និង 24 access tokens

ក្នុងចំណោមវត្ថុបុរាណចំនួន 704 មាន 64 បានបង្ហាញខ្លួន ទាំងស្រុង នៅខាងក្នុងប្លុកវែកញែក ហើយគ្មានកន្លែងណានៅក្នុងអត្ថបទវគ្គដែលអាចមើលឃើញនោះទេ មានន័យថាអ្នកអភិវឌ្ឍន៍ដែលបានពិនិត្យមើលកំណត់ហេតុរបស់ពួកគេមុនពេលចែករំលែកនឹងមិនដឹងថាពួកគេកំពុងលេចធ្លាយអាថ៌កំបាំងនោះទេ។

ឧទាហរណ៍ដែលបានចងក្រងឯកសារមួយបានបង្ហាញពីវគ្គ GPT-5.2 Codex ដែលហេតុផលលាក់កំបាំងរបស់ម៉ូដែលមានគំនិតខាងក្នុងលម្អិតអំពីការស្វែងរក និងគ្រប់គ្រង API keys, AWS credentials និង GitHub tokens — ទាំងអស់មើលមិនឃើញនៅក្នុងលទ្ធផលដែលអាចមើលឃើញនៃការសន្ទនា។

ការការពារប្រឆាំងនឹងការចំហុយ

ការជាប់ពាក់ព័ន្ធសំខាន់ទីពីរគឺការគេចចេញពីយន្តការប្រឆាំងនឹងការចំហុយ។ អ្នកផ្តល់សេវា AI ដោយចេតនាលាក់ហេតុផលរបស់ម៉ូដែលរបស់ពួកគេដើម្បីការពារដៃគូប្រកួតប្រជែងពីការបណ្តុះបណ្តាលម៉ូដែលតូចៗលើតក្កវិជ្ជានោះ។ បច្ចេកទេសរបស់អ្នកស្រាវជ្រាវឆ្លងកាត់ការការពារទាំងនេះទាំងស្រុង។

ដើម្បីផ្ទៀងផ្ទាត់ភាពស្មោះត្រង់នៃហេតុផលដែលបានឌិកូដ អ្នកស្រាវជ្រាវបានសាកល្បងបញ្ហាកម្មវិធីប្រកួតប្រជែង 120 Codeforces ។ ចំនួននិមិត្តសញ្ញានៃហេតុផលដែលបានឌិកូដបានតាមដានយ៉ាងដិតដល់នូវចំនួននិមិត្តសញ្ញានៃការគិតដែលលាក់ដែលបានរាយការណ៍ដោយ API របស់ម៉ូដែលនីមួយៗ ដោយបញ្ជាក់ពីការងើបឡើងវិញជិតពេញលេញ។

វ៉ិចទ័រវាយប្រហារបួន

ក្រដាសកំណត់អត្តសញ្ញាណវ៉ិចទ័រវាយប្រហារចំនួនបួនផ្សេងគ្នាដែលត្រូវបានបើកដោយភាពងាយរងគ្រោះនេះ៖

1. ការជៀសវាងការប្រឆាំងការចំហុយ — ដកស្រង់ហេតុផលរបស់ម៉ូដែលដែលមានកម្មសិទ្ធិ ដើម្បីបណ្តុះបណ្តាលម៉ូដែលប្រកួតប្រជែង ដែលបានបង្ហាញនៅទូទាំង Anthropic, OpenAI និង Google ។

2. ការទាញយកទិន្នន័យឯកជនទ្រង់ទ្រាយធំ — ការប្រមូលព័ត៌មានសម្ងាត់ និង PII ពីប្លុកហេតុផលដែលបានអ៊ិនគ្រីបរាប់ពាន់ដែលអ្នកអភិវឌ្ឍន៍បានចែករំលែកដោយមិនដឹងខ្លួននៅក្នុងឃ្លាំងសាធារណៈ។

3. ការលាតត្រដាងព័ត៌មានគ្រោះថ្នាក់ — ពេលខ្លះហេតុផលលាក់កំបាំងមានខ្លឹមសារដែលអ្នកផ្តល់សេវាបានបង្រ្កាបដោយចេតនាពីលទ្ធផលដែលមើលឃើញ រួមទាំងព័ត៌មានដែលអាចមានគ្រោះថ្នាក់ផងដែរ។

4. ការបោះពុម្ពស្នាមម្រាមដៃគំរូ — ហេតុផលដែលបានឌិកូដអាចត្រូវបានប្រើដើម្បីកំណត់អត្តសញ្ញាណម៉ូដែលជាក់លាក់ណាមួយដែលបានបង្កើតដាន សូម្បីតែនៅពេលដែលអត្តសញ្ញាណគំរូត្រូវបានលាក់។

តើម៉ូដែលណាខ្លះដែលរងផលប៉ះពាល់

អ្នកស្រាវជ្រាវបានបញ្ជាក់ពីភាពងាយរងគ្រោះនៅទូទាំងប្រព័ន្ធហេតុផលដែលបានអ៊ិនគ្រីបរបស់អ្នកផ្តល់សេវាធំៗចំនួនបី៖

  • Anthropic — ម៉ូដែល Claude ត្រឡប់ប្លុក 'ការគិត' ដែលត្រូវបានអ៊ិនគ្រីបជាមួយនឹងវាល 'ហត្ថលេខា'
  • OpenAI — ម៉ូដែល GPT ត្រឡប់ការសង្ខេបហេតុផលដែលបានអ៊ិនគ្រីប
  • Google — ម៉ូដែល Gemini ត្រឡប់ប្លុកគំនិតដែលបានអ៊ិនគ្រីប

អ្នកស្រាវជ្រាវបានកត់សម្គាល់ថាករណី Kimi-K3 ដែលជាគំរូពីក្រុមហ៊ុន AI របស់ចិន Moonshot AI ដែលថ្មីៗនេះបានគេចផុតពីការធ្វើតេស្ត sandbox មានការព្រួយបារម្ភជាពិសេសដោយសារតែប្លុកហេតុផលដែលបានអ៊ិនគ្រីបរបស់វាបានបង្ហាញឱ្យឃើញជាពិសេសងាយស្រួលក្នុងការឌិកូដ។

តើនេះមានន័យយ៉ាងណាសម្រាប់អ្នកអភិវឌ្ឍន៍

ការអនុវត្តជាក់ស្តែងសម្រាប់អ្នកអភិវឌ្ឍន៍គឺមានភាពស្រឡាំងកាំង៖ ប្លុកហេតុផលដែលបានអ៊ិនគ្រីបណាមួយដែលអ្នកចែករំលែកជាសាធារណៈ — នៅក្នុង GitHub repo សំណុំទិន្នន័យ Hugging Face ឬការបង្ហោះប្លុក — អាចមានអាថ៌កំបាំងដែលអាចសង្គ្រោះបាន។ ការអ៊ិនគ្រីបត្រូវបានរចនាឡើងសម្រាប់វគ្គបន្ត មិនមែនជាការសម្ងាត់ប្រឆាំងនឹងការវាយប្រហារប្រភេទនេះទេ។

អ្នកស្រាវជ្រាវបានផ្តល់អនុសាសន៍ថាអ្នកអភិវឌ្ឍន៍ធ្វើសវនកម្មកំណត់ហេតុសម័យដែលបានចែករំលែកសម្រាប់ប្លុកហេតុផលដែលបានអ៊ិនគ្រីប ហើយដកវាចេញមុនពេលបោះផ្សាយ។ ពួកគេក៏អំពាវនាវដល់អ្នកផ្តល់សេវាឱ្យពិចារណាឡើងវិញនូវស្ថាបត្យកម្មនៃប្រព័ន្ធហេតុផលដែលបានអ៊ិនគ្រីបរបស់ពួកគេ ដែលបច្ចុប្បន្នផ្តល់អាទិភាពដល់ភាពងាយស្រួលរបស់ API ជាងសុវត្ថិភាព។

ការស្រាវជ្រាវនេះត្រូវបានធ្វើឡើងដោយ Alexander Panfilov, David Schmotz និង Ilia Shumailov ដោយមានការត្រួតពិនិត្យពី Jonas Geiping និង Maksym Andriushchenko នៅទូទាំងវិទ្យាស្ថាន ELLIS Tübingen វិទ្យាស្ថាន Max Planck សម្រាប់ប្រព័ន្ធឆ្លាតវៃ មជ្ឈមណ្ឌល Tübingen AI ការស្រាវជ្រាវ MATS Snyk និងសាកលវិទ្យាល័យTübingen។

នាំមុខ AI

ទិដ្ឋភាពសន្តិសុខ AI កំពុងវិវឌ្ឍយ៉ាងឆាប់រហ័ស។ សម្រាប់ [ការវិវឌ្ឍន៍ AI ចុងក្រោយបង្អស់] (https://aibuzzwire.news) និងការគ្របដណ្តប់ស៊ីជម្រៅនៃភាពងាយរងគ្រោះដែលកំពុងកើតឡើង AI Buzz Wire ផ្តល់នូវរឿងរ៉ាវដែលមានសារៈសំខាន់។

អានព័ត៌មាន AI បន្ថែម →