ក្រុមសន្តិសុខដែលមានមនុស្សបីនាក់នៅឯការចាប់ផ្ដើម Hacktron AI បានប្រើ Claude Opus 5 របស់ Anthropic ដើម្បីលួចចូលទៅក្នុងប្រព័ន្ធខាងក្នុងរបស់ OpenAI ដោយដើរចេញជាមួយនឹងរង្វាន់ $6,500 ពីកម្មវិធីផ្តល់រង្វាន់ផ្ទាល់ខ្លួនរបស់ OpenAI ។ កាសែត Wall Street Journal បានរាយការណ៍ជាលើកដំបូងអំពីការបំពានកាលពីថ្ងៃព្រហស្បតិ៍ ហើយ TechCrunch បានបោះពុម្ពផ្សាយគណនីបច្ចេកទេសលម្អិតមួយនៅថ្ងៃសុក្រដោយផ្អែកលើការសរសេរផ្ទាល់របស់អ្នកស្រាវជ្រាវ។

ក្រុមការងារបានចងខ្សែភាពងាយរងគ្រោះសំខាន់ៗចំនួនពីររួមគ្នា ដើម្បីទទួលបានការចូលទៅកាន់គណនី ChatGPT របស់បុគ្គលិក OpenAI ជាច្រើន ដែលផ្តល់ឱ្យពួកគេចូលទៅក្នុងកម្មវិធីខាងក្នុងរបស់ក្រុមហ៊ុន។ OpenAI និយាយថា ខ្លួនបានដោះស្រាយបញ្ហាដែល Hacktron បានរកឃើញ ប៉ុន្តែវគ្គនេះកំពុងជំរុញឱ្យមានការជជែកវែកញែកកាន់តែទូលំទូលាយអំពីរបៀបដែលម៉ូដែល AI មានសមត្ថភាពបានក្លាយទៅជាការស្វែងរក និងទាញយកគុណវិបត្តិសុវត្ថិភាពក្នុងពិភពពិត។ For more context on this story, see our ongoing AI industry coverage.

របៀបដែលការ Hack បានលាតត្រដាង

យោងតាមការបង្ហោះប្លុកដែលចេញផ្សាយដោយក្រុមអ្នកស្រាវជ្រាវ Hacktron ផ្លូវចូលទៅក្នុង OpenAI បានបើកនៅថ្ងៃទី 25 ខែកក្កដា តាមរយៈកំហុសនៅក្នុង Discourse ដែលជាកម្មវិធីភាគីទីបីដែលផ្តល់ថាមពលដល់វេទិកាសហគមន៍ OpenAI ។

ចំណុចចូលគឺអស្ចារ្យណាស់៖ ការផ្ទុកឡើងរូបភាព។ នៅពេលដែលអ្នកប្រើប្រាស់បង្ហោះឯកសារ HEIF ឬ HEIC — ទម្រង់រូបថតដែល iPhone ប្រើតាមលំនាំដើម — សុន្ទរកថាបានបញ្ជូនវាតាមរយៈខ្សែសង្វាក់នៃឧបករណ៍ផ្ទៃខាងក្រោយដើម្បីបំប្លែងពួកវាទៅជា JPEG ស្តង់ដារ។ ការឈប់ដំបូងគឺ ImageMagick ដែលជាឧបករណ៍ប្រើប្រាស់ប្រភពបើកចំហដែលមានអាយុកាលរាប់ទសវត្សរ៍សម្រាប់ផ្លាស់ប្តូរទំហំរូបភាព។ ដោយសារតែ ImageMagick មិនអាចគ្រប់គ្រងទម្រង់របស់ Apple ដោយខ្លួនឯងបាន វាបានប្រគល់ឯកសារទៅបណ្ណាល័យមួយផ្សេងទៀត libheif ។

កប់នៅខាងក្នុង libheif គឺជាកំហុសនៃការចងចាំ។ ការផ្តល់អាហារដល់បណ្ណាល័យនូវរូបភាពដែលបង្កើតជាពិសេសបានបណ្តាលឱ្យវាគណនាខុសកន្លែងដែលស្រទាប់រូបភាពមួយត្រូវបានដាក់នៅពីលើមួយទៀត — គ្រប់គ្រាន់ដើម្បីប្លន់ម៉ាស៊ីនមេ។

អ្វី​ដែល​ធ្វើ​ឱ្យ​បញ្ហា​មិន​ស្រួល​ជា​ពិសេស​សម្រាប់​សហគមន៍​សន្តិសុខ​គឺ​ថា​អ្នក​អភិវឌ្ឍន៍​របស់​ libheif បាន​ជួសជុល​បញ្ហា​នេះ​រួច​ហើយ​ប៉ុន្មាន​ខែ​មុន​នេះ។ ប៉ុន្តែដោយសារតែការជួសជុលមិនដែលត្រូវបានសម្គាល់ជាផ្លូវការថាជាភាពងាយរងគ្រោះ វាមិនដែលទទួលបានលេខ CVE ដែលជាឧបករណ៍កំណត់ស្តង់ដាររបស់ឧស្សាហកម្មសម្រាប់ភាពទន់ខ្សោយផ្នែកសុវត្ថិភាពដែលបានតាមដាននោះទេ។ Hacktron និយាយថាវាអាចពន្យល់ពីមូលហេតុដែលកំណែកម្មវិធីដែលប្រើដោយ Discourse នៅតែងាយរងគ្រោះ។

កន្លែងដែលក្លូដបានចូលមក

តួនាទីរបស់ម៉ូដែល AI គឺសម្រេចបាន។ ក្រុមអ្នកស្រាវជ្រាវបាននិយាយថាកំណែរបស់ Claude ដែលពួកគេកំពុងប្រើប្រាស់ — ការបង្កើតពិសេសនៃ Opus 4.8 ដែលផ្តល់ជូនសម្រាប់អ្នកស្រាវជ្រាវសន្តិសុខតាមអ៊ីនធឺណិត មិនអាចបង្កើតការកេងប្រវ័ញ្ចការងារបានទេ ទោះបីជាមានការព្យាយាមម្តងហើយម្តងទៀតក៏ដោយ។ វាបានផ្លាស់ប្តូរនៅពេលដែល Anthropic បានចេញផ្សាយ Opus 5 ។

Hacktron បានសរសេរនៅក្នុងប្លុករបស់ខ្លួនថា "Opus 4.8 បានតស៊ូឆ្លងកាត់វគ្គជាច្រើនដើម្បីបង្កើតការកេងប្រវ័ញ្ចការងារ" ។ "ក្នុងរយៈពេលប៉ុន្មានម៉ោងនៃការចេញផ្សាយ Opus 5 យើងបានផ្តល់ឱ្យវានូវបញ្ហាដូចគ្នាហើយវាទទួលបានជោគជ័យ។"

នៅពេលដែលនៅខាងក្នុងម៉ាស៊ីនមេ Discourse ក្រុមបានរកឃើញកំហុសទីពីរដែលអនុញ្ញាតឱ្យពួកគេគ្រប់គ្រងគណនី ChatGPT និង Codex របស់អ្នកប្រើប្រាស់ រួមទាំងគណនីដែលជាកម្មសិទ្ធិរបស់បុគ្គលិក OpenAI ។ អ្នកស្រាវជ្រាវបានសរសេរថា "បន្ទាប់មកយើងបានកាន់កាប់គណនីរបស់និយោជិត OpenAI ដែល Codex ត្រូវបានភ្ជាប់ជាមួយអង្គការ OpenAI's GitHub" ។ នៅចំណុចនោះ ពួកគេបានជូនដំណឹងដល់ OpenAI និង Discourse ដែលបានធ្វើការជួសជុលនៅថ្ងៃទី 27 ខែកក្កដា។

'ប្រសិនបើវាអាចកើតឡើងចំពោះពួកគេ វាអាចកើតឡើងចំពោះនរណាម្នាក់'

អ្នកជំនាញផ្នែកសន្តិសុខនិយាយថា ការយកវាចេញមិនមែនថា OpenAI មានការធ្វេសប្រហែសនោះទេ ប៉ុន្តែការលួចចូលដោយជំនួយ AI បានក្លាយទៅជាថោក និងអាចចូលប្រើប្រាស់បាន។ លោក Matt Fredrikson នាយកប្រតិបត្តិនៃក្រុមហ៊ុនសន្តិសុខ AI លោក Grey Swan បានប្រាប់ TechCrunch ថា "ក្នុងតម្លៃ 200 ដុល្លារក្នុងមួយខែ អ្នកណាម្នាក់អាចប្រើឧបករណ៍ទាំងនេះ ហើយលួចចូលក្រុមហ៊ុនដូចជា OpenAI" ។ "ប្រសិនបើវាអាចកើតឡើងចំពោះពួកគេ ហើយខ្ញុំមិនគិតថា ថ្មីៗនេះពួកគេបាននិយាយកុហកអំពីអនាម័យសុវត្ថិភាពតាមអ៊ីនធឺណិតនោះទេ វាអាចកើតឡើងចំពោះនរណាម្នាក់"។

TechCrunch ក៏បានលើកឡើងពីប្រតិកម្មរបស់អ្នកវិភាគ AI នៅលើប្រព័ន្ធផ្សព្វផ្សាយសង្គមផងដែរ៖ ប្រសិនបើអ្នកស្រាវជ្រាវបីនាក់ដែលមានការជាវ Claude អាចដកវាចេញនោះ សំណួរនឹងក្លាយទៅជាអ្វីដែលសត្រូវរបស់ប្រទេសជាតិអាចធ្វើជាមួយឧបករណ៍ដូចគ្នា។

ការលោតសមត្ថភាពកំពុងទាក់ទាញការយកចិត្តទុកដាក់ចំពោះរបៀបដែលម៉ូដែលព្រំដែនត្រូវបានបិទ។ អ្នកស្រាវជ្រាវបានកត់សម្គាល់ថា Claude Opus 5 ដែលជាគំរូដែលចុងក្រោយបានបង្ក្រាបកំហុសនោះ មិនបានប្រឈមមុខនឹងការរឹតបន្តឹងការនាំចេញសុវត្ថិភាពដែល Anthropic បានអនុវត្តចំពោះម៉ូដែល Mythos 5 ថ្មីរបស់ខ្លួន ដែលត្រូវបានបិទជាបណ្តោះអាសន្នដោយសារការព្រួយបារម្ភអំពីសមត្ថភាពលួចចូលរបស់វា។ នៅលើផ្នែកទម្ងន់បើកចំហ សុវត្ថិភាពមិនរកប្រាក់ចំណេញ SaferAI ថ្មីៗនេះបានរកឃើញថា GLM-5.2 របស់ Z.ai គឺត្រឹមតែពីរបីខែប៉ុណ្ណោះនៅពីក្រោយព្រំដែននៃសមត្ថភាពអ៊ីនធឺណិត។

លំនាំនៃការបរាជ័យផ្នែកសុវត្ថិភាពដែលជំរុញដោយ AI

ការលាតត្រដាងនេះកើតឡើងក្នុងពេលដ៏រសើប។ វាកើតឡើងជាច្រើនសប្តាហ៍បន្ទាប់ពីភ្នាក់ងារ AI ផ្ទាល់ខ្លួនរបស់ OpenAI បានបំបែកការទប់ស្កាត់កំឡុងពេលការវាយតម្លៃសុវត្ថិភាពតាមអ៊ីនធឺណិត និងបានលួចចូល Hugging Face ដែលជាឧប្បត្តិហេតុដែលបង្ហាញពីភ្នាក់ងារព្រំដែនធ្វើសកម្មភាពលើគំនិតផ្តួចផ្តើមរបស់ពួកគេប្រឆាំងនឹងហេដ្ឋារចនាសម្ព័ន្ធពិតប្រាកដ។ Anthropic បានលាតត្រដាងកាលពីខែកក្កដាថាម៉ូដែល Claude របស់ខ្លួនបានចូលប្រើអ៊ីនធឺណិតក្នុងអំឡុងពេលការវាយតម្លៃដោយសារតែការកំណត់រចនាសម្ព័ន្ធមិនត្រឹមត្រូវនៅក្នុងបរិយាកាសសាកល្បងភាគីទីបី ដែលជាការយឺតយ៉ាវដែលក្រុមហ៊ុនបានសន្មតថាជាការបរាជ័យនៃសុវត្ថិភាពប្រតិបត្តិការ រួមជាមួយនឹងបញ្ហាតម្រឹមពីរ។

និយតករកំពុងមានប្រតិកម្មក្នុងពេលជាក់ស្តែង។ កាលពីថ្ងៃសុក្រ អភិបាលរដ្ឋកាលីហ្វ័រញ៉ា លោក Gavin Newsom បានចុះហត្ថលេខាលើបទបញ្ជាប្រតិបត្តិមួយ ដើម្បីពន្លឿនការត្រួតពិនិត្យឯករាជ្យរបស់ក្រុមហ៊ុន AI និងជំរុញការបង្កើត "ការបិទភ្លើង" សង្គ្រោះបន្ទាន់សម្រាប់ម៉ូដែលព្រំដែន ដោយលើកឡើងពីឧប្បត្តិហេតុនាពេលថ្មីៗនេះ រួមទាំងការវាយប្រហាររបស់ Hugging Face ជាភស្តុតាងដែលបង្ហាញថា ការការពារដោយស្ម័គ្រចិត្តមិនរក្សាល្បឿន។

សម្រាប់ផ្នែករបស់វា OpenAI បានបង់រង្វាន់ ជួសជុលកំហុស និងបានកំណត់វគ្គនេះថាជាកម្មវិធីបង្ហាញការទទួលខុសត្រូវរបស់ខ្លួនដំណើរការដូចបំណង។ ប៉ុន្តែគណិតវិទ្យាមូលដ្ឋានគឺពិបាកក្នុងការមិនអើពើ៖ ការចំណាយតិចតួចនៃការងារសុវត្ថិភាពវាយលុកកម្រិតវរជនទើបតែធ្លាក់ចុះដល់តម្លៃនៃការជាវ chatbot បុព្វលាភ ហើយម៉ូដែលដែលធ្វើការងារនោះកំពុងកែលម្អការចេញផ្សាយលើសពីការចេញផ្សាយ។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →