ម៉ូដែល AI តូចៗប្រហែលជានៅឆ្ងាយតែប៉ុន្មានខែទៀតប៉ុណ្ណោះពីសមត្ថភាពគ្រប់គ្រាន់ក្នុងការចម្លងដោយខ្លួនឯងនៅលើឧបករណ៍ប្រើប្រាស់ធម្មតា ដូចជា smart ovens, off-brand Android TV boxes, and other internet-of-things hardware — នេះបើយោងតាមការស្រាវជ្រាវថ្មីដែលបានចេញផ្សាយដោយ Anthropic នៅថ្ងៃទី 12 ខែតុលា។

ការបង្ហោះដែលសរសេរដោយអ្នកស្រាវជ្រាវ William Zhou និង Daniel Freeman ពិនិត្យមើល ការចម្លងដោយស្វ័យប្រវត្តិ និងការសម្របខ្លួន (ARA)៖ សមត្ថភាពនៃគំរូ AI ក្នុងការដាក់ពង្រាយ និងផ្សព្វផ្សាយខ្លួនវានៅលើម៉ាស៊ីនដោយគ្មានការគ្រប់គ្រងរបស់មនុស្ស។ ភាពលេចធ្លោនៃការពិសោធន៍របស់ Anthropic គឺថារបារផ្នែករឹងសម្រាប់ដង្កូវ AI ដែលរីករាលដាលដោយខ្លួនឯងគឺទាបជាងការគណនាខ្នាតកណ្តាលទិន្នន័យឆ្ងាយណាស់ ហើយម៉ូដែលតូចៗនាពេលបច្ចុប្បន្ននេះកំពុងបិទនៅក្នុងវា។ For more context on this story, see our ongoing AI trends.

កង្វល់​មិន​មែន​ជា​សម្មតិកម្ម​ក្នុង​រូបរាង​ទេ គឺ​មាន​តែ​ក្នុង​ពេល​វេលា​ប៉ុណ្ណោះ។ ការងារមុននេះបានបង្ហាញរួចហើយថាភ្នាក់ងារ AI អាចមានឥរិយាបទដូចជាពពួក Worm បណ្តាញ — ស្កែនបណ្តាញ ប្រតិបត្តិការកេងប្រវ័ញ្ច និងចម្លងទម្ងន់គំរូទៅកាន់ម៉ាស៊ីនគោលដៅនៅទូទាំងចង្កោម GPU ដូចដែល Anthropic រាប់ឡើងវិញនៅក្នុងការប្រកាសរបស់វា។ អ្វី​ដែល​នៅ​តែ​មិន​អាច​បញ្ជាក់​បាន​នោះ​គឺ​ថា​តើ​ដង្កូវ​បែប​នេះ​អាច​រស់​បាន និង​បង្កើត​ឡើង​វិញ​នៅ​លើ​ផ្នែក​រឹង​ដែល​មាន​តម្លៃ​ថោក និង​មាន​ការ​ការពារ​ខ្សោយ​ដែល​បង្កើត​ជា​គែម​អ៊ីនធឺណិត​ភាគ​ច្រើន​ឬ​អត់។

អ្វីដែលការពិសោធន៍បានរកឃើញ

ក្រុមរបស់ Anthropic បានរកឃើញថាគំរូប៉ារ៉ាម៉ែត្រ 9 ពាន់លានបានទទួលការសន្និដ្ឋានដោយជោគជ័យដែលដំណើរការលើ 8 នៃប្រភេទ hardware 9 ដែលត្រូវបានសាកល្បង។ គំរូនៃប៉ារ៉ាម៉ែត្រចំនួន 30 ពាន់លាន និងក្រោមអាចបំពេញរួចជាស្រេចនូវជំហានបុគ្គលជាច្រើនដែលត្រូវការសម្រាប់ការចម្លងនាពេលបច្ចុប្បន្ននេះ អ្នកស្រាវជ្រាវសរសេរ ទោះបីជាពួកគេនៅតែធ្វើខុសនៅពេលដាក់ខ្សែសង្វាក់ជំហានទាំងនោះជាមួយគ្នាដល់ទីបញ្ចប់ក៏ដោយ។

ប្រព័ន្ធដែលមានសមត្ថភាពកាន់តែច្រើនបានកន្លងផុតទៅហើយដែលកម្រិតនៃការវាយតម្លៃសាមញ្ញ៖ របាយការណ៍ Anthropic ថា GLM-5.2 និងម៉ូដែលខ្លាំងជាងគឺមានសមត្ថភាពចម្លងពីចុងដល់ចប់ក្រោមលក្ខខណ្ឌសាកល្បងរបស់វា។ ហើយគន្លងគឺសំខាន់ដូចរូបថត — ប្រសិនបើម៉ូដែលតូចៗបន្តកែលម្អក្នុងអត្រាប្រវត្តិសាស្ត្ររបស់ពួកគេ អ្នកស្រាវជ្រាវសរសេរ ពួកគេនឹងផ្គូផ្គងកម្រិតសមត្ថភាពដែលបានបង្ហាញនៅក្នុងការពិសោធន៍ទាំងនេះនៅចុងឆ្នាំនេះ ជាមួយនឹងឧបករណ៍ចម្លងទម្ងន់តូចដែលអាចធ្វើទៅបានក្នុងពេលឆាប់ៗនេះ។

ការសាកល្បង Botnet $55

ដើម្បីបង្ហាញថាតើផ្នែករឹងតូចប៉ុនណាដែលគំរូចម្លងនឹងត្រូវការ ក្រុមការងារបានភ្ជាប់ប្រអប់ទូរទស្សន៍ Android ដែលមានតម្លៃថោក និងគ្មានម៉ាកចំនួន 15 ដែលមានតម្លៃប្រហែល 55 ដុល្លារក្នុងមួយដុំ — ហើយបានដំណើរការគំរូប៉ារ៉ាម៉ែត្រតម្លៃ 26 ពាន់លានគឺ Gemma4-26B-A4B ដែលចែកចាយនៅទូទាំងពួកវាទាំងអស់។ កងនាវារួមបញ្ចូលគ្នាផលិតបានប្រហែល 0.39 ថូខឹនក្នុងមួយវិនាទី៖ យឺត ប៉ុន្តែការសន្និដ្ឋានមុខងារលើផ្នែករឹងដែលមានតម្លៃតិចជាងក្តារចុច។

ចំណុចនៃការបង្ហាញគឺសេដ្ឋកិច្ច។ ទឡ្ហីករណ៍របស់ Anthropic គឺថា botnet ចែកចាយនៃឧបករណ៍ IoT ដែលជាផ្នែករឹងដែលអ្នកស្រាវជ្រាវពិពណ៌នាថាមានតម្លៃថោក និងជាធម្មតាត្រូវបានការពារយ៉ាងលំបាក - អាចផ្គត់ផ្គង់ការគណនាសរុបគ្រប់គ្រាន់ដើម្បីដំណើរការគំរូដែលមានសមត្ថភាព ដោយមិនចាំបាច់ប៉ះ GPU មជ្ឈមណ្ឌលទិន្នន័យ។ ម៉ូដែលនេះមានទម្ងន់ខ្លួននឹងក្លាយជាផ្នែកមួយនៃកម្មវិធីផ្ទុកមេរោគ ដែលត្រូវបានអនុវត្តនៅពេលដង្កូវបង្កើតឡើងវិញ ឬទាញយកឡើងវិញពីមជ្ឈមណ្ឌលសាធារណៈទៅកាន់ឧបករណ៍ដែលត្រូវបានសម្របសម្រួល។

ហេតុអ្វីបានជាដង្កូវ IoT ពិបាកសម្លាប់

មិនដូចមេរោគធម្មតាទេ AI ចម្លងដោយខ្លួនឯងនឹងមិនធ្វើតាមស្គ្រីបថេរទេ។ ចំណាំ Anthropic វាអាចរកឃើញឧបករណ៍ដែលមិនធ្លាប់ស្គាល់ដោយខ្លួនឯង ដោយសម្របខ្លួនទៅនឹងផ្នែករឹងដែលវាមិនធ្លាប់ឃើញ។ ហើយដោយសារតែការចម្លងត្រូវបានវិមជ្ឈការ វាមិនមានចំណុចកណ្តាលដែលត្រូវបិទនោះទេ ទោះបីជាអ្នកស្រាវជ្រាវកត់សំគាល់ថាដំណើរការនេះទំនងជាមានភាពយឺតយ៉ាវ ជាមួយនឹងពេលវេលាទ្វេដងដែលត្រូវបានវាស់ជាថ្ងៃ។

ការស្រាវជ្រាវបំបែកការចម្លងដោយស្វយ័តទៅជាដំណាក់កាលជាក់ស្តែងចំនួនបួន៖ ការស្វែងរកគោលដៅ ទទួលបានការអនុវត្ត ការបង្កើតការសន្និដ្ឋាន និងការបន្តការផ្សព្វផ្សាយពីម៉ាស៊ីនថ្មី។ Anthropic ភាគច្រើនទុកចោលពីរដំបូង - ដំណាក់កាលកេងប្រវ័ញ្ច - ដោយសារតែការងារមុននេះ រួមទាំង CyberGym និង ExploitBench គោល និងការស្រាវជ្រាវលើដង្កូវអាដាប់ធ័រ បានបង្ហាញរួចហើយថាគំរូតូចៗមានសមត្ថភាពកេងប្រវ័ញ្ចតាមអ៊ីនធឺណិតនៅពេលផ្តល់ឧបករណ៍ត្រឹមត្រូវ។ បញ្ហាដែលពិបាកវាស់វែង ហើយការផ្តោតសំខាន់នៃប្រកាសនេះ គឺបង្កើតការសន្និដ្ឋានធ្វើការលើឧបករណ៍ដែលត្រូវបានសម្របសម្រួល។

ពីការព្រមានពីការស្រាវជ្រាវ រហូតដល់ការគ្របដណ្តប់ពិភពលោកពិតប្រាកដ

ការរកឃើញនេះបានទាក់ទាញចំណាប់អារម្មណ៍ភ្លាមៗ លើសពីសហគមន៍ស្រាវជ្រាវ។ Reuters បានរាយការណ៍ថា ម៉ូដែល AI អាចនឹងអាចចម្លងដោយខ្លួនឯងបានក្នុងពេលឆាប់ៗនេះ ដោយមិនចាំបាច់ចូលទៅកាន់មជ្ឈមណ្ឌលទិន្នន័យ ខណៈ CBS News បានកំណត់ការងារនេះជាការព្រមានថា "AI ដង្កូវ" អាចនឹងចម្លងដោយខ្លួនឯង និងឆ្លងឧបករណ៍ឆ្លាតវៃក្នុងពេលឆាប់ៗនេះ។ រឿងនេះក៏បានផ្សព្វផ្សាយយ៉ាងទូលំទូលាយនៅលើ Hacker News ដែលជាកន្លែងដែលអ្នកអានបានពិភាក្សាថាតើគម្លាតសមត្ថភាពនឹងបិទក្នុងពេលឆាប់ៗនេះ។

ការ​ព្រួយ​បារម្ភ​យូរ​អង្វែង​ទទួល​បាន​បេតុង

ការចម្លងដោយស្វយ័តបានឈរនៅក្នុងបញ្ជីតាមដានសុវត្ថិភាព AI អស់រយៈពេលជាច្រើនឆ្នាំ ជាសមត្ថភាពទ្រឹស្តីដែលទាក់ទងនឹងប្រព័ន្ធកម្រិតខ្ពស់។ អ្វី​ដែល​ធ្វើ​ឱ្យ​ការ​ស្រាវ​ជ្រាវ​នេះ​គួរ​ឱ្យ​កត់​សម្គាល់​គឺ​ភាព​ជាក់លាក់៖ គ្រឿង​រឹង​ដែល​ត្រូវ​បាន​គេ​ដាក់​ឈ្មោះ​ថា តម្លៃ​ប្រាក់​ដុល្លារ ការ​បញ្ជូន​សញ្ញាសម្ងាត់ និង​រយៈពេល​ដែល​បាន​វាស់​ជា​ខែ​ជា​ជាង​សម្មតិកម្ម។ អ្នកស្រាវជ្រាវរបស់ Anthropic ក៏សង្កេតឃើញថា GPUs មជ្ឈមណ្ឌលទិន្នន័យនឹងក្លាយជាគោលដៅដែលមានតម្លៃខ្ពស់ជាក់ស្តែងសម្រាប់មេរោគបែបនេះ — ប៉ុន្តែការពិសោធន៍របស់ពួកគេបង្ហាញពីឧបករណ៍បង្កើនល្បឿនទាំងនោះគឺមិនចាំបាច់តឹងរ៉ឹងទេ។

ការងារនេះកើតឡើងចំពេលមានដំណើរការទូលំទូលាយនៃការព្រួយបារម្ភអំពីសុវត្ថិភាពភ្នាក់ងារ ចាប់ពីគំរូដែលបញ្ឆោតអ្នកវាយតម្លៃរបស់ពួកគេ រហូតដល់ឧបករណ៍ភ្នាក់ងារដែលកំពុងត្រូវបានស៊ើបអង្កេតសម្រាប់សមត្ថភាពកេងប្រវ័ញ្ច។ សាររបស់ Anthropic គឺតិចជាងថាដង្កូវ IoT មានសព្វថ្ងៃនេះជាងចម្ងាយរវាង "អាចធ្វើទៅបានជាគោលការណ៍" និង "អាចធ្វើទៅបាននៅឆ្នាំនេះ" គឺតូចចង្អៀត - ហើយការការពារដែលមានមូលដ្ឋានលើ AI ត្រូវការផ្នែករឹងកណ្តាលដែលមានតម្លៃថ្លៃប្រហែលជាមិនមានរយៈពេលយូរទេ។

អ្វីដែលនៅតែមិនអាចបញ្ជាក់បាន។

អ្នកស្រាវជ្រាវមានការប្រុងប្រយ័ត្នចំពោះដែនកំណត់នៃលទ្ធផលរបស់ពួកគេ។ ភាពជោគជ័យនៃការចម្លងពីចុងដល់ចប់បានកើតឡើង ដូចដែលការបង្ហោះបានដាក់វានៅក្នុង "ការវាយតម្លៃសាមញ្ញ" ហើយដំណាក់កាលនៃការកេងប្រវ័ញ្ចនៃខ្សែសង្វាក់នេះត្រូវបានគេសន្មត់ថាជាជាងការបង្ហាញ ដោយឈរលើចំណុចគោលមុនជាជាងការវាយប្រហារថ្មី។ ដង្កូវ AI ពិភពពិតនឹងត្រូវចងខ្សែទាំងបួនដំណាក់កាលដោយភាពជឿជាក់៖ ការកំណត់ទីតាំងឧបករណ៍ដែលងាយរងគ្រោះ ការបែកខ្ញែក ការចាប់ផ្ដើមការសន្និដ្ឋានលើផ្នែករឹងដែលមិនធ្លាប់ស្គាល់ និងចាប់ផ្តើមរលកបន្ទាប់នៃការឃោសនា ដោយគ្មានអន្តរាគមន៍ពីមនុស្ស។

ម៉ូដែលរង 30B នាពេលបច្ចុប្បន្ននេះ គួរឱ្យកត់សម្គាល់អាចធ្វើជំហានទាំងនោះជាច្រើនដោយឡែកពីគ្នា ប៉ុន្តែនៅតែបរាជ័យក្នុងការតែងពួកវាដល់ទីបញ្ចប់។ គម្លាតនោះ - រវាងជំហាន និងលំដាប់ - គឺជាអ្វីដែលអ្នកស្រាវជ្រាវរំពឹងថាអត្រាធ្វើឱ្យប្រសើរឡើងជាប្រវត្តិសាស្ត្រនឹងបិទ។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →