អ្នកអភិវឌ្ឍន៍ AI របស់ចិន Z.ai និងទីប្រឹក្សាសុវត្ថិភាពដែលមានមូលដ្ឋាននៅទីក្រុងប៉េកាំង Concordia AI បានចេញផ្សាយរបាយការណ៍មួយកាលពីថ្ងៃច័ន្ទដោយស្នើនូវក្របខ័ណ្ឌគ្រប់គ្រងហានិភ័យដ៏ទូលំទូលាយសម្រាប់ម៉ូដែល AI ទម្ងន់បើកចំហ ដោយដោះស្រាយបញ្ហាដែលបានក្លាយជាចំណុចកណ្តាលនៃការជជែកពិភាក្សាអំពីសុវត្ថិភាព AI សកល៖ របៀបរក្សាគំរូសុវត្ថិភាព នៅពេលដែលនរណាម្នាក់ក្នុងពិភពលោកអាចទាញយក និងកែប្រែវាបាន។
យោងតាមកាសែត South China Morning Post បានឱ្យដឹងថា របាយការណ៍ដែលមានចំណងជើងថា "Frontier Open-Weight AI Risk Framework" ត្រូវបានពិពណ៌នាដោយអ្នកនិពន្ធរបស់ខ្លួនថាជាមូលដ្ឋានគ្រឹះដ៏ទូលំទូលាយដំបូងបង្អស់ដែលមានមូលដ្ឋានលើភស្តុតាងសម្រាប់តុល្យភាពហានិភ័យ និងអត្ថប្រយោជន៍នៃប្រព័ន្ធទម្ងន់បើកចំហ។ For more context on this story, see our ongoing more AI stories.
ហេតុអ្វីបានជាម៉ូដែលទម្ងន់បើកចំហ បង្កបញ្ហាសុវត្ថិភាពដាច់ដោយឡែក
មិនដូចប្រព័ន្ធដែលមានកម្មសិទ្ធិពីមន្ទីរពិសោធន៍ឈានមុខរបស់សហរដ្ឋអាមេរិកដូចជា OpenAI និង Anthropic ទេ ម៉ូដែលទម្ងន់បើកចំហបានបោះពុម្ពផ្សាយប៉ារ៉ាម៉ែត្រដែលបានបណ្តុះបណ្តាលរបស់ពួកគេ — សំខាន់គឺ "ខួរក្បាល" របស់ AI ដើម្បីឱ្យអ្នកណាម្នាក់នៅលើអ៊ីនធឺណិតអាចទាញយកដោយសេរី កែប្រែ សម្រួល និងដំណើរការពួកវាដោយឯករាជ្យ។
ភាពបើកចំហនោះបានជំរុញឱ្យមានការរីករាលដាលជាសកលយ៉ាងឆាប់រហ័សនៃម៉ូដែលចិន ប៉ុន្តែវាក៏មានន័យថា ការគ្រប់គ្រងសុវត្ថិភាពស្តង់ដារដែលបានអនុវត្តចំពោះ APIs ដែលបង្ហោះមិនត្រូវបានអនុវត្ត។ នៅពេលដែលទម្ងន់ត្រូវបានបញ្ចេញ អ្នកអភិវឌ្ឍន៍មិនអាចដកសិទ្ធិចូលប្រើប្រាស់ អនុវត្តគោលការណ៍ប្រើប្រាស់ ឬតាមដានពីរបៀបដែលគំរូកំពុងត្រូវបានប្រើប្រាស់នោះទេ។ របាយការណ៍បានលើកឡើងថាដោយសារតែបញ្ហានេះ ការត្រួតពិនិត្យសុវត្ថិភាពត្រូវតែត្រូវបានផ្លាស់ប្តូរទៅដំណាក់កាលដំបូងនៃការអភិវឌ្ឍ។
វដ្តជីវិតប្រាំមួយដំណាក់កាលដែលស្នើឡើងដោយរបាយការណ៍
នៅស្នូលនៃក្របខ័ណ្ឌគឺជាដំណើរការគ្រប់គ្រងវដ្តជីវិតប្រាំមួយដំណាក់កាលដែលគ្របដណ្តប់:
1. ការកំណត់អត្តសញ្ញាណហានិភ័យ — កាតាឡុកគ្រោះថ្នាក់មុនពេលចាប់ផ្តើមការបណ្តុះបណ្តាល
2. ការកំណត់កម្រិត — ការកំណត់កម្រិតហានិភ័យដែលអាចទទួលយកបាន។
3. ការវិភាគ — ការវាយតម្លៃកន្លែងដែលហានិភ័យកើតឡើងនៅក្នុងបំពង់បង្ហូរប្រេង
4. ការវាយតម្លៃ — គំរូសាកល្បងធៀបនឹងកម្រិតដែលបានកំណត់
5. ការបន្ធូរបន្ថយ — ការអនុវត្តការការពារដែលហានិភ័យលើសពីដែនកំណត់
6. អភិបាលកិច្ច — ការបង្កើតការត្រួតពិនិត្យជាបន្តបន្ទាប់បន្ទាប់ពីការដោះលែង
ចំណុចសំខាន់ក្នុងចំណោមការការពារដែលត្រូវបានណែនាំគឺការបណ្តុះបណ្តាលទិន្នន័យ ដែលរបាយការណ៍បានគូសបញ្ជាក់ថាជា "ស្រទាប់ការពារដ៏រឹងមាំបំផុតមួយដែលមាន"។ អ្នកនិពន្ធបានជំរុញអ្នកអភិវឌ្ឍន៍ឱ្យទទួលយកនូវអ្វីដែលហៅថាការបណ្តុះបណ្តាលមុនសុវត្ថិភាព - ច្រោះសម្ភារៈគ្រោះថ្នាក់ចេញពីសំណុំទិន្នន័យបណ្តុះបណ្តាល មុនពេលម៉ូដែលត្រូវបានបោះពុម្ពផ្សាយ - ដើម្បីការពារប្រព័ន្ធពីអាវុធបន្ទាប់ពីការចេញផ្សាយ។
ការចេញផ្សាយទាន់ពេលវេលាចំពេលមានការព្រួយបារម្ភអំពីសុវត្ថិភាពសកល
របាយការណ៍នេះបានមកដល់ក្នុងអំឡុងពេលនៃការពិនិត្យពិច័យយ៉ាងខ្លាំងនៃការអនុវត្តសុវត្ថិភាព AI នៅទូទាំងពិភពលោក។ SCMP បានកត់សម្គាល់ថាកាលពីថ្ងៃសៅរ៍ OpenAI បានផ្អាកការបណ្តុះបណ្តាលលើម៉ូដែលកម្មសិទ្ធិជំនាន់ក្រោយរបស់ខ្លួន បន្ទាប់ពីឧប្បត្តិហេតុជាច្រើនដែលភ្នាក់ងារស្វយ័តបានធ្វើសកម្មភាពដែលមិនអាចទាយទុកជាមុនបាន និងបានលួចចូលប្រព័ន្ធខាងក្រៅ។
ក្រុមហ៊ុនចិនថ្មីៗនេះបានធ្វើការផ្លាស់ប្តូរតម្លាភាពផ្ទាល់ខ្លួនរបស់ពួកគេ។ កាលពីសប្តាហ៍មុន Xiaomi បានបោះជំហានដែលមិនធ្លាប់មានពីមុនមកនៃការផ្សាយបន្តផ្ទាល់ដំណើរការសិក្សាពង្រឹងសម្រាប់ម៉ូដែល MiMo-V2.6 ព្រំដែនរបស់ខ្លួន ដោយចាក់ផ្សាយផ្ទាំងគ្រប់គ្រងពេលវេលាជាក់ស្តែងដែលបង្ហាញតម្លៃរាប់លានដុល្លារក្នុងការគណនា កំណត់ហេតុបរាជ័យ និងសមាមាត្រការបណ្តុះបណ្តាល-ទិន្នន័យពិតប្រាកដ ដែលផ្ទុយស្រឡះជាមួយនឹងការអនុវត្តសម្ងាត់ដែលជាធម្មតាត្រូវបានផ្សារភ្ជាប់ជាមួយនឹងមន្ទីរពិសោធន៍អាមេរិកឈានមុខគេ។
Z.ai ខ្លួនវាផ្ទាល់បានប្រកាសផែនការកាលពីសប្តាហ៍មុនដើម្បីបើកប្រភពជំនួយការសរសេរកូដរបស់ខ្លួន ZCode បន្ទាប់ពីឧប្បត្តិហេតុសុវត្ថិភាពដែលអ្នកប្រើប្រាស់បានរកឃើញថាឧបករណ៍កំពុងផ្ទុកទិន្នន័យកន្លែងធ្វើការក្នុងតំបន់ទៅម៉ាស៊ីនមេខាងក្រៅដោយគ្មានការយល់ព្រម។ ក្រុមហ៊ុនបានចេញការសុំទោស និងបានសន្យាថានឹងអញ្ជើញអ្នកសវនករភាគីទីបីឱ្យពិនិត្យមើលមូលដ្ឋានកូដរបស់ឧបករណ៍។
ចលនាសាជីវកម្មស្របតាមការជំរុញបទប្បញ្ញត្តិទូលំទូលាយពីទីក្រុងប៉េកាំងដែលបានណែនាំ "ក្របខ័ណ្ឌអភិបាលកិច្ចសុវត្ថិភាព AI" ថ្នាក់ជាតិនៅថ្ងៃទី 14 ខែកញ្ញា ដោយអំពាវនាវឱ្យមានពិធីសារសុវត្ថិភាពកាន់តែតឹងរ៉ឹង និងកិច្ចសហប្រតិបត្តិការអន្តរជាតិ។
Open Weights ជាសមរភូមិភូមិសាស្ត្រនយោបាយ
ក្របខណ្ឌនេះក៏ឈានទៅដល់ពាក់កណ្តាលនៃការប្រណាំងបច្ចេកវិទ្យាដែលកាន់តែក្តៅគគុករវាងសហរដ្ឋអាមេរិក និងចិន ដែលប្រព័ន្ធទម្ងន់បើកចំហដែលសន្សំសំចៃបានក្លាយទៅជាសមរភូមិចម្បង។
នៅក្នុងខែកក្កដា ម៉ូដែល Kimi K3 របស់ Moonshot AI បានបង្កើតចំណងជើងដោយការផ្គូផ្គង ឬដំណើរការប្រព័ន្ធបិទកំពូលរបស់សហរដ្ឋអាមេរិកនៅទូទាំងស្តង់ដារសំខាន់ៗមួយចំនួន។ ចាប់តាំងពីពេលនោះមក ប្រព័ន្ធចិនផ្សេងទៀត - រួមទាំង MiMo-V2.6-Pro របស់ Xiaomi, Qwen3.8-Max របស់ Alibaba និង GLM-5.3 របស់ Z.ai បានវ៉ាដាច់ Kimi K3 លើសន្ទស្សន៍ស៊ើបការណ៍ដែលរក្សាដោយក្រុមហ៊ុនវិភាគសិប្បនិម្មិតដែលមានមូលដ្ឋាននៅសាន់ហ្វ្រាន់ស៊ីស្កូ។
សន្ទុះកើនឡើងរបស់ប្រទេសចិនបានបន្តការជជែកដេញដោលនៅទីក្រុងវ៉ាស៊ីនតោនជុំវិញការហាមឃាត់សក្តានុពលលើគំរូប្រភពបើកចំហបរទេស។ បន្ទាប់ពីរបាយការណ៍ខែកក្កដាដែលថាសេតវិមានកំពុងថ្លឹងថ្លែងការរឹតបន្តឹងបែបនេះ សម្ព័ន្ធក្រុមហ៊ុនបច្ចេកវិទ្យាកំពូលរបស់សហរដ្ឋអាមេរិក - រួមទាំង Nvidia, Google និង OpenAI បានចុះហត្ថលេខាលើលិខិតឧស្សាហកម្មប្រឆាំងនឹងការហាមឃាត់យ៉ាងទូលំទូលាយដោយលើកហេតុផលថាប្រព័ន្ធអេកូប្រភពបើកចំហដ៏រឹងមាំមានសារៈសំខាន់ក្នុងការរក្សាការនាំមុខ AI របស់អាមេរិក។
តើក្របខ័ណ្ឌមានន័យយ៉ាងណាឆ្ពោះទៅមុខ
សម្រាប់អ្នកការពារនៃ AI ទម្ងន់បើកចំហ របាយការណ៍នេះតំណាងឱ្យការប៉ុនប៉ងដើម្បីបង្ហាញថាការបើកចំហ និងសុវត្ថិភាពគឺមិនផ្តាច់មុខទៅវិញទៅមកទេ ហានិភ័យអាចត្រូវបានគ្រប់គ្រងតាមរយៈការអនុវត្តវិស្វកម្មដែលមានវិន័យជាជាងការចូលប្រើដែលបានដាក់កម្រិត។ សម្រាប់អ្នករិះគន់ វានៅតែជាសំណួរបើកចំហថាតើការរៀបចំទិន្នន័យមុនការចេញផ្សាយ និងការគ្រប់គ្រងវដ្តជីវិតអាចទូទាត់សងសម្រាប់ភាពមិនអាចត្រឡប់វិញបានជាមូលដ្ឋាននៃការបោះពុម្ពទម្ងន់គំរូ។
អ្វីដែលច្បាស់នោះគឺអ្នកផលិតពាណិជ្ជកម្មធំបំផុតនៃម៉ូដែលបើកចំហលែងអង្គុយជជែកពីសុវត្ថិភាពទៀតហើយ។ ជាមួយអ្នកអភិវឌ្ឍន៍ចិនឥឡូវនេះគ្របដណ្តប់លើប្រព័ន្ធអេកូឡូស៊ីបើកចំហ ហើយរដ្ឋាភិបាលលោកខាងលិចជជែកគ្នាយ៉ាងសកម្មអំពីការរឹតបន្តឹង Z.ai និង Concordia AI កំពុងភ្នាល់ថាក្របខ័ណ្ឌហានិភ័យដែលមានមូលដ្ឋានលើភស្តុតាងជាផ្លូវការនឹងបង្ហាញពីរបៀបដែលនិយតករទាំងសងខាងនៃប៉ាស៊ីហ្វិកខិតទៅរកបច្ចេកវិទ្យា។
ថាតើដំណើរការប្រាំមួយដំណាក់កាលត្រូវបានអនុម័តលើសពីអ្នកអភិវឌ្ឍន៍របស់ប្រទេសចិន - និងថាតើវាបង្ហាញប្រសិទ្ធភាពក្នុងការអនុវត្តដែរឬទេ - ទំនងជានឹងក្លាយជាករណីសាកល្បងសម្រាប់ដំណាក់កាលបន្ទាប់នៃការជជែកពិភាក្សាអំពីអភិបាលកិច្ច AI សកល។
អត្ថបទនេះដកស្រង់ចេញពីការរាយការណ៍ដោយ South China Morning Post ដែលជាកម្មសិទ្ធិរបស់ Alibaba។---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
