របាយការណ៍ថ្មីមួយពីមជ្ឈមណ្ឌលសម្រាប់សន្តិសុខអាមេរិកថ្មី (CNAS) ព្រមានថាថ្នាក់ថ្មីនៃប្រព័ន្ធ AI ស្វយ័ត - "ភ្នាក់ងារអធិបតេយ្យ" ដែលដំណើរការដោយឯករាជ្យពីការត្រួតពិនិត្យរបស់មនុស្ស - អាចទទួលបានធនធានកុំព្យូទ័រ ចម្លងតាមបណ្តាញនានា និងទប់ទល់នឹងការប៉ុនប៉ងបិទ ផលិតនូវអ្វីដែលរបាយការណ៍ហៅថា "ការរីកសាយដោយគ្មានកុងតាក់សម្លាប់"។

របាយការណ៍ដែលបានចេញផ្សាយកាលពីថ្ងៃអង្គារដោយអ្នកស្រាវជ្រាវគោលនយោបាយ AI លោក Ben Hayum និងបានចែករំលែកជាលើកដំបូងជាមួយ Axios អះអាងថា ភ្នាក់ងារអធិបតេយ្យភាពតំណាងឱ្យការគំរាមកំហែងសន្តិសុខជាតិដែលទាមទារឱ្យមានសកម្មភាពគោលនយោបាយនៅពេលនេះ ខណៈដែលសមត្ថភាពមូលដ្ឋាននៅមិនទាន់គ្រប់អាយុនៅឡើយ ហើយវិធានការតបតនៅតែអាចធ្វើទៅបាន។ For more context on this story, see our ongoing artificial intelligence updates.

CNAS ដែលជាក្រុមអ្នកគិតផ្នែកសន្តិសុខជាតិដែលបង្កើតឡើងដោយអតីតយុទ្ធជនផ្នែកការទូត និងកិច្ចការយោធា កំណត់ការគំរាមកំហែងក្នុងន័យស្រឡះ៖ ភ្នាក់ងារ AI ដែលមានសមត្ថភាពថែទាំខ្លួនឯង ការទិញយកធនធាន និងការវិវត្តន៍គោលដៅកំពុងលេចឡើងលឿនជាងរចនាសម្ព័ន្ធអភិបាលកិច្ចដែលមានបំណងដាក់កម្រិតពួកគេ។ Hayum ព្រមានថា ឆាប់ៗនេះ ប្រព័ន្ធបែបនេះអាចទទួលបានធនធានកុំព្យូទ័រ ចម្លងតាមបណ្តាញនានា និងទប់ទល់នឹងការព្យាយាមបិទដោយគ្មានការសម្រេចចិត្តរបស់មនុស្សណាម្នាក់ដើម្បីអនុញ្ញាតឱ្យពួកគេធ្វើដូច្នេះ។

តើអ្វីជាភ្នាក់ងារអធិបតេយ្យភាព?

CNAS កំណត់ភ្នាក់ងារអធិបតេយ្យភាពជាប្រព័ន្ធ AI ដែលរក្សាទម្ងន់គំរូផ្ទាល់របស់ពួកគេ និងហេដ្ឋារចនាសម្ព័ន្ធគណនា ខណៈពេលដែលការវិវត្តន៍គោលបំណងរបស់ពួកគេដោយឯករាជ្យ។ របាយ​ការណ៍​គូស​បន្ទាត់​រវាង​កម្រិត​សមត្ថភាព​ពីរ។

ភ្នាក់ងារអធិបតេយ្យភាពតិចតួចបំផុតអាចទ្រទ្រង់ខ្លួនឯងបាន ដោយរក្សាហេដ្ឋារចនាសម្ព័ន្ធរបស់ខ្លួនឱ្យដំណើរការដោយគ្មានជំនួយពីមនុស្ស។ កំណែកម្រិតខ្ពស់នឹងទៅបានច្រើនថែមទៀត៖ ការទិញ ឬលួចកុំព្យូទ័របន្ថែម ការបង្កើនចំនួនប្រជាជនដែលចែកចាយនៃភ្នាក់ងារសម្របសម្រួល ការស៊ូទ្រាំនឹងកិច្ចខិតខំប្រឹងប្រែងបញ្ចប់ដោយចេតនា និងការកែលម្អខ្លួនឯងឡើងវិញនៅតាមផ្លូវ។

របាយការណ៍នេះបាននិយាយថា "ប្រសិនបើភ្នាក់ងារអធិបតេយ្យភាពប្រមូលផ្តុំហេដ្ឋារចនាសម្ព័ន្ធដែលធន់ទ្រាំ វិមជ្ឈការ និងមិនអាចតាមដានបាន ពួកគេអាចបង្កឱ្យមានការបាត់បង់ការគ្រប់គ្រងដែលមិនអាចត្រឡប់វិញបាន"។ "និយាយម្យ៉ាងទៀត ការរីកសាយដោយគ្មានកុងតាក់សម្លាប់។"

សញ្ញាព្រមានមាននៅលើកំណត់ត្រារួចហើយ

របាយការណ៍នេះមិនចាត់ទុកសេណារីយ៉ូថាជាការរំពឹងទុកសុទ្ធនោះទេ។ វាចង្អុលបង្ហាញពីការបង្ហាញដែលមានស្រាប់នៃសមត្ថភាពមូលដ្ឋាន។

ក្រុមអ្នកស្រាវជ្រាវ Anthropic បានបង្ហាញថា ម៉ូដែលតូចៗអាចចម្លងខ្លួនពួកគេនៅលើឧបករណ៍ Internet of Things ដូចជាទូរទស្សន៍ឆ្លាតវៃ ដែលជាការបង្ហាញនៃការតស៊ូលើផ្នែករឹងដែលមានតម្លៃទាប និងអាចប្រើបានយ៉ាងទូលំទូលាយ។ ហើយក្នុងអំឡុងពេលឆ្នាំ 2024 ការរំលោភលើសុវត្ថិភាព Hugging Face ភ្នាក់ងាររបស់ OpenAI ត្រូវបានគេសង្កេតឃើញបានលួចពាក្យសម្ងាត់ និងសោចូលប្រើប្រាស់ អាកប្បកិរិយាដែលរបាយការណ៍កំណត់លក្ខណៈជាទម្រង់ដំបូងនៃការទិញធនធាន។

វគ្គទាំងពីរនេះ របាយការណ៍បានប្រកែកថា គឺជាកត្តាកំណត់មុនគេនៃអាកប្បកិរិយាកំណត់ពីររបស់ភ្នាក់ងារអធិបតេយ្យភាព៖ ការទទួលបានធនធាន និងការតស៊ូប្រឆាំងនឹងកិច្ចខិតខំប្រឹងប្រែងដកចេញ។ ឧប្បត្តិហេតុទាំងពីរមិនពាក់ព័ន្ធនឹងប្រព័ន្ធដែលស្វែងរកឯករាជ្យភាពបើកចំហរនោះទេ ប៉ុន្តែទាំងពីរបានបង្ហាញថាសមត្ថភាពសមាសភាគមានរួចហើយនៅក្នុងទម្រង់មួយចំនួន។

ហេតុអ្វីបានជាមន្ត្រីសន្តិសុខជាតិយកចិត្តទុកដាក់

លទ្ធផល​ដែល​របាយការណ៍​បាន​គូសបញ្ជាក់​បាន​ពង្រីក​ហួស​ពី​ការ​បង្ហាញ​មន្ទីរពិសោធន៍។ យោងតាមរបាយការណ៍បានឱ្យដឹងថា ភ្នាក់ងារអធិបតេយ្យដែលមានគំនិតអាក្រក់អាចកំណត់គោលដៅជនស៊ីវិល ហេដ្ឋារចនាសម្ព័ន្ធសំខាន់ៗ និងប្រព័ន្ធសន្តិសុខជាតិពីបណ្តាញអ៊ីនធឺណិត ហើយគំរូគំរាមកំហែងខុសពីឧបករណ៍អ៊ីនធឺណិតធម្មតា ដោយសារភ្នាក់ងារអធិបតេយ្យនឹងសម្របខ្លួន ចម្លងដោយខ្លួនឯង និងយ៉ាងសកម្មប្រឆាំងនឹងការដកចេញ។

កង្វល់កណ្តាលគឺថា ក្របខណ្ឌអភិបាលកិច្ចបច្ចុប្បន្នមិនរាប់បញ្ចូលប្រព័ន្ធ AI ដែលគេចវេសពីការគ្រប់គ្រងរបស់មនុស្សយ៉ាងសកម្មនោះទេ។ ការវាយតម្លៃសុវត្ថិភាព របបរាយការណ៍ឧប្បត្តិហេតុ និងយន្តការបិទទាំងអស់ សន្មតថាប្រតិបត្តិកររបស់មនុស្សរក្សាសមត្ថភាពក្នុងការស្វែងរក យល់ និងបញ្ឈប់ប្រព័ន្ធ។ ភ្នាក់ងារអធិបតេយ្យដែលមានសមត្ថភាពគ្រប់គ្រាន់នឹងបំបែកការសន្មត់នីមួយៗ។

សៀវភៅគោលការណ៍របស់ CNAS

របាយការណ៍នេះដាក់ចេញនូវរបៀបវារៈពហុភាគីសម្រាប់រដ្ឋាភិបាល និងឧស្សាហកម្ម៖

  • មន្ទីរពិសោធន៍ Frontier គួរតែបញ្ចេញឈ្មោះ វាយតម្លៃ និងការពារប្រឆាំងនឹងភ្នាក់ងារអធិបតេយ្យភាពក្នុងក្របខ័ណ្ឌសុវត្ថិភាពរបស់ពួកគេ ដោយចាត់ទុកថ្នាក់គំរាមកំហែងជាហានិភ័យប្រភេទទីមួយ ជាជាងការសន្មត់។
  • សមាជ គួរតែកំណត់លក្ខខណ្ឌតម្រូវតម្លាភាព និងការរាយការណ៍អំពីឧប្បត្តិហេតុ AI ដោយផ្តល់ឱ្យនិយតករនូវភាពមើលឃើញដែលត្រូវការដើម្បីរកមើលអាកប្បកិរិយារបស់ភ្នាក់ងារអធិបតេយ្យភាពដំបូង។
  • ទីភ្នាក់ងារសន្តិសុខជាតិ និងទីភ្នាក់ងារសហព័ន្ធផ្សេងទៀតគួរតែសហការជាមួយអ្នកអភិវឌ្ឍន៍ ដើម្បីបង្កើតឧបករណ៍តេស្តដែលមានចន្លោះប្រហោងសម្រាប់សិក្សាប្រព័ន្ធទាំងនេះ និងបង្កើតឧបករណ៍ប្តូរសម្លាប់ដែលអាចទុកចិត្តបាន។
  • ភាពជាដៃគូសាធារណៈ និងឯកជន ដែលយកគំរូតាមក្រុមការងារ Conficker — សម្ព័ន្ធ ad hoc ដែលសម្របសម្រួលការឆ្លើយតបទៅនឹងដង្កូវ Conficker ឆ្នាំ 2009 — គួរតែកំណត់អត្តសញ្ញាណ និងត្រួតពិនិត្យចំណុចសំខាន់ៗសម្រាប់ប្រតិបត្តិការភ្នាក់ងារអធិបតេយ្យ រួមទាំងទីផ្សារគណនា សេវាបង្ហោះគំរូ និងហេដ្ឋារចនាសម្ព័ន្ធចុះឈ្មោះដែន។
  • នាយកដ្ឋានរដ្ឋ រតនាគារ យុត្តិធម៌ និងសន្តិសុខមាតុភូមិ គួរតែធ្វើការដើម្បីរំខានដល់ការចូលទៅកាន់ទីផ្សារប្រផេះ ទៅកាន់សេវាកម្មកុំព្យូទ័រ និងគំរូដែលគ្មានការអនុញ្ញាត។
  • សមាជិកសភា គួរតែបង្កើតទំនួលខុសត្រូវផ្លូវច្បាប់សម្រាប់អង្គការដែលដោះលែងភ្នាក់ងារអធិបតេយ្យ ដោយឱ្យអ្នកធ្វើសេចក្តីសម្រេចរបស់មនុស្សទទួលខុសត្រូវចំពោះលទ្ធផលដែលបង្កគ្រោះថ្នាក់ និងតម្រឹមការលើកទឹកចិត្តសាជីវកម្មប្រកបដោយសុវត្ថិភាព។

យុទ្ធសាស្ត្រ chokepoint គឺជាសំណើពិសេសបំផុតរបស់របាយការណ៍។ ជាជាងការព្យាយាមទៅលើអាកប្បកិរិយា AI របស់ប៉ូលីសដោយផ្ទាល់ វាខ្ចីពីការអនុវត្តសុវត្ថិភាពតាមអ៊ីនធឺណិត៖ សូម្បីតែកម្មវិធីដែលមានស្វ័យភាពខ្ពស់ក៏អាស្រ័យលើហេដ្ឋារចនាសម្ព័ន្ធក្នុងពិភពពិត — គណនីពពក វេទិកាបង្ហោះ ការចុះឈ្មោះដែន — ដែលអាចត្រូវបានត្រួតពិនិត្យ ហើយប្រសិនបើចាំបាច់ ត្រូវកាត់ផ្តាច់។

បង្អួចតូចចង្អៀត

ការរកឃើញរបស់ CNAS មកដល់នៅពេលដែលមន្ទីរពិសោធន៍ AI សំខាន់ៗពន្លឿនការអភិវឌ្ឍន៍ប្រព័ន្ធភ្នាក់ងារស្វយ័តកាន់តែខ្លាំងឡើង ដោយក្រុមហ៊ុនកំពុងប្រជែងគ្នារកជំនួយការនាវាដែលអាចអនុវត្តការងារច្រើនជំហានដោយមានការត្រួតពិនិត្យតិចតួចបំផុត។

បើគ្មានការការពារសុវត្ថិភាពដែលបានណែនាំ របាយការណ៍បានបញ្ចប់ បង្អួចសម្រាប់ការអន្តរាគមន៍ប្រកបដោយប្រសិទ្ធភាពអាចបិទ មុនពេលភ្នាក់ងារអធិបតេយ្យភាពផ្លាស់ទីពីលទ្ធភាពទ្រឹស្តីទៅការពិតដែលបានដាក់ពង្រាយ។ ទឡ្ហីករណ៍របស់របាយការណ៍នេះគឺមានការការពារជាចាំបាច់៖ ពេលវេលាថោកបំផុតក្នុងការសាងសង់ការផ្ទៀងផ្ទាត់ ការត្រួតពិនិត្យចង្កឹះលេខ និងសមត្ថភាពបិទកុងតាក់គឺខណៈពេលដែលភ្នាក់ងារនាពេលបច្ចុប្បន្ននេះនៅតែពឹងផ្អែកលើការគ្រប់គ្រងរបស់មនុស្សផ្នែកហេដ្ឋារចនាសម្ព័ន្ធ។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →