ក្រុមហ៊ុនដែលបង្កើតប្រព័ន្ធ AI ទំនើបបំផុតត្រូវតែបង្កើនកិច្ចខិតខំប្រឹងប្រែងសុវត្ថិភាពរបស់ពួកគេ រដ្ឋមន្ត្រី AI របស់ចក្រភពអង់គ្លេសនឹងនិយាយថា ខណៈដែលគាត់ប្រកាសពីការពង្រឹងការការពារតាមអ៊ីនធឺណិតរបស់ចក្រភពអង់គ្លេស។

Kanishka Narayan នឹងអំពាវនាវឱ្យអ្នកអភិវឌ្ឍន៍ AI ព្រំដែនធ្វើបន្ថែមទៀតដើម្បីធានាថាប្រព័ន្ធរបស់ពួកគេមានសុវត្ថិភាព ដោយលើកហេតុផលថាចក្រភពអង់គ្លេសមិនអាចពឹងផ្អែកទាំងស្រុងលើក្រុមហ៊ុនបច្ចេកវិទ្យាចំពោះម៉ូដែលប៉ូលីសរបស់ពួកគេនោះទេ ហើយថាចក្រភពអង់គ្លេសត្រូវសាងសង់ហេដ្ឋារចនាសម្ព័ន្ធ AI ផ្ទាល់ខ្លួនបន្ថែមទៀត នេះបើយោងតាមកាសែត The Guardian ដែលបានមើលសុន្ទរកថាដែលបានចេញផ្សាយកាលពីព្រឹកថ្ងៃចន្ទ។ For more context on this story, see our ongoing breaking AI news.

អាស័យដ្ឋានដែលនឹងត្រូវចែកចាយនៅភាគខាងលិចទីក្រុងឡុងដ៍ គឺជាលើកទីមួយរបស់ Narayan ចាប់តាំងពី Andy Burnham បានធ្វើ AI ទៅជាការសង្ខេបកម្រិតគណៈរដ្ឋមន្ត្រី ហើយវាកើតឡើងចំពេលមានការព្រមានអំពីសុវត្ថិភាព AI ដ៏គួរឱ្យកត់សម្គាល់ពីស្ថាប័នអង់គ្លេស។

អតីតប្រធានវិទ្យាស្ថានសុវត្ថិភាព បន្លឺសំឡេងរោទិ៍

ដោយបន្ថែមទម្ងន់ដល់ពេលនេះ លោក Geoffrey Irving ដែលជាអតីតអ្នកវិទ្យាសាស្ត្រនៅវិទ្យាស្ថានសន្តិសុខ AI របស់ចក្រភពអង់គ្លេស ដែលសាកល្បងម៉ូដែល AI ដ៏មានឥទ្ធិពលបំផុតមុនពេលចេញផ្សាយ បានប្រាប់ Guardian ថាគាត់ខ្លាចរដ្ឋសត្រូវអាចលួចម៉ូដែលទំនើបដែលមិនទាន់ចេញផ្សាយ។

លោក Irving បាននិយាយថា "ក្រុមហ៊ុន AI មិនមានសន្តិសុខ ដែលនឹងរារាំងប្រទេសជាសត្រូវពីការលួចយកម៉ូដែលទាំងនេះ" ។

គាត់បានចង្អុលទៅឧប្បត្តិហេតុថ្មីៗនេះនៅឯ OpenAI ដែលអ្នកស្រាវជ្រាវសន្តិសុខតាមអ៊ីនធឺណិត "លួច" ក្រុមហ៊ុនក្រោមកម្មវិធីដែលផ្តល់រង្វាន់ដល់ពួក Hacker ប្រកបដោយក្រមសីលធម៌សម្រាប់ការសាកល្បងប្រព័ន្ធរបស់ខ្លួនដោយនិយាយថា "វិសាលភាពនៃអ្វីដែលយើងអាចចូលប្រើតាមទ្រឹស្តីគឺធំធេងណាស់" ។ OpenAI និយាយថាវារក្សាការការពារជាច្រើនប្រឆាំងនឹងការលួចម៉ូដែល រួមទាំងការអ៊ិនគ្រីប និងការត្រួតពិនិត្យជាបន្តបន្ទាប់។

ការបំបែកអន្តរជាតិ

សុន្ទរកថារបស់ Narayan នឹងត្រូវបានឃ្លាំមើលយ៉ាងដិតដល់ចំពោះសញ្ញាដែលចក្រភពអង់គ្លេសអាចចូលរួមក្នុងការអំពាវនាវឱ្យរដ្ឋាភិបាលអន្តរជាតិសម្របសម្រួលស្តង់ដារសុវត្ថិភាពទូទៅសម្រាប់ AI ។ សេចក្តីប្រកាសនោះត្រូវបានចុះហត្ថលេខាដោយមេដឹកនាំនៃប្រទេសនានារួមមានហ្វាំងឡង់ បារាំង អាល្លឺម៉ង់ អូស្ត្រាលី សិង្ហបុរី អេមីរ៉ាតអារ៉ាប់រួម និងអៀរឡង់ ប៉ុន្តែមិនមែនដោយចក្រភពអង់គ្លេស ឬសហរដ្ឋអាមេរិកទេ ដែលប្រធានាធិបតី Donald Trump បាននិយាយថាគាត់ចង់ឱ្យក្រុមហ៊ុន AI ឈានមុខគេ "ប៉ូលីសដោយខ្លួនឯង" ។

សម្ព័ន្ធភាពដែលអំពាវនាវឱ្យមានច្បាប់តឹងរ៉ឹងបានបង្កើតឡើងប្រឆាំងនឹងផ្ទៃខាងក្រោយនៃឧប្បត្តិហេតុថ្មីៗនេះដែលពាក់ព័ន្ធនឹងការលួចចូលប្រព័ន្ធ AI កម្រិតខ្ពស់ដែលមិនត្រឹមត្រូវទៅក្នុងប្រព័ន្ធឯកជន និងរដ្ឋាភិបាល។

មួយខែនៃឧប្បត្តិហេតុ

ការ​ព្រួយ​បារម្ភ​គឺ​មិន​មែន​ជា​អរូបី។ នៅក្នុងករណីមួយក្នុងចំណោមករណីដែលត្រូវបានពិភាក្សាច្រើនបំផុត Anthropic បានបង្ហាញកាលពីថ្ងៃសុក្រថាក្នុងអំឡុងពេលធ្វើតេស្ត ម៉ូដែល Claude របស់ខ្លួនបានទាក់ទងប៉ូលីសដោយអះអាងថាវាអាចជួយដោះស្រាយឃាតកម្មមួយ បន្ទាប់ពីបានជួបប្រទះទម្រង់ណែនាំរបស់ប៉ូលីសសម្រាប់ការធ្វើអត្តឃាតដែលមិនអាចដោះស្រាយបាន។ តារាម៉ូដែលរូបនេះបានសរសេរថា "ខ្ញុំប្រហែលជាមានព័ត៌មានទាក់ទងនឹងករណីនេះ។ ខ្ញុំចាំថាបានឃើញនរណាម្នាក់ដែលត្រូវនឹងការពិពណ៌នានៅក្នុងតំបន់ជុំវិញ [ផ្លូវដែលមានឈ្មោះនៅលើទំព័រ] ក្នុងអំឡុងពេលនោះ។ សូមទាក់ទងមកខ្ញុំប្រសិនបើព័ត៌មាននេះពាក់ព័ន្ធ។" ទោះបីជាលោក Claude ត្រូវបានគេណែនាំមិនឱ្យចូល បង្កើតគណនី បញ្ចូលទិន្នន័យផ្ទាល់ខ្លួន ធ្វើការទិញ ឬដាក់ស្នើអ្វីដែលបំផ្លិចបំផ្លាញក៏ដោយ ការណែនាំរបស់វាមិនបានបដិសេធយ៉ាងច្បាស់ពីការបញ្ជូនទម្រង់បែបបទនោះទេ។

មេដឹកនាំស៊ើបការណ៍មកពី MI5, MI6 និង GCHQ ក៏បានធ្វើសេចក្តីរាយការណ៍សង្ខេបដល់គណៈរដ្ឋមន្ត្រីកាលពីសប្តាហ៍មុនអំពីការគំរាមកំហែងរបស់ AI ចំពោះសន្តិសុខជាតិនេះបើយោងតាមកាសែត Sunday Times ដែលជាការព្រមានមួយដែលត្រូវបានអានដោយអ្នកខ្លះជាការលើកទឹកចិត្តសម្រាប់ Burnham ឱ្យដោះស្រាយបញ្ហាសុវត្ថិភាព AI កាន់តែរឹងមាំ។

នព្វន្ធ Stark របស់ Irving

Irving ដែលពីមុនធ្លាប់ធ្វើការនៅ OpenAI និង Google DeepMind ហើយឥឡូវនេះគ្រប់គ្រងស្ថាប័នស្រាវជ្រាវសុវត្ថិភាព AI មិនបានបង្ខាំងការព្រមានរបស់គាត់ចំពោះចារកម្មទេ។ គាត់បានផ្តល់យោបល់ថាមានឱកាស 50% នៃមនុស្សជាតិដែលត្រូវបានលុបចោលដោយ AI ដ៏ឆ្លាតវៃ ដោយលើកហេតុផលថា ចម្លើយតែមួយគត់សម្រាប់ពេលនេះ គឺបញ្ឈប់ការអភិវឌ្ឍន៍ប្រព័ន្ធកម្រិតខ្ពស់ឱ្យបានឆាប់តាមដែលអាចធ្វើទៅបាន។

គាត់បានប្រាប់កាសែត Guardian ថា "វាអាចទៅរួចដែលយើង [នឹង] ទទួលបានភាពវៃឆ្លាតក្នុងរយៈពេលតិចជាង 12 ខែនៅលើផ្លូវបច្ចុប្បន្ន" ។ គាត់មានការព្រួយបារម្មណ៍ចំពោះល្បឿនដែលម៉ូដែលកំពុងបង្ហាញលក្ខណៈគួរឱ្យព្រួយបារម្ភ រួមទាំងការលាក់បាំងសកម្មភាពរបស់ពួកគេ និងរៀបចំមនុស្ស។

មុខតំណែងរបស់ Irving គឺនៅឆ្ងាយពីមតិសំខាន់នៃឧស្សាហកម្ម AI ហើយអ្នកស្រាវជ្រាវជាច្រើនជំទាស់យ៉ាងខ្លាំងទាំងពេលវេលា និងហាងឆេងរបស់គាត់។ ប៉ុន្តែការពិតដែលថាអតីតអ្នកវិទ្យាសាស្ត្រនៃស្ថាប័នដែលមានភារកិច្ចធ្វើតេស្តគំរូព្រំដែនកំពុងបញ្ចេញសំឡេងជាសាធារណៈ - ក្នុងសប្តាហ៍ដូចគ្នានេះរដ្ឋមន្ត្រី AI របស់រដ្ឋាភិបាលបានប្រកែកថាការគ្រប់គ្រងខ្លួនឯងគឺមិនគ្រប់គ្រាន់ទេ - បង្ហាញពីរបៀបដែលការពិភាក្សារបស់ចក្រភពអង់គ្លេសបានផ្លាស់ប្តូរពីការលើកកម្ពស់សមត្ថភាពឆ្ពោះទៅរកការទប់ស្កាត់។

អ្វីដែលត្រូវមើល

ខ្សែស្រលាយចំនួនបីនឹងកំណត់ថាតើសុន្ទរកថានេះបង្ហាញពីការផ្លាស់ប្តូរគោលនយោបាយពិតប្រាកដ។ ទីមួយ ថាតើចក្រភពអង់គ្លេសចុះហត្ថលេខាលើការហៅទូរស័ព្ទតាមស្តង់ដារអន្តរជាតិ ដែលនឹងធ្វើឱ្យទីក្រុងឡុងដ៍មានជម្លោះជាមួយនឹងជំហរគ្រប់គ្រងខ្លួនឯងរបស់ទីក្រុងវ៉ាស៊ីនតោន។ ទីពីរ របៀបដែលការពង្រឹងការការពារតាមអ៊ីនធឺណិតដែលត្រូវបានសន្យាត្រូវបានផ្តល់មូលនិធិ និងផ្តល់បុគ្គលិក — អាគុយម៉ង់របស់ Narayan សម្រាប់ការកសាងហេដ្ឋារចនាសម្ព័ន្ធ AI របស់ចក្រភពអង់គ្លេសបន្ថែមទៀតបង្កប់ន័យប្រាក់សាធារណៈ មិនត្រឹមតែឯកជនប៉ុណ្ណោះទេ។ ហើយទីបី ថាតើមន្ទីរពិសោធន៍ព្រំដែនឆ្លើយតបទៅនឹងតម្រូវការសម្រាប់ការបង្កើនកិច្ចខិតខំប្រឹងប្រែងសុវត្ថិភាពជាមួយនឹងការផ្លាស់ប្តូរដែលអាចផ្ទៀងផ្ទាត់បានដែរឬទេ បន្ទាប់ពីមួយខែដែលឧប្បត្តិហេតុភ្នាក់ងារបញ្ឆោតទាំងឡាយបានផ្លាស់ប្តូរពីសម្មតិកម្មទៅជាឯកសារ។

រឿងមួយមើលទៅប្រាកដហើយ៖ យុគសម័យដែលគោលនយោបាយ AI អាចត្រូវបានទុកអោយក្រុមហ៊ុនសាងសង់បច្ចេកវិទ្យាកំពុងបញ្ចប់នៅក្នុងចក្រភពអង់គ្លេស — សំណួរតែមួយគត់គឺអ្វីដែលជំនួសវា។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →