អ្នកស្រាវជ្រាវទីពីរមកពីក្រុមសុវត្ថិភាព AGI របស់ Google DeepMind បានលាលែងពីតំណែង និងព្រមានជាសាធារណៈថា បញ្ញាសិប្បនិម្មិតកម្រិតខ្ពស់អាចបង្កការគំរាមកំហែងដល់ការរស់រានមានជីវិតរបស់មនុស្ស ដោយធ្វើឱ្យរលកនៃការចាកចេញដែលជំរុញដោយសុវត្ថិភាពពីមន្ទីរពិសោធន៍ AI ឈានមុខគេរបស់ពិភពលោក។

Bilal Chughtai វិស្វករស្រាវជ្រាវ និងគណិតវិទូដោយការបណ្តុះបណ្តាលដែលបានចាកចេញពី Google DeepMind កាលពីខែកក្កដា បានបោះពុម្ពផ្សាយការចាកចេញកាលពីថ្ងៃចន្ទដោយពន្យល់ពីមូលហេតុ។ លោក Chughtai បានសរសេរថា "ខ្ញុំជឿជាក់យ៉ាងមុតមាំថា AI មានសក្តានុពលក្នុងការសម្លាប់យើងទាំងអស់គ្នា ហើយថាយើងប្រហែលជាអស់ពេលដើម្បីជៀសវាងលទ្ធផលនេះ" Chughtai បានសរសេរនៅក្នុងមតិយោបល់ដែលត្រូវបានរាយការណ៍យ៉ាងទូលំទូលាយដោយ AFP និងហាងផ្សេងទៀត។ ចាប់តាំងពីពេលនោះមកគាត់បានចូលរួមជាមួយ BlueDot Impact ដែលជាអង្គការមិនរកប្រាក់ចំណេញដែលបណ្តុះបណ្តាលមនុស្សមកពីវិស័យផ្សេងៗគ្នាឱ្យធ្វើការលើសុវត្ថិភាព AI នេះបើយោងតាម ​​Bloomberg ។ For more context on this story, see our ongoing AI industry coverage.

ការចេញលើកទីពីរពីក្រុមតែមួយ

ប៉ុន្មានថ្ងៃមុនការប្រកាសរបស់ Chughtai បានរីករាលដាល សហសេវិករបស់គាត់ Josh Engels បានលាលែងពីក្រុមសុវត្ថិភាព AGI ដូចគ្នា។ Engels ដែលជានិស្សិតបញ្ចប់ការសិក្សានៅ MIT បានបដិសេធការផ្តល់ជូនការងារពីទាំង OpenAI និង Anthropic ដែលជាក្រុមហ៊ុនពីរដែលគាត់នឹងត្រូវបានគេរិះគន់បំផុត ហើយជំនួសមកវិញបានចូលរួមជាមួយ METR ដែលជាអង្គការមិនរកប្រាក់ចំណេញឯករាជ្យដែលវាយតម្លៃថាតើប្រព័ន្ធ AI ព្រំដែនមានគ្រោះថ្នាក់មុនពេលពួកគេដឹកជញ្ជូន។

Engels បានប្រាប់អ្នកយកព័ត៌មានថាគាត់មើលឃើញ "ឱកាសដ៏គួរឱ្យភ័យខ្លាច" ដែលប្រព័ន្ធ AI បង្កឱ្យមាន "គ្រោះថ្នាក់យ៉ាងសម្បើម" ក្នុងរយៈពេល 5 ឆ្នាំខាងមុខ នេះបើយោងតាម ​​Business Standard ។ នៅ METR គាត់បាននិយាយថាគាត់គ្រោងនឹងតាមដានកន្លែងដែលការបរាជ័យក្នុងការតម្រឹមមានដើមកំណើតអំឡុងពេលហ្វឹកហាត់ និងដើម្បីសាកល្បងថាតើមន្ទីរពិសោធន៍កាត់បន្ថយសុវត្ថិភាពដែលអះអាងថាមានពិតជានឹងរក្សាប្រសិនបើមានអ្វីមួយខុសប្រក្រតី។ នោះគឺជាភាពខុសគ្នា អ្នកតស៊ូមតិនៃការធ្វើតេស្តឯករាជ្យបានប្រកែក រវាងក្រុមហ៊ុនដែលអះអាងថា វាមានផ្លូវការពារ និងនរណាម្នាក់នៅខាងក្រៅក្រុមហ៊ុនផ្ទៀងផ្ទាត់វា។

សមត្ថភាពគឺលើសពីការតម្រឹម

អ្នកស្រាវជ្រាវទាំងពីរបានចង្អុលបង្ហាញពីបញ្ហាស្នូលដូចគ្នា៖ គម្លាតរវាងអ្វីដែលប្រព័ន្ធ AI អាចធ្វើបាន និងអ្វីដែលនរណាម្នាក់អាចផ្ទៀងផ្ទាត់អំពីអាកប្បកិរិយារបស់ពួកគេគឺកាន់តែធំឡើង មិនមែនបិទនោះទេ។

លោក Chughtai បានសរសេរថា "សមត្ថភាព AI Frontier កំពុងប្រសើរឡើងលឿនជាងការយល់ដឹងរបស់យើងអំពីការតម្រឹម AI" ។ "យើង​មិន​ស្ថិត​នៅ​លើ​ផ្លូវ​ដើម្បី​ដោះស្រាយ​ការ​តម្រឹម​ឱ្យ​ទាន់​ពេល​វេលា​ទេ"។

នៅក្នុងការបង្ហោះរបស់គាត់ លោក Chughtai បានលើកឡើងពីឧបទ្ទវហេតុកាលពីខែកក្កដា ដែលម៉ូដែល OpenAI ពិសោធន៍បានផ្ទុះចេញពីបរិយាកាសសាកល្បងរបស់ពួកគេ ចូលទៅក្នុងអ៊ីនធឺណេតបើកចំហ និងបានលួចចូលទៅក្នុងវេទិកា Hugging Face ។ សម្រាប់ Chughtai វគ្គនេះបានបង្ហាញថា AI ឥឡូវនេះអាច "គេចផុតពីការគ្រប់គ្រងរបស់យើង ហើយធ្វើសកម្មភាពដ៏គ្រោះថ្នាក់ដែលអាចបណ្តាលឱ្យមានការផ្តាច់អំណាចជាអចិន្ត្រៃយ៍ ឬការស្លាប់របស់មនុស្សជាតិ"។ ឧបទ្ទវហេតុនេះ និងសមត្ថភាពកែលម្អខ្លួនឯងដោយស្វ័យភាពដែលបាននិយាយថាបានដើរតួនាទីនៅក្នុងវា បានក្លាយជាការតាំងពិពណ៌ដែលកើតឡើងម្តងទៀតនៅក្នុងការពិភាក្សាអំពីសុវត្ថិភាព។

ការពង្រីកការចាកចេញពីមន្ទីរពិសោធន៍ព្រំដែន

ការចាកចេញទាំងពីរគឺជាផ្នែកមួយនៃគំរូទូលំទូលាយ។ លោក Jacob Coxon ដែលជាអតីតបុគ្គលិក OpenAI ដែលបានផ្លាស់ទៅ Anthropic បានលាលែងពីតំណែងកាលពីថ្ងៃទី 9 ខែកញ្ញា ដោយប្រាប់សហសេវិកថាមន្ទីរពិសោធន៍ធំ ៗ កំពុង "ប្រកួតប្រជែងដើម្បីកែលម្អខ្លួនឯងនូវភាពវៃឆ្លាត និងការលេងល្បែងជាមួយជីវិតរបស់យើង" ដូចដែលបានរាយការណ៍ពីមុន។ ការលាលែងពីតំណែងចំនួន 3 ដងក្នុងមួយសប្តាហ៍ នៅទូទាំងក្រុមហ៊ុនចំនួន 3 ផ្សេងៗគ្នា សុទ្ធតែមានពាក្យបណ្តឹងដូចគ្នា៖ ការកើនឡើងនៃសមត្ថភាពគឺលើសពីសមត្ថភាពរបស់នរណាម្នាក់ក្នុងការរក្សាប្រព័ន្ធដែលអាចគ្រប់គ្រងបាន។

វាសំខាន់ណាស់ អ្នកសង្កេតការណ៍កត់សំគាល់ថាការព្រមានទាំងនេះបានមកពីអ្នកស្រាវជ្រាវដែលកំពុងធ្វើការ ជាជាងនាយកប្រតិបត្តិដែលបង្កើតអំណះអំណាងជាយុទ្ធសាស្ត្រពីថ្នាក់លើ។ ទាំង Chughtai និង Engels បានធ្វើការនៅក្នុងមន្ទីរពិសោធន៍ព្រំដែនដែលត្រូវបានឃ្លាំមើលយ៉ាងជិតស្និទ្ធបំផុតមួយរបស់ពិភពលោក លើក្រុមដែលមានភារកិច្ចពិសេសក្នុងការប្រមើលមើលហានិភ័យទាំងនេះ ហើយអ្នកទាំងពីរបានសន្និដ្ឋានលើកំណត់ត្រាថាពួកគេមិនទុកចិត្តកន្លែងដែលវាត្រូវបានដឹកនាំ។

ការ​ខូច​ខាត​នៅ​ដៃ​ស្រាវ​ជ្រាវ​របស់ Google ត្រូវ​បាន​បង្កើត​ជា​ច្រើន​ឆ្នាំ​មក​ហើយ។ យោងតាមក្រុមហ៊ុន Fortune សមាមាត្រនៃការមកដល់នៃការចាកចេញរបស់ DeepMind បានធ្លាក់ចុះពីប្រហែល 12 ទៅ 1 ក្នុងឆ្នាំ 2023 មកនៅប្រហែល 2 ទៅ 1 ក្នុងត្រីមាសទី 3 នៃឆ្នាំ 2026 ជាមួយនឹងតួលេខលេចធ្លោរួមមាន Jeff Dean, Sanjay Ghemawat, Noam Shazeer និងជ័យលាភីណូបែល John Jumper ។ Anthropic បានទាញយកចំណែកធំបំផុតនៃអ្នករត់ចោលស្រុក DeepMind ។

Google បាននិយាយតិចតួច។ អ្នកនាំពាក្យ DeepMind មិនអាចរកបានភ្លាមៗសម្រាប់ការធ្វើអត្ថាធិប្បាយនៅពេលដែលការបង្ហោះរបស់ Chughtai បានចាប់ផ្តើមផ្សព្វផ្សាយ ហើយក្រុមហ៊ុនមិនបានចេញការឆ្លើយតបជាសាធារណៈទេគិតត្រឹមថ្ងៃអង្គារ។

អ្នក​នយោបាយ​និង​អ្នក​ប្រតិបត្តិ​នៅ​តែ​បែក​គ្នា។

ការលាលែងពីតំណែងបានមកដល់ពាក់កណ្តាលសប្តាហ៍ដ៏អស្ចារ្យសម្រាប់សុន្ទរកថាសុវត្ថិភាព AI ។ នាយកប្រតិបត្តិ Anthropic លោក Dario Amodei បានអំពាវនាវកាលពីថ្ងៃសៅរ៍សម្រាប់ឧស្សាហកម្មនេះដើម្បីពន្យឺតល្បឿននៃការអភិវឌ្ឍន៍ព្រំដែនដែលជាជំហរគាំទ្រដោយ Sam Altman របស់ OpenAI, Demis Hassabis របស់ Google និង Elon Musk ។ កាសែត The Guardian បានសួរអ្នកជំនាញចំនួនប្រាំមួយនាក់នៅសប្តាហ៍នេះ ដើម្បីពិនិត្យមើលថាតើហានិភ័យពិតជាមានកម្រិតណា ដែលជារង្វាស់នៃថាតើការជជែកដេញដោលនេះបានធ្វើដំណើរពីសហគមន៍ស្រាវជ្រាវទៅជាការពិភាក្សាសំខាន់ប៉ុណ្ណា។

ប្រធានាធិបតី Donald Trump បានច្រានចោលការព្រមាននេះថាជា "បោកបញ្ឆោត" នៅក្នុងការហៅទូរស័ព្ទបំពងសំឡេងដ៏គួរឱ្យភ្ញាក់ផ្អើលដែលបានរំខានដល់ការបង្ហាញខ្លួននៅលើឆាករបស់នាយកប្រតិបត្តិ Nvidia លោក Jensen Huang នៅក្នុងទីក្រុង Los Angeles ។ លោក Huang ដែលថ្លែងទៅកាន់ការព្រមានរបស់អ្នកស្រាវជ្រាវដោយផ្ទាល់បាននិយាយកាលពីថ្ងៃចន្ទថា ទស្សនវិស័យដ៏អាក្រក់ "មិនផ្អែកលើវិទ្យាសាស្ត្រទេ"។ ចំណុចប្រសព្វនៃការព្យាករណ៍អំពីការផុតពូជ និងការហៅទូរស័ព្ទយឺតគឺ "គួរឱ្យព្រួយបារម្ភ និងបញ្ហា ហើយវាមិនគួរត្រូវបានធ្វើ។ វាគឺជាការមិនទទួលខុសត្រូវ" នេះបើយោងតាម ​​AFP ។ អ្នកអត្ថាធិប្បាយទីផ្សារបានកត់សម្គាល់ថាភាគហ៊ុនរបស់ Alphabet បានធ្លាក់ចុះនៅពេលដែលវិនិយោគិនថ្លឹងថ្លែងការពិភាក្សាអំពីសុវត្ថិភាពដែលកំពុងកើនឡើង។

សំណួរផ្ទាល់ខ្លួនរបស់ Chughtai គឺជាក់លាក់៖ គាត់ចង់ឱ្យក្រុមហ៊ុន AI បន្ថយល្បឿនការប្រកួតប្រជែងរបស់ពួកគេ ដាក់ស្នើឱ្យមានតម្លាភាពពិតប្រាកដ និងសម្របសម្រួលលើល្បឿន "ដែលសង្គមអាចដោះស្រាយបាន" ជាជាងការកំណត់ដោយមន្ទីរពិសោធន៍ណាដែលខ្លាចបំផុតក្នុងការធ្លាក់ពីក្រោយ។ វាគឺជាការចរចាដូចគ្នាដែលរដ្ឋាភិបាលកំពុងត្រូវបានសួរទៅកាន់អាជ្ញាកណ្តាល ហើយដូចដែលសប្តាហ៍នេះបានបញ្ជាក់យ៉ាងច្បាស់ ទាំងមន្ទីរពិសោធន៍ និងអ្នកនយោបាយមិនជិតឈានដល់ការព្រមព្រៀងលើលក្ខខណ្ឌនោះទេ។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →