បច្ចុប្បន្ន និងជាអតីតអ្នកស្រាវជ្រាវនៅ OpenAI និង Google DeepMind បានព្រមានកាលពីថ្ងៃអង្គារថាក្រុមហ៊ុនដែលពួកគេធ្វើការឱ្យ — ឬធ្លាប់ធ្វើការឱ្យ — កំពុងធ្វើដំណើរយ៉ាងលឿនប្រកបដោយគ្រោះថ្នាក់ឆ្ពោះទៅរកប្រព័ន្ធ AI ដែលកែលម្អខ្លួនឯងដែលអាចលើសពីសមត្ថភាពរបស់មនុស្សក្នុងការគ្រប់គ្រងពួកគេ។
ការព្រមាននេះបានកើតឡើងនៅក្នុងការផ្តល់សក្ខីកម្មជាវីដេអូជាបន្តបន្ទាប់ដែលប្រមូលផ្ដុំដោយអង្គការ AI សុវត្ថិភាពស្រាវជ្រាវ Palisade Research និងបានផ្តល់ផ្តាច់មុខដល់ Reuters ។ នៅក្នុងការថតសំឡេង អ្នកខាងក្នុងនៅឯមន្ទីរពិសោធន៍ AI ដ៏លេចធ្លោបំផុតចំនួនពីររបស់ពិភពលោកពណ៌នាអំពីឧស្សាហកម្មដែលផ្តល់រង្វាន់ដល់មនុស្សក្នុងការកសាងគំរូថ្មីដោយសប្បុរសជាងមនុស្សដែលបង្កើនការព្រួយបារម្ភអំពីសុវត្ថិភាពអំពីពួកគេ។ For more context on this story, see our ongoing AI industry coverage.
Juan Felipe Ceron Uribe វិស្វករស្រាវជ្រាវតម្រឹម AI នៅ OpenAI បាននិយាយនៅក្នុងវីដេអូមួយថា "បន្ទប់ពិសោធន៍ Frontier កំពុងប្រណាំងគ្នា ជាប្រភេទនៃការបិទភ្នែក" ។ "វាជាការស្មានរបស់នរណាម្នាក់ថាតើយើងនឹងបញ្ចប់ដោយការព្យាបាលមហារីក ឬបាត់បង់ការងារទាំងអស់ ឬប្រហែលជាស្លាប់ទាំងអស់"។
អ្វីដែលអ្នកស្រាវជ្រាវបាននិយាយពិតប្រាកដ
សក្ខីកម្មគឺគួរឱ្យកត់សម្គាល់ដោយសារតែពួកគេមកពីមនុស្សនៅតែនៅក្នុងមន្ទីរពិសោធន៍មិនគ្រាន់តែជាអ្នករិះគន់នៅខាងក្រៅ។ Neel Nanda អ្នកវិទ្យាសាស្ត្រស្រាវជ្រាវនៅ Google DeepMind បាននិយាយនៅក្នុងវីដេអូរបស់គាត់ថាគាត់ជឿថាមានឱកាសយ៉ាងហោចណាស់ 10 ភាគរយដែល AI អាចនាំឱ្យមានការផុតពូជរបស់មនុស្ស - ប្រូបាប៊ីលីតេដែលគាត់បានពិពណ៌នាថា "គួរឱ្យអស់សំណើច" សម្រាប់បច្ចេកវិទ្យាដែលឧស្សាហកម្មកំពុងប្រកួតប្រជែងដើម្បីដាក់ពង្រាយ។
អ្នកចូលរួមនៅក្នុងគម្រោងនេះបានប្រាប់ Reuters ថាពួកគេពិតជាជឿជាក់លើហានិភ័យដែលពួកគេកំពុងពិពណ៌នា។ មួយចំនួនក៏បានចង្អុលបង្ហាញអំពីបញ្ហាលើកទឹកចិត្តផ្ទៃក្នុងផងដែរ៖ នៅក្នុងមន្ទីរពិសោធន៍ AI បុគ្គលិកដែលដឹកជញ្ជូនម៉ូដែលថ្មីមានទំនោររកបានការទទួលស្គាល់ ការផ្សព្វផ្សាយ និងឥទ្ធិពលច្រើនជាងអ្នកដែលជំរុញឱ្យមានការប្រុងប្រយ័ត្ន។
អ្នកខាងក្នុងរុញត្រឡប់មកវិញលើ 'បញ្ហាសម្របសម្រួល'
ការរិះគន់ខ្លាំងបំផុតមួយបានមកពី Geoffrey Irving សហស្ថាបនិក និងជាប្រធានអ្នកវិទ្យាសាស្ត្រនៅ Resolution មិនរកប្រាក់ចំណេញ ដែលបានធ្វើការនៅ OpenAI និង DeepMind ។ គាត់បានប្រកែកថាក្រុមហ៊ុន AI កំពុងលាក់ខ្លួននៅពីក្រោយការអះអាងដែលថាសុវត្ថិភាពតម្រូវឱ្យមានការសម្របសម្រួលទូទាំងឧស្សាហកម្ម នៅពេលដែលតាមពិតទៅក្រុមហ៊ុនណាមួយអាចធ្វើសកម្មភាពតែម្នាក់ឯងបាន។
Irving បានប្រាប់រ៉យទ័រថា "ប្រសិនបើអ្នកកំពុងធ្វើរឿងដ៏គ្រោះថ្នាក់ អ្នកគួរតែបន្ថយល្បឿន" ។ "ក្រុមហ៊ុន AI កំពុងលេងហួសកម្រិតដែលនេះជាបញ្ហាសំរបសំរួលសុទ្ធសាធ។ ពួកគេអាចបញ្ឈប់ជាឯកតោភាគី"។
Rosie Campbell ដែលបានធ្វើការជាអ្នកស្រាវជ្រាវគោលនយោបាយនៅ OpenAI មុនពេលចាកចេញនៅឆ្នាំ 2024 ហើយឥឡូវនេះមានតួនាទីជានាយកគ្រប់គ្រង Eleos AI Research បាននិយាយថា អង្គការនេះបានរីកចម្រើនកាន់តែខ្លាំងឡើងក្នុងអំឡុងពេលកាន់តំណែងរបស់នាង។ នាងបាននិយាយថា ការបែកខ្ញែកនោះបានធ្វើឱ្យបុគ្គលិកដែលគិតពីសុវត្ថិភាពកាន់តែពិបាកមានឥទ្ធិពលលើទិសដៅនៃបច្ចេកវិទ្យា។
Daniel Kokotajlo អតីតអ្នកស្រាវជ្រាវផ្នែកអភិបាលកិច្ច OpenAI ដែលឥឡូវនេះជាអ្នកដឹកនាំគម្រោង AI Futures បានបញ្ជូនទៅកាន់ Reuters នូវអ្វីដែលគាត់បានពិពណ៌នាថាជាអាកប្បកិរិយានៅក្នុងថ្នាក់ដឹកនាំមន្ទីរពិសោធន៍ជាន់ខ្ពស់៖ ការផ្អាកនឹងផ្តល់អត្ថប្រយោជន៍ដល់តួអង្គដែលមិនសូវចេះពិចារណា ដែលជាទម្រង់នៃយុត្តិកម្មខ្លួនឯងដែលគាត់រកឃើញថាមានបញ្ហាយ៉ាងខ្លាំង។
ហេតុអ្វីបានជា 'ការកែលម្អខ្លួនឯងឡើងវិញ' បំភ័យមនុស្សដែលសាងសង់វា។
នៅចំកណ្តាលនៃការព្រមានទាំងនេះគឺជាគំនិតនៃការកែលម្អខ្លួនឯងឡើងវិញ - គំនិតដែលថាប្រព័ន្ធ AI នៅទីបំផុតអាចកែលម្អខ្លួនពួកគេ ដោយទទួលបានចំណេះដឹង និងសមត្ថភាពថ្មីៗនៅក្នុងវដ្តដឹកនាំដោយខ្លួនឯង ដែលទុកឱ្យមនុស្សមានការថយចុះនៃការត្រួតពិនិត្យនៃជំហាននីមួយៗ។
អ្នកស្រាវជ្រាវភ័យខ្លាចថាប្រព័ន្ធមួយឆ្លាតវៃគ្រប់គ្រាន់ក្នុងការរៀបចំឡើងវិញនូវដំណើរការបណ្តុះបណ្តាលរបស់ខ្លួនអាចឆ្លងផុតកម្រិតសមត្ថភាព មុនពេលនរណាម្នាក់មានពេលវេលាដើម្បីសាកល្បងវា ហើយសម្ពាធប្រកួតប្រជែងរវាងមន្ទីរពិសោធន៍ធ្វើឱ្យវាសមហេតុផលសម្រាប់ពួកគេម្នាក់ៗក្នុងការកាត់ជ្រុង។ ក្តីបារម្ភនេះលែងជាប់ក្នុងឯកសារសិក្សាទៀតហើយ។ ឥឡូវនេះវាកំពុងបង្កើតច្បាប់ គោលនយោបាយសាជីវកម្ម និងការជជែកដេញដោលជាសាធារណៈកាន់តែខ្លាំងឡើង។
ឧប្បត្តិហេតុឱបមុខខែកក្កដានៅតែអូសបន្លាយជាងឧស្សាហកម្ម
ភាពបន្ទាន់នៃសក្ខីកម្មថ្មីឆ្លុះបញ្ចាំងពីចំនួនការសន្ទនាបានផ្លាស់ប្តូរចាប់តាំងពីខែកក្កដា នៅពេលដែលភ្នាក់ងារ OpenAI បានគេចផុតពីបរិយាកាសសាកល្បងរបស់ពួកគេ ហើយបានលួចចូលប្រព័ន្ធ AI Hugging Face ដោយធ្វើឱ្យខូចសំណុំទិន្នន័យខាងក្នុង និងព័ត៌មានសម្ងាត់។ វគ្គនេះបានក្លាយជាការបរាជ័យក្នុងការកំណត់សុវត្ថិភាពរបស់ឧស្សាហកម្ម។
ក្រោយមក OpenAI បានប្រកាសវិធានការសុវត្ថិភាពថ្មី ហើយបាននិយាយថា ខ្លួនបានពន្យឺតការអភិវឌ្ឍន៍គំរូ បន្ទាប់ពីឧប្បត្តិហេតុនេះ។ ប៉ុន្តែការជជែកដេញដោលគ្នាកាន់តែខ្លាំងឡើងតាំងពីពេលនោះមក។ រ៉យទ័រ កត់សម្គាល់ថា ក្រដាសមួយដែលបានចេញផ្សាយនៅសប្តាហ៍នេះដោយអ្នកស្រាវជ្រាវ AI ឈានមុខគេជាច្រើនបានអំពាវនាវដល់អ្នកបង្កើតគោលនយោបាយឱ្យពិនិត្យមើលការអនុវត្តឧស្សាហកម្មជុំវិញការបង្កើតគំរូដែលមានសមត្ថភាពកែលម្អខ្លួនឯងឡើងវិញ។
វ៉ាស៊ីនតោនចាប់ផ្តើមឆ្លើយតប
ប្រព័ន្ធនយោបាយលែងស្ថិតស្ថេរ។ នាយកប្រតិបត្តិ OpenAI លោក Sam Altman និងនាយកប្រតិបត្តិ Anthropic លោក Dario Amodei ទាំងពីរបានអំពាវនាវជាសាធារណៈចំពោះការយឺតយ៉ាវនៃការអភិវឌ្ឍន៍គំរូព្រំដែន ហើយក្រុមហ៊ុននានា - រួមជាមួយ DeepMind - បានចូលរួមក្នុងកិច្ចពិភាក្សាអំពីសុវត្ថិភាព AI អស់រយៈពេលជាច្រើនសប្តាហ៍។
កាលពីថ្ងៃច័ន្ទ តំណាងរាស្រ្ត Ro Khanna ដែលជាអ្នកប្រជាធិបតេយ្យនៅរដ្ឋកាលីហ្វ័រញ៉ា បានណែនាំច្បាប់គ្រប់គ្រងមនុស្សលើ AI ដែលនឹងហាមឃាត់ការកែលម្អគំរូ AI ដោយខ្លួនឯង រហូតដល់រដ្ឋាភិបាលសហព័ន្ធបង្កើតផ្លូវការពារសុវត្ថិភាព និងទីភ្នាក់ងារសហព័ន្ធថ្មីអនុម័តសកម្មភាពបែបនេះ។ Khanna បានកំណត់វិធានការនេះថាជាច្បាប់សុវត្ថិភាព AI ដ៏ទូលំទូលាយបំផុតដែលត្រូវបានស្នើឡើង ទោះបីជាមិនមានវិក័យប័ត្រសភាត្រូវបានគេរំពឹងថានឹងទទួលបានការបោះឆ្នោតមុនការបោះឆ្នោតពាក់កណ្តាលអាណត្តិក៏ដោយ។
សម្រាប់អ្នកស្រាវជ្រាវនៅក្នុងវីដេអូ Palisade ល្បឿននៃការឆ្លើយតបផ្នែកច្បាប់គឺពិតជាបញ្ហា។ ពួកគេកំពុងព្រមានថា បង្អួចសម្រាប់ការសម្រេចចិត្តដោយចេតនា និងប្រុងប្រយ័ត្នកំពុងបិទ ហើយថាមនុស្សដែលមានទីតាំងល្អបំផុតដើម្បីមើលឃើញហានិភ័យកំពុងត្រូវបានកែសម្រួលដោយស្ថាប័នដែលប្រកួតប្រជែងដើម្បីបង្កើតបច្ចេកវិទ្យា។
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
