សហស្ថាបនិកក្រុមហ៊ុន Anthropic និយាយថា រដ្ឋាភិបាលប្រហែលជាត្រូវបង្ខំក្រុមហ៊ុន AI ឱ្យដំឡើង "កុងតាក់សម្លាប់" ដែលជាយន្តការសម្រាប់បិទប្រព័ន្ធ AI ទាំងស្រុង ហើយអ្នកត្រួតពិនិត្យខាងក្រៅគួរតែអាចផ្ទៀងផ្ទាត់ថាវាពិតជាដំណើរការ។

Jack Clark ដែលជាស្ថាបនិកម្នាក់ក្នុងចំណោមស្ថាបនិកទាំងប្រាំពីរនៃមន្ទីរពិសោធន៍ AI មានតម្លៃ 965 ពាន់លានដុល្លារបានប្រាប់ BBC ថាខណៈពេលដែលមន្ទីរពិសោធន៍ឈានមុខគេភាគច្រើនមានវិធីខាងក្នុងរួចហើយដើម្បី "ទាញដោត" នៅលើប្រព័ន្ធគ្រោះថ្នាក់ សង្គម "ប្រហែលជាចង់ឆ្លងកាត់ច្បាប់ជុំវិញ" ដោយធ្វើឱ្យឧបករណ៍ប្តូរបែបនេះមានកាតព្វកិច្ច និងអាចធ្វើសវនកម្មដោយឯករាជ្យ។ សម្រាប់អ្នកអានដែលតាមដាន ការជជែកវែកញែកសុវត្ថិភាព AI កាន់តែទូលំទូលាយ អន្តរាគមន៍របស់គាត់គឺជាសំណើគោលនយោបាយជាក់ស្តែងបំផុតដែលមិនទាន់បានមកពីខាងក្នុងមន្ទីរពិសោធន៍ព្រំដែនក្នុងអំឡុងពេលមួយសប្តាហ៍នៃការព្រមានកើនឡើង។

"តើ​អ្នក​គួរ​ផ្តល់​សិទ្ធិ​ឱ្យ​ក្រុមហ៊ុន​ប្រាកដ​ជា​មាន​កុងតាក់​សម្លាប់​ឬ? តើ​កុងតាក់​សម្លាប់​នោះ​អាច​ផ្ទៀងផ្ទាត់​បាន​ដោយ​ភាគី​ទីបី​ឬ?" ក្លាកបាននិយាយនៅក្នុងបទសម្ភាសន៍ជាមួយអ្នកយកព័ត៌មានបច្ចេកវិទ្យា Kali Hays និងអ្នកនិពន្ធផ្នែកសេដ្ឋកិច្ច Faisal Islam ។ "ខ្ញុំគិតថានោះជារឿងដែលសង្គមចង់ដឹង ហើយប្រហែលជាចង់ឆ្លងកាត់ច្បាប់ជុំវិញ"។

'យើងកំពុងរមៀលគ្រាប់ឡុកឡាក់ជាមួយនឹងហានិភ័យដ៏ធំធេង'

ការអត្ថាធិប្បាយដ៏គួរឱ្យចាប់អារម្មណ៍បំផុតរបស់ក្លាកគឺការបដិសេធទាំងស្រុងនូវស្ថានភាពបច្ចុប្បន្ន។ នៅពេលសួរអំពីគន្លងនៃឧស្សាហកម្មនេះ គាត់បាននិយាយថា ការអនុញ្ញាតឱ្យ AI បន្តជា "ឧស្សាហកម្មដែលមិនមានការគ្រប់គ្រងទាំងស្រុង" គឺជាគំនិតមិនល្អ។

លោក​បាន​បន្ត​ថា​៖ «​យើង​កំពុង​ក្រឡុក​គ្រាប់​ឡុកឡាក់​ជាមួយ​នឹង​ហានិភ័យ​ដ៏​ធំធេង​។ "ហើយ​ចំណុច​សំខាន់​គឺ​យើង​ត្រូវ​ផ្លាស់​ប្តូរ​ដំណើរ​ការ​នៃ​ឧស្សាហកម្ម​នេះ"។

ខុសពីសហសេវិកមួយចំនួនរបស់គាត់ ក្លាកបានបដិសេធមិនដាក់លេខមួយអំពីហានិភ័យនៃការផុតពូជរបស់មនុស្ស។ គាត់បាននិយាយថា "ខ្ញុំមិនគិតថាស្ថិតិទាំងនេះមានប្រយោជន៍នោះទេ" គាត់បាននិយាយថា - ភាពផ្ទុយគ្នាគួរឱ្យកត់សម្គាល់ជាមួយអ្នកស្រាវជ្រាវ Anthropic Evan Hubinger ដែលបាននិយាយកាលពីសប្តាហ៍មុនគាត់ផ្ទាល់ជឿថាមានឱកាសច្រើនជាង 10% នៃការផុតពូជរបស់មនុស្សពី AI ក្នុងរយៈពេលមួយទសវត្សរ៍ក្រោយ ហើយជាមួយអ្នកត្រួសត្រាយ AI លោក Geoffrey Hinton ដែលបានប្រាប់ BBC កាលពីថ្ងៃសុក្រថា ការប៉ាន់ប្រមាណ 10% គឺមិនសមហេតុផលទេ។

អ្វី​ដែល​ក្លាក​មិន​ប្រកែក​នោះ​គឺ​ទិសដៅ​នៃ​ការ​ធ្វើ​ដំណើរ។ AI គឺដូចដែលគាត់បានដាក់វានៅក្នុងបទសម្ភាសន៍ដូចគ្នា "កាន់តែមានថាមពលពីមួយថ្ងៃទៅមួយថ្ងៃ" ហើយគាត់បានប្រកែកថាភាពជាក់លាក់នៃតម្រូវការបិទណាមួយ រួមទាំងអ្នកណាដែលនឹងផ្ទៀងផ្ទាត់វា និងរបៀបជាកម្មសិទ្ធិនៅក្នុង "ការសន្ទនាគោលនយោបាយធំជាងនេះ" ឥឡូវនេះកំពុងធ្វើឡើងជុំវិញ AI ។

សំណើរជាមួយនឹងសន្ទុះនីតិបញ្ញត្តិ

សំណើរបស់ក្លាកមិនចុះចតដោយកន្លែងទំនេរទេ។ សមាជិកសភាអាមេរិកបានដាក់ចេញនូវច្បាប់ដែលមានឈ្មោះថា Kill Switch Act ដែលនឹងតម្រូវឱ្យអ្នកអភិវឌ្ឍន៍ AI ព្រំដែនបង្កើតយន្តការបិទចូលទៅក្នុងប្រព័ន្ធរបស់ពួកគេ ដែលជាវិក័យប័ត្រ AI Buzz Wire គ្របដណ្តប់កាលពីខែមុន ខណៈដែលភាពបន្ទាន់របស់វាបានកើនឡើងបន្ទាប់ពីឧប្បត្តិហេតុភ្នាក់ងារបញ្ឆោតទាំងឡាយ។

គំនិតនេះក៏ប្រឈមនឹងការសង្ស័យបើកចំហផងដែរ។ នៅចក្រភពអង់គ្លេស រដ្ឋមន្ត្រីពាណិជ្ជកម្ម Jonathan Reynolds បានប្រាប់ BBC ថាគាត់មិនបានរកឃើញថាគំនិតនេះមានប្រយោជន៍ទេ ដោយនិយាយថាគាត់ "មិនប្រាកដថាអ្វីដែលមានន័យនៅក្នុងការអនុវត្ត" ហើយបានព្រមានថាការគ្រប់គ្រងហួសហេតុអាចទុកឱ្យប្រទេសនេះកាត់ចេញពីគំរូដែលអភិវឌ្ឍដោយបរទេស។

ផ្ទៃខាងក្រោយ៖ សង្គ្រាមស៊ីវិលសុវត្ថិភាព - និង IPO

ការអត្ថាធិប្បាយរបស់ក្លាកមានកំណត់ក្នុងមួយសប្តាហ៍ដែលសុវត្ថិភាព AI បានផ្លាស់ប្តូរពីប្រធានបទសិក្ខាសាលាទៅជាព័ត៌មានទំព័រមុខ។ នាយកប្រតិបត្តិ Anthropic លោក Dario Amodei បានអំពាវនាវនៅចុងសប្តាហ៍សម្រាប់ល្បឿននៃការអភិវឌ្ឍន៍ព្រំដែនឱ្យយឺតយ៉ាវ និងត្រូវបានត្រួតពិនិត្យយ៉ាងដិតដល់ ខណៈពេលដែលទទូចថាការផ្អាកណាមួយគួរតែកើតឡើង "ដោយមិនលះបង់ផលប្រយោជន៍ពាណិជ្ជកម្ម" ។ បន្ទាប់មកគាត់បានយកករណីនោះទៅកាន់ទស្សនិកជនអាមេរិកដែលកំពុងពេញនិយមនៅក្នុងបទសម្ភាសន៍ជាមួយទូរទស្សន៍ CNN លោក Anderson Cooper ដោយ Coxon ផ្ទាល់បានបង្ហាញខ្លួននៅលើបណ្តាញដើម្បីប្រតិកម្មចំពោះវា។ ការកត់សម្គាល់នេះបានធ្វើឡើងបន្ទាប់ពីមានការប្រកាសលាលែងពីតំណែងពីអតីតអ្នកស្រាវជ្រាវ Anthropic លោក Jacob Coxon ព្រមានអំពីជោគវាសនារបស់មនុស្សជាតិ ដែលជាហេតុជំរុញឱ្យមានការប៉ាន់ស្មានការផុតពូជរបស់ Hubinger ។ ជាផ្នែកមួយរបស់ The Guardian បានពិនិត្យមើលថាហេតុអ្វីបានជាការព្រមាននៃថ្ងៃវិនាសអន្តរាយពិសេសនេះបានទម្លាយពីកន្លែងដែលការព្រមានមុនៗបានរសាត់បាត់ទៅហើយ។

ការជូនដំណឹងត្រូវបានជួបជាមួយនឹងការចំអកចំហរពីផ្នែកខ្លះនៃឧស្សាហកម្មបច្ចេកវិទ្យា។ នាយកប្រតិបត្តិក្រុមហ៊ុន Hugging Face លោក Clement Delangue បានចំអកការសម្រេចចិត្តដើម្បីធ្វើឱ្យ Coxon ក្លាយជាមាត់មួយសម្រាប់ហានិភ័យនៃការផុតពូជដោយសរសេរថា "សុំទោស ប៉ុន្តែការសួរ Jacob អំពីហានិភ័យនៃការផុតពូជរបស់ AI គឺដូចជាការសួរបុរស AC របស់អ្នកអំពីការប្រែប្រួលអាកាសធាតុ។" នាយកប្រតិបត្តិ Grindr លោក George Arison បានទៅបន្ថែមទៀត ដោយអះអាងថា ការភ័យខ្លាចនេះ ត្រូវបានជំរុញដោយពាណិជ្ជកម្ម។ គាត់បាននិយាយថា "មធ្យោបាយតែមួយគត់ដើម្បីបង្ហាញពីភាពត្រឹមត្រូវនៃការវាយតម្លៃទាំងនេះគឺការអះអាងយ៉ាងពិតប្រាកដថា 'ខ្ញុំនឹងកាន់កាប់គ្រប់ឧស្សាហកម្មទាំងអស់ ហើយខ្ញុំនឹងកាន់កាប់គ្រប់ការងារទាំងអស់ ហើយ AI របស់ខ្ញុំនឹងធ្វើការងារទាំងអស់នោះ" ។

វាក៏មានចំនួនទឹកប្រាក់ដ៏ច្រើនសន្ធឹកសន្ធាប់ផងដែរ ទៅលើលទ្ធផលនៃការជជែកដេញដោលនេះ។ Anthropic កំពុងរៀបចំសម្រាប់ការផ្តល់ជូនជាសាធារណៈដំបូងក្នុងតម្លៃ 965 ពាន់លានដុល្លារ ខណៈដែល OpenAI ដែលថ្មីៗនេះមានតម្លៃ 852 ពាន់លានដុល្លារត្រូវបានគេរំពឹងថានឹងបង្ហាញជាសាធារណៈមុនពេលនាយកប្រតិបត្តិ Sam Altman បាននិយាយកាលពីថ្ងៃសុក្រថា IPO នឹងមិនកើតឡើងនៅឆ្នាំនេះដោយសារតែភាពចម្រូងចម្រាសសុវត្ថិភាព។ អ្នករិះគន់ដូចជា Arison ប្រកែកនូវវោហាសាស្ត្រនៃសេចក្តីវិនាស ហើយទីលានរៃអង្គាសប្រាក់គឺជាផ្នែកពីរនៃកាក់តែមួយ។ ចម្លើយរបស់ក្លាកគឺថា ឧស្សាហកម្មត្រូវតែផ្លាស់ប្តូរវគ្គសិក្សាដោយមិនគិត។

ថាតើការផ្លាស់ប្តូរការសម្លាប់ដែលចាំបាច់ និងអាចផ្ទៀងផ្ទាត់បានដែលក្លាយជាច្បាប់នឹងអាស្រ័យលើសមាជិកសភាដែលរហូតមកដល់ពេលនេះបានបង្ហាញចំណង់អាហារតិចតួចសម្រាប់ការរឹតបន្តឹងឧស្សាហកម្មដែលកំពុងផ្តល់ថាមពលដល់សេដ្ឋកិច្ចសហរដ្ឋអាមេរិក។ ប៉ុន្តែ​ជា​លើក​ដំបូង​ដែល​អ្នក​ប្រើ​បច្ចេកវិទ្យា​ដ៏​មាន​ឥទ្ធិពល​បំផុត​ម្នាក់​កំពុង​អញ្ជើញ​ពួកគេ​ឱ្យ​សាកល្បង​យ៉ាង​ច្បាស់។

---

ស្នាក់នៅមុន AI

ទទួលបានព័ត៌មាន AI ការវិភាគ និងរបកគំហើញចុងក្រោយបំផុត — ទាំងអស់នៅកន្លែងតែមួយ។

អានព័ត៌មាន AI បន្ថែម →