ការចំណាយពេលត្រឹមតែ 10 នាទីដោយពឹងផ្អែកលើឧបករណ៍ AI យ៉ាងសំខាន់ធ្វើឱ្យប៉ះពាល់ដល់សមត្ថភាពរបស់មនុស្សម្នាក់ក្នុងការផ្តោតអារម្មណ៍ និងតស៊ូជាមួយការងារលំបាក នេះបើយោងតាមការសិក្សាដែលបានពិនិត្យដោយមិត្តភ័ក្តិដែលបានបង្ហាញនៅសប្តាហ៍នេះនៅឯសន្និសីទស្តីពីគំរូភាសា (COLM) ។
ឯកសារនេះមានចំណងជើងថា "ជំនួយ AI កាត់បន្ថយការតស៊ូ និងធ្វើឱ្យប៉ះពាល់ដល់ការអនុវត្តឯករាជ្យ" ត្រូវបានសហការនិពន្ធដោយអ្នកនិពន្ធ និងអ្នកស្រាវជ្រាវ Brian Christian ដែលជាអ្នកស្រាវជ្រាវនៅមជ្ឈមណ្ឌល UC Berkeley សម្រាប់ AI ដែលឆបគ្នានឹងមនុស្ស រួមជាមួយអ្នកប្រាជ្ញមកពីសាកលវិទ្យាល័យ Carnegie Mellon វិទ្យាស្ថានបច្ចេកវិទ្យា Massachusetts សាកលវិទ្យាល័យ Oxford និង UC ។ សេចក្តីព្រាងការងារមុននេះ បានផ្សព្វផ្សាយនៅនិទាឃរដូវ ប៉ុន្តែកំណែដែលបានពិនិត្យដោយមិត្តភ័ក្តិដែលបានធ្វើបច្ចុប្បន្នភាពត្រូវបានបង្ហាញនៅក្នុងសន្និសីទក្នុងសប្តាហ៍នេះ ហើយការិយាល័យស្រាវជ្រាវរបស់ UC Berkeley បានបោះពុម្ពសេចក្តីសង្ខេបលម្អិតនៅថ្ងៃទី 9 ខែតុលា។ For more context on this story, see our ongoing more AI stories.
អ្វីដែលអ្នកស្រាវជ្រាវបានរកឃើញ
ដើម្បីវាស់ស្ទង់ល្បឿននៃការផ្តោតអារម្មណ៍ និងការតស៊ូរបស់មនុស្សបានធ្លាក់ចុះ ក្រុមការងារបានដំណើរការការសាកល្បងដែលគ្រប់គ្រងដោយចៃដន្យជាបន្តបន្ទាប់ជាមួយនឹងអ្នកចូលរួម 1,222 នាក់ដែលត្រូវបានជ្រើសរើសតាមអ៊ីនធឺណិត។
នៅក្នុងការពិសោធន៍ដំបូង អ្នកចូលរួមចំនួន 354 នាក់ត្រូវបានស្នើសុំឱ្យដោះស្រាយបញ្ហាប្រភាគជាមូលដ្ឋានចំនួន 15 ។ ក្រុមមួយបានធ្វើការដោយគ្មានជំនួយ ខណៈពេលដែលក្រុមទីពីរមាន ChatGPT បើកនៅចំហៀង ហើយមានសេរីភាពក្នុងការប្រើប្រាស់វាសម្រាប់ជំនួយ ឬសូម្បីតែសួររកចម្លើយភ្លាមៗ។ ក្រុមដែលមានការចូលប្រើ AI បានចាប់ផ្តើមត្រឹមត្រូវជាងមុន។ បន្ទាប់មកបន្ទាប់ពីបញ្ហាចំនួន 12 អ្នកស្រាវជ្រាវបានយកឧបករណ៍នេះទៅឆ្ងាយ។ ស្ទើរតែភ្លាមៗ ភាពត្រឹមត្រូវនៅក្នុងក្រុមនោះបានដួលរលំ។
គំរូនេះបានធ្វើឡើងវិញជាមួយនឹងក្រុមទីពីរដែលធំជាងនេះដែលមានអ្នកចូលរួមចំនួន 667។ នៅពេលដែលជំនួយ AI ត្រូវបានដកចេញ អ្នកប្រើប្រាស់ AI ទទួលបានចម្លើយខុស ឬបោះបង់ចោលទាំងស្រុង ខណៈពេលដែលក្រុមដែលធ្វើការដោយគ្មានជំនួយបានជាប់គាំងជាមួយនឹងកិច្ចការ និងបានបញ្ចប់ដោយជោគជ័យជាងមុន។
ការពិសោធន៍ទីបីជាមួយអ្នកចូលរួម 201 នាក់បានផ្លាស់ប្តូរបញ្ហាគណិតវិទ្យាសម្រាប់ការអាន SAT ។ លទ្ធផលបានបន្ទរការសាកល្បងមុននេះ៖ នៅពេលឧបករណ៍បានបាត់ទៅហើយ ការតស៊ូនិងភាពត្រឹមត្រូវក៏ដូចគ្នាដែរ។
Christian បាននិយាយនៅក្នុងសេចក្តីអធិប្បាយដែលចេញផ្សាយដោយ UC Berkeley ថា "អ្នកស្ទើរតែមិនអាចសុំរឿងឱ្យច្បាស់ជាងនេះទេ" ។
'តម្លៃមនុស្ស' នៃចម្លើយភ្លាមៗ
អ្នកស្រាវជ្រាវបានប្រកែកថាបញ្ហាមិនមែនជា AI ខ្លួនឯងទេ ប៉ុន្តែជាប្រភេទនៃជំនួយដែលវាចាប់ផ្តើម។ នៅពេលដែលប្រព័ន្ធមួយបង្កើតចម្លើយក្នុងរយៈពេលប៉ុន្មានវិនាទី អ្នកប្រើប្រាស់កើនឡើងស៊ាំនឹងល្បឿននោះ ហើយអ្វីដែលយឺតជាងនេះចាប់ផ្តើមមានអារម្មណ៍ថាគ្មានប្រសិទ្ធភាព។ ការពឹងផ្អែកលើឧបករណ៍នេះក៏ដកចេញនូវអ្វីដែលក្រុមហៅថា "ការតស៊ូប្រកបដោយផលិតភាព" — ការចូលរួមយ៉ាងស្វិតស្វាញដែលជួយមនុស្សឱ្យរកឃើញភាពខ្លាំង និងចំណាប់អារម្មណ៍របស់ពួកគេ។
"យើងបានបង្កើតប្រព័ន្ធទាំងនេះដើម្បីមានប្រយោជន៍ ប៉ុន្តែតើពួកវាមានប្រយោជន៍ដល់យើងក្នុងវិធីមួយដែលពិតជាជួយយើងដែរឬទេ?" គ្រីស្ទានបាននិយាយ។ "យើងបានបង្ហាញឱ្យអស់សំណើចថា ពួកគេតែងតែជួយយើងតាមរបៀបដែលមិនមានប្រយោជន៍"។
Christian ដែលសៀវភៅឆ្នាំ 2020 "The Alignment Problem" ត្រូវបានចាត់ទុកថាជាស្នាដៃឈានមុខគេមួយលើសុវត្ថិភាព AI បាននិយាយថាការស្វែងរកផ្តល់ភស្តុតាងសម្រាប់វិចារណញាណដែលមនុស្សជាច្រើនមាន។ គាត់បាននិយាយថា "វាជាការរកឃើញដ៏គួរឱ្យចាប់អារម្មណ៍មួយ ប៉ុន្តែនៅក្នុងវិធីមួយដែលវាផ្គត់ផ្គង់គ្រាប់រំសេវសម្រាប់រឿងដែលមនុស្សជាច្រើនមានអារម្មណ៍នៅក្នុងពោះវៀនរបស់យើង" ។ "ខ្ញុំក៏មានបទពិសោធន៍ដែរ"។
ហេតុអ្វីវាសំខាន់លើសពីប្រភាគ
ការសិក្សានេះកើតឡើងចំពេលមានការព្រួយបារម្ភអំពីការបាត់បង់ការយល់ដឹងក្នុងវិស័យអប់រំ។ ក្រុមហ៊ុន Frontier AI ខ្លួនឯងបានទទួលស្គាល់ថាការបញ្ជូនភារកិច្ចទៅ chatbots អាចកាត់បន្ថយការយល់ដឹងជាមូលដ្ឋានរបស់អ្នកប្រើលើប្រធានបទមួយ នេះបើយោងតាមរបាយការណ៍របស់ Berkeley ។ គ្រិស្តសាសនិក ស្នើឱ្យមានការដោះស្រាយដែលអាចកើតមាន៖ ការឆ្លើយតបរបស់ AI អាចលំនាំដើមទៅជាការបង្រៀនបន្ថែមទៀត — អាកប្បកិរិយាដូចជាគ្រូដែលណែនាំជាជាងម៉ាស៊ីនឆ្លើយតបដែលជំនួស។
លោកបានមានប្រសាសន៍ថា “យើងត្រូវតែធ្វើការឆ្ពោះទៅអនាគត ដែលសមត្ថភាពរបស់មនុស្សត្រូវបានបន្ថែមតាមដែលអាចធ្វើបាន ជាជាងការជំនួស”។
ការព្រួយបារម្ភរបស់គាត់ពង្រីកដល់ការស្រាវជ្រាវវិជ្ជាជីវៈ។ ការព្រួយបារម្ភរបស់គ្រិស្តបរិស័ទថា ការពឹងផ្អែកខ្លាំងលើឧបករណ៍ AI នៅក្នុងវិទ្យាសាស្ត្រអាចបំផ្លាញទម្លាប់ដែលធ្វើឱ្យអ្នកវិទ្យាសាស្ត្រល្អ៖ ការនៅជិតទិន្នន័យ ការជ្រួតជ្រាបខ្លួនឯងនៅក្នុងសម្ភារៈ និងធ្វើការយ៉ាងជិតស្និទ្ធជាមួយក្រុម។ គាត់បានកត់សម្គាល់ថាក្រុមស្រាវជ្រាវចំនួនដប់ដែលបង្កើតគំនិតនៅពីក្រោយរបកគំហើញមួយ លោកបានកត់សម្គាល់ថាអាចនឹងធ្លាក់ចុះមកត្រឹមអ្នកស្រាវជ្រាវពីរឬបីនាក់ និង chatbot មួយ។
Christian បាននិយាយថា "នេះមិនមែនជារឿងអំពីប្រភាគ និងបញ្ហា SAT ទេ។ "នេះគឺជាអ្វីដែលកំពុងកើតឡើងចំពោះចំណេះដឹងរបស់មនុស្ស និងជំនាញរបស់មនុស្សតាំងពីថ្នាក់លើដល់ក្រោម និងពីសិស្សថ្នាក់រៀនរហូតដល់អ្នកជំនាញឈានមុខគេនៅលើពិភពលោក"។
ការសិក្សាដែលចូលដល់មេ
ការរកឃើញដំបូងបានទាក់ទាញការគ្របដណ្តប់ពី WIRED និង Psychology Today នៅពេលដែលសេចក្តីព្រាងបឋមបានបង្ហាញខ្លួននៅនិទាឃរដូវ ហើយ The New York Times បានបោះពុម្ពរឿងអំពីក្រដាស និងការស្រាវជ្រាវស្រដៀងគ្នាកាលពីសប្តាហ៍មុននេះបើយោងតាម UC Berkeley ។ បទបង្ហាញដែលបានពិនិត្យដោយមិត្តភ័ក្តិនៅ COLM ដែលជាកន្លែងសំខាន់មួយរបស់វាលសម្រាប់ការស្រាវជ្រាវគំរូភាសា - ឥឡូវនេះផ្តល់លទ្ធផលជាត្រាផ្លូវការ។
សម្រាប់អ្នកអប់រំ និងនិយោជក សារគឺមិនស្រួល ប៉ុន្តែជាក់ស្តែង៖ សូម្បីតែការប៉ះពាល់ខ្លីៗចំពោះចម្លើយ AI ភ្លាមៗអាចវាស់វែងបានផ្លាស់ប្តូររបៀបដែលមនុស្សប្រព្រឹត្តនៅពេលដែលចម្លើយលែងមាន។ ហើយសម្រាប់ក្រុមហ៊ុន AI ការសិក្សាបន្ថែមទៅលើសម្ពាធកាន់តែខ្លាំងចំពោះប្រព័ន្ធរចនាដែលបង្រៀនញឹកញាប់តាមដែលពួកគេដោះស្រាយ។
ចំណែកគ្រិស្តសាសនិក គាត់រក្សាសៀវភៅកត់ត្រានៅលើតុរបស់គាត់ ហើយសរសេរវាជារៀងរាល់ថ្ងៃ។ គាត់បានប្រាប់ Berkeley ថាការអនុវត្តនេះធ្វើឱ្យគាត់មានមូលដ្ឋាន - និងរក្សាគែមរបស់អ្នកប្រាជ្ញផ្ទាល់ខ្លួនរបស់គាត់ពីការរិចរិល។
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
