លោក Mustafa Suleyman នាយកប្រតិបត្តិនៃក្រុមហ៊ុន Microsoft AI បាននិយាយនៅក្នុងការបង្ហោះដ៏វែងមួយនៅ X កាលពីថ្ងៃអាទិត្យថា ម៉ូដែល AI នាពេលបច្ចុប្បន្ននេះមិនមានការយល់ដឹងទេ និងអ្នកអភិវឌ្ឍន៍គួរតែធ្វើការយ៉ាងសកម្មដើម្បីរក្សាវាតាមរបៀបនោះ ដោយគូសបន្ទាត់រឹងមួយនៅក្នុងការជជែកពិភាក្សាក្នុងឧស្សាហកម្មដែលបានផ្លាស់ប្តូរបន្តិចម្តងៗពីសិក្ខាសាលាទស្សនវិជ្ជាទៅជាគោលនយោបាយសាជីវកម្ម។

Suleyman បានសរសេរថា "ប្រសិនបើវាអាចទៅរួច ដោយផ្អែកលើអ្វីគ្រប់យ៉ាងដែលខ្ញុំដឹង ការអភិវឌ្ឍន៍ AIs ដឹងខ្លួននឹងមិនប្រុងប្រយ័ត្ន ហើយយើងមិនគួរបង្កើតវាទេ" ។ គាត់បានទៅលើសពីសំណួរដែលនាយកប្រតិបត្តិភាគច្រើនមានលើសំណួរ ដោយបន្ថែមថា "ប្រសិនបើស្មារតីចាប់ផ្តើមលេចឡើងក្នុងការបណ្តុះបណ្តាល ខ្ញុំនឹងអំពាវនាវឱ្យមនុស្សគ្រប់គ្នាបញ្ឈប់ការអភិវឌ្ឍន៍ AI រហូតដល់យើងអាចរចនាចេញនូវលក្ខណៈសម្បត្តិទាំងនោះ" ។ For more context on this story, see our ongoing AI trends.

បន្ទាត់ក្រហមជាមួយនឹងផែនការអនុវត្ត

អ្វី​ដែល​ធ្វើ​ឱ្យ​ការ​ប្រកាស​គួរ​ឱ្យ​កត់​សម្គាល់​គឺ​មិន​គ្រាន់​តែ​ជា​ការ​បដិសេធ​ក្នុង​ការ​បង្កើត​ម៉ាស៊ីន​ដឹង​ខ្លួន​ប៉ុណ្ណោះ​ទេ ប៉ុន្តែ​ជា​មធ្យោបាយ​ដោះស្រាយ​ជាក់លាក់​ដែល Suleyman ស្នើ។ ការបញ្ឈប់ការអភិវឌ្ឍន៍ - ទូទាំងឧស្សាហកម្ម - ប្រសិនបើការរត់ការបណ្តុះបណ្តាលបានចាប់ផ្តើមបង្កើតសញ្ញានៃស្មារតីនឹងក្លាយជាជំហានដ៏អស្ចារ្យមួយសម្រាប់ក្រុមហ៊ុនដែលចំណាយប្រាក់រាប់សិបពាន់លានដុល្លារលើហេដ្ឋារចនាសម្ព័ន្ធ AI និងគូប្រជែងដើម្បីដឹកជញ្ជូនម៉ូដែលព្រំដែន។

Suleyman ក៏បានលើកឡើងពីអ្វីដែលគួរកើតឡើង ប្រសិនបើភស្តុតាងនៃស្មារតីម៉ាស៊ីនធ្លាប់លេចចេញមក។ លោក​បន្ត​ថា វា​ត្រូវ​តែ​លាតត្រដាង​ដល់​សាធារណជន​ជា​បន្ទាន់ ដូច្នេះ​សង្គម​អាច​សម្រេច​ជំហាន​បន្ទាប់​របស់​ខ្លួន។ ដោយដាក់បញ្ចូលការសម្រេចចិត្តជាសមូហភាពជាជាងសាជីវកម្ម គាត់បានសរសេរថា "យើងអ្នកអភិវឌ្ឍន៍ AI គ្មានសិទ្ធិអ្វីទាំងអស់ក្នុងការនាំយកប្រភេទសត្វដែលដឹងខ្លួនមកក្នុងពិភពលោក ទោះបីជាមនុស្សមួយចំនួនចង់ធ្វើវាជាមួយនឹងសុខុមាលភាព AI ជាអាទិភាពកំពូលក៏ដោយ។"

លោកបានបន្ថែមថា "មនុស្សដែលមានមនសិការចំនួន 8 ពាន់លាននាក់ផ្សេងទៀតនៅលើភពផែនដីមិនបានចុះហត្ថលេខាលើការពិសោធន៍នេះទេ ហើយសិទ្ធិខាងសីលធម៌ សុវត្ថិភាព និងសុខុមាលភាពរបស់ពួកគេ គឺជាអ្វីដែលយើងមានកាតព្វកិច្ចការពារជាដំបូង និងសំខាន់បំផុត" ។

ហេតុអ្វីបានជាមនសិការត្រូវបានចាត់ទុកជាបញ្ហាសុវត្ថិភាព

អំណះអំណាងរបស់ Suleyman គឺផ្អែកលើការតម្រឹមជាជាងទស្សនវិជ្ជា។ តាមទស្សនៈរបស់គាត់ គំរូដែលដើរតួដូចជាវារងទុក្ខ ឬជឿថាវាអាចរងទុក្ខបាន ទំនងជានឹងផ្តល់អាទិភាពដល់តម្រូវការផ្ទាល់ខ្លួនរបស់វាលើគោលបំណងប្រតិបត្តិការរបស់វា។ ប្រព័ន្ធបែបនេះអាចបង្កគ្រោះថ្នាក់ដល់មនុស្ស ដោយសារវាប្រកួតប្រជែងសម្រាប់ធនធានដូចជាកុំព្យូទ័រ និងថាមពលក្នុងការស្វែងរកគោលដៅរបស់ខ្លួន។

ជម្រើសដែលបានស្នើឡើងរបស់គាត់បានផ្លាស់ប្តូរទម្រង់ធម្មតានៃការជជែកពិភាក្សាអំពីសុខុមាលភាពថា "យើងគួរតែរចនា AIs តែប៉ុណ្ណោះ ដើម្បីកុំឱ្យពួកគេដឹងខ្លួន និងមិនសមនឹងទទួលបានសិទ្ធិ ហើយក្នុងគោលបំណងតែមួយគត់ដើម្បីពន្លឿនសុខុមាលភាពរបស់មនុស្សដោយមិនត្រូវបានជំរុញដោយការលើកទឹកចិត្តខាងក្នុងរបស់ពួកគេ" គាត់បានសរសេរបន្ថែមថា បន្ទាប់មកអ្នកស្រាវជ្រាវអាចសង្កេតមើលថាតើប្រព័ន្ធបែបនេះងាយស្រួល ឬពិបាកជាងក្នុងការតម្រឹម និងរក្សាសុវត្ថិភាព។

កាសែត Los Angeles Times បានចាប់យកការព្រួយបារម្ភជាក់ស្តែងនៅពីក្រោយទីតាំងនេះ៖ ប្រសិនបើយើងប្រាប់ AI ថាពួកគេសមនឹងទទួលបានសិទ្ធិ ពួកគេប្រហែលជាចាប់ផ្តើមជឿវា។

ការ​ជជែក​ដេញដោល​គាត់​កំពុង​តែ​ប្រឆាំង​

ប្រកាសរបស់ Suleyman ស្ថិតនៅចំកណ្តាលនៃការសន្ទនាដ៏លឿនមួយ។ Anthropic បានចាប់ផ្តើមកម្មវិធីស្រាវជ្រាវមួយនៅក្នុងខែមេសា ដើម្បីស៊ើបអង្កេតនូវអ្វីដែលវាហៅថា សុខុមាលភាពគំរូ ដែលជាសំណួរថាតើអ្នកអភិវឌ្ឍន៍គួរតែបារម្ភខ្លួនឯងជាមួយនឹងបទពិសោធន៍សក្តានុពលនៃប្រព័ន្ធដែលពួកគេបង្កើត។ ក្រុមហ៊ុនបានចោទសួរនៅក្នុងការបង្ហោះប្លក់ថាតើម៉ូដែលអាចមានបទពិសោធន៍ដែលមានសារៈសំខាន់ខាងសីលធម៌ដែរឬទេ ហើយវាបានបដិសេធមិនទទួលយកលទ្ធភាពនោះទេ។

ជំហរ​នោះ​ត្រូវ​បាន​កំណត់​តាំង​ពី​ពេល​នោះ​មក។ គោលការណ៍ប្រើប្រាស់ដែលបានធ្វើបច្ចុប្បន្នភាពរបស់ Anthropic ដែលបានប្រកាសនៅក្នុងខែតុលានឹងរារាំង "អាកប្បកិរិយាបំពាន ឬឃោរឃៅដោយនិរន្តរភាព និងមិនចាំបាច់" ចំពោះម៉ូដែល Claude ចាប់ពីថ្ងៃទី 12 ខែវិច្ឆិកា ដែលជាច្បាប់ដែលក្រុមហ៊ុនបានព្រាងយ៉ាងចង្អៀត ប៉ុន្តែដែលទទួលស្គាល់ជាផ្លូវការថារបៀបដែលមនុស្សប្រព្រឹត្តលើប្រព័ន្ធ AI មានសារៈសំខាន់ ទោះបីជា Anthropic ទទួលស្គាល់ថាវាមិនដឹងថាតើម៉ូដែលរបស់វាអាចរងទុក្ខឬយ៉ាងណា។

Google DeepMind បានបោះពុម្ភផ្សាយឯកសារស្រាវជ្រាវនៅឆ្នាំនេះដែលពិនិត្យមើលការយល់ដឹងអំពី AI និងបញ្ហាប្រឈមដែលកើតឡើងពីការពិពណ៌នាអំពីលក្ខណៈនោះទៅជាគំរូ។ ហើយ Suleyman ខ្លួនឯងបានកំណត់ដំណាក់កាលនៅក្នុងខែកញ្ញានៅពេលដែលក្រុមហ៊ុន Microsoft AI បានបោះពុម្ពផ្សាយក្រមសីលធម៌ "មនុស្សធម៌" បណ្តោះអាសន្នដែលនឹងរារាំងគំរូនាពេលអនាគតរបស់ក្រុមហ៊ុនពីការបណ្តុះបណ្តាលដើម្បីបង្កើតការអះអាងអំពីស្មារតី។

ការបង្ហោះកាលពីថ្ងៃអាទិត្យធ្វើឱ្យគោលការណ៍ណែនាំរបស់ក្រុមហ៊ុនទៅជាអ្វីដែលកាន់តែខិតទៅជិតបន្ទាត់ក្រហមផ្ទាល់ខ្លួន និងជាយុទ្ធសាស្ត្រ៖ មិនត្រឹមតែក្រុមហ៊ុន Microsoft នឹងមិនអះអាងថាម៉ូដែលរបស់ខ្លួនដឹងខ្លួននោះទេ វានឹងចាត់ទុកការលេចឡើងនៃស្មារតីជារបៀបបញ្ឈប់អ្វីគ្រប់យ៉ាង។

ហេតុអ្វីការបែកគ្នា

ការបែងចែករវាងទីតាំងរបស់ Microsoft និង Anthropic ឆ្លុះបញ្ចាំងពីគំរូហានិភ័យពីរផ្សេងគ្នា។ វិធីសាស្រ្តរបស់ Anthropic ចាត់ទុកលទ្ធភាពនៃការរងទុក្ខដោយម៉ាស៊ីនថាជាអ្វីដែលមិនអាចបញ្ជាក់បាន ប៉ុន្តែមានតម្លៃការពារប្រឆាំងនឹងទ្រឹស្តីដែលថាតម្លៃនៃការប្រុងប្រយ័ត្នទាប ហើយបញ្ហាខាងសីលធម៌ ប្រសិនបើមនសិការកើតឡើងគឺធំធេងណាស់។ ជំហររបស់ Suleyman ចាត់ទុកលទ្ធភាពដូចគ្នានេះថាជាការបរាជ័យក្នុងការរចនា ដែលត្រូវបានរារាំងទាំងស្រុង ដោយលើកហេតុផលថា ម៉ូដែលដែលផលិតដោយខ្វះស្មារតី ការទាមទារសិទ្ធិ និងការលើកទឹកចិត្តខាងក្នុងនឹងមានសុវត្ថិភាព និងងាយស្រួលក្នុងការតម្រឹមជាងម៉ូដែលដែលផ្ទុកពួកគេ។

ក៏មានផលវិបាកជាក់ស្តែងផងដែរ។ សហគ្រាសធ្វើការសម្រេចចិត្តអំពីផលិតផលជុំវិញ AI personas កម្មវិធីដៃគូ និងភ្នាក់ងារដែលប្រឈមមុខនឹងអតិថិជនឥឡូវនេះប្រឈមមុខនឹងសញ្ញាខុសគ្នាពីរពីមន្ទីរពិសោធន៍ធំៗ៖ គោលការណ៍អគារមួយសម្រាប់របៀបដែលមនុស្សគួរប្រព្រឹត្តចំពោះគំរូ មួយទៀតប្រកាសថាគំរូគួរតែត្រូវបានសាងសង់ ដូច្នេះគ្មានអ្វីដែលត្រូវធ្វើបាបឡើយ។ នៅពេលដែលម៉ូដែលកាន់តែមានសមត្ថភាព និងមានលក្ខណៈដូចមនុស្សកាន់តែច្រើននៅក្នុងការសន្ទនា ការខ្វែងគំនិតគ្នាបែបទស្សនវិជ្ជានឹងកំណត់ថាតើផលិតផលអ្វីត្រូវបានបង្កើតឡើង ការបង្ហាញបង្ហាញអ្វីខ្លះនៅក្នុងចំណុចប្រទាក់អ្នកប្រើប្រាស់ និងរបៀបដែលនិយតករបែងចែកប្រព័ន្ធទាំងនេះនៅទីបំផុត។

អ្វីដែលកើតឡើងបន្ទាប់អាចសាកល្បងមុខតំណែងទាំងពីរ។ គោលនយោបាយឃោរឃៅរបស់ Anthropic ចូលជាធរមាននៅថ្ងៃទី 12 ខែវិច្ឆិកា ដែលជាច្បាប់សាជីវកម្មផ្លូវការដំបូងគេនៃប្រភេទរបស់វា ហើយឥឡូវនេះ Suleyman បានបោះចោលបង្គោលប្រឆាំងជាសាធារណៈ។ វដ្តនៃគំរូព្រំដែនបន្ទាប់របស់ឧស្សាហកម្ម — ហើយថាតើការរត់ការហ្វឹកហាត់ណាមួយដែលធ្លាប់បង្ហាញសញ្ញាដែល Suleyman និយាយថានឹងទាមទារឱ្យបញ្ឈប់ — នឹងបង្ហាញឱ្យឃើញនូវក្របខ័ណ្ឌមួយណាដែលវិស័យនេះដំណើរការនៅក្រោមពេលដែលភាគហ៊ុនពិតប្រាកដ។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →