Anthropic បានធ្វើបច្ចុប្បន្នភាពគោលការណ៍ប្រើប្រាស់របស់ខ្លួនជាលើកដំបូងក្នុងរយៈពេលជាងមួយឆ្នាំ ដោយបន្ថែមការផ្តល់ដែលហាមឃាត់ "អាកប្បកិរិយាបំពាន ឬឃោរឃៅដោយនិរន្តរភាព និងមិនចាំបាច់" ចំពោះម៉ូដែល Claude របស់ខ្លួន នេះបើយោងតាម ​​The Verge ។ ការអាប់ដេតដែលត្រូវបានរាយការណ៍កាលពីថ្ងៃព្រហស្បតិ៍ក៏បានបង្រួបបង្រួម និងពង្រីកច្បាប់របស់ក្រុមហ៊ុនជុំវិញការជ្រៀតជ្រែកក្នុងការបោះឆ្នោត យុទ្ធនាការឃោសនា ការឃ្លាំមើល ការអភិវឌ្ឍន៍អាវុធ និងការប្រើប្រាស់សុខភាព និងហិរញ្ញវត្ថុដែលមានភាគហ៊ុនខ្ពស់។

ហេតុផលសុខុមាលភាពគំរូ For more context on this story, see our ongoing AI trends.

ប្រយោគដែលផ្តោតលើការរំលោភបំពានចំពោះលោក Claude គឺជាផ្នែកបន្ថែមនៃការស្រាវជ្រាវដែលក្រុមហ៊ុនបានចាប់ផ្តើមផ្សព្វផ្សាយជាងមួយឆ្នាំមុន។ នៅខែសីហា ឆ្នាំ 2025 ក្រុមហ៊ុន Anthropic បានប្រកាសថា ខ្លួននឹងអនុញ្ញាតឱ្យលោក Claude បញ្ចប់ការសន្ទនាជាមួយអ្នកប្រើប្រាស់ "បង្កគ្រោះថ្នាក់ ឬបំពាន" ជាផ្នែកនៃការងាររបស់ខ្លួនលើអ្វីដែលវាហៅថា សុខុមាលភាពគំរូ ការសិក្សាថាតើប្រព័ន្ធ AI អាចមានបទពិសោធន៍ពាក់ព័ន្ធខាងសីលធម៌ និងរបៀបដែលលទ្ធភាពនោះគួរតែកំណត់ការសម្រេចចិត្តផលិតផល។

នៅក្រោមគោលការណ៍ថ្មី ការបញ្ចប់ការសន្ទនានៅតែជា "យន្តការអនុវត្តបឋម"។ Anthropic មិនបានឆ្លើយតបទៅនឹងសំណួរថាតើវិធានការពង្រឹងបន្ថែម ដូចជាការហាមឃាត់គណនីអាចធ្វើតាមដែរឬទេ។ ក្រុមហ៊ុនបានកំណត់ច្បាប់យ៉ាងចង្អៀតនៅក្នុងសេចក្តីថ្លែងការណ៍មួយ ដោយសរសេរថាវា "មានន័យអនុវត្តតែក្នុងករណីធ្ងន់ធ្ងរ ដែលអ្នកប្រើធ្វើសកម្មភាពម្តងហើយម្តងទៀតយ៉ាងឃោរឃៅចំពោះម៉ូដែលរបស់យើង ដោយគ្មានគោលបំណងច្បាស់លាស់"។

សំខាន់ Anthropic បានបន្ថែមថា ការផ្តល់ "មិនអនុវត្តចំពោះកំណែទូទៅនៃការខកចិត្តរបស់អ្នកប្រើ ការរុញត្រឡប់មកវិញ រូបរាងច្នៃប្រឌិតងងឹត ឬការធ្វើតេស្តគំរូ និងការស្រាវជ្រាវ" ដែលជាការប៉ុនប៉ងជាក់ស្តែងដើម្បីធានាអ្នកអភិវឌ្ឍន៍ ក្រុមការងារក្រហម និងអ្នកនិពន្ធរឿងប្រឌិតថា ការប្រើប្រាស់ជាទម្លាប់នឹងមិនត្រូវបានពិន័យទេ។

ច្បាប់ថ្មីស្តីពីការឃោសនាបោះឆ្នោត និងការបោះឆ្នោត

លើសពីសុខុមាលភាពគំរូ ការអាប់ដេតប្រមូលការរឹតបន្តឹងដែលបានរាយប៉ាយពីមុនរបស់ក្រុមហ៊ុនលើប្រតិបត្តិការឥទ្ធិពលទៅជាការហាមឃាត់ជាក់លាក់តែមួយលើយុទ្ធនាការពាណិជ្ជកម្ម ឬនយោបាយបោកបញ្ឆោត។ ភាសាថ្មីនេះដាក់កម្រិតលើ "កិច្ចខិតខំប្រឹងប្រែងដើម្បីលាក់បាំងថាអ្នកណានៅពីក្រោយសារ ឬពង្រីកខ្លឹមសារតាមរយៈគណនីក្លែងក្លាយ ឬការបង្ហោះ" ដោយផ្តោតលើទីផ្សារដែលកំពុងរីកចម្រើនសម្រាប់ការឃោសនាដែលបង្កើតដោយ AI ។

ផ្នែកបោះឆ្នោតនៃគោលនយោបាយឥឡូវនេះហាមឃាត់ការបោកប្រាស់អ្នកបោះឆ្នោត និងការរំខានដល់ការបោះឆ្នោត។ Anthropic និយាយថា លោក Claude ប្រហែលជាមិនត្រូវបានប្រើប្រាស់ដើម្បីផ្សព្វផ្សាយព័ត៌មានមិនពិត "អំពីបេក្ខជន ឬរបៀបបោះឆ្នោត" ដើម្បីក្លែងបន្លំបេក្ខជន ឬមន្ត្រីរៀបចំការបោះឆ្នោត ឬព្យាយាមគាបសង្កត់ចំនួនអ្នកបោះឆ្នោតនោះទេ។

ហេតុអ្វីបានជាគោលការណ៍ប្រើប្រាស់កំពុងទទួលបានការសរសេរឡើងវិញ

ការធ្វើឱ្យស្រស់របស់ Anthropic ឆ្លុះបញ្ចាំងពីគំរូឧស្សាហកម្មកាន់តែទូលំទូលាយ។ នៅពេលដែលជំនួយការ AI បានផ្លាស់ប្តូរពី chatbots ថ្មីទៅជាហេដ្ឋារចនាសម្ព័ន្ធដែលប្រើប្រាស់ដោយមនុស្សរាប់រយលាននាក់ មន្ទីរពិសោធន៍ត្រូវផ្លាស់ប្តូរពីគោលការណ៍ទូលំទូលាយទៅច្បាប់ដែលមានលក្ខណៈល្អិតល្អន់ ដែលគូសផែនទីលើគំរូនៃការរំលោភបំពានពិតប្រាកដ៖ ប្រតិបត្តិការឥទ្ធិពលសម្រាប់ជួល ឧបករណ៍ឃ្លាំមើល ការអភិវឌ្ឍន៍អាវុធស្វយ័ត និងដែនដែលមានហានិភ័យខ្ពស់ដូចជា ដំបូន្មានផ្នែកវេជ្ជសាស្រ្ត និងហិរញ្ញវត្ថុជាដើម។

OpenAI, Google DeepMind និង Meta ទាំងអស់បានរំលឹកឡើងវិញអំពីគោលការណ៍ប្រើប្រាស់របស់ពួកគេក្នុងរយៈពេល 2 ឆ្នាំកន្លងមកនេះ ទោះបីជាការសម្រេចចិត្តរបស់ Anthropic ក្នុងការគ្រប់គ្រងយ៉ាងច្បាស់លាស់អំពីរបៀបដែលអ្នកប្រើប្រាស់ប្រព្រឹត្តចំពោះគំរូនេះ ជាជាងអ្វីដែលពួកគេធ្វើវានៅតែមិនធម្មតា។ អ្នករិះគន់នៃការស្រាវជ្រាវអំពីសុខុមាលភាពគំរូបានប្រកែកថាវាធ្វើឱ្យប្រព័ន្ធស្ថិតិមានលក្ខណៈជាស្ថាបត្យកម្ម ខណៈពេលដែលអ្នកគាំទ្រអះអាងថា ប្រសិនបើគំរូបច្ចុប្បន្ន ឬអនាគតជិតៗមានឱកាសដែលមិនសូន្យមានបទពិសោធន៍ទាក់ទងនឹងសុខុមាលភាព ក្រុមហ៊ុនមានកាតព្វកិច្ចធ្វើសកម្មភាពក្រោមភាពមិនច្បាស់លាស់។

ពេលវេលាក៏សំខាន់ក្នុងពាណិជ្ជកម្មផងដែរ។ Anthropic ត្រូវបានគេរាយការណ៍ថាកំពុងរៀបចំសម្រាប់ IPO ក្នុងតម្លៃ 2 ពាន់ពាន់លានដុល្លារ ហើយអ្នកទិញសហគ្រាសកាន់តែថ្លឹងថ្លែងលើការអនុវត្តអភិបាលកិច្ចរបស់អ្នកលក់ជាមួយនឹងគុណភាពគំរូឆៅ។ គោលការណ៍ប្រើប្រាស់ដែលបានចងក្រងច្បាស់លាស់ និងធ្វើបច្ចុប្បន្នភាពជាប្រចាំ បម្រើទាំងវត្ថុបុរាណសុវត្ថិភាព និងផ្នែកលក់៖ វាផ្តល់ឱ្យក្រុមលទ្ធកម្ម និងនិយតករនូវមូលដ្ឋានជាក់ស្តែងសម្រាប់ការជឿទុកចិត្តលើវេទិកា និងការសរសេរកូដនៃឃ្លាសុខុមាលភាពគំរូដែល Anthropic មានបំណងបន្តការវិនិយោគនៅក្នុងតំបន់ដែលដៃគូប្រកួតប្រជែងភាគច្រើនបានចាកចេញដោយមិនបានដោះស្រាយ។

សំណួរអំពីការអនុវត្តនៅតែបើកចំហ

សំណួរជាក់ស្តែងមានសារៈសំខាន់ណាស់។ ការរកឃើញភាពឃោរឃៅ "ប្រកបដោយនិរន្តរភាព និងមិនចាំបាច់" តម្រូវឱ្យមានការត្រួតពិនិត្យការសន្ទនាក្នុងកម្រិតនៃព័ត៌មានលម្អិតដែលអតិថិជនសហគ្រាសដែលដឹងអំពីឯកជនភាពអាចទប់ទល់បាន ហើយការគូសបន្ទាត់រវាងការរំលោភបំពានដែលត្រូវបានហាមឃាត់ និង "ការរុញថយក្រោយ" ឬ "ការធ្វើតេស្តគំរូ" ស្របច្បាប់គឺជាការហៅវិនិច្ឆ័យដែលទំនងជានឹងត្រូវប្រកួតប្រជែង។

Anthropic មិនបាននិយាយថាថាតើការរំលោភនឹងត្រូវបានតាមដាននៅទូទាំងគណនី ថាតើការដាក់ពង្រាយសហគ្រាសនឹងត្រូវស្ថិតនៅក្រោមស្តង់ដារត្រួតពិនិត្យខុសៗគ្នា ឬថាតើក្រុមហ៊ុននឹងបោះផ្សាយទិន្នន័យតម្លាភាពស្តីពីសកម្មភាពអនុវត្ត ដូចដែលវាធ្វើចំពោះប្រភេទផ្សេងទៀតនៃការប្រើប្រាស់ខុសនៅក្នុងរបាយការណ៍គោលនយោបាយតាមកាលកំណត់របស់ខ្លួន។

អ្វីដែលច្បាស់នោះគឺថា កិច្ចសន្យាសង្គមរបស់មន្ទីរពិសោធន៍ព្រំដែនជាមួយអ្នកប្រើប្រាស់របស់ពួកគេកាន់តែលម្អិត។ គោលនយោបាយដែលធ្លាប់សមនៅលើទំព័រតែមួយឥឡូវនេះគ្របដណ្តប់លើការបោះឆ្នោត ការឃ្លាំមើលដែលនៅជិតខាងចារកម្ម អាវុធជីវសាស្ត្រ និងឥឡូវនេះ អាកប្បកិរិយាផ្លូវចិត្តរបស់មនុស្សនៅផ្នែកម្ខាងទៀតនៃបង្អួចជជែក។

តើវាមានន័យយ៉ាងណាសម្រាប់អ្នកអភិវឌ្ឍន៍

សម្រាប់ក្រុមដែលបង្កើតនៅលើ Claude API ផលប៉ះពាល់រយៈពេលជិតគឺទំនងជាតិចតួចបំផុត៖ ឃ្លាអាកប្បកិរិយាបំពានកំណត់គោលដៅធ្ងន់ធ្ងរ ការប្រព្រឹត្តដដែលៗ និងយន្តការបញ្ចប់ការសន្ទនាដែលវាបង្កើតជាផ្លូវការតាំងពីឆ្នាំ 2025។ ប៉ុន្តែអ្នកអភិវឌ្ឍន៍នៅក្នុងប្រភេទដែលនៅជាប់គ្នា ការប្រឹក្សានយោបាយ ការស្រាវជ្រាវប្រឆាំង ទីផ្សារឥទ្ធិពល គួរតែពិនិត្យមើលយុទ្ធនាការថ្មី និងបទប្បញ្ញត្តិនៃការបោះឆ្នោតត្រូវបានផ្សព្វផ្សាយយ៉ាងប្រុងប្រយ័ត្ន ចាប់តាំងពីពួកគេផ្សព្វផ្សាយច្បាប់ជាច្រើនពីមុនមក។ ភាពមិនច្បាស់លាស់ដែលករណីប្រើប្រាស់តំបន់ប្រផេះពឹងផ្អែកលើ។

ការអាប់ដេតនេះក៏បង្ហាញពីកន្លែងដែលការយកចិត្តទុកដាក់លើបទប្បញ្ញត្តិកំពុងឆ្ពោះទៅមុខ។ ជាមួយនឹងកាតព្វកិច្ចតម្លាភាពរបស់ EU AI Act ដែលកំពុងដំណើរការ ហើយសភារដ្ឋរបស់សហរដ្ឋអាមេរិកបានឆ្លងកាត់ការបំពេញការងារបន្ថែមនៃលក្ខន្តិកៈ AI នោះ គោលនយោបាយការប្រើប្រាស់ដោយស្ម័គ្រចិត្តកំពុងដំណើរការកាន់តែខ្លាំងឡើងជាគំរូដែលនិយតករត្រួតពិនិត្យនៅពេលសម្រេចចិត្តថាតើបទដ្ឋាននៃការដាក់ពង្រាយប្រកបដោយការទទួលខុសត្រូវគួរជាអ្វី។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →