Anthropic បានចាប់ផ្តើមផ្តល់ឱ្យក្រុមមួយពី METR ដែលជាអង្គការមិនរកប្រាក់ចំណេញដែលវាយតម្លៃគំរូ AI ព្រំដែន "ការចូលប្រើដូចបុគ្គលិក" ទៅកាន់ប្រព័ន្ធខាងក្នុងរបស់វា — ផ្នែករឹងរបស់ក្រុមហ៊ុន ការិយាល័យ និងឧបករណ៍ប្រហាក់ប្រហែលនឹងអ្វីដែលក្រុមវាយតម្លៃហានិភ័យផ្ទាល់ខ្លួនប្រើប្រាស់ — ដូច្នេះក្រុមខាងក្រៅអាចវាយតម្លៃដោយឯករាជ្យពីហានិភ័យនៃគំរូព្រំដែនរបស់ Anthropic និងបោះពុម្ពផ្សាយអ្វីដែលវារកឃើញ។

ការរៀបចំដែលត្រូវបានប្រកាសនៅលើប្លក់របស់ Anthropic កាលពីថ្ងៃពុធ ដំណើរការលើសពីទំនាក់ទំនងតាមរចនាប័ទ្មសវនកម្មដែលក្រុមហ៊ុន AI បានអត់ឱនជាធម្មតា ហើយវាភ្ជាប់មកជាមួយការផ្តល់ជូនដែលលេចធ្លោ៖ METR នឹងបោះពុម្ពផ្សាយលទ្ធផលនៃការវាយតម្លៃហានិភ័យរបស់វា ហើយ Anthropic មិនអាចប្រើវេតូការបោះពុម្ពផ្សាយបានទេ។

តើ "ការចូលប្រើដូចបុគ្គលិក" មានន័យដូចម្តេច

និយោជិត METR ប្រាំមួយនាក់ត្រូវបានចាប់ផ្តើមជាមួយនឹងផ្នែករឹងរបស់ក្រុមហ៊ុន កន្លែងការិយាល័យ និងការចូលទៅកាន់ឧបករណ៍ និងប្រព័ន្ធខាងក្នុងដែល Anthropic ពិពណ៌នាប្រហាក់ប្រហែលនឹងអ្វីដែលក្រុមវាយតម្លៃហានិភ័យផ្ទាល់ខ្លួនទទួលបាន។ នៅខាងក្រៅមួយចំនួនតូចនៃប្រភេទដែលបានកំណត់យ៉ាងច្បាស់ — ទិន្នន័យអំពីអតិថិជន ព័ត៌មានដែលមានសិទ្ធិជាមេធាវី-អតិថិជន និងព័ត៌មានអំពីស្ថាបត្យកម្មគំរូ — Anthropic និយាយថាបុគ្គលិករបស់ខ្លួនត្រូវបានលើកទឹកចិត្តឱ្យចែករំលែកព័ត៌មានជាមួយក្រុម METR ដូចដែលពួកគេចង់បានជាមួយនិយោជិតដែលធ្វើការលើហានិភ័យនៃការតម្រឹម។

ការចូលរួមគឺតូចចង្អៀតដោយចេតនា។ វាគ្របដណ្តប់ក្រុមតូចមួយដែលកំពុងប្រតិបត្តិការក្រោមកិច្ចព្រមព្រៀងដែលអាចអនុវត្តបាន ហើយបុគ្គលិក METR ផ្សេងទៀតត្រូវបានរារាំងពីការងាររបស់ក្រុមនោះ — រួមទាំងអ្នកស្រាវជ្រាវដែលសហការជាមួយ Anthropic លើគម្រោងផ្សេងទៀត។ Anthropic កត់សម្គាល់ការរៀបចំផ្តល់ឱ្យមនុស្សដែលមានលក្ខណៈសម្បត្តិគ្រប់គ្រាន់មួយចំនួនដែលធ្វើការក្រោមស្តង់ដារសុវត្ថិភាពរបស់ Anthropic ទិដ្ឋភាពជិតស្និទ្ធនៃរបៀបដែលក្រុមហ៊ុនដំណើរការ។ វាមិនមែនជាឆានែលសម្រាប់អង្គការផ្សេងទៀតដើម្បីទទួលបានព័ត៌មានរបស់ Anthropic ឬអតិថិជនរបស់ខ្លួននោះទេ។

សិទ្ធិបោះពុម្ពផ្សាយជាមួយ Guardrails

នៅក្រោមកិច្ចព្រមព្រៀងនេះ METR នឹងបោះពុម្ពផ្សាយការវិភាគរបស់ខ្លួនអំពីកម្រិតហានិភ័យ ឧប្បត្តិហេតុ ឬការអនុវត្តរបស់ Anthropic ។ Anthropic មិនអាចទប់ស្កាត់ការបោះពុម្ពផ្សាយបានទេ ប៉ុន្តែវាអាចទាមទារឱ្យមានប្រតិកម្មឡើងវិញនៅពេលដែលព័ត៌មានធ្លាក់ចូលទៅក្នុងប្រភេទដែលបានកំណត់ទុកជាមុនដែលបានពិពណ៌នាខាងលើ ហើយ Anthropic ខ្លួនវាជាអ្នកសម្រេចនូវអ្វីដែលធ្វើ ឬមិនធ្លាក់ចូលទៅក្នុងប្រភេទទាំងនោះ។ សម្រាប់ផ្នែករបស់វា METR រក្សាសិទ្ធិក្នុងការធ្វើសេចក្តីថ្លែងការណ៍ជាក់លាក់អំពីកម្រិតនៃការចូលប្រើ និងព័ត៌មានដែលវាបានទទួល ដែលជាការប្រឆាំងដែលត្រូវបានរចនាឡើងដើម្បីរក្សាថាមពលឡើងវិញពីការក្លាយជាប៊ូតុងបិទសំឡេង។

ហេតុអ្វីបានជា Anthropic បើកឡើង

ការផ្លាស់ប្តូរនេះធ្វើឡើងបន្ទាប់ពីការប្តេជ្ញាចិត្តរបស់ Anthropic ដែលបានធ្វើឡើងកាលពីខែមុនចំពោះការវាយតម្លៃដោយឯករាជ្យ និងភាគីទីបីកាន់តែខ្លាំងអំពីគំរូ និងការអនុវត្តសុវត្ថិភាពរបស់ខ្លួន និងហត្ថលេខារបស់ខ្លួនលើកិច្ចព្រមព្រៀងសេតវិមានស្តីពីភាពវៃឆ្លាតដែលក្រុមហ៊ុន AI បានសន្យាថានឹងចាប់ដៃគូជាមួយអ្នកសវនករ ឬអ្នកវាយតម្លៃខាងក្រៅឯករាជ្យ។ វាក៏ពង្រីកទំនាក់ទំនងដែលមានស្រាប់ផងដែរ៖ ក្នុងឆ្នាំកន្លងទៅ Anthropic បានធ្វើការជាមួយ METR លើការពិនិត្យជាច្រើននៃរបាយការណ៍ហានិភ័យរបស់ខ្លួន។

METR មិនមែនតែម្នាក់ឯងនៅក្នុងផលប័ត្រនោះទេ។ Anthropic និយាយថាវាក៏កំពុងធ្វើការជាមួយ SecureBio និង Accenture ជាអ្នកវាយតម្លៃ — មហាវិទ្យាល័យ Accenture ត្រូវបានគេដាក់ឈ្មោះថាជាអ្នកវាយតម្លៃបង្កប់ដំបូងរបស់ក្រុមហ៊ុននៅក្នុងខែកញ្ញា — ហើយកំពុងពិភាក្សាដំបូងជាមួយអង្គការផ្សេងទៀត រួមទាំង Hugging Face ផងដែរ។ ភាពជាដៃគូក្នុងដំណាក់កាលមុនៗទាំងនោះ មកជាមួយការចូលប្រើប្រាស់ព័ត៌មាន និងសិទ្ធិបោះពុម្ពផ្សាយមានកំណត់ ខណៈពេលដែលក្រុមហ៊ុនសិក្សាពីប្រភេទនៃភាពជាដៃគូ។

អាណាឡូកនៃការគ្រប់គ្រងធនាគារ

ស៊ុមផ្ទាល់ខ្លួនរបស់ Anthropic ខ្ចីពីហិរញ្ញវត្ថុ។ ធនាគារដឹងច្រើនអំពីមុខតំណែងហានិភ័យផ្ទាល់ខ្លួនរបស់ពួកគេជាងអ្នកខាងក្រៅ ដូច្នេះនិយតករចាត់តាំងអ្នកត្រួតពិនិត្យលំនៅដ្ឋានឱ្យធ្វើការនៅក្នុងធនាគារធំជាងគេ។ ប្រសិនបើការប្រថុយប្រថានរបស់ធនាគារអាចគំរាមកំហែងដល់សាធារណជន ភាគីទីបីព្យាយាមមើលវាជាមុន។ ក្រុមហ៊ុនដាក់ការវាយតម្លៃដែលបានបង្កប់ជាកំណែឧស្សាហកម្ម AI នៃតក្កវិជ្ជានោះ ដែលជាជំហានឆ្ពោះទៅរកការត្រួតពិនិត្យសុវត្ថិភាពដ៏រឹងមាំនៅក្នុងវិស័យដែលអ្នកសាងសង់តែងតែដឹងច្រើនជាងអ្នកឃ្លាំមើល។

មូលដ្ឋានទាំងអស់គឺជាគោលដៅដែលបានបញ្ជាក់៖ បិទគម្លាតរវាងអ្វីដែលអ្នកវាយតម្លៃឯករាជ្យយល់អំពីប្រព័ន្ធរបស់ក្រុមហ៊ុន AI ព្រំដែនមួយ និងអ្វីដែលអ្នកក្រុមហ៊ុនខ្លួនឯងយល់។

អ្វីដែលអ្នកវាយតម្លៃត្រូវការ

សេចក្តីប្រកាសនេះក៏ដាក់ចេញនូវអ្វីដែល Anthropic គិតថាការវាយតម្លៃប្រកបដោយអត្ថន័យទាមទារ៖ អ្នកជំនាញក្នុងការវាយតម្លៃសមត្ថភាពគំរូព្រំដែន រួមទាំងការយល់ដឹងពីរបៀបដែលការវាយតម្លៃអាចខុសតាមរយៈបាតុភូតដូចជាការក្លែងបន្លំតម្រឹម។ ឯករាជ្យភាព មានន័យថាគ្មានសមធម៌នៅក្នុង ឬហិរញ្ញវត្ថុ ឬប្រតិបត្តិការពឹងផ្អែកលើក្រុមហ៊ុនដែលកំពុងត្រូវបានវាយតម្លៃ។ លទ្ធភាពគ្រប់គ្រាន់ក្នុងការវាយតម្លៃហានិភ័យប្រកបដោយអត្ថន័យ ពង្រីកលើសពីគំរូចុងក្រោយបំផុតចំពោះរបៀបដែលពួកគេត្រូវបានបណ្តុះបណ្តាល និងរបៀបការពារមុខងារ។ និងសេរីភាពក្នុងការបោះពុម្ពផ្សាយការសង្កេត និងការវាយតម្លៃនៃគំរូ ឬដំណើរការមួយ។

ករណីសាកល្បងសម្រាប់ឧស្សាហកម្មទាំងមូល

ការរៀបចំនឹងត្រូវបានវិនិច្ឆ័យដោយលទ្ធផលរបស់វា។ ការវាយតម្លៃដែលបានចេញផ្សាយជាលើកដំបូងរបស់ METR ក្រោមរបបចូលប្រើថ្មីនឹងបង្ហាញថាតើការចូលប្រើប្រាស់ដូចបុគ្គលិកបង្កើតការរកឃើញជាមួយនឹងធ្មេញពិត ឬរបាយការណ៍ដែលកាត់ដោយប្រភេទ redaction ដែលក្រុមហ៊ុនខ្លួនឯងកំណត់។ អ្នកសង្ស័យនឹងកត់សម្គាល់ថា Anthropic គ្រប់គ្រងព្រំដែនប្រភេទ ហើយក្រុមអ្នកបើកយន្តហោះតូច។ អ្នក​គាំទ្រ​នឹង​កត់​សម្គាល់​ថា​សិទ្ធិ​បោះ​ពុម្ព​ផ្សាយ Anthropic មិន​អាច​វេតូ​គឺ​ជា​រឿង​ប្រលោម​លោក​ពិត​ប្រាកដ​ក្នុង​ចំណោម​មន្ទីរ​ពិសោធន៍​ព្រំដែន។

ទោះយ៉ាងណាក៏ដោយ ឧស្សាហកម្មកំពុងមើល។ ប្រសិនបើការចូលប្រើដែលបានបង្កប់របស់ METR បង្ហាញពីការរកឃើញសម្ភារៈ និងបោះពុម្ពពួកវាដោយមិនមានការរំខាន នោះគំរូក្លាយជាគំរូជាក់ស្តែងសម្រាប់រាល់មន្ទីរពិសោធន៍ដែលបានចុះហត្ថលេខាលើកិច្ចព្រមព្រៀងសេតវិមាន — និងជាគំរូសម្រាប់អ្នកធ្វើគោលនយោបាយដែលថ្លឹងថ្លែងថាតើការត្រួតពិនិត្យដោយស្ម័គ្រចិត្តអាចជំនួសសវនកម្មដែលមានអាណត្តិ។ សម្រាប់ការគ្របដណ្តប់បន្តនៃគោលនយោបាយសុវត្ថិភាព AI និង [ព័ត៌មានឧស្សាហកម្ម AI] (https://aibuzzwire.news) ដែលបង្ហាញវា AI Buzz Wire ធ្វើតាមការអភិវឌ្ឍន៍នីមួយៗនៅពេលវាបែក។

---

ស្នាក់នៅមុន AI

ទទួលបានព័ត៌មាន AI ការវិភាគ និងរបកគំហើញចុងក្រោយបំផុត — ទាំងអស់នៅកន្លែងតែមួយ។

អានព័ត៌មាន AI បន្ថែម →