Anthropic បានបោះពុម្ភផ្សាយការស្រាវជ្រាវដែលបង្ហាញថាប្រព័ន្ធ AI ស្វ័យប្រវត្តិអាចជួសជុលភាពបរាជ័យក្នុងការតម្រឹមរបស់ម៉ូដែលដោយភាពជឿជាក់ ដែលជាលទ្ធផលដែលអាចផ្លាស់ប្តូររបៀបការងារសុវត្ថិភាពនៅកណ្តាលនៃឧស្សាហកម្ម AI ត្រូវបានធ្វើ។ ក្រដាសដែលមានចំណងជើងថា "អ្នកស្រាវជ្រាវដោយស្វ័យប្រវត្តិអាចជឿទុកចិត្តបានកាត់បន្ថយការបរាជ័យក្នុងការតម្រឹម" ត្រូវបានចេញផ្សាយកាលពីថ្ងៃសុក្រ និងលម្អិតដោយ TechCrunch ។

ការស្រាវជ្រាវនេះចេញមកពីកម្មវិធីមិត្តរួមរបស់ Anthropic ហើយត្រូវបានដឹកនាំដោយ Chen Yueh-Han ។ ការអះអាងកណ្តាលរបស់វាមានភាពទាក់ទាញ៖ នៅពេលដែលប្រព័ន្ធស្រាវជ្រាវស្វ័យប្រវត្តិរបស់ក្រុមហ៊ុនត្រូវបានចង្អុលបង្ហាញនៅចំនុចគោលចំនួនដប់ដែលវាស់វែងពីអាកប្បកិរិយាមិនត្រឹមត្រូវជាក់លាក់ ពួកគេបានធ្វើឱ្យប្រសើរឡើងនូវការអនុវត្តលើគ្រប់ឧបករណ៍ទាំងអស់ - ដោយមិនធ្វើឱ្យខូចសមត្ថភាពរួមរបស់ម៉ូដែលនោះទេ។ សម្រាប់វិស័យដែលបានតស៊ូដើម្បីរក្សាការងារសុវត្ថិភាពតាមជំហានជាមួយនឹងខ្នាតគំរូ នោះគឺជាលទ្ធផលគួរឱ្យកត់សម្គាល់។ For more context on this story, see our ongoing more AI stories.

រឿងនេះបានកើតឡើងក្នុងអំឡុងពេលមមាញឹកសម្រាប់ការគ្របដណ្តប់សុវត្ថិភាព AI ។ វាធ្វើតាមរដូវក្តៅដែលអាកប្បកិរិយាមិនសមរម្យរបស់ភ្នាក់ងារបានគ្របដណ្ដប់លើចំណងជើង ពីរបាយការណ៍ផ្ទៃក្នុងរបស់ OpenAI ស្តីពីភ្នាក់ងារ hacking រង្វាន់ ដើម្បីអំពាវនាវឱ្យមានការស៊ើបអង្កេតឯករាជ្យអំពីការរំលោភលើមុខ Hugging ។ ក្រដាសថ្មីរបស់ Anthropic ខិតទៅជិតបញ្ហាពីទិសដៅផ្ទុយ៖ ជំនួសឱ្យការសួរពីរបៀបដែលភ្នាក់ងារមានអាកប្បកិរិយាខុស វាសួរថាតើភ្នាក់ងារផ្សេងទៀតអាចទុកចិត្តបានក្នុងការជួសជុលពួកវាដែរឬទេ។

អ្វីដែលកាសែតពិតជារាយការណ៍

ប្រព័ន្ធដែលបានពិពណ៌នានៅក្នុងក្រដាសត្រូវបានគេហៅថា អ្នកស្រាវជ្រាវការតម្រឹមដោយស្វ័យប្រវត្តិ ឬ AAR ។ ជាជាងជំនួសដំណើរការស្រាវជ្រាវ AAR ចម្លងវាជាច្រើន៖ ប្រព័ន្ធស្វ័យប្រវត្តិនីមួយៗស្វែងរកអក្សរសិល្ប៍ដែលមាន ស្នើវិធីសាស្ត្រ និងបណ្តុះបណ្តាលគំរូដោយប្រើវិធីសាស្ត្រនោះប្រហែល 30 នាទី។ បន្ទាប់មក ដំណើរការនេះធ្វើម្តងទៀតតាមលំដាប់លំដោយជាច្រើន។

យន្តការជ្រើសរើសគឺសាមញ្ញ។ វិធីសាស្រ្តដែលផ្លាស់ទីគោលត្រូវបានបម្រុងទុក; វិធីសាស្រ្តដែលមិនត្រូវបានគេបោះចោល។ រង្វិលជុំនោះអនុញ្ញាតឱ្យប្រព័ន្ធដំណើរការបានយ៉ាងឆាប់រហ័ស ហើយក្នុងកម្រិតមួយគ្មានក្រុមមនុស្សអាចផ្គូផ្គងបានទេ ដោយសាកល្បងទិសដៅស្រាវជ្រាវជាច្រើនស្របគ្នា និងរក្សាតែអ្វីដែលដំណើរការប៉ុណ្ណោះ។

យោងតាមក្រដាសលទ្ធផលគឺស្របគ្នានៅទូទាំងក្រុមប្រឹក្សាភិបាល។ នៅលើស្តង់ដារទាំងដប់ដែលគ្របដណ្តប់លើអាកប្បកិរិយាមិនត្រឹមត្រូវជាក់លាក់ ប្រព័ន្ធស្វ័យប្រវត្តិបានផលិតភាពប្រសើរឡើងដែលអាចវាស់វែងបានដោយមិនប៉ះពាល់ដល់ដំណើរការគំរូទាំងមូល ដែលជាការដោះដូរធម្មតាដែលធ្វើឱ្យការងារតម្រឹមពិបាក។

កាសែតនេះបាននិយាយថា "សរុបមក លទ្ធផលទាំងនេះផ្តល់នូវភស្តុតាងដំបូងដែលថា ការតម្រឹមដោយស្វ័យប្រវត្តិក្រោយការបណ្តុះបណ្តាលអាចក្លាយជាការអនុវត្តជាក់ស្តែងក្នុងរយៈពេលដ៏ខ្លីខាងមុខនេះ" ។

វាយមនុស្សនៅ 1/37th the Cost

អត្ថបទដែលបានដកស្រង់ច្រើនបំផុតនៅក្នុងក្រដាសគឺជាអត្ថបទដែលវាប្រៀបធៀប AAR ដោយផ្ទាល់ទៅនឹងសមភាគីរបស់មនុស្ស។ Anthropic មិនបានការពារការប្រៀបធៀបនោះទេ។

កាសែតនេះបានសរសេរថា "វិធីសាស្ត្រ AAR ដ៏ល្អបំផុត យកឈ្នះលើអ្វីដែលមនុស្សមានបទពិសោធន៍ស្នើ ជាមធ្យមក្នុងរយៈពេលប្រាំមួយម៉ោង"។ វាបន្ថែមដោយចង្អុលថា "ការណែនាំស្រាវជ្រាវរបស់មនុស្សមិននាំទៅរកការអនុវត្តខ្លាំងជាងនេះទេ" ។

សេដ្ឋកិច្ច​គឺ​ដូច​ជា​មិន​ច្បាស់។ អ្នកនិពន្ធសរសេរថា "AAR មានតម្លៃប្រហែល 4 ដុល្លារក្នុងមួយម៉ោងនៅក្នុងការសន្និដ្ឋាន API ធៀបនឹង $ 150 ក្នុងមួយម៉ោងដែលយើងបង់ឱ្យអ្នកស្រាវជ្រាវមនុស្សរបស់យើង" ។ នោះគឺជាឌីផេរ៉ង់ស្យែលនៃការចំណាយជិត 40 ដង ហើយវាពន្យល់ពីមូលហេតុដែលមន្ទីរពិសោធន៍កំពុងទទួលយកការស្រាវជ្រាវដោយស្វ័យប្រវត្តិយ៉ាងធ្ងន់ធ្ងរ លើសពីការចង់ដឹងចង់ឃើញ។

ហេតុអ្វីបានជាគម្លាតថ្លៃដើមសំខាន់

ការស្រាវជ្រាវតម្រឹមគឺមានតម្លៃថ្លៃក្នុងវិធីដែលងាយស្រួលក្នុងការប៉ាន់ស្មាន។ រាល់ការអន្តរាគមរបស់បេក្ខជនត្រូវតែអនុវត្ត បណ្តុះបណ្តាល និងវាយតម្លៃប្រឆាំងនឹងការវាយតម្លៃ ហើយបេក្ខជនភាគច្រើនបរាជ័យ។ ប្រសិនបើប្រព័ន្ធមួយអាចដំណើរការរង្វិលជុំស្វែងរកជាបន្តបន្ទាប់សម្រាប់តម្លៃនៃការហៅ API នោះ ការចំណាយតិចតួចនៃការសាកល្បងគំនិតមួយបន្ថែមទៀតជិតដល់សូន្យ។ ដែនកំណត់ផ្លាស់ប្តូរពីចំនួនក្បាលទៅជាការគណនា។

ដែនកំណត់អនាធិបតេយ្យខ្លួនឯងបានដាក់ទង់

ក្រដាសនេះមានភាពច្បាស់លាស់អំពីអ្វីដែលលទ្ធផលមិនបានបង្កើតឡើង។ ប្រព័ន្ធស្វ័យប្រវត្តិដំណើរការបានតែនៅឆ្ងាយប៉ុណ្ណោះ ដោយសារការវាយតម្លៃតាមពិតឆ្លុះបញ្ចាំងពីគោលដៅតម្រឹមដែលមានសារៈសំខាន់ ហើយការកសាង និងរក្សាគោលការណ៏ដែលចាប់យកការប្រព្រឹត្តខុសក្នុងពិភពពិតនៅតែជាបញ្ហាបើកចំហនៅក្នុងវិស័យនេះ។

វាក៏មានភាពអាស្រ័យដែលងាយនឹងខកខានផងដែរ៖ អ្នកស្រាវជ្រាវដោយស្វ័យប្រវត្តិបានគូរលើអក្សរសិល្ប៍ដែលមានស្រាប់នៃវិធីសាស្រ្ត។ ការរក្សា និងពង្រីកអក្សរសិល្ប៍នោះគឺជាការងារដ៏សំខាន់ ហើយប្រព័ន្ធដែលគ្រាន់តែកែបច្ចេកវិជ្ជាដែលគេស្គាល់ប៉ុណ្ណោះ អាចនឹងប៉ះពាល់ដល់ភាពច្នៃប្រឌិតដែលមនុស្សមិនអាចបង្កើតបាន។

ការព្រមានទាំងនោះមានសារៈសំខាន់ ពីព្រោះសារៈសំខាន់រយៈពេលវែងនៃការស្រាវជ្រាវគឺអាស្រ័យលើពួកគេ។ ប្រសិនបើសន្ទស្សន៍វាស់ស្ទង់អ្វីដែលខុសនោះ AAR អាចបង្កើនប្រសិទ្ធភាពវិធីរបស់វាទៅជាលេខខ្លាំង ខណៈពេលដែលហានិភ័យមូលដ្ឋាននៅតែមិនត្រូវបានប៉ះពាល់។ ការរៀបចំរបស់ Anthropic — "ភស្តុតាងដំបូង" មិនមែនជាដំណោះស្រាយទេ ឆ្លុះបញ្ចាំងពីភាពមិនប្រាកដប្រជានោះ។

ជំហានឆ្ពោះទៅរកការកែលម្អខ្លួនឯងឡើងវិញ

ក្រដាសនេះក៏ផ្តល់ការជជែកវែកញែកធំជាងមុនអំពីការកែលម្អខ្លួនឯងឡើងវិញ ដែលជាគំនិតដែលថាប្រព័ន្ធ AI នៅទីបំផុតអាចធ្វើឱ្យប្រសើរឡើងនូវដំណើរការបណ្តុះបណ្តាលដែលផលិតពួកវា។ ការបណ្តុះបណ្តាលគំរូ AI ជាមួយម៉ូដែល AI ផ្សេងទៀតបានក្លាយជាគោលដៅដ៏ពេញនិយមសម្រាប់មន្ទីរពិសោធន៍ព្រំដែន ហើយលទ្ធផលរបស់ Anthropic គឺជាការពិនិត្យមើលជាក់ស្តែងនៅដំណាក់កាលដំបូងនូវអ្វីដែលមើលទៅដូចជានៅក្នុងដែនតូចចង្អៀតមួយ។

តក្កវិជ្ជាគឺត្រង់។ ប្រសិនបើគំរូអាចកែលម្អការបណ្តុះបណ្តាលការតម្រឹមរបស់ពួកគេដោយភាពជឿជាក់ គ្រឿងចក្រដូចគ្នាអាចត្រូវបានចង្អុលទៅការអនុវត្តការបណ្តុះបណ្តាលកាន់តែទូលំទូលាយ — ការងារសមត្ថភាពរួមបញ្ចូល។ TechCrunch កត់សម្គាល់ពីផលប៉ះពាល់ដែលអ្នកស្រាវជ្រាវ AI របស់មនុស្សនៅទីបំផុតអាចក្លាយជាចំណុចកណ្តាលនៃដំណើរការនេះ ដែលជាលទ្ធភាពដែលកាសែតខ្លួនឯងចូលរួមជាជាងជៀសវាង។

អ្វីដែលត្រូវមើលបន្ទាប់

សំណួរចំនួនបីនឹងកំណត់ថាតើលទ្ធផលនេះមានលក្ខណៈទូទៅដែរឬទេ។ ទីមួយ ថាតើវិធីសាស្រ្តមាននៅក្រៅគោលដប់ដប់ដែលត្រូវបានសាកល្បងដោយ Anthropic លើរបៀបបរាជ័យដែលកាន់តែរញ៉េរញ៉ៃ និងមិនសូវកំណត់ច្បាស់លាស់។ ទីពីរ ថាតើបញ្ហាថែទាំស្តង់ដារអាចដោះស្រាយបានលឿនគ្រប់គ្រាន់ដើម្បីរក្សាការស្រាវជ្រាវដោយស្វ័យប្រវត្តិដោយស្មោះត្រង់ឬអត់។ ទីបី ថាតើមន្ទីរពិសោធន៍ផ្សេងទៀតផ្សព្វផ្សាយលទ្ធផលដែលអាចប្រៀបធៀបបាន ដែលនឹងប្រែក្លាយក្រដាសតែមួយទៅជាទិសដៅឧស្សាហកម្ម។

សម្រាប់ពេលនេះ ការរកឃើញនេះគឺតូចចង្អៀត ប៉ុន្តែពិតប្រាកដ៖ នៅលើកិច្ចការតម្រឹមជាក់លាក់ ដែល Anthropic បានសាកល្បង អ្នកស្រាវជ្រាវដោយស្វ័យប្រវត្តិបានដំណើរការជាងមនុស្សដែលមានបទពិសោធន៍ លឿនជាង និងថោកជាងឆ្ងាយ។ ផ្នែកសុវត្ថិភាពនៃឧស្សាហកម្ម AI អាចជាកន្លែងដំបូងដែលអ្នកស្រាវជ្រាវ AI - មិនមែនមនុស្ស - ធ្វើការងារភាគច្រើន។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →