នាយកប្រតិបត្តិ Anthropic លោក Dario Amodei បានព្រមានសមាជិកសភាថា និន្នាការបង្កើនល្បឿនឆ្ពោះទៅរកបញ្ញាសិប្បនិមិត្តបើកចំហអាចនាំសង្គមទៅរកផ្លូវដ៏គ្រោះថ្នាក់ ប្រសិនបើគំរូដ៏មានអំណាចត្រូវបានបញ្ចេញដោយគ្មានការការពារយ៉ាងប្រុងប្រយ័ត្ន នោះនឹងបន្តការជជែកដេញដោលដ៏ចម្រូងចម្រាសបំផុតមួយនៅក្នុងគោលនយោបាយ AI ។

Amodei ដែលជាអ្នកបង្កើត និងដឹកនាំក្រុមហ៊ុននៅពីក្រោយគ្រួសារម៉ូដែល Claude បានអះអាងថា លក្ខណៈពិសេសនៃប្រភពបើកចំហរ AI ដែលធ្វើឱ្យប្រព័ន្ធកម្រិតខ្ពស់អាចប្រើប្រាស់បានដោយសេរីសម្រាប់នរណាម្នាក់ដើម្បីទាញយក កែប្រែ និងដាក់ឱ្យប្រើប្រាស់ បង្កើតហានិភ័យដែលកម្មវិធីប្រភពបើកចំហធម្មតាមិនដែលមាន។ សុន្ទរកថារបស់គាត់ដែលត្រូវបានរាយការណ៍ដោយ Tekedia ផ្តោតលើការលំបាកក្នុងការគ្រប់គ្រងសមត្ថភាព AI នៅពេលដែលវាត្រូវបានចែកចាយជាសាធារណៈ។ សម្រាប់បរិបទបន្ថែមអំពីរឿងនេះ សូមមើល [រឿង AI ច្រើនទៀត] (https://aibuzzwire.news) ដែលកំពុងដំណើរការរបស់យើង។

មិនដូចកម្មវិធីប្រពៃណីទេ ប្រព័ន្ធ AI ទំនើបអាចបង្កើតអត្ថបទដែលគួរឱ្យជឿជាក់ បង្កើតរូបភាពជាក់ស្តែង សរសេរកូដកុំព្យូទ័រ និងជួយកិច្ចការសន្តិសុខតាមអ៊ីនធឺណិត។ Amodei អះអាងថា នៅក្នុងដៃខុសសមត្ថភាពទាំងនោះអាចត្រូវបានកេងប្រវ័ញ្ចដើម្បីធ្វើការវាយប្រហារតាមអ៊ីនធឺណិតដោយស្វ័យប្រវត្តិ បង្កើតយុទ្ធនាការផ្សព្វផ្សាយព័ត៌មានមិនពិត ឬជំរុញការស្រាវជ្រាវជីវសាស្ត្រដែលមានគ្រោះថ្នាក់។

បញ្ហានៃភាពស្ថិតស្ថេរ

ហានិភ័យកណ្តាលមួយ ដែល Amodei បានគូសបញ្ជាក់នោះគឺថា នៅពេលដែលគំរូដ៏មានអានុភាពមួយត្រូវបានចេញផ្សាយដោយបើកចំហ វានឹងមិនអាចរំលឹកឡើងវិញបានយ៉ាងមានប្រសិទ្ធភាព។ ប្រព័ន្ធបិទដែលដំណើរការដោយក្រុមហ៊ុនអាចត្រូវបានត្រួតពិនិត្យ ជួសជុល និងដាក់កម្រិតនៅពេលដែលភាពងាយរងគ្រោះថ្មីលេចឡើង។ ផ្ទុយទៅវិញ គំរូប្រភពបើកចំហអាចត្រូវបានចម្លងដោយគ្មានកំណត់ និងចែកចាយឡើងវិញនៅទូទាំងអ៊ីនធឺណិត ដែលទុកឱ្យអ្នកអភិវឌ្ឍន៍មិនមានយន្តការកំណត់ការប្រើប្រាស់របស់វាបន្ទាប់ពីការចេញផ្សាយ។

Amodei បានព្រមានថា ភាពអចិន្រ្តៃយ៍នោះ មានបញ្ហាជាពិសេស នៅពេលដែលគំរូខិតទៅរកការអនុវត្តកម្រិតមនុស្សលើកិច្ចការដែលកាន់តែស្មុគស្មាញ។ គាត់បានប្រកែកថា AI កម្រិតខ្ពស់គួរតែត្រូវបានទទួលរងនូវការធ្វើតេស្តសុវត្ថិភាពដ៏រឹងមាំ ការដាក់ពង្រាយដែលបានគ្រប់គ្រង និងការត្រួតពិនិត្យបទប្បញ្ញត្តិសមស្រប មុនពេលដែលវាអាចប្រើប្រាស់បានយ៉ាងទូលំទូលាយ ជាជាងត្រូវបានចាត់ទុកដូចជាកម្មវិធីធម្មតាដែលអាចត្រូវបានកែលម្អដោយសហការគ្នានៅពេលបើកចំហ។

ជំហររបស់គាត់ឆ្លុះបញ្ចាំងពីបន្ទាត់កំហុសដែលកំពុងកើនឡើងនៅក្នុងឧស្សាហកម្មនេះ។ អ្នកគាំទ្រនៃ AI ប្រភពបើកចំហបានអះអាងថា ការចូលប្រើជាសាធារណៈជំរុញការប្រកួតប្រជែង ធ្វើប្រជាធិបតេយ្យដល់វឌ្ឍនភាពបច្ចេកវិទ្យា និងរារាំងសាជីវកម្មមួយចំនួនតូចពីការផ្តាច់មុខនៃបញ្ញាសិប្បនិម្មិត។ អ្នកអភិវឌ្ឍន៍ទូទាំងពិភពលោកអាចពិនិត្យមើលស្ថាបត្យកម្មគំរូ កំហុសសុវត្ថិភាពលើផ្ទៃ និងកែលម្អប្រព័ន្ធដោយសហការគ្នា ខណៈពេលដែលអ្នកចាប់ផ្តើមអាជីវកម្ម អ្នកស្រាវជ្រាវ និងស្ថាប័នអប់រំអាចសាងសង់ដោយមិនអាស្រ័យលើវេទិកាដែលមានកម្មសិទ្ធិមានតម្លៃថ្លៃ។

ហានិភ័យជាក់លាក់នៅលើតារាង

ក្តីបារម្ភរបស់ Amodei មិនមែនជារឿងអរូបីទេ។ ម៉ូដែលដែលបានចេញផ្សាយដោយបើកចំហរត្រូវបានអ្នកស្រាវជ្រាវបានដកហូតរបាំងសុវត្ថិភាពរបស់ពួកគេរួចហើយដោយអ្នកស្រាវជ្រាវដោយប្រើបច្ចេកទេសកែតម្រូវត្រង់ៗ ដែលជាការអនុវត្តដែលបង្ហាញពីរបៀបដែលវិធានការការពារអាចត្រូវបានយកចេញបានយ៉ាងឆាប់រហ័សនៅពេលដែលទម្ងន់ក្រោមត្រូវបានដាក់ជាសាធារណៈ។ នៅពេលដែលម៉ូដែលរីកចម្រើនកាន់តែមានសមត្ថភាពក្នុងការងារដូចជា គីមីវិទ្យា ជីវវិទ្យា និងការកេងប្រវ័ញ្ចផ្នែកទន់ ការព្រួយបារម្ភគឺថាការចេញផ្សាយដែលបើកចំហអាចផ្តល់សមត្ថភាពដ៏មានឥទ្ធិពលដល់តួអង្គដែលនឹងមិនឆ្លងកាត់ការបញ្ចាំងដែលមន្ទីរពិសោធន៍ទទួលខុសត្រូវដាក់លើអតិថិជនរបស់ពួកគេ។

វិមាត្រនៃព័ត៌មានមិនពិតក៏បានទាក់ទាញការត្រួតពិនិត្យផងដែរ។ គំរូដែលអាចបង្កើតអត្ថបទ រូបភាព និងសំឡេងតាមទំហំជាក់ស្តែងអាចប្រែទៅជាការជ្រៀតជ្រែកការបោះឆ្នោត ការក្លែងបន្លំផ្នែកហិរញ្ញវត្ថុ ឬការផលិតការឃោសនាដ៏ធំ។ ដោយសារតែគំរូបើកចំហដំណើរការទាំងស្រុងលើផ្នែករឹងផ្ទាល់ខ្លួនរបស់អ្នកវាយប្រហារ Amodei បានកត់សម្គាល់ថាមិនមាន API ដើម្បីបិទ គ្មានគណនីដែលត្រូវផ្អាក និងគ្មានអ្នកផ្តល់សេវាទទួលខុសត្រូវនៅពេលដែលការខូចខាតត្រូវបានបញ្ចប់។

ផ្ទៃខាងក្រោយប្រកួតប្រជែង

ការព្រមានរបស់ Amodei មកដល់ចំពេលមានការកើនឡើងនៃម៉ូដែលបើកចំហដែលមានសមត្ថភាពពីអ្នកអភិវឌ្ឍន៍ចិន។ GLM-5.2 របស់ Zhipu រួមជាមួយនឹងប្រព័ន្ធចិនតម្លៃទាបផ្សេងទៀតបានទាក់ទាញការយកចិត្តទុកដាក់ថ្មីចំពោះរបៀបដែលម៉ូដែលដែលបើក និងបើកចំហបានឆាប់រហ័សកំពុងបិទគម្លាតជាមួយនឹងប្រព័ន្ធកម្មសិទ្ធិព្រំដែនពី Anthropic និង OpenAI ។ សម្ពាធប្រកួតប្រជែងនោះបានបង្កើនការពិភាក្សាអំពីគោលនយោបាយលើថាតើការរឹតបន្តឹងលើការចេញផ្សាយដោយបើកចំហនឹងផ្តល់អត្ថប្រយោជន៍ដល់ក្រុមហ៊ុនដែលលេចធ្លោ ឬទុកឱ្យសង្គមប្រឈមនឹងការប្រើប្រាស់ខុស។

អ្នករិះគន់គោលជំហររបស់ Amodei អះអាងថា ការដាក់កម្រិត AI ចំហរអាចទាក់ទាញក្រុមហ៊ុនបច្ចេកវិទ្យាធំៗដោយអចេតនា ដោយកំណត់ការច្នៃប្រឌិតឯករាជ្យ។ ពួកគេក៏កត់សម្គាល់ផងដែរថាតម្លាភាពជាញឹកញាប់អនុញ្ញាតឱ្យអ្នកស្រាវជ្រាវកំណត់អត្តសញ្ញាណភាពងាយរងគ្រោះបានលឿនជាងការអភិវឌ្ឍន៍ដែលបិទជិត។ ទោះបីជាយ៉ាងណាក៏ដោយ សូម្បីតែអ្នកតស៊ូមតិជាច្រើននៃការអភិវឌ្ឍន៍បើកចំហក៏ទទួលស្គាល់ថាប្រព័ន្ធដែលមានឥទ្ធិពលកាន់តែខ្លាំងឡើងអាចត្រូវការក្របខ័ណ្ឌអភិបាលកិច្ចខ្លាំងជាងកម្មវិធីជំនាន់មុនៗ។

បទបញ្ញត្តិ

ការពិភាក្សាបានទទួលភាពបន្ទាន់នៅពេលដែលរដ្ឋាភិបាលជុំវិញពិភពលោកថ្លឹងថ្លែងលើបទប្បញ្ញត្តិ AI ថ្មី។ អ្នកបង្កើតគោលនយោបាយប្រឈមនឹងតុល្យភាពដ៏លំបាកមួយ៖ ការរឹតបន្តឹងខ្លាំងពេកអាចពន្យឺតកំណើនសេដ្ឋកិច្ច និងរបកគំហើញវិទ្យាសាស្ត្រ ខណៈពេលដែលការត្រួតពិនិត្យមិនគ្រប់គ្រាន់អាចធ្វើឲ្យសង្គមប្រឈមនឹងហានិភ័យដែលពិបាកនឹងស្មានទុកជាមុន។ ការធ្វើឱ្យមានតុល្យភាពនោះ លោក Amodei បានស្នើឱ្យមានការសហការគ្នារវាងរដ្ឋាភិបាល ក្រុមហ៊ុនបច្ចេកវិទ្យា អ្នកស្រាវជ្រាវសិក្សា និងសង្គមស៊ីវិល។

សក្ខីកម្មរបស់គាត់បានគូសបញ្ជាក់ពីការជជែកដេញដោលអំពីគោលនយោបាយបច្ចេកវិទ្យាដែលកំណត់នៃទសវត្សរ៍។ នៅពេលដែលបញ្ញាសិប្បនិមិត្តកាន់តែមានសមត្ថភាពកាន់តែច្រើន សង្គមត្រូវតែសម្រេចចិត្តពីរបៀបដើម្បីលើកទឹកចិត្តដល់ការបង្កើតថ្មី ខណៈពេលដែលកាត់បន្ថយគ្រោះថ្នាក់ដែលទាក់ទងនឹងការចូលដំណើរការយ៉ាងទូលំទូលាយទៅកាន់ប្រព័ន្ធផ្លាស់ប្តូរ។ មិនថាតាមរយៈបទប្បញ្ញត្តិ ស្តង់ដារឧស្សាហកម្ម ឬកិច្ចសហប្រតិបត្តិការអន្តរជាតិនោះទេ ជម្រើសដែលបានធ្វើឡើងក្នុងប៉ុន្មានខែខាងមុខនេះ លើប្រភពបើកចំហរ AI អាចកំណត់ថាតើនរណាជាអ្នកគ្រប់គ្រងបច្ចេកវិទ្យា និងរបៀបដែលវាត្រូវបានដាក់ឱ្យប្រើប្រាស់ដោយសុវត្ថិភាពសម្រាប់ឆ្នាំខាងមុខ។

សម្រាប់ Anthropic ជំហរគឺស្របទៅនឹងការសង្កត់ធ្ងន់យូរអង្វែងរបស់ក្រុមហ៊ុនលើសុវត្ថិភាព AI និងការចេញផ្សាយដែលគ្រប់គ្រង។ ប៉ុន្តែជាមួយនឹងគំរូបើកចំហរឈានទៅមុខយ៉ាងឆាប់រហ័ស ហើយនិយតករនៅតែព្យាយាមតាមទាន់ គម្លាតរវាងការព្រមានរបស់ Amodei និងល្បឿននៃចលនាប្រភពបើកចំហអាចរួមតូចលឿនជាងអ្នកបង្កើតគោលនយោបាយអាចបិទវាបាន។

---

ស្នាក់នៅមុន AI

ទទួលបានព័ត៌មាន AI ការវិភាគ និងរបកគំហើញចុងក្រោយបំផុត — ទាំងអស់នៅកន្លែងតែមួយ។

អានព័ត៌មាន AI បន្ថែម →