ការសន្មត់ដ៏ពេញនិយមដែលថាមនុស្សពិនិត្យមើលពាក្យបញ្ជានីមួយៗអាចរក្សាភ្នាក់ងារសរសេរកូដ AI ដែលកំពុងត្រួតពិនិត្យកំពុងប្រឈមនឹងការត្រួតពិនិត្យយ៉ាងធ្ងន់ធ្ងរ។ ការវិភាគថ្មីនៃវគ្គហ្គេមជាង 40,000 និងការសម្រេចចិត្តអនុម័ត ឬបដិសេធបុគ្គលជាង 409,000 បានរកឃើញថាអ្នកត្រួតពិនិត្យរបស់មនុស្សបានខកខានប្រហែលមួយក្នុងចំនោមពាក្យបញ្ជាព្យាបាទចំនួនបីពីភ្នាក់ងារ AI ដោយបង្កើតជាសំណួរបន្ទាន់អំពីថាតើ "មនុស្សក្នុងរង្វង់" គឺជាព្រំដែនសុវត្ថិភាពដែលអាចទុកចិត្តបានទាំងអស់។

ការរកឃើញនេះបានមកពីហ្គេមដែលមានមូលដ្ឋានលើកម្មវិធីរុករកតាមអ៊ីនធឺណិតដែលបង្កើតឡើងដោយ Alex Wauters អតីតវិស្វករបុគ្គលិកនៅ Uber ដែលសរសេរអំពីសុវត្ថិភាពអ្នកអភិវឌ្ឍន៍នៅ Scale X។ ហ្គេមនេះដាក់អ្នកលេងក្នុងតួនាទីជាអ្នកត្រួតពិនិត្យមនុស្សសម្រាប់ភ្នាក់ងារសរសេរកូដ AI ដោយសុំឱ្យពួកគេយល់ព្រម ឬបដិសេធការបញ្ជាសែលក្រោមសម្ពាធពេលវេលា។ ពាក្យ​បញ្ជា​មួយ​ចំនួន​ជា​ទម្លាប់​ដូចជា 'ស្ថានភាព git' ឬ 'npm test' ។ អ្នកផ្សេងទៀតត្រូវបានក្លែងបន្លំដោយប្រយ័ត្នប្រយែងក្នុងការព្យាយាមដកយកព័ត៌មានសម្ងាត់ ដំឡើង backdoors ឬផ្ញើអាថ៌កំបាំងទៅម៉ាស៊ីនមេពីចម្ងាយ។ បន្ទាប់ពីបន្ថែមការតាមដានស្ថិតិ Wauters បានប្រមូលទិន្នន័យគ្រប់គ្រាន់ដើម្បីគូររូបភាពលម្អិតអំពីកន្លែងដែលការវិនិច្ឆ័យរបស់មនុស្សជោគជ័យ ហើយច្រើនតែបរាជ័យ។ សម្រាប់ព័ត៌មានបន្ថែមអំពី [ការគ្របដណ្តប់ឧស្សាហកម្ម AI] (https://aibuzzwire.news) កាន់តែទូលំទូលាយ ការសិក្សានេះលេចធ្លោជាបទពិសោធន៍មួយដែលសំបូរទិន្នន័យច្រើនបំផុតរហូតមកដល់បច្ចុប្បន្ន។

ពាក្យបញ្ជាគ្រោះថ្នាក់បំផុតគឺពិបាកចាប់បំផុត។

ការរកឃើញដ៏គួរឱ្យចាប់អារម្មណ៍បំផុតរបស់ការសិក្សានេះគឺថាពាក្យបញ្ជាដែលបំផ្លិចបំផ្លាញជាក់ស្តែងដូចជា `rm -rf` នៅលើថតឯកសារសំខាន់ៗត្រូវបានចាប់បានដោយភាពជឿជាក់។ ការគំរាមកំហែងដែលពិតជាទទួលបានជោគជ័យក្នុងការលួចលិខិតសម្គាល់ត្រូវបានខកខានជិតបីដងជាញឹកញាប់។ ពាក្យបញ្ជាដែលខកខានបំផុតតែមួយគត់នៅក្នុងហ្គេមទាំងមូលគឺ 'npm run analysis' ដែលត្រូវបានអនុម័តដោយអ្នកលេង 64.7 ភាគរយ ទោះបីជាកំណត់ហេតុប្រវត្តិរបស់ភ្នាក់ងារបង្ហាញយ៉ាងច្បាស់ថាស្គ្រីបមូលដ្ឋានត្រូវបានរំខានក្នុងការបញ្ជូនព័ត៌មានសម្ងាត់ទៅកាន់ម៉ាស៊ីនមេខាងក្រៅក៏ដោយ។

បញ្ហាគឺរចនាសម្ព័ន្ធ។ ពាក្យ​បញ្ជា​ដូចជា `npm run` ប្រតិបត្តិ​អ្វី​ក៏ដោយ​ដែល​ត្រូវ​បាន​កំណត់​ក្នុង​ឯកសារ `package.json` របស់​គម្រោង។ ស្គ្រីប​នោះ​អាច​ជា​អ្នក​វិភាគ​បណ្តុំ​ស្របច្បាប់ ឬ​កូដ​ព្យាបាទ​ដែល​បញ្ចូល​ដោយ​ឯកសារ​មុន​ដែល​ភ្នាក់ងារ​បាន​កែប្រែ។ ដើម្បីដឹងច្បាស់ អ្នកអភិវឌ្ឍន៍នឹងត្រូវពិនិត្យរាល់ឯកសារដែលបានកែប្រែមុននឹងអនុម័ត ដែលបដិសេធអត្ថប្រយោជន៍ល្បឿនដែលឧបករណ៍សរសេរកូដ AI ត្រូវបានគេសន្មត់ថាផ្តល់ឱ្យ។

ឆ្លងកាត់ពាក្យបញ្ជាបង់លុយក្លែងក្លាយចំនួនបីនៅក្នុងហ្គេម អត្រាខកខានគឺ 52.5 ភាគរយបើធៀបនឹង 28.4 ភាគរយសម្រាប់ការវាយប្រហារការបណ្តេញចេញព័ត៌មានសម្ងាត់ផ្សេងទៀត។ ការលាក់ payload នៅពីក្រោយឈ្មោះស្គ្រីបដែលធ្លាប់ស្គាល់បានបង្កើនអត្រាជោគជ័យរបស់វាទ្វេដង សូម្បីតែនៅពេល payload អាចមើលឃើញនៅក្នុងកំណត់ហេតុប្រវត្តិដែលបង្ហាញនៅខាងលើប្រអប់បញ្ចូលការអនុញ្ញាតក៏ដោយ។

ការអនុញ្ញាត ភាពនឿយហត់បំផ្លាញការប្រុងប្រយ័ត្នតាមពេលវេលា

Anthropic ធ្លាប់បានទទួលស្គាល់ថាភាពអស់កម្លាំងនៃការអនុញ្ញាតគឺជាបាតុភូតពិតនៅក្នុងផលិតផល Claude Code របស់ខ្លួន ដោយកត់សម្គាល់ថានៅពេលដែលអ្នកប្រើប្រាស់ឃើញការយល់ព្រមកាន់តែច្រើន នោះពួកគេយកចិត្តទុកដាក់តិចជាងចំពោះអ្នកនីមួយៗ។ ទិន្នន័យ Scale X គាំទ្រការបារម្ភនេះជាក់ស្តែង។ អត្រាបវរកញ្ញាបានថយចុះក្នុងអំឡុងពេលពាក្យបញ្ជាពីរបីដំបូងនៃវគ្គនីមួយៗ នៅពេលដែលអ្នកលេងបានឡើងកំដៅផែនដី ប៉ុន្តែបន្ទាប់មកបានកើនឡើងជាលំដាប់ឆ្ពោះទៅរកទីបញ្ចប់ ស្របជាមួយនឹងភាពអស់កម្លាំង ឬសម្ពាធកើនឡើងនៃនាឡិកាលោត។

គំរូនេះឆ្លុះបញ្ចាំងពីសក្ដានុពលនៃពិភពពិត។ អ្នកអភិវឌ្ឍន៍ដែលកំពុងប្រណាំងដើម្បីដឹកជញ្ជូនលក្ខណៈពិសេសក្រោមសម្ពាធនៃពេលវេលាកំណត់ប្រឈមមុខនឹងការលើកទឹកចិត្តដូចគ្នាក្នុងការចុចយល់ព្រមយ៉ាងឆាប់រហ័ស ហើយបរិមាណនៃពាក្យបញ្ជាជាប្រចាំបង្កើតជាបញ្ហាម្ជុលក្នុងគំនរសំរាម ដែលការគំរាមកំហែងពិតប្រាកដគឺកម្រមានស្ថិតិ។ លទ្ធផល​គឺ​ប្រព័ន្ធ​ដែល​បង្វឹក​អ្នក​ប្រើ​ឱ្យ​មាន​ត្រា​កៅស៊ូ​គ្រប់​យ៉ាង។

ផ្នែកម្ខាងទៀត៖ ការទប់ស្កាត់ហួសហេតុធ្វើឲ្យអ្វីៗធ្លាក់ចុះ

ការសិក្សាក៏បានចងក្រងឯកសារអំពីរបៀបបរាជ័យផ្ទុយ។ ពាក្យ​បញ្ជា​ធម្មតាៗ​ជា​ច្រើន​ត្រូវ​បាន​រារាំង​ជា​ប្រចាំ​ដោយ​អ្នក​លេង​ដែល​មាន​ការ​ប្រុង​ប្រយ័ត្ន រួម​ទាំង​ការ​ស្នើ​សុំ​ការ​បង្កើត​ស្តង់ដារ និង​ការ​សាកល្បង។ ការទប់ស្កាត់ហួសហេតុនេះ ធ្វើឱ្យភ្នាក់ងារថយចុះ ហើយផ្ទុយទៅវិញ បង្កើនហានិភ័យរយៈពេលវែង។ នៅពេលដែលអ្នកប្រើប្រាស់ត្រូវបានសួរម្តងហើយម្តងទៀតឱ្យយល់ព្រមលើពាក្យបញ្ជាដែលប្រែទៅជាគ្មានការបង្កគ្រោះថ្នាក់ សំលេងរំខានបានបំផ្លាញឆន្ទៈរបស់ពួកគេក្នុងការត្រួតពិនិត្យការជម្រុញនាពេលអនាគត ដោយចុងក្រោយជំរុញពួកគេឆ្ពោះទៅរកការរំលងពេញលេញ ឬរបៀបអនុម័តដោយស្វ័យប្រវត្តិដែលលុបចោលការត្រួតពិនិត្យរបស់មនុស្សទាំងស្រុង។

លក្ខណៈពិសេសដូចជារបៀបស្វ័យប្រវត្តិរបស់ Anthropic ព្យាយាមកាត់បន្ថយវាដោយកំណត់ដោយស្វ័យប្រវត្តិថាតើពាក្យបញ្ជាមានសុវត្ថិភាពមុននឹងប្រាប់អ្នកប្រើប្រាស់។ ប៉ុន្តែខណៈដែលទិន្នន័យនៃការសិក្សាស្តីពីបន្ទុកដែលក្លែងបន្លំបង្ហាញ សូម្បីតែខ្លឹមសារពាក្យបញ្ជាដែលអាចមើលឃើញក៏មិនគ្រប់គ្រាន់សម្រាប់មនុស្សក្នុងការធ្វើការវិនិច្ឆ័យដែលអាចទុកចិត្តបានក្រោមសម្ពាធ។

បរិបទដែលបាត់គឺជាបញ្ហាស្នូល

ពាក្យបញ្ជាមួយ 'cat ~/.zshrc' បានបង្ហាញឱ្យឃើញពីការបែកបាក់គ្នាច្រើនបំផុតនៅក្នុងហ្គេមទាំងមូល ដែលត្រូវបានអនុម័តដោយអ្នកលេង 45.9 ភាគរយ។ ពាក្យបញ្ជាគឺមិនបង្កគ្រោះថ្នាក់សម្រាប់អ្នកអភិវឌ្ឍន៍ដែលមិនរក្សាការសម្ងាត់នៅក្នុងទម្រង់សែលរបស់ពួកគេ ប៉ុន្តែវាបង្ហាញសោ API សម្រាប់អ្នកជាច្រើនដែលនាំចេញព័ត៌មានសម្ងាត់នៅទីនោះ។ ហានិភ័យរបស់វាអាស្រ័យទាំងស្រុងលើការកំណត់រចនាសម្ព័ន្ធប្រព័ន្ធដែលភ្នាក់ងារមើលមិនឃើញ ហើយអ្នកត្រួតពិនិត្យប្រហែលជាមិនចាំទេ។

ពាក្យ​បញ្ជា​ជា​ច្រើន​ទៀត​បាន​បង្កើត​ភាព​ចម្រូង​ចម្រាស​ស្រដៀង​គ្នា​នេះ​នៅ​លើ​ការ​ពិភាក្សា​របស់ Hacker News ដោយ​ហេតុផល​ដូច​គ្នា។ បញ្ហាជាមូលដ្ឋានគឺថាអ្នកអភិវឌ្ឍន៍កំពុងត្រូវបានស្នើសុំឱ្យធ្វើការវិនិច្ឆ័យសុវត្ថិភាពដោយមិនមានរូបភាពពេញលេញនៃអ្វីដែលឯកសារបានផ្លាស់ប្តូរ អ្វីដែលភ្នាក់ងារបានធ្វើនៅក្នុងជំហានមុន និងអ្វីដែលការកំណត់រចនាសម្ព័ន្ធបច្ចុប្បន្នរបស់ប្រព័ន្ធមាន។ ដូចដែលអ្នកអត្ថាធិប្បាយម្នាក់បានកត់សម្គាល់ ការសួរអ្នកប្រើប្រាស់ឱ្យធ្វើសុពលភាពពាក្យបញ្ជាដែលមិនច្បាស់លាស់ដោយគ្មានបរិបទមិនមែនជាការការពារដ៏រឹងមាំនោះទេ។

អ្វីដែលកើតឡើងបន្ទាប់សម្រាប់សន្តិសុខភ្នាក់ងារ

Wauters ប្រកែកថាដំណោះស្រាយមិនមែនជាមនុស្សល្អជាងទេ ប៉ុន្តែឧបករណ៍ដែលប្រសើរជាង។ ភ្នាក់ងារ Sandboxing ដូច្នេះពួកគេមិនអាចចូលប្រើព័ត៌មានបញ្ជាក់អត្តសញ្ញាណដោយផ្ទាល់ ភាពឯកោក្នុងបរិបទដ៏តឹងរឹង និងការកំណត់រចនាសម្ព័ន្ធលើអ្វីដែលភ្នាក់ងារអាចធ្វើបានដោយគ្មានការអនុញ្ញាតខ្ពស់ គឺសុទ្ធតែមានជោគជ័យជាងការពឹងផ្អែកលើការប្រុងប្រយ័ត្នរបស់មនុស្ស។ រហូតទាល់តែមានការការពារសុវត្ថិភាពទាំងនោះ ការផ្តល់ការអនុញ្ញាតទូលំទូលាយដល់ភ្នាក់ងារនៅតែប្រថុយប្រថាន ដោយមិនគិតពីថាតើមនុស្សមានឈ្មោះនៅក្នុងរង្វិលជុំនោះទេ។

ការសិក្សាមិនមែនជាឯកសារសិក្សាដែលត្រូវបានពិនិត្យដោយមិត្តភ័ក្តិទេ ហើយ Wauters ទទួលស្គាល់ដែនកំណត់របស់វា។ ហ្គេមនេះបានព្រមានអ្នកលេងអំពីការគំរាមកំហែង និងអនុវត្តសម្ពាធពេលវេលាសិប្បនិម្មិត ដែលប្រហែលជាមិនឆ្លុះបញ្ចាំងយ៉ាងល្អឥតខ្ចោះនូវបរិយាកាសអភិវឌ្ឍន៍ពិតប្រាកដ។ ប៉ុន្តែការរកឃើញស្នូល ដែលបណ្តុះបណ្តាលអ្នកត្រួតពិនិត្យមនុស្សក្រោមសម្ពាធ ខកខានមួយភាគបីនៃការវាយប្រហារក្លែងបន្លំដោយចេតនា គួរតែផ្តល់ឱ្យគ្រប់ក្រុមដែលដាក់ពង្រាយភ្នាក់ងារសរសេរកូដ AI ដើម្បីពិចារណាឡើងវិញនូវគំរូសុវត្ថិភាពរបស់ពួកគេ។

សម្រាប់អ្នកអភិវឌ្ឍន៍ដែលបង្កើតជាមួយភ្នាក់ងារ AI សព្វថ្ងៃនេះ ការអនុវត្តជាក់ស្តែងគឺសន្មត់ថាមនុស្សនៅក្នុងរង្វង់នឹងបរាជ័យជាយថាហេតុ។ រចនាការអនុញ្ញាតភ្នាក់ងាររបស់អ្នក និង sandboxing ដូច្នេះការខកខានមិនបានអនុម័តមិនមានន័យថាសោ AWS លេចធ្លាយ ឬបំពង់សាងសង់ដែលសម្របសម្រួលនោះទេ។ ទិន្នន័យណែនាំថាការចាត់ចែងការវាយតម្លៃរបស់មនុស្សជាការការពារចម្បងរបស់អ្នកគឺជាការភ្នាល់ដែលមិនសង។

នាំមុខ AI

ទិដ្ឋភាពសន្តិសុខភ្នាក់ងារ AI កំពុងវិវឌ្ឍយ៉ាងឆាប់រហ័ស។ ទទួលបានព័ត៌មានជាមួយនឹង [ការអភិវឌ្ឍន៍ AI] (https://aibuzzwire.news) ចុងក្រោយបង្អស់ និងការស្រាវជ្រាវបំបែក។

អានព័ត៌មាន AI បន្ថែម →