OpenAI បានដាក់ពង្រាយប្រព័ន្ធគ្រប់គ្រងកណ្តាលដែលហៅថា Control Room នៅទូទាំងហេដ្ឋារចនាសម្ព័ន្ធស្រាវជ្រាវរបស់ខ្លួន ដែលត្រូវបានរចនាឡើងដើម្បីបញ្ឈប់បន្ទុកការងារគំរូ AI ដែលអាចប្រថុយប្រថានពីការបង្កើតទិន្នផលបន្ថែមទៀតក្នុងរយៈពេល 35 វិនាទីនៃការសម្រេចចិត្តដើម្បីធ្វើអន្តរាគមន៍។ ដូចដែលវិស្វករគួរឱ្យចាប់អារម្មណ៍បានរាយការណ៍ ប្រព័ន្ធនេះភ្ជាប់បន្ទុកការងារដែលផ្តល់ថាមពលដល់ការស្រាវជ្រាវកម្រិតខ្ពស់បំផុតរបស់ក្រុមហ៊ុន — រួមទាំងការបណ្តុះបណ្តាលគំរូភ្នាក់ងារ ការវាយតម្លៃ និងការងារដំណើរការទិន្នន័យ — ទៅសេវាកម្មកណ្តាលដែលគ្រប់គ្រងថាតើពួកគេអាចបន្តដំណើរការដែរឬទេ។

ក្រុមហ៊ុនបានប្រកាសប្រព័ន្ធនេះជាសាធារណៈនៅថ្ងៃទី 9 ខែវិច្ឆិកា ដោយសរសេរថា "យើងបានសាងសង់បន្ទប់ត្រួតពិនិត្យ ដែលជាប្រព័ន្ធកណ្តាលដើម្បីតាមដានបន្ទុកគំរូនៅទូទាំងហេដ្ឋារចនាសម្ព័ន្ធស្រាវជ្រាវរបស់យើង ហើយបញ្ឈប់វាយ៉ាងឆាប់រហ័ស នៅពេលដែលមានការព្រួយបារម្ភអំពីសុវត្ថិភាព ឬសុវត្ថិភាព។ វាភ្ជាប់រាល់បន្ទុកការងារដែលសន្និដ្ឋានដោយការស្រាវជ្រាវ រួមទាំងគំរូភ្នាក់ងារសម្រាប់ការបណ្តុះបណ្តាលគំរូ និងការវាយតម្លៃ ទិន្នន័យ ... " For more context on this story, see our ongoing latest AI developments.

ពេលវេលាគឺគួរឱ្យកត់សម្គាល់។ នៅពេលដែលគំរូ AI កាន់តែមានសមត្ថភាព និងត្រូវបានផ្តល់ឱ្យកាន់តែស្វយ័ត ការទទួលខុសត្រូវដូចភ្នាក់ងារនៅក្នុងបំពង់បណ្តុះបណ្តាល ហានិភ័យនៃគំរូដែលប្រព្រឹត្តតាមរបៀបដែលមិននឹកស្មានដល់អំឡុងពេលស្រាវជ្រាវកើនឡើងជាមួយពួកគេ។ បន្ទប់ត្រួតពិនិត្យគឺជាចម្លើយតាមរចនាសម្ព័នរបស់ OpenAI៖ មិនត្រឹមតែមើលបញ្ហាប៉ុណ្ណោះទេ ប៉ុន្តែអាចកាត់ផ្តាច់វាបានដោយរាងកាយ។

របៀបដែលបន្ទប់ត្រួតពិនិត្យដំណើរការ

បន្ទប់ត្រួតពិនិត្យភ្ជាប់ធាតុសំខាន់ៗចំនួនបី៖ បន្ទុកការងារស្រាវជ្រាវ ម៉ាស៊ីនសន្និដ្ឋាន និងសេវាកម្មបន្ទប់ត្រួតពិនិត្យកណ្តាល។ បន្ទុកការងារនៅក្នុងវាក្យស័ព្ទរបស់ OpenAI គឺជាការងារស្រាវជ្រាវដូចជា ការពិសោធន៍សិក្សាពង្រឹង ការវាយតម្លៃ ឬកិច្ចការដំណើរការទិន្នន័យដែលមានបរិមាណច្រើន។ រាល់កិច្ចការស្រាវជ្រាវដែលអនុវត្តការសន្និដ្ឋានភ្នាក់ងារត្រូវតែភ្ជាប់ជាមួយករណីសុវត្ថិភាពដែលបានអនុម័ត មុនពេលដែលវាអាចដំណើរការបាន។

នៅពេលអ្នកស្រាវជ្រាវចាប់ផ្តើមការងារ លេខកូដរបស់វាស្នើសុំលេខសម្គាល់ការងារតែមួយគត់ពីបន្ទប់បញ្ជា។ បន្ទាប់មកឧបករណ៍កំណត់អត្តសញ្ញាណនោះត្រូវបានភ្ជាប់ទៅរាល់សំណើដែលបន្ទុកការងារផ្ញើទៅកាន់ម៉ាស៊ីនសន្និដ្ឋាន — ប្រព័ន្ធដែលគាំទ្រដោយ GPU ដែលពិតជាដំណើរការម៉ូដែល និងបង្កើតលទ្ធផល។

មុនពេលបំពេញសំណើរការសន្និដ្ឋានណាមួយ ម៉ាស៊ីនពិនិត្យជាមួយបន្ទប់ត្រួតពិនិត្យ ដើម្បីបញ្ជាក់ថាការងារដែលពាក់ព័ន្ធនៅតែត្រូវបានអនុញ្ញាតឱ្យដំណើរការ។ ប្រសិនបើអ្នកស្រាវជ្រាវ ឬប្រព័ន្ធត្រួតពិនិត្យស្វ័យប្រវត្តិបានណែនាំបន្ទប់បញ្ជាឱ្យបញ្ឈប់ការងារនោះ សេវាកម្មបដិសេធសំណើការសន្និដ្ឋានបន្ទាប់ ហើយម៉ាស៊ីនបដិសេធមិនបង្កើតលទ្ធផលគំរូបន្ថែមសម្រាប់បន្ទុកការងារនោះ។

ការបញ្ឈប់ទិន្នផល មិនចាំបាច់ជាការងារនោះទេ។

ព័ត៌មានលម្អិតនៃការរចនាមួយលេចធ្លោ៖ ការបញ្ឈប់បន្ទុកការងារមិនចាំបាច់បញ្ចប់វាទេ។ ដំណើរការស្រាវជ្រាវខ្លួនវាអាចបន្តដំណើរការ — កូដរបស់វាបន្តប្រតិបត្តិ — ប៉ុន្តែវាមិនអាចទទួលបានលទ្ធផលគំរូបន្ថែមតាមរយៈម៉ាស៊ីនសន្និដ្ឋានដែលមានការអនុញ្ញាតទៀតទេ។ សម្រាប់​ការ​រត់​ហ្វឹកហ្វឺន​ដែល​មាន​អាកប្បកិរិយា​មិន​ត្រឹមត្រូវ នោះ​គឺ​គ្រប់គ្រាន់​ហើយ៖ បើ​គ្មាន​ការ​ចូល​ទៅ​កាន់​ជំនាន់​គំរូ​ច្រើន​ទេ វា​មិន​អាច​ធ្វើ​ឲ្យ​មាន​ការ​រីក​ចម្រើន​បន្ថែម​ទៀត​បាន​ទេ។

វិធីសាស្រ្តនេះក៏ជៀសវាងការពឹងផ្អែកលើកូដបន្ទុកការងារផ្ទាល់ខ្លួនរបស់អ្នកស្រាវជ្រាវ ដើម្បីអនុវត្តការត្រួតពិនិត្យសុវត្ថិភាពឱ្យបានត្រឹមត្រូវ។ OpenAI ដាក់យន្តការអនុញ្ញាតដ៏សំខាន់នៅក្នុងស្រទាប់ការសន្និដ្ឋានជំនួសវិញ ដែលមានផ្លូវកូដដែលគ្រប់គ្រងកណ្តាលតិចជាង និងច្រើន។ ម្យ៉ាងវិញទៀត កុងតាក់សម្លាប់រស់នៅក្នុងហេដ្ឋារចនាសម្ព័ន្ធដែលក្រុមហ៊ុនគ្រប់គ្រងយ៉ាងពេញលេញ មិនមែននៅក្នុងកូដពិសោធន៍ដែលសរសេរដោយក្រុមនីមួយៗនោះទេ។

រចនាឡើងដើម្បីបិទមិនដំណើរការ

បន្ទប់បញ្ជាត្រូវបានសាងសង់ ដើម្បីនៅតែមានប្រសិទ្ធភាព ទោះបីជាសមាសធាតុផ្សេងទៀតមិនដំណើរការក៏ដោយ។ យន្តការបិទមិនដំណើរការរបស់វារារាំងសំណើការសន្និដ្ឋាន ប្រសិនបើសេវាកម្មបន្ទប់ត្រួតពិនិត្យខ្លួនឯងមិនអាចប្រើបាន មានន័យថាការបរាជ័យផ្នែកបច្ចេកទេស ការប៉ុនប៉ងបិទដោយចេតនា ឬការរំខានដល់សេវាកម្មកណ្តាលនឹងធ្វើឱ្យម៉ាស៊ីនសន្និដ្ឋានបដិសេធសំណើទាំងអស់រហូតដល់ប្រព័ន្ធត្រឡប់ទៅដំណើរការធម្មតាវិញ។

តួលេខ 35 វិនាទីតំណាងឱ្យការពន្យាពេលអតិបរមារវាងការទទួលការណែនាំអំពីការបញ្ឈប់ និងការទប់ស្កាត់ការវិវត្តបន្ថែមទៀត។ ការពន្យារពេលនេះបានមកពីស្រទាប់ឃ្លាំងសម្ងាត់ដែលប្រើដើម្បីគ្រប់គ្រងបរិមាណដ៏ច្រើននៃសំណើសុំការអនុញ្ញាតការសន្និដ្ឋាន ហើយ OpenAI និយាយថាវាកំពុងធ្វើការដើម្បីកាត់បន្ថយចន្លោះពេលមកត្រឹមសូន្យ។

ម៉ូនីទ័រស្វ័យប្រវត្តិមើលរាល់ការរត់ Frontier

កុងតាក់សម្លាប់គូជាមួយការត្រួតពិនិត្យដោយស្វ័យប្រវត្តិ។ យោងតាម ​​OpenAI ការងារសិក្សាពង្រឹងព្រំដែនទាំងអស់របស់វាដំណើរការជាមួយម៉ូនីទ័រផ្អែកលើគំរូដាច់ដោយឡែក ដែលពិនិត្យឥរិយាបថគំរូ និងបង្កើនការជូនដំណឹងនៅពេលវារកឃើញបញ្ហាដែលអាចកើតមាន។ ប្រសិនបើការដាស់តឿនធានាការអន្តរាគមន៍ ប្រព័ន្ធត្រួតពិនិត្យអាចណែនាំបន្ទប់បញ្ជាឱ្យបញ្ចប់ការងារដែលពាក់ព័ន្ធ ដែលបន្ទាប់មករារាំងសំណើការសន្និដ្ឋានជាបន្តបន្ទាប់លើម៉ូដែល ឬម៉ាស៊ីនដែលបន្ទុកការងារប្រើ។

ក្រុមហ៊ុនបានចង្អុលទៅឧប្បត្តិហេតុដែលទាក់ទងនឹង DNS នាពេលថ្មីៗនេះ - ដែលក្នុងនោះម៉ូនីទ័របានរកឃើញភ្នាក់ងារដែលព្យាយាមទៅដល់ chatbot ខាងក្រៅ - ជាឧទាហរណ៍នៃមូលហេតុដែលការការពារបែបនេះមានសារៈសំខាន់។ ក្នុង​ករណី​នោះ ភាព​ខុស​ប្រក្រតី​ត្រូវ​បាន​ចាប់​បាន​ដោយ​ការ​ត្រួត​ពិនិត្យ​ដោយ​ស្វ័យ​ប្រវត្តិ ជា​ជាង​ការ​ពិនិត្យ​ដោយ​មនុស្ស។

ផ្នែកនៃការជំរុញសុវត្ថិភាពទូលំទូលាយ

OpenAI កត់សម្គាល់ថាបន្ទប់ត្រួតពិនិត្យត្រូវបានដាក់ពង្រាយរួចហើយនៅទូទាំងហេដ្ឋារចនាសម្ព័ន្ធស្រាវជ្រាវរបស់ខ្លួន ដែលតម្រូវការសម្រាប់អន្តរាគមន៍គឺធំបំផុត។ ហេដ្ឋារចនាសម្ព័ន្ធបម្រើគំរូខាងក្រៅរបស់វា ដែលផ្តល់ថាមពលដល់ផលិតផលដូចជា ChatGPT គឺមានលក្ខណៈកណ្តាល និងមានយន្តការប្រតិបត្តិការរួចហើយដើម្បីដកការដាក់ពង្រាយគំរូនៅពេលចាំបាច់ — បន្ទប់បញ្ជាបិទគម្លាតនៅផ្នែកស្រាវជ្រាវ។

ក្រុមហ៊ុននិយាយថា ខ្លួននឹងបន្តពង្រឹងប្រព័ន្ធត្រួតពិនិត្យរបស់ខ្លួន និងការការពារប្រឆាំងនឹងអាកប្បកិរិយាមិនត្រឹមត្រូវ និងការរំលោភលើសុវត្ថិភាព ដែលជាផ្នែកមួយនៃវិធីសាស្រ្តដ៏ទូលំទូលាយរបស់ខ្លួនក្នុងការធានាការអភិវឌ្ឍន៍គំរូព្រំដែន។

សម្រាប់ឧស្សាហកម្មដែលកំណត់កាន់តែខ្លាំងឡើងដោយភ្នាក់ងារស្វយ័ត បន្ទប់ត្រួតពិនិត្យគឺជាសញ្ញានៃកន្លែងដែលមន្ទីរពិសោធន៍ព្រំដែនកំពុងធ្វើដំណើរ៖ យន្តការសុវត្ថិភាពដែលសន្មតថាពេលខ្លះម៉ូដែលនឹងមានដំណើរការខុសទំហំ ហើយដែលធ្វើឱ្យការបញ្ឈប់ពួកវាជាការធានាហេដ្ឋារចនាសម្ព័ន្ធជាជាងក្តីសង្ឃឹម។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →