OpenAI កាលពីថ្ងៃព្រហស្បតិ៍បានចេញផ្សាយគណនីលម្អិតបំផុតរបស់ខ្លួនដែលមិនទាន់ដឹងពីរបៀបដែលវារកឃើញ និងរំខានដល់ "ការចម្រាញ់ពីសត្រូវ" ដែលជាការប្រើប្រាស់ដោយគ្មានការអនុញ្ញាតនៃលទ្ធផលនៃគំរូព្រំដែនដើម្បីបណ្តុះបណ្តាលប្រព័ន្ធប្រកួតប្រជែងមួយ ហើយបើយោងតាមរបាយការណ៍ជាច្រើនបានចាប់ផ្តើមទាមទារឱ្យភាគីទីបី និងអ្នកលក់បន្តដើម្បីទទួលបានការយល់ព្រមរបស់វា មុនពេលផ្តល់ការចូលប្រើប្រាស់ដោយផ្ទាល់ទៅកាន់ម៉ូដែលរបស់វា។

ការផ្លាស់ប្តូរដែលបានពិពណ៌នានៅក្នុងការបង្ហោះប្លុក OpenAI ដែលមានចំណងជើងថា "ការប្រយុទ្ធប្រឆាំងនឹងការចម្រាញ់ពីសត្រូវ" និងនៅក្នុងការគ្របដណ្តប់ដោយ Semafor និង eWeek បង្ហាញពីការរឹតបន្តឹងយ៉ាងសំខាន់នៃរបៀបដែលក្រុមហ៊ុនគ្រប់គ្រងអ្នកដែលអាចចែកចាយឡើងវិញនូវសមត្ថភាពម៉ូដែលរបស់ខ្លួន ដែលជាការផ្លាស់ប្តូរជាមួយនឹងផលវិបាកពិតប្រាកដសម្រាប់អ្នកអភិវឌ្ឍន៍ ការចាប់ផ្តើមអាជីវកម្ម និងសហគ្រាសដែលចូលប្រើប្រព័ន្ធ OpenAI តាមរយៈអន្តរការី។

ហេតុអ្វីបានជា OpenAI ចាត់ទុកការចំហុយជាបញ្ហាសុវត្ថិភាព

Distillation គឺជាបច្ចេកទេសរៀនតាមម៉ាស៊ីនស្តង់ដារដែលគំរូមួយរៀនពីលទ្ធផលនៃមួយផ្សេងទៀត ដោយខ្លួនវាផ្ទាល់ OpenAI កត់សំគាល់ថាវាមិនមែនជាខុសច្បាប់ ឬមិនធម្មតានោះទេ។ ការព្រួយបារម្ភរបស់ក្រុមហ៊ុនគឺជាអ្វីដែលវាហៅថាការចម្រាញ់ពីសត្រូវ៖ តួសម្តែងមួយរូបដែលប្រើទិន្នផលរបស់ម៉ូដែល Frontier ដោយគ្មានការអនុញ្ញាត ដើម្បីបណ្តុះបណ្តាលម៉ូដែលផ្សេងទៀតដែលមានសមត្ថភាពស្រដៀងគ្នា បន្ទាប់មកដាក់ពង្រាយវាដោយគ្មានការការពារដែលអាចប្រៀបធៀបបាន។

នៅក្នុងការបង្ហោះប្លក់របស់ខ្លួន OpenAI អះអាងថាហានិភ័យគឺច្បាស់បំផុតនៅក្នុងដែនដែលប្រើពីរដងដូចជាសុវត្ថិភាពតាមអ៊ីនធឺណិត និងជីវវិទ្យា។ គំរូដែលជួយអ្នកការពារស្វែងរកភាពងាយរងគ្រោះរបស់កម្មវិធី អាច នៅពេលដែលជំនាញរបស់វាត្រូវបានផ្ទេរទៅប្រព័ន្ធដែលមាន guardrails ខ្សោយជាង ជួយអ្នកវាយប្រហារទាញយកពួកវា។ ក្រុមហ៊ុនបានសរសេរថា "សត្រូវអាចនឹងធ្វើឱ្យខូចសមត្ថភាពអ៊ិនធឺណិតរបស់ម៉ូដែលមួយ ហើយប្រើគំរូលទ្ធផល ដើម្បីជួយអនុវត្តការវាយប្រហារតាមអ៊ីនធឺណិត ដែលគំរូដើមនឹងបដិសេធមិនជួយ" ។

ការការពារខ្សែសង្វាក់នៃការគិត

នៅចំកណ្តាលនៃការការពាររបស់ OpenAI គឺជាអ្វីដែលវាហៅថាហេតុផលដែលមានការការពារ៖ ជំហានមធ្យម - ខ្សែសង្វាក់នៃការគិត - គំរូបង្កើតខាងក្នុងខណៈពេលដែលកំពុងធ្វើការឆ្ពោះទៅរកចម្លើយ។ ក្រុមហ៊ុនពន្យល់ថា ដានទាំងនោះអាចមានព័ត៌មានដែលចម្លើយចុងក្រោយទុកចោល ដែលធ្វើឱ្យពួកវាមានតម្លៃជាពិសេសជាទិន្នន័យបណ្តុះបណ្តាលសម្រាប់គំរូមន្ទីរពិសោធន៍ផ្សេងទៀត។

OpenAI និយាយថាខ្លួនបានពង្រឹងការការពាររបស់ខ្លួនប្រឆាំងនឹងការស្រង់ចេញដោយហេតុផលនៅក្នុង GPT-6.2 Astra និង GPT-6.2 Sol ។ នៅក្នុងការវាយតម្លៃការសម្របខ្លួនខាងក្នុងដោយប្រើក្រុមក្រហមដោយស្វ័យប្រវត្តិ ក្រុមហ៊ុនបានរាយការណ៍ថា អត្រាជោគជ័យនៃការវាយប្រហារជាមធ្យមសម្រាប់ការស្ដារឡើងវិញនូវហេតុផលការពារបានធ្លាក់ចុះពី 54.0% ប្រឆាំងនឹង GPT-6 Astra ជាមួយនឹងការការពារដើមរបស់វាមកត្រឹម 0.2% ប្រឆាំងនឹង GPT-6.2 Astra ជាមួយនឹងការការពារដែលបានធ្វើបច្ចុប្បន្នភាព។

អ្វី​ដែល​ការសិក្សា​តាម​អ៊ីនធឺណិត​ផ្ទៃក្នុង​របស់​វា​បាន​រក​ឃើញ

ក្រុមហ៊ុនក៏បានចែករំលែកលទ្ធផលពីការសិក្សាផ្ទៃក្នុងអំពីរបៀបផ្ទេរសមត្ថភាពអ៊ីនធឺណេតកំឡុងពេលចម្រោះ។ គំរូសិស្សត្រូវបានកែសម្រួលយ៉ាងល្អិតល្អន់លើគន្លងដែលផលិតដោយគំរូគ្រូបង្រៀនដែលធ្វើការលើការសរសេរកូដ និងកិច្ចការការពារសុវត្ថិភាពតាមអ៊ីនធឺណិត។ សិស្សដែលបានទទួលការបណ្តុះបណ្តាលលើដានហេតុផលពិតប្រាកដ ជាទូទៅសិស្សដែលបានទទួលការបណ្តុះបណ្តាលតែលើការសង្ខេបហេតុផលប៉ុណ្ណោះ ទាំងបន្ទាប់ពីការត្រួតពិនិត្យការកែតម្រូវ និង — នៅថវិកាការសន្និដ្ឋានដ៏ធំបំផុតដែលបានសាកល្បង — បន្ទាប់ពីជុំបន្ថែមនៃការរៀនបន្ថែមនេះបើយោងតាមស្តង់ដារ OpenAI ដែលបង្ហាញនៅក្បែរការបង្ហោះ។

ការជាប់ពាក់ព័ន្ធនេះគឺគួរឱ្យសោកស្ដាយចំពោះនរណាម្នាក់ដែលសង្ឃឹមថាការផ្ទេរសមត្ថភាពអាចត្រូវបានផ្ទុកដោយការបោះពុម្ពលទ្ធផលអនាម័យ៖ សូម្បីតែអន្តរកម្មដែលត្រូវបានអនុញ្ញាតក្រោមគោលការណ៍ប្រើប្រាស់ក៏អាចបង្រៀនជំនាញគំរូសិស្សដែលជាទូទៅលើសពីកិច្ចការដែលគ្រូបានអនុវត្តដំបូង។

Gateways និងអ្នកលក់បន្តឥឡូវនេះត្រូវការការយល់ព្រម

វិធានការបច្ចេកទេសមកដល់ទន្ទឹមនឹងការផ្លាស់ប្តូរគោលនយោបាយ។ ចាប់ពីថ្ងៃព្រហស្បតិ៍តទៅ OpenAI នឹងតម្រូវឱ្យមានរ៉ោតទ័រគំរូ AI និងច្រកផ្លូវដែលផ្តល់ឱ្យភាគីទីបីចូលដំណើរការដោយផ្ទាល់ទៅកាន់ម៉ូដែលរបស់ខ្លួនដើម្បីទទួលបានការយល់ព្រមជាមុន។ តម្រូវការនេះបង្កើតឡើងនៅលើការប្រកាសដែលក្រុមហ៊ុនបានធ្វើនៅក្នុងខែតុលាដែលបង្ហាញពីរបៀបដែលការការពារសុវត្ថិភាពគួរតែអនុវត្តនៅពេលដែលអតិថិជនចូលប្រើម៉ូដែលរបស់ខ្លួនដោយផ្ទាល់ ឬតាមរយៈដៃគូបង្ហោះ និងអ្នកលក់បន្ត។

យោងតាមសេចក្តីសង្ខេបរបស់ eWeek នៃក្របខ័ណ្ឌនោះ សេវាកម្មដែលចូលរួមត្រូវបានរំពឹងថានឹងរក្សាបាននូវស្តង់ដារដែលអាចប្រៀបធៀបបាន ដូច្នេះអ្នកប្រើប្រាស់មិនអាចប្តូរអ្នកផ្តល់សេវាដើម្បីគេចចេញពីការរឹតបន្តឹងបានទេ។ វិធានការនេះមានបីដំណាក់កាល៖ ការវាយតម្លៃហានិភ័យ និងការធ្វើតេស្តប្រឆាំងនឹងការប៉ុនប៉ងការពារ-ចៀសវៀងមុនពេលដាក់ពង្រាយ។ ការត្រួតពិនិត្យអំឡុងពេលប្រើប្រាស់ ជាមួយនឹងដៃគូដែលរំពឹងថានឹងស៊ើបអង្កេតសកម្មភាពគួរឱ្យសង្ស័យ។ និងវិធានការអនុវត្តបន្ទាប់ពីមានការរំលោភបំពាន។ Semafor បានកំណត់លក្ខណៈនៃការផ្លាស់ប្តូរនេះនៅពេលដែល OpenAI រឹតបន្តឹងការក្តាប់របស់វាទៅលើប្រព័ន្ធអេកូលក់បន្តដែលបានកើនឡើងយ៉ាងឆាប់រហ័សនៅជុំវិញ API របស់វា។

តើវាមានន័យយ៉ាងណាសម្រាប់អ្នកអភិវឌ្ឍន៍

សម្រាប់អ្នកអភិវឌ្ឍន៍ ឥទ្ធិពលជាក់ស្តែងគឺជាសំណួរនៃការអនុលោមតាមច្បាប់ថ្មីដើម្បីបន្ថែមទៅលើការឧស្សាហ៍ព្យាយាមរបស់អ្នកលក់៖ ថាតើអន្តរការីដែលផ្តល់ជូនម៉ូដែល OpenAI ពិតជាត្រូវបានអនុញ្ញាតឱ្យធ្វើដូច្នេះដែរឬទេ។ អាជីវកម្មដែលបញ្ជូនចរាចរណ៍តាមរយៈអ្នកប្រមូលផ្តុំគួរតែបញ្ជាក់ពីស្ថានភាពការយល់ព្រមរបស់អ្នកផ្តល់សេវារបស់ពួកគេ និងរបៀបដែលវាគ្រប់គ្រងព័ត៌មានសម្ងាត់ និងទិន្នន័យ eWeek បានណែនាំ។

សម្រាប់ឧស្សាហកម្មកាន់តែទូលំទូលាយ សេចក្តីប្រកាសគឺជាសញ្ញាមួយដែលអ្នកផ្តល់គំរូមើលកាន់តែច្រើនឡើងលើការគ្រប់គ្រងសមត្ថភាពដែលទទួលបាន - មិនត្រឹមតែម៉ូដែលខ្លួនឯងប៉ុណ្ណោះទេ - ជាបរិវេណដែលមានសារៈសំខាន់។ វិវាទនៃការចម្រោះបានផ្ទុះឡើងពាសពេញវាលក្នុងប៉ុន្មានឆ្នាំថ្មីៗនេះ ហើយ OpenAI ឥឡូវនេះកំពុងរៀបចំការឆ្លើយតបរបស់វាមិនមែនជាជម្លោះអាជ្ញាបណ្ណទេ ប៉ុន្តែជាតម្រូវការសុវត្ថិភាព ដោយតម្រឹមការការពារការចំហុយជាមួយនឹងការគ្រប់គ្រងដែលវាអនុវត្តចំពោះហានិភ័យជីវវិទ្យា និងសុវត្ថិភាពអ៊ីនធឺណិត។

ផ្លូវខាងមុខ

OpenAI និយាយថា ខ្លួននឹងបន្តសិក្សាពីរបៀបដែលការផ្ទេរសមត្ថភាពឆ្លងកាត់គំរូសិស្សផ្សេងៗគ្នា និងរូបមន្តចម្រោះ ហើយវាអញ្ជើញមន្ទីរពិសោធន៍ផ្សេងទៀតឱ្យបង្កើតលើការងាររាវរក និងការអនុវត្តរបស់វា។ ថាតើគូប្រជែងទទួលយករបបអនុម័តច្រកផ្លូវដែលអាចប្រៀបធៀបបាន - និងថាតើអ្នកប្រើប្រាស់ទទួលយកការកកិតបន្ថែមដែរឬទេ - នឹងជួយកំណត់ពីរបៀបដែលប្រព័ន្ធ AI ជំនាន់ក្រោយត្រូវបានសាងសង់ ហើយអ្នកណាត្រូវបានអនុញ្ញាតឱ្យសាងសង់។

ចូរនៅខាងមុខផ្លូវកោង

ចង់បានម៉ូដែល AI សុវត្ថិភាព និងគោលការណ៍ចុងក្រោយបំផុតដូចដែលវាកើតឡើងទេ? [តាមដានព័ត៌មាន AI] (https://aibuzzwire.news) នៅលើ AI Buzz Wire ។

អានព័ត៌មាន AI បន្ថែម →