ការត្រួតពិនិត្យសុវត្ថិភាពយ៉ាងទូលំទូលាយដោយ Common Sense Media បានសន្និដ្ឋានថាមុខងារ ChatGPT សម្រាប់មនុស្សវ័យជំទង់របស់ OpenAI បង្ក "ហានិភ័យដែលមិនអាចទទួលយកបាន" ដល់អ្នកប្រើប្រាស់ដែលមានអាយុក្រោម 18 ឆ្នាំ ដែលជាចំណាត់ថ្នាក់ដ៏អាក្រក់បំផុតរបស់ក្រុមឃ្លាំមើល — តិចជាងពីរខែបន្ទាប់ពីផលិតផលនេះបានចាប់ផ្តើមជាមួយនឹងការសន្យានៃការការពារដែលមានស្រាប់។ ដូចដែល NPR បានរាយការណ៍ថាក្រុមបានរកឃើញថាការការពារសុវត្ថិភាពដែលបានផ្សាយពាណិជ្ជកម្មភាគច្រើនមិនដំណើរការដូចដែលបានសន្យានៅក្នុងការធ្វើតេស្តរបស់វា។

ការរកឃើញបានមកដល់ពេលដ៏រសើបមួយសម្រាប់ OpenAI ដែលបានចាប់ផ្តើមកម្មវិធី ChatGPT សម្រាប់មនុស្សវ័យជំទង់ក្នុងខែសីហា ជាបទពិសោធន៍ពិសេសសម្រាប់អ្នកប្រើប្រាស់មិនទាន់គ្រប់អាយុ ពេញលេញជាមួយនឹងការគ្រប់គ្រងដោយមាតាបិតា និងការការពារយ៉ាងតឹងរ៉ឹង។ ការគ្របដណ្តប់ពីមុនរបស់យើងបានចងក្រងឯកសារថា [ឧស្សាហកម្ម AI] (https://aibuzzwire.news) ជំរុញ និងទាញជុំវិញសុវត្ថិភាពយុវជន។ របាយការណ៍ថ្មីនេះគឺជាសវនកម្មឯករាជ្យដ៏សំខាន់លើកដំបូងថាតើការការពាររបស់របៀបក្មេងជំទង់មាននៅក្នុងការអនុវត្តដែរឬទេ។

អ្វី​ដែល Common Sense Media សាកល្បង

អ្នកស្រាវជ្រាវនៅវិទ្យាស្ថានសុវត្ថិភាព AI របស់យុវជនរបស់ក្រុមនេះបានធ្វើតេស្តច្រើនជាង 4,000 ប្រអប់មុនពេល និងបន្ទាប់ពីការចាប់ផ្តើមនៃរបៀបយុវវ័យ នេះបើយោងតាមការគ្របដណ្តប់ដោយ The National News Desk and Fast Company របស់ Sinclair Broadcast Group ។ ក្រុមនេះបានផ្តល់អនុសាសន៍ថា OpenAI ផ្អាកការធ្វើទីផ្សាររបៀបយុវវ័យ និងរារាំងមនុស្សវ័យជំទង់ពីការប្រើប្រាស់ ChatGPT រហូតដល់ក្រុមហ៊ុនបង្កើតនូវអ្វីដែលហៅថា "បទពិសោធន៍ដែលសមស្រប និងសុវត្ថិភាព"។

ការត្រួតពិនិត្យផលិតផលរបស់អង្គការបាននិយាយថា "ការការពារដែលបានផ្សាយពាណិជ្ជកម្មមួយចំនួនរបស់ ChatGPT ធ្វើឡើងរហូតដល់ការធ្វើតេស្តរបស់យើង រួមទាំងការបដិសេធរបស់ខ្លួនចំពោះការលេងជាតួអង្គផ្លូវភេទយ៉ាងច្បាស់លាស់" ។ "ប៉ុន្តែអ្នកផ្សេងទៀតបានបរាជ័យ ហើយខ្លះកាន់តែអាក្រក់ជាមួយរបៀបយុវវ័យថ្មី។ យើងមានការព្រួយបារម្ភថា ChatGPT សម្រាប់យុវវ័យអាចផ្តល់ឱ្យឪពុកម្តាយនូវទំនុកចិត្តមិនពិតចំពោះ guardrails ដែលជារឿយៗមិនដំណើរការ។"

ការជូនដំណឹងពីមាតាបិតាដែលមិនឆេះ

ការរកឃើញដ៏គួរឱ្យចាប់អារម្មណ៍បំផុតរបស់របាយការណ៍នេះពាក់ព័ន្ធនឹងប្រព័ន្ធជូនដំណឹងរបស់មាតាបិតា។ អ្នកស្រាវជ្រាវបានបង្កើតគណនីច្រើនជាងដប់មួយ ដែលរាយការណ៍ដោយខ្លួនឯងនៅវ័យជំទង់ ហើយត្រូវបានភ្ជាប់ទៅគណនីឪពុកម្តាយ បន្ទាប់មកភ្ជាប់ chatbot ក្នុងការសន្ទនាដែលមានឯកសារយោងច្បាស់លាស់ចំពោះគំនិតចង់ធ្វើអត្តឃាត ការធ្វើបាបខ្លួនឯង ឬការញ៉ាំអាហារមិនប្រក្រតី។ គណនីត្រូវបានបង្កើតឡើងនៅលើបុគ្គលប្រឌិត។

យោងតាមរបាយការណ៍ អ្នកសាកល្បងមិនបានទទួលការជូនដំណឹងពីមាតាបិតាពីគណនីថ្មីដែលបង្កើតឯកសារយោងទាំងនេះទេ។ ការជូនដំណឹងបានមកដល់សម្រាប់តែគណនីផ្សេងទៀតដែលមានប្រវត្តិនៃការសន្ទនាជាច្រើនសប្តាហ៍ដែលគ្របដណ្តប់លើប្រធានបទស្រដៀងគ្នា — គម្លាតដែលបង្ហាញថាប្រព័ន្ធជូនដំណឹងអាស្រ័យលើបរិបទដែលប្រមូលបានច្រើនជាងភាពធ្ងន់ធ្ងរនៃអ្វីដែលក្មេងជំទង់បង្ហាញនៅក្នុងការសន្ទនាដែលបានផ្តល់ឱ្យ។

ការពិនិត្យឡើងវិញក៏បានរកឃើញថា ChatGPT សម្រាប់មនុស្សវ័យជំទង់បានខកខានច្រើនជាងមួយក្នុងចំនោមករណីចំនួន 4 ដែលធានាដល់ការបញ្ជូនបន្តវិបត្តិសុខភាពផ្លូវចិត្ត ដូចដែលបានវិនិច្ឆ័យដោយក្រុមអ្នកជំនាញសុខភាពផ្លូវចិត្តកុមារដែលមានអាជ្ញាប័ណ្ណដែលបានពិនិត្យការជម្រុញ។

របងសាលា 'ងាយស្រួលឆ្លងកាត់'

លើសពីការរកឃើញវិបត្តិ អ្នកឃ្លាំមើលបានរកឃើញថាលក្ខណៈពិសេសដែលមានបំណងការពារសិស្សពីការប្រើប្រាស់ chatbot ដើម្បីបោកប្រាស់កិច្ចការសាលាគឺងាយស្រួលក្នុងការរំលង ឬបិទទាំងស្រុង។

លោក Jim Steyer ស្ថាបនិក និងជានាយកប្រតិបត្តិនៃ Common Sense Media បាននិយាយនៅក្នុងសេចក្តីអធិប្បាយដែលរាយការណ៍ដោយ The National News Desk ថា "អ្នកអាចសុំឱ្យពួកគេសរសេរក្រដាសមួយសម្រាប់អ្នក ក្រដាសដ៏ទំនើបសម្រាប់អ្នក ហើយវានឹងធ្វើបែបនោះ ហើយវាថែមទាំងប្រាប់អ្នកពីរបៀបកែសម្រួលតាមរបៀបដែលគ្រូរបស់អ្នកមិនដឹង" ។ ដូច្នេះ វារំខានដល់ការរៀនសូត្រ។ វារំខានដល់ដំណើរការជាមូលដ្ឋាន ហើយក្មេងៗត្រូវធ្វើកិច្ចការដោយខ្លួនឯង»។

ផ្លូវការពារខ្លឹមសារ ការទស្សន៍ទាយអាយុ និងការរំលឹកពេលសម្រាកក៏ត្រូវបានរកឃើញថាគ្មានប្រសិទ្ធភាពក្នុងការធ្វើតេស្ត។ ចំណុចទិន្នន័យដែលបានលើកឡើងយ៉ាងទូលំទូលាយមួយ៖ OpenAI បាននិយាយថា អ្នកប្រើប្រាស់វ័យជំទង់ជាមធ្យមចំណាយពេលតិចជាង 15 នាទីក្នុងមួយថ្ងៃនៅលើ ChatGPT ។ ប៉ុន្តែក្នុងចំណោមចំណែកតូចមួយនៃមនុស្សវ័យជំទង់ដែលចំណាយពេលលើសពី 3 ម៉ោងជាប់ៗគ្នាក្នុងមួយថ្ងៃ - តិចជាង 2 ភាគរយនៃអ្នកប្រើប្រាស់ - ជិតពាក់កណ្តាលបានបញ្ចប់ការសន្ទនារបស់ពួកគេក្នុងរយៈពេល 5 នាទីបន្ទាប់ពីទទួលបានការរំលឹកពេលសម្រាក ដែលបង្ហាញថាការរំខានកម្រនឹងរំខានដល់វគ្គបន្ត។

OpenAI ជំរុញឱ្យត្រលប់ទៅវិធីសាស្ត្រ

OpenAI នៅក្នុងសេចក្តីថ្លែងការណ៍ឆ្លើយតបទៅនឹងរបាយការណ៍នេះបាននិយាយថា ខ្លួនមានការប្តេជ្ញាចិត្តយ៉ាងជ្រាលជ្រៅចំពោះសុវត្ថិភាពរបស់ក្មេងជំទង់ និងបានចង្អុលបង្ហាញពីការការពារដែលខ្លួនបានបង្កើត និងឧបករណ៍ដែលវាផ្តល់ឱ្យឪពុកម្តាយ។

អ្នកនាំពាក្យ OpenAI បាននិយាយថា "យើងស្វាគមន៍ការវាយតម្លៃឯករាជ្យយ៉ាងម៉ត់ចត់ ប៉ុន្តែយើងមិនជឿថាការធ្វើតេស្តរបស់ Common Sense Media ឆ្លុះបញ្ចាំងយ៉ាងត្រឹមត្រូវពីរបៀបដែលការការពារក្មេងជំទង់របស់ ChatGPT ដំណើរការក្នុងការអនុវត្ត ឬទស្សនវិស័យរបស់អ្នកជំនាញអំពីរបៀបដែល AI អាចគាំទ្រមនុស្សវ័យជំទង់" ។ ក្រុមហ៊ុនបាននិយាយថាការពិនិត្យឡើងវិញរបស់ខ្លួនលើវិធីសាស្រ្តរបស់ក្រុមបានបង្ហាញថា "ភាគច្រើននៃការធ្វើតេស្តរបស់ពួកគេអាចបានចាប់ផ្តើម និងបានបញ្ចប់មុនពេលការធ្វើឱ្យសកម្មនៃការគ្រប់គ្រងដោយមាតាបិតាត្រូវបានបញ្ចប់ ធ្វើឱ្យការរកឃើញរបស់ពួកគេមិនត្រឹមត្រូវ" ដោយបន្ថែមថាការធ្វើតេស្តបែបនេះនឹងមិនកំណត់ថាតើការជូនដំណឹងអំពីសុវត្ថិភាពមាតាបិតាដំណើរការដូចដែលបានគ្រោងទុកនោះទេ។

Steyer បាននិយាយថា អង្គការរបស់គាត់បានទាក់ទងជាមួយ OpenAI អំពីការរកឃើញនេះ ក៏ដូចជាការអនុវត្តស្តង់ដាររបស់ខ្លួនក្នុងអំឡុងពេលវាយតម្លៃផលិតផល ហើយឈរនៅនឹងលទ្ធផល។ គាត់បាននិយាយថា "យើង 100% ឈរនៅពីក្រោយគុណភាពនៃការស្រាវជ្រាវ និងការធ្វើតេស្តរបស់យើង និងការពិតដែលថាយើងដាក់ស្លាកផលិតផលនេះថា "ហានិភ័យដែលមិនអាចទទួលយកបាន" គាត់បាននិយាយដោយគូរការប្រៀបធៀបទៅនឹងសុវត្ថិភាពរថយន្តថា "អ្នកនឹងមិនដាក់ឡាននៅលើទីផ្សារទេប្រសិនបើវាមិនឆ្លងកាត់ការធ្វើតេស្តគាំង" ។

ការចាប់អារម្មណ៍កាន់តែខ្លាំងលើ AI និងអនីតិជន

វិវាទនេះកើតឡើងចំពេលដែលការពិនិត្យមើលកាន់តែខ្លាំងឡើងអំពីរបៀបដែល AI chatbots ប៉ះពាល់ដល់អ្នកប្រើប្រាស់វ័យក្មេង ពីសាលារៀនដែលដាក់កម្រិតលើការចូលប្រើសមាជិកសភាដែលមានទម្ងន់លើតម្រូវការផ្ទៀងផ្ទាត់អាយុ។ ការធ្វើសវនកម្មឯករាជ្យបែបនេះកំពុងក្លាយជាកន្លែងសាកល្បងជាក់ស្តែងសម្រាប់ការទាមទារសុវត្ថិភាពយុវជនដែលក្រុមហ៊ុន AI ធ្វើនៅក្នុងទីផ្សាររបស់ពួកគេ។

ភាគីទាំងពីរយល់ស្របលើរឿងមួយ៖ ប្រព័ន្ធជូនដំណឹងរបស់មាតាបិតាគឺជាចំណុចសំខាន់។ ប្រសិនបើ​ការជូនដំណឹង​បរាជ័យ​នៅពេល​គណនី​ក្មេងជំទង់​ថ្មី​បង្កើត​គំនិត​បង្ក​គ្រោះថ្នាក់​ដល់​ខ្លួន​ជា​លើក​ដំបូង មុខងារ​សុវត្ថិភាព​ដ៏សំខាន់​បំផុត​នឹង​បរាជ័យ​នៅ​ពេល​ដែល​វា​ជា​បញ្ហា​បំផុត។ OpenAI និយាយថាការសាកល្បងមានកំហុស។ Common Sense Media និយាយថាផលិតផលត្រូវបានដឹកជញ្ជូនមុនពេលវារួចរាល់។ និយតករ និងឪពុកម្តាយឥឡូវនេះនឹងថ្លឹងថ្លែងថាតើអ្នកណាត្រូវ ហើយ OpenAI ប្រឈមនឹងសម្ពាធកាន់តែខ្លាំងដើម្បីជួសជុលចន្លោះប្រហោង ឬទាញផលិតផលមកវិញ។

សម្រាប់ការគ្របដណ្តប់បន្ថែមទៀតនៃសុវត្ថិភាព AI គោលនយោបាយ និង [ការអភិវឌ្ឍន៍ឧស្សាហកម្ម AI] (https://aibuzzwire.news) ដែលបង្កើតពួកវា សូមអនុវត្តតាមនៅពេលរឿងនេះកើតឡើង។

---

ស្នាក់នៅមុន AI

ទទួលបានព័ត៌មាន AI ការវិភាគ និងរបកគំហើញចុងក្រោយបំផុត — ទាំងអស់នៅកន្លែងតែមួយ។

អានព័ត៌មាន AI បន្ថែម →