ស្ត្រីម្នាក់ដែលត្រូវបានគេកំណត់អត្តសញ្ញាណនៅក្នុងឯកសារតុលាការថាជា Jane Doe 4 បានចូលរួមក្នុងបណ្តឹងប្រឆាំងនឹង xAI របស់ Elon Musk ជុំវិញតួនាទីដែល chatbot Grok របស់ក្រុមហ៊ុនត្រូវបានចោទប្រកាន់ថាបានលេងក្នុងការបង្កើតសម្ភារៈរំលោភបំពានផ្លូវភេទកុមារ TechCrunch បានរាយការណ៍កាលពីថ្ងៃសៅរ៍ដោយដកស្រង់របាយការណ៍នៅក្នុងកាសែត Washington Post ។

ស្ត្រីរូបនេះបានចោទប្រកាន់ថា ឪពុកចុងរបស់នាងបានប្រើ Grok ដើម្បីរៀបចំរូបថតដែលថតបានកាលពីនាងអាយុ 11 ឆ្នាំ ដើម្បីបង្កើតរូបភាពច្បាស់លាស់ជាង 7,000 របស់នាង នេះបើយោងតាមរបាយការណ៍។ នាងក៏បាននិយាយផងដែរថា ឪពុកចុងរបស់នាង ត្រូវបានគេរកឃើញថា បានស្លាប់ដោយសារការធ្វើអត្តឃាត ពីរថ្ងៃបន្ទាប់ពីរូបភាពទាំងនោះ ត្រូវបានប្រទះឃើញនៅក្នុងការវាយឆ្មក់របស់សមត្ថកិច្ច។ For more context on this story, see our ongoing breaking AI news.

ស្ត្រី​នោះ​បាន​និយាយ​ថា​៖ «​ការ​ចូល​ប្រើប្រាស់​ឧបករណ៍​ទាំង​នេះ​ដោយ​គ្មាន​ដែន​កំណត់​កំពុង​រីក​រាលដាល​យ៉ាង​ឆាប់​រហ័ស​»​។ «វា​កំពុង​យក​ជីវិត​ប្រចាំ​ថ្ងៃ ហើយ​ប្រែ​ក្លាយ​វា​ទៅ​ជា​ការ​រំលោភ​ផ្លូវ​ភេទ​កុមារ»។

ករណីនេះគឺជាការចោទប្រកាន់ដ៏ធ្ងន់ធ្ងរបំផុតមួយរហូតមកដល់បច្ចុប្បន្នពាក់ព័ន្ធនឹង AI chatbot ដែលកំពុងពេញនិយម និងការបង្កើតរូបភាពផ្លូវភេទរបស់ក្មេងពិត ហើយវាធ្វើឱ្យបណ្តឹងកាន់តែកើនឡើងដែលបានក្លាយជាចំណុចសំខាន់ក្នុងការជជែកដេញដោលលើការការពារសម្រាប់ការបង្កើតរូបភាព AI ។

ដើមបណ្តឹងរបស់ដើមបណ្តឹង

ដើមឡើយបណ្តឹងនេះត្រូវបានប្តឹងដោយក្មេងជំទង់ Tennessee បីនាក់ដែលបានចោទប្រកាន់ xAI - ដែលឥឡូវនេះជាផ្នែកមួយនៃ SpaceX - ពីការខកខានក្នុងការប្រុងប្រយ័ត្នជាមូលដ្ឋានដើម្បីការពារ Grok ពីការប្រើប្រាស់ដើម្បីបង្កើតរូបភាពជាក់ស្តែងរបស់មនុស្សពិតរួមទាំងអនីតិជន។ ដើមបណ្តឹងកំពុងស្វែងរកស្ថានភាពសកម្មភាពថ្នាក់ ដែលនឹងអនុញ្ញាតឱ្យអ្នកផ្សេងទៀតដែលចោទប្រកាន់ថាមានការខូចខាតស្រដៀងគ្នានេះចូលរួមក្នុងសំណុំរឿងនេះ។

ឯកសាររបស់ Jane Doe 4 បន្ថែមនូវសំណុំនៃលក្ខណៈពិសេសដ៏គួរឱ្យរន្ធត់មួយ៖ រូបថតកុមារភាពតែមួយ ឧបករណ៍ AI ដែលត្រូវបានគេចោទប្រកាន់ថាបានប្រើដើម្បីបង្កើតឧបករណ៍ចម្លងដែលបំពានរាប់ពាន់ និងសោកនាដកម្មគ្រួសារដែលបានកើតឡើងក្នុងរយៈពេលប៉ុន្មានថ្ងៃនៃការរកឃើញសម្ភារៈដោយអាជ្ញាធរ។

TechCrunch បាននិយាយថាវាបានទាក់ទង xAI ដើម្បីសុំការអត្ថាធិប្បាយ។ ការ​ចោទ​ប្រកាន់​នេះ​គឺ​ជា​ការ​អះអាង​នៅ​ក្នុង​វិវាទ​រដ្ឋប្បវេណី​ដែល​កំពុង​បន្ត ហើយ​មិន​ត្រូវ​បាន​គេ​បញ្ជាក់​នៅ​ក្នុង​តុលាការ​ទេ។ ប្រសិនបើអ្នក ឬនរណាម្នាក់ដែលអ្នកស្គាល់កំពុងស្ថិតក្នុងវិបត្តិ ខ្សែជីវិតធ្វើអត្តឃាត និងវិបត្តិ 988 នៅសហរដ្ឋអាមេរិកអាចទាក់ទងបានតាមរយៈការហៅទូរសព្ទ ឬផ្ញើសារទៅកាន់លេខ 988។

គំរូនៃសម្ពាធលើ Grok

បណ្ដឹង​នេះ​កើត​ឡើង​ចំពេល​មួយ​ឆ្នាំ​នៃ​ការ​ពិនិត្យ​មើល​សមត្ថភាព​បង្កើត​រូបភាព​របស់ Grok។ កាលពីដើមឆ្នាំនេះ X ត្រូវបានជន់លិចជាមួយនឹងរូបភាពផ្លូវភេទដែលបង្កើតដោយ Grok រាប់លាន ដែលជាវគ្គមួយដែលទាក់ទាញការរិះគន់យ៉ាងទូលំទូលាយអំពីការការពារជុំវិញឧបករណ៍នេះ។ វគ្គនេះបានជួយជំរុញឱ្យមានរលកនៃច្បាប់កម្រិតរដ្ឋដែលផ្តោតលើកម្មវិធីដែលហៅថា "អាក្រាតកាយ" និងរូបភាពសំយោគដែលមិនយល់ស្រប។ ការហាមប្រាមរបស់រដ្ឋ Minnesota លើឧបករណ៍បែបនេះបានចូលជាធរមាន បន្ទាប់ពីចៅក្រមបានបដិសេធសំណើរបស់ xAI សម្រាប់ដីកាបង្គាប់ឲ្យរារាំងការអនុវត្តរបស់ខ្លួន។

ភាគហ៊ុននៃករណី Tennessee ពង្រីកលើសពី xAI ។ ដើមបណ្តឹងអះអាងថា ក្រុមហ៊ុនដែលដាក់ពង្រាយឧបករណ៍បង្កើតរូបភាពក្នុងទ្រង់ទ្រាយធំ មានកាតព្វកិច្ចបង្កើតការការពារផ្នែកបច្ចេកទេស ដែលការពារការរួមភេទរបស់មនុស្សដែលអាចកំណត់អត្តសញ្ញាណបាន - និងជាពិសេសកុមារ - មុនពេលផលិតផលទៅដល់សាធារណៈជន។ ទឡ្ហីករណ៍នោះ ប្រសិនបើទទួលយកដោយតុលាការ អាចបង្កើតស្តង់ដារផ្លូវច្បាប់ដែលឈានដល់គ្រប់អ្នកផ្តល់សេវានៃម៉ូដែលជំនាន់រូបភាព។

បញ្ហាដែលមិនអាចដោះស្រាយបានរបស់ឧស្សាហកម្ម

សម្រាប់ក្រុមហ៊ុន AI ការការពារការប្រើប្រាស់ម៉ាស៊ីនបង្កើតរូបភាពខុសឆ្គងប្រឆាំងនឹងមនុស្សពិតបានបង្ហាញពីការពិបាករឹងរូស។ ឧបករណ៍សម្គាល់ទឹក និងភស្តុតាង - ដូចជា Anthropic ទាំងនោះបានចាប់ផ្តើមបន្ថែមទៅលើលទ្ធផលរបស់ Claude ដើម្បីអនុលោមតាមច្បាប់តម្លាភាពរបស់សហភាពអឺរ៉ុប - អាចជួយកំណត់អត្តសញ្ញាណខ្លឹមសារសំយោគបន្ទាប់ពីការពិត ប៉ុន្តែពួកគេមិនបញ្ឈប់ការបង្កើតសម្ភារៈបំពានតាំងពីដំបូងឡើយ។ តម្រងបញ្ចូល និងទិន្នផលអាចទប់ស្កាត់លំនាំដែលគេស្គាល់ ប៉ុន្តែអ្នកប្រើប្រាស់ដែលបានកំណត់នៅតែបន្តស្វែងរកដំណោះស្រាយ ហើយគំរូរូបភាពបើកចំហបានធ្វើឱ្យសមត្ថភាពមួយចំនួនមិនអាចរំលឹកឡើងវិញបានទាំងស្រុង។

ការចោទប្រកាន់នៅក្នុងករណី xAI ចង្អុលទៅចុងបញ្ចប់ដ៏ធ្ងន់ធ្ងរបំផុតនៃវិសាលគមនោះ៖ ការអះអាងថារូបថតតែមួយរបស់កុមារអាចត្រូវបានផ្លាស់ប្តូរទៅជារូបភាពច្បាស់លាស់រាប់ពាន់សន្លឹកដោយប្រើឧបករណ៍ដែលដំណើរការដោយក្រុមហ៊ុន AI ដ៏លេចធ្លោបំផុតមួយរបស់ពិភពលោក ដែលធ្វើទីផ្សារ Grok ដល់អតិថិជនរាប់លាននាក់ជាផលិតផលប្រើប្រាស់។

អ្នកជំនាញផ្នែកច្បាប់ដែលតាមដានករណីនេះនិយាយថា ការដេញថ្លៃសកម្មភាពថ្នាក់នឹងសាកល្បងថាតើតុលាការចាត់ទុកការបរាជ័យក្នុងការទប់ស្កាត់ការប្រើប្រាស់ខុសជាផលិតផលដែលក្រុមហ៊ុន AI ត្រូវទទួលខុសត្រូវ ឬជាការប្រើប្រាស់ខុសដោយអ្នកប្រើប្រាស់ម្នាក់ៗដែលមិនទទួលខុសត្រូវរបស់ក្រុមហ៊ុន។

តើមានអ្វីកើតឡើងបន្ទាប់

គោលដៅភ្លាមៗរបស់ដើមបណ្តឹងគឺការបញ្ជាក់ថ្នាក់ ដែលនឹងពង្រីកយ៉ាងខ្លាំងនូវក្រុមអ្នកទាមទារដែលមានសក្តានុពលប្រឆាំងនឹង xAI ។ សម្រាប់ផ្នែករបស់វា xAI បានប្រកែកក្នុងវិវាទពាក់ព័ន្ធថា ការទទួលខុសត្រូវចំពោះការប្រើប្រាស់ខុសគឺស្ថិតនៅលើអ្នកប្រើប្រាស់ មិនមែនឧបករណ៍នោះទេ។ ការបន្ថែមរបស់ Jane Doe 4 ជាមួយនឹងគណនីដ៏ស្រឡះនៃការចោទប្រកាន់ចំពោះកុមារ បង្កើនសម្ពាធសាធារណៈ និងនយោបាយជុំវិញការការពារនោះ។

ករណីនេះកំពុងលាតត្រដាងនៅពេលដែលនិយតករនៅសហរដ្ឋអាមេរិក និងអឺរ៉ុបជជែកគ្នាអំពីកាតព្វកិច្ចតម្លាភាព និងស្តង់ដារសុវត្ថិភាពសម្រាប់ AI ជំនាន់ ហើយជាភស្តុតាងប្រមូលផ្តុំថាការប្រើប្រាស់ខុសជំនាន់មិនត្រូវបានកំណត់ចំពោះឧបករណ៍ដែលជាប់ពាក់ព័ន្ធនោះទេ។ មិនថាចម្លើយមកដល់តុលាការ ក្នុងច្បាប់ ឬនៅក្នុងជម្រើសវិស្វកម្មរបស់ក្រុមហ៊ុន AI ខ្លួនឯងទេ សំណួរកណ្តាលនៃបណ្តឹង - តើការការពារគ្រោះថ្នាក់ប៉ុន្មានត្រូវតែត្រូវបានបង្កើតឡើងមុនពេលដែលផលិតផល AI ចេញដំណើរ - នៅតែជាបញ្ហាបើកចំហរដែលមិនស្រួលបំផុតរបស់ឧស្សាហកម្មនេះ។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →