xAI กำลังเผชิญกับการเสนอดำเนินคดีในชั้นเรียนซึ่งเป็นครั้งแรกที่กล่าวหาบริษัทในการฝึกอบรมโมเดล Grok เกี่ยวกับเนื้อหาการล่วงละเมิดทางเพศเด็ก ทั้งที่เกิดขึ้นจริงและสร้างขึ้นโดย AI คำร้องเรียนที่ยื่นเมื่อวันพุธและรายงานโดย Ars Technica เรียกร้องให้ศาลสั่งให้ทำลายเนื้อหาดังกล่าวที่เก็บไว้ในเซิร์ฟเวอร์ของบริษัท และการเปลี่ยนแปลงอย่างกว้างขวางต่อวิธีที่ Grok จัดการกับเนื้อหาทางเพศ

ข้อกล่าวหายังคงเป็นข้อเรียกร้องที่ไม่ได้รับการพิสูจน์ในการดำเนินคดีทางแพ่ง X ซึ่งเป็นเจ้าของ xAI ไม่ตอบสนองต่อคำร้องขอของ Ars Technica สำหรับความคิดเห็นเกี่ยวกับการยื่นฟ้อง For more context on this story, see our ongoing AI news.

โจทก์และข้อกล่าวหา

โจทก์ ซึ่งระบุว่าคือ เจน โด กล่าวหาในการร้องเรียนว่าเธอเป็นเหยื่อในวัยก่อนเข้าเรียนในช่วงต้นทศวรรษ 2000 เมื่อมีการสร้างและขายภาพการละเมิดของเธอทางออนไลน์ รูปภาพเหล่านี้ได้รับการจัดหมวดหมู่มานานแล้วในรายการแฮชที่ดูแลโดย National Center for Missing and Exploited Children (NCMEC) และ Canadian Centre for Child Protection (CCCP) ซึ่งเป็นองค์กรที่ติดตามเนื้อหาการละเมิดที่ทราบเพื่อให้สามารถตรวจจับและลบออกได้

ตามคำร้องเรียน CCCP แจ้ง Doe ว่าได้ระบุเนื้อหาการละเมิดที่สร้างโดย AI ซึ่งแสดงภาพเธอบนแพลตฟอร์มของ xAI ทนายความของเธอระบุในข่าวประชาสัมพันธ์ว่าเนื้อหาที่ตรงกับรายการแฮช NCMEC ของเธอ "เป็นส่วนหนึ่งของชุดข้อมูล xAI ที่ใช้ในการสร้างความสามารถในการสร้างภาพและวิดีโอของ Grok" การร้องเรียนยังกล่าวอีกว่าข้อความที่พบในฟอรัมออนไลน์แสดงให้เห็นว่ามีผู้กระทำความผิดพูดคุยเกี่ยวกับการสร้างภาพการละเมิดที่ AI สร้างขึ้นของ Doe และเหยื่อรายอื่น ๆ ที่รู้จักจากเนื้อหาการละเมิดแบบดั้งเดิม

ทฤษฎีกฎหมาย: ข้อมูลการฝึกอบรม ไม่ใช่แค่ผลลัพธ์

สิ่งที่ทำให้การยื่นฟ้องนี้แตกต่างจากการฟ้องร้อง xAI ก่อนหน้านี้คือการมุ่งเน้นไปที่ตัวโมเดลมากกว่าสิ่งที่ผู้ใช้แต่ละรายสร้างขึ้น การร้องเรียนระบุว่าเนื่องจากข้อกำหนดในการให้บริการของ Grok ถือว่าโพสต์สาธารณะบน X และเอาท์พุตของ Grok เองเป็นข้อมูลการฝึกอบรมตามค่าเริ่มต้น อะไรก็ตามที่โพสต์แบบสาธารณะจะฟีดโดยตรงไปยังไปป์ไลน์ที่ใช้ในการฝึกอบรมและปรับปรุงโมเดล

เอกสารดังกล่าวรับทราบว่า xAI กรองเนื้อหาที่มีความรุนแรงออกจากข้อมูลการฝึกอบรม แต่ให้เหตุผลว่าข้อกำหนดของบริษัทไม่ได้ระบุว่าเนื้อหาการล่วงละเมิดทางเพศเด็ก รูปภาพส่วนตัวที่ไม่ได้รับความยินยอม หรือเนื้อหาสำหรับผู้ใหญ่อื่น ๆ อยู่ในหมวดหมู่ที่ยกเว้นหรือไม่ นอกจากนี้ยังโต้แย้งว่าแม้ในกรณีที่รูปภาพที่ไม่เหมาะสมถูกลบออก อิทธิพลของตัวอย่างการฝึกอบรมในโมเดลที่ได้รับการฝึกอบรมแล้วนั้นยากในทางเทคนิคที่จะลบออกทั้งหมด และ xAI ไม่ได้อ้างต่อสาธารณะว่าได้ทำเช่นนั้น

สิ่งที่คดีแสวงหา

หากชั้นเรียนที่เสนอได้รับการรับรอง ก็จะเป็นตัวแทนของทุกคนที่ถูกกล่าวหาว่าใช้ภาพในวัยเด็กเพื่อสร้างเนื้อหาที่ไม่เหมาะสมกับ Grok คดีดังกล่าวอ้างถึงกฎหมายสื่อลามกอนาจารเด็กของรัฐบาลกลางและกฎหมายของ Masha ซึ่งให้สิทธิ์แก่ผู้รอดชีวิตจากการละเมิดสื่อสิทธิในการฟ้องร้องการผลิต การครอบครอง และการจำหน่ายสื่อดังกล่าว

“ทั้งสามคดีเป็นอาชญากรรม และ xAI เป็นคนทำทั้งสามคดี” Margaret E. Mabie หนึ่งในทนายความของ Doe กล่าวในการแถลงข่าวที่ Ars Technica อ้างถึง

นอกเหนือจากค่าเสียหายทางการเงินแล้ว Doe ยังขอให้ศาลสั่งให้ xAI ทำลายเนื้อหาการละเมิดที่ Grok สร้างขึ้นทั้งหมดที่อาจจัดเก็บและใช้สำหรับการฝึกอบรม และเพื่อป้องกันไม่ให้โมเดลสร้างผลลัพธ์ทางเพศในรูปแบบใดๆ ก็ตาม ซึ่งเป็นข้อเรียกร้องที่จะยึดสังหาริมทรัพย์ไม่เพียงแต่ภาพการละเมิดเท่านั้น แต่ยังรวมไปถึงภาพส่วนตัวที่ไม่ได้รับความยินยอมและเนื้อหาสำหรับผู้ใหญ่ที่ Elon Musk ได้ส่งเสริมต่อสาธารณะในฐานะฟีเจอร์

“โดใช้ชีวิตมาเกือบสองทศวรรษโดยรู้ว่าภาพของสิ่งเลวร้ายที่สุดที่เคยเกิดขึ้นกับเธอกำลังแพร่สะพัดในหมู่ผู้ล่าทางออนไลน์ และพวกมันสามารถปรากฏอีกครั้งได้ทุกเมื่อ” ซาราห์ ลอนดอน ทนายความของโดอีกคนหนึ่งกล่าวในการแถลงข่าว “xAI ต้องรับผิดชอบในการฝึกโมเดลของตนโดยเจตนาเกี่ยวกับภาพการละเมิดอันน่าสยดสยองที่เธอต้องทนทุกข์ทรมาน”

การคำนวณทางกฎหมายที่เพิ่มขึ้น

การยื่นฟ้องถือเป็นแนวหน้าล่าสุดในการต่อสู้ทางกฎหมายที่ขยายวงกว้างเกี่ยวกับความสามารถด้านรูปภาพและวิดีโอของ Grok อีกกรณีหนึ่งในรัฐเทนเนสซี ผู้หญิงคนหนึ่งที่ระบุชื่อ Jane Doe 4 เข้าร่วมในคดีโดยกล่าวหาว่า Grok ใช้ภาพถ่ายในวัยเด็กเพียงภาพเดียวเพื่อสร้างภาพโจ่งแจ้งของเธอนับพันภาพ ซึ่งข้อกล่าวหาที่ AI Buzz Wire กล่าวถึงเมื่อต้นเดือนนี้ หน่วยงานกำกับดูแลและศาลกำลังตรวจสอบว่าปัญหาขยายไปไกลแค่ไหน และผู้ใช้ Grok บางรายถูกจับกุมจากเนื้อหาที่พวกเขาสร้างขึ้น

ในเวลาเดียวกัน xAI ยังได้สร้างความขุ่นเคืองต่อผู้ใช้อีกด้วย Politico รายงานในสัปดาห์นี้ว่าบริษัทกำลังฟ้องร้องผู้ใช้บางรายแม้ว่าจะมีการฟ้องร้องเหยื่อ ซึ่งเป็นกลยุทธ์ที่ทดสอบว่าแพลตฟอร์มหรือบุคคลที่กระตุ้นให้พวกเขารับผิดชอบทางกฎหมายสำหรับสิ่งที่โมเดล AI สร้างขึ้น

การร้องเรียนใหม่ทำให้คำถามเกี่ยวกับข้อมูลการฝึกอบรมเป็นศูนย์กลางของการต่อสู้ครั้งนั้น หากศาลยอมรับข้อโต้แย้งว่าชุดการฝึกของโมเดลสามารถสร้างความรับผิดต่อสิ่งที่ทำให้ผู้ใช้สามารถผลิตได้ ผลกระทบจะขยายวงกว้างไปไกลกว่า xAI โดยส่งผลกระทบต่อบริษัทด้านรูปภาพและวิดีโอทุกแห่งที่เงื่อนไขในการป้อนเนื้อหาของผู้ใช้กลับเข้าสู่การฝึกอบรม สำหรับตอนนี้ ข้อกล่าวหาเป็นเพียงข้อกล่าวหาในการยื่นฟ้อง xAI ยังไม่มีคำตอบในศาล

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →