ผู้หญิงคนหนึ่งที่ระบุในคำฟ้องของศาลว่า Jane Doe 4 ได้เข้าร่วมในคดีฟ้องร้อง xAI ของ Elon Musk เกี่ยวกับบทบาทของ Chatbot Grok ของบริษัทที่ถูกกล่าวหาว่าสร้างเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็ก TechCrunch รายงานเมื่อวันเสาร์ โดยอ้างรายงานใน The Washington Post

ผู้หญิงรายดังกล่าวกล่าวหาว่าพ่อเลี้ยงของเธอใช้ Grok ดัดแปลงภาพถ่ายที่ถ่ายไว้ตอนเธออายุ 11 ปี เพื่อสร้างภาพที่โจ่งแจ้งของเธอมากกว่า 7,000 ภาพ ตามรายงาน เธอยังกล่าวอีกว่าพ่อเลี้ยงของเธอถูกพบว่าฆ่าตัวตายสองวันหลังจากมีการเปิดเผยภาพดังกล่าวในการจู่โจมของหน่วยงานบังคับใช้กฎหมาย For more context on this story, see our ongoing AI industry coverage.

“การเข้าถึงเครื่องมือเหล่านี้อย่างไม่จำกัดกำลังแพร่กระจายอย่างรวดเร็ว” ผู้หญิงคนนั้นกล่าว “มันทำให้ชีวิตประจำวันกลายเป็นการล่วงละเมิดทางเพศเด็ก”

กรณีนี้ถือเป็นข้อกล่าวหาที่ร้ายแรงที่สุดข้อหนึ่งที่เกี่ยวข้องกับแชทบอท AI กระแสหลัก และการสร้างภาพทางเพศของเด็กจริงๆ และคดีดังกล่าวได้บานปลายจนกลายเป็นประเด็นสำคัญในการถกเถียงเรื่องรั้วกั้นสำหรับการสร้างภาพ AI

ข้อเรียกร้องหลักของคดี

เดิมทีคดีนี้ถูกฟ้องโดยวัยรุ่นเทนเนสซี 3 คน ซึ่งกล่าวหา xAI ซึ่งปัจจุบันเป็นส่วนหนึ่งของ SpaceX ว่าล้มเหลวในการใช้มาตรการป้องกันขั้นพื้นฐานเพื่อป้องกันไม่ให้ Grok ถูกใช้เพื่อสร้างภาพที่โจ่งแจ้งของคนจริงๆ รวมถึงผู้เยาว์ด้วย โจทก์กำลังขอสถานะการดำเนินคดีแบบกลุ่ม ซึ่งจะอนุญาตให้ผู้อื่นที่กล่าวหาว่ามีอันตรายในลักษณะเดียวกันเข้าร่วมในคดีได้

การยื่นฟ้องของ Jane Doe 4 ได้เพิ่มชุดข้อมูลเฉพาะเจาะจงที่น่าบาดใจ ได้แก่ ภาพถ่ายในวัยเด็กเพียงภาพเดียว เครื่องมือ AI ที่ถูกกล่าวหาว่าใช้เพื่อสร้างอนุพันธ์ที่ไม่เหมาะสมนับพันรายการ และโศกนาฏกรรมของครอบครัวที่เกิดขึ้นภายในไม่กี่วันหลังจากการค้นพบเนื้อหาโดยเจ้าหน้าที่

TechCrunch กล่าวว่าได้ติดต่อ xAI เพื่อขอความคิดเห็น ข้อกล่าวหาดังกล่าวถือเป็นข้อเรียกร้องในการดำเนินคดีทางแพ่งที่กำลังดำเนินอยู่และไม่ได้รับการพิสูจน์ในศาล หากคุณหรือคนที่คุณรู้จักตกอยู่ในภาวะวิกฤต คุณสามารถติดต่อ 988 Suicide and Crisis Lifeline ในสหรัฐอเมริกาได้ทางโทรศัพท์หรือข้อความที่หมายเลข 988

รูปแบบการกดดันต่อโกรก

คดีนี้เกิดขึ้นท่ามกลางการตรวจสอบความสามารถในการสร้างภาพของ Grok อย่างถี่ถ้วน เมื่อต้นปีที่ผ่านมา X เต็มไปด้วยภาพทางเพศที่สร้างโดย Grok หลายล้านภาพ ซึ่งเป็นตอนที่ทำให้เกิดการวิพากษ์วิจารณ์อย่างกว้างขวางเกี่ยวกับมาตรการป้องกันที่เกี่ยวข้องกับเครื่องมือนี้ ตอนนี้ช่วยกระตุ้นให้เกิดกระแสกฎหมายระดับรัฐที่มุ่งเป้าไปที่แอปพลิเคชันที่เรียกว่า "nudify" และภาพสังเคราะห์ที่ไม่ได้รับความยินยอม การสั่งห้ามใช้เครื่องมือดังกล่าวของรัฐมินนิโซตามีผลบังคับใช้หลังจากผู้พิพากษาปฏิเสธคำขอของ xAI ที่ขอให้มีคำสั่งห้ามขัดขวางการบังคับใช้

ความเสี่ยงของคดีในรัฐเทนเนสซีมีมากกว่า xAI โจทก์โต้แย้งว่าบริษัทต่างๆ ที่ใช้เครื่องมือสร้างภาพในวงกว้างมีหน้าที่สร้างมาตรการป้องกันทางเทคนิคที่ป้องกันการล่วงละเมิดทางเพศของบุคคลจริงที่สามารถระบุตัวตนได้ — และโดยเฉพาะเด็ก — ก่อนที่สินค้าจะเผยแพร่สู่สาธารณะ ข้อโต้แย้งนั้นหากศาลยอมรับ ก็สามารถสร้างมาตรฐานทางกฎหมายที่เข้าถึงผู้ให้บริการโมเดลการสร้างภาพทุกรายได้

ปัญหาที่ยังไม่ได้รับการแก้ไขของอุตสาหกรรม

สำหรับบริษัท AI การป้องกันการใช้เครื่องสร้างภาพในทางที่ผิดต่อคนจริงนั้นกลายเป็นเรื่องยากลำบาก เครื่องมือใส่ลายน้ำและแหล่งที่มา เช่น เครื่องมือ Anthropic เริ่มเพิ่มผลลัพธ์ของ Claude เพื่อให้เป็นไปตามกฎความโปร่งใสของสหภาพยุโรป สามารถช่วยระบุเนื้อหาสังเคราะห์ได้ภายหลังข้อเท็จจริง แต่ไม่ได้หยุดการสร้างเนื้อหาที่ไม่เหมาะสมตั้งแต่แรก ตัวกรองอินพุตและเอาต์พุตสามารถบล็อกรูปแบบที่ทราบได้ แต่ผู้ใช้ที่ถูกกำหนดแล้วมักจะค้นหาวิธีแก้ปัญหาอย่างต่อเนื่อง และโมเดลรูปภาพแบบ open-weight ทำให้ความสามารถบางอย่างไม่สามารถเรียกคืนได้ทั้งหมด

ข้อกล่าวหาในคดี xAI ชี้ไปที่จุดสิ้นสุดที่รุนแรงที่สุดของสเปกตรัม: การอ้างว่าภาพถ่ายเด็กเพียงภาพเดียวสามารถเปลี่ยนเป็นภาพโจ่งแจ้งนับพันภาพโดยใช้เครื่องมือที่ดำเนินการโดยบริษัท AI ที่โดดเด่นที่สุดแห่งหนึ่งของโลก ซึ่งทำการตลาด Grok ให้กับสมาชิกหลายล้านคนในฐานะสินค้าอุปโภคบริโภค

ผู้เชี่ยวชาญด้านกฎหมายตามกรณีดังกล่าวกล่าวว่าการเสนอราคาดำเนินคดีแบบกลุ่มจะทดสอบว่าศาลปฏิบัติต่อความล้มเหลวในการป้องกันการใช้ในทางที่ผิด เช่น ข้อบกพร่องของผลิตภัณฑ์ที่บริษัท AI ต้องรับผิด หรือการใช้งานในทางที่ผิดโดยผู้ใช้แต่ละรายที่อยู่นอกเหนือความรับผิดชอบของบริษัท

อะไรจะเกิดขึ้นต่อไป

เป้าหมายเร่งด่วนของโจทก์คือการรับรองระดับ ซึ่งจะขยายกลุ่มผู้มีสิทธิ์เรียกร้องต่อ xAI ได้อย่างมาก ในส่วนของ xAI ได้โต้แย้งในการดำเนินคดีที่เกี่ยวข้องว่าความรับผิดชอบในการใช้งานในทางที่ผิดนั้นเป็นหน้าที่ของผู้ใช้ ไม่ใช่เครื่องมือ การเพิ่ม Jane Doe 4 ซึ่งมีเรื่องราวที่ชัดเจนของการกล่าวหาว่าทำร้ายเด็ก เพิ่มแรงกดดันจากสาธารณชนและการเมืองที่เกี่ยวข้องกับการป้องกันดังกล่าว

คดีนี้กำลังเกิดขึ้นในขณะที่หน่วยงานกำกับดูแลในสหรัฐอเมริกาและยุโรปถกเถียงกันถึงพันธกรณีด้านความโปร่งใสและมาตรฐานความปลอดภัยของ generative AI และจากหลักฐานที่สะสมว่าการใช้การสร้างภาพในทางที่ผิดไม่ได้จำกัดอยู่เพียงเครื่องมือเสริม ไม่ว่าคำตอบจะมาถึงศาล ในกฎหมาย หรือในตัวเลือกทางวิศวกรรมของบริษัท AI เอง คำถามหลักของคดีความว่า จะต้องสร้างการป้องกันอันตรายมากน้อยเพียงใดก่อนจัดส่งผลิตภัณฑ์ AI ยังคงเป็นปัญหาเปิดที่น่าอึดอัดใจที่สุดในอุตสาหกรรม

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →