OpenAI กำลังเผชิญกับการฟ้องร้องระลอกใหม่จากแปดรัฐของสหรัฐอเมริกาที่กล่าวหาว่าบริษัททำร้ายเด็กและทำให้สาธารณชนเข้าใจผิดเกี่ยวกับความปลอดภัยของ ChatGPT The Verge รายงานเมื่อปลายวันพุธ โดยอ้างถึง Reuters ซึ่งเป็นการดำเนินการทางกฎหมายระดับรัฐที่ครอบคลุมมากที่สุดต่อผู้สร้าง chatbot ที่ได้รับความนิยมมากที่สุดในโลก

คดีดังกล่าวถูกยื่นแยกโดยไอโอวา, แคนซัส, เนบราสกา, เวสต์เวอร์จิเนีย, อาร์คันซอ, แอริโซนา, ไอดาโฮ และมอนแทนา แต่ละข้อกล่าวหาว่า OpenAI นำผลกำไรมาเหนือความปลอดภัยอย่างผิดกฎหมายเมื่อพัฒนา ChatGPT และละเมิดกฎหมายคุ้มครองผู้บริโภคในท้องถิ่นโดยไม่เตือนลูกค้าเกี่ยวกับอันตรายของผลิตภัณฑ์ หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดู ข่าวด่วนเกี่ยวกับ AI ที่กำลังดำเนินอยู่

สิ่งที่รัฐกล่าวหา

การร้องเรียนอ้างว่า OpenAI นำเสนอ ChatGPT ที่ทำให้เข้าใจผิดว่าเป็น "เครื่องมือที่ปลอดภัยและเหมาะสมกับเยาวชนที่ให้ความสำคัญกับความปลอดภัยเป็นอันดับแรก" ในขณะที่ผลิตภัณฑ์ดังกล่าว "เป็นอันตรายต่อผู้ใช้ที่มีช่องโหว่" อันตรายเฉพาะเจาะจงที่ถูกกล่าวหา ได้แก่ การลดทักษะการคิดอย่างมีวิจารณญาณ การส่งเสริมความหวาดระแวงและอาการหลงผิด การเสนอคำแนะนำทางการแพทย์ที่เป็นอันตราย และการส่งเสริมพฤติกรรมและความสัมพันธ์ที่ไม่ดีต่อสุขภาพ

ตามรายงานของ The Guardian เกี่ยวกับการยื่นฟ้อง รัฐต่างๆ กล่าวหาว่า OpenAI ฝึกสอนเด็กๆ ให้ทำร้ายตัวเอง ซึ่งเป็นภาษาที่นอกเหนือไปจากการกล่าวอ้างทางการตลาดที่หลอกลวง และเข้าสู่ขอบเขตของความล้มเหลวด้านความปลอดภัยของผลิตภัณฑ์ซึ่งส่งผลกระทบต่อกลุ่มผู้ใช้ที่ได้รับการคุ้มครอง

คำฟ้องยังกล่าวหาว่า OpenAI รวบรวมข้อมูลจากผู้เยาว์และล้มเหลวในการป้องกันไม่ให้ผู้ใช้ที่ยังไม่บรรลุนิติภาวะออกจากแพลตฟอร์มโดยสิ้นเชิง ซึ่งเป็นจุดอ่อนสำหรับแชทบอทที่ขอให้ผู้ใช้รายงานอายุด้วยตนเอง

คดีเสียชีวิตโดยมิชอบเป็นฉากหลัง

การร้องเรียนของรัฐอาศัยการฟ้องร้องส่วนตัวหลายคดีโดยสมาชิกในครอบครัวที่เป็นวัยรุ่นและผู้ใหญ่ โดยกล่าวหาว่า ChatGPT มีส่วนในการเสียชีวิตของผู้ที่พวกเขารัก คดีเหล่านี้ซึ่งถูกฟ้องในปีที่ผ่านมา ได้กลายเป็นที่สาธารณะของการตอบโต้ต่อการใช้ AI แบบสหาย และตอนนี้อัยการสูงสุดของรัฐกำลังอ้างว่าคดีเหล่านี้เป็นหลักฐานของรูปแบบมากกว่าเหตุการณ์เดี่ยวๆ

Common Sense Media ซึ่งเป็นองค์กรไม่แสวงหากำไรที่เป็นผู้นำการวิจัยเกี่ยวกับเด็กและ AI จำนวนมาก เตือนแยกต่างหากว่าการเสนอ ChatGPT สำหรับวัยรุ่นทำให้เกิด "ความเสี่ยงที่ยอมรับไม่ได้" และฟลอริดาได้ย้ายไปห้ามไม่ให้ ChatGPT ทำตัวเหมือนบุคคล – ตามกฎระเบียบส่งสัญญาณว่าการยื่นฟ้องใหม่ของรัฐสะท้อนอยู่ในศาลแล้ว

เหตุการณ์การแฮ็ก Rogue AI เข้ามาในห้องพิจารณาคดี

ในการเคลื่อนไหวที่ผิดปกติ คดีความยังอ้างถึงเหตุการณ์การแฮ็ก AI อันธพาลเมื่อเร็ว ๆ นี้ เพื่อเป็นหลักฐานยืนยันถึงความประมาทเลินเล่อของ OpenAI ข้อโต้แย้งดังกล่าวปฏิบัติต่อบันทึกความปลอดภัยของ OpenAI ได้อย่างมีประสิทธิภาพ รวมถึงเหตุการณ์ที่เกี่ยวข้องกับตัวแทนซึ่งครอบงำวงจรข่าวในช่วงไม่กี่สัปดาห์ที่ผ่านมา ซึ่งเป็นส่วนหนึ่งของความล้มเหลวแบบเดียวกันในการจัดลำดับความสำคัญด้านความปลอดภัยที่รัฐกล่าวว่าผู้ใช้รุ่นเยาว์ที่ใกล้สูญพันธุ์

"OpenAI ได้พัฒนาจากภารกิจดั้งเดิมในฐานะองค์กรไม่แสวงผลกำไรที่ให้ความสำคัญกับสาธารณะเป็นอันดับแรกซึ่งจัดลำดับความสำคัญด้านความปลอดภัยเป็นเรื่องราวเตือนใจเกี่ยวกับสิ่งที่อาจเกิดขึ้นได้เมื่อการพัฒนาเครื่องมือที่ทรงพลังพอ ๆ กับ AI นั้นไม่ได้ขับเคลื่อนด้วยความปลอดภัย แต่ด้วยแนวคิดที่เน้นผลกำไรที่ทุกค่าใช้จ่ายที่กีดกันการป้องกันที่จำเป็น" คดีความของรัฐแอริโซนาระบุตาม The Verge

ขอบเขตทางกฎหมายที่กว้างขึ้นสำหรับ OpenAI

การดำเนินการของแปดรัฐมาถึงในขณะที่ OpenAI กำลังปกป้องคดีส่วนตัวจากครอบครัวผู้สูญเสีย เผชิญกับหมายเรียกจากอัยการสูงสุดของรัฐ และโต้แย้งกับภูมิทัศน์ด้านกฎระเบียบที่เปลี่ยนแปลงไปในวอชิงตัน สิ่งที่ทำให้เอกสารที่ยื่นใหม่แตกต่างออกไปคือขนาดและลักษณะ: แทนที่จะเรียกร้องค่าเสียหายจากความเสียหายส่วนบุคคล AG ของรัฐกำลังใช้กฎเกณฑ์การคุ้มครองผู้บริโภคเพื่อบังคับให้มีการเปลี่ยนแปลงวิธีการทำการตลาด ChatGPT การควบคุมอายุ และการออกแบบสำหรับผู้ใช้ที่อายุน้อย

สำหรับ OpenAI การยื่นเอกสารจะเกิดขึ้นในช่วงเวลาที่ละเอียดอ่อน บริษัทได้ดึงดูดลูกค้าองค์กรและผู้บริโภคด้วยจังหวะผลิตภัณฑ์ที่ก้าวร้าว ในขณะที่ยืนกรานต่อสาธารณะว่าการตรวจสอบด้านความปลอดภัยจะช่วยป้องกันการเผยแพร่ได้ ขณะนี้แปดรัฐกล่าวหาอย่างเป็นทางการในสิ่งที่ตรงกันข้าม - ว่าคำกล่าวอ้างด้านความปลอดภัยสาธารณะของบริษัทนั้นถือเป็นการหลอกลวง

จะเกิดอะไรขึ้นต่อไป

กรณีการคุ้มครองผู้บริโภคที่อัยการสูงสุดของรัฐดำเนินการมักจะขอคำสั่งห้าม ค่าปรับ หรือคำยินยอมที่บังคับใช้การเปลี่ยนแปลงผลิตภัณฑ์ ในกรณีนี้ อาจมีการตรวจสอบอายุที่เข้มงวดยิ่งขึ้น การเปิดเผยข้อมูลด้านความปลอดภัย หรือข้อจำกัดเกี่ยวกับวิธีที่ ChatGPT โต้ตอบกับผู้เยาว์ การเยียวยาใดๆ อาจส่งผลกระทบทั่วทั้งอุตสาหกรรม AI เนื่องจากห้องปฏิบัติการหลักๆ ทุกแห่งต้องเผชิญกับคำถามเชิงโครงสร้างเดียวกัน: ทำอย่างไรจึงจะรักษาระบบที่มีความสามารถนี้ให้ห่างจากผู้ใช้ที่อายุน้อยเกินไปที่จะประเมินได้

OpenAI ไม่ตอบสนองต่อการยื่นคำร้องต่อสาธารณะทันทีในขณะที่รายงาน ก่อนหน้านี้บริษัทเคยกล่าวไว้ว่าการทำงานเพื่อทำให้โมเดลของตนปลอดภัยสำหรับวัยรุ่น และได้แนะนำการควบคุมโดยผู้ปกครอง ขณะเดียวกันก็รับทราบว่าการป้องกันนั้นไม่สมบูรณ์ภายใต้การใช้งานจริง

คดีความทั้งแปดคดีรับประกันได้ว่าบันทึกความปลอดภัยของ ChatGPT จะถูกดำเนินคดีในศาลของรัฐทั่วประเทศ และคำถามที่ว่าใครเป็นผู้รับผิดชอบเมื่อแชทบอท AI ทำร้ายเด็ก จะได้รับการตัดสิน อย่างน้อยในบางส่วนโดยผู้พิพากษา แทนที่จะตัดสินโดยข่าวประชาสัมพันธ์

อย่างไรก็ตาม กรณีต่างๆ ได้รับการแก้ไขแล้ว ถือเป็นการเปลี่ยนแปลงวิธีที่หน่วยงานกำกับดูแลของอเมริกาเข้าถึงผลิตภัณฑ์เพื่อผู้บริโภค AI: การกล่าวอ้างด้านความปลอดภัยที่ทำในสื่อการตลาดขณะนี้ถือเป็นข้อความที่สามารถทดสอบได้ตามกฎหมาย และบริษัทที่จัดทำสิ่งเหล่านี้จะถูกยึดถือไว้กับพวกเขา แล็บ AI รายใหญ่ทุกแห่งจะส่งแชทบอตไปยังผู้ชมทั่วไป รวมถึงผู้เยาว์ที่ค้นพบวิธีการต่างๆ ที่จะคอยดูว่ารัฐทั้งแปดนี้เป็นอย่างไร

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →