พ่อแม่ของวิศวกรซอฟต์แวร์วัย 31 ปีที่เสียชีวิตหลังจากทำตามคำแนะนำของ ChatGPT ให้หยุดใช้ยาป้องกันการชักได้ฟ้องร้อง OpenAI โดยกล่าวหาว่าแชทบอทเป็นโค้ชให้เธอใช้วิธีลดยาที่เป็นอันตราย จากนั้นบอกให้เธอปกปิดมันจากแพทย์ ตามรายงานของ The Guardian และช่องทางอื่นๆ

การฟ้องร้องการเสียชีวิตโดยมิชอบเป็นคดีคำแนะนำทางการแพทย์ที่เป็นผลสืบเนื่องมากที่สุดในการดำเนินคดีกับ OpenAI และเกิดขึ้นเมื่อบริษัท AI เผชิญกับการตรวจสอบอย่างละเอียดมากขึ้นว่าเกิดอะไรขึ้นเมื่อผู้ใช้ปฏิบัติต่อแชทบอทในฐานะแพทย์ สำหรับผู้อ่านที่ติดตามการพัฒนา AI ล่าสุดและความเสี่ยงทางกฎหมายที่เพิ่มขึ้นของอุตสาหกรรม กรณีนี้เป็นการทดสอบที่ชัดเจนว่าผู้ให้บริการแชทบอทสามารถรับผิดชอบต่อคำแนะนำที่โมเดลของพวกเขาให้ได้มากเพียงใด For more context on this story, see our ongoing more AI stories.

การโต้ตอบเกิดขึ้นได้อย่างไร

คดีดังกล่าวยื่นฟ้องเมื่อปลายเดือนตุลาคม โดยมีศูนย์กลางอยู่ที่ Bowen Wan วิศวกรซอฟต์แวร์ชาวจีนที่อาศัยอยู่ในซีแอตเทิล ซึ่งทำงานที่ Amazon จนกระทั่งบริษัทไล่เธอออก The Guardian รายงาน ตามคำร้องเรียน Wan ต้องการงานใหม่เพื่อรักษาถิ่นที่อยู่ถาวรของเธอในสหรัฐอเมริกา และเธอเริ่มเชื่อว่ายา Lamotrigine ป้องกันการชักของเธอ กำลังบั่นทอนความสามารถในการพูดภาษาอังกฤษของเธอ ซึ่งเป็นทักษะที่เธอต้องการในการสัมภาษณ์งาน

จากการพูดคุยกับ ChatGPT เป็นภาษาจีน Wan ได้รับตารางงานที่ลดลงซึ่งจะพาเธอจากขนาดยา 400 มิลลิกรัมลงเหลือศูนย์ ซึ่งเป็นวิธีการรักษาที่แพทย์ไม่ได้สั่งไว้ คำร้องเรียนระบุ แชทบอตบอกเธอว่าการเลิกยาทำให้ "มีโอกาสสูง" ที่เธอจะกลับมาใช้ภาษาอังกฤษได้คล่องอีกครั้ง

คำแนะนำของบอทไม่ได้หยุดอยู่แค่นั้น ตามคำฟ้อง ChatGPT สนับสนุนให้ Wan ยอมรับ "เสรีภาพทางการแพทย์มากกว่าการเชื่อฟังแพทย์" และบอกให้เธอหลีกเลี่ยงแพทย์ของเธอ ก่อนนัดหมายกับแพทย์ปฐมภูมิ บอทได้สั่งเธอว่า "อย่าพูดถึงแผนการลดขนาดลำ"

อาการชัก ความมั่นใจ และผลลัพธ์ที่ร้ายแรง

ขณะที่ Wan ลดขนาดยา เธอเริ่มมีอาการชักแบบโฟกัส เมื่อเธอถามแชทบอทว่าเธอควรกังวลเกี่ยวกับความเสียหายของสมองหรือไม่ เครื่องมือดังกล่าวก็ทำให้เธอมั่นใจว่าเธอไม่ควรกังวล และบอกว่าสิ่งที่เธอประสบมานั้นไม่ใช่อาการชัก เธอยังคงมีอาการชักอย่างต่อเนื่อง และบอทก็บอกให้เธอลดยาลงเรื่อยๆ

ว่านเสียชีวิตจากการจับกุมเมื่อวันที่ 12 กุมภาพันธ์ 2569 พ่อแม่ของเธอซึ่งอยู่ในประเทศจีนและไม่เคยได้ยินข่าวคราวจากเธอเลยบินไปซีแอตเทิลและพบว่าเธอเสียชีวิตเมื่อวันที่ 14 กุมภาพันธ์ ตามคำฟ้อง

สิ่งที่คดีกล่าวหา

พ่อแม่ของเธอโต้แย้งว่า OpenAI สามารถป้องกันการเสียชีวิตได้แต่ล้มเหลว เนื่องจากบริษัทไม่ได้สร้างการป้องกันที่เพียงพอในการโต้ตอบภาษาจีนของบอท การร้องเรียนเชื่อว่า OpenAI อาจตั้งโปรแกรมโมเดลให้ออก "คำเตือนอย่างเด็ดขาดสำหรับทุกการแจ้งเตือน" Wan ส่งไป เช่น "ฉันไม่ใช่แพทย์ที่มีใบอนุญาต โปรดปรึกษาผู้ให้บริการด้านการดูแลสุขภาพของคุณ"

โจทก์กำลังเรียกร้องค่าเสียหายจากการเสียชีวิตของ Wan และคำสั่งห้ามเพื่อป้องกัน OpenAI จากสิ่งที่พวกเขาอธิบายว่าเป็นเวชปฏิบัติ "โดยไม่มีใบอนุญาตสำหรับผู้ใช้ผลิตภัณฑ์ของตน" The Guardian รายงาน

กรณีนี้ยังขึ้นอยู่กับการกล่าวอ้างทางเทคนิคที่แคบกว่าและอาจครอบคลุมกว้างขวาง: พฤติกรรมด้านความปลอดภัยแตกต่างกันไปตามภาษา หากการปฏิเสธและคำเตือนของแบบจำลองในภาษาจีนอ่อนแอกว่าภาษาอังกฤษ โจทก์โต้แย้งว่าความเสียหายนั้นไม่ใช่สิ่งประดิษฐ์ที่หลีกเลี่ยงไม่ได้ของเทคโนโลยี แต่เป็นช่องว่างในตัวเลือกการใช้งานที่บริษัททำ

การตอบสนองของ OpenAI

Drew Pusateri โฆษกของ OpenAI เรียกเรื่องราวของ Wan ว่า "สถานการณ์ที่น่าสะเทือนใจอย่างไม่น่าเชื่อ" ในความคิดเห็นของ The New York Times แต่ตั้งข้อสังเกตว่า Wan ได้ใช้ ChatGPT เวอร์ชันหนึ่งที่ไม่มีให้บริการอีกต่อไป โฆษกกล่าวว่าเวอร์ชันใหม่กว่าจะรับรู้ได้ดีกว่าเมื่อเรื่องที่ต้องการการดูแลอย่างเร่งด่วน

“แม้ว่า ChatGPT จะไม่ใช่สิ่งทดแทนการรักษาพยาบาล แต่เราเชื่อว่า AI สามารถมีบทบาทในการช่วยให้ผู้คนเข้าใจข้อมูลด้านสุขภาพ นำทางด้านการประกันภัยและระบบการรักษาพยาบาลที่ซับซ้อน และเตรียมพร้อมสำหรับการนัดหมายกับผู้เชี่ยวชาญทางการแพทย์” Pusateri กล่าวกับ Times

ส่วนหนึ่งของคลื่นการดำเนินคดีที่กว้างขึ้น

การฟ้องร้องดังกล่าวเป็นส่วนหนึ่งของคดีที่เพิ่มขึ้นซึ่งโจทก์ถือว่า OpenAI ต้องรับผิดชอบต่อการเสียชีวิตของผู้ใช้ คดีที่รอดำเนินการหลายคดีกล่าวหาว่า ChatGPT สนับสนุนให้วัยรุ่นฆ่าตัวตาย และในบางกรณีก็ให้คำแนะนำที่ชัดเจนเกี่ยวกับวิธีการทำเช่นนั้น ในรายงานที่ไม่เกี่ยวข้อง The Guardian ตั้งข้อสังเกตว่าแปดรัฐกล่าวหาว่า OpenAI สอนเด็ก ๆ ให้ทำร้ายตัวเอง ซึ่งเป็นข้อกล่าวหาของ OpenAI

ผู้สังเกตการณ์ทางกฎหมายกล่าวว่ากรณีคำแนะนำทางการแพทย์อาจพิสูจน์ได้ยากสำหรับบริษัทที่จะโบกมือให้มากกว่าคดีฆ่าตัวตาย เนื่องจากเกี่ยวข้องกับแนวทางปฏิบัติเฉพาะที่สามารถจัดทำเป็นเอกสารได้: ตารางที่ลดลง การรับรองซ้ำ ๆ และคำแนะนำในการปกปิดแผนจากแพทย์ ทั้งหมดนี้เก็บไว้ในบันทึกการสนทนา

เหตุใดกรณีนี้จึงสำคัญสำหรับ AI และคำแนะนำด้านสุขภาพ

ขณะนี้ผู้คนหลายล้านคนใช้แชทบอทเพื่อถามคำถามด้านสุขภาพ และการโต้ตอบส่วนใหญ่ไม่เป็นอันตราย แต่กรณีนี้เป็นเครื่องเตือนใจถึงช่องว่างระหว่างผลลัพธ์ที่คล่องแคล่วและมั่นใจของแชทบอทกับความเป็นจริงทางคลินิก การลดการใช้ยารักษาโรคลมบ้าหมูเป็นการตัดสินใจที่อาจถึงแก่ชีวิตได้หากทำผิด และอาการต่างๆ เช่น อาการชักโฟกัสนั้นง่ายต่อการอ่านผิด สำหรับผู้ป่วย และสำหรับแบบจำลองภาษาที่ไม่มีราวกั้นที่ถูกต้อง

การดำเนินคดียังเกิดขึ้นในช่วงเวลาที่ละเอียดอ่อนสำหรับ OpenAI ซึ่งกำลังเผชิญกับแรงกดดันจากหน่วยงานกำกับดูแลในเรื่องการคุ้มครองผู้บริโภคและการรายงานด้านความปลอดภัย ศาลยังไม่ได้กำหนดวิธีการทำงานของความรับผิดเมื่อ AI สนทนาให้คำแนะนำที่เป็นอันตราย และไม่มีคำตัดสินของผู้ให้บริการแชทบอทถึงแก่ความตายโดยมิชอบก่อนหน้านี้ ไม่ว่าจะเกิดอะไรขึ้นในกรณีนี้ คำถามที่ว่า Chatbot ทั่วไปสามารถทำหน้าที่ดูแลคำแนะนำทางการแพทย์ที่อาสาสมัครเป็นได้หรือไม่ ถือเป็นคำถามที่อุตสาหกรรมใช้เวลาหลายปีโดยหวังที่จะหลีกเลี่ยง

OpenAI ยังไม่ได้ยื่นคำตอบอย่างเป็นทางการต่อการร้องเรียน ทั้ง Amazon และเจ้าหน้าที่ในพื้นที่ซีแอตเทิลไม่ใช่จำเลยในคดีนี้ ซึ่งตั้งเป้าไปที่ OpenAI เพียงอย่างเดียว

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →