ศาลฎีกาของรัฐนิวเม็กซิโกได้อนุมัติทนายความสำหรับการยื่นอุทธรณ์คดีฆาตกรรมที่สร้างจากพยานที่ไม่เคยมีตัวตน ซึ่งประดิษฐ์ขึ้นโดย ChatGPT ซึ่งเป็นหนึ่งในตัวอย่างที่ชัดเจนที่สุดเกี่ยวกับ "ภาพหลอน" ของปัญญาประดิษฐ์ที่เข้าถึงหัวใจของระบบยุติธรรมของอเมริกา

ตามรายงานจาก Reuters ศาลสูงสุดของรัฐได้ปรับทนายความของ Santa Fe Stephen Aarons เป็นเงิน 5,000 ดอลลาร์ และถือว่าเขาดูถูกเหยียดหยามที่ล้มเหลวในการ "ตรวจสอบคำกล่าวอ้างที่เป็นข้อเท็จจริงและอำนาจทางกฎหมายในบทสรุปที่ AI สร้างขึ้นของเขา" บทสรุปซึ่งยื่นโดยเป็นส่วนหนึ่งของการอุทธรณ์คำพิพากษาคดีฆาตกรรมลูกความของเขา "มีพยานหลักฐานที่เป็นเท็จจากพยานปลอมแปลงทั้งหมด" พร้อมด้วยคำกล่าวอ้างที่เป็นเท็จเกี่ยวกับเสื้อผ้าและรูปลักษณ์ของมือปืน หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดู ข่าวด่วน AI ที่กำลังดำเนินอยู่

สิ่งที่ศาลพบ

คำฟ้องของศาลไม่ได้อธิบายถึงความไม่ถูกต้องเล็กน้อย เอกสารดังกล่าวอธิบายถึงเอกสารอุทธรณ์ที่เสกสรรผู้คนโดยบังเอิญ: คำให้การที่เป็นของพยานที่ไม่มีอยู่จริง และสร้างคำให้การของตำรวจเกี่ยวกับเสื้อผ้าที่มือปืนสวมและรูปลักษณ์ของมือปืน ซึ่งถือเป็นรายละเอียดข้อเท็จจริงที่การพิพากษาลงโทษในคดีฆาตกรรมเกิดขึ้นได้อย่างแม่นยำ

ตามรายงานของ The Verge ซึ่งรายงานเกี่ยวกับการยื่นฟ้องของศาล การลงโทษดังกล่าวเกิดขึ้นเนื่องจาก Aarons ล้มเหลวในการ "ตรวจสอบการกล่าวอ้างข้อเท็จจริงและอำนาจทางกฎหมายในบทสรุปที่สร้างโดย AI" ก่อนที่จะส่งเรื่องต่อศาล กล่าวอีกนัยหนึ่ง ปัญหาไม่ได้อยู่ที่ทนายความใช้เครื่องมือ AI เพื่อช่วยในการร่าง ทนายความยื่นคำร้องโดยไม่ได้ตรวจสอบคำกล่าวอ้างที่ปลอมแปลงกับบันทึกการพิจารณาคดีที่เกิดขึ้นจริง

"ทนาย ดูข่าวมั้ย?"

ลักษณะพิเศษของคดีนี้เกิดขึ้นในการพิจารณาคดีเมื่อเดือนสิงหาคม โดยที่ Aarons ยอมรับว่าเขาใช้ ChatGPT และบอกกับศาลว่าเขาคาดหวังว่าแชทบอตจะสร้าง "บทสรุปการป้องกันกระสุน" ของการพิจารณาคดี ความคาดหวังดังกล่าวได้รับการตอบรับที่ชัดเจนจากผู้พิพากษาศาลฎีกาแห่งนิวเม็กซิโก ซี. แชนนอน เบคอน

“ทนาย ดูข่าวหรือเปล่า? ฟังวิทยุหรือเปล่า? ได้อ่านอะไรเกี่ยวกับสิ่งที่เกิดขึ้นในโลกบ้างไหม?” เบคอนถามตามรอยเตอร์ "เพราะปัญหาของทนายความที่ต้องอาศัยภาพหลอนของ AI นั้นมีเรื่องราวอยู่ครึ่งหน้าล่างทุกวัน"

การตำหนิของผู้พิพากษาครอบคลุมถึงขอบเขตที่การอ้างอิงและคำให้การที่ประดิษฐ์ขึ้นโดย AI ได้เปลี่ยนจากปัญหาทางเทคนิคเฉพาะกลุ่มไปสู่ความรับผิดทางวิชาชีพกระแสหลัก ซึ่งเป็นประเด็นที่ผู้พิพากษาในปัจจุบันถือว่าทนายความฝึกหัดทุกคนควรรู้

ล่าสุดในการคว่ำบาตร AI

คดีในรัฐนิวเม็กซิโกถือเป็นคดีล่าสุดในบัญชีรายชื่อศาลที่ลงโทษทนายความกรณีใช้ AI โดยไม่มีการควบคุมซึ่งมีการเติบโตอย่างรวดเร็ว เมื่อปีที่แล้ว ผู้พิพากษาตำหนิบริษัทกฎหมายสองแห่งที่ส่งบทสรุปที่มี "การอ้างอิงและใบเสนอราคาทางกฎหมายที่เป็นเท็จ ไม่ถูกต้อง และทำให้เข้าใจผิดจำนวนมาก" ในขณะที่ทนายความที่เป็นตัวแทนของ Mike Lindell ผู้ก่อตั้ง MyPillow ก็ถูกปรับเช่นกัน สำหรับการใส่คำพูดที่ผิดที่สร้างโดย AI และการอ้างอิงปลอมในการยื่นฟ้องของศาล The Verge ตั้งข้อสังเกต

สิ่งที่ทำให้การคว่ำบาตรนิวเม็กซิโกแตกต่างออกไปคือวัสดุที่ถูกสร้างขึ้น กรณีก่อนหน้านี้ส่วนใหญ่เกี่ยวข้องกับการประดิษฐ์การอ้างอิงทางกฎหมาย — ตัวอย่างปลอม คำพูดปลอมจากคดีจริง ในกรณีนี้ การปลอมแปลงขึ้นอยู่กับข้อเท็จจริง ได้แก่ พยาน คำให้การ และคำอธิบายหลักฐานทางกายภาพในการอุทธรณ์คดีอาญา ความแตกต่างดังกล่าวมีความสำคัญ เนื่องจากการสร้างข้อเท็จจริงในคดีฆาตกรรมถือเป็นหัวใจสำคัญของการพิจารณาอุทธรณ์ที่มีอยู่เพื่อปกป้อง

เส้นแนวโน้มไม่มีข้อผิดพลาด ตามที่ The Verge สังเกต จำนวนทนายความที่ใช้เครื่องมือ AI ในการทำงานเพิ่มขึ้น กรณีที่ศาลค้นพบการอ้างอิงที่ประดิษฐ์ขึ้นหรือทำให้ประสาทหลอนโดย AI ก็เช่นกัน สิ่งที่ครั้งหนึ่งเคยถูกมองว่าเป็นการกำกับดูแลที่น่าอับอายจะถูกลงโทษมากขึ้นเรื่อยๆ เนื่องจากความล้มเหลวในความสามารถทางวิชาชีพ โดยมีค่าปรับ คำตัดสินที่ดูหมิ่น และการตรวจสอบข้อเท็จจริงจากหน่วยงานทางวินัย

"ฉันเสียใจ"

Aarons ในส่วนของเขาบอกกับรอยเตอร์ว่าเขาหวังว่าผลเสียดังกล่าวจะหยุดขาดวินัยทางวิชาชีพ “ผมรู้สึกเสียใจ แต่หวังว่าคณะกรรมการวินัยจะพิจารณาว่ามันเป็นความผิดพลาดโดยสุจริต” เขากล่าวในแถลงการณ์

คณะกรรมการวินัยจะถือว่ามันเป็นความผิดพลาดโดยสุจริตหรือไม่ แต่ศาลสูงสุดของรัฐได้แสดงความเห็นที่ชัดเจนแล้ว: ค่าปรับ 5,000 ดอลลาร์ และการดูหมิ่นบรีฟซึ่งไม่เคยได้รับการยืนยันจากความเป็นจริง

ทำไมมันถึงสำคัญ

คดีนี้เกิดขึ้นในขณะที่ศาลทั่วประเทศกำลังทำให้จุดยืนในการใช้ AI ในการดำเนินคดีมีความแข็งแกร่งขึ้น ผู้พิพากษากำหนดให้ทนายความเพิ่มมากขึ้นเพื่อรับรองว่าเอกสารที่ AI สร้างขึ้นได้รับการตรวจสอบแล้ว และการคว่ำบาตรได้กลายเป็นกลไกการบังคับใช้ที่มองเห็นได้ ข้อความจากศาลฎีกาของรัฐนิวเม็กซิโกมีแนวโน้มที่จะไปไกลเกินขอบเขต: หน้าที่ในการตรวจสอบเป็นเรื่องส่วนตัว ไม่สามารถมอบหมายได้ และไม่หายไปเนื่องจากแชทบอทสร้างร้อยแก้วที่ฟังดูมั่นใจ

สำหรับวิชาชีพทางกฎหมาย การคำนวณกำลังเปลี่ยนไป เครื่องมือการร่างของ AI สามารถประหยัดเวลาในการทำงานได้ แต่พยานปลอมเพียงคนเดียวในบทสรุปที่ยื่นฟ้องตอนนี้ต้องเสียค่าปรับ การตัดสินที่ดูหมิ่น และการส่งต่อไปยังหน่วยงานทางวินัย ผู้ปฏิบัติงานเพียงไม่กี่รายจะพบว่าน่าสนใจ สำหรับคนอื่นๆ กรณีนี้เป็นเครื่องเตือนใจว่าบุคคลที่ตั้งใจจะตรวจสอบผลลัพธ์ของ AI อยู่ภายใต้ความกดดันมากขึ้นกว่าเดิมในการตรวจสอบผลลัพธ์เหล่านั้น

เงินเดิมพันสูงที่สุดในคดีอาญา การลงโทษเรื่องการอ้างอิงปลอมทำให้เสียเวลาในการตัดสินคดี หลักฐานปลอมในการอุทธรณ์คดีฆาตกรรมกระทบต่อกลไกในการตัดสินว่าการพิพากษาลงโทษยังคงอยู่หรือไม่ ศาลอุทธรณ์ทำได้เพียงชั่งน้ำหนักคำร้องที่อิงจากบันทึกจริงเท่านั้น และสรุปโดยมีพยานปลอมขอให้ผู้พิพากษาตัดสินเหตุการณ์ที่ไม่เคยเกิดขึ้น

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →