Tòa án tối cao của New Mexico đã xử phạt một luật sư vì đã nộp đơn kháng cáo giết người dựa trên các nhân chứng chưa từng tồn tại - do ChatGPT bịa đặt - trong một trong những ví dụ rõ ràng nhất về "ảo giác" trí tuệ nhân tạo đã chạm đến trung tâm của hệ thống tư pháp Mỹ.

Theo báo cáo từ Reuters, tòa án cao nhất của bang đã phạt luật sư Stephen Aarons của Santa Fe 5.000 USD và coi thường ông ta vì không “xác minh các tuyên bố thực tế và thẩm quyền pháp lý trong bản tóm tắt do AI tạo ra của ông ta”. Bản tóm tắt, được đệ trình như một phần của kháng cáo chống lại bản án giết người của khách hàng của anh ta, "chứa lời khai sai từ các nhân chứng hoàn toàn bịa đặt", cùng với những tuyên bố sai sự thật về quần áo và ngoại hình của kẻ xả súng. Để biết thêm bối cảnh về câu chuyện này, hãy xem tin tức AI mới nhất đang diễn ra của chúng tôi.

Tòa án đã tìm thấy gì

Hồ sơ của tòa án không mô tả những sai sót nhỏ. Nó mô tả một tài liệu phúc thẩm khiến mọi người bất ngờ: lời khai được cho là của các nhân chứng không tồn tại và bịa ra các tuyên bố của cảnh sát về trang phục của kẻ xả súng và vẻ ngoài của kẻ xả súng - chính xác là loại chi tiết thực tế mà một bản án giết người có thể bật ra.

Theo The Verge, người đã báo cáo về hồ sơ tòa án, lệnh trừng phạt được áp dụng do Aarons không "xác minh các tuyên bố thực tế và thẩm quyền pháp lý trong bản tóm tắt do AI tạo ra của mình" trước khi nộp lên tòa án. Nói cách khác, vấn đề không phải là luật sư đã sử dụng công cụ AI để hỗ trợ soạn thảo. Đó là việc luật sư nộp kết quả mà không kiểm tra một yêu cầu bịa đặt nào đối với hồ sơ xét xử thực tế.

"Xin Luật sư, Bạn có xem Tin tức không?"

Tính chất đặc biệt của vụ án nổi lên tại một phiên điều trần vào tháng 8, nơi Aarons thừa nhận anh đã sử dụng ChatGPT và nói với tòa án rằng anh đã mong đợi chatbot sẽ tạo ra một "bản tóm tắt chống đạn" về phiên tòa. Kỳ vọng đó đã thu hút sự phản hồi rõ ràng từ Thẩm phán Tòa án Tối cao New Mexico C. Shannon Bacon.

"Thưa luật sư, ông có xem tin tức không? Ông có nghe đài không? Ông có đọc gì về những gì đang diễn ra trên thế giới không?" Bacon hỏi, theo Reuters. "Bởi vì vấn đề luật sư dựa vào ảo giác AI là một câu chuyện được nhắc đến hàng ngày."

Lời khiển trách của thẩm phán đã chỉ ra mức độ mà các trích dẫn và lời khai do AI chế tạo đã chuyển từ một vấn đề kỹ thuật nhỏ thành một trách nhiệm nghề nghiệp phổ biến - một trách nhiệm mà các thẩm phán hiện cho rằng mọi luật sư hành nghề nên biết.

Lệnh trừng phạt mới nhất trong chuỗi trừng phạt AI

Vụ án ở New Mexico là vụ mới nhất trong danh sách các tòa án đang trừng phạt luật sư vì sử dụng AI không được kiểm soát đang ngày càng gia tăng nhanh chóng. Năm ngoái, một thẩm phán đã chỉ trích hai công ty luật vì đã gửi một bản tóm tắt chứa "nhiều trích dẫn và trích dẫn pháp lý sai, không chính xác và gây hiểu lầm", trong khi các luật sư đại diện cho người sáng lập MyPillow Mike Lindell cũng bị phạt vì đưa các trích dẫn sai do AI tạo ra và các trích dẫn giả mạo vào hồ sơ tòa án, The Verge lưu ý.

Điều làm nên sự khác biệt của lệnh trừng phạt New Mexico là vật liệu được chế tạo. Hầu hết các vụ việc trước đó đều liên quan đến các trích dẫn pháp lý bịa đặt - các tiền lệ giả mạo, các trích dẫn không có thật từ các vụ việc có thật. Ở đây, việc bịa đặt đã đi đến bản thân các sự kiện: nhân chứng, lời khai và mô tả vật chứng trong một vụ kháng cáo hình sự. Sự khác biệt đó rất quan trọng, bởi vì việc bịa đặt sự thật trong một vụ án giết người đánh vào cốt lõi của những gì mà việc xem xét phúc thẩm tồn tại để bảo vệ.

Đường xu hướng là không thể nhầm lẫn. Như The Verge đã quan sát, với số lượng luật sư sử dụng các công cụ AI trong công việc của họ ngày càng tăng, thì các trường hợp tòa án phát hiện ra các trích dẫn bịa đặt - hoặc gây ảo giác - bởi AI cũng tăng theo. Những gì từng được coi là một sự giám sát đáng xấu hổ ngày càng bị trừng phạt như một sự thất bại về năng lực chuyên môn, với các khoản tiền phạt, phán quyết khinh miệt và sự giám sát chặt chẽ của các cơ quan kỷ luật.

"Tôi rất hối hận"

Về phần mình, Aarons nói với Reuters rằng anh hy vọng hậu quả sẽ không còn do kỷ luật nghề nghiệp. “Tôi rất hối hận nhưng hy vọng hội đồng kỷ luật xem xét đây là một sai lầm trung thực”, ông nói trong một tuyên bố.

Liệu hội đồng kỷ luật có coi đó là một sai lầm trung thực hay không vẫn còn phải xem, nhưng tòa án cao nhất của bang đã đưa ra quan điểm rõ ràng: khoản tiền phạt 5.000 đô la và mức phạt khinh thường đối với một bản tóm tắt chưa bao giờ được xác minh dựa trên thực tế.

Tại sao nó lại quan trọng

Vụ việc xảy ra khi các tòa án trên khắp đất nước đang củng cố quan điểm của họ về việc sử dụng AI trong các vụ kiện tụng. Các thẩm phán ngày càng yêu cầu luật sư xác nhận rằng hồ sơ do AI tạo ra đã được xác minh và các biện pháp trừng phạt đã trở thành cơ chế thực thi hữu hình. Thông điệp từ Tòa án Tối cao của New Mexico có khả năng vượt xa biên giới của nước này: nghĩa vụ xác minh mang tính cá nhân, không thể ủy quyền và không biến mất vì một chatbot tạo ra văn xuôi nghe có vẻ tự tin.

Đối với nghề luật, cách tính đang thay đổi. Các công cụ soạn thảo AI có thể tiết kiệm hàng giờ làm việc, nhưng một nhân chứng bịa đặt trong một bản tóm tắt giờ đây có thể bị phạt tiền, phán quyết khinh thường và chuyển đến cơ quan kỷ luật - một giao dịch mà ít người thực hành sẽ thấy hấp dẫn. Đối với những người khác, trường hợp này là một lời nhắc nhở rằng những người có nhiệm vụ kiểm tra kết quả đầu ra của AI đang phải chịu áp lực lớn hơn bao giờ hết trong việc thực sự kiểm tra chúng.

Cổ phần là cao nhất trong các vụ án hình sự. Các biện pháp trừng phạt đối với các trích dẫn giả mạo làm lãng phí thời gian xét xử; bằng chứng bịa đặt trong một vụ kháng cáo giết người có liên quan đến cơ chế quyết định liệu bản án có hiệu lực hay không. Tòa phúc thẩm chỉ có thể cân nhắc các yêu cầu bồi thường dựa trên hồ sơ thực sự - và một bản tóm tắt ngắn gọn với các nhân chứng ma yêu cầu các thẩm phán đưa ra phán quyết về những sự kiện chưa từng xảy ra.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →