Một tòa phúc thẩm ở Arizona đã hủy bỏ bản án giết người vì thẩm phán xét xử đã xem một đoạn video do AI tạo ra, trong đó nạn nhân - được tái tạo từ các đoạn ghi âm của gia đình - dường như đã tha thứ cho kẻ giết mình từ bên ngoài ngôi mộ.

Gabriel Paul Horcasitas bị bồi thẩm đoàn kết tội bắn chết Christopher Pelkey, 37 tuổi, trong một cuộc đối đầu trên đường ở đèn đỏ năm 2021, và bị kết án 10 năm tù. Nhưng nhóm pháp lý của anh ấy đã kháng cáo, lập luận rằng thẩm phán tuyên án lẽ ra không bao giờ được cho xem một đoạn video AI về Pelkey ​​mà gia đình anh ấy đã tạo và phát trước tòa trước khi tuyên án vào năm ngoái. Tòa phúc thẩm Arizona đã đồng ý, ra phán quyết trong tuần này rằng Horcasitas, 55 tuổi, phải bị tuyên án vì đoạn clip "đã vượt quá giới hạn", như BBC đưa tin.

Phán quyết này là phép thử có hậu quả nhất về cách hệ thống tư pháp Mỹ sẽ đối xử với phương tiện truyền thông tổng hợp - và nó đánh dấu rằng ngay cả những trò giải trí AI mạnh mẽ về mặt cảm xúc cũng có thể khiến việc truy tố phải trả giá theo kết quả mong muốn của nó. Để tiếp tục đưa tin về quy định AI và tòa án, hãy theo dõi những phát triển AI mới nhất của chúng tôi.

Đoạn video lay động cả phòng xử án

Đoạn video này là tác phẩm của gia đình Pelkey, họ đã sử dụng bản ghi âm giọng nói, video gia đình và ảnh của anh ấy để tái tạo anh ấy - một nhân vật kỹ thuật số đội chiếc mũ bóng chày màu xám, đưa ra một tuyên bố mà một người đàn ông thực sự chưa bao giờ sống để đưa ra.

“Gửi Gabriel Horcasitas, người đã bắn tôi, thật tiếc khi chúng ta gặp nhau ngày hôm đó trong hoàn cảnh đó”, phiên bản AI của Pelkey ​​nói trước tòa vào năm 2025. “Ở một kiếp khác, có lẽ chúng ta đã có thể là bạn bè.”

Trò giải trí còn đi xa hơn, đưa ra sự tha thứ về mặt tinh thần một cách rõ ràng. Pelkey ​​do AI tạo ra tiếp tục: “Tôi tin vào sự tha thứ và một vị Chúa luôn tha thứ. Tôi luôn tha thứ và tôi vẫn làm như vậy”.

Chị gái của Pelkey, Stacey Wales, nói với BBC năm ngoái rằng gia đình đã xây dựng đoạn video từ giọng nói và chân dung được ghi âm của chính anh ấy. Vào thời điểm đó, thẩm phán tuyên án tỏ ra hoan nghênh điều đó. "Tôi yêu AI đó, cảm ơn bạn vì điều đó", Thẩm phán Todd Lang nói và nói thêm: "Ngay cả khi bạn tức giận, tức giận một cách chính đáng như gia đình, tôi đã nghe thấy sự tha thứ ... Tôi cảm thấy đó là sự thật."

Tại sao Tòa phúc thẩm lại can thiệp

Tòa phúc thẩm Arizona nhìn nhận cùng một đoạn video rất khác nhau. Trong phán quyết hôm thứ Tư, hội đồng viết: “Thay vì ghi lại một sự kiện hoặc ghi lại một khoảnh khắc cụ thể, video AI trình bày mô tả về nạn nhân và suy nghĩ của anh ta được tạo ra từ trí tưởng tượng của em gái nạn nhân”.

Sự khác biệt đó - giữa việc ghi lại những gì đã xảy ra và tổng hợp những gì có thể đã xảy ra - là ranh giới pháp lý hiện đang mở ra xung quanh AI tạo ra trong phòng xử án. Tuyên bố tác động của nạn nhân theo truyền thống là một phần của thủ tục tố tụng hình sự trong đó cảm xúc và tiếng nói cá nhân được phép tự do kiềm chế. Mối lo ngại của tòa án là trò chơi AI sẽ thực hiện một hành vi bịa đặt, dù được xây dựng một cách đáng yêu đến đâu, và khiến người bào chữa không thể kiểm tra chéo những lời mà người quá cố chưa bao giờ nói.

Không bên nào bình luận về phán quyết. Luật sư của Horcasitas, Kristen Reller, người nộp đơn kháng cáo, từ chối bình luận, và Jessica Gattuso, luật sư đại diện cho các nạn nhân trong vụ án, cũng không trả lời yêu cầu bình luận, theo BBC.

Trường hợp thử nghiệm AI trong Hệ thống Tư pháp

Các tòa án trên khắp thế giới chỉ mới bắt đầu đối đầu với AI. Các thẩm phán đã xử phạt các luật sư vì đưa ra các trích dẫn gây ảo giác bằng AI và bằng chứng giả mạo đã xuất hiện trong các phiên tòa hình sự. Nhưng trường hợp này là bất thường vì phương tiện tổng hợp được đưa ra không phải để lừa dối mà để nhân đạo hóa - và chính sự đồng cảm của sự bịa đặt đó đã được chứng minh là nguy hiểm về mặt pháp lý.

Tiền cược chạy theo cả hai hướng. Những người ủng hộ nạn nhân cho rằng các gia đình nên được tự do tưởng nhớ những người thân yêu theo cách họ chọn, và gia đình Pelkey ​​đã tìm ra cách để bày tỏ sự tha thứ quan trọng đối với họ. Các luật sư bào chữa nhận thấy có vấn đề về thủ tục tố tụng: thẩm phán của bồi thẩm đoàn cảm động trước một màn trình diễn được viết kịch bản bởi sự đau buồn và được tạo ra bởi một mô hình, điều này có thể đã ảnh hưởng một cách chính đáng đến mức độ nghiêm trọng của bản án.

Tòa phúc thẩm đã vạch ra ranh giới của mình một cách hẹp hòi nhưng rõ ràng. Bằng chứng về tác động của nạn nhân có thể bao gồm các bản ghi âm của người thật; nó không thể bao gồm mô phỏng AI về suy nghĩ của một người, được tập hợp từ trí tưởng tượng và được thể hiện bằng khuôn mặt và giọng nói của người đó.

Điều gì xảy ra tiếp theo

Horcasitas sẽ bị kết án lần này nếu không có video AI. Bản thân bản án vẫn có giá trị - sự phản đối của tòa phúc thẩm liên quan đến thủ tục tuyên án, chứ không phải phán quyết của bồi thẩm đoàn về vụ giết người năm 2021.

Câu hỏi rộng hơn hiện đang được đặt ra trước tòa án và cơ quan lập pháp: khi một gia đình có thể tạo ra một màn trình diễn kỹ thuật số thuyết phục từ các bản ghi âm, thì những quy tắc nào giúp nỗi đau tổng hợp không ảnh hưởng đến các quyết định thay đổi cuộc sống? Hiện tại, câu trả lời của Arizona là người chết không nói trước tòa - ngay cả khi công nghệ có thể khiến nó trông giống như họ nói.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →