Reuters đưa tin, đại diện của OpenAI và Meta Platforms đã nói với hội đồng tư pháp liên bang hôm thứ Năm rằng các tác phẩm deepfake do AI tạo ra đã trở nên tiên tiến đến mức việc xác minh tính xác thực của bằng chứng âm thanh và video trước tòa sẽ ngày càng khó khăn hơn.

Các chuyên gia công nghệ đã trình bày mối quan ngại của họ tại cuộc họp ở Boston của Ủy ban Cố vấn về Quy tắc Bằng chứng của Hội nghị Tư pháp Hoa Kỳ - cơ quan chịu trách nhiệm đề xuất thay đổi các quy tắc liên bang chi phối những bằng chứng mà tòa án có thể thừa nhận. Ủy ban đã làm việc từ năm 2023 về cách giải quyết rủi ro từ bằng chứng giả do AI tạo ra trong phòng xử án. For more context on this story, see our ongoing AI industry coverage.

Phòng thí nghiệm AI cho biết việc phát hiện không có tương lai khoa học

Shira Anderson, cố vấn chính sách tại OpenAI, nói với ủy ban rằng hình ảnh AI tiếp tục được cải thiện về chất lượng và cho biết cô không tin rằng một phương pháp khoa học để phát hiện chúng sẽ tồn tại trong tương lai – một sự thừa nhận đáng kinh ngạc từ một công ty xây dựng hệ thống tổng quát sản xuất nội dung đó.

Devin Norder, giám đốc quản lý sản phẩm tại Meta, nói với hội thảo rằng phương tiện được tạo ra bởi các mô hình AI gần đây không thể được con người phân biệt với nội dung xác thực và việc tạo ra những phương tiện như vậy hiện nay đòi hỏi chi phí và thời gian tối thiểu.

Cả hai công ty đều đã phát triển các công cụ xác minh và xuất xứ cho nội dung trực quan, đồng thời luật mới ở California và Liên minh Châu Âu yêu cầu đóng dấu mờ các phương tiện do AI tạo ra. Nhưng Anderson cảnh báo ủy ban rằng mỗi công ty sử dụng hệ thống riêng của mình, nghĩa là không có phương pháp phổ quát nào tồn tại để phát hiện một cách đáng tin cậy tất cả các hình mờ hoặc xác minh tính xác thực của nội dung hình ảnh trên toàn hệ sinh thái.

##Tòa chưa cảm nhận được làn sóng

Chủ tịch ủy ban, Thẩm phán quận Jesse Furman của Hoa Kỳ ở Manhattan, đã đưa ra một đối trọng với lời cảnh báo: trong khi các bình luận học thuật dự đoán các tòa án sẽ giải quyết vấn đề deepfake, vấn đề này vẫn chưa xuất hiện thường xuyên trong các vụ án thực tế.

Một cuộc khảo sát do Trung tâm Tư pháp Liên bang thực hiện vào tháng 3 đã nhấn mạnh khoảng cách đó. Chỉ 15 trong số 931 thẩm phán trả lời đã gặp phải trường hợp một bên thách thức bằng chứng với lý do đó là giả mạo.

Khoảng cách giữa dự đoán và thực tiễn là vấn đề nan giải cốt lõi của ủy ban. Theo Quy tắc Bằng chứng Liên bang 901 và 902, tiêu chuẩn hiện tại để xác thực bằng chứng - như báo cáo của chính ủy ban đã nêu - là một tiêu chuẩn nhẹ: một bên chỉ cần đưa ra bằng chứng đủ để hỗ trợ cho việc phát hiện rằng vật phẩm đúng như những gì người đề xuất tuyên bố. Deepfakes kiểm tra tiêu chuẩn đó một cách căng thẳng vì các phương pháp truyền thống để xác thực bản ghi (lời khai của nhân chứng, tài liệu hệ thống) cho rằng hành vi giả mạo trên quy mô lớn là khó, tốn kém và có thể bị phát hiện.

Báo cáo của chính ủy ban đã trình bày vấn đề một cách thẳng thắn khác thường. Báo cáo tháng 12 năm 2025 đã xem xét điều gì sẽ xảy ra khi một video hoặc âm thanh được cung cấp tại phiên tòa là một bản deepfake, kết luận rằng nó đưa ra thách thức trực tiếp đối với các yêu cầu về tính xác thực theo Quy tắc 901 và 902, chính vì tiêu chuẩn hiện tại về tính xác thực là tiêu chuẩn nhẹ. Làm thế nào - và liệu - có củng cố tiêu chuẩn đó hay không là câu hỏi mà ủy ban đã đặt ra trong ba năm và nó trở nên cấp bách hơn nếu, như đại diện phòng thí nghiệm đã cảnh báo, khoa học phát hiện không bao giờ bắt kịp khoa học thế hệ.

Những gì học viên có thể làm bây giờ

Cho đến khi các quy tắc thay đổi, gánh nặng thực tế sẽ đổ lên vai những người tranh tụng và thẩm phán xét xử. Các công cụ chứng minh - thông tin xác thực nội dung mật mã được nhúng vào thời điểm tạo - đang lan truyền qua các ứng dụng máy ảnh và phần mềm sáng tạo, mặc dù chúng chỉ trợ giúp cho các phương tiện truyền thông mang chúng. Kiểm tra chéo dưới sự tuyên thệ của người đã ghi lại bản ghi âm, khám phá nhu cầu về tệp gốc và tạo siêu dữ liệu cũng như xem xét kỹ lưỡng hơn các clip không có nguồn gốc lưu hành trên nền tảng xã hội là những biện pháp bảo vệ hiện tại. Thông điệp của ủy ban cố vấn trong tuần này rất hiệu quả rằng những điểm dừng này sẽ cần một nền tảng cấp quy tắc chính thức, bởi vì những điểm dừng không chính thức giả định khả năng phát hiện mà OpenAI và Meta cho biết không còn tồn tại.

Tại sao lời khai của Labs lại quan trọng

Điều đáng chú ý là các công ty có sản phẩm tạo ra rủi ro lại là những công ty cảnh báo cơ quan tư pháp về điều đó. OpenAI và Meta có lợi ích thương mại và danh tiếng trực tiếp trong cách áp dụng các quy tắc: các yêu cầu xác thực nghiêm ngặt có thể gây ra xung đột đối với việc sử dụng hợp pháp phương tiện AI, trong khi những yêu cầu lỏng lẻo có thể khiến các công cụ của họ trở thành trung tâm gian lận trong phòng xử án. Thông điệp của họ gửi tới ủy ban thực sự là các tiêu chuẩn xuất xứ - hình mờ, thông tin xác thực nội dung, tài liệu về chuỗi hành trình - là con đường khả thi, bởi vì chỉ riêng việc phát hiện sẽ không mở rộng được.

Cuộc đánh giá kéo dài ba năm của ủy ban dự kiến ​​sẽ cho biết liệu các quy tắc về bằng chứng liên bang có cần sửa đổi cho kỷ nguyên AI hay không. Mọi thay đổi sẽ được chuyển qua quy trình xây dựng quy tắc của Hội nghị Tư pháp, bao gồm cả bình luận của công chúng, trước khi được đưa ra Quốc hội.

Bức tranh quy định rộng hơn

Phiên điều trần diễn ra trong bối cảnh bùng nổ hoạt động chính sách liên quan đến deepfake. California và EU đã ban hành các quy định về thủy ấn. Đan Mạch đã ban hành luật cấm chia sẻ các tác phẩm deepfake AI mà không có sự đồng ý. Các tòa án Hoa Kỳ đã chứng kiến ​​những hành vi bịa đặt do AI tạo ra xuất hiện trong hồ sơ và các thẩm phán đã trừng phạt các luật sư vì gửi các trích dẫn giả do chatbot tạo ra.

Hiện tại, cơ quan tư pháp liên bang đang lựa chọn nghiên cứu cẩn thận về những thay đổi quy tắc nhanh chóng. Nhưng lời khai từ các công ty xây dựng công nghệ cho thấy bản thân ngành không mong đợi công cụ phát hiện sẽ theo kịp – điều này chuyển gánh nặng sang các tiêu chuẩn xuất xứ, các biện pháp bảo vệ thủ tục như yêu cầu lời khai trực tiếp và cuối cùng là phán quyết của thẩm phán và bồi thẩm đoàn về những gì nên tin.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →