Tòa án tối cao Đan Mạch quy định hình ảnh lạm dụng trẻ em do AI tạo ra là bất hợp pháp

Tòa án Tối cao Đan Mạch đã giữ nguyên bản án của một người đàn ông 31 tuổi vì đã tạo và phân phối hơn 36.000 hình ảnh do AI tạo ra mô tả lạm dụng tình dục trẻ em, xác nhận bản án 18 tháng tù và giải quyết một câu hỏi đang được các tòa án trên toàn thế giới chuyển qua: liệu tài liệu lạm dụng được tạo ra một cách giả tạo có bị coi là tội phạm giống như hình ảnh liên quan đến nạn nhân thật hay không. Câu trả lời của tòa án, được công bố trong tuần này, là rõ ràng - tài liệu lạm dụng tình dục trẻ em do AI tạo ra cũng bất hợp pháp và bị trừng phạt như hàng thật.

Phán quyết, được các cơ quan báo chí quốc tế bao gồm Reuters đưa tin và được công bố thông qua tòa án Đan Mạch, khép lại một trong những thử nghiệm phúc thẩm mang tính bước ngoặt đầu tiên về cách luật bảo vệ trẻ em hàng thế kỷ hấp thụ AI có khả năng tạo ra. Bị cáo đã bị kết án ở cấp tòa án cấp dưới vì sở hữu và phân phối tài liệu, đồng thời kháng cáo với lập luận rằng không có đứa trẻ thực sự nào tham gia vào việc sản xuất những hình ảnh này. Tòa án Tối cao bác bỏ hoàn toàn lý do đó, nhận thấy rằng bản chất hư cấu của các mô tả không đặt chúng nằm ngoài luật hình sự. Đối với độc giả theo dõi cách các hệ thống pháp luật phản ứng với công nghệ tạo ra, quyết định này được xếp hạng trong số các mục có hậu quả nhất trong AI news về quy định năm nay.

Tại sao vụ việc lại quan trọng

Câu hỏi pháp lý trọng tâm của đơn kháng cáo rất đơn giản: khi một hình ảnh được tạo ra thay vì chụp ảnh, đó có phải là "tài liệu lạm dụng tình dục trẻ em" không? Các lập luận bào chữa trong những trường hợp như thế này thường dựa vào việc không có nạn nhân nào được xác định danh tính - không có đứa trẻ thực sự nào bị chụp ảnh, làm hại hoặc thậm chí có liên quan. Lập luận đó ngày càng có vẻ hợp lý khi các công cụ tạo hình ảnh hiện đại có thể tạo ra những mô tả chân thực về những đứa trẻ không tồn tại, hoàn chỉnh với khuôn mặt, cơ thể và bối cảnh thực tế mà không có bất kỳ hình ảnh tham chiếu nào về người thật.

Phản ứng của Tòa án Tối cao Đan Mạch điều chỉnh luật pháp Đan Mạch phù hợp với mục đích bảo vệ của Công ước Liên Hợp Quốc về Quyền Trẻ em mà luật thực thi của Đan Mạch được thiết kế để phục vụ. Tòa án xác định rằng luật không tạo ra nơi trú ẩn an toàn cho các mô tả hư cấu và tài liệu do AI tạo ra nằm trong phạm vi các lệnh cấm hiện có. Hậu quả thực tế là việc tạo ra, sở hữu hoặc phân phối những hình ảnh như vậy sẽ dẫn đến nguy cơ phạm tội tương tự như tài liệu lạm dụng truyền thống - bản án 18 tháng trong trường hợp này, đối với tài liệu không bao giờ liên quan đến ảnh thật.

Một phán quyết có tầm ảnh hưởng vượt ra ngoài Đan Mạch

Mặc dù phán quyết chỉ ràng buộc các tòa án Đan Mạch nhưng tầm quan trọng của nó mang tính quốc tế. Các công tố viên trên khắp Châu Âu và Bắc Mỹ đang phải vật lộn với sự gia tăng hình ảnh lạm dụng do AI tạo ra và các tòa án ở một số khu vực pháp lý đã đưa ra kết luận tương tự thông qua các con đường pháp lý khác nhau – một số dựa vào các đạo luật đã bao gồm các mô tả bất kể liệu một đứa trẻ thật có được sử dụng hay không, những tòa án khác mở rộng khuôn khổ bảo vệ trẻ em và khiêu dâm hiện có bằng cách giải thích. Những gì phán quyết của Đan Mạch bổ sung là một tuyên bố rõ ràng, ở cấp phúc thẩm từ một khu vực tài phán nổi tiếng về tư duy tiến bộ về công nghệ trong luật, củng cố sự đồng thuận quốc tế đang nổi lên rằng việc không có nạn nhân thực sự trong quá trình sản xuất không phải là biện pháp bào chữa.

Quy mô của vụ việc – hơn 36.000 hình ảnh – minh họa lý do tại sao vấn đề lại leo thang nhanh chóng như vậy. Các công cụ sáng tạo đã giảm chi phí sản xuất hình ảnh lạm dụng xuống gần bằng 0 và số liệu thống kê thu giữ từ các cơ quan thực thi pháp luật ở nhiều quốc gia cho thấy tài liệu do AI tạo ra xuất hiện ngày càng nhiều trong các cuộc điều tra bóc lột trẻ em. Không giống như tài liệu truyền thống, mọi hình ảnh đều có thể được tạo ra, tái tạo và biến đổi vô tận, điều này nhân lên cả khối lượng mà các nhà điều tra phải phân loại và nguy cơ những hình ảnh giả thực tế được sử dụng để chải chuốt, tống tiền hoặc làm giảm sự nhạy cảm của trẻ thật.

Cuộc đàn áp rộng rãi hơn của Đan Mạch về lạm dụng sáng tạo

Phán quyết này phù hợp với quan điểm của nhà hoạt động Đan Mạch rõ ràng về các tác hại của AI. Đan Mạch đã thúc đẩy luật cấm chia sẻ các nội dung giả mạo sâu do AI tạo ra của người thật mà không có sự đồng ý, một dự luật sẽ cung cấp cho công dân quyền kiểm soát giống như bản quyền đối với hình ảnh của chính họ - một cách tiếp cận đã thu hút sự chú ý rộng rãi khi nó được đề xuất. Đặc biệt về bảo vệ trẻ em, chính quyền Đan Mạch đã coi tài liệu lạm dụng tổng hợp là mục tiêu thực thi ưu tiên hơn là vùng xám pháp lý.

Sự kết hợp đó – luật mạnh mẽ nhắm vào các hoạt động giả mạo sâu và hiện là tiền lệ của Tòa án tối cao về CSAM do AI tạo ra – coi Đan Mạch là điểm tham chiếu cho các quốc gia thành viên EU khác thực hiện Đạo luật AI của khối và các nghĩa vụ an toàn trẻ em liên quan. Các nền tảng và nhà cung cấp mô hình hoạt động ở Châu Âu hiện phải đối mặt với một bức tranh rõ ràng hơn: nghĩa vụ lọc, phát hiện và báo cáo xung quanh tài liệu lạm dụng tổng hợp không chỉ giới hạn ở hình ảnh bắt nguồn từ nạn nhân thực sự.

Ý nghĩa của nó đối với các công ty AI

Đối với các công ty xây dựng mô hình hình ảnh và video tổng quát, các phán quyết như thế này sẽ củng cố môi trường pháp lý xung quanh lĩnh vực tuân thủ vốn đã không thể tha thứ. Mọi phòng thí nghiệm biên giới lớn đều duy trì các bộ lọc nhằm mục đích chặn các mô tả khiêu dâm về trẻ vị thành niên và ngành này đã đầu tư vào các tiêu chuẩn xuất xứ như thông tin xác thực nội dung để phân biệt phương tiện tổng hợp. Phán quyết của Đan Mạch không thay đổi các nghĩa vụ kỹ thuật đó - nó thay đổi các quyền lợi. Khi các tòa phúc thẩm khẳng định rằng hình ảnh lạm dụng được tạo ra sẽ bị truy tố giống hệt với tài liệu ảnh, lập luận coi các biện pháp bảo vệ nội dung lạm dụng là cơ sở hạ tầng an toàn cốt lõi thay vì kiểm duyệt tùy chọn trở nên gần như không thể giải đáp được.

Phán quyết này cũng đưa ra một khuôn mẫu để các nhà lập pháp soạn thảo phản hồi của họ. Thay vì chờ quốc hội thông qua các đạo luật mới đặt tên cụ thể cho tài liệu do AI tạo ra, các tòa án đang chứng minh rằng các khuôn khổ bảo vệ trẻ em hiện tại có thể tiếp thu công nghệ - nhưng ngôn ngữ luật định rõ ràng sẽ loại bỏ sự mơ hồ mà bị cáo trong các vụ án tương lai sẽ tiếp tục thử nghiệm.

Bản án 18 tháng của người đàn ông 31 tuổi hiện vẫn có hiệu lực. Và giả thuyết pháp lý rằng "không có đứa trẻ thực sự nào bị tổn hại" đã bị thất bại công khai, đáng kể trước tòa án tối cao châu Âu - một tín hiệu sẽ vang vọng thông qua các vụ truy tố tài liệu lạm dụng do AI tạo ra vượt xa biên giới Đan Mạch.

Luôn cập nhật về Quy định AI

Tòa án và cơ quan quản lý đang chạy đua để theo kịp AI. Để biết báo cáo được xác minh về luật, chính sách và việc thực thi AI, hãy theo dõi AI Buzz Wire.

Đọc thêm tin tức về AI →