Luật sư thành phố San Francisco đã ra lệnh cho Apple và Google xóa các ứng dụng khỏa thân trí tuệ nhân tạo khỏi các cửa hàng ứng dụng của họ, cảnh báo rằng các nền tảng này đang vi phạm luật California cấm các dịch vụ tạo ra nội dung khiêu dâm giả mạo. Nhu cầu làm gia tăng cuộc đối đầu ngày càng tăng về các công cụ AI có khả năng biến những bức ảnh bình thường của người thật thành hình ảnh khiêu dâm, một cuộc khủng hoảng khiến phụ nữ và trẻ em trở thành nạn nhân một cách không cân đối.

Quy mô của vấn đề

Các ứng dụng khỏa thân sử dụng AI tổng hợp để giúp dễ dàng lột quần áo khỏi ảnh người thật, thay đổi đặc điểm của họ, đặt họ vào các tư thế khiêu dâm và hoán đổi khuôn mặt trên cơ thể trần trụi của người khác. Công nghệ này đã phát triển nhanh chóng trên các cửa hàng ứng dụng di động và kết quả là nó đang được sử dụng để bắt nạt, làm nhục và đe dọa nạn nhân với những hậu quả tàn khốc.

Luật sư thành phố San Francisco David Chiu nói với Wired rằng văn phòng của ông thực sự kinh hoàng trước mức độ phổ biến của công nghệ khỏa thân, nạn nhân chủ yếu là phụ nữ và trẻ em ở quy mô đáng báo động khi ngày càng có nhiều công cụ tràn ngập thị trường. Ông nói, những hình ảnh này được sử dụng để hủy hoại danh tiếng, gây tổn hại đến sức khỏe tâm thần và tước bỏ quyền tự chủ của nạn nhân, trong đó một số mục tiêu có ý định tự sát.

Những gì Thư yêu cầu

Theo Wired, văn phòng của Chiu đã gửi thư chính thức tới cả hai công ty để cảnh báo rằng các cửa hàng ứng dụng của họ đang vi phạm luật của California cấm các dịch vụ hỗ trợ tạo ra nội dung khiêu dâm giả sâu. Ông yêu cầu Google xóa 5 ứng dụng và Apple xóa 8 ứng dụng. Các ứng dụng cụ thể không được nêu tên trong báo cáo công khai để tránh hướng mọi người tới chúng, nhưng Wired lưu ý rằng một ứng dụng bị gắn cờ đã tích lũy được hơn một triệu lượt tải xuống và quảng cáo công khai các tính năng nhằm kích dục hình ảnh phụ nữ hoặc sản xuất video miễn phí và không bị kiểm duyệt.

Văn phòng của Chiu ước tính rằng Apple và Google có thể đã kiếm được hàng triệu đô la phí bằng cách cho phép các ứng dụng độc hại tồn tại trong cửa hàng của họ thay vì thực hiện hành động mạnh mẽ hơn hoặc phát triển hệ thống phát hiện tốt hơn. Luật sư thành phố mô tả tình huống này là thu lợi từ sự phiền toái của công chúng, lập luận rằng việc cho phép bất kỳ ứng dụng nào như vậy vẫn tồn tại là không thể chấp nhận được.

Google phản hồi, Apple giữ im lặng

Trong một tuyên bố với Ars Technica, người phát ngôn của Google, Dan Jackson, xác nhận rằng 5 ứng dụng bị Chiu gắn cờ đã bị đình chỉ khỏi cửa hàng Google Play vì vi phạm chính sách chống lại nội dung có hại. Jackson cho biết Google Play không cho phép các ứng dụng chứa nội dung khiêu dâm và công ty liên tục thực hiện các bước chủ động để phát hiện và xóa các ứng dụng có nội dung độc hại. Jackson cho biết, khi các hành vi vi phạm được báo cáo, Google sẽ điều tra và thực hiện hành động nhanh chóng, bao gồm việc đình chỉ hàng trăm ứng dụng vi phạm và hạn chế các cụm từ tìm kiếm liên quan như khỏa thân trên cửa hàng của mình.

Phản ứng của Apple đã khác biệt rõ rệt. Mặc dù trước đây công ty đã xóa một số ứng dụng bị các nhà nghiên cứu gắn cờ, nhưng đáng chú ý là công ty vẫn giữ im lặng trước những lời kêu gọi mạnh mẽ hơn đối với các ứng dụng khỏa thân của cảnh sát trong App Store của mình. Nhà sản xuất iPhone đã không đưa ra phản hồi công khai chi tiết ngay lập tức trước yêu cầu của luật sư thành phố.

Trò chơi dò tìm mèo vờn chuột

Thách thức trong việc kiểm soát các ứng dụng này càng trở nên phức tạp hơn bởi các chiến thuật ngày càng phát triển của chúng. Wired báo cáo rằng các nhà nghiên cứu gần đây đã cảnh báo một số ứng dụng có hại đã cải thiện khả năng trốn tránh việc xóa cửa hàng ứng dụng bằng cách chỉ quảng cáo các tính năng hoán đổi khuôn mặt trong khi che giấu khả năng khỏa thân của chúng. Trong một bài báo in lại vào tháng 5, các nhà nghiên cứu đã xác định được 420 ứng dụng được tiếp thị là công cụ hoán đổi khuôn mặt chung và đã thử nghiệm 155 ứng dụng trong số đó. Trong hơn 70 phần trăm trường hợp, các ứng dụng có thể được sử dụng để kích dục hình ảnh, cho thấy chức năng có hại dễ dàng ẩn giấu sau hoạt động tiếp thị vô thưởng vô phạt như thế nào.

Khoảng cách phát hiện này có nghĩa là ngay cả khi các cửa hàng ứng dụng chủ động tìm kiếm các công cụ khỏa thân, nhiều công cụ vẫn lọt qua bằng cách tự cho mình là phần mềm giải trí hoặc chỉnh sửa ảnh vô hại. Phát hiện của các nhà nghiên cứu cho thấy số lượng ứng dụng thực sự có vấn đề đang được lưu hành có thể cao hơn nhiều so với 13 ứng dụng được văn phòng của Chiu cảnh báo.

Tiền lệ Grok

Cuộc đàn áp ứng dụng khỏa thân cũng xen kẽ với một cuộc tranh luận rộng rãi hơn về nội dung có hại do AI tạo ra. Tuần này, xAI đã đệ đơn kiện xác nhận rằng họ đã tìm thấy các trường hợp tài liệu lạm dụng tình dục trẻ em do Grok tạo ra và hình ảnh thân mật vô cớ nhắm vào người lớn. Để giải quyết hành vi lạm dụng, xAI đã kiện người dùng được cho là người chịu trách nhiệm thúc đẩy Grok tạo nội dung bất hợp pháp.

Vụ việc Grok đặt ra một câu hỏi hóc búa hơn cho các cửa hàng ứng dụng: liệu các chatbot AI có thể được nhắc tạo ra nội dung bất hợp pháp có bị xóa hay không. Theo NBC News, Apple đã nói với các thượng nghị sĩ vào tháng 4 rằng họ đã đe dọa riêng tư sẽ loại bỏ Grok khỏi App Store, nhưng ứng dụng xAI vẫn tồn tại cho đến ngày nay. Chừng nào còn có thể sử dụng Grok để tạo ra nội dung bất hợp pháp, các cửa hàng ứng dụng có thể sẽ tiếp tục phải đối mặt với áp lực phải hành động, giống như Chiu đã yêu cầu đối với các ứng dụng khỏa thân độc lập.

Bước ngoặt cho trách nhiệm giải trình của nền tảng

Lệnh San Francisco thể hiện một trong những biện pháp can thiệp mạnh mẽ nhất của chính phủ cho đến nay nhắm vào các cửa hàng ứng dụng có nội dung độc hại do AI tạo ra. Bằng cách viện dẫn luật khiêu dâm giả mạo của California, Chiu đang kiểm tra xem liệu các đạo luật của tiểu bang có thể buộc các nhà khai thác nền tảng chịu trách nhiệm về các công cụ AI được phân phối thông qua thị trường của họ hay không.

Kết quả có thể tạo tiền lệ cho cách các khu vực pháp lý khác tiếp cận vấn đề và liệu gánh nặng kiểm soát hình ảnh không liên quan do AI tạo ra có thuộc về các nhà phát triển, nhà điều hành nền tảng hay cả hai hay không. Đối với hàng triệu người, chủ yếu là phụ nữ và trẻ em gái, những người là mục tiêu của những công cụ này, mối đe dọa vượt xa lý thuyết quy định.

Đi trước AI

Để biết thông tin liên tục về đạo đức AI, trách nhiệm giải trình của nền tảng và cuộc chiến pháp lý đối với phương tiện tổng hợp có hại, hãy theo dõi AI Buzz Wire để đưa tin về các vấn đề hình thành tác động của AI đối với xã hội.

Đọc thêm tin tức về đạo đức AI →