Các nhà nghiên cứu nhận thấy việc sàng lọc quảng cáo AI của Meta không thể ngăn chặn hàng trăm quảng cáo lạm dụng trẻ em

Theo nghiên cứu từ Dự án Minh bạch Công nghệ phi lợi nhuận được chia sẻ với WIRED và được xuất bản hôm thứ Ba, hơn 250 quảng cáo bổ sung chứa tài liệu lạm dụng tình dục trẻ em đã chạy trên các nền tảng của Meta trong vài tuần sau khi công ty tung ra các công cụ AI mới được thiết kế để phát hiện và chặn chính xác loại nội dung đó. Phát hiện này đã bác bỏ tuyên bố của công ty rằng việc sàng lọc quảng cáo do AI cung cấp đã phần lớn thu hẹp khoảng cách và nó được đưa ra khi các nhà lập pháp cho biết họ có kế hoạch điều tra.

Các số liệu mới mở rộng tiết lộ trước đó. Tháng trước, Meta đã xóa khoảng 50 quảng cáo được đăng trên Facebook, Instagram và Threads trực tiếp bao gồm tài liệu lạm dụng tình dục trẻ em, theo báo cáo trước đó của WIRED. Vào thời điểm đó, công ty cho biết hầu hết các quảng cáo lạm dụng đã được xuất bản trước khi triển khai các công cụ phát hiện AI mới. Thay vì sự sụt giảm như dự kiến, các nhà nghiên cứu cho biết họ đã tìm thấy thêm hàng trăm quảng cáo trong những tuần gần đây - bao gồm một số quảng cáo giống hệt những quảng cáo mà Meta vừa xóa. Để liên tục đưa tin về sự an toàn của nền tảng và tin tức AI mới nhất, hãy theo dõi AI Buzz Wire.

Quy mô của sự thất bại

Tổng cộng, các nhà nghiên cứu tại Dự án Minh bạch Công nghệ đã ghi lại hơn 350 quảng cáo video lạm dụng chạy trên nền tảng của Meta kể từ cuối năm ngoái, trải rộng trên Facebook, Instagram, Messenger, Threads và mạng quảng cáo rộng hơn của Meta. Không giống như bộ 53 quảng cáo ban đầu mà nhóm đã xác định, loạt quảng cáo mới hơn bao gồm hình ảnh của những đứa trẻ thật thay vì những hình ảnh thuần túy tổng hợp. WIRED xác nhận rằng một nguồn hình ảnh đến từ trang web chính thức của một gia đình hoàng gia Châu Âu; các nhà nghiên cứu cho biết một bức ảnh được công bố chính thức về một thành viên nhỏ trong gia đình đã bị chỉnh sửa thành một video mô tả hành vi tình dục. Các nhà nghiên cứu không nêu tên hoàng gia để bảo vệ nạn nhân và cho biết họ đã liên hệ với các quan chức ở quốc gia liên quan.

Katie Paul, giám đốc nhóm, nói với WIRED rằng vấn đề không chỉ giới hạn ở hình ảnh do AI tạo ra. Cô nói: “Những gì chúng ta đang nói ở đây không chỉ đơn giản là tài liệu lạm dụng tình dục trẻ em do AI tạo ra”, đồng thời lưu ý rằng nhiều hình ảnh dường như đã được lấy từ trang web mở trước khi được sử dụng trong quảng cáo. “Có rất nhiều tác hại có thể xảy ra từ việc này trong khi Meta đang kiếm tiền trong quá trình này.” Các nhà nghiên cứu đã xác định danh tính thực tế của bốn trẻ vị thành niên có hình ảnh được sử dụng trong quảng cáo.

Một kênh dẫn tới các ứng dụng khỏa thân

Theo báo cáo, các quảng cáo tuân theo một mô hình nhất quán. Nhiều người mở một bức ảnh vô hại về một cô gái tuổi teen hoặc thiếu niên - các nhà nghiên cứu chỉ tìm thấy một bức có một cậu bé - phủ lên dòng chữ tuyên bố rằng hình ảnh "không chỉ là một bức ảnh" và rằng "không có hạn chế" nào về những gì có thể làm với nó. Khi đoạn video ngắn phát, khuôn mặt của đứa trẻ sẽ biến thành một đoạn video tục tĩu. Nhấp qua sẽ dẫn đến các ứng dụng hoán đổi khuôn mặt AI và "khỏa thân" có sẵn trong các cửa hàng ứng dụng của Apple và Google, nhiều ứng dụng được liên kết với các nhà phát triển Trung Quốc. WIRED đã xác định riêng hàng trăm quảng cáo khỏa thân có liên quan mô tả người lớn trên nền tảng của Meta.

Đánh giá chậm và thiếu tiết lộ

Chính sách của Meta tuyên bố rằng công ty xem xét tất cả các quảng cáo chạy trên nền tảng của mình và các quảng cáo đó đã vi phạm các quy tắc của công ty về bóc lột trẻ em, bóc lột người lớn và ảnh khoả thân. Trên thực tế, các nhà nghiên cứu cho biết, đôi khi Meta phải mất tới một tuần để xem xét các quảng cáo trực tiếp đã được báo cáo thông qua các công cụ của chính công ty — trong thời gian đó, quảng cáo đã tích lũy được hàng trăm lượt xem bổ sung, theo các ảnh chụp màn hình được WIRED xem xét. Khi một số quảng cáo bị xóa, hồ sơ gỡ xuống của chúng ban đầu không có bất kỳ thông tin tiết lộ nào rằng chúng đã vi phạm chính sách lạm dụng tình dục trẻ em của công ty; những chi tiết đó chỉ xuất hiện sau khi WIRED hỏi Meta về sự khác biệt.

Các nhà nghiên cứu đã báo cáo mọi quảng cáo mà họ tìm thấy cho CyberTipline của Trung tâm quốc gia về trẻ em bị mất tích và bị bóc lột cũng như thông qua các công cụ báo cáo của Meta. Thư viện quảng cáo riêng của Meta cho thấy quảng cáo được hiển thị chung cho hơn 29.000 tài khoản trên khắp các quốc gia thuộc Liên minh Châu Âu và khoảng 7.000 tài khoản ở Vương quốc Anh, với hơn 250 tài khoản xuất hiện ở Hoa Kỳ, 120 ở Úc và 80 ở Ấn Độ — những con số có thể đánh giá thấp tổng phạm vi tiếp cận vì một số quốc gia thiếu dữ liệu hiệu suất quảng cáo chi tiết.

Phản hồi Meta

Meta bác bỏ tầm quan trọng của những phát hiện này. Người phát ngôn của công ty Tracy Clayton nói với WIRED: “Chúng tôi không chấp nhận các ứng dụng khỏa thân hoặc bất kỳ hình thức bóc lột trẻ em nào, dù là thực hay do AI tạo ra”, đồng thời cho biết thêm rằng công ty trước đây đã xóa hàng trăm nghìn quảng cáo vì vi phạm chính sách khỏa thân của mình. Meta cho biết nhiều quảng cáo mà các nhà nghiên cứu tìm thấy đã bị xóa, hầu hết nhận được ít hơn 200 lần hiển thị và thu về dưới 5.000 USD tiền thanh toán quảng cáo. Công ty cũng cho biết các video do AI tạo ra có sự góp mặt của người lớn trong khi các clip liên quan đến trẻ vị thành niên thì ngắn gọn hoặc bị mờ, khiến việc phát hiện trở nên khó khăn hơn và họ sẽ báo cáo nội dung bóc lột trẻ em cho NCMEC.

Các nhà lập pháp và cơ quan quản lý di chuyển

Nhiều nhà lập pháp và cơ quan quản lý hiện cho biết họ đang điều tra hoặc xem xét các quảng cáo sau báo cáo của WIRED. Thượng nghị sĩ Virginia Mark Warner, người đã gửi cho Giám đốc điều hành Meta Mark Zuckerberg một lá thư sau báo cáo trước đó, nói rằng "thật đáng thất vọng khi Meta tiếp tục chạy các quảng cáo có tài liệu lạm dụng tình dục trẻ em và những hình ảnh thân mật vô cớ sau khi nó được họ chú ý." Tổng chưởng lý của Michigan cho biết văn phòng đang "tích cực xem xét vấn đề", tổng chưởng lý của Florida đăng tải rằng văn phòng của ông đang điều tra và cơ quan quản lý An toàn điện tử của Úc cho biết họ "rất quan ngại" và đã yêu cầu thông tin từ Meta ở cấp cao hơn.

Việc giám sát này gây thêm áp lực cho một công ty vốn đã phải trả tới 16,7 tỷ USD để giải quyết các vụ kiện cáo buộc mạng xã hội của họ làm hại trẻ em và kháng cáo quyết định của tòa án New Mexico yêu cầu công ty này phải cải thiện quy trình báo cáo CSAM. Câu hỏi rộng hơn dành cho ngành AI là liệu kiểm duyệt tự động có thể theo kịp tình trạng lạm dụng ngày càng được AI hỗ trợ hay không - và bằng chứng cho thấy hệ thống phát hiện đã không phát hiện được hàng trăm quảng cáo vi phạm sau khi được trích dẫn vì cách khắc phục sẽ trực tiếp đưa vào các cuộc tranh luận đó.

Đi trước AI

Theo dõi những phát triển AI mới nhất và tin tức nóng hổi về trí tuệ nhân tạo khi các cơ quan quản lý và nền tảng vật lộn với những tác hại do AI gây ra.

Đọc thêm tin tức về AI →