xAI đang phải đối mặt với một vụ kiện tập thể được đề xuất, lần đầu tiên cáo buộc công ty đào tạo các mô hình Grok của mình về tài liệu lạm dụng tình dục trẻ em, cả thực tế và do AI tạo ra. Đơn khiếu nại, được đệ trình hôm thứ Tư và được báo cáo bởi Ars Technica, yêu cầu tòa án ra lệnh tiêu hủy bất kỳ tài liệu nào như vậy được lưu trữ trên máy chủ của công ty và thay đổi sâu rộng cách Grok xử lý nội dung khiêu dâm.
Các cáo buộc vẫn chưa được chứng minh là những tuyên bố được đưa ra trong vụ kiện dân sự. X, công ty sở hữu xAI, đã không trả lời yêu cầu bình luận của Ars Technica về hồ sơ. For more context on this story, see our ongoing more AI stories.
Nguyên đơn và các cáo buộc
Nguyên đơn, được xác định là Jane Doe, cáo buộc trong đơn kiện rằng cô là nạn nhân ở độ tuổi mẫu giáo vào đầu những năm 2000 khi những hình ảnh về việc cô bị lạm dụng được tạo ra và bán trên mạng. Những hình ảnh đó từ lâu đã được liệt kê trong danh sách băm do Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) và Trung tâm Bảo vệ Trẻ em Canada (CCCP), các tổ chức theo dõi tài liệu lạm dụng đã biết để cho phép phát hiện và xóa tài liệu đó.
Theo đơn khiếu nại, CCCP đã thông báo cho Doe rằng họ đã xác định được tài liệu lạm dụng do AI tạo ra mô tả cô ấy trên nền tảng của xAI. Luật sư của cô tuyên bố trong một thông cáo báo chí rằng tài liệu khớp với các mục trong danh sách băm NCMEC của cô "là một phần của tập dữ liệu xAI được sử dụng để xây dựng khả năng tạo hình ảnh và video của Grok." Đơn khiếu nại còn cáo buộc rằng các tin nhắn được tìm thấy trên các diễn đàn trực tuyến cho thấy những kẻ phạm tội đang thảo luận về việc tạo ra các hình ảnh lạm dụng do AI tạo ra về Doe và các nạn nhân đã biết khác của tài liệu lạm dụng di sản.
Lý thuyết pháp lý: Dữ liệu đào tạo, không chỉ đầu ra
Điều khác biệt giữa hồ sơ này với vụ kiện trước đó chống lại xAI là nó tập trung vào chính mô hình hơn là những gì người dùng cá nhân đã tạo ra. Đơn khiếu nại lập luận rằng vì theo mặc định, các điều khoản dịch vụ của Grok coi các bài đăng công khai trên X và kết quả đầu ra của chính Grok là dữ liệu đào tạo nên mọi nội dung được đăng công khai đều được cung cấp trực tiếp vào quy trình được sử dụng để đào tạo và cải thiện mô hình.
Hồ sơ thừa nhận rằng xAI lọc nội dung bạo lực ra khỏi dữ liệu đào tạo của mình, nhưng lập luận rằng các điều khoản của công ty không nêu rõ liệu tài liệu lạm dụng tình dục trẻ em, hình ảnh thân mật không có sự đồng thuận hay nội dung người lớn khác có thuộc các danh mục bị loại trừ hay không. Nó cũng lập luận rằng ngay cả khi những hình ảnh vi phạm bị xóa, ảnh hưởng của một ví dụ đào tạo lên một mô hình đã được đào tạo về mặt kỹ thuật rất khó để loại bỏ hoàn toàn - và xAI chưa công khai tuyên bố đã làm như vậy.
Vụ kiện mong muốn điều gì
Nếu lớp được đề xuất được chứng nhận, nó sẽ đại diện cho mọi người có hình ảnh thời thơ ấu bị cáo buộc sử dụng để tạo ra tài liệu lạm dụng với Grok. Vụ kiện viện dẫn luật liên bang về nội dung khiêu dâm trẻ em và Luật Masha, cho phép những người sống sót sau khi tài liệu bị lạm dụng có quyền khởi kiện về việc sản xuất, sở hữu và phân phối tài liệu đó.
Margaret E. Mabie, một trong những luật sư của Doe, cho biết trong thông cáo báo chí được trích dẫn bởi Ars Technica: “Cả ba đều là tội ác và xAI đã phạm cả ba tội ác đó”.
Ngoài thiệt hại về tiền, Doe đang yêu cầu tòa án ra lệnh cho xAI tiêu hủy tất cả tài liệu lạm dụng do Grok tạo ra mà nó có thể đang lưu trữ và sử dụng cho mục đích đào tạo, đồng thời ngăn mô hình tạo ra bất kỳ loại đầu ra khiêu dâm nào - một yêu cầu sẽ tịch thu không chỉ hình ảnh lạm dụng mà còn cả hình ảnh thân mật không có sự đồng thuận và nội dung người lớn mà Elon Musk đã công khai quảng bá dưới dạng tính năng.
Sarah London, một luật sư khác của Doe, cho biết trong thông cáo báo chí: “Doe đã sống gần hai thập kỷ khi biết rằng những hình ảnh về điều tồi tệ nhất từng xảy ra với cô ấy đang lan truyền giữa những kẻ săn mồi trên mạng và chúng có thể xuất hiện trở lại bất cứ lúc nào”. "xAI phải chịu trách nhiệm về việc cố ý đào tạo người mẫu của mình về những hình ảnh về sự lạm dụng khủng khiếp mà cô ấy phải chịu đựng."
Một sự tính toán pháp lý ngày càng gia tăng
Việc nộp đơn là mặt trận mới nhất trong cuộc chiến pháp lý mở rộng về khả năng hình ảnh và video của Grok. Trong một trường hợp riêng ở Tennessee, một phụ nữ được xác định là Jane Doe 4 đã tham gia một vụ kiện cáo buộc rằng một bức ảnh thời thơ ấu đã được sử dụng với Grok để tạo ra hàng nghìn hình ảnh khiêu dâm về cô ấy - cáo buộc mà AI Buzz Wire đưa ra vào đầu tháng này. Các cơ quan quản lý và tòa án đang xem xét vấn đề kéo dài đến mức nào và một số người dùng Grok đã bị bắt vì tài liệu họ tạo ra.
Đồng thời, xAI đã có hành vi xúc phạm người dùng của mình. Politico đã báo cáo trong tuần này rằng công ty đang kiện một số người dùng của chính mình ngay cả khi các vụ kiện của nạn nhân ngày càng gia tăng, một chiến lược kiểm tra xem các nền tảng hoặc những người thúc đẩy họ có chịu trách nhiệm pháp lý về những gì mô hình AI tạo ra hay không.
Khiếu nại mới đặt câu hỏi về dữ liệu đào tạo vào trung tâm của cuộc chiến đó. Nếu các tòa án chấp nhận lập luận rằng tập huấn luyện của một mô hình có thể tạo ra trách nhiệm pháp lý đối với những gì nó cho phép người dùng sản xuất, thì hệ lụy sẽ vượt xa xAI – chạm đến mọi công ty hình ảnh và video tổng quát có điều khoản đưa nội dung người dùng trở lại đào tạo. Hiện tại, các cáo buộc chỉ là: các cáo buộc trong hồ sơ xAI vẫn chưa được trả lời trước tòa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
