Một người phụ nữ được xác định trong hồ sơ tòa án là Jane Doe 4 đã tham gia vụ kiện chống lại xAI của Elon Musk về vai trò mà chatbot Grok của công ty bị cáo buộc đã tạo ra tài liệu lạm dụng tình dục trẻ em, TechCrunch đưa tin hôm thứ Bảy, trích dẫn một báo cáo trên tờ The Washington Post.
Theo báo cáo, người phụ nữ cáo buộc rằng cha dượng của cô đã sử dụng Grok để chỉnh sửa một bức ảnh chụp khi cô 11 tuổi để tạo ra hơn 7.000 hình ảnh khiêu dâm về cô. Cô cũng cho biết cha dượng của cô được phát hiện đã chết vì tự sát hai ngày sau khi những hình ảnh này được phát hiện trong một cuộc đột kích của cơ quan thực thi pháp luật. For more context on this story, see our ongoing artificial intelligence updates.
Người phụ nữ nói: “Quyền truy cập không giới hạn vào những công cụ này đang lan truyền rất nhanh”. “Đó là việc cướp đi cuộc sống hàng ngày và biến nó thành hành vi lạm dụng tình dục trẻ em.”
Vụ việc này là một trong những cáo buộc nghiêm trọng nhất cho đến nay liên quan đến chatbot AI chính thống và việc tạo ra hình ảnh khiêu dâm của một đứa trẻ thật, đồng thời nó đã leo thang một vụ kiện đã trở thành tâm điểm trong cuộc tranh luận về các biện pháp bảo vệ cho việc tạo hình ảnh AI.
Tuyên bố cốt lõi của vụ kiện
Vụ kiện ban đầu được đệ trình bởi ba thanh thiếu niên Tennessee, họ cáo buộc xAI – hiện là một phần của SpaceX – đã không thực hiện các biện pháp phòng ngừa cơ bản để ngăn Grok bị lợi dụng để tạo ra hình ảnh khiêu dâm về người thật, bao gồm cả trẻ vị thành niên. Các nguyên đơn đang tìm kiếm tình trạng khởi kiện tập thể, điều này sẽ cho phép những người khác bị cáo buộc gây tổn hại tương tự tham gia vụ kiện.
Hồ sơ của Jane Doe 4 bổ sung thêm một loạt các chi tiết cụ thể đáng kinh ngạc: một bức ảnh thời thơ ấu, một công cụ AI được cho là được sử dụng để tạo ra hàng nghìn dẫn xuất lạm dụng và một bi kịch gia đình xảy ra trong vài ngày kể từ khi chính quyền phát hiện ra tài liệu.
TechCrunch cho biết họ đã liên hệ với xAI để nhận xét. Các cáo buộc là những tuyên bố trong vụ kiện dân sự đang diễn ra và chưa được chứng minh trước tòa. Nếu bạn hoặc ai đó bạn biết đang gặp khủng hoảng, bạn có thể liên hệ với Đường dây nóng Tự tử và Khủng hoảng 988 ở Hoa Kỳ bằng cách gọi điện hoặc nhắn tin theo số 988.
Một hình thức gây áp lực lên Grok
Vụ kiện diễn ra trong bối cảnh một năm ngày càng có nhiều sự xem xét kỹ lưỡng về khả năng tạo hình ảnh của Grok. Đầu năm nay, X tràn ngập hàng triệu hình ảnh khiêu dâm do Grok tạo ra, một tập phim đã thu hút sự chỉ trích rộng rãi về các biện pháp bảo vệ xung quanh công cụ này. Tập phim đã giúp thúc đẩy một làn sóng luật pháp cấp tiểu bang nhắm vào cái gọi là ứng dụng "khỏa thân" và hình ảnh tổng hợp vô căn cứ; Lệnh cấm của Minnesota đối với các công cụ như vậy có hiệu lực sau khi một thẩm phán từ chối yêu cầu của xAI về lệnh ngăn chặn việc thực thi nó.
Cổ phần của vụ Tennessee vượt ra ngoài xAI. Các nguyên đơn lập luận rằng các công ty triển khai các công cụ tạo hình ảnh trên quy mô lớn có nghĩa vụ xây dựng các biện pháp bảo vệ kỹ thuật nhằm ngăn chặn hành vi tình dục hóa những người thật, có thể nhận dạng được - và đặc biệt là trẻ em - trước khi sản phẩm đến tay công chúng. Lập luận đó, nếu được tòa án chấp nhận, có thể thiết lập một tiêu chuẩn pháp lý áp dụng cho mọi nhà cung cấp mô hình tạo hình ảnh.
Vấn đề chưa được giải quyết của ngành
Đối với các công ty AI, việc ngăn chặn việc sử dụng sai công cụ tạo hình ảnh đối với người thật tỏ ra vô cùng khó khăn. Các công cụ tạo hình mờ và xuất xứ - chẳng hạn như những công cụ Anthropic bắt đầu thêm vào đầu ra của Claude để tuân thủ các quy tắc minh bạch của EU - có thể giúp xác định nội dung tổng hợp sau khi thực tế, nhưng chúng không ngăn chặn việc tạo ra tài liệu lạm dụng ngay từ đầu. Bộ lọc đầu vào và đầu ra có thể chặn các mẫu đã biết nhưng những người dùng quyết tâm liên tục tìm ra cách giải quyết và các mô hình hình ảnh có dung lượng mở đã khiến một số khả năng không thể nhớ lại hoàn toàn.
Các cáo buộc trong vụ xAI chỉ ra điểm nghiêm trọng nhất của phổ đó: tuyên bố rằng một bức ảnh của một đứa trẻ có thể được chuyển thành hàng nghìn hình ảnh rõ ràng bằng cách sử dụng một công cụ được vận hành bởi một trong những công ty AI nổi tiếng nhất thế giới, công ty tiếp thị Grok cho hàng triệu người đăng ký như một sản phẩm tiêu dùng.
Các chuyên gia pháp lý theo dõi vụ việc cho biết giá thầu vụ kiện tập thể sẽ kiểm tra xem liệu tòa án có coi việc không ngăn chặn việc sử dụng sai mục đích đó là lỗi sản phẩm mà các công ty AI phải chịu trách nhiệm hay không hoặc là hành vi sử dụng sai mục đích của người dùng cá nhân nằm ngoài trách nhiệm của công ty.
Điều gì xảy ra tiếp theo
Mục tiêu trước mắt của nguyên đơn là chứng nhận đẳng cấp, điều này sẽ mở rộng đáng kể nhóm nguyên đơn tiềm năng chống lại xAI. Về phần mình, xAI đã lập luận trong các vụ kiện tụng liên quan rằng trách nhiệm về việc sử dụng sai mục đích thuộc về người dùng chứ không phải công cụ. Việc bổ sung Jane Doe 4, với lời kể rõ ràng về cáo buộc gây tổn hại cho một đứa trẻ, đã làm tăng áp lực chính trị và công chúng xung quanh lời bào chữa đó.
Vụ việc đang diễn ra khi các cơ quan quản lý ở Hoa Kỳ và Châu Âu tranh luận về các nghĩa vụ minh bạch và tiêu chuẩn an toàn đối với AI tạo ra và khi có nhiều bằng chứng cho thấy việc lạm dụng việc tạo hình ảnh không chỉ giới hạn ở các công cụ bên lề. Cho dù câu trả lời đến ở tòa án, luật pháp hay trong các lựa chọn kỹ thuật của chính các công ty AI, câu hỏi trọng tâm của vụ kiện – phải xây dựng mức độ ngăn ngừa tác hại trước khi sản phẩm AI xuất xưởng – vẫn là vấn đề mở khó chịu nhất trong ngành.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
