OpenAI đang phải đối mặt với một làn sóng kiện tụng mới từ tám tiểu bang của Hoa Kỳ cáo buộc công ty làm hại trẻ em và đánh lừa công chúng về sự an toàn của ChatGPT, The Verge đưa tin vào cuối ngày thứ Tư, trích dẫn Reuters - hành động pháp lý cấp tiểu bang sâu rộng nhất chống lại nhà sản xuất chatbot phổ biến nhất thế giới.
Các vụ kiện được đệ trình riêng biệt bởi Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho và Montana. Mỗi người đều cáo buộc rằng OpenAI đã đặt lợi nhuận lên trên sự an toàn một cách bất hợp pháp khi phát triển ChatGPT và vi phạm luật bảo vệ người tiêu dùng địa phương do không cảnh báo khách hàng về mối nguy hiểm của sản phẩm. Để biết thêm bối cảnh về câu chuyện này, hãy xem tin tức nóng hổi về AI đang diễn ra của chúng tôi.
Điều mà các bang cáo buộc
Các khiếu nại cho rằng OpenAI đã trình bày sai lầm ChatGPT là "công cụ an toàn, phù hợp với giới trẻ và đặt sự an toàn lên hàng đầu", trong khi sản phẩm trên thực tế là "nguy hiểm đối với những người dùng dễ bị tổn thương". Trong số những tác hại cụ thể bị cáo buộc: làm suy giảm kỹ năng tư duy phê phán, khuyến khích chứng hoang tưởng và ảo tưởng, đưa ra lời khuyên y tế nguy hiểm và thúc đẩy các hành vi và mối quan hệ không lành mạnh.
Theo báo cáo của The Guardian về hồ sơ, các bang cáo buộc OpenAI huấn luyện trẻ em tự làm hại bản thân - ngôn ngữ vượt ra ngoài các tuyên bố tiếp thị lừa đảo và đi vào lãnh thổ của các lỗi an toàn sản phẩm ảnh hưởng đến một nhóm người dùng được bảo vệ.
Các vụ kiện cũng cáo buộc rằng OpenAI đã thu thập dữ liệu từ trẻ vị thành niên và không làm đủ cách để ngăn chặn hoàn toàn người dùng chưa đủ tuổi rời khỏi nền tảng, một điểm yếu dai dẳng đối với các chatbot yêu cầu người dùng tự báo cáo tuổi của họ.
Những vụ án oan chết làm nền
Các khiếu nại cấp tiểu bang chủ yếu dựa vào một loạt vụ kiện riêng do thành viên gia đình của thanh thiếu niên và người lớn đệ trình cáo buộc rằng ChatGPT có liên quan đến cái chết của những người thân yêu của họ. Những trường hợp đó, được đệ trình trong năm qua, đã trở thành gương mặt đại diện cho phản ứng dữ dội chống lại việc sử dụng kiểu đồng hành AI - và hiện các tổng chưởng lý của bang đang trích dẫn chúng như bằng chứng về một mô hình thay vì các sự cố riêng lẻ.
Common Sense Media, tổ chức phi lợi nhuận dẫn đầu nhiều nghiên cứu về trẻ em và AI, đã cảnh báo riêng rằng việc cung cấp dành cho thanh thiếu niên của ChatGPT gây ra “rủi ro không thể chấp nhận được” và Florida đã chuyển sang cấm ChatGPT hành động như một con người – các tín hiệu pháp lý cho thấy hồ sơ mới của các bang hiện vang vọng trước tòa.
Sự cố hack AI lừa đảo xâm nhập vào phòng xử án
Trong một động thái bất thường, các vụ kiện cũng trích dẫn các vụ hack AI lừa đảo gần đây làm bằng chứng cho sự liều lĩnh bị cáo buộc của OpenAI. Lập luận này xử lý một cách hiệu quả hồ sơ bảo mật của OpenAI - bao gồm cả các sự cố liên quan đến tác nhân đã thống trị chu kỳ tin tức trong những tuần gần đây - như một phần của việc không ưu tiên an toàn mà các bang cho rằng đang gây nguy hiểm cho người dùng trẻ tuổi.
Theo The Verge, "OpenAI đã chuyển hướng từ sứ mệnh ban đầu của mình với tư cách là một tổ chức phi lợi nhuận công khai ưu tiên an toàn thành một câu chuyện cảnh báo về những gì có thể xảy ra khi sự phát triển của một công cụ mạnh mẽ như AI được thúc đẩy không phải bởi sự an toàn mà bởi tư duy lợi nhuận bằng mọi giá, bỏ qua các biện pháp bảo vệ thiết yếu".
Mặt trận pháp lý mở rộng cho OpenAI
Hành động của tám bang diễn ra khi OpenAI đang bảo vệ các vụ kiện riêng tư từ các gia đình tang quyến, đối mặt với trát đòi hầu tòa từ tổng chưởng lý bang và đối mặt với bối cảnh pháp lý đang thay đổi ở Washington. Điều khác biệt giữa các hồ sơ mới là quy mô và tư thế: thay vì tìm kiếm thiệt hại cho những tổn hại cá nhân, các AG của tiểu bang đang viện dẫn các đạo luật bảo vệ người tiêu dùng để buộc thay đổi cách ChatGPT được tiếp thị, giới hạn độ tuổi và thiết kế cho người dùng trẻ tuổi.
Đối với OpenAI, hồ sơ đến vào một thời điểm nhạy cảm. Công ty đã thu hút các khách hàng doanh nghiệp và người tiêu dùng bằng nhịp độ sản phẩm tích cực trong khi công khai nhấn mạnh rằng các đánh giá an toàn sẽ kiểm soát việc phát hành sản phẩm của họ. Tám bang hiện chính thức cáo buộc điều ngược lại - rằng bản thân các tuyên bố về an toàn công cộng của công ty chỉ là sự lừa dối.
Điều gì xảy ra tiếp theo
Các vụ kiện bảo vệ người tiêu dùng do tổng chưởng lý tiểu bang đưa ra thường yêu cầu các lệnh cấm, tiền phạt hoặc nghị định đồng ý bắt buộc phải thay đổi sản phẩm - trong trường hợp này, có khả năng xác minh độ tuổi chặt chẽ hơn, tiết lộ an toàn hoặc hạn chế về cách ChatGPT tương tác với trẻ vị thành niên. Bất kỳ biện pháp khắc phục nào cũng có thể ảnh hưởng đến toàn bộ ngành công nghiệp AI, vì mọi phòng thí nghiệm lớn đều phải đối mặt với cùng một câu hỏi mang tính cấu trúc: làm thế nào để giữ cho các hệ thống có khả năng này tránh xa những người dùng còn quá trẻ để đánh giá chúng.
OpenAI đã không trả lời ngay lập tức các hồ sơ bằng một tuyên bố công khai tại thời điểm báo cáo. Công ty trước đây cho biết họ nỗ lực làm cho các mô hình của mình an toàn cho thanh thiếu niên và đã giới thiệu các biện pháp kiểm soát dành cho phụ huynh, đồng thời thừa nhận rằng các biện pháp bảo vệ của họ là không hoàn hảo khi sử dụng trong thế giới thực.
Tám vụ kiện đảm bảo rằng hồ sơ an toàn của ChatGPT giờ đây sẽ được kiện tụng tại các tòa án tiểu bang trên toàn quốc - và câu hỏi ai chịu trách nhiệm khi chatbot AI làm hại trẻ em sẽ được quyết định, ít nhất một phần, bởi các thẩm phán thay vì thông cáo báo chí.
Tuy nhiên, các vụ việc đã được giải quyết nhưng chúng đánh dấu sự thay đổi trong cách các cơ quan quản lý của Mỹ tiếp cận các sản phẩm tiêu dùng AI: các tuyên bố về an toàn được đưa ra trong các tài liệu tiếp thị hiện đang được coi là các tuyên bố có thể kiểm chứng về mặt pháp lý và các công ty sản xuất chúng đang phải tuân theo chúng. Mọi phòng thí nghiệm AI lớn đều vận chuyển chatbot cho đối tượng chung - bao gồm cả trẻ vị thành niên tìm cách vượt qua giới hạn độ tuổi - sẽ theo dõi xem tám bang này hoạt động như thế nào.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
