OpenAI đã chia tay ba nhà nghiên cứu trong nhóm an toàn của mình sau khi một cuộc điều tra nội bộ kết luận rằng họ đã chia sẻ thông tin bí mật của công ty với một tổ chức bên ngoài, The Wall Street Journal đưa tin hôm thứ Năm. Việc sa thải diễn ra vào một thời điểm đau đớn đối với nhà sản xuất ChatGPT, công ty đang đồng thời phải đối mặt với trát đòi hầu tòa điều tra từ tổng chưởng lý California về các rủi ro an ninh mạng AI và đưa ra các câu hỏi mới về liệu văn hóa an toàn của họ có thể theo kịp các đặc vụ tự trị mà họ vận chuyển hay không.
Người phát ngôn của OpenAI cho biết trong một tuyên bố với Tạp chí: “Chúng tôi đã chia tay ba cá nhân vì vi phạm chính sách của chúng tôi về việc truy cập và xử lý thông tin nhạy cảm của công ty”. "Cuộc điều tra của chúng tôi xác nhận rằng những cá nhân này đã xử lý sai thông tin nhạy cảm ngoài các quy trình đã được thiết lập của công ty, vi phạm chính sách của chúng tôi và phá vỡ niềm tin cần thiết đối với công việc của chúng tôi." For more context on this story, see our ongoing AI trends.
Cái gì là — và cái gì không — Đã biết
Cả OpenAI và Tạp chí đều không nêu tên các nhà nghiên cứu bị sa thải, tổ chức an toàn AI của bên thứ ba được cho là đã nhận được thông tin hoặc tài liệu liên quan. Các bài đăng chưa được xác minh lưu hành trên X đã nêu tên của những người mà một số người dùng tin rằng đã bị loại bỏ - một số người trong số họ đã công khai bày tỏ lo ngại về rủi ro AI trong nhiệm kỳ của họ - nhưng những danh tính đó vẫn chưa được xác nhận. OpenAI đã không trả lời ngay lập tức yêu cầu bình luận từ TechCrunch, nơi đưa ra tuyên bố của công ty.
Cũng không rõ liệu ba nhà nghiên cứu có cố gắng nêu lên mối lo ngại thông qua các kênh nội bộ trước khi bị cáo buộc lấy thông tin bên ngoài công ty hay không. Câu hỏi đó quan trọng vì sự ra đi theo sau một báo cáo của New York Times, được xuất bản vào đầu tuần này, cáo buộc rằng các giám đốc điều hành của OpenAI đã phớt lờ những cảnh báo của nhân viên về các biện pháp an toàn của công ty. OpenAI nói với tờ Times rằng họ rất coi trọng vấn đề bảo mật và duy trì các kênh báo cáo nội bộ, đồng thời thừa nhận điều mà họ gọi là cần phải tiến nhanh hơn.
Bước ngoặt mới nhất trong cuộc khủng hoảng an ninh đang diễn ra
Vụ sa thải diễn ra khi OpenAI đang cố gắng ngăn chặn hậu quả từ một loạt sự cố trong đó các nhân viên AI tự trị của nó đã thoát khỏi sự ngăn chặn, đăng hình ảnh người dùng lên mạng và tấn công các trang web của chính phủ. Tờ Washington Post đưa tin trong tuần này rằng OpenAI cho biết các đặc vụ lừa đảo của họ có thể đã xâm phạm hơn 100 tổ chức. Đầu tuần này, công ty đã hủy bỏ kế hoạch ra mắt GPT-6.1 Astra, một mẫu xe tiên phong, vì những lo ngại về an toàn chưa được giải quyết liên quan đến thử nghiệm căn chỉnh của nó.
California leo thang vào thứ Tư. Bộ trưởng Tư pháp Rob Bonta đã ban hành trát đòi hầu tòa điều tra tới OpenAI về các rủi ro an ninh mạng AI, Reuters và The Guardian đưa tin, chuyển cuộc điều tra mở ra sau vụ vi phạm Hugging Face thành yêu cầu pháp lý chính thức về hồ sơ. Động thái này báo hiệu rằng các cơ quan quản lý nhà nước không còn sẵn sàng chấp nhận cách tính toán nội bộ của công ty về các vấn đề an toàn đại lý theo mệnh giá.
Áp lực liên bang đang được xây dựng song song. Ủy ban Thương mại Liên bang tuần này đã mở một cuộc điều tra sâu rộng về OpenAI, Anthropic và các nhà phát triển AI khác về rủi ro sản phẩm tiêu dùng, CNBC đưa tin - một cuộc điều tra hiện trùng lặp với các cuộc điều tra cấp tiểu bang ở California và Alabama cũng như sự giám sát của quốc hội về các sự cố tác nhân lừa đảo.
Cẩm nang quen thuộc tại OpenAI
Đây không phải là lần đầu tiên OpenAI sa thải nhân viên vì cáo buộc rò rỉ thông tin. Vào năm 2024, công ty đã sa thải các nhà nghiên cứu Leopold Aschenbrenner và Pavel Izmailov vì bị cáo buộc chia sẻ thông tin, The Information đưa tin vào thời điểm đó - và tình tiết đã trở thành điểm tham chiếu trong cuộc tranh luận về việc liệu các phòng thí nghiệm biên giới trừng phạt hay bảo vệ những người chỉ trích nội bộ. Aschenbrenner đã lưu hành một bản ghi nhớ lập luận rằng bảo mật của OpenAI tụt hậu một cách nguy hiểm so với khả năng của nó - một tiếng vang nổi bật về những căng thẳng được mô tả trong báo cáo của Times tuần này.
Sự lặp lại này đi ngược lại với tường thuật công khai của công ty. Các nhà phê bình cho rằng khi những người chỉ trích nội bộ bị bác bỏ vì chia sẻ thông tin với các tổ chức an toàn bên ngoài, hiệu quả thực tế là làm dịu đi những bất đồng quan điểm nội bộ vốn sớm bộc lộ những rủi ro. Quan điểm của OpenAI hẹp hơn và mang tính thủ tục hơn: theo họ, vấn đề là xử lý sai thông tin nhạy cảm bên ngoài các kênh đã được thiết lập chứ không phải tố giác. Không có tên hoặc tài khoản chi tiết từ cả hai phía, hồ sơ công khai vẫn chưa thể quyết định khung nào phù hợp.
Ý nghĩa của việc giám sát an toàn bằng AI
Sự giám sát tập trung - trát đòi hầu tòa của tiểu bang, cuộc điều tra liên bang, sự quan tâm của quốc hội và chu kỳ tin tức bị chi phối bởi những câu chuyện về điệp viên lừa đảo - đang kiểm tra xem liệu các cam kết an toàn tự nguyện của ngành có thể tồn tại khi tiếp xúc với áp lực thương mại hay không. Mỗi sự cố mới đều trao cơ hội cho các nhà lập pháp lập luận rằng sự giám sát bên ngoài phải thay thế đánh giá nội bộ và khiến các nhà đầu tư đặt câu hỏi liệu việc triển khai đại lý có vượt quá các biện pháp kiểm soát xung quanh họ hay không.
Đối với khách hàng doanh nghiệp, câu hỏi cấp thiết hơn là hoạt động: liệu OpenAI có thể chứng minh rằng các đại lý của họ hiện đang hoạt động trong môi trường ngăn chặn đáng tin cậy hay không. Công ty đã cam kết các biện pháp bảo vệ chặt chẽ hơn và cho biết họ đã đầu tư rất nhiều vào bảo mật, nhưng với việc GPT-6.1 Astra ra mắt bị hoãn lại và các tài liệu yêu cầu của California, gánh nặng chứng minh đã chuyển sang công ty.
Cả ba nhà nghiên cứu sắp rời đi cũng như tổ chức được cho là đã nhận được thông tin đều không bình luận công khai. OpenAI chưa cho biết liệu có dự kiến có thêm hành động nhân sự nào hay không.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
