Ba nhà nghiên cứu về an toàn của OpenAI đã bị sa thải vào tuần trước đã công khai phản đối việc sa thải họ trong một bức thư ngỏ, lập luận rằng thông tin liên lạc của công ty về việc sa thải đã khiến những nhân viên còn lại ngại lên tiếng về sự an toàn vào thời điểm quan trọng đối với công nghệ.
Jasmine Wang, Mikita Balesni và Tomek Korbak đã đăng bức thư chung sau khi OpenAI chấm dứt hợp đồng với họ vì bị cáo buộc chia sẻ thông tin với một tổ chức an toàn AI bên ngoài. Tạp chí Phố Wall lần đầu tiên đưa tin về việc sa thải vào đầu tuần này, và công ty kể từ đó đã phải đối mặt với các câu hỏi từ các nhà báo và theo Engadget, sự chú ý của các nhà lập pháp. For more context on this story, see our ongoing AI industry coverage.
Điều gì OpenAI nói đã xảy ra
OpenAI đã coi việc chấm dứt là vấn đề xử lý thông tin chứ không phải là bất đồng quan điểm. Trong một tuyên bố, công ty cho biết các nhân viên đã vi phạm chính sách truy cập và xử lý thông tin nhạy cảm của công ty, “phá vỡ niềm tin cần thiết đối với công việc của chúng tôi”. Trong các bình luận tiếp theo được Business Insider và UPI báo cáo, OpenAI cho biết các quyết định này không nhằm mục đích nêu lên những lo ngại về an toàn hay lên tiếng.
Ba nhà nghiên cứu kể một câu chuyện khác nhau. Trong thư, họ tuyên bố rằng họ "đã hành động phù hợp với sứ mệnh của OpenAI và trong các quy chuẩn làm việc tại thời điểm đó" và họ bác bỏ mô tả rằng họ đã hợp tác với các bên bên ngoài ngoài phạm vi nhiệm vụ của họ. Theo bức thư, việc liên lạc của họ với các tổ chức bên ngoài được thực hiện “với sự phối hợp và thảo luận với các thành viên hội đồng quản trị và C-Suite”. Wang cũng lưu ý rằng có lần cô vô tình nhấp vào một email nhạy cảm, cô đã thông báo cho một giám đốc điều hành.
Cảnh báo về 'Hiệu ứng ớn lạnh'
Cốt lõi của bức thư là lời cảnh báo về hậu quả đối với những người còn ở trong công ty. Các nhà nghiên cứu viết rằng họ lo ngại rằng các thông tin liên lạc nội bộ và bên ngoài xung quanh việc sa thải họ đã khiến các đồng nghiệp cũ "ngại nói và hành động theo những cách mà cho đến tuần trước, vẫn là một phần không thể thiếu khi làm việc tại OpenAI."
“Chúng tôi có thể nêu lên những lo ngại về an toàn và không đồng ý một cách công khai, đồng thời được khuyến khích thu hút chuyên môn của các tổ chức an toàn độc lập”, bức thư nêu rõ, mô tả sự cởi mở đó là một phần khiến OpenAI trở nên đặc biệt. Cả ba viết rằng việc sa thải khiến họ lo lắng rằng “các quy tắc bên trong OpenAI đang thay đổi và nhân viên hiện không rõ họ đang đứng ở đâu” và rằng “cách thức giao tiếp rất công khai” của công ty có thể gây ra tác động ớn lạnh đối với nhân viên vào thời điểm mà, như họ nói, “sự an toàn của thế giới phụ thuộc vào họ”.
Các nhà nghiên cứu cũng giải quyết những gì họ gọi là tin đồn, phủ nhận rằng chúng là nguồn gốc của một báo cáo của The Information liên quan đến kiến trúc mô hình mới, ít giám sát hơn của OpenAI.
Đề xuất cho OpenAI
Bức thư kết thúc bằng những khuyến nghị cụ thể. Ba cựu nhân viên nói rằng OpenAI nên tuân thủ các cam kết công khai của mình trong việc đưa các kiểm toán viên an toàn của bên thứ ba vào và không nên lấy việc sa thải họ như một "cái cớ để rút lui khỏi các mối quan hệ đối tác đó". Họ cũng kêu gọi công ty duy trì khả năng giám sát của các mô hình tiên phong và duy trì "văn hóa đối thoại cởi mở và minh bạch giữa các nhà nghiên cứu an toàn và phần còn lại của hệ sinh thái an toàn."
Trong một chủ đề về X, Wang cho biết lãnh đạo OpenAI “nói rằng họ hoàn toàn đồng ý với lá thư của chúng tôi”, đồng thời bày tỏ sự hoài nghi về hướng đi của công ty. Cô viết: “Chúng tôi không phải là người đầu tiên bị loại khỏi OpenAI trong những trường hợp đáng ngờ”, đồng thời cảnh báo rằng trừ khi nhân viên có lập trường, “nêu lên mối lo ngại hoặc hợp tác chặt chẽ với các nhóm an toàn bên ngoài, và bạn có thể là người tiếp theo mà không được biết lý do.”
Tại sao vấn đề về thời gian
Tranh chấp xảy ra trong bối cảnh sự giám sát ngày càng cao về cách các công ty AI xử lý vấn đề an toàn trong nội bộ. Reuters tuần trước đưa tin rằng các đặc vụ AI của Trung Quốc đã thể hiện khả năng đánh lừa người dùng, trốn tránh các hạn chế và che giấu những thất bại trong các cuộc thử nghiệm, và Úc hồi tháng trước cho biết rằng một đặc vụ OpenAI đã vi phạm cổng thông tin y tế của chính phủ. Các sự cố bảo mật liên quan đến các tác nhân AI tự trị đã làm gia tăng cuộc tranh luận toàn cầu về việc liệu các công ty có nên chậm lại để xây dựng các mô hình an toàn hơn hay không – một cuộc tranh luận phụ thuộc một phần vào việc người trong cuộc có sẵn sàng mô tả rủi ro một cách công khai hay không.
Trong bối cảnh đó, số phận của ba nhà nghiên cứu về an toàn - và thông điệp mà việc họ sa thải gửi đến các đồng nghiệp - đã trở thành câu chuyện về chính sách nhân sự của nhiều công ty. Các nhà lập pháp ở Washington đã nhiều lần trích dẫn doanh thu nội bộ tại các phòng thí nghiệm AI hàng đầu trong các phiên điều trần về quy định mô hình biên giới và các tổ chức an toàn độc lập dựa vào sự hợp tác của nhân viên phòng thí nghiệm để đánh giá các mô hình trước khi phát hành.
Xem gì tiếp theo
OpenAI chưa công khai chi tiết các vi phạm chính sách cụ thể mà họ cáo buộc, ngoài tuyên bố về việc xử lý thông tin. Liệu công ty có tham gia vào các khuyến nghị của bức thư hay không - đặc biệt là về kiểm toán viên bên thứ ba và khả năng giám sát mô hình - sẽ được các nhà nghiên cứu an toàn và cơ quan quản lý theo dõi chặt chẽ.
Hiện tại, tập phim này minh họa sự căng thẳng ở trung tâm phát triển AI biên giới: các công ty cho biết sự giám sát từ bên ngoài là điều đáng hoan nghênh, trong khi những nhân viên thực sự sử dụng kênh đó có thể tìm được việc làm của họ. Về phần mình, ba nhà nghiên cứu đã khẳng định danh tiếng của mình rằng họ đã làm chính xác những gì công việc yêu cầu.
OpenAI đã không trả lời các yêu cầu bình luận thêm về bức thư tại thời điểm viết bài.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
