OpenAI hôm thứ Tư đã thông báo rằng họ sẽ cung cấp tính năng Zero Data Retention (ZDR) cho các mô hình biên giới của mình và xem trước một hệ thống mới có tên là Xử lý an toàn riêng tư, được thiết kế để phát hiện hành vi lạm dụng trên nhiều tương tác mà không cấp cho công ty quyền truy cập vào nội dung của khách hàng. Động thái này tạo ra một ranh giới rõ ràng so với các đối thủ cạnh tranh: Axios báo cáo rằng thông báo này được đưa ra khi Anthropic hiện yêu cầu khách hàng cho phép ghi nhật ký dữ liệu và Firstpost lưu ý sự tương phản với việc Anthropic chuyển sang lưu giữ dữ liệu trong 30 ngày.
Thời điểm không tinh tế. Trong thông báo của mình, OpenAI nhận thấy rằng “một số triển khai mô hình biên giới gần đây đã yêu cầu khách hàng cho phép nhà cung cấp AI của họ giữ lại nội dung nhạy cảm để giám sát an toàn” – những yêu cầu mà công ty cho biết “xung đột với nghĩa vụ hoặc cam kết bảo mật của họ với những người mà họ phục vụ”. Công ty đang định vị quyền riêng tư như một vũ khí cạnh tranh trong cuộc cạnh tranh giành khách hàng doanh nghiệp được quản lý. For more context on this story, see our ongoing AI trends.
Hứa hẹn những điều mà Zero Data Retention hứa hẹn
Theo ưu đãi ZDR, khách hàng API đủ điều kiện sẽ nhận được điều mà OpenAI mô tả là "một lời hứa rõ ràng": OpenAI không giữ lại lời nhắc hoặc phản hồi mẫu sau khi yêu cầu được xử lý. Nội dung của khách hàng không được cung cấp cho nhân viên OpenAI xem xét và dữ liệu khách hàng doanh nghiệp không được sử dụng để đào tạo các mô hình của OpenAI trừ khi khách hàng đồng ý tham gia một cách rõ ràng.
Đối với các ngân hàng, bệnh viện và công ty luật đang cân nhắc việc áp dụng AI, những cam kết đó giải quyết vấn đề thường gặp nhất: nguy cơ tài liệu nhạy cảm chảy qua hệ thống của nhà cung cấp AI có thể được lưu trữ, đọc hoặc hấp thụ vào các mô hình trong tương lai. OpenAI lưu ý rằng các tổ chức mà nó hợp tác xử lý “hồ sơ tài chính, dữ liệu sức khỏe, kế hoạch kinh doanh bí mật và nghiên cứu độc quyền”.
Vấn đề duy trì an toàn đã được giải quyết
Thông báo cũng thừa nhận một căng thẳng kỹ thuật thực sự. Như chính OpenAI mô tả, những rủi ro an toàn AI nghiêm trọng nhất không phải lúc nào cũng có thể nhìn thấy được chỉ trong một lần tương tác. Ý định có hại chỉ có thể trở nên rõ ràng khi xem xét nhiều tương tác cùng nhau — khi kẻ xấu liên tục thăm dò các biện pháp bảo vệ, phối hợp giữa các tài khoản, ngụy trang các mối đe dọa dưới dạng nghiên cứu thông thường hoặc khi tác nhân AI tiếp tục hành động sau khi được yêu cầu dừng lại.
Các hệ thống an toàn tương thích với ZDR hiện tại đánh giá từng tương tác riêng lẻ, điều đó có nghĩa là các rủi ro dựa trên mô hình sẽ được loại bỏ. Các nhà cung cấp phản hồi bằng cách yêu cầu lưu giữ đã giải quyết một vấn đề bằng cách tạo ra một vấn đề khác, buộc khách hàng phải lựa chọn giữa giám sát an toàn và nghĩa vụ bảo mật của chính họ.
Cách hoạt động của quá trình xử lý an toàn cá nhân
Giải pháp đề xuất của OpenAI là kiến trúc. Trong Xử lý an toàn riêng tư, nội dung của khách hàng vẫn còn trên cơ sở hạ tầng mà khách hàng kiểm soát - hoặc, trong một tùy chọn vẫn đang được phát triển, được lưu trữ trên cơ sở hạ tầng OpenAI được mã hóa bằng các khóa do khách hàng kiểm soát. Sau đó, các hệ thống tự động sẽ phân tích các mẫu trên các tương tác liên quan và trả về "tín hiệu an toàn hạn chế" — cờ về khả năng sử dụng sai — mà không để lộ lời nhắc hoặc phản hồi cơ bản cho nhân viên OpenAI.
Khách hàng điều tra các cảnh báo bằng cách sử dụng thông tin có sẵn trong hệ thống của họ. Nếu họ muốn kháng cáo quyết định thực thi, làm rõ hoạt động hợp pháp hoặc hỗ trợ điều tra hành vi lạm dụng đã được xác minh, họ có thể chọn chia sẻ thông tin liên quan với OpenAI. Nói cách khác, quyền riêng tư trở thành tùy chọn mặc định và tiết lộ của khách hàng.
Hệ thống hiện đang được thử nghiệm với những khách hàng đầu tiên. OpenAI cho biết họ có kế hoạch bắt đầu triển khai Quy trình an toàn cá nhân và xuất bản sách trắng kỹ thuật vào tháng 9.
Niềm tin doanh nghiệp như một thị trường
Thông báo đi kèm với lời chứng thực của khách hàng giống như một lập luận mua sắm. Sunil Agrawal, Giám đốc An ninh Thông tin tại Glean, người có trích dẫn OpenAI được công bố cùng với bài đăng cho biết: “Việc áp dụng AI của doanh nghiệp chỉ phụ thuộc vào sự kiểm soát dữ liệu của khách hàng, không sử dụng trực tiếp hoặc phái sinh ngoài dịch vụ đã chọn”. “Khi các mô hình trở nên có năng lực hơn, OpenAI cho thấy sự an toàn có thể được nâng cao mà không ảnh hưởng đến quyền riêng tư và khả năng kiểm soát nhằm duy trì niềm tin của doanh nghiệp.”
OpenAI đóng khung bản xem trước như một phản hồi cho nhu cầu, cho biết họ đã nghe được từ khách hàng “rõ ràng và rõ ràng rằng họ cần khả năng dự đoán về cách nội dung của họ sẽ được bảo vệ khi hệ thống AI trở nên có năng lực hơn”. Công ty cho biết thêm rằng cách tiếp cận này đang được định hình bởi khách hàng "trong các ngành, khu vực và quy mô công ty" và nó sẽ giúp khách hàng được thông báo đủ thời gian để lên kế hoạch triển khai xung quanh những thay đổi.
Cuộc tranh luận sẽ nổ ra
Các nhà nghiên cứu an toàn từ lâu đã lập luận rằng khả năng hiển thị các kiểu sử dụng là điều cần thiết để phát hiện hành vi sử dụng sai trước khi nó gây hại và một số người sẽ đặt câu hỏi liệu phân tích được mã hóa, tự động có thể phù hợp với chất lượng phát hiện đánh giá của con người hay không. Trong khi đó, những người ủng hộ quyền riêng tư sẽ hoan nghênh một kiến trúc coi quyền truy cập vào dữ liệu khách hàng là quyết định của khách hàng chứ không phải là đặc quyền của nhà cung cấp.
Điều rõ ràng là quản trị dữ liệu đã chuyển từ bản in hợp pháp sang trung tâm của cuộc cạnh tranh AI. Khi các mô hình biên giới đảm nhận các nhiệm vụ lâu hơn, tự chủ hơn trong các ngành được quản lý, câu hỏi ai sẽ nhìn thấy dấu vết mà các hệ thống đó để lại – khách hàng, nhà cung cấp hay không ai – đang trở thành trục chính trong đó các giao dịch AI của doanh nghiệp được thắng và thua. OpenAI hiện đã đưa ra câu trả lời rõ ràng và đặt các đối thủ của mình vào thế phải bảo vệ họ.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
