OpenAI pada hari Rabu mengumumkan bahwa mereka menawarkan Zero Data Retention (ZDR) untuk model frontiernya dan meninjau sistem baru yang disebut Private Safety Processing, yang dirancang untuk mendeteksi penyalahgunaan di berbagai interaksi tanpa memberikan perusahaan akses ke konten pelanggan. Langkah ini menarik perhatian para pesaing: Axios melaporkan bahwa pengumuman tersebut datang karena Anthropic sekarang mengharuskan pelanggan untuk mengizinkan pencatatan data, dan Firstpost mencatat perbedaan dengan perpindahan Anthropic ke penyimpanan data 30 hari.
Waktunya tidak tepat. Dalam pengumumannya, OpenAI mengamati bahwa "beberapa penerapan model frontier baru-baru ini mengharuskan pelanggan mengizinkan penyedia AI mereka menyimpan konten sensitif untuk pemantauan keselamatan" - persyaratan yang menurut perusahaan "bertentangan dengan kewajiban atau komitmen keamanan mereka terhadap orang-orang yang mereka layani." Perusahaan memposisikan privasi sebagai senjata kompetitif dalam persaingan pelanggan perusahaan yang teregulasi. For more context on this story, see our ongoing breaking AI news.
Apa yang dijanjikan Nol Retensi Data
Berdasarkan penawaran ZDR, pelanggan API yang memenuhi syarat mendapatkan apa yang digambarkan OpenAI sebagai "janji yang jelas": OpenAI tidak menyimpan perintah atau respons model setelah permintaan diproses. Konten pelanggan tidak tersedia bagi personel OpenAI untuk ditinjau, dan data pelanggan perusahaan tidak digunakan untuk melatih model OpenAI kecuali pelanggan secara eksplisit ikut serta.
Bagi bank, rumah sakit, dan firma hukum yang mempertimbangkan penerapan AI, komitmen tersebut mengatasi permasalahan yang paling umum terjadi: risiko bahwa materi sensitif yang mengalir melalui sistem penyedia AI dapat disimpan, dibaca, atau diserap ke dalam model masa depan. OpenAI mencatat bahwa organisasi tempat mereka bekerja menangani "catatan keuangan, data kesehatan, rencana bisnis rahasia, dan penelitian kepemilikan".
Retensi masalah keamanan telah terpecahkan
Pengumuman tersebut juga mengakui adanya ketegangan teknis yang nyata. Seperti yang dijelaskan oleh OpenAI sendiri, risiko keamanan AI yang paling serius tidak selalu terlihat dalam satu interaksi. Niat jahat hanya bisa terlihat jelas ketika berbagai interaksi dilihat secara bersamaan — ketika pelaku kejahatan berulang kali menyelidiki pengamanan, berkoordinasi antar akun, menyamarkan ancaman sebagai penelitian rutin, atau ketika agen AI terus bertindak setelah diminta berhenti.
Sistem keselamatan yang kompatibel dengan ZDR mengevaluasi setiap interaksi secara individual, yang berarti risiko berbasis pola akan lolos. Penyedia yang merespons dengan mewajibkan retensi memecahkan satu masalah dengan menciptakan masalah lain, sehingga memaksa pelanggan untuk memilih antara pemantauan keamanan dan kewajiban privasi mereka sendiri.
Cara kerja Pemrosesan Keamanan Pribadi
Resolusi yang diusulkan OpenAI bersifat arsitektural. Dalam Pemrosesan Keamanan Pribadi, konten pelanggan tetap berada di infrastruktur yang dikontrol pelanggan — atau, dalam opsi yang masih dalam pengembangan, disimpan di infrastruktur OpenAI yang dienkripsi dengan kunci yang dikontrol oleh pelanggan. Sistem otomatis kemudian menganalisis pola di seluruh interaksi terkait dan mengembalikan “sinyal keselamatan terbatas” – tanda tentang potensi penyalahgunaan – tanpa memaparkan perintah atau respons mendasar kepada personel OpenAI.
Pelanggan menyelidiki peringatan menggunakan informasi yang tersedia di sistem mereka sendiri. Jika mereka ingin mengajukan banding atas keputusan penegakan hukum, mengklarifikasi aktivitas yang sah, atau mendukung penyelidikan terhadap penyalahgunaan yang terverifikasi, mereka dapat memilih untuk membagikan informasi yang relevan dengan OpenAI. Privasi, dengan kata lain, menjadi pilihan default dan pengungkapan pelanggan.
Sistem saat ini sedang diuji dengan pelanggan awal. OpenAI mengatakan pihaknya berencana untuk mulai meluncurkan Pemrosesan Keamanan Pribadi dan menerbitkan buku putih teknis pada bulan September.
Kepercayaan perusahaan sebagai pasar
Pengumuman tersebut datang dengan testimoni pelanggan yang berbunyi seperti argumen pengadaan. “Adopsi AI oleh perusahaan hanya bergantung pada kendali data pelanggan, tanpa penggunaan langsung atau turunan di luar layanan yang dipilih,” kata Sunil Agrawal, Chief Information Security Officer di Glean, yang kutipannya dipublikasikan OpenAI di samping postingan tersebut. “Seiring dengan semakin canggihnya kemampuan model, OpenAI menunjukkan bahwa keselamatan dapat ditingkatkan tanpa mengorbankan privasi dan kontrol yang menjaga kepercayaan perusahaan.”
OpenAI membingkai pratinjau tersebut sebagai respons terhadap permintaan, dengan mengatakan bahwa mereka mendengar dari pelanggan "dengan tegas dan jelas bahwa mereka memerlukan prediktabilitas tentang bagaimana konten mereka akan dilindungi seiring dengan semakin mumpuninya sistem AI." Perusahaan menambahkan bahwa pendekatan ini dibentuk oleh pelanggan “di seluruh industri, wilayah, dan ukuran perusahaan,” dan pendekatan ini akan terus memberikan informasi kepada pelanggan dengan waktu tunggu yang cukup untuk merencanakan penerapan seputar perubahan tersebut.
Perdebatan yang akan dipicu oleh hal ini
Para peneliti keselamatan telah lama berargumentasi bahwa visibilitas terhadap pola penggunaan sangat penting untuk mendeteksi penyalahgunaan sebelum menyebabkan kerugian, dan beberapa orang akan mempertanyakan apakah analisis otomatis dan terenkripsi dapat menandingi kualitas deteksi yang ditinjau oleh manusia. Sementara itu, para pendukung privasi akan menyambut baik arsitektur yang memperlakukan akses ke data pelanggan sebagai keputusan pelanggan dan bukan hak prerogatif penyedia.
Yang jelas adalah tata kelola data telah berubah dari sekedar aturan hukum menjadi pusat persaingan AI. Ketika model frontier mengambil tugas yang lebih lama dan lebih otonom dalam industri yang diatur, pertanyaan tentang siapa yang dapat melihat jejak yang ditinggalkan oleh sistem tersebut – pelanggan, penyedia, atau siapa pun – menjadi poros utama di mana kesepakatan AI perusahaan menang dan kalah. OpenAI kini telah memberikan jawabannya secara eksplisit, dan menempatkan para pesaingnya dalam posisi membela jawaban mereka.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
