OpenAI pada hari Rabu mengumumkan ia menawarkan Pengekalan Data Sifar (ZDR) untuk model sempadannya dan pratonton sistem baharu yang dipanggil Pemprosesan Keselamatan Peribadi, yang direka untuk mengesan penyalahgunaan merentas berbilang interaksi tanpa memberikan syarikat akses kepada kandungan pelanggan. Langkah itu menarik garis tajam terhadap pesaing: Axios melaporkan bahawa pengumuman itu datang kerana Anthropic kini memerlukan pelanggan untuk membenarkan log data, dan Firstpost menyatakan perbezaannya dengan langkah Anthropic kepada pengekalan data 30 hari.
Masanya tidak halus. Dalam pengumumannya, OpenAI memerhatikan bahawa "beberapa penggunaan model sempadan baru-baru ini memerlukan pelanggan membenarkan pembekal AI mereka mengekalkan kandungan sensitif untuk pemantauan keselamatan" — keperluan yang dikatakan syarikat itu "bercanggah dengan kewajipan atau komitmen keselamatan mereka kepada orang yang mereka berkhidmat." Syarikat itu meletakkan privasi sebagai senjata kompetitif dalam pertandingan untuk pelanggan perusahaan terkawal. For more context on this story, see our ongoing AI trends.
Apa yang dijanjikan Pengekalan Data Sifar
Di bawah tawaran ZDR, pelanggan API yang layak mendapat apa yang OpenAI huraikan sebagai "janji yang jelas": OpenAI tidak mengekalkan gesaan atau respons model selepas permintaan diproses. Kandungan pelanggan tidak tersedia kepada kakitangan OpenAI untuk semakan dan data pelanggan perusahaan tidak digunakan untuk melatih model OpenAI melainkan pelanggan secara eksplisit ikut serta.
Bagi bank, hospital dan firma undang-undang yang menimbang penggunaan AI, komitmen tersebut menangani pemecah perjanjian yang paling biasa: risiko bahan sensitif yang mengalir melalui sistem pembekal AI boleh disimpan, dibaca atau diserap ke dalam model masa hadapan. OpenAI mencatatkan organisasi yang berfungsi dengannya mengendalikan "rekod kewangan, data kesihatan, rancangan perniagaan sulit dan penyelidikan proprietari."
Pengekalan masalah keselamatan telah diselesaikan
Pengumuman itu juga mengakui ketegangan teknikal yang tulen. Seperti yang diterangkan oleh OpenAI sendiri, risiko keselamatan AI yang paling serius tidak selalu kelihatan dalam satu interaksi. Niat berbahaya boleh menjadi jelas hanya apabila berbilang interaksi dilihat bersama — apabila pelakon jahat berulang kali menyiasat perlindungan, menyelaras merentas akaun, menyamar ancaman sebagai penyelidikan rutin atau apabila ejen AI terus bertindak selepas diberitahu untuk berhenti.
Sistem keselamatan serasi ZDR sedia ada menilai setiap interaksi secara individu, yang bermaksud risiko berasaskan corak terlepas. Penyedia yang bertindak balas dengan memerlukan pengekalan menyelesaikan satu masalah dengan mencipta masalah lain, memaksa pelanggan memilih antara pemantauan keselamatan dan kewajipan privasi mereka sendiri.
Cara Pemprosesan Keselamatan Peribadi berfungsi
Resolusi yang dicadangkan OpenAI adalah seni bina. Di bawah Pemprosesan Keselamatan Peribadi, kandungan pelanggan kekal pada infrastruktur yang dikawal pelanggan — atau, dalam pilihan yang masih dalam pembangunan, disimpan pada infrastruktur OpenAI yang disulitkan dengan kunci yang dikawal oleh pelanggan. Sistem automatik kemudian menganalisis corak merentas interaksi yang berkaitan dan mengembalikan "isyarat keselamatan terhad" — menandakan tentang kemungkinan penyalahgunaan — tanpa mendedahkan gesaan atau respons asas kepada kakitangan OpenAI.
Pelanggan menyiasat makluman menggunakan maklumat yang tersedia dalam sistem mereka sendiri. Jika mereka ingin merayu keputusan penguatkuasaan, menjelaskan aktiviti yang sah atau menyokong penyiasatan terhadap penyalahgunaan yang disahkan, mereka boleh memilih untuk berkongsi maklumat yang berkaitan dengan OpenAI. Privasi, dengan kata lain, menjadi lalai dan mendedahkan pilihan pelanggan.
Sistem ini sedang diuji dengan pelanggan awal. OpenAI berkata ia merancang untuk mula melancarkan Pemprosesan Keselamatan Peribadi dan menerbitkan kertas putih teknikal pada bulan September.
Kepercayaan perusahaan sebagai pasaran
Pengumuman itu tiba dengan testimoni pelanggan yang berbunyi seperti hujah perolehan. "Penggunaan AI perusahaan bergantung semata-mata pada kawalan pelanggan terhadap data, tanpa penggunaan langsung atau derivatif di luar perkhidmatan yang dipilih," kata Sunil Agrawal, Ketua Pegawai Keselamatan Maklumat di Glean, yang petikan OpenAI diterbitkan bersama siaran itu. "Apabila model menjadi lebih berkebolehan, OpenAI menunjukkan keselamatan boleh maju tanpa menjejaskan privasi dan kawalan yang mengekalkan kepercayaan perusahaan."
OpenAI membingkai pratonton sebagai tindak balas kepada permintaan, mengatakan ia mendengar daripada pelanggan "lantang dan jelas bahawa mereka memerlukan kebolehramalan tentang cara kandungan mereka akan dilindungi apabila sistem AI menjadi lebih berkebolehan." Syarikat itu menambah bahawa pendekatan itu dibentuk oleh pelanggan "merentas industri, wilayah dan saiz syarikat," dan ia akan memastikan pelanggan dimaklumkan dengan masa memimpin yang mencukupi untuk merancang penempatan di sekitar perubahan.
Perdebatan ini akan mencetuskan
Penyelidik keselamatan telah lama berhujah bahawa keterlihatan ke dalam corak penggunaan adalah penting untuk menangkap penyalahgunaan sebelum ia menyebabkan kemudaratan, dan sesetengah pihak akan mempersoalkan sama ada analisis automatik yang disulitkan boleh sepadan dengan kualiti pengesanan semakan manusia. Sementara itu, penyokong privasi akan mengalu-alukan seni bina yang menganggap akses kepada data pelanggan sebagai keputusan pelanggan dan bukannya prerogatif penyedia.
Apa yang jelas ialah tadbir urus data telah beralih daripada cetakan halus undang-undang ke pusat persaingan AI. Memandangkan model sempadan mengambil masa yang lebih lama, lebih banyak tugas autonomi dalam industri terkawal, persoalan tentang siapa yang dapat melihat jejak yang ditinggalkan oleh sistem tersebut — pelanggan, pembekal atau tiada siapa — menjadi paksi utama di mana tawaran AI perusahaan dimenangi dan kalah. OpenAI kini telah membuat jawapannya secara eksplisit, dan meletakkan pesaingnya dalam kedudukan mempertahankan milik mereka.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
