OpenAI pada hari Kamis menerbitkan penjelasan paling rinci tentang bagaimana ia mendeteksi dan mengganggu “distilasi permusuhan” – penggunaan keluaran model frontier secara tidak sah untuk melatih sistem pesaing – dan, menurut beberapa laporan, telah mulai mewajibkan gateway dan pengecer pihak ketiga untuk mendapatkan persetujuannya sebelum menawarkan akses langsung ke modelnya.
Langkah-langkah tersebut, dijelaskan dalam postingan blog OpenAI berjudul "Memerangi penyulingan permusuhan" dan diliput oleh Semafor dan eWeek, menandai pengetatan yang signifikan terhadap cara perusahaan mengontrol siapa yang dapat mendistribusikan kembali kemampuan modelnya — sebuah perubahan yang memiliki konsekuensi nyata bagi para pengembang, startup, dan perusahaan yang mengakses sistem OpenAI melalui perantara.
Mengapa OpenAI Memperlakukan Distilasi sebagai Masalah Keamanan
Distilasi adalah teknik pembelajaran mesin standar di mana satu model belajar dari keluaran model lain. OpenAI mencatat, hal ini bukanlah sesuatu yang terlarang dan tidak biasa. Kekhawatiran perusahaan ini adalah apa yang mereka sebut sebagai distilasi adversarial: seorang aktor menggunakan keluaran model frontier tanpa izin untuk melatih model lain dengan kemampuan serupa, lalu menerapkannya tanpa perlindungan yang sebanding.
Dalam postingan blognya, OpenAI berpendapat bahwa risiko paling jelas terlihat pada domain penggunaan ganda seperti keamanan siber dan biologi. Sebuah model yang membantu pembela HAM menemukan kerentanan perangkat lunak, ketika keahliannya ditransfer ke sistem dengan pagar pembatas yang lebih lemah, dapat membantu penyerang mengeksploitasinya. “Musuh mungkin menyaring kemampuan siber suatu model dan menggunakan model yang dihasilkan untuk membantu melakukan serangan siber yang model aslinya tidak mau dibantu,” tulis perusahaan itu.
Melindungi Rantai Pemikiran
Inti dari pertahanan OpenAI adalah apa yang disebut sebagai penalaran yang dilindungi: langkah-langkah perantara — rantai pemikiran — yang dihasilkan oleh model secara internal sambil berupaya mencari jawaban. Jejak tersebut, jelas perusahaan, dapat berisi informasi yang tidak ada dalam jawaban akhir, menjadikannya sangat berharga sebagai data pelatihan untuk model lab lain.
OpenAI menyatakan telah memperkuat pertahanannya terhadap ekstraksi jejak penalaran di GPT-6.2 Astra dan GPT-6.2 Sol. Dalam evaluasi adaptif internal menggunakan tim merah otomatis, perusahaan melaporkan bahwa rata-rata tingkat keberhasilan serangan untuk memulihkan alasan yang dilindungi turun dari 54,0% terhadap GPT-6 Astra dengan perlindungan aslinya menjadi 0,2% terhadap GPT-6.2 Astra dengan perlindungan yang diperbarui.
Apa yang Ditemukan oleh Studi Siber Internal
Perusahaan juga membagikan hasil studi internal tentang bagaimana kemampuan siber ditransfer selama penyulingan. Model siswa disesuaikan dengan lintasan yang dihasilkan oleh model guru yang mengerjakan tugas pengkodean dan keamanan siber defensif. Siswa yang dilatih tentang jejak penalaran yang tepat umumnya mengungguli siswa yang dilatih hanya pada ringkasan penalaran, baik setelah penyesuaian yang diawasi dan — dengan anggaran inferensi terbesar yang diuji — setelah putaran pembelajaran penguatan lebih lanjut, menurut tolok ukur OpenAI yang ditampilkan di samping postingan.
Implikasinya sangat serius bagi siapa pun yang berharap bahwa transfer kemampuan dapat diatasi dengan menerbitkan keluaran yang bersih: bahkan interaksi yang diizinkan berdasarkan kebijakan penggunaan dapat, secara agregat, mengajarkan keterampilan model siswa yang dapat digeneralisasikan melampaui tugas-tugas yang awalnya dilakukan guru.
Gateway dan Pengecer Sekarang Perlu Persetujuan
Langkah-langkah teknis ini dilakukan bersamaan dengan perubahan kebijakan. Mulai Kamis, OpenAI akan mewajibkan router dan gateway model AI yang memberikan akses langsung kepada pihak ketiga ke modelnya untuk mendapatkan persetujuan sebelumnya, eWeek melaporkan. Persyaratan ini didasarkan pada pengumuman yang dibuat perusahaan pada bulan Oktober yang menjelaskan bagaimana perlindungan keselamatan harus diterapkan ketika pelanggan mengakses modelnya secara langsung atau melalui mitra hosting dan pengecer.
Menurut ringkasan kerangka kerja eWeek, layanan yang berpartisipasi diharapkan mempertahankan standar yang sebanding sehingga pengguna tidak bisa begitu saja berpindah penyedia untuk menghindari pembatasan. Langkah-langkah tersebut mencakup tiga tahap: penilaian risiko dan pengujian terhadap upaya bypass safeguard sebelum penerapan; pemantauan selama penggunaan, dengan mitra diharapkan menyelidiki aktivitas mencurigakan; dan langkah penegakan hukum setelah pelanggaran terjadi. Semafor menggambarkan perubahan tersebut ketika OpenAI memperketat cengkeramannya pada ekosistem pengecer yang telah berkembang pesat di sekitar API-nya.
Apa Artinya Bagi Pengembang
Bagi pengembang, dampak praktisnya adalah pertanyaan kepatuhan baru yang harus ditambahkan ke uji tuntas vendor: apakah perantara yang menawarkan model OpenAI benar-benar berwenang untuk melakukannya. Bisnis yang mengarahkan lalu lintas melalui agregator harus mengonfirmasi status persetujuan penyedia mereka dan cara menangani kredensial dan data, saran eWeek.
Bagi industri yang lebih luas, pengumuman ini merupakan sinyal bahwa penyedia model semakin memandang kendali atas kemampuan yang diturunkan – bukan hanya model itu sendiri – sebagai batasan yang penting. Perselisihan distilasi telah berkobar di berbagai bidang dalam beberapa tahun terakhir, dan OpenAI kini menyusun tanggapannya bukan sebagai perselisihan perizinan namun sebagai persyaratan keselamatan, menyelaraskan pertahanan distilasi dengan kontrol yang diterapkan terhadap risiko biologi dan keamanan siber.
Jalan ke Depan
OpenAI mengatakan akan terus mempelajari seberapa besar transfer kemampuan di berbagai model siswa dan resep distilasi, dan mengundang laboratorium lain untuk mengembangkan upaya deteksi dan penegakan hukumnya. Apakah pesaing mengadopsi sistem persetujuan gateway yang serupa – dan apakah pengguna menerima hambatan tambahan – akan membantu menentukan bagaimana sistem AI generasi berikutnya dibangun, dan siapa yang diizinkan untuk membangunnya.
Tetap Terdepan dalam Kurva
Ingin mengetahui model, keselamatan, dan kebijakan AI terkini? Ikuti berita AI terkini di AI Buzz Wire.
Baca berita AI selengkapnya →