OpenAI pada hari Khamis menerbitkan akaunnya yang paling terperinci tentang cara ia mengesan dan mengganggu "penyulingan musuh" — penggunaan tanpa kebenaran keluaran model sempadan untuk melatih sistem bersaing — dan, menurut beberapa laporan, telah mula memerlukan pintu masuk dan penjual semula pihak ketiga untuk mendapatkan kelulusannya sebelum menawarkan akses terus kepada modelnya.
Pergerakan itu, yang diterangkan dalam catatan blog OpenAI bertajuk "Memerangi penyulingan musuh" dan dalam liputan oleh Semafor dan eWeek, menandakan pengetatan yang ketara tentang cara syarikat mengawal orang yang boleh mengagihkan semula keupayaan modelnya — satu anjakan dengan akibat sebenar bagi pembangun, syarikat permulaan dan perusahaan yang mengakses sistem OpenAI melalui pengantara.
Mengapa OpenAI Menganggap Penyulingan sebagai Masalah Keselamatan
Penyulingan ialah teknik pembelajaran mesin standard di mana satu model belajar daripada output model lain. Dengan sendirinya, OpenAI menyatakan, ia bukan haram mahupun luar biasa. Kebimbangan syarikat ialah apa yang dipanggil penyulingan bermusuhan: seorang pelakon menggunakan keluaran model sempadan tanpa kebenaran untuk melatih model lain dengan keupayaan yang serupa, kemudian menggunakannya tanpa perlindungan yang setanding.
Dalam catatan blognya, OpenAI berhujah risiko paling jelas dalam domain dwi-guna seperti keselamatan siber dan biologi. Model yang membantu pembela mencari kelemahan perisian boleh, setelah kemahirannya dipindahkan ke sistem dengan pagar yang lebih lemah, membantu penyerang mengeksploitasinya. "Musuh mungkin menyaring keupayaan siber model dan menggunakan model yang terhasil untuk membantu melakukan serangan siber yang model asal akan enggan membantu," tulis syarikat itu.
Melindungi Rantaian Pemikiran
Di tengah-tengah pertahanan OpenAI ialah apa yang dipanggil penaakulan dilindungi: langkah perantaraan — rantaian pemikiran — model menjana secara dalaman sambil berusaha ke arah jawapan. Jejak itu, jelas syarikat itu, boleh mengandungi maklumat jawapan akhir yang ditinggalkan, menjadikannya sangat berharga sebagai data latihan untuk model makmal lain.
OpenAI berkata ia telah mengukuhkan pertahanannya terhadap pengekstrakan jejak penaakulan dalam GPT-6.2 Astra dan GPT-6.2 Sol. Dalam penilaian penyesuaian dalaman menggunakan pasukan merah automatik, syarikat melaporkan bahawa purata kadar kejayaan serangan untuk memulihkan alasan yang dilindungi jatuh daripada 54.0% terhadap GPT-6 Astra dengan perlindungan asalnya kepada 0.2% terhadap GPT-6.2 Astra dengan perlindungan yang dikemas kini.
Apa Kajian Siber Dalamannya Ditemui
Syarikat itu juga berkongsi hasil daripada kajian dalaman tentang cara pemindahan keupayaan siber semasa penyulingan. Model pelajar telah diperhalusi pada trajektori yang dihasilkan oleh model guru yang bekerja pada pengekodan dan tugasan keselamatan siber defensif. Pelajar yang dilatih tentang kesan penaakulan yang tepat secara amnya mengatasi pelajar yang dilatih hanya pada ringkasan penaakulan, kedua-duanya selepas penalaan halus diselia dan — pada belanjawan inferens terbesar yang diuji — selepas pusingan pembelajaran pengukuhan selanjutnya, menurut penanda aras OpenAI yang dipaparkan bersama siaran.
Implikasinya amat membimbangkan bagi sesiapa sahaja yang berharap pemindahan keupayaan dapat dibendung dengan menerbitkan output yang telah dibersihkan: malah interaksi yang dibenarkan di bawah dasar penggunaan boleh, secara agregat, mengajar kemahiran model pelajar yang melangkaui tugas yang dilakukan oleh guru pada asalnya.
Gerbang dan Penjual Semula Kini Memerlukan Kelulusan
Langkah teknikal tiba bersama perubahan dasar. Mulai Khamis, OpenAI akan memerlukan penghala model AI dan gerbang yang memberikan pihak ketiga akses terus kepada modelnya untuk mendapatkan kelulusan terlebih dahulu, lapor eWeek. Keperluan itu dibina berdasarkan pengumuman yang dibuat oleh syarikat pada bulan Oktober yang menyatakan cara perlindungan keselamatan harus digunakan apabila pelanggan mengakses modelnya secara langsung atau melalui rakan kongsi pengehosan dan penjual semula.
Menurut ringkasan eWeek tentang rangka kerja itu, perkhidmatan yang mengambil bahagian dijangka mengekalkan piawaian yang setanding supaya pengguna tidak boleh menukar penyedia untuk mengelak sekatan. Langkah-langkah tersebut merangkumi tiga peringkat: penilaian risiko dan ujian terhadap percubaan pintasan perlindungan sebelum digunakan; pemantauan semasa penggunaan, dengan rakan kongsi dijangka menyiasat aktiviti yang mencurigakan; dan langkah penguatkuasaan selepas pelanggaran berlaku. Semafor mencirikan perubahan itu sebagai OpenAI mengetatkan cengkamannya pada ekosistem penjual semula yang telah berkembang pesat di sekitar APInya.
Maksudnya untuk Pembangun
Bagi pembangun, kesan praktikal ialah soalan pematuhan baharu untuk ditambahkan pada usaha wajar vendor: sama ada perantara yang menawarkan model OpenAI sebenarnya diberi kuasa untuk berbuat demikian. Perniagaan yang menghalakan trafik melalui agregator harus mengesahkan status kelulusan pembekal mereka dan cara ia mengendalikan bukti kelayakan dan data, eWeek dinasihatkan.
Untuk industri yang lebih luas, pengumuman itu adalah isyarat bahawa penyedia model semakin melihat kawalan keupayaan yang diperolehi — bukan hanya model itu sendiri — sebagai perimeter yang penting. Pertikaian penyulingan telah merebak di seluruh bidang sejak beberapa tahun kebelakangan ini, dan OpenAI kini merangka tindak balasnya bukan sebagai pertikaian pelesenan tetapi sebagai keperluan keselamatan, menyelaraskan pertahanan penyulingan dengan kawalan yang digunakan untuk risiko biologi dan keselamatan siber.
Jalan Di Hadapan
OpenAI berkata ia akan terus mengkaji berapa banyak pemindahan keupayaan merentas model pelajar yang berbeza dan resipi penyulingan, dan ia menjemput makmal lain untuk membina kerja pengesanan dan penguatkuasaannya. Sama ada pesaing menggunakan rejim kelulusan get laluan yang setanding — dan sama ada pengguna menerima geseran tambahan itu — akan membantu menentukan cara sistem AI generasi akan datang dibina, dan siapa yang dibenarkan untuk membinanya.
Kekal Mendahului Keluk
Mahukan model AI terkini, keselamatan dan polisi semasa ia berlaku? Ikuti berita terkini AI di AI Buzz Wire.
Baca lebih banyak berita AI →