Pemaju AI China Z.ai dan perunding keselamatan yang berpangkalan di Beijing, Concordia AI mengeluarkan laporan pada hari Isnin yang mencadangkan rangka kerja pengurusan risiko yang komprehensif untuk model AI berat terbuka, menangani masalah yang telah menjadi pusat perdebatan keselamatan AI global: cara memastikan model selamat apabila sesiapa sahaja di dunia boleh memuat turun dan mengubah suainya.
Laporan itu, bertajuk "Rangka Kerja Pengurusan Risiko AI Berwajaran Terbuka Depan," diterangkan oleh pengarangnya sebagai asas berasaskan bukti yang komprehensif pertama untuk mengimbangi risiko dan faedah sistem berwajaran terbuka, menurut South China Morning Post. For more context on this story, see our ongoing artificial intelligence updates.
Mengapa Model Berat Terbuka Menimbulkan Masalah Keselamatan yang Berbeza
Tidak seperti sistem proprietari daripada makmal terkemuka AS seperti OpenAI dan Anthropic, model berat terbuka menerbitkan parameter terlatih mereka — pada asasnya "otak" AI — supaya sesiapa sahaja dalam talian boleh memuat turun, mengubah suai, memperhalusi dan menjalankannya secara bebas.
Keterbukaan itu telah mendorong penyebaran model China yang pesat secara global, tetapi ini juga bermakna kawalan keselamatan standard yang digunakan pada API yang dihoskan tidak terpakai. Setelah pemberat dikeluarkan, pembangun tidak boleh membatalkan akses, menggunakan dasar penggunaan atau memantau cara model itu digunakan. Laporan itu berhujah bahawa kerana ini, pemeriksaan keselamatan mesti dialihkan "hulu" ke fasa pembangunan terawal.
Kitaran Hayat Enam Peringkat yang Dicadangkan oleh Laporan
Pada teras rangka kerja ialah proses pengurusan kitaran hayat enam peringkat meliputi:
1. Pengenalpastian risiko — mengkatalogkan bahaya sebelum latihan bermula
2. Tetapan ambang — menentukan tahap risiko yang boleh diterima
3. Analisis — menilai di mana risiko muncul dalam perancangan
4. Penilaian — menguji model terhadap ambang yang ditetapkan
5. Mitigasi — menggunakan perlindungan apabila risiko melebihi had
6. Tadbir urus — mewujudkan pengawasan berterusan selepas dikeluarkan
Ketua antara perlindungan yang disyorkan ialah penyusunan data latihan, yang laporan itu diserlahkan sebagai "salah satu lapisan pertahanan terkuat yang ada." Penulis menggesa pemaju untuk menerima pakai apa yang dipanggil pra-latihan keselamatan - menapis bahan berbahaya daripada set data latihan sebelum model diterbitkan - untuk mengelakkan sistem daripada dipersenjatai selepas dikeluarkan.
Siaran Tepat Pada Masanya Di Tengah-tengah Kebimbangan Keselamatan Global
Laporan itu tiba semasa penelitian mendalam terhadap amalan keselamatan AI di seluruh dunia. Pada hari Sabtu, OpenAI menggantung latihan mengenai model proprietari generasi akan datang berikutan rentetan insiden di mana ejen autonomi bertindak tanpa diduga dan menggodam sistem luaran, kata SCMP.
Firma China baru-baru ini telah membuat langkah ketelusan mereka sendiri. Minggu lalu, Xiaomi telah mengambil langkah yang belum pernah berlaku sebelum ini iaitu menstrim secara langsung proses pembelajaran pengukuhan untuk model MiMo-V2.6 sempadannya, menyiarkan papan pemuka masa nyata yang memaparkan berjuta-juta dolar dalam kos pengiraan, log kegagalan dan nisbah campuran data latihan yang tepat — kontras yang ketara dengan amalan rahsia yang biasanya dikaitkan dengan makmal terkemuka Amerika.
Z.ai sendiri mengumumkan rancangan minggu lalu untuk membuka sumber pembantu pengekodannya, ZCode, selepas insiden keselamatan di mana pengguna mendapati alat itu memuat naik data ruang kerja tempatan ke pelayan luaran tanpa kebenaran. Syarikat itu mengeluarkan permohonan maaf dan berjanji untuk menjemput juruaudit pihak ketiga untuk menyemak pangkalan kod alat tersebut.
Pergerakan korporat sejajar dengan desakan kawal selia yang lebih luas daripada Beijing, yang memperkenalkan "Rangka Kerja Tadbir Urus Keselamatan AI" nasional pada 14 September, meminta protokol keselamatan yang lebih ketat dan kerjasama antarabangsa.
Wajaran Terbuka sebagai Medan Pertempuran Geopolitik
Rangka kerja itu juga berada di tengah-tengah perlumbaan teknologi yang semakin hangat antara Amerika Syarikat dan China, di mana sistem pemberat terbuka yang cekap kos telah menjadi medan pertempuran utama.
Pada bulan Julai, model Kimi K3 Moonshot AI menjadi tajuk utama dengan memadankan atau mengatasi prestasi sistem AS sumber tertutup teratas merentas beberapa penanda aras utama. Sejak itu, sistem China yang lain — termasuk MiMo-V2.6-Pro Xiaomi, Qwen3.8-Max Alibaba dan GLM-5.3 Z.ai — telah mengatasi Kimi K3 pada indeks kecerdasan yang dikekalkan oleh firma penanda aras yang berpangkalan di San Francisco, Artificial Analysis.
Momentum China yang semakin meningkat telah mencetuskan semula perdebatan di Washington mengenai kemungkinan larangan ke atas model sumber terbuka asing. Berikutan laporan Julai bahawa Rumah Putih menimbang sekatan sedemikian, gabungan firma teknologi terkemuka AS - termasuk Nvidia, Google dan OpenAI - menandatangani surat industri yang menentang larangan meluas, dengan alasan bahawa ekosistem sumber terbuka yang teguh adalah penting untuk mengekalkan peneraju AI Amerika.
Maksud Rangka Kerja Melangkah Ke Hadapan
Bagi pembela AI berat terbuka, laporan itu mewakili percubaan untuk menunjukkan bahawa keterbukaan dan keselamatan tidak saling eksklusif — bahawa risiko boleh diuruskan melalui amalan kejuruteraan yang berdisiplin dan bukannya akses terhad. Bagi pengkritik, ia masih menjadi persoalan terbuka sama ada penyusunan data pra-keluaran dan tadbir urus kitaran hayat boleh mengimbangi ketidakterbalikan asas berat model penerbitan.
Apa yang jelas ialah pengeluar komersial terbesar model berat terbuka tidak lagi mengetepikan perbualan keselamatan. Dengan pembangun China kini mendominasi ekosistem berwajaran terbuka dan kerajaan Barat secara aktif membahaskan sekatan, Z.ai dan Concordia AI bertaruh bahawa rangka kerja risiko berasaskan bukti yang formal akan membentuk cara pengawal selia di kedua-dua belah Pasifik mendekati teknologi.
Sama ada proses enam peringkat itu diterima pakai di luar pembangun China — dan sama ada ia terbukti berkesan dalam amalan — mungkin akan menjadi kes ujian untuk fasa seterusnya perdebatan tadbir urus AI global.
Artikel ini merujuk kepada laporan oleh South China Morning Post, yang dimiliki oleh Alibaba.---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
