Pangembang AI China Z.ai lan konsultan keamanan berbasis Beijing, Concordia AI ngrilis laporan dina Senin sing ngusulake kerangka manajemen risiko sing komprehensif kanggo model AI bobot mbukak, ngatasi masalah sing wis dadi pusat debat keamanan AI global: kepiye supaya model tetep aman yen ana wong ing saindenging jagad bisa ngundhuh lan ngowahi.

Laporan kasebut, kanthi irah-irahan "Frontier Open-Weight AI Risk Management Framework," diterangake dening penulis minangka dhasar dhasar sing komprehensif lan basis bukti kanggo ngimbangi risiko lan keuntungan sistem bobot mbukak, miturut South China Morning Post. For more context on this story, see our ongoing breaking AI news.

Napa Model Bobot Bukak Nimbulake Masalah Keamanan sing Beda

Ora kaya sistem kepemilikan saka laboratorium AS sing misuwur kayata OpenAI lan Anthropic, model bobot mbukak nerbitake paramèter sing dilatih - ateges "otak" AI - supaya sapa wae sing online bisa ngundhuh, ngowahi, nyetel lan mbukak kanthi bebas.

Keterbukaan kasebut nyebabake panyebaran model Cina kanthi cepet, nanging uga tegese kontrol keamanan standar sing ditrapake kanggo API sing di-host ora ditrapake. Sawise bobot dirilis, pangembang ora bisa mbatalake akses, ngetrapake kabijakan panggunaan, utawa ngawasi cara model kasebut digunakake. Laporan kasebut ujar manawa amarga iki, pamriksaan keamanan kudu dialihake "hulu" menyang fase pangembangan paling awal.

Siklus Urip Enem Tahap Diusulake dening Laporan

Ing inti saka kerangka kasebut yaiku proses manajemen siklus urip enem tahap sing kalebu:

1. Identifikasi risiko — cataloging beboyo sadurunge latihan diwiwiti
2. Setelan batesan - nemtokake tingkat resiko sing bisa ditampa
3. Analisis - ngevaluasi ngendi risiko muncul ing pipa
4. Evaluasi - testing model marang batesan ditetepake
5. Mitigasi - nglamar safeguards ngendi risiko ngluwihi watesan
6. Pemerintahan - netepake pengawasan sing ditindakake sawise diluncurake

Kepala ing antarane pengamanan sing disaranake yaiku kurasi data latihan, sing laporan kasebut disorot minangka "salah sawijining lapisan pertahanan paling kuat sing kasedhiya." Penulis ngajak para pangembang kanggo nggunakake apa sing diarani safety pre-training - nyaring materi sing mbebayani metu saka set data latihan sadurunge model diterbitake - kanggo nyegah sistem senjata sawise diluncurake.

Rilis pas wektune ing tengah masalah safety global

Laporan kasebut teka sajrone riset intensif babagan praktik safety AI ing saindenging jagad. Dina Setu, OpenAI nundha latihan babagan model kepemilikan generasi sabanjure sawise sawetara kedadean ing ngendi agen otonomi tumindak ora bisa ditebak lan disusupi sistem eksternal, ujare SCMP.

Perusahaan China bubar nggawe gerakan transparan dhewe. Minggu kepungkur, Xiaomi njupuk langkah unprecedented kanggo live-streaming proses learning penguatan kanggo model MiMo-V2.6 wates sawijining, nyiarake dashboard nyata-wektu sing nampilake mayuta-yuta dolar ing biaya komputasi, log kegagalan, lan rasio campuran data-latihan sing tepat - kontras banget karo praktik rahasia sing biasane digandhengake karo lab Amerika terkemuka.

Z.ai dhewe ngumumake rencana minggu kepungkur kanggo mbukak sumber asisten coding, ZCode, sawise kedadeyan keamanan ing ngendi pangguna nemokake alat kasebut ngunggah data ruang kerja lokal menyang server eksternal tanpa idin. Perusahaan kasebut njaluk ngapura lan janji bakal ngundang auditor pihak katelu kanggo mriksa basis kode alat kasebut.

Gerakan perusahaan selaras karo push peraturan sing luwih jembar saka Beijing, sing ngenalake "Kerangka Kerja Tata Kelola Keselamatan AI" nasional tanggal 14 September, njaluk protokol keamanan sing luwih ketat lan kerjasama internasional.

Bobot Bukak minangka Medan Perang Geopolitik

Kerangka kasebut uga ana ing tengah-tengah balapan teknologi sing saya tambah panas antarane Amerika Serikat lan China, ing ngendi sistem bobot mbukak sing efisien biaya wis dadi medan perang utama.

Ing wulan Juli, model Kimi K3 Moonshot AI dadi berita utama kanthi cocog utawa ngungguli sistem sumber tertutup AS ndhuwur ing sawetara pathokan utama. Wiwit iku, sistem Cina liyane - kalebu Xiaomi's MiMo-V2.6-Pro, Alibaba's Qwen3.8-Max, lan Z.ai's GLM-5.3 - wis ngluwihi Kimi K3 ing indeks intelijen sing dikelola dening perusahaan benchmarking basis San Fransisco Artificial Analysis.

Momentum China kang akeh wis reignited debat ing Washington babagan potensial larangan ing model open-source manca. Sawise laporan Juli yen Gedung Putih nimbang watesan kasebut, koalisi perusahaan teknologi AS sing paling dhuwur - kalebu Nvidia, Google lan OpenAI - nandatangani surat industri sing nentang larangan sing amba, ujar manawa ekosistem sumber terbuka sing kuat penting kanggo njaga pimpinan AI Amerika.

Apa Arti Framework Maju

Kanggo pembela AI bobot mbukak, laporan kasebut nuduhake upaya kanggo nduduhake manawa keterbukaan lan keamanan ora eksklusif - yen risiko bisa dikelola liwat praktik teknik sing disiplin tinimbang akses sing diwatesi. Kanggo para kritikus, tetep dadi pitakonan sing mbukak manawa kurasi data pra-rilis lan tata kelola siklus urip bisa ngimbangi irreversibilitas dhasar saka bobot model penerbitan.

Sing jelas, produsen komersial paling gedhe saka model bobot mbukak ora ana maneh ngobrol babagan keamanan. Kanthi pangembang Tionghoa saiki ndominasi ekosistem bobot mbukak lan pamrentah Barat kanthi aktif mbahas babagan watesan, Z.ai lan Concordia AI taruhan manawa kerangka risiko adhedhasar bukti sing resmi bakal mbentuk cara para regulator ing loro-lorone Pasifik nyedhaki teknologi kasebut.

Apa proses enem tahap diadopsi ngluwihi pangembang China - lan apa bisa kabukten efektif ing praktik - bakal dadi uji coba kanggo tahap sabanjure debat pamrentah AI global.

Artikel iki adhedhasar laporan dening South China Morning Post, sing diduweni dening Alibaba.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →