Model intelijen buatan bakal dadi cukup kuat kanggo nguwasani biologi, menehi keuntungan lan risiko serius kanthi ukuran sing padha, kepala ilmuwan AI Tencent ngelingake sajrone penampilan umum sing langka ing Hong Kong, Setu, nambah swarane menyang debat sing saya tambah akeh babagan apa sing kedadeyan nalika sistem AI nyerep ilmu urip.
"Kamampuan cyber model AI - lan enggal kemampuan bio model - bakal tekan ambang sing bisa nyebabake cilaka," ujare Yao Shunyu, kepala ilmuwan AI Tencent Holdings lan mantan peneliti OpenAI, ing simposium ilmu sing dianakake dening Hong Kong Academy of Sciences lan Future Science Prize, miturut South China Morning Post. For more context on this story, see our ongoing AI industry coverage.
Advokat Open-Bobot Njaluk Tanggung Jawab
Bebaya Yao luwih penting amarga isine tinimbang sumbere. Dheweke mbangun reputasi ing OpenAI sadurunge gabung karo Tencent, salah sawijining perusahaan teknologi paling gedhe ing China, lan Tencent wis mapan ing antarane penerbit model AI bobot mbukak sing paling agresif - sistem sing parameter dhasare dirilis sacara umum lan bisa diundhuh, diowahi lan dikelola dening sapa wae.
Sing nggawe pesen sing diiringi: "Kabeh wong Tionghoa utawa perusahaan model terbuka kudu tanggung jawab banget lan serius babagan masalah keamanan lan keamanan kasebut," ujare Yao, miturut SCMP.
Assessment kasebut amarga sistem AI perbatasan saya tambah akeh ditrapake kanggo obat lan biologi, ing ngendi bisa nyepetake panemuan obat-obatan anyar lan perawatan liyane - owah-owahan sing wis nggawe maneh industri farmasi China, miturut laporan SCMP. Nanging, para ahli keamanan wis suwe ngelingake manawa kemampuan sing padha bisa mbantu para aktor jahat ngasilake bioweapons utawa nyebabake pandemik sabanjure - risiko sing luwih angel ditindakake polisi nalika model sing bisa diluncurake minangka piranti lunak bobot mbukak sing bisa ditindakake sapa wae tanpa pagar.
Biologi dianggep akeh ing antarane para ahli AI minangka tapel wates utama sabanjure sawise coding, domain sing kemajuan AI kanthi cepet wis ngganggu keamanan siber global. Kaya kapabilitas cyber, kapabilitas biologis bisa digunakake kanthi dual: model sing padha sing ngrancang calon obat sing njanjeni bisa, ing prinsip, mbantu penyerang. Ana debat asli babagan sisih endi sing luwih migunani.
Tencent's Own Safety Playbook
Omongan Yao nggawa bobot ekstra amarga dheweke teka sawetara dina sawise perusahaane dhewe ngirim model unggulan anyar. Tencent ngrilis Hy4 nalika Rebo, sing dadi model paling apik nomer loro sing diprodhuksi ing China miturut analisis Artificial benchmarking, SCMP lapor.
Ing woro-woro rilis, Tencent nggambarake langkah-langkah keamanan sing dibangun ing Hy4. Perusahaan kasebut ujar manawa wis ngilangi kemampuan hacking cyber model kasebut nalika nahan kemampuan pertahanan cyber kanthi nyaring data sing relevan sajrone tahap latihan. Ing sisih biologi, Tencent ujar manawa kapabilitas bio Hy4 tetep "ing ngisor" ambang beresiko dhuwur amarga model kasebut isih ora bisa ngowahi kawruh biologi dhasar dadi protokol sing bisa ditindakake - celah kasebut, kanthi tembung liya, antarane pangerten buku teks lan pandhuan operasional langkah-langkah.
Framing kasebut - ngukur manawa model bisa ngowahi kawruh umum dadi prosedur sing bisa digunakake - wis dadi ukuran umum ing evaluasi biosecurity sistem AI. Pratelan Tencent yen Hy4 kurang saka garis kasebut minangka pratelan dening produsen model kasebut, lan validasi eksternal saka evaluasi kasebut tetep diwatesi ing industri kasebut.
Wektu uga nggambarake tekanan kompetitif. Tencent ngumumake Hy4 dadi balapan bobot mbukak sing saya tambah panas ing antarane perusahaan AI China, kanthi DeepSeek, Z.ai lan Alibaba kabeh ngirim model anyar ing sawetara minggu kepungkur, miturut jangkoan peluncuran SCMP sadurunge. Ing ekosistem sing nerbitake bobot minangka kabutuhan kompetitif, telpon Yao kanggo praktik rilis "banget tanggung jawab" diwaca minangka upaya kanggo nyetel norma ing gerakan sing nggawe review safety paling angel ditindakake.
Saka Bebaya menyang Lab Otonomi
Sing nggawe penampilan Yao menarik banget yaiku Tencent nyurung AI luwih jero menyang laboratorium. Ngatasi ruangan mahasiswa ilmu komputer, dheweke mbatesi rencana "laboratorium ilmu otonom" sing bakal nggunakake sistem AI kanggo nglakokake eksperimen komplèks end-to-end, kanthi lempitan protein terbalik sing dikutip minangka conto jinis karya sing ditargetake perusahaan.
Yao negesake manawa alangan teknis kanggo AI ilmiah sing aman lan mumpuni bakal tiba ing wektune. "Aku kabeh owah-owahan technical bisa ditanggulangi - ngendi iku mung prakara wektu," ngandika, saben SCMP. "Aku mikir tantangan sing luwih gedhe yaiku sosial lan organisasi."
Papan kasebut negesake pamirsa sing dituju pesen kasebut: Yao ngomong karo ruangan sing dikempalken karo siswa ilmu komputer - populasi sing paling akeh mbangun model kasebut - sajrone Minggu Hadiah Ilmu 2026 Future, sing dilaporake SCMP narik udakara 1,000 peserta.
Divisi kasebut - masalah teknik sing bisa dipecahake karo masalah pamrentahan sing ora dipecahake - kanthi tenang dadi posisi standar eksekutif AI ing loro-lorone Pasifik. Kanggo Tencent, iki uga minangka pertahanan: perusahaan sing nggawe taruhan sabanjure ing laboratorium otonom duwe insentif kanggo ngyakinake regulator yen ambang bio-risiko bisa direkayasa, diaudit lan dihormati ing mbukak.
Saiki, pitakonan sing cedhak yaiku apa perusahaan sing nerbitake model bobot mbukak bakal nggunakake ambang bio-risiko sing bisa diukur sadurunge kapabilitas nyabrang - utawa sawise. Bebaya Yao nuduhake Tencent, paling ora, percaya yen jam wis mlaku.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
