Model kecerdasan buatan tidak lama lagi akan cukup berkuasa untuk menguasai biologi, memberikan faedah dan risiko yang serius dalam ukuran yang sama, ketua saintis AI Tencent memberi amaran semasa penampilan awam yang jarang berlaku di Hong Kong pada hari Sabtu, menambah suaranya kepada perdebatan yang semakin berkembang tentang apa yang berlaku apabila sistem AI menyerap sepenuhnya sains hayat.
"Kebolehan siber model AI - dan tidak lama lagi keupayaan bio model - akan mencapai ambang di mana ia sebenarnya mungkin mendatangkan bahaya," kata Yao Shunyu, ketua saintis AI Tencent Holdings dan bekas penyelidik OpenAI, di simposium sains yang dihoskan bersama oleh Akademi Sains Hong Kong dan Hadiah Sains Masa Depan, menurut South China Morning Post. For more context on this story, see our ongoing AI trends.
Penasihat Berwajaran Terbuka Meminta Tanggungjawab
Amaran Yao kurang ketara untuk kandungannya berbanding sumbernya. Dia membina reputasinya di OpenAI sebelum menyertai Tencent, salah satu syarikat teknologi terbesar di China, dan Tencent telah meletakkan dirinya dalam kalangan penerbit model AI berat terbuka yang paling agresif — sistem yang parameter asasnya dikeluarkan secara terbuka dan boleh dimuat turun, diubah suai dan dijalankan oleh sesiapa sahaja.
Itu menjadikan mesej yang disertakannya menunjukkan: "Semua orang Cina atau mana-mana syarikat model terbuka perlu sangat bertanggungjawab dan sangat serius mengenai kebimbangan keselamatan dan keselamatan itu," kata Yao, menurut SCMP.
Penilaian itu dibuat apabila sistem AI sempadan semakin digunakan untuk perubatan dan biologi, di mana ia boleh mempercepatkan penemuan ubat baharu dan rawatan lain — satu anjakan yang sudah membentuk semula industri farmaseutikal China, menurut laporan SCMP. Pakar keselamatan, bagaimanapun, telah lama memberi amaran bahawa keupayaan yang sama boleh membantu pelakon berniat jahat menghasilkan bioweapon atau mencetuskan wabak seterusnya - risiko yang menjadi lebih sukar untuk polis apabila model berkebolehan dikeluarkan sebagai perisian terbuka yang boleh dijalankan oleh sesiapa sahaja tanpa pagar.
Biologi dilihat secara meluas dalam kalangan pakar AI sebagai sempadan utama seterusnya selepas pengekodan, domain di mana kemajuan AI yang pesat telah meningkatkan keselamatan siber global. Seperti keupayaan siber, keupayaan biologi adalah dwi-guna: model yang sama yang mereka bentuk calon dadah yang menjanjikan boleh, pada dasarnya, membantu penyerang. Terdapat perdebatan tulen mengenai pihak mana yang lebih menguntungkan.
Buku Main Keselamatan Tencent Sendiri
Kenyataan Yao membawa berat tambahan kerana ia tiba beberapa hari selepas syarikatnya sendiri menghantar model perdana baharu. Tencent mengeluarkan Hy4 pada hari Rabu, yang disenaraikan sebagai model berprestasi kedua terbaik yang dihasilkan di China menurut firma penanda aras Analisis Buatan, SCMP melaporkan.
Dalam pengumuman keluarannya, Tencent menerangkan langkah keselamatan yang terbina dalam Hy4. Syarikat itu berkata ia mengalih keluar keupayaan penggodaman siber model sambil mengekalkan keupayaan pertahanan sibernya dengan menapis data yang berkaitan semasa peringkat latihan. Dari segi biologi, Tencent berkata keupayaan bio Hy4 kekal "jauh di bawah" ambang berisiko tingginya kerana model itu masih tidak dapat mengubah pengetahuan biologi asas kepada protokol yang boleh diambil tindakan - jurang, dengan kata lain, antara pemahaman buku teks dan panduan operasi langkah demi langkah.
Pembingkaian itu - mengukur sama ada model boleh menukar pengetahuan am kepada prosedur yang boleh digunakan - telah menjadi kayu ukur biasa dalam penilaian biosekuriti sistem AI. Dakwaan Tencent bahawa Hy4 kurang daripada garis itu adalah penegasan oleh pembuat model itu sendiri, dan pengesahan luaran penilaian sedemikian kekal terhad di seluruh industri.
Masa juga mencerminkan tekanan persaingan. Tencent memperkenalkan Hy4 ke dalam perlumbaan open-weight yang semakin hangat di kalangan firma AI China, dengan DeepSeek, Z.ai dan Alibaba semuanya menghantar model baharu dalam beberapa minggu kebelakangan ini, menurut liputan awal SCMP mengenai pelancaran itu. Dalam ekosistem di mana penerbitan wajaran adalah keperluan kompetitif, gesaan Yao untuk amalan keluaran "sangat bertanggungjawab" dibaca sebagai percubaan untuk menetapkan norma dalam pergerakan yang menjadikan semakan keselamatan paling sukar untuk dilaksanakan.
Daripada Amaran kepada Makmal Autonomi
Apa yang menjadikan penampilan Yao sangat menarik ialah Tencent secara serentak mendorong AI lebih dalam ke dalam makmal. Menghadapi bilik pelajar sains komputer, beliau menggariskan rancangan untuk "makmal sains autonomi" yang akan menggunakan sistem AI untuk menjalankan eksperimen yang kompleks dari hujung ke hujung, dengan lipatan protein songsang disebut sebagai contoh jenis kerja yang disasarkan oleh syarikat itu.
Yao berhujah bahawa halangan teknikal kepada AI saintifik yang selamat dan berkebolehan akan jatuh tepat pada masanya. "Saya fikir semua perubahan teknikal boleh diselesaikan - di mana ia hanya menunggu masa," katanya, mengikut SCMP. "Saya fikir cabaran yang lebih besar ialah kemasyarakatan dan organisasi."
Tempat itu menggariskan khalayak sasaran mesej itu: Yao bercakap dengan bilik yang penuh dengan pelajar sains komputer — populasi yang paling mungkin membina model ini — semasa Minggu Hadiah Sains Masa Depan 2026, yang dilaporkan SCMP menarik kira-kira 1,000 peserta.
Bahagian itu — masalah kejuruteraan yang boleh diselesaikan berbanding masalah tadbir urus yang tidak diselesaikan — secara senyap-senyap menjadi kedudukan standard eksekutif AI di kedua-dua belah Pasifik. Bagi Tencent, ia juga bersifat defensif: sebuah syarikat yang mempertaruhkan tindakan seterusnya ke atas makmal autonomi mempunyai setiap insentif untuk meyakinkan pengawal selia bahawa ambang bio-risiko boleh direkayasa, diaudit dan dihormati di tempat terbuka.
Buat masa ini, persoalan jangka pendek ialah sama ada syarikat yang menerbitkan model berwajaran terbuka akan mengguna pakai ambang bio-risiko yang boleh diukur sebelum keupayaan melepasinya - atau selepas itu. Amaran Yao mencadangkan Tencent, sekurang-kurangnya, percaya jam sedang berjalan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
