Model kecerdasan buatan akan segera menjadi cukup kuat untuk menguasai biologi, memberikan manfaat dan risiko serius dalam ukuran yang sama, kepala ilmuwan AI Tencent memperingatkan dalam sebuah penampilan publik yang jarang terjadi di Hong Kong pada hari Sabtu, menambahkan suaranya pada perdebatan yang berkembang tentang apa yang terjadi ketika sistem AI sepenuhnya menyerap ilmu-ilmu kehidupan.
“Kemampuan dunia maya dari model-model AI – dan segera kemampuan bio dari model-model tersebut – akan mencapai ambang batas yang memungkinkan terjadinya bahaya,” kata Yao Shunyu, kepala ilmuwan AI di Tencent Holdings dan mantan peneliti OpenAI, pada simposium sains yang diselenggarakan bersama oleh Akademi Ilmu Pengetahuan Hong Kong dan Future Science Prize, menurut South China Morning Post. For more context on this story, see our ongoing AI trends.
Seorang Advokat Open-Weight Menyerukan Tanggung Jawab
Peringatan Yao tidak terlalu penting karena isinya, melainkan karena sumbernya. Ia membangun reputasinya di OpenAI sebelum bergabung dengan Tencent, salah satu perusahaan teknologi terbesar di Tiongkok, dan Tencent telah memposisikan dirinya di antara penerbit model AI open-weight yang paling agresif — sistem yang parameter dasarnya dirilis ke publik dan dapat diunduh, dimodifikasi, dan dijalankan oleh siapa saja.
Hal ini membuat pesan yang menyertainya menjadi jelas: "Semua perusahaan Tiongkok atau perusahaan model terbuka mana pun harus sangat bertanggung jawab dan sangat serius mengenai masalah keamanan dan keselamatan tersebut," kata Yao, menurut SCMP.
Penilaian ini dilakukan ketika sistem AI terdepan semakin banyak diterapkan pada bidang kedokteran dan biologi, yang dapat mempercepat penemuan obat-obatan baru dan pengobatan lainnya – sebuah perubahan yang telah mengubah industri farmasi Tiongkok, menurut laporan SCMP. Namun para pakar keamanan telah lama memperingatkan bahwa kemampuan yang sama dapat membantu pelaku jahat memproduksi senjata biologis atau memicu pandemi berikutnya – sebuah risiko yang menjadi lebih sulit untuk diawasi ketika model yang mumpuni dirilis sebagai perangkat lunak terbuka yang dapat dijalankan oleh siapa pun tanpa batasan.
Biologi secara luas dipandang di kalangan pakar AI sebagai tantangan besar berikutnya setelah coding, sebuah bidang di mana kemajuan AI yang pesat telah menjungkirbalikkan keamanan siber global. Seperti halnya kemampuan dunia maya, kemampuan biologis juga memiliki kegunaan ganda: model yang sama yang merancang kandidat obat yang menjanjikan, pada prinsipnya, dapat membantu penyerang. Terdapat perdebatan serius mengenai pihak mana yang lebih diuntungkan.
Pedoman Keamanan Tencent Sendiri
Pernyataan Yao memiliki bobot tambahan karena pernyataan tersebut muncul beberapa hari setelah perusahaannya sendiri mengirimkan model andalan baru. Tencent merilis Hy4 pada hari Rabu, yang menduduki peringkat kedua sebagai model dengan kinerja terbaik yang diproduksi di Tiongkok menurut perusahaan pembanding Artificial Analysis, SCMP melaporkan.
Dalam pengumuman rilisnya, Tencent menjelaskan langkah-langkah keamanan yang ada di Hy4. Perusahaan tersebut mengatakan telah menghilangkan kemampuan peretasan siber model tersebut sambil tetap mempertahankan kemampuan pertahanan siber dengan menyaring data yang relevan selama tahap pelatihan. Di sisi biologis, Tencent mengatakan kemampuan bio Hy4 masih “jauh di bawah” ambang batas risiko tinggi karena model tersebut masih belum dapat mengubah pengetahuan biologi dasar menjadi protokol yang dapat ditindaklanjuti – dengan kata lain, kesenjangan antara pemahaman buku teks dan panduan operasional langkah demi langkah.
Pembingkaian tersebut – mengukur apakah suatu model dapat mengubah pengetahuan umum menjadi prosedur yang dapat digunakan – telah menjadi tolok ukur umum dalam evaluasi biosekuriti sistem AI. Klaim Tencent bahwa Hy4 tidak memenuhi kriteria tersebut adalah pernyataan dari pembuat model itu sendiri, dan validasi eksternal terhadap evaluasi tersebut masih terbatas di seluruh industri.
Waktunya juga mencerminkan tekanan persaingan. Tencent memperkenalkan Hy4 ke dalam persaingan open-weight yang semakin memanas di antara perusahaan-perusahaan AI Tiongkok, dengan DeepSeek, Z.ai, dan Alibaba mengirimkan model-model baru dalam beberapa minggu terakhir, menurut liputan SCMP sebelumnya tentang peluncuran tersebut. Dalam ekosistem di mana bobot publikasi merupakan kebutuhan kompetitif, seruan Yao untuk menerapkan praktik pelepasan yang “sangat bertanggung jawab” dibaca sebagai upaya untuk menetapkan norma-norma dalam gerakan yang menjadikan tinjauan keselamatan paling sulit untuk ditegakkan.
Dari Peringatan hingga Lab Otonom
Yang membuat penampilan Yao sangat menarik adalah Tencent secara bersamaan mendorong AI lebih jauh ke dalam laboratorium. Saat berbicara di hadapan mahasiswa ilmu komputer, ia menguraikan rencana untuk "laboratorium sains otonom" yang akan menggunakan sistem AI untuk menjalankan eksperimen kompleks secara menyeluruh, dengan pelipatan protein terbalik yang disebut-sebut sebagai contoh jenis pekerjaan yang ditargetkan oleh perusahaan tersebut.
Yao berpendapat bahwa hambatan teknis terhadap AI ilmiah yang aman dan mumpuni akan hilang seiring berjalannya waktu. “Saya pikir semua perubahan teknis dapat diselesaikan – dan ini hanya masalah waktu saja,” katanya, menurut SCMP. “Saya pikir tantangan yang lebih besar adalah kemasyarakatan dan organisasi.”
Tempat tersebut menggarisbawahi target penerima pesan tersebut: Yao berbicara di depan ruangan yang dipenuhi mahasiswa ilmu komputer – populasi yang kemungkinan besar akan menggunakan model ini – selama Pekan Hadiah Sains Masa Depan 2026, yang menurut laporan SCMP menarik sekitar 1.000 peserta.
Pembagian tersebut – masalah teknik yang dapat dipecahkan versus masalah tata kelola yang belum terpecahkan – secara diam-diam menjadi posisi standar bagi para eksekutif AI di kedua negara di kawasan Pasifik. Bagi Tencent, hal ini juga bersifat defensif: sebuah perusahaan yang bertaruh pada laboratorium otonom mempunyai insentif untuk meyakinkan regulator bahwa ambang batas bio-risiko dapat direkayasa, diaudit, dan dihormati secara terbuka.
Untuk saat ini, pertanyaan jangka pendeknya adalah apakah perusahaan yang menerbitkan model open-weight akan mengadopsi ambang batas bio-risiko yang terukur sebelum kemampuan melampaui batas tersebut – atau setelahnya. Peringatan Yao menunjukkan bahwa Tencent, setidaknya, percaya bahwa waktu terus berjalan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
