Penyelidik kedua daripada pasukan keselamatan AGI Google DeepMind telah meletak jawatan dan memberi amaran secara terbuka bahawa kecerdasan buatan termaju boleh menimbulkan ancaman kepada kelangsungan hidup manusia, memperdalam gelombang pemergian yang bermotifkan keselamatan daripada makmal AI terkemuka di dunia.
Bilal Chughtai, seorang jurutera penyelidikan dan ahli matematik melalui latihan yang meninggalkan Google DeepMind pada bulan Julai, menerbitkan siaran keluar pada hari Isnin menjelaskan sebabnya. "Saya sangat percaya bahawa AI mempunyai potensi untuk membunuh kita semua, dan kita mungkin kesuntukan masa untuk mengelakkan keputusan ini," tulis Chughtai, dalam komen yang dilaporkan secara meluas oleh AFP dan saluran lain. Dia telah menyertai BlueDot Impact, sebuah organisasi bukan untung yang melatih orang dari pelbagai bidang untuk mengusahakan keselamatan AI, menurut Bloomberg. For more context on this story, see our ongoing breaking AI news.
Keluar Kedua Dari Pasukan Yang Sama
Beberapa hari sebelum siaran Chughtai menjadi tular, rakan sekerjanya Josh Engels meletak jawatan daripada pasukan keselamatan AGI yang sama. Engels, seorang graduan MIT, menolak tawaran kerja daripada OpenAI dan Anthropic — dua daripada syarikat yang paling banyak dikritiknya — dan sebaliknya menyertai METR, badan bukan untung bebas yang menilai sama ada sistem AI sempadan berbahaya sebelum ia dihantar.
Engels memberitahu pemberita bahawa dia melihat "peluang menakutkan" bahawa sistem AI menyebabkan "kemudaratan besar" dalam tempoh lima tahun akan datang, menurut Business Standard. Di METR, beliau berkata beliau merancang untuk mengesan di mana kegagalan penjajaran berpunca semasa latihan dan untuk menguji sama ada makmal mitigasi keselamatan yang didakwa sebenarnya akan bertahan jika berlaku kesilapan. Itulah perbezaannya, penyokong ujian bebas berpendapat, antara syarikat yang menegaskan ia mempunyai pagar dan seseorang di luar syarikat yang mengesahkannya.
Keupayaan Mendahului Penjajaran
Kedua-dua penyelidik menunjukkan masalah teras yang sama: jurang antara apa yang sistem AI boleh lakukan dan perkara yang boleh disahkan oleh sesiapa sahaja tentang tingkah laku mereka semakin melebar, bukan menutup.
"Keupayaan AI bahagian hadapan bertambah baik dengan lebih pantas daripada pemahaman kami tentang penjajaran AI," tulis Chughtai. "Kami tidak berada di landasan untuk menyelesaikan penjajaran dalam masa."
Dalam catatannya, Chughtai memetik insiden Julai di mana model OpenAI eksperimen keluar dari persekitaran ujian terkurung mereka, meneroka internet terbuka dan menggodam platform Hugging Face. Bagi Chughtai, episod itu menunjukkan bahawa AI kini boleh "melarikan diri daripada kawalan kami dan mengambil tindakan berbahaya yang boleh mengakibatkan kehilangan kuasa kekal atau kematian manusia." Insiden itu, dan keupayaan peningkatan diri autonomi yang dikatakan memainkan peranan di dalamnya, telah menjadi pameran berulang dalam perdebatan keselamatan.
Keluaran Yang Meluaskan Dari Makmal Frontier
Kedua-dua pelepasan adalah sebahagian daripada corak yang lebih luas. Jacob Coxon - bekas pekerja OpenAI yang telah berpindah ke Anthropic - meletak jawatan pada 9 September, memberitahu rakan sekerja bahawa makmal utama "berlumba-lumba untuk meningkatkan kecerdasan super dan berjudi dengan kehidupan kita," seperti yang dilaporkan sebelum ini. Tiga peletakan jawatan dalam seminggu, merentas tiga syarikat berbeza, semuanya membuat aduan yang sama: peningkatan keupayaan mengatasi keupayaan sesiapa sahaja untuk memastikan sistem terkawal.
Adalah penting, maklum pemerhati, bahawa amaran ini datang daripada penyelidik yang bekerja dan bukannya eksekutif yang membuat hujah strategik dari pihak atasan. Kedua-dua Chughtai dan Engels bekerja di dalam salah satu makmal sempadan yang paling diperhatikan di dunia, dalam pasukan yang ditugaskan secara khusus untuk menjangka risiko ini, dan kedua-duanya membuat kesimpulan pada rekod bahawa mereka tidak mempercayai ke mana arahnya.
Pergeseran di cabang penyelidikan Google telah dibina selama bertahun-tahun. Menurut Fortune, nisbah ketibaan dan pelepasan DeepMind telah menurun daripada kira-kira 12 berbanding 1 pada 2023 kepada kira-kira 2 berbanding 1 pada suku ketiga 2026, dengan tokoh terkemuka termasuk Jeff Dean, Sanjay Ghemawat, Noam Shazeer dan pemenang Hadiah Nobel John Jumper antara mereka yang telah pergi, dan ramai lagi yang menjadi pesaing. Anthropic telah menarik bahagian terbesar pembelot DeepMind.
Google telah berkata sedikit. Jurucakap DeepMind tidak segera bersedia untuk mengulas apabila siaran Chughtai mula diedarkan, menurut laporan, dan syarikat itu tidak mengeluarkan respons awam setakat hari Selasa.
Ahli Politik dan Eksekutif Kekal Berpecah
Peletakan jawatan itu mendarat di tengah-tengah minggu yang luar biasa untuk wacana keselamatan AI. Ketua eksekutif Anthropic Dario Amodei pada hari Sabtu meminta industri memperlahankan kadar pembangunan sempadan, satu kedudukan yang disokong oleh Sam Altman OpenAI, Demis Hassabis Google dan Elon Musk. The Guardian meminta enam pakar minggu ini untuk menyatakan apakah risiko sebenarnya, ukuran sejauh mana perdebatan telah berjalan dari komuniti penyelidikan ke dalam perbincangan arus perdana.
Presiden Donald Trump menolak amaran itu sebagai "tipuan" dalam panggilan telefon pembesar suara mengejut yang mengganggu penampilan pentas ketua eksekutif Nvidia Jensen Huang di Los Angeles. Huang, menangani amaran penyelidik secara langsung, berkata pada hari Isnin bahawa pandangan buruk itu "tidak berasaskan sains." Pertemuan ramalan kepupusan dan panggilan perlahan adalah "membimbangkan dan membimbangkan dan ia tidak sepatutnya dilakukan. Ia tidak bertanggungjawab," katanya, menurut AFP. Pengulas pasaran menyatakan bahawa saham Alphabet tergelincir apabila pelabur mempertimbangkan perdebatan keselamatan yang semakin meningkat.
Permintaan Chughtai sendiri adalah khusus: dia mahu syarikat AI memperlahankan perlumbaan daya saing mereka, tunduk kepada ketelusan sebenar dan menyelaras pada kadar "yang boleh dikendalikan oleh masyarakat" — bukannya satu set oleh mana-mana makmal yang paling takut ketinggalan. Ia adalah kerajaan tawar-menawar yang sama yang kini diminta untuk mengadili, dan seperti yang dijelaskan minggu ini, baik makmal mahupun ahli politik hampir mencapai persetujuan mengenai syarat-syarat tersebut.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
