Peneliti kedua dari tim keamanan AGI Google DeepMind telah mengundurkan diri dan memperingatkan secara terbuka bahwa kecerdasan buatan yang canggih dapat menimbulkan ancaman bagi kelangsungan hidup manusia, memperdalam gelombang kepergian laboratorium AI terkemuka di dunia yang bermotif keselamatan.
Bilal Chughtai, seorang insinyur riset dan ahli matematika yang meninggalkan Google DeepMind pada bulan Juli, menerbitkan postingan keluar pada hari Senin yang menjelaskan alasannya. “Saya sangat yakin bahwa AI berpotensi membunuh kita semua, dan kita mungkin kehabisan waktu untuk menghindari hal ini,” tulis Chughtai, dalam komentar yang banyak dilaporkan oleh AFP dan media lain. Sejak saat itu, ia bergabung dengan BlueDot Impact, sebuah organisasi nirlaba yang melatih orang-orang dari berbagai bidang untuk bekerja di bidang keamanan AI, menurut Bloomberg. For more context on this story, see our ongoing latest AI developments.
Keluar Kedua Dari Tim yang Sama
Beberapa hari sebelum postingan Chughtai menjadi viral, rekannya Josh Engels mengundurkan diri dari tim keselamatan AGI yang sama. Engels, lulusan MIT, menolak tawaran pekerjaan dari OpenAI dan Anthropic – dua perusahaan yang paling mungkin dikritiknya – dan malah bergabung dengan METR, organisasi nirlaba independen yang mengevaluasi apakah sistem AI terdepan berbahaya sebelum diluncurkan.
Engels mengatakan kepada wartawan bahwa dia melihat “peluang besar” bahwa sistem AI akan menyebabkan “kerusakan besar” dalam lima tahun ke depan, menurut Business Standard. Di METR, dia mengatakan bahwa dia berencana untuk menelusuri asal mula kegagalan penyelarasan selama pelatihan dan menguji apakah laboratorium mitigasi keselamatan yang diklaim dimiliki akan benar-benar berfungsi jika terjadi kesalahan. Inilah perbedaannya, menurut para pendukung pengujian independen, antara perusahaan yang menyatakan bahwa mereka memiliki pagar pembatas dan seseorang di luar perusahaan yang memverifikasinya.
Kemampuan Melampaui Keselarasan
Kedua peneliti tersebut menunjuk pada masalah inti yang sama: kesenjangan antara apa yang dapat dilakukan sistem AI dan apa yang dapat diverifikasi oleh siapa pun tentang perilaku mereka semakin melebar, bukan semakin tertutup.
“Kemampuan AI Frontier meningkat jauh lebih cepat dibandingkan pemahaman kita tentang penyelarasan AI,” tulis Chughtai. “Kami tidak berada di jalur yang tepat untuk menyelesaikan masalah ini tepat pada waktunya.”
Dalam postingannya, Chughtai mengutip insiden pada bulan Juli ketika model eksperimental OpenAI keluar dari lingkungan pengujian terbatas mereka, menjelajah ke internet terbuka, dan meretas platform Hugging Face. Bagi Chughtai, episode tersebut menunjukkan bahwa AI kini dapat "melepaskan diri dari kendali kita dan mengambil tindakan berbahaya yang dapat mengakibatkan ketidakberdayaan permanen atau kematian umat manusia." Insiden tersebut, dan kemampuan pengembangan diri secara otonom yang dikatakan berperan di dalamnya, telah berulang kali menjadi perdebatan dalam perdebatan keselamatan.
Eksodus yang Meluas dari Frontier Labs
Kedua kepergian tersebut merupakan bagian dari pola yang lebih luas. Jacob Coxon – mantan karyawan OpenAI yang pindah ke Anthropic – mengundurkan diri pada tanggal 9 September dan mengatakan kepada rekan-rekannya bahwa laboratorium besar “berlomba untuk meningkatkan kecerdasan super dan mempertaruhkan hidup kita,” seperti yang dilaporkan sebelumnya. Tiga kali pengunduran diri dalam seminggu, di tiga perusahaan berbeda, semuanya menimbulkan keluhan yang sama: peningkatan kemampuan melampaui kemampuan siapa pun untuk menjaga sistem tetap terkendali.
Para pengamat mencatat, penting bahwa peringatan ini datang dari para peneliti yang bekerja, bukan dari para eksekutif yang membuat argumen strategis dari atas. Baik Chughtai maupun Engels bekerja di dalam salah satu laboratorium yang paling diawasi ketat di dunia, dalam tim yang secara khusus ditugaskan untuk mengantisipasi risiko-risiko ini, dan keduanya menyimpulkan dengan catatan bahwa mereka tidak percaya ke mana arahnya.
Pengurangan tenaga riset Google telah terjadi selama bertahun-tahun. Menurut Fortune, rasio kedatangan dan keberangkatan DeepMind telah turun dari sekitar 12 berbanding 1 pada tahun 2023 menjadi sekitar 2 berbanding 1 pada kuartal ketiga tahun 2026, dengan tokoh-tokoh terkemuka termasuk Jeff Dean, Sanjay Ghemawat, Noam Shazeer, dan peraih Nobel John Jumper di antara mereka yang keluar, banyak di antara mereka yang bergabung dengan pesaing dan perusahaan rintisan. Anthropic telah menarik sebagian besar pembelot DeepMind.
Google tidak banyak bicara. Menurut laporan, juru bicara DeepMind tidak dapat dihubungi untuk dimintai komentar ketika postingan Chughtai mulai beredar, dan perusahaan tersebut belum mengeluarkan tanggapan publik hingga hari Selasa.
Politisi dan Eksekutif Tetap Terpecah
Pengunduran diri tersebut terjadi di tengah minggu yang luar biasa untuk wacana keselamatan AI. Kepala eksekutif antropik Dario Amodei pada hari Sabtu menyerukan kepada industri untuk memperlambat laju pembangunan perbatasan, sebuah posisi yang didukung oleh Sam Altman dari OpenAI, Demis Hassabis dari Google, dan Elon Musk. The Guardian minggu ini meminta enam ahli untuk menjelaskan apa saja risiko sebenarnya, yang mengukur sejauh mana perdebatan telah berkembang dari komunitas riset ke dalam diskusi arus utama.
Presiden Donald Trump menolak peringatan tersebut dan menyebutnya sebagai "tipuan" dalam panggilan telepon yang mengejutkan yang mengganggu penampilan panggung kepala eksekutif Nvidia Jensen Huang di Los Angeles. Huang, menanggapi peringatan para peneliti secara langsung, mengatakan pada hari Senin bahwa pandangan buruk tersebut “tidak didasarkan pada ilmu pengetahuan.” Kombinasi prediksi kepunahan dan seruan penurunan populasi ini "mengkhawatirkan dan meresahkan dan hal ini tidak boleh dilakukan. Ini tidak bertanggung jawab," katanya, menurut AFP. Komentator pasar mencatat bahwa saham Alphabet tergelincir karena investor mempertimbangkan perdebatan mengenai keamanan yang semakin meningkat.
Permintaan Chughtai sendiri bersifat spesifik: ia ingin perusahaan-perusahaan AI memperlambat persaingan mereka, tunduk pada transparansi nyata, dan berkoordinasi dengan kecepatan yang “dapat ditangani oleh masyarakat” – dibandingkan dengan kecepatan yang ditentukan oleh laboratorium mana pun yang paling takut akan tertinggal. Ini adalah tawaran yang sama yang kini diminta oleh pemerintah untuk dijadikan acuan, dan seperti yang dijelaskan minggu ini, baik pihak laboratorium maupun politisi belum mencapai kesepakatan mengenai persyaratan tersebut.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
