Geoffrey Hinton, peraih Nobel yang dikenal luas sebagai “Bapak baptis AI,” menyampaikan salah satu peringatan paling kerasnya kepada anggota parlemen AS minggu ini: Kongres memiliki waktu sekitar satu tahun untuk memberikan perlindungan yang berarti terhadap kecerdasan buatan sebelum teknologi tersebut bergerak melampaui kendali manusia. Ilmuwan komputer Inggris-Kanada membuat pernyataan tersebut pada 16 September di rapat Senat tertutup di Capitol Hill, menurut NBC News.
“Mungkin setahun, tapi tidak lebih dari setahun,” kata Hinton di hadapan anggota parlemen, menurut laporan NBC tentang pertemuan tersebut. Pengarahan tersebut diselenggarakan oleh Senator Bernie Sanders dan juga menampilkan fisikawan MIT Max Tegmark, salah satu pendiri Future of Life Institute, dan peneliti keamanan AI Ajeya Cotra, menurut beberapa laporan dalam sesi tersebut.
Inti Peringatan: AI Membangun AI
Argumen Hinton berpusat pada tonggak teknis tertentu dan bukan hipotesis jauh. “AI kini telah mencapai titik di mana AI merancang AI yang lebih baik,” katanya, menurut laporan pengarahan tersebut. "Itu disebut perbaikan diri secara rekursif... hal ini akan menjadi tidak terkendali kecuali kita melakukan sesuatu."
Dia juga mengatakan kepada anggota parlemen bahwa jadwal waktu para ahli untuk superintelligence telah runtuh selama dekade terakhir. “Jika Anda melihat prediksi kapan kita akan mendapatkan kecerdasan super, mungkin 30 tahun, mungkin 50 tahun,” kata Hinton kepada NBC News. "Kemudian mungkin 10 tahun, mungkin 20 tahun. Sekarang orang bilang, banyak peneliti yang bilang hanya beberapa tahun."
Hinton, seorang profesor emeritus di Universitas Toronto yang menerima Hadiah Nobel Fisika tahun 2024 untuk karya dasar tentang jaringan saraf, meninggalkan Google pada tahun 2023 dan sejak itu menjadi kritikus internal paling terkemuka di bidang ini — memperingatkan bahwa sistem yang ia bantu ciptakan dapat berakhir dengan pemikiran yang berlebihan dan menggusur penciptanya.
Skeptisisme terhadap 'Kill Switch'
Bahkan ketika ia mendesak peraturan yang cepat, Hinton menyatakan keraguannya terhadap salah satu proposal yang paling banyak dibahas: mandat federal yang memungkinkan pemerintah menutup sistem AI yang berbahaya. Dia mengatakan kepada anggota parlemen bahwa “tombol mematikan” seperti itu tidak akan bertahan dalam jangka panjang, menurut CNN.
Sikap skeptisnya muncul pada minggu yang sama ketika Senator Rand Paul memblokir RUU saklar mematikan AI yang dipimpin oleh Partai Republik agar tidak dapat dipercepat di Senat – sebuah episode yang menggambarkan seberapa jauh undang-undang pagar pembatas minimal masih belum bisa disahkan. Senator John Kennedy dari Louisiana, yang menghadiri sebagian dari pengarahan tersebut, mengatakan kepada The Washington Sun bahwa dia menikmati diskusi tersebut tetapi tidak melihat tanda-tanda Senat akan bertindak, dan menambahkan bahwa dia memperkirakan langkah selanjutnya akan datang dari Gedung Putih, merujuk pada laporan bahwa Menteri Keuangan Scott Bessent sedang mendorong kerangka keselamatan.
Pemandangan di seberang lorong tidak lebih cerah. Senator Rick Scott dari Florida mengatakan dalam sebuah wawancara dengan NewsNation bahwa perusahaan perlu mengatur diri mereka sendiri: "Kita tidak akan cukup pintar untuk mengaturnya. Kita tidak akan menyelesaikan sesuatu di sini," katanya, seperti dilansir The Washington Sun.
Beberapa anggota Partai Demokrat mendorong ke arah lain. Perwakilan Yassamin Ansari dari Arizona, yang menghadiri pengarahan tersebut, menulis di X bahwa AI "dapat dan akan terus melampaui kendali manusia" dan bahwa "jendela kita untuk mengaturnya menghilang dengan cepat. Kita harus berhenti sejenak SEKARANG."
Seminggu Whiplash Keamanan AI
Pengarahan ini mengakhiri perdebatan yang penuh gejolak dalam tata kelola AI. Beberapa hari sebelumnya, CEO Anthropic Dario Amodei menerbitkan sebuah esai yang menyerukan laboratorium terdepan untuk mempercepat pengembangan, memperingatkan risiko hilangnya kendali hingga bioterorisme – sebuah posisi yang secara publik didukung oleh para pemimpin laboratorium lainnya, menurut laporan yang tersebar luas. Pada hari yang sama ketika Hinton berpidato di hadapan para senator, para peneliti AI terkemuka termasuk Andrew Ng secara terbuka menolak kekhawatiran akan kepunahan sebagai hal yang berlebihan, dan menggarisbawahi adanya perdebatan di depan umum mengenai hal ini.
Di Capitol Hill, aktivitas yang terjadi lebih berisik dibandingkan outputnya. Senator Cory Booker telah meminta Presiden Trump untuk mengadakan sesi khusus Kongres mengenai kecerdasan buatan, sementara Kaukus Pemecah Masalah bipartisan mengumumkan kelompok kerja baru mengenai AI dan teknologi baru minggu ini. Belum ada satupun yang menghasilkan undang-undang federal yang mengikat.
Mengapa Framing Satu Tahun Penting
Peringatan berdasarkan tenggat waktu dari para pionir AI telah menjadi hal yang rutin, namun kekhususan garis waktu Hinton – yang disampaikan langsung kepada orang-orang yang memiliki wewenang untuk membuat undang-undang, di ruang yang tidak dapat diakses oleh para eksekutif industri – menandai adanya perubahan dalam hal ini. Peringatan sebelumnya dari para peneliti biasanya memproyeksikan risiko dalam beberapa dekade; jangka waktu satu tahun menyiratkan tanggapan kebijakan yang dirancang untuk Kongres saat ini, bukan untuk Kongres di masa depan.
Hal ini juga mempertajam masalah politik. Seperti yang ditunjukkan oleh skeptisisme tombol mematikan Hinton dan blok prosedural Senator Paul, tidak ada konsensus bahkan di antara tokoh-tokoh yang berpikiran aman mengenai intervensi mana yang akan berhasil. Hinton berargumentasi bahwa situasi internasional – khususnya persaingan dengan Tiongkok – membuat perlambatan unilateral menjadi rapuh secara politik, sebuah ketegangan yang sejauh ini telah menghambat proposal yang paling serius.
Apa yang terjadi selanjutnya, menurut perhitungan Hinton, hanya dalam hitungan bulan. Apakah pengarahan tersebut mengubah kalkulus tersebut bergantung pada Senat yang, menurut pendapat anggotanya sendiri, saat ini tidak bergerak sama sekali.
Tetap Terdepan dalam AI
Kebijakan AI bergerak cepat — begitu pula segala hal lainnya di bidang ini. Untuk berita AI terkini, pembaruan peraturan, dan analisis lainnya, baca berita AI selengkapnya →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
