Geoffrey Hinton, pemenang Nobel yang dikenali secara meluas sebagai "Godfather of AI," menyampaikan salah satu amaran paling tegasnya kepada penggubal undang-undang AS minggu ini: Kongres mempunyai kira-kira setahun untuk meletakkan perlindungan bermakna pada kecerdasan buatan sebelum teknologi bergerak di luar kawalan manusia. Ahli sains komputer British-Kanada itu membuat kenyataan itu pada 16 September pada taklimat Senat tertutup di Capitol Hill, menurut NBC News.
"Mungkin setahun, tetapi tidak lebih daripada setahun," kata Hinton di bilik penggubal undang-undang, menurut akaun NBC mengenai mesyuarat itu. Taklimat itu diadakan oleh Senator Bernie Sanders dan turut menampilkan ahli fizik MIT Max Tegmark, pengasas bersama Future of Life Institute, dan penyelidik keselamatan AI Ajeya Cotra, menurut beberapa laporan sesi itu.
Teras Amaran: AI Membina AI
Hujah Hinton tertumpu pada pencapaian teknikal tertentu dan bukannya hipotesis yang jauh. "AI kini telah mencapai tahap di mana AI mereka bentuk AI yang lebih baik," katanya, menurut laporan taklimat itu. "Itu dipanggil pembaikan diri secara rekursif... ia akan hilang kawalan melainkan kita melakukan sesuatu."
Beliau juga memberitahu penggubal undang-undang bahawa garis masa pakar untuk superintelligence telah runtuh sejak sedekad lalu. "Jika anda melihat ramalan bila kita akan mendapat superintelligence, dulu mungkin 30 tahun, mungkin 50 tahun," kata Hinton, menurut NBC News. "Kemudian ia turun kepada mungkin 10 tahun, mungkin 20 tahun. Sekarang orang berkata, ramai penyelidik mengatakan hanya beberapa tahun."
Hinton, seorang profesor emeritus di Universiti Toronto yang berkongsi Hadiah Nobel dalam Fizik 2024 untuk kerja asas pada rangkaian saraf, meninggalkan Google pada tahun 2023 dan sejak itu menjadi pengkritik dalaman yang paling menonjol dalam bidang itu — memberi amaran bahawa sistem yang dia bantu cipta mungkin berakhir dengan pemikiran yang melampaui dan menggantikan pencipta mereka.
Keraguan terhadap 'Kill Switch'
Walaupun dia menggesa peraturan pantas, Hinton menyatakan keraguan tentang salah satu cadangan yang paling banyak dibincangkan: mandat persekutuan yang akan membenarkan kerajaan menutup sistem AI berbahaya. Dia memberitahu penggubal undang-undang "suis bunuh" sedemikian tidak akan bertahan dalam jangka panjang, menurut CNN.
Kesangsiannya mendarat pada minggu yang sama Senator Rand Paul menyekat rang undang-undang suis bunuh AI yang diketuai Republikan daripada dikesan pantas di Senat — satu episod yang menggambarkan sejauh mana walaupun perundangan pagar yang minimum kekal daripada laluan. Senator John Kennedy dari Louisiana, yang menghadiri sebahagian taklimat itu, memberitahu The Washington Sun dia menikmati perbincangan itu tetapi tidak melihat sebarang tanda Senat akan bertindak, sambil menambah bahawa dia menjangkakan langkah seterusnya akan datang dari Rumah Putih, menunjuk kepada melaporkan bahawa Setiausaha Perbendaharaan Scott Bessent sedang mendesak untuk rangka kerja keselamatan.
Pandangan di seberang lorong tidak jauh lebih cerah. Senator Rick Scott dari Florida berkata dalam wawancara NewsNation bahawa syarikat perlu mengawal diri mereka sendiri: "Kami tidak akan cukup bijak untuk mengawal selia mereka. Kami tidak akan menyelesaikan sesuatu di sini," katanya, seperti yang dilaporkan oleh The Washington Sun.
Beberapa Demokrat menolak arah lain. Wakil Yassamin Ansari dari Arizona, yang menghadiri taklimat itu, menulis di X bahawa AI "boleh dan akan terus melampaui kawalan manusia" dan bahawa "tetingkap kita untuk mengawalnya hilang dengan cepat. Kita mesti berhenti seketika SEKARANG."
Seminggu Whiplash Keselamatan AI
Taklimat itu menghadkan perdebatan tadbir urus AI. Beberapa hari sebelumnya, Ketua Pegawai Eksekutif Anthropic Dario Amodei menerbitkan esei yang menyeru makmal sempadan untuk mempercepatkan pembangunan, memberi amaran tentang risiko kehilangan kawalan kepada bioterorisme - kedudukan yang disokong secara terbuka oleh pemimpin makmal lain, menurut laporan yang meluas. Pada hari yang sama Hinton berucap kepada senator, penyelidik AI terkemuka termasuk Andrew Ng secara terbuka menolak kebimbangan kepupusan sebagai berlebihan, menggariskan bidang yang berdebat dengan dirinya sendiri di khalayak ramai.
Di Capitol Hill, aktiviti itu lebih bising daripada output. Senator Cory Booker telah menyeru Presiden Trump untuk mengadakan sesi khas Kongres mengenai kecerdasan buatan, manakala Kaukus Penyelesai Masalah dwipartisan mengumumkan kumpulan kerja baharu mengenai AI dan teknologi baru muncul minggu ini. Tiada satu pun daripadanya belum menghasilkan undang-undang persekutuan yang mengikat.
Mengapa Pembingkaian Satu Tahun Penting
Amaran yang didorong tarikh akhir daripada perintis AI telah menjadi rutin, tetapi kekhususan garis masa Hinton — disampaikan terus kepada orang yang mempunyai kuasa untuk menggubal undang-undang, di dalam bilik yang dikecualikan kepada eksekutif industri — menandakan perubahan dalam nada. Amaran sebelum ini daripada penyelidik biasanya telah mengunjurkan risiko pada ufuk beberapa dekad; tetingkap satu tahun membayangkan respons dasar yang direka untuk Kongres semasa, bukan yang akan datang.
Ia juga mempertajamkan masalah politik. Seperti yang ditunjukkan oleh skeptisisme suis bunuh Hinton sendiri dan blok prosedur Senator Paul, tidak ada kata sepakat walaupun di kalangan tokoh yang berfikiran keselamatan yang mana intervensi akan berkesan. Hinton berhujah bahawa situasi antarabangsa - terutamanya persaingan dengan China - menjadikan kelembapan unilateral rapuh dari segi politik, ketegangan yang telah menghalang cadangan paling serius setakat ini.
Apa yang berlaku seterusnya ialah, mengikut jam Hinton sendiri, beberapa bulan. Sama ada taklimat mengubah kalkulus itu bergantung pada Senat yang, mengikut akaun ahlinya sendiri, tidak bergerak sama sekali pada masa ini.
Kekal Mendahului AI
Dasar AI bergerak pantas — dan begitu juga segala-galanya dalam bidang ini. Untuk lebih banyak berita terkini AI, kemas kini peraturan dan analisis, baca lebih banyak berita AI →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
