Geoffrey Hinton, pamenang Nobel sing dikenal kanthi jeneng "Godfather of AI," ngirim salah sawijining peringatan sing paling angel kanggo para anggota parlemen AS minggu iki: Kongres wis kira-kira setaun kanggo njaga intelijen buatan sadurunge teknologi kasebut ngluwihi kontrol manungsa. Ilmuwan komputer Inggris-Kanada nggawe komentar kasebut ing 16 September ing rapat Senat tertutup ing Capitol Hill, miturut NBC News.
"Mungkin setaun, nanging ora luwih saka setahun," ujare Hinton ing ruangan anggota parlemen, miturut akun rapat kasebut NBC. Briefing kasebut dianakake dening Senator Bernie Sanders lan uga nampilake fisikawan MIT Max Tegmark, pendiri Future of Life Institute, lan peneliti safety AI Ajeya Cotra, miturut sawetara laporan sesi kasebut.
Inti Peringatan: AI Building AI
Argumentasi Hinton dipusatake ing tonggak teknis tartamtu tinimbang hipotetis sing adoh. "AI saiki wis tekan titik nalika AI ngrancang AI sing luwih apik," ujare, miturut laporan briefing kasebut. "Iki diarani perbaikan diri rekursif ... bakal metu saka kontrol kajaba kita nindakake apa-apa."
Dheweke uga ngandhani anggota parlemen manawa garis wektu pakar kanggo superintelligence wis ambruk sajrone dekade kepungkur. "Yen sampeyan ndeleng prediksi nalika kita bakal entuk superintelligence, biasane 30 taun, bisa uga 50 taun," ujare Hinton, saben NBC News. "Banjur tekan 10 taun, bisa uga 20 taun. Saiki wong ngomong, akeh peneliti sing ngomong mung sawetara taun."
Hinton, profesor emeritus ing Universitas Toronto sing entuk Bebungah Nobel Fisika 2024 kanggo karya dhasar ing jaringan saraf, ninggalake Google ing taun 2023 lan wiwit dadi kritikus internal sing paling misuwur ing lapangan - ngelingake yen sistem sing dibantu dheweke nggawe bisa dadi outthinking lan ngganti pangripta.
Skeptisisme saka 'Kill Switch'
Malah nalika dheweke njaluk regulasi kanthi cepet, Hinton mratelakake keraguan babagan salah sawijining usulan sing paling dibahas: mandat federal sing bakal ngidini pamrentah nutup sistem AI sing mbebayani. Dheweke ngandhani anggota parlemen yen "saklar mateni" ora bakal tahan suwe, miturut CNN.
Skeptisisme dheweke tiba ing minggu sing padha Senator Rand Paul mblokir tagihan switch mateni AI sing dipimpin Republik supaya ora dilacak kanthi cepet ing Senat - episode sing nggambarake sepira undang-undang guardrail sing paling tithik tetep saka wacana. Senator John Kennedy saka Louisiana, sing melu ing ringkesan kasebut, ngandhani The Washington Sun yen dheweke seneng karo diskusi kasebut nanging ora ana tandha yen Senat bakal tumindak, lan dheweke ngarepake langkah sabanjure bakal teka saka Gedung Putih, nuduhake manawa Sekretaris Perbendaharaan Scott Bessent nyurung kerangka safety.
Pandangan ing sebrang lorong ora luwih cerah. Senator Rick Scott saka Florida ngandika ing Interview NewsNation sing perusahaan kudu aturan piyambak: "Kita ora bakal njaluk cukup pinter kanggo ngatur wong. Kita ora bakal njaluk soko rampung munggah kene, "ujare, minangka kacarita dening The Washington Sun.
Sawetara Demokrat nyurung arah liya. Perwakilan Yassamin Ansari saka Arizona, sing rawuh ing briefing, nulis ing X yen AI "bisa lan bakal terus ngluwihi kontrol manungsa" lan "jendela kita kanggo ngatur iku ilang kanthi cepet. Kita kudu ngaso SAIKI."
Seminggu saka AI Safety Whiplash
Taklimat kasebut ngrampungake debat babagan pamrentah AI. Dina sadurunge, CEO Anthropic Dario Amodei nerbitake esai sing njaluk laboratorium perbatasan supaya bisa nyepetake pembangunan, ngelingake risiko saka kelangan kontrol menyang bioterorisme - posisi sing didhukung publik dening pimpinan lab liyane, miturut laporan sing nyebar. Ing dina sing padha, Hinton ngandhani para senator, peneliti AI sing misuwur kalebu Andrew Ng kanthi umum nolak keprihatinan kepunahan minangka overblown, negesake lapangan sing mbantah dhewe ing umum.
Ing Capitol Hill, kegiatan kasebut luwih rame tinimbang output. Senator Cory Booker njaluk Presiden Trump kanggo nganakake sesi khusus Kongres babagan intelijen buatan, dene Bipartisan Problem Solvers Caucus ngumumake klompok kerja anyar babagan AI lan teknologi sing berkembang minggu iki. Ora ana siji-sijine sing durung ngasilake hukum federal sing mengikat.
Kenapa Framing Setaun Penting
Peringatan sing didorong deadline saka pionir AI wis dadi rutinitas, nanging kekhususan garis wektu Hinton - dikirim langsung menyang wong sing duwe wewenang kanggo nggawe undang-undang, ing ruangan sing ora kalebu eksekutif industri - nandhani owah-owahan nada. Bebaya sadurunge saka peneliti biasane ngira-ngira risiko ing pirang-pirang dekade; jendhela setaun nuduhake respon kabijakan sing dirancang kanggo Kongres saiki, dudu sing bakal teka.
Iku uga ngasah masalah politik. Minangka skeptisisme mateni-switch dhewe Hinton lan pamblokiran prosedur Senator Paul, ora ana konsensus sanajan ing antarane tokoh-tokoh safety-minded sing intervensi bakal bisa. Hinton negesake manawa kahanan internasional - utamane kompetisi karo China - nggawe kalem sepihak sacara politik rapuh, ketegangan sing nyebabake proposal paling serius nganti saiki.
Apa sing kedadeyan sabanjure, miturut jam Hinton dhewe, sawetara wulan. Apa owah-owahan ringkes kalkulus kasebut gumantung marang Senat sing, miturut akun anggotane dhewe, saiki ora obah.
Tetep Ahead saka AI
Kabijakan AI maju kanthi cepet - lan kabeh liyane ing lapangan. Kanggo warta AI liyane, nganyari peraturan, lan analisis, waca warta AI liyane →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
