Rep Ro Khanna, Demokrat Silicon Valley, bakal ngenalake undang-undang sing bakal nglarang model AI sing bisa nambah rekursif awake dhewe nganti pamrentah federal nggawe sistem regulasi sing bisa ngawasi - proposal safety AI sing paling akeh sing durung mlebu ing Kongres.
RUU kasebut, sing diarani Human Control Over AI Act, dituduhake sacara eksklusif karo CNBC ing wangun ringkesan sadurunge introduksi. Teka ing tengah-tengah keprihatinan safety sing wis nyebabake para CEO OpenAI lan Anthropic nelpon pangembangan model perbatasan sing alon. For more context on this story, see our ongoing artificial intelligence updates.
"Sejatine ana risiko kepunahan peradaban," ujare Khanna Senin ing wawancara karo CNBC. "Ana risiko safety mundhut kontrol, banjur ana risiko penyalahgunaan, lan kita kudu njupuk loro serius."
Apa Bill Bakal Larang
Ing inti, Undhang-undhang Kontrol Manungsa babagan AI bakal nglarang model AI sing kanthi rekursif ngapikake awake dhewe utawa kanthi otomatis ngowahi tujuan inti, mekanisme konten utawa kontrol mati dhewe - kajaba ana pager federal lan lembaga pemerintah anyar nyetujoni kegiatan kasebut.
Ing istilah praktis, sing target kapabilitas sing paling ditakuti dening peneliti safety: sistem sing bisa ngrancang maneh dhewe ing siklus sing diarahake dhewe, nggawe manungsa nyuda pengawasan ing saben langkah. Larangan kasebut bakal tetep ditindakake nganti regulator dilengkapi kanggo ngevaluasi risiko kasebut.
Badan Federal Anyar kanggo Frontier AI
RUU kasebut bakal nggawe agensi federal khusus sing fokus ing model AI sing paling kuat - sing dikembangake dening OpenAI, Anthropic, Google DeepMind lan xAI - amarga perusahaan kasebut ngalami pengawasan sing intensif.
Miturut ringkesan sing dituduhake karo CNBC, agensi kasebut bakal tanggung jawab:
- Nulis peraturan safety kanggo sistem AI perbatasan
- Ngoperasikake sistem lisensi kanggo nyetujoni latihan lan penyebaran model
- Nindakake audit model AI perbatasan
- Nyetel standar keamanan kanggo tes terus-terusan lan kontrol manungsa sing efektif
Auditor independen bakal diselehake ing saben laboratorium perbatasan lan bakal langsung nglaporake menyang agensi kasebut - pamriksa struktural sing dirancang kanggo mesthekake yen laboratorium ora bisa menehi tandha peer dhewe. Agensi kasebut uga bakal nyetel standar sing nyakup lingkungan tes kothak wedhi, kesenjangan udara sing ngisolasi sistem tes saka internet, mateni saklar, lan kontrol sing nyegah model saka setelan lab lan roaming internet sing mbukak.
Utamane, undang-undang kasebut bakal ngluwihi pengawasan federal menyang chip canggih sing digunakake ing laboratorium perbatasan, kalebu mekanisme kanggo ngawasi utawa ngontrol carane prosesor kasebut disebarake.
Hukuman Pidana lan Asuransi Wajib
Bill dadi luwih saka sembarang proposal sadurungé ing paukuman. Iki bakal ngkriminalisasi apa sing ditetepake minangka "kejahatan marang manungsa" kanggo panyebaran model AI sing nyebabake karusakan saka populasi sipil.
Karyawan perusahaan AI bakal nemoni paukuman pidana amarga mateni proteksi, mateni switch, sistem logging utawa konten - utawa kanthi sengaja nggunakake sistem sing ora sah. Perusahaan AI uga bakal diwajibake nggawa asuransi tanggung jawab sing akeh sadurunge ngeculake modele, ngowahi risiko kegagalan finansial menyang industri tinimbang masyarakat.
Ing ngarep geopolitik, tagihan kasebut njaluk administrasi supaya bisa ngetrapake perjanjian sing bisa ditindakake lan kontrol ekspor sing ditargetake sing dirancang kanggo nyegah China lan mungsuh liyane ngembangake sistem AI sing mbebayani.
Dibangun Kanthi Komunitas Safety, Ora Lab
Khanna jelas babagan input sing nggawe tagihan kasebut. Tinimbang rembugan karo eksekutif perusahaan sing bakal diatur, dheweke ujar manawa undang-undang kasebut dimodelake ing obrolan karo organisasi safety AI, kalebu Evaluasi Model lan Riset Ancaman nonprofit independen, Institut Riset Intelijen Mesin lan Riset Palisade.
"Aku pengin iki dadi model kanggo menehi swara marang komunitas safety AI," ujare Khanna marang CNBC. "Aku yakin dheweke wis ditolak kanthi ora adil minangka fiksi ilmiah lan durung ditindakake kanthi serius. Dheweke kudu nyopir debat iki, komunitas safety AI, dudu eksekutif laboratorium perbatasan."
Khanna nggambarake langkah kasebut minangka undang-undang keamanan AI paling lengkap sing diusulake nganti saiki.
Long Odds ing Kongres Dibagi
Undhang-undhang Kontrol Manungsa babagan AI gabung karo proposal keamanan AI sing rame ing Capitol Hill. Antarane wong-wong mau yaiku Undhang-undhang FRONTIER bipartisan saka Reps Jay Obernolte, Republik California, lan Lori Trahan, Demokrat Massachusetts, sing bakal nggawe auditor independen ing laboratorium perbatasan lan menehi wewenang pemerintah kanggo mateni model sing dianggep nyebabake risiko bencana. Usul Sanders-Casar sing kapisah kanggo nglarang superintelijen buatan wis narik dhukungan umum saka sepuluh Demokrat House, kalebu Khanna dhewe.
Kasunyatan politik, Nanging, sobering. Ora ana tagihan House sing samesthine bakal nampa voting nganti sawise pemilihan midterm, lan Senat samesthine bakal ninggalake Washington lan ora bali nganti sawise pamilih menyang jajak pendapat.
Garis wektu kasebut tegese Undhang-undhang Kontrol Manungsa babagan AI bakal bisa digunakake, paling ora saiki, minangka tandha: cithak biru rinci babagan apa sing bakal dibangun komunitas safety AI yen nyekel pena kasebut - ditepungake kanthi tepat nalika wong-wong sing mbangun AI perbatasan menehi peringatan, kanthi cathetan, manawa teknologi kasebut ngluwihi kontrol.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
