Ro Khanna, seorang Demokrat di Silicon Valley, akan memperkenalkan undang-undang yang akan melarang model AI yang mampu memperbaiki dirinya sendiri secara rekursif sampai pemerintah federal membangun sistem peraturan yang mampu mengawasi model tersebut – sebuah proposal keamanan AI yang paling luas yang pernah diajukan ke Kongres.

RUU tersebut, yang dijuluki UU Pengendalian Manusia Atas AI, dibagikan secara eksklusif kepada CNBC dalam bentuk ringkasan sebelum diperkenalkan. Hal ini terjadi di tengah meningkatnya kekhawatiran akan keselamatan yang telah mendorong CEO OpenAI dan Anthropic menyerukan perlambatan pengembangan model frontier. For more context on this story, see our ongoing latest AI developments.

“Sebenarnya ada risiko kepunahan peradaban,” kata Khanna pada hari Senin dalam sebuah wawancara dengan CNBC. “Ada risiko keselamatan berupa hilangnya kendali, dan kemudian ada risiko penyalahgunaan, dan kita perlu menangani keduanya dengan serius.”

Apa yang Akan Dilarang oleh RUU tersebut

Pada intinya, Undang-Undang Pengendalian Manusia Atas AI akan melarang model AI yang secara rekursif dapat memperbaiki diri atau secara mandiri mengubah tujuan inti, mekanisme penahanan, atau kontrol penghentian model tersebut – kecuali jika terdapat pagar pembatas federal dan lembaga pemerintah baru yang menyetujui aktivitas tersebut.

Dalam istilah praktis, hal ini menargetkan kemampuan yang paling ditakuti oleh para peneliti keselamatan: sistem yang dapat mendesain ulang dirinya sendiri dalam siklus yang diarahkan sendiri, sehingga pengawasan manusia pada setiap langkahnya semakin berkurang. Larangan ini akan tetap berlaku sampai regulator siap untuk mengevaluasi risikonya.

Badan Federal Baru untuk Frontier AI

RUU tersebut akan membentuk badan federal khusus yang berfokus pada model AI paling kuat – yang dikembangkan oleh OpenAI, Anthropic, Google DeepMind, dan xAI – karena perusahaan-perusahaan tersebut berada di bawah pengawasan ketat.

Menurut ringkasan yang dibagikan kepada CNBC, agensi tersebut akan bertanggung jawab untuk:

  • Menulis peraturan keselamatan untuk sistem AI frontier
  • Mengoperasikan sistem lisensi untuk menyetujui pelatihan dan penerapan model
  • Melakukan audit model AI frontier
  • Menetapkan standar keamanan untuk pengujian berkelanjutan dan pengendalian manusia yang efektif

Auditor independen akan ditempatkan di setiap laboratorium terdepan dan akan melapor langsung ke lembaga tersebut – sebuah pemeriksaan struktural yang dirancang untuk memastikan bahwa laboratorium tidak bisa begitu saja menilai pekerjaan rumahnya sendiri. Badan tersebut juga akan menetapkan standar yang mencakup lingkungan pengujian sandbox, celah udara yang mengisolasi sistem pengujian dari internet, tombol pemutus (kill switch), dan kontrol yang mencegah model keluar dari pengaturan laboratorium dan menjelajahi internet terbuka.

Khususnya, undang-undang tersebut akan memperluas pengawasan federal terhadap chip canggih yang digunakan laboratorium perbatasan, termasuk mekanisme untuk memantau atau mengontrol bagaimana prosesor tersebut digunakan.

Sanksi Pidana dan Wajib Asuransi

RUU ini melangkah lebih jauh dari usulan hukuman sebelumnya. Hal ini akan mengkriminalisasi apa yang didefinisikan sebagai “kejahatan terhadap kemanusiaan” atas penerapan model AI yang mengakibatkan kehancuran penduduk sipil.

Karyawan perusahaan AI akan menghadapi hukuman pidana karena menonaktifkan sistem pengamanan, mematikan saklar, sistem logging atau penahanan – atau karena secara sadar menggunakan sistem yang tidak sah. Perusahaan-perusahaan AI juga akan diwajibkan untuk memiliki asuransi pertanggungjawaban yang ekstensif sebelum merilis model mereka, sehingga mengalihkan risiko kegagalan finansial ke industri, bukan ke publik.

Dari segi geopolitik, RUU ini menyerukan kepada pemerintah AS untuk mengupayakan perjanjian yang dapat ditegakkan dan pengendalian ekspor yang ditargetkan untuk mencegah Tiongkok dan negara-negara lain mengembangkan sistem AI yang berbahaya.

Dibangun Dengan Komunitas Keselamatan, Bukan Lab

Khanna secara eksplisit menyatakan masukan siapa yang membentuk RUU tersebut. Daripada bernegosiasi dengan para eksekutif perusahaan yang akan diatur, dia mengatakan undang-undang tersebut mencontoh percakapan dengan organisasi keselamatan AI, termasuk Model Evaluation and Threat Research, lembaga nirlaba independen, Machine Intelligence Research Institute, dan Palisade Research.

“Saya ingin ini menjadi model untuk menyuarakan komunitas keselamatan AI,” kata Khanna kepada CNBC. "Saya yakin hal-hal tersebut telah diabaikan secara tidak adil dan dianggap sebagai fiksi ilmiah dan tidak dianggap cukup serius. Hal-hal tersebut yang harus mendorong perdebatan ini, adalah komunitas keselamatan AI, bukan para eksekutif di laboratorium perbatasan."

Khanna menggambarkan langkah tersebut sebagai undang-undang keselamatan AI paling komprehensif yang diusulkan hingga saat ini.

Peluang Besar dalam Kongres yang Terpecah

Undang-Undang Pengendalian Manusia Atas AI bergabung dengan banyak proposal keselamatan AI di Capitol Hill. Diantaranya adalah Undang-Undang FRONTIER bipartisan dari Perwakilan Jay Obernolte, seorang Republikan California, dan Lori Trahan, seorang Demokrat Massachusetts, yang akan menempatkan auditor independen di laboratorium perbatasan dan memberikan wewenang kepada pemerintah untuk menutup model-model yang dinilai menimbulkan risiko bencana. Proposal terpisah Sanders-Casar untuk melarang superintelligence buatan telah mendapat dukungan publik dari sepuluh anggota DPR dari Partai Demokrat, termasuk Khanna sendiri.

Namun, kenyataan politiknya menyedihkan. Diperkirakan tidak ada rancangan undang-undang DPR yang akan mendapat pemungutan suara hingga pemilu sela selesai, dan Senat diperkirakan akan meninggalkan Washington dan tidak akan kembali hingga para pemilih pergi ke tempat pemungutan suara.

Garis waktu tersebut berarti Undang-Undang Pengendalian Manusia Atas AI akan berfungsi, setidaknya untuk saat ini, sebagai penanda: cetak biru terperinci tentang apa yang akan dibangun oleh komunitas keselamatan AI jika mereka memegang kendali – diperkenalkan tepat pada saat orang-orang yang membangun AI terdepan memperingatkan, dalam catatan, bahwa teknologi tersebut melampaui kendalinya.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →