Rep. Ro Khanna, seorang Demokrat Lembah Silikon, akan memperkenalkan undang-undang yang akan mengharamkan model AI yang mampu memperbaiki diri mereka secara rekursif sehingga kerajaan persekutuan membina sistem kawal selia yang mampu mengawasinya — cadangan keselamatan AI yang paling menyeluruh belum sampai ke Kongres.
Rang undang-undang itu, yang digelar Akta Kawalan Manusia Ke Atas AI, dikongsi secara eksklusif dengan CNBC dalam bentuk ringkasan sebelum pengenalannya. Ia tiba di tengah-tengah kebimbangan keselamatan yang semakin meningkat yang telah mendorong CEO OpenAI dan Anthropic untuk meminta pembangunan model sempadan yang perlahan. For more context on this story, see our ongoing artificial intelligence updates.
"Sebenarnya terdapat risiko kepupusan tamadun," kata Khanna pada hari Isnin dalam temu bual dengan CNBC. "Terdapat risiko keselamatan kehilangan kawalan, dan kemudian terdapat risiko penyalahgunaan, dan kita perlu mengambil kedua-duanya dengan serius."
Apakah Rang Undang-Undang Akan Diharamkan
Pada terasnya, Akta Kawalan Manusia Terhadap AI akan melarang model AI yang mempertingkatkan diri secara rekursif atau mengubah suai secara autonomi objektif teras mereka sendiri, mekanisme pembendungan atau kawalan penutupan — melainkan jika pagar persekutuan wujud dan agensi kerajaan baharu meluluskan aktiviti tersebut.
Dari segi praktikal, itu menyasarkan keupayaan yang paling ditakuti oleh penyelidik keselamatan: sistem yang boleh mereka bentuk semula diri mereka dalam kitaran terarah kendiri, menyebabkan manusia kehilangan pengawasan pada setiap langkah. Larangan itu akan kekal sehingga pengawal selia dilengkapi untuk menilai risiko.
Agensi Persekutuan Baharu untuk Frontier AI
Rang undang-undang itu akan mewujudkan agensi persekutuan yang berdedikasi yang memberi tumpuan kepada model AI yang paling berkuasa - yang dibangunkan oleh OpenAI, Anthropic, Google DeepMind dan xAI - kerana syarikat-syarikat tersebut mendapati diri mereka berada di bawah pengawasan yang semakin intensif.
Menurut ringkasan yang dikongsi dengan CNBC, agensi itu akan bertanggungjawab untuk:
- Menulis peraturan keselamatan untuk sistem AI sempadan
- Mengendalikan sistem pelesenan untuk meluluskan latihan dan penggunaan model
- Menjalankan audit model AI sempadan
- Menetapkan piawaian keselamatan untuk ujian berterusan dan kawalan manusia yang berkesan
Juruaudit bebas akan dibenamkan di setiap makmal sempadan dan akan melaporkan terus kepada agensi - pemeriksaan struktur yang direka untuk memastikan bahawa makmal tidak boleh hanya menandakan kerja rumah mereka sendiri. Agensi itu juga akan menetapkan piawaian meliputi persekitaran ujian kotak pasir, jurang udara yang mengasingkan sistem ujian daripada internet, suis mematikan dan kawalan yang menghalang model daripada melarikan diri dari tetapan makmal dan merayau internet terbuka.
Terutama, undang-undang itu akan melanjutkan pengawasan persekutuan kepada cip lanjutan yang digunakan oleh makmal sempadan, termasuk mekanisme untuk memantau atau mengawal cara pemproses tersebut digunakan.
Penalti Jenayah dan Insurans Mandatori
Rang undang-undang pergi lebih jauh daripada mana-mana cadangan sebelumnya mengenai penalti. Ia akan menjenayahkan apa yang ditakrifkan sebagai "jenayah terhadap kemanusiaan" untuk penggunaan model AI yang mengakibatkan kemusnahan penduduk awam.
Kakitangan syarikat AI akan menghadapi hukuman jenayah kerana melumpuhkan perlindungan, mematikan suis, sistem pembalakan atau pembendungan — atau kerana menggunakan sistem yang tidak dibenarkan dengan sengaja. Syarikat AI juga dikehendaki membawa insurans liabiliti yang luas sebelum mengeluarkan model mereka, mengalihkan risiko kegagalan kewangan kepada industri dan bukannya orang ramai.
Dari segi geopolitik, rang undang-undang itu menyeru pentadbiran untuk meneruskan perjanjian yang boleh dikuatkuasakan dan kawalan eksport yang disasarkan yang direka untuk menghalang China dan musuh lain daripada membangunkan sistem AI berbahaya.
Dibina Dengan Komuniti Keselamatan, Bukan Makmal
Khanna secara eksplisit tentang input siapa yang membentuk rang undang-undang itu. Daripada berunding dengan eksekutif syarikat yang akan dikawalnya, beliau berkata undang-undang itu dimodelkan pada perbualan dengan organisasi keselamatan AI, termasuk Penilaian Model dan Penyelidikan Ancaman bukan untung, Institut Penyelidikan Perisikan Mesin dan Penyelidikan Palisade.
"Saya mahu ini menjadi model untuk memberi suara kepada komuniti keselamatan AI," kata Khanna kepada CNBC. "Saya percaya mereka telah ditolak secara tidak adil sebagai fiksyen sains dan tidak dipandang serius. Mereka perlu memacu perdebatan ini, komuniti keselamatan AI, bukan eksekutif makmal sempadan."
Khanna menyifatkan langkah itu sebagai perundangan keselamatan AI paling komprehensif yang dicadangkan setakat ini.
Peluang Panjang dalam Kongres Berpecah
The Human Control Over AI Act menyertai bidang cadangan keselamatan AI yang sesak di Capitol Hill. Antaranya ialah Akta FRONTIER dwipartisan daripada Reps. Jay Obernolte, seorang Republikan California, dan Lori Trahan, seorang Demokrat Massachusetts, yang akan menempatkan juruaudit bebas di makmal sempadan dan memberi kuasa kerajaan untuk menutup model yang dinilai menimbulkan risiko bencana. Cadangan Sanders-Casar yang berasingan untuk mengharamkan superintelligence buatan telah mendapat sokongan awam daripada sepuluh Demokrat Dewan, termasuk Khanna sendiri.
Realiti politik, bagaimanapun, membimbangkan. Tiada bil Dewan dijangka menerima undian sehingga selepas pilihan raya pertengahan penggal, dan Senat dijangka meninggalkan Washington dan tidak kembali sehingga selepas pengundi keluar mengundi.
Garis masa itu bermakna Akta Kawalan Manusia Ke Atas AI akan berfungsi, sekurang-kurangnya buat masa ini, sebagai penanda: pelan tindakan terperinci tentang perkara yang akan dibina oleh komuniti keselamatan AI jika ia memegang pen itu — diperkenalkan tepat pada masa orang yang membina AI sempadan memberi amaran, pada rekod, bahawa teknologi itu telah mengatasi kawalannya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
