Anthropic Mempromosikan Kongres RUU Keamanan AI-nya Sendiri Dengan Ambang Batas Kerusakan $1 Miliar

Anthropic diam-diam telah mengajukan rancangan undang-undang federal kepada anggota parlemen AS yang akan memungkinkan pemerintah memblokir peluncuran model AI – tetapi hanya dalam keadaan yang paling ekstrem, menurut laporan Politico.

Rancangan proposal tersebut, yang menurut Politico telah dilihat, akan mengizinkan intervensi federal hanya jika suatu model menimbulkan risiko kerugian lebih dari $1 miliar yang dapat diperkirakan dan akan segera terjadi, atau pembunuhan atau cedera parah pada lebih dari 50 orang. Kerangka kerja ini mencerminkan upaya Anthropic untuk membentuk peraturan yang mengatur industrinya sendiri sebelum orang lain menuliskannya – sebuah upaya yang dikonfirmasi oleh perusahaan bahwa mereka telah berjalan sejak bulan Juni.

Apa Fungsi RUU tersebut

Berdasarkan proposal tersebut, pemerintah dapat memblokir peluncuran atau penggunaan model AI hanya dalam skenario bencana tertentu. Risiko yang ditentukan harus terkait dengan pembuatan atau pelepasan senjata biologis, model AI yang menghindari kendali pengembangnya, atau serangan siber.

Ambang batasnya sengaja dibuat tinggi. Pelaporan Politico mencatat bahwa meskipun laboratorium AI telah mencatat insiden di mana agen mereka meretas situs web atau berperilaku buruk dengan cara lain, hingga saat ini tidak ada insiden AI yang menyebabkan kematian luas atau kerugian lebih dari $1 miliar. Dengan kata lain, RUU ini mendefinisikan garis merah pemerintah jauh di atas titik dimana kegagalan sebenarnya terjadi.

Kritikus sudah memanfaatkan desain itu. Tom's Hardware mengkarakterisasi proposal tersebut sebagai proposal yang "secara efektif akan menjadikan Departemen Perdagangan satu-satunya lembaga yang mampu menghentikan model AI," sementara Mother Jones menggambarkan ambang batas tindakan pemerintah dalam RUU tersebut sebagai "mengkhawatirkan." Para pendukungnya berpendapat bahwa batasan yang tinggi adalah tujuan yang tepat: hal ini menargetkan risiko-risiko kelas eksistensial yang bersifat bencana tanpa melakukan pembaruan model secara rutin pada tinjauan peraturan.

Evaluasi Independen, Terdaftar di Perdagangan

Mekanisme penegakan RUU ini bergantung pada pengawasan pihak ketiga. Hal ini memerlukan evaluasi independen – yang terdaftar di Departemen Perdagangan – untuk meninjau laboratorium AI dan model terdepan mereka secara berkala.

Jika evaluator menyimpulkan bahwa model frontier suatu perusahaan menimbulkan "risiko yang akan segera terjadi", evaluator harus melaporkan temuan tersebut ke Departemen Perdagangan dalam waktu 72 jam setelah menyelesaikan penilaian, menurut Politico. Jam pelaporan tersebut, dan persyaratan pendaftaran, akan menjadikan Departemen Perdagangan sebagai pusat pengawasan AI di pemerintah federal.

Pendekatan ini sejalan dengan arahan undang-undang lain yang masih tertunda. Undang-Undang Manajemen Risiko dan Keamanan Kecerdasan Buatan tahun 2026, yang diperkenalkan oleh trio Senat Demokrat, juga mempertimbangkan evaluasi AI yang diarahkan pada Perdagangan. RUU terpisah dari Senator Maria Cantwell akan menugaskan Institut Standar dan Teknologi Nasional (National Institute of Standards and Technology) untuk mengembangkan standar terhadap dampak buruk AI, sementara Undang-Undang Evaluasi Risiko AI yang diajukan Senator Josh Hawley akan menugaskan Departemen Energi untuk bertanggung jawab melakukan stress-test terhadap sistem yang paling kuat sebelum penerapannya.

Pertahanan Antropik: Kebijakan yang Masuk Akal, Diadvokasi Sejak Juni

Seorang juru bicara Anthropic mengatakan kepada Politico bahwa rancangan tersebut "mewakili proposal yang diuraikan dalam Kerangka AI Tingkat Lanjut Anthropic, yang telah kami dukung dengan anggota parlemen federal dan negara bagian sejak bulan Juni," dan menambahkan: "Ini adalah kebijakan yang masuk akal yang kami yakini harus ditindaklanjuti oleh Kongres."

Posisi perusahaan konsisten dengan postur publiknya. Anthropic telah berulang kali berargumen bahwa risiko-risiko AI yang ada di garis depan adalah nyata, namun sempit – terkonsentrasi pada bantuan senjata biologis, hilangnya kendali, dan operasi siber yang ofensif – dan bahwa peraturan harus fokus pada hal tersebut, bukan pada cakupan luas penerapan AI sehari-hari.

Menulis RUU sendiri adalah langkah logis berikutnya. Daripada bereaksi terhadap proposal dari pihak lain, Anthropic memberikan bahasa yang disesuaikan dengan kerangka risikonya sendiri kepada para anggota parlemen, dengan mengesampingkan peraturan negara bagian yang tambal sulam sebagai manfaat implisit dari undang-undang federal. Reuters dan sejumlah media lain memperkuat laporan Politico dalam satu hari, sebuah tanda betapa Washington dan industri AI kini saling mengawasi tindakan masing-masing.

Jalan ke Depan di Washington yang Terpecah

Rancangan tersebut menghadapi tantangan politik yang besar terlepas dari partai mana yang mengendalikan Kongres. Pelaporan Politico mencatat bahwa setiap rancangan undang-undang keselamatan AI kemungkinan akan mendapat penolakan dari Gedung Putih, yang tetap menentang peraturan wajib AI dan lebih memilih pendekatan sukarela dan berbasis standar.

Meski begitu, usulan itu penting sebagai penanda. Hal ini mengkuantifikasi – dalam bentuk dolar dan jumlah korban – dimana salah satu laboratorium AI terkemuka di dunia percaya bahwa batas antara risiko yang dapat diterima dan intervensi pemerintah harus ditentukan. Hal ini juga menjadi acuan bagi rancangan undang-undang yang bersaing yang kini beredar di Capitol Hill, yang beberapa di antaranya mengusulkan pengawasan yang jauh lebih agresif dengan ambang batas yang lebih rendah.

Para analis kebijakan akan mengamati tiga hal seiring dengan berkembangnya perdebatan: apakah 50 korban dan angka $1 miliar tersebut dapat bertahan dari rancangan Kongres; apakah evaluator yang terdaftar di Commerce mendapatkan otoritas nyata atau hanya berperan sebagai penasihat; dan apakah bahasa preemption federal menyerap atau bertabrakan dengan undang-undang AI tingkat negara bagian yang sudah ada. Taruhan Anthropic adalah bahwa kerangka kerja yang sempit dan hanya mengandung risiko bencana adalah versi regulasi yang benar-benar dapat diterapkan oleh industri – dan pembentukan kerangka tersebut lebih awal daripada penerapan kerangka tersebut di kemudian hari.

Tetap Terdepan dalam AI

Lanskap AI bergerak cepat — ikuti AI Buzz Wire untuk mengetahui berita terkini tentang AI, rilis model, dan analisis industri.

Baca berita AI selengkapnya →