Peringatan keselamatan dari para peneliti Antropik yang mendominasi wacana AI minggu ini kini telah menghasilkan sesuatu yang konkret di Washington: sebuah dorongan legislatif. Reuters melaporkan pada hari Kamis bahwa anggota parlemen AS menyerukan peraturan AI yang baru sebagai tanggapan terhadap pernyataan para peneliti, sementara Perwakilan Massachusetts Lori Trahan menggunakan wawancara pada Kamis pagi untuk merinci Frontier Act-nya, sebuah undang-undang yang akan memberlakukan kewajiban mengikat pada pengembang AI di garis depan untuk pertama kalinya.
Berbicara di Edisi Pagi WBUR, Trahan mengatakan reaksi di Capitol Hill terhadap kejadian minggu ini sangat berbeda dengan apa yang dia lihat sejak dia mulai mengerjakan regulasi AI awal tahun ini. Untuk liputan harian mengenai pergerakan kebijakan AI di Washington, Brussels, dan sekitarnya, ikuti AI Buzz Wire, sumber Anda untuk berita terkini tentang AI dan pembaruan peraturan.
Apa yang Akan Dilakukan oleh Frontier Act
Trahan, yang ikut menulis rancangan undang-undang bipartisan, menggambarkannya sebagai seperangkat “aturan jalan” bagi segelintir perusahaan yang modelnya dapat menyebabkan kerugian besar. Frontier Act akan mengamanatkan empat hal, menurut anggota kongres tersebut: persyaratan transparansi untuk pengembang AI terdepan, pelaporan insiden, verifikasi independen atas klaim keamanan model, dan apa yang disebutnya sebagai tombol jeda pemerintah jika suatu model menimbulkan risiko bencana.
“Pada tingkat dasar, kita perlu memasang pagar pembatas di laboratorium-laboratorium terdepan,” kata Trahan, seraya menggambarkan ketentuan-ketentuan tersebut sebagai “pertaruhan” sementara Kongres menyusun kebijakan untuk banyak sektor lain yang akan disentuh oleh AI.
'Sistem Kehormatan': Kasus Trahan tentang Aturan yang Mengikat
Inti dari argumen Trahan adalah bahwa saat ini tidak ada yang mengikat para pengembang sistem AI yang paling kuat. “Saat ini, satu-satunya yang kita miliki adalah sistem kehormatan,” katanya. “Teknologi paling kuat dalam sejarah manusia diatur oleh pengembangnya.”
Dia mengakui adanya skeptisisme di antara rekan-rekannya, dan mengatakan bahwa beberapa orang memandang peringatan minggu ini sebagai tindakan yang menyebarkan rasa takut atau terlalu ekstrem. Namun dia menggambarkan perubahan cepat dalam suasana ruang sidang: "Ponsel saya tidak berhenti berdering sejak Jacob Coxon membocorkan hal tersebut. Saya pikir rekan-rekan saya ketakutan. Mereka mendengar dari konstituen mereka yang menginginkan kita bertindak... Minggu ini baru saja mencapai titik kritis."
Khususnya, dia mengatakan tekanan tidak terbatas pada satu pihak saja. "Bukan hanya Partai Demokrat," kata Trahan, seraya mencatat bahwa "Partai Republik MAGA menyerukan tindakan bipartisan kemarin. Situasinya sudah benar-benar berubah."
Peringatan Yang Memulainya
Gejolak legislatif ini bermula langsung dari pernyataan dua peneliti Antropik. Jacob Coxon keluar dari perusahaan pada hari Selasa, menulis di media sosial bahwa Anthropic "berlomba langsung menuju peningkatan kecerdasan super dan berjudi dengan hidup kita." Rekan peneliti Antropik Evan Hubinger secara terbuka mendukungnya, dengan menulis: "Jacob benar dalam hal ini... Kami benar-benar yakin AI dapat membunuh semua manusia! Menurut saya pribadi, angkanya >10% dalam dekade berikutnya."
Ceritanya menyebar sepanjang minggu. The Hill melaporkan para anggota parlemen membunyikan alarm akan bahaya AI setelah peringatan tersebut, BBC dan CBS meliput perkiraan kemungkinan Hubinger, dan NBC News melaporkan pada hari Kamis tentang dua peneliti AI yang meninggalkan Anthropic dan Google karena masalah keamanan, mengutip salah satu yang mengatakan "tidak ada orang dewasa di ruangan itu." Reuters melaporkan pada hari Kamis bahwa anggota parlemen kini menyerukan peraturan baru, dan laporan juga beredar bahwa OpenAI telah meminta peraturan AS yang mengatur model AI yang kuat.
Dari Peringatan ke File Tagihan
Apa yang membuat minggu ini berbeda dari kontroversi keselamatan sebelumnya adalah kecepatan respons kebijakannya. Pengungkapan Anthropic minggu ini – sebuah laporan intelijen ancaman yang merinci gangguan kampanye penyalahgunaan, termasuk kemungkinan upaya untuk menggunakan Claude untuk mengembangkan senjata biologis – memberikan peringatan tersebut sebuah tulang punggung bukti yang tidak ada dalam perdebatan sebelumnya, dan para anggota parlemen tampaknya akan mengambil tindakan ketika situasi masih memungkinkan.
Jalan ke Depan untuk Legislasi AI
Prospek penerapan Frontier Act masih belum pasti. Kongres telah berjuang selama bertahun-tahun untuk meloloskan undang-undang AI yang komprehensif, dan setiap rancangan undang-undang yang menyangkut verifikasi wajib atau otoritas jeda federal akan menghadapi lobi yang intens dari laboratorium yang akan diaturnya, serta perselisihan yurisdiksi antar komite. Di samping itu, negara bagian tidak menunggu: Gubernur California Gavin Newsom menandatangani serangkaian undang-undang keselamatan AI menjadi undang-undang minggu ini, menurut Los Angeles Times, menjaga tekanan untuk kerangka federal yang mencegah peraturan negara bagian yang tambal sulam.
Untuk saat ini, dinamikanya telah terbalik. Untuk pertama kalinya dalam Kongres ini, orang-orang yang membangun model frontier secara terbuka menuntut pembatasan terhadap industri mereka sendiri – dan anggota parlemen sedang menyusun rancangannya.
Apakah penyelarasan ini akan menghasilkan undang-undang atau sekadar berita utama, akan bergantung pada beberapa bulan mendatang. Namun minggu ini menunjukkan sesuatu yang tidak dapat diabaikan oleh laboratorium maupun para pengkritiknya: keamanan AI telah beralih dari ruang seminar ke penghitungan suara, dan para anggota yang menghitung suara mengatakan bahwa konstituen mereka pada akhirnya adalah pihak yang meminta mereka untuk bertindak.
AI Buzz Wire akan terus melacak Frontier Act saat disahkan di Kongres.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
