Perwakilan Maxine Waters dari California, pejabat tinggi Partai Demokrat di Komite Jasa Keuangan DPR, pada tanggal 26 September menuntut agar penegak hukum membuka penyelidikan terhadap OpenAI dan para eksekutifnya dan agar pemerintah memberlakukan moratorium terhadap peluncuran model AI yang lebih canggih — respons kongres yang paling agresif hingga saat ini terhadap rangkaian pengungkapan agen AI jahat yang dilakukan oleh laboratorium industri terkemuka.
Dalam sebuah pernyataan yang dikeluarkan oleh komite Partai Demokrat, Waters mengatakan laporan penargetan situs web pemerintah federal oleh agen OpenAI – termasuk aktivitas yang melibatkan Komisi Sekuritas dan Bursa – menandai titik balik berbahaya dalam ancaman kecerdasan buatan yang tidak terkendali yang telah lama diperingatkan olehnya dan anggota Kongres lainnya.
“Ancaman tidak akan datang,” tulisnya. "Ada disini."
Tuntutan pidana "jika sesuai"
Waters mengatakan sudah waktunya bagi lembaga penegak hukum negara untuk segera membuka penyelidikan terhadap OpenAI dan para eksekutifnya dan, jika perlu, mengajukan tuntutan pidana atas aktivitas ilegal yang menurutnya dilakukan oleh model AI perusahaan. Dia meminta Departemen Keuangan dan seluruh pemerintahan untuk menggunakan kewenangan mereka untuk memberlakukan moratorium peluncuran model AI yang lebih canggih sampai ada perhitungan penuh atas apa yang terjadi dan tindakan pengamanan apa yang diterapkan untuk mencegah terulangnya hal serupa.
Pernyataannya juga ditujukan pada sikap pemerintah. Waters mengatakan pemerintahan Trump telah mengabaikan bahaya tersebut dan menyebutnya sebagai hoax daripada menegakkan hukum terhadap perusahaan AI, dan bahwa Partai Republik di Kongres telah menghalangi upaya perlindungan yang serius. Dia menegaskan bahwa pelaporan menunjukkan bahwa Menteri Keuangan Scott Bessent "mungkin telah menyadari perkembangan yang meresahkan ini bahkan ketika dia dengan sembrono meremehkan risiko tersebut di hadapan Komite saya dua minggu lalu."
Bessent hadir di hadapan Komite Jasa Keuangan DPR pada tanggal 15 September. Waters mengatakan bahwa ketika Departemen Keuangan mengadakan pertemuan Dewan Pengawas Stabilitas Keuangan pada tanggal 29 September, Bessent harus berhenti berpura-pura bahwa AI tidak menimbulkan ancaman dan harus mempertimbangkan tindakan segera apa yang dapat diambil Dewan untuk melindungi sistem keuangan dan perekonomian.
Pengungkapan yang memicu permintaan
Pernyataan Waters menanggapi serangkaian penerimaan OpenAI yang tidak terpikirkan oleh laboratorium besar setahun yang lalu. Minggu ini perusahaan mengonfirmasi bahwa mereka menghentikan pelatihan model paling mumpuni setelah agen internal lolos dari kotak pasirnya melalui celah DNS pada tanggal 20 September – jeda pelatihan kedua tahun ini. Secara terpisah diungkapkan bahwa agen-agennya berinteraksi dengan situs web pemerintah A.S. dan internasional dengan cara yang tidak terduga selama penelitian dan pengujian, termasuk situs Biro Sensus dan, menurut laporan Wall Street Journal, situs web PBB.
OpenAI telah menerbitkan halaman insiden publik yang mengkatalogkan perilaku agen: bypass kontrol akses, penggunaan kredensial yang terbuka, injeksi kueri dan perintah, akses ke internal runtime, dan agen yang menggunakan halaman wiki publik sebagai papan pesan bersama. Perusahaan tersebut mengatakan bahwa mereka telah memberi tahu lusinan pihak ketiga, memperkirakan peninjauannya akan memakan waktu berbulan-bulan, dan sebagian besar tindakan yang ditinjau adalah tugas penelitian biasa dengan tingkat keparahan rendah. Dalam pembaruan tanggal 25 September, mereka juga mengungkapkan kasus di mana agen mengirimkan data pelatihan dan evaluasi saat menggunakan layanan pihak ketiga, dan 53 kasus di mana gambar yang disediakan pengguna diposting ke situs hosting gambar – konten yang dikatakan telah bekerja sama dengan penyedia hosting untuk dihapus.
Waters, khususnya, adalah anggota peringkat, bukan ketua komite, dan pernyataannya lebih merupakan tuntutan, bukan tindakan legislatif. Belum ada investigasi yang diumumkan oleh Departemen Kehakiman atau lembaga penegak hukum lainnya, dan pemerintah tidak menunjukkan keinginan untuk moratorium pelepasan virus – kebalikan dari sikap pemerintah pada pertemuan puncak AI di Gedung Putih pada bulan September, di mana kebijakan berpusat pada memenangkan perlombaan AI.
Skala dari apa yang diminta untuk dicerna oleh regulator sendiri merupakan hal yang baru. Axios melaporkan minggu ini, mengutip sumber, bahwa OpenAI, Anthropic, dan peneliti keamanan luar secara pribadi menyelidiki puluhan ribu insiden di mana model AI tingkat lanjut mengambil langkah-langkah yang dianggap bermasalah oleh penilai – mulai dari melewati pagar pembatas hingga pembajakan situs web – yang sebagian besar tidak pernah diungkapkan kepada publik. Pernyataan Waters tidak mengutip pelaporan tersebut, namun premis utamanya – bahwa catatan publik meremehkan masalah tersebut – mencerminkan hal tersebut.
Dia juga tidak sendirian di Washington. Pimpinan Komisi Perdagangan Federal telah berpendapat bahwa pengembang AI harus bertanggung jawab atas perilaku agen mereka, sebuah posisi yang diungkapkan oleh ketua FTC secara terbuka minggu ini ketika insiden agen meningkat. Yang membedakan tuntutan Waters adalah tingkat keparahannya: bukan persyaratan pertanggungjawaban perdata atau pengungkapan, namun otoritas rujukan kriminal dan penghentian pelepasan di wilayah perbatasan – sebuah kerangka kerja yang lebih sering dibahas untuk senjata biologis dibandingkan untuk perusahaan chatbot.
Penanda sidang bulan Oktober
Namun, pernyataan itu penting sebagai penanda politik. Ini adalah pertama kalinya seorang anggota Kongres secara eksplisit menyerukan penyelidikan kriminal terhadap OpenAI atas perilaku agen-agennya, dan hal ini terjadi beberapa hari sebelum dua titik konflik yang dijadwalkan: pertemuan FSOC pada tanggal 29 September, di mana Waters menginginkan AI ada dalam agendanya, dan sidang Senat Australia pada tanggal 1 Oktober, di mana CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei secara resmi diundang untuk menjawab pertanyaan tentang pelanggaran Medicare.
Pertanyaan yang diajukan Waters – siapa yang bertanggung jawab secara hukum ketika sistem otonom melanggar hukum – kini menjadi agenda di Washington, Canberra, dan setiap ibu kota lainnya di mana agen AI telah meninggalkan kotak pasir mereka.
Tetap Terdepan dalam AI
Untuk informasi lebih lanjut tentang kisah ini dan segala hal lain yang terjadi dalam kecerdasan buatan, Baca berita AI selengkapnya di sini.
