Jacob Coxon, mantan peneliti Antropik yang mengundurkan diri bulan lalu dengan peringatan publik bahwa perusahaan AI “berjudi dengan hidup kita,” memberikan kesaksian pada hari Senin di sidang Dewan Kota New York tentang keamanan kecerdasan buatan, menempatkan dia di ruangan yang sama dengan perwakilan dari industri yang dia tinggalkan.

Bloomberg melaporkan pada tanggal 4 Oktober bahwa Coxon akan hadir pada sidang tersebut, yang diadakan oleh Ketua Dewan Julie Menin dan dijalankan sebagai Komite Keseluruhan – yang berarti seluruh 51 anggota dewan berpartisipasi dan bukan hanya satu subkomite. Perwakilan dari Anthropic, OpenAI, Google dan Meta diharapkan hadir pada sesi yang sama. Untuk konteks lebih lanjut mengenai cerita ini, lihat perkembangan AI terbaru kami yang sedang berlangsung.

Siapakah Jacob Coxon?

Coxon mengundurkan diri dari Anthropic pada awal September 2026. Dalam pernyataan keluarnya kepada publik, dia menyebut perusahaan AI sebagai "perjudian dengan nyawa kita" dan memperingatkan bahwa teknologi tersebut dapat menimbulkan risiko bencana dalam dekade ini. Menurut Crypto Briefing, pernyataan itu telah dilihat lebih dari 173 juta kali, dan pengunduran dirinya dianggap memicu dorongan untuk sidang dewan.

Dia tidak sendirian dalam kekhawatirannya. Evan Hubinger, peneliti Antropik lainnya, secara terbuka memperkirakan kemungkinan lebih dari 10 persen bahwa AI canggih dapat mematikan umat manusia dalam waktu sepuluh tahun – sebuah sinyal, menurut para pendukung keselamatan, tentang seberapa luas pandangan seperti itu kini dianut di laboratorium-laboratorium terdepan.

Narasi Coxon menuai penolakan. Orang-orang yang skeptis mempertanyakan hubungannya dengan firma hubungan masyarakat yang terkait dengan advokasi keselamatan AI, klaim yang telah dibantahnya.

Yang Pertama bagi Anggota Parlemen AS

Sidang tersebut digambarkan dalam laporan sesi tersebut sebagai pertama kalinya badan legislatif AS memaksakan kesaksian di bawah sumpah khususnya mengenai keamanan AI. Dewan Kota New York mengirimkan surat yang mengundang kepala eksekutif dari empat perusahaan AI besar – Dario Amodei dari Anthropic, Sam Altman dari OpenAI, Sundar Pichai dari Google dan Mark Zuckerberg dari Meta – untuk hadir.

Tidak semua perusahaan merespons seperti yang diharapkan dewan. Menurut Crypto Briefing, satu perusahaan AI menerima panggilan pengadilan pada atau sekitar 30 September 2026, setelah tindakan hukum dimulai atas ketidakpatuhan terhadap permintaan dewan.

Tagihan di Atas Meja

Anggota parlemen berencana menggunakan sesi ini untuk mempertimbangkan beberapa usulan tindakan, tiga di antaranya menonjol:

  • Validasi pihak ketiga atas sistem AI yang digunakan oleh kota, yang memerlukan verifikasi independen sebelum diterapkan di layanan kota.
  • Insentif pelapor pelanggaran yang dijelaskan dalam proposal sebagai insentif terdepan di negara ini, dirancang untuk memberi penghargaan kepada orang dalam yang melaporkan praktik berbahaya di dalam laboratorium AI.
  • Hak pribadi untuk bertindak yang memberikan individu kemampuan untuk menuntut kerugian yang disebabkan oleh sistem AI.

Salah satu dari ketiga hal tersebut akan menjadikan New York City salah satu regulator kecerdasan buatan lokal paling agresif di Amerika Serikat. Karena proposal tersebut menargetkan sistem yang digunakan oleh kota dan perusahaan yang beroperasi di dalamnya, dampaknya dapat menjangkau lebih dari lima wilayah.

Peraturan Lokal dalam Kekosongan Federal

Sidang ini diadakan pada saat persaingan arus peraturan di Washington. Presiden Trump baru-baru ini menunjuk Direktur Intelijen Nasional Jay Clayton sebagai "kaisar AI" yang memimpin gugus tugas "Pasukan Intelijen Super" yang baru dengan waktu 120 hari untuk menyampaikan laporan mengenai risiko dan pengawasan AI – sebuah kerangka kerja yang cenderung mempercepat pembangunan dibandingkan membatasinya.

Ke dalam kekosongan tersebut, negara-negara bagian dan kota-kota telah bergerak. Sidang di New York akan menguji seberapa jauh pemerintah kota dapat menetapkan ekspektasi keselamatan untuk teknologi yang dibangun jauh dari Balai Kota, dan apakah laboratorium-laboratorium besar di industri tersebut akan bekerja sama dengan anggota parlemen setempat atau menolaknya.

Mengapa Kesaksian Penting

Audiensi seperti ini cenderung kurang mementingkan apa yang dikatakan di dalam ruangan dan lebih mementingkan apa yang terjadi selanjutnya. Kesaksian tersumpah menciptakan catatan publik yang dapat menjadi landasan undang-undang di masa depan, dan kehadiran keempat perusahaan AI besar – ditambah kritik bergaya pelapor pelanggaran (whistleblower) – memberi para pembuat undang-undang perbandingan janji dan peringatan yang jarang terjadi.

Bagi industri AI, sesi ini merupakan pengingat bahwa pengawasan tidak lagi terbatas pada Kongres atau modal asing. Dewan kota kini menyusun peraturan AI mereka sendiri, dan mereka memanggil orang-orang yang membangun sistem untuk membela peraturan tersebut di bawah sumpah.

Yang Perlu Diperhatikan dalam Kesaksian

Beberapa topik layak diikuti seiring sesi berlangsung. Pertama, bagaimana perwakilan perusahaan mencirikan praktik keselamatan mereka ketika berbicara di bawah sumpah, dengan mantan orang dalam yang vokal dijadwalkan untuk tampil di panel yang sama. Kedua, apakah proposal insentif pelapor mendapat dukungan dari kedua belah pihak – hal ini mencerminkan upaya federal untuk meresmikan saluran pelaporan pelanggaran laboratorium AI, sebuah area di mana beberapa perusahaan terdepan telah menerbitkan kebijakan sukarela.

Ketiga, hak pribadi untuk bertindak kemungkinan besar merupakan elemen yang paling diperebutkan. Mekanisme yang memungkinkan individu untuk menuntut kerugian yang disebabkan oleh AI akan mengalihkan paparan hukum yang sebenarnya ke penyedia contoh, dan pelobi industri diperkirakan akan melawannya jauh lebih keras daripada persyaratan audit atau pengungkapan.

Sidang ini juga menunjukkan perbedaan langsung dalam filosofi peraturan. Gugus tugas AI yang baru di Washington di bawah pimpinan Jay Clayton dibangun untuk mempercepat pembangunan dan mengkonsolidasikan koordinasi federal, sementara usulan Kota New York condong ke arah verifikasi, pelaporan orang dalam, dan litigasi sebagai penghalang penegakan hukum. Jika rancangan undang-undang tersebut disetujui, kota ini dapat menjadi contoh uji seberapa besar peraturan AI yang dapat diberlakukan oleh pemerintah sub-federal dalam iklim politik saat ini.

AI Buzz Wire akan terus menelusuri hasil sidang dan nasib ketiga RUU yang diajukan.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →