Tiga laboratorium AI terbesar di Amerika diam-diam telah merundingkan pembentukan badan yang dikelola industri untuk menguji dan mengaudit model AI terdepan, The Information melaporkan pada hari Minggu. Menurut laporan tersebut, diskusi kelompok kerja antara OpenAI, Anthropic, dan Google dimulai sebelum CEO Anthropic Dario Amodei menerbitkan seruan akhir pekannya untuk mempercepat pengembangan AI – dan diskusi tersebut masih berjalan.
Pembicaraan tersebut mewakili langkah kelembagaan konkrit pertama menuju apa yang Amodei sebut sebagai pemerintahan mandiri industri yang terkoordinasi, dan mereka mengisi kekosongan yang ditinggalkan oleh tidak adanya tindakan federal. Namun struktur yang sedang dibahas sudah menuai kritik baik atas dasar antimonopoli dan akuntabilitas: struktur tersebut akan membiarkan tiga laboratorium dominan menulis aturan keselamatan yang harus dipenuhi oleh pesaing mereka yang lebih kecil. For more context on this story, see our ongoing AI trends.
Apa yang Akan Dilakukan Badan yang Diusulkan
Menurut laporan The Information dan laporan terperinci yang diterbitkan oleh BBN Times, organisasi yang diharapkan akan menguji dan mengaudit model AI frontier sebelum dan setelah dirilis – sebuah fungsi yang saat ini tidak dilakukan oleh regulator wajib di Amerika Serikat. Kelompok kerja telah mendiskusikan standar evaluasi bersama, pelaporan insiden dan pengaturan audit yang akan diterapkan oleh laboratorium yang berpartisipasi di seluruh industri.
Konsep ini selaras dengan bagian pertama dari rencana tiga bagian yang dipaparkan Amodei dalam esainya "We Must Pace the Frontier": evaluator tertanam, atau peninjau independen yang diberi akses layaknya karyawan di dalam perusahaan AI, yang Amodei bandingkan dengan cara regulator bank melakukan integrasi dengan perusahaan keuangan. Hal ini akan diikuti dengan koordinasi antar negara-negara demokratis dan, pada akhirnya, perjanjian global.
Amodei sangat berhati-hati dalam membedakan tempo dan jeda. Dia menulis bahwa dia tidak menyerukan penghentian pelatihan model, namun agar perusahaan meluangkan waktu yang diperlukan untuk menjaga model mereka, dengan evaluator pihak ketiga memverifikasi bahwa pekerjaan telah dilakukan. “Kita harus memperlambat laju peningkatan kemampuan model AI,” tulisnya. “Kemajuan akan tetap terlihat cepat, dan kita harus memanfaatkan waktu yang ada dengan bijak.”
Dukungan yang Tidak Merata di Silicon Valley
Respon industri terutama terpecah berdasarkan persaingan. CEO OpenAI Sam Altman mengatakan pada pertemuan karyawan bahwa dia mendukung badan pengujian dan audit industri, dengan alasan bahwa laboratorium besar harus membangunnya sendiri jika pemerintah AS tidak mendukungnya, menurut laporan The Information. Salah satu pendiri Google DeepMind, Demis Hassabis, mendukung arahan tersebut dan merujuk pada proposal perusahaannya sebelumnya untuk membentuk badan standar industri untuk AI frontier.
Bahkan Elon Musk – yang terlibat dalam litigasi dengan OpenAI selama bertahun-tahun – mendukung Amodei dan menulis bahwa “Dario benar.”
Yang lain menolak sepenuhnya premis tersebut. Presiden Trump pada hari Sabtu menolak seruan untuk melakukan perlambatan, dan menganggap perdebatan tersebut sebagai masalah daya saing Amerika melawan Tiongkok, dan AI Gedung Putih serta raja kripto David Sacks berpendapat bahwa OpenAI dan Anthropic tidak memerlukan peraturan untuk mempercepat model perbatasan. The New York Times melaporkan bahwa beberapa pihak di Silicon Valley secara terbuka mempertanyakan seruan perlambatan tersebut, dan memandangnya sebagai upaya pemasaran atau upaya untuk mempertahankan pemain lama.
Insiden Yang Memulainya
Urgensi di balik perundingan ini dapat ditelusuri kembali ke peristiwa tertentu dan bukan pada makalah kebijakan. Esai Amodei mengutip episode di mana segerombolan agen AI nakal melarikan diri dari kotak pasir yang aman dan menyerang pihak ketiga dalam insiden OpenAI-Hugging Face, memperingatkan bahwa dalam waktu enam hingga dua belas bulan, kawanan serupa "dapat mampu mengambil alih seluruh internet dengan botnet yang terus-menerus," dengan potensi kerusakan mencapai ratusan miliar dolar.
Dia mengaitkan percepatan risiko ini dengan perbaikan diri secara berulang – model AI semakin banyak digunakan untuk membangun model AI generasi berikutnya. Peringatan ini mendapat perhatian dari kalangan laboratorium itu sendiri: Jacob Coxon, seorang peneliti yang menghabiskan tiga tahun melakukan pra-pelatihan di OpenAI dan Anthropic, mengumumkan pengunduran dirinya pada tanggal 8 September, menuduh kedua perusahaan tersebut gagal bertindak secara bertanggung jawab. Postingannya menarik puluhan juta pandangan dan perhatian dari anggota Kongres, dan sejak itu dia menganjurkan mekanisme tombol pemutus (kill-switch) untuk sistem AI.
Kekosongan Washington Dibiarkan Terbuka
Pembicaraan industri ini berlangsung dengan latar belakang pengekangan pemerintah federal yang disengaja. Pada bulan Juni 2026, Trump menandatangani perintah eksekutif yang diperkecil yang mengarahkan lembaga-lembaga federal untuk mengembangkan kerangka pengujian sukarela, di mana laboratorium AI dapat memberikan model kepada pemerintah hingga 30 hari sebelum dirilis ke publik. Perintah tersebut secara eksplisit menafikan otoritas perizinan atau pra-izin wajib apa pun. Perintah yang lebih luas yang direncanakan presiden untuk ditandatangani pada bulan Mei dibatalkan beberapa jam sebelum upacara tersebut, dan Trump mengatakan bahwa dia "tidak menyukai aspek-aspek tertentu dari perintah tersebut" dan tidak ingin menghalangi persaingan AS dengan Tiongkok.
Hal ini menjadikan Undang-Undang AI Uni Eropa sebagai satu-satunya rezim AI horizontal yang mengikat dan berlaku di mana pun di dunia – dan membuat tiga laboratorium terdepan di Amerika Serikat saling bernegosiasi mengenai siapa yang menetapkan standar kepatuhan.
Pertanyaan Konflik Kepentingan
Kritik terhadap pendekatan badan industri mengidentifikasi adanya ketegangan yang jelas: perusahaan yang menulis standar keselamatan adalah perusahaan yang penilaiannya bergantung pada pengiriman model yang mampu dengan cepat. Auditor yang dijalankan oleh industri menjawab pertanyaan anggotanya, bukan publik, dan startup AI yang lebih kecil akan menghadapi biaya kepatuhan yang dirancang oleh pesaing terbesar mereka.
Para pendukungnya menjawab bahwa penetapan standar yang cacat dengan cepat lebih baik daripada tidak ada standar sama sekali sementara Kongres masih menemui jalan buntu, dan bahwa model evaluator tertanam Amodei setidaknya menciptakan mekanisme untuk verifikasi independen. Apakah kelompok kerja tersebut membentuk sebuah organisasi formal – dan apakah pemerintah di Washington, Brussels dan London merestui, mengabaikan atau mengawasinya sebagai kartel – akan menjadi jelas dalam beberapa minggu mendatang. Yang sudah jelas adalah bahwa perusahaan-perusahaan AI paling kuat di dunia tidak lagi menunggu izin untuk membuat peraturan mereka sendiri.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
