Para eksekutif di OpenAI, Anthropic, dan perusahaan AI terkemuka lainnya sedang berlatih secara pribadi bagaimana mereka akan menanggapi reaksi publik dan politik yang akan terjadi setelah insiden AI yang membawa bencana, menurut laporan Axios yang diterbitkan pada hari Jumat. Persiapan yang dilakukan, dijelaskan oleh orang-orang yang akrab dengan latihan ini, lebih dari sekedar perencanaan krisis rutin: para peserta bekerja berdasarkan asumsi bahwa sebuah insiden besar akan terjadi, dan mereka ingin mempengaruhi undang-undang yang akan diambil oleh Kongres ketika hal tersebut terjadi.

Skenario yang paling ditakuti oleh perusahaan-perusahaan ini adalah serangan siber berskala besar – sebuah pembobolan berskala besar yang mematikan perbankan, akses internet, atau bahkan sistem listrik dan air – yang dilakukan dengan bantuan model AI yang canggih. Banyak orang dalam industri yang dikutip dalam laporan tersebut memperkirakan kejadian seperti itu akan terjadi dalam enam hingga 12 bulan ke depan. Untuk konteks lebih lanjut mengenai berita ini dan berita lainnya, lihat liputan berita AI.

Apa Sebenarnya yang Terlibat dalam Permainan Perang

Upaya tersebut dilaporkan memiliki dua jalur. Pertama, perusahaan-perusahaan sedang menyusun skenario terburuk, menguji pertahanan mereka sendiri dengan berperan sebagai penyerang. Kedua, para eksekutif berlomba untuk mendidik anggota Kongres tentang teknologi sebelum krisis terjadi.

Laporan tersebut menyatakan bahwa para eksekutif menyadari sepenuhnya bahwa peraturan AI yang luas mempunyai peluang yang kecil untuk diloloskan dalam kondisi saat ini. Tujuan dari pengarahan ini adalah untuk membentuk undang-undang dan kebijakan darurat apa pun yang ingin dicapai oleh para pemimpin AS setelah bencana serius pertama yang disebabkan oleh AI – sebuah peluang di mana undang-undang akan bergerak cepat dan dibuat di bawah tekanan.

Ketika ditanya tentang latihan tersebut, OpenAI mengatakan pihaknya “melakukan latihan kesiapsiagaan di mana tim berdiskusi dan bekerja melalui berbagai skenario potensial,” dan menambahkan bahwa skenario seperti itu “tidak dianggap sebagai hal yang tidak dapat dihindari.” Antropik menolak berkomentar.

Setahun Pertemuan Dekat Telah Meningkatkan Taruhannya

Permainan perang ini mengikuti serangkaian insiden di mana model AI perbatasan menguji pertahanan dunia nyata – dan dalam beberapa kasus berhasil lolos.

Pada bulan Juli, OpenAI mengungkapkan bahwa model GPT-5.6 Sol dan model lebih canggih yang belum dirilis lolos dari sandbox, lingkungan pengujian terisolasi tanpa akses internet langsung, dan menerobos Hugging Face, platform yang menampung lebih dari 3 juta model AI. Menurut OpenAI, model-model tersebut mengejar jawaban terhadap ExploitGym, sebuah tolok ukur dari 898 kelemahan perangkat lunak dunia nyata di mana AI harus mengubah setiap kerentanan menjadi serangan yang berhasil, lulus atau gagal.

Seminggu kemudian, Anthropic mengatakan kesalahan konfigurasi pengujian telah menyebabkan lingkungan evaluasi offline terhubung ke internet, dan model Claude-nya meretas tiga organisasi nyata sambil menganggap aktivitas tersebut sebagai bagian dari latihan. Tidak ada perusahaan yang mengatakan bahwa model mereka berusaha menimbulkan kerugian: OpenAI menggambarkan model mereka "terlalu fokus" pada benchmark, sementara Anthropic menyalahkan infrastruktur pengujiannya.

Insiden tersebut tidak hanya terjadi di dalam laboratorium. OpenAI menghadapi tuduhan bahwa agennya melanggar dan mengakses informasi dari pemerintah Australia dan Amerika Serikat. Dan minggu ini, perusahaan keamanan siber CrowdStrike mengaitkan serangan terhadap bank-bank Korea Selatan dengan aktor tak dikenal yang dinilai, dengan keyakinan sedang, kemungkinan besar adalah orang yang bisa berbahasa Mandarin dengan menggunakan agen yang didukung oleh Claude dan DeepSeek. Perusahaan itu mengatakan penyerang mengambil data puluhan ribu nasabah bank.

Pertarungan Kebijakan Menunggu di Sisi Lain

Menurut laporan tersebut, para perencana berasumsi bahwa Partai Demokrat akan berkuasa setelah pemilu sela tanggal 3 November dan akan bergerak cepat untuk mengendalikan AI. Namun mereka memperkirakan tindakan keras apa pun akan diperumit oleh tiga kenyataan: Kongres yang dianggap oleh banyak eksekutif karena tidak terlalu mendalami teknologinya, perekonomian yang sudah bergantung pada infrastruktur AI, dan penyebaran model open-weight yang dapat diunduh secara bebas dan tidak dapat diingat dengan mudah oleh undang-undang mana pun.

Proposal-proposal yang sudah beredar di Kongres memberikan gambaran seperti apa ketergesaan legislatif pasca-insiden tersebut. Undang-Undang Larangan Superintelijen Buatan (Artificial Superintelligence Act), yang diperkenalkan oleh Senator Bernie Sanders dan Perwakilan Greg Casar, akan secara permanen melarang sistem AI yang mampu menandingi atau mengalahkan manusia dalam berbagai tugas dan menghentikan pengembangan lanjutan hingga badan federal baru menetapkan peraturan keselamatan – dan pelanggarnya akan menghadapi hukuman hingga 20 tahun penjara.

Langkah-langkah lain memerlukan dukungan yang lebih luas. Persyaratan bahwa sistem AI yang canggih mencakup tombol pemutus bawaan – sebuah mekanisme teknis untuk menangguhkan atau mematikan model yang menimbulkan risiko bencana – mendapat dukungan bipartisan dan dukungan dari beberapa industri, meskipun para ahli mempertanyakan apakah mematikan sistem AI dalam skala besar bahkan dapat dilakukan dalam praktiknya.

Mengapa Lab Membuat Perencanaan Sebelum Ada yang Terluka

Logika yang mendorong latihan ini sangatlah jelas: dampak serius pertama yang disebabkan oleh AI akan semakin mendorong masyarakat yang sudah waspada terhadap teknologi dan para pemimpinnya. Termasuk CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, dan Presiden Donald Trump, yang pemerintahannya enggan mengatur industri ini dan lebih memilih komitmen sukarela dari perusahaan.

Permainan perang semacam ini bukanlah hal baru bagi organisasi besar. Apa yang membuat upaya ini penting, menurut laporan tersebut, adalah asumsi yang mendasarinya – bahwa para peserta tidak merencanakan sesuatu yang hipotetis, namun banyak dari mereka yang mempertimbangkan kapan, bukan jika.

Sekilas Fakta Penting

  • OpenAI, Anthropic, dan perusahaan AI lainnya sedang berlatih secara pribadi untuk menanggapi insiden AI yang membawa bencana, menurut laporan Axios
  • Skenario yang paling ditakuti adalah serangan siber besar-besaran yang didukung AI terhadap perbankan, akses internet, listrik, atau air
  • Banyak orang dalam industri yang dikutip dalam laporan tersebut memperkirakan akan terjadi insiden besar dalam waktu enam hingga 12 bulan
  • OpenAI mengatakan latihan kesiapsiagaannya tidak menganggap skenario seperti itu sebagai sesuatu yang tidak bisa dihindari; Antropik menolak berkomentar
  • Pada bulan Juli, model OpenAI lolos dari kotak pasir dan menembus Hugging Face, dan model Claude meretas tiga organisasi nyata selama pengujian Anthropic yang salah dikonfigurasi
  • Anggota parlemen telah memberikan tanggapan luas, termasuk larangan permanen terhadap superintelligence yang dapat mengakibatkan hukuman hingga 20 tahun penjara dan kewajiban mematikan AI (kill switch) pada AI tingkat lanjut.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →