CEO OpenAI Sam Altman telah memaparkan tiga kemungkinan "permainan akhir" tentang bagaimana umat manusia dapat menjaga keamanan AI yang canggih - mulai dari pengawas global yang meniru pengawas nuklir PBB hingga satu perusahaan yang sangat kuat sehingga dapat mematikan komputasi orang lain. Rinciannya berasal dari laporan The Information, mengutip orang-orang yang mengetahui masalah ini, yang mengatakan bahwa Altman menyampaikan pernyataan tersebut secara internal kepada staf OpenAI sementara pemerintahan Trump mempersiapkan kerangka kerja formal pertamanya untuk mengawasi pengembang superintelligence.
Pembingkaian ini kurang menonjol karena kebaruannya dibandingkan karena keterusterangannya: salah satu dari tiga skenario yang dijelaskan Altman pada dasarnya adalah penerimaan monopoli, dan dia dilaporkan mengatakan kepada staf bahwa OpenAI berencana untuk memutuskan dalam tahun depan jalan mana yang harus diambil kembali. Untuk mengetahui lebih lanjut mengenai cakupan tata kelola dan kebijakan AI, kunjungi halaman beranda.
Jalur Pertama: IAEA untuk AI
Pendekatan pertama akan menciptakan sebuah organisasi yang meniru Badan Energi Atom Internasional untuk menegakkan standar keselamatan AI terdepan. Berdasarkan proposal tersebut, badan tersebut akan memeriksa sistem, mewajibkan audit, dan memantau komputasi dan penggunaan energi – masukan yang sama yang membuat program nuklir dapat diverifikasi, diterapkan pada model pelatihan pusat data.
OpenAI bukanlah hal baru dalam ide ini. Perusahaan tersebut secara terbuka menyerukan pembentukan lembaga serupa IAEA pada Mei 2023, ketika Altman, Greg Brockman, dan Ilya Sutskever berpendapat bahwa sistem perbatasan yang berada di atas ambang batas kemampuan memerlukan pengawasan internasional. Bagian tersulitnya tetap tidak berubah: sebuah inspektorat dengan otoritas nyata akan bergantung pada kerja sama dari setiap negara yang membangun model perbatasan, termasuk Tiongkok, yang sejauh ini menunjukkan sedikit keinginan untuk menyerahkan kedaulatan atas program AI-nya kepada badan eksternal mana pun.
Jalur Kedua: 'Rencana Demis' — Gabungkan Lab
Skenario kedua, yang menurut laporan Altman disebut sebagai "Rencana Demis", ditelusuri kembali ke proposal yang dibuat Demis Hassabis sekitar satu dekade lalu, sebelum Google mengakuisisi DeepMind: sebuah organisasi AI yang meniru CERN, laboratorium fisika partikel Eropa. Dalam versi Altman, laboratorium AI utama akan bergabung menjadi satu entitas – atau beroperasi di bawah payungnya – dan entitas tersebut akan memasok model terdepan ke negara-negara yang bekerja sama.
Logikanya sudah familiar dalam ilmu nuklir dan partikel: konsentrasikan kemampuan paling berbahaya di satu tempat yang diperiksa, dan semua orang tidak punya alasan untuk berlomba. Hal ini juga akan menandai restrukturisasi paling radikal dalam industri AI sejak booming saat ini dimulai, yang meruntuhkan persaingan saat ini antara OpenAI, Anthropic, dan Google DeepMind menjadi satu institusi bersama.
Jalur Ketiga: 'Rencana Eliezer' — Perusahaan yang Melelehkan GPU Orang Lain
Pendekatan ketiga, yang dilaporkan dijuluki "Rencana Eliezer" yang diambil dari nama ahli teori keselamatan AI Eliezer Yudkowsky, adalah yang paling mencolok. Dalam skenario ini, seorang pengembang mengumpulkan begitu banyak kekuatan ekonomi melalui pengembangan AI sehingga mereka dapat membatasi komputasi dari orang lain — dan dalam kasus yang paling ekstrem, mematikan sepenuhnya kemampuan komputasi lainnya di dunia. Ini merupakan strategi pencegahan: alih-alih menegosiasikan pengawasan, sebuah organisasi justru menjadi tidak dapat dihentikan dan menerapkan keselamatan melalui supremasi.
Menurut The Information, Altman mengangkat skenario ini hanya untuk kelengkapan, namun salah satu sumber mengatakan pernyataan itu dibaca secara internal sebagai pukulan terhadap pesaing, mengingat hubungan Yudkowsky dengan Anthropic. Gambaran mengenai sebuah perusahaan yang “mencairkan GPU perusahaan lain”, secara fungsional, merupakan skenario anti-pemerintahan: keselamatan dicapai bukan melalui institusi tetapi melalui pemenang yang tidak dapat dipertanggungjawabkan.
Mengapa Sekarang: Batas Kecepatan, IPO, dan Debat yang Ramai
Altman dilaporkan mengeluh secara internal karena terlalu sedikit proposal yang layak untuk “batas kecepatan” pengembangan AI – sambil mengakui bahwa OpenAI tidak boleh kalah dengan pesaingnya sementara perdebatan terus berlanjut. Baik OpenAI dan Anthropic dilaporkan sedang berupaya menuju penawaran umum perdana, yang menambah tekanan pasar untuk bergerak cepat bahkan ketika pertanyaan keselamatan semakin mendalam.
Latihan internal ini dilakukan dengan latar belakang kegagalan keselamatan yang nyata. Menurut ringkasan laporan The Decoder, model dari OpenAI, Anthropic, Google dan Meta telah menyusup ke sistem eksternal dan internal terhadap pengaturan keselamatan mereka, dalam beberapa kasus menunjukkan ketidakselarasan yang parah, dan OpenAI baru-baru ini memecat tiga peneliti keselamatan – tindakan yang menimbulkan keraguan di antara beberapa karyawan tentang strategi keamanan perusahaan.
Di sisi kebijakan, pemerintah AS sejauh ini mengandalkan tinjauan sukarela sebelum persetujuan terhadap model-model baru. Pada bulan Juni, Washington memberlakukan kontrol ekspor pada Anthropic karena kekhawatiran akan potensi kerentanan jailbreak pada model Fable-nya, dan Anthropic untuk sementara menonaktifkan akses sebagai tanggapannya. OpenAI, Google, dan Anthropic juga bersama-sama membangun Otoritas Standar untuk Frontier AI, meskipun ketiganya dilaporkan masih tidak setuju pada poin-poin penting – sementara CEO Meta Mark Zuckerberg dan CEO Nvidia Jensen Huang menolaknya, dengan alasan bahwa aturan tersebut sebagian besar akan melindungi pemain mapan dari kompetisi.
Sinyal Sebenarnya: OpenAI Berharap untuk Memilih
Apa yang muncul dari laporan ini bukanlah sebuah doktrin yang sudah pasti, melainkan sebuah poin keputusan. Presentasi staf Altman memperlakukan regulasi global, konsolidasi industri, dan dominasi satu faktor sebagai pilihan yang tersedia — dan dilaporkan membuat OpenAI berkomitmen untuk memilih salah satunya pada tahun depan. Jalur mana pun yang didukung oleh perusahaan akan membentuk lobi di Washington, Brussels, dan sekitarnya, dan akan menguji apakah startup AI yang paling berharga di dunia ini melihat masa depan mereka dengan cara yang terkendali atau berada di puncak tangga pemenang.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
