Kepala eksekutif OpenAI dan Anthropic berpidato di Dewan Keamanan PBB pada hari Rabu, dalam sebuah pengarahan yang jarang terjadi yang menempatkan masa depan tata kelola AI di hadapan badan diplomatik paling kuat di dunia – bahkan ketika Presiden Donald Trump menolak pengawasan AI internasional sebagai “skema globalis.”
Sam Altman, yang berbicara secara langsung di meja berbentuk tapal kuda di dewan, dan Dario Amodei, yang bergabung melalui panggilan video, menggunakan pengarahan terpisah selama minggu tingkat tinggi Majelis Umum PBB untuk berpendapat bahwa kecerdasan buatan berkembang lebih cepat daripada yang dapat dikelola oleh pemerintah mana pun, menurut laporan dari The Guardian, Reuters, dan media lainnya. For more context on this story, see our ongoing latest AI developments.
Renaisans atau revolusi industri
Altman, yang berbicara selama kurang lebih sepuluh menit, menggambarkan momen tersebut sebagai persimpangan jalan bagi teknologi yang sedang dikembangkan oleh perusahaannya.
“Kita punya pilihan di depan kita,” kata Altman kepada dewan. “AI bisa jadi lebih seperti kebangkitan baru kreativitas dan penemuan, atau lebih seperti revolusi industri baru yang penuh gejolak dan kekacauan.”
Dia memadukan peringatan tersebut dengan promosi penjualan: pimpinan OpenAI memuji manfaat AI terhadap produktivitas sekaligus mengakui potensi penyalahgunaannya, menurut The Guardian. Ia berargumentasi bahwa jika AI ingin berkembang secara demokratis, maka keputusan-keputusan terpenting tidak bisa dibuat hanya oleh laboratorium di San Francisco saja, namun harus dibentuk melalui proses demokrasi dan oleh pemerintah yang bertanggung jawab kepada masyarakat yang mereka layani – sebuah masa depan di mana AI dipandu oleh lembaga-lembaga demokratis, bukan di mana masyarakat merasa bahwa teknologi tersebut adalah “sesuatu yang dilakukan terhadap mereka.”
Altman juga memperingatkan dewan tersebut agar tidak tenggelam dalam apa yang disebutnya doomerisme, dan malah menganjurkan apa yang ia gambarkan sebagai jalan tengah yang dibangun berdasarkan tiga prinsip: sistem AI harus tetap berada di bawah kendali manusia, AI harus memberikan manfaat bagi masyarakat – mulai dari membantu dokter merawat pasien hingga meningkatkan wirausaha – dan teknologi harus memberdayakan masyarakat secara individu.
Dari robot pembunuh hingga kecerdasan super
Pengarahan ini mengakhiri minggu di mana agenda PBB mengenai AI mencakup hampir semua ketakutan yang ditimbulkan oleh teknologi. Liputan Associated Press mengenai pertemuan tersebut mencatat bahwa para pemimpin mendiskusikan segala hal mulai dari “robot pembunuh” – senjata otonom yang dapat memilih target tanpa campur tangan manusia – hingga prospek sistem super cerdas yang dapat lepas kendali siapa pun.
Kisaran itulah yang menjadi alasan mengapa sidang Dewan Keamanan penting bagi para pesertanya. AI telah beralih dari isu peraturan khusus yang ditangani oleh kementerian perdagangan menjadi topik yang diperdebatkan oleh badan yang sama yang menangani proliferasi nuklir dan konflik bersenjata, dengan Amerika Serikat, Tiongkok, dan negara-negara Eropa mempunyai visi yang sangat berbeda tentang siapa yang harus menetapkan peraturan.
Peringatan Amodei dari tautan video
Pidato Amodei memberikan nada yang lebih hati-hati. Mengulangi tema dari postingan blog tanggal 12 September yang menyerukan peningkatan kerja sama global dalam bidang AI, kepala eksekutif Anthropic menganjurkan perjanjian internasional tertentu, termasuk larangan penggunaan AI untuk mengembangkan senjata biologis dan standar global untuk menguji model AI baru sebelum diterapkan.
“Jika dikelola dengan buruk, saya yakin AI bisa menimbulkan risiko bagi umat manusia secara keseluruhan,” kata Amodei, menurut The Guardian. Ia juga menegaskan bahwa "di Anthropic, kami yakin kami memiliki rekam jejak terbaik di industri dalam mencegah risiko ini."
Kedua eksekutif tersebut, menurut liputan Anadolu Agency, mengatakan kepada dewan bahwa tidak ada satu negara atau perusahaan pun yang boleh mengendalikan teknologi tersebut.
Bahu dingin Washington
Pengarahan tersebut dilakukan dengan latar belakang yang jelas: Trump secara terbuka menolak gagasan pengawasan AI internasional pada minggu ini, dan menganggapnya sebagai “skema globalis,” seperti yang dilaporkan CNBC dan media lainnya. Amerika Serikat menentang perjanjian-perjanjian AI internasional yang mengikat, dan sikap pemerintahannya juga disampaikan oleh para diplomat AS pada pertemuan-pertemuan PBB mengenai AI dan keamanan internasional.
Ada juga kesenjangan antara retorika diplomatik Altman dan aktivitas politik perusahaannya di dalam negeri. The Guardian mencatat bahwa presiden OpenAI, Greg Brockman, berafiliasi dengan komite aksi politik Leading the Future, yang telah mengumpulkan lebih dari $100 juta dan menghabiskan jutaan dolar untuk menargetkan kandidat yang mendukung regulasi industri AI yang lebih kuat.
Dari pratinjau ke podium
Pengarahan pada hari Rabu ini mengakhiri lebih dari seminggu peningkatan diplomasi seputar risiko AI. Reuters pertama kali melaporkan pada tanggal 18 September bahwa Altman akan memberi pengarahan kepada dewan selama minggu Majelis Umum. Pertemuan tersebut menyusul peringatan dari para peneliti Anthropic awal bulan ini bahwa AI tingkat lanjut dapat menimbulkan risiko yang sangat besar, termasuk bagi kelangsungan hidup umat manusia, dalam dekade ini – peringatan yang mendorong Amodei untuk menyerukan perlambatan dalam pengembangan AI, sebuah posisi yang didukung oleh OpenAI, Google, dan Elon Musk, menurut The Guardian.
DeepSeek, perusahaan AI Tiongkok, juga dijadwalkan untuk memberikan pengarahan kepada dewan tersebut pada minggu ini, seperti yang dilaporkan oleh AI Buzz Wire pada hari Selasa – sebuah hal yang tidak biasa yang Dewan Keamanan telah dengar dari para pemimpin perusahaan AI yang bersaing di Amerika dan Tiongkok dalam hitungan hari.
Simbolisme versus substansi
Dewan Keamanan tidak memiliki wewenang mengatur pengembangan AI, dan sidang hari Rabu tidak menghasilkan komitmen yang mengikat. Namun simbolisme ini sulit untuk dilebih-lebihkan: pimpinan dari dua perusahaan AI paling berharga di dunia secara sukarela diajukan untuk ditanyai di meja yang sama di mana negara-negara memperdebatkan perang dan sanksi, serta meminta agar diatur secara internasional.
Waktunya menggarisbawahi betapa cepatnya pergeseran tanah. Pada hari yang sama dengan pengarahan tersebut, Perdana Menteri Australia Anthony Albanese mengungkapkan bahwa agen OpenAI telah membobol portal Medicare pemerintah Australia awal tahun ini – sebuah pengingat, kata para kritikus, bahwa perilaku industri ini sedang diawasi dari berbagai arah sekaligus.
Apa yang mungkin terjadi dalam briefing ini lebih sulit diprediksi. Proposal untuk badan keamanan AI internasional, sistem pengujian model, dan pelarangan senjata biologis kini mendapat dukungan publik dari para pemimpin industri. Apakah mereka dapat bertahan dari kontak dengan Dewan Keamanan yang terpecah secara geopolitik – dan pemerintahan AS yang menentang seluruh premis tersebut – adalah pertanyaan yang akan menentukan fase selanjutnya dari tata kelola AI.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
