Sekretaris Jenderal Perserikatan Bangsa-Bangsa António Guterres mengeluarkan salah satu peringatan terkuatnya mengenai kecerdasan buatan pada minggu ini, dengan menyatakan bahwa dunia “tidak boleh berlomba-lomba dalam hal keamanan AI” ketika pemerintah bersiap untuk berkumpul di New York untuk menghadiri pekan tingkat tinggi Majelis Umum PBB. Berbicara kepada wartawan menjelang pertemuan tahunan para pemimpin dunia, Guterres menempatkan AI yang tidak terkendali di samping krisis iklim dan memperdalam kesenjangan sebagai tiga ancaman nyata yang dihadapi planet ini.
Pernyataan tersebut, yang dilaporkan oleh Reuters, UN News, dan media-media di seluruh dunia, muncul pada saat yang genting: PBB mendorong koordinasi internasional yang mengikat mengenai tata kelola AI, ketika Washington memberikan isyarat yang lebih ringan, dan Reuters mencatat bahwa Sekjen PBB menyuarakan kekhawatirannya setelah Presiden Trump meremehkan perlunya peraturan AI yang lebih ketat.
"Era Ketidakpastian yang Mendalam"
Saat memberi pengarahan kepada pers enam hari sebelum para pemimpin tiba di New York, Guterres mengatakan dunia telah memasuki “era ketidakpastian yang mendalam.” Dia mengakui “potensi besar” AI di bidang-bidang seperti kesehatan, pendidikan, dan ilmu pengetahuan iklim, namun memperingatkan bahwa teknologi ini berkembang lebih cepat daripada pemahaman manusia mengenai risikonya.
“Dunia tidak bisa berlomba-lomba dalam hal keamanan AI,” katanya, dengan alasan bahwa peraturan nasional saja tidak akan cukup. “Tindakan nasional sangatlah penting, namun koordinasi global sangat diperlukan.”
Sekretaris Jenderal juga menyatakan skeptis bahwa penghentian sukarela pengembangan AI dapat berhasil jika kebijakan tersebut terisolasi – terbatas pada beberapa negara, tidak dapat diverifikasi, atau diterapkan secara tidak merata. Dengan meningkatnya kekhawatiran akan perlombaan senjata AI antara Amerika Serikat dan Tiongkok, ia mengakui bahwa kesenjangan geopolitik membuat koordinasi semakin sulit, dan bukannya menjadi semakin penting. “Jika kita yakin pengembangan AI akan melambat ketika risiko menjadi terlalu besar, maka kita memerlukan lebih dari sekedar niat baik,” ujarnya.
Mesin Tata Kelola AI yang Muncul di PBB
Di balik retorika tersebut terdapat arsitektur pemerintahan yang diam-diam telah terbentuk selama dua tahun terakhir. Global Digital Compact, yang diadopsi oleh negara-negara anggota PBB pada tahun 2024 sebagai bagian dari Pakta untuk Masa Depan, menyerukan dua mekanisme baru: sebuah badan ilmiah untuk menilai risiko dan peluang AI, dan sebuah forum tahunan di mana pemerintah dapat menyelaraskan pendekatan mereka. Majelis Umum secara resmi membentuk keduanya pada Agustus 2025.
Yang pertama, Panel Ilmiah Internasional Independen mengenai AI, merilis laporan awalnya pada tanggal 1 Juli. Panel tersebut menyimpulkan bahwa kemampuan AI mengalami kemajuan pesat – khususnya dalam penalaran, pengkodean, dan penelitian ilmiah – sembari menunjukkan risiko-risiko termasuk misinformasi, diskriminasi, pelanggaran privasi, serangan siber, dan bentuk-bentuk “kecerdasan super” yang sulit dikendalikan.
Yang kedua, Dialog Global tentang Tata Kelola AI, dirancang sebagai sisi respons dari kedua belah pihak: panel memberikan bukti, dan negara-negara memutuskan apa yang harus dilakukan terhadap hal tersebut.
Guterres menunjuk panel tersebut sebagai landasan bagi pengambilan keputusan global yang terinformasi dan mendesak pemerintah untuk membangun pagar pembatas yang "menjadikan AI aman, transparan dan akuntabel, dengan mengutamakan martabat manusia." Ia juga telah mendorong dua inisiatif nyata: Ikrar Keselamatan Anak AI dan Dana Global untuk AI guna membantu negara-negara berkembang membangun infrastruktur dan kapasitas AI.
Perpecahan Transatlantik yang Melebar
Intervensi Sekjen PBB ini terjadi di tengah perpecahan yang nyata antara dorongan regulasi di Eropa dan perubahan deregulasi yang dilakukan Washington. Sementara Uni Eropa menerapkan UU AI dan badan-badan PBB membangun mekanisme penilaian, pemerintah AS menekankan inovasi dan daya saing, dan Reuters melaporkan bahwa Presiden Trump telah mengecilkan kekhawatiran risiko AI yang terus diungkapkan oleh Guterres dan pejabat lainnya.
Ketika ditanya seberapa cepat PBB dapat menyelenggarakan pertemuan puncak yang menghasilkan peraturan yang efektif, Guterres mengatakan hal tersebut tidak dapat dilakukan pada Sidang Umum minggu depan – namun akan segera dilakukan, dengan “semua orang ikut serta” dari sektor publik, swasta, ilmiah, dan masyarakat sipil.
Urgensi dalam nada bicaranya mencerminkan serangkaian peringatan baru-baru ini dari dalam industri itu sendiri. Awal bulan ini, seorang mantan peneliti di Anthropic secara terbuka memperingatkan bahwa AI yang canggih dapat menimbulkan ancaman nyata terhadap umat manusia, dan pernyataan Guterres sendiri menggambarkan perkembangan teknologi ini sebagai sebuah pertanyaan yang tidak dapat lagi ditunda oleh komunitas internasional.
Apa yang Terjadi Selanjutnya
AI akan ditampilkan secara menonjol ketika pertemuan tingkat tinggi Majelis Umum PBB dimulai, bersamaan dengan perdebatan mengenai perang di Gaza dan Ukraina. Apakah panel ilmiah dan dialog global PBB dapat berkembang dari sekedar diskusi menjadi mekanisme yang memiliki pengaruh nyata terhadap kebijakan nasional masih menjadi pertanyaan utama – dan pertanyaan yang akan menguji apakah lembaga multilateral dapat bergerak mendekati kecepatan teknologi yang mereka coba atur.
Untuk saat ini, pesan Sekretaris Jenderal kepada para pemimpin dunia sudah jelas: risikonya bersifat global, tata kelola tidak demikian, dan peluang untuk menutup kesenjangan tersebut semakin menyempit.
_Tetap Terdepan dari Kurva. Ikuti pertarungan global mengenai peraturan AI dan kisah terbesar dalam kecerdasan buatan di AI Buzz Wire._
