PBB Meluncurkan Forum Internasional Pertama tentang AI Militer di Tengah Kekhawatiran Kehilangan Kendali Manusia

Perserikatan Bangsa-Bangsa meluncurkan inisiatif baru mengenai penggunaan kecerdasan buatan oleh militer, dan membentuk forum internasional pertama di mana pemerintah, industri, dan peneliti akan mencoba mengatasi meningkatnya peran teknologi dalam peperangan. Associated Press melaporkan peluncuran tersebut pada 20 Oktober 2026, menjelang debut resmi forum yang dijadwalkan pada hari Kamis. Bagi siapa pun yang memantau berita terkini tentang kebijakan AI, ini adalah upaya paling terstruktur yang pernah dilakukan oleh badan global tersebut untuk memperlakukan AI militer sebagai tantangan tersendiri dalam tata kelola.

Inisiatif ini dijalankan oleh Institut Penelitian Perlucutan Senjata PBB (UNIDIR), sebuah badan yang berbasis di Jenewa, dan akan beroperasi di bawah Pusat Keunggulan AI, Perdamaian dan Keamanan yang didirikan UNIDIR pada musim panas ini – platform permanen pertama dalam sistem PBB yang berfokus pada isu-isu tersebut.

'Margin Penilaian Manusia Semakin Sempit'

Robin Geiss, kepala UNIDIR, memperingatkan pada konferensi pers PBB pada hari Selasa bahwa “batas penilaian manusia semakin sempit, termasuk dalam bidang nuklir.” Dia mengatakan sulit untuk menilai seberapa dekat dunia ini dengan mesin yang mungkin bertindak di luar kendali manusia, dan ketidakpastian ini “adalah masalah yang kami coba selesaikan di sini.”

Salah satu masalahnya, menurut Geiss, adalah bahwa AI telah menyebar ke banyak fungsi militer – sistem peringatan dini, pengumpulan informasi, dan pengintaian, dan masih banyak lagi – sehingga “sangat sulit untuk mengatakan pada titik mana kita benar-benar kehilangan kendali.” Ia mencatat bahwa sudah lama ada keengganan untuk membahas batasan AI, namun perkembangan kemampuan tersebut telah menghasilkan “semakin besar kesadaran bahwa kita berada di persimpangan jalan – bahwa sekarang adalah waktu untuk bertindak, termasuk terhadap AI militer.”

Sebuah Pusat yang Didanai oleh Kelima Kekuatan Nuklir

Satu detail yang mencolok dari laporan AP: Pusat Keunggulan AI, Perdamaian dan Keamanan telah menerima dana dari kelima anggota tetap Dewan Keamanan PBB – Amerika Serikat, Rusia, Tiongkok, Inggris, dan Perancis. Tingkat dukungan sebesar itu tidak biasa bagi upaya perlucutan senjata PBB, di mana negara-negara besar sering menghalangi inisiatif satu sama lain.

Geiss mengakui bahwa persaingan global untuk memimpin dalam AI menimbulkan hambatan serius terhadap kerja sama, namun berpendapat bahwa “kekhawatiran terhadap dampak AI sudah melampaui blok geopolitik.” Sebagai buktinya, ia merujuk pada proposal yang diajukan bulan lalu kepada Amerika Serikat dan Tiongkok untuk membentuk sistem peringatan keselamatan AI untuk masalah-masalah yang dapat mengancam keamanan nasional — sebuah hal yang jarang terjadi dalam perjanjian AI AS-Tiongkok dalam persaingan teknologi yang tegang.

Tiga Alur Kerja: Forum, Peraturan Industri, Kelompok Bersenjata

Forum AI militer yang baru, yang diluncurkan pada hari Kamis, akan mempertemukan “aktor-aktor dari setiap sektor terkait dan di seluruh dunia,” menurut Geiss, meskipun ia tidak menjelaskan secara pasti apa yang akan dilakukan forum tersebut selain berfungsi sebagai wadah khusus untuk masalah ini.

Dua upaya pendamping diluncurkan bersamaan. Yang pertama adalah kerangka kerja untuk perilaku industri yang bertanggung jawab – pedoman praktis dan sukarela yang dimaksudkan untuk memastikan kemampuan militer yang didukung AI tetap “dapat diandalkan, dapat diprediksi” dan dapat dioperasikan “sejalan dengan hukum internasional.” UNIDIR akan mengadakan konsultasi minggu ini dengan perusahaan teknologi pertahanan, pengembang perangkat lunak, subkontraktor, dan investor, bekerja sama dengan pemerintah, masyarakat sipil, akademisi, dan para ahli. Geiss berpendapat bahwa keputusan desain dan pengembangan perusahaan pada akhirnya menentukan apakah AI militer mematuhi hukum internasional dan hak asasi manusia.

Fokus kedua adalah risiko penyalahgunaan AI oleh kelompok bersenjata. Geiss memperingatkan bahwa aktor non-negara sudah menggunakan AI untuk mendukung perencanaan operasional, pelaksanaan, dan logistik – sebuah dimensi yang sebagian besar tidak ada dalam perdebatan sebelumnya yang berpusat pada militer negara.

Mengapa Itu Penting

Peluncuran ini menyusul peringatan bertahun-tahun tentang sistem senjata otonom yang mematikan – yang disebut “robot pembunuh” yang dapat memilih dan menyerang target tanpa kendali manusia yang berarti. Sekretaris Jenderal PBB António Guterres dan Palang Merah telah berulang kali menyerukan peraturan yang mengikat secara hukum, dan risiko AI ditampilkan secara jelas dalam pidato para pemimpin dari 193 negara anggota PBB pada pertemuan tingkat tinggi bulan lalu.

Tidak ada perjanjian mengikat mengenai senjata otonom yang telah dinegosiasikan, dan para diplomat memperingatkan bahwa proses apa pun akan dilakukan secara bertahap mengingat perbedaan doktrin keamanan di antara negara-negara besar. Inisiatif ini diharapkan dimulai dengan konsultasi informal di antara negara-negara anggota, yang mungkin diikuti oleh kelompok kerja formal atau panel tingkat tinggi, dan Kantor Urusan Perlucutan Senjata PBB diharapkan memainkan peran koordinasi sentral – sebuah struktur yang mirip dengan pendekatan PBB terhadap norma-norma dunia maya dan senjata konvensional di masa lalu.

Apakah kebijakan ini menghasilkan peraturan yang dapat ditegakkan tergantung pada negara-negara besar itu sendiri. Kementerian Pertahanan berpendapat bahwa AI dapat meningkatkan presisi dan mengurangi kerusakan tambahan; Para ahli pengendalian senjata berpendapat bahwa persaingan AI militer yang tidak diatur dapat mengganggu stabilitas keseimbangan strategis dan menurunkan ambang konflik. Yang diubah oleh forum baru ini adalah tempatnya: AI militer kini memiliki meja permanen dan khusus di dalam sistem PBB, bukan agenda yang berulang.

Geiss menggambarkan inisiatif ini sebagai sebuah momen ambang batas: “Masalah mendesak mengenai AI di bidang militer tentunya tidak akan lagi dibiarkan berlarut-larut,” katanya. “Waktunya telah tiba untuk mengerahkan kekuatan kita dan menghadapi AI di militer secara langsung.”

Tetap Terdepan dalam AI

Batasan antara penelitian AI dan konsekuensi di dunia nyata terus berubah. Baik terobosan berikutnya dilakukan di laboratorium, ruang rapat perusahaan, atau sidang peraturan, AI Buzz Wire memiliki konteks yang Anda perlukan.

Baca berita AI selengkapnya →