Kekuatan militer besar Amerika Serikat dan Rusia tampaknya akan menentang desakan pada pertemuan global di Jenewa minggu ini untuk meluncurkan perundingan mengenai aturan yang mengikat secara hukum untuk senjata otonom, yang menurut para diplomat dan kelompok hak asasi manusia akan menjadi perundingan yang sulit, menurut laporan Reuters pada hari Senin.
Pertemuan yang diselenggarakan PBB, yang dimulai Senin di Jenewa, harus memutuskan apakah akan membuka negosiasi untuk perjanjian yang mengikat secara hukum mengenai larangan dan peraturan untuk Sistem Senjata Otonom Mematikan (LAWS) – yang disebut “robot pembunuh” yang diperingatkan oleh para kritikus dapat memilih dan menyerang sasaran tanpa keterlibatan manusia. Munculnya kecerdasan buatan telah mempercepat pengembangan drone, robot, tank, dan kapal selam yang mampu membunuh tanpa perintah langsung dari manusia, dan senjata semi-otonom yang dibantu AI telah digunakan dalam pertempuran di Ukraina, Sudan, dan Timur Tengah — sebuah evolusi dunia nyata yang terlacak dalam cakupan industri AI di sektor teknologi pertahanan.
Apa yang Ada di Tabel di Jenewa
Pertemuan tersebut merupakan Konferensi Tinjauan Konvensi Senjata Konvensional Tertentu (CCW), yang melibatkan 128 negara sebagai pihak. Meskipun sebagian besar negara-negara tersebut mendukung peluncuran perundingan menuju instrumen yang mengikat mengenai HUKUM, negara-negara militer besar termasuk AS, Rusia dan Israel menentang langkah tersebut, dengan alasan bahwa hukum kemanusiaan internasional yang ada sudah cukup untuk mengatur senjata-senjata ini.
Beberapa proposal bersaing sedang dijalankan. Ketua perundingan minggu ini telah mengusulkan mandat dua tahun untuk merundingkan protokol yang mengikat secara hukum. Sebaliknya, Washington lebih menyukai pedoman dibandingkan peraturan yang mengikat dan telah mengusulkan mandat lima tahun untuk melakukan pembicaraan menuju perjanjian yang tidak mengikat. Inggris, Jerman dan Perancis telah mengusulkan negosiasi mengenai sebuah instrumen yang masih terbuka apakah instrumen tersebut pada akhirnya akan mengikat secara hukum, menurut Verity Coyle dari Human Rights Watch, ketika berbicara kepada Reuters.
Para diplomat mengatakan kepada Reuters bahwa diskusi tersebut tampaknya akan penuh tantangan, namun mereka mengatakan negara-negara dapat membangun jembatan menuju perjanjian kompromi pada akhir minggu ini. Semua opsi tetap ada, mulai dari teks yang mengikat secara hukum hingga teks yang tidak mengikat secara hukum, serta perjanjian hibrida yang menggabungkan kedua elemen tersebut.
Mengapa AS dan Rusia Menolak
Posisi Washington bertumpu pada argumen bahwa hukum internasional telah menyediakan kerangka kerja untuk mengatur peperangan, sehingga perjanjian baru tidak diperlukan lagi. Rusia belum secara terbuka menyatakan posisinya menjelang perundingan tersebut, namun sebelumnya telah menolak usulan perjanjian yang mengikat secara hukum – dan berencana untuk menghalangi Uni Eropa, salah satu pengamat perundingan tersebut, untuk ikut serta dalam perundingan tersebut, kata seorang diplomat senior Barat kepada Reuters.
Anna Hehir, kepala tata kelola AI militer di Future of Life Institute, mengatakan kepada Reuters bahwa AS dan Rusia mungkin akan berupaya untuk mempermudah hasil apa pun, seperti yang mereka lakukan pada bulan September dengan naskah PBB tentang senjata otonom dan potensi bahayanya. Pada Majelis Umum PBB bulan lalu, 163 negara mengadopsi resolusi yang menyerukan negosiasi mengenai peraturan yang mengatur senjata otonom, dengan lima negara memberikan suara menentang – Amerika Serikat, Rusia, Belarus, Israel dan Korea Utara – dan sembilan negara abstain, termasuk Iran, Arab Saudi dan Tiongkok.
Peringatan Dari PBB, Palang Merah dan Paus
Dorongan terhadap regulasi didukung oleh koalisi yang tidak biasa. Sekretaris Jenderal PBB Antonio Guterres, pimpinan Komite Palang Merah Internasional, dan Paus Leo XIV semuanya telah memperingatkan agar tidak menyerahkan kekuasaan hidup dan mati kepada mesin yang sepenuhnya otonom. Pada tahun 2023, Guterres dan Presiden ICRC Mirjana Spoljaric Egger bersama-sama meminta negara-negara untuk mengakhiri larangan senjata otonom sebelum tahun 2026.
“Kebutuhan untuk mengatur senjata otonom kini menjadi semakin mendesak” seiring dengan perkembangan kecerdasan buatan, kata Laurent Gisel, kepala Unit Senjata dan Perilaku Permusuhan di ICRC. Palang Merah berpendapat bahwa hukum humaniter tidak cukup mengatasi risiko spesifik yang ditimbulkan oleh senjata otonom, dan menyerukan pelarangan terhadap dua kategori: senjata otonom yang tidak dapat diprediksi dan senjata yang dirancang atau digunakan untuk menargetkan manusia secara langsung.
“Mesin tidak boleh diizinkan untuk memutuskan siapa yang hidup dan mati di medan perang, tapi itulah kenyataan distopia yang akan segera terjadi,” kata Verity Coyle dari Human Rights Watch, yang mendesak Review Conference untuk bertindak tegas dan memperingatkan bahwa warga sipil akan “terekspos secara berbahaya” jika pertemuan tersebut gagal.
Senjata Otonom Sudah Ada di Medan Perang
Para pendukung peraturan yang mengikat berpendapat bahwa perdebatan tersebut telah melampaui hipotesis. Rusia dilaporkan telah menggunakan drone yang sepenuhnya otonom untuk menimbulkan dampak mematikan dalam perangnya melawan Ukraina, sementara industri pertahanan Ukraina sendiri mendorong untuk mengembangkan drone yang otonom. Korea Utara pekan lalu membanggakan sistem torpedo baru yang dilengkapi AI.
Hehir mengatakan kepada Reuters bahwa LAWS bukan lagi fiksi ilmiah, merujuk pada pemberitaan media tentang penggunaan awal sistem otonom sepenuhnya di Ukraina. Para pegiat memperingatkan bahwa sistem dapat berperilaku tidak terduga, sehingga meningkatkan risiko kesalahan fatal bahkan ketika pihak militer bermaksud untuk terus memantau manusia.
Apa yang Terjadi Selanjutnya
Mengingat adanya penolakan dari kekuatan militer terkemuka, para pengamat mengatakan kecil kemungkinannya bahwa kesepakatan akan tercapai minggu ini untuk memulai negosiasi formal mengenai peraturan yang mengikat. Hasil yang paling mungkin dicapai, menurut para diplomat, adalah mandat kompromi – mungkin merupakan instrumen campuran yang mengabaikan pertanyaan tentang ikatan hukum – atau kebuntuan selama satu tahun lagi.
Apa pun yang terjadi, sesi Jenewa akan menguji apakah pengendalian senjata internasional dapat mengimbangi pengembangan senjata yang digerakkan oleh AI, atau apakah, seperti transformasi sebelumnya dalam teknologi militer, kendala yang mengikat hanya akan terjadi setelah senjata tersebut digunakan secara luas.
Tetap Terdepan dalam AI
Lacak keputusan kebijakan yang menentukan cara penggunaan AI di seluruh dunia. Baca berita AI selengkapnya →
