Negosiasi mengenai kemungkinan aturan senjata otonom yang mematikan – yang disebut “robot pembunuh” – sedang berlangsung di PBB di Jenewa, pada sebuah konferensi yang digambarkan oleh para pendukung pengendalian senjata sebagai kesempatan realistis terakhir untuk menetapkan batasan sebelum teknologi tersebut melampaui diplomasi sepenuhnya. Pembicaraan tersebut berlangsung pada konferensi PBB tentang Senjata Konvensional Tertentu (CCW) minggu ini, sebuah forum yang hanya diadakan pada tingkat ini setiap lima tahun sekali.

Urgensinya tidak bersifat hipotetis. Teknologi peperangan telah berkembang pesat dalam beberapa tahun terakhir, dan beberapa ahli kini memperingatkan bahwa dunia hanya berjarak beberapa bulan lagi dari senjata yang dapat memilih sasaran dan membuat keputusan untuk membunuh tanpa ada manusia yang terlibat di dalamnya. Di Ukraina dan Gaza, senjata yang dibantu AI telah digunakan untuk menyerang sasaran, dan warga sipil Ukraina melaporkan bahwa mereka telah “diburu” oleh drone saat berbelanja atau berjalan kaki ke sekolah. Sistem tersebut masih dikendalikan dari jarak jauh oleh operator manusia – namun jarak antara kendali jarak jauh dan otonomi penuh semakin mengecil. Bagi pembaca yang mengetahui seberapa cepat perkembangan bidang ini, liputan senjata AI dan etika kami mengikuti setiap perkembangan.

Mengapa Para Penggiat Menyebut Ini sebagai 'Kesempatan Terbaik Terakhir'

Para pendukung pengendalian senjata otonom berpendapat bahwa pertemuan CCW minggu ini adalah waktu terakhir untuk menyetujui peraturan sementara teknologi tersebut masih berada pada tahap semi-otonom. Ketika senjata yang secara independen memilih dan menyerang sasaran dapat digunakan dalam skala besar, mereka berpendapat bahwa negosiasi pengendalian akan menjadi jauh lebih sulit – negara-negara sudah mengintegrasikan sistem tersebut ke dalam persenjataan dan doktrin mereka.

Bobot moral di balik perundingan ini luar biasa luasnya. Menjelang pertemuan tersebut, Perserikatan Bangsa-Bangsa, Komite Palang Merah Internasional, dan Paus menyerukan peraturan yang mengikat secara hukum. Sekretaris Jenderal PBB Antonio Guterres memperingatkan bahwa membiarkan senjata otonom untuk membunuh akan “melanggar garis merah moral.”

Kasus Kemanusiaan: Tanggung Jawab Harus Tetap Manusiawi

Organisasi kemanusiaan berpendapat bahwa keputusan untuk membunuh – dan tanggung jawab atas pilihan tersebut – harus tetap berada di tangan manusia. Palang Merah khususnya prihatin bahwa aturan perang yang ada, yang dikodifikasikan dalam Konvensi Jenewa, tidak dapat dipatuhi oleh sistem otonom. Perang berlangsung kacau dan berlangsung cepat, dan Konvensi melindungi tentara yang terluka atau secara aktif menyerah agar tidak menjadi sasaran.

“Risikonya adalah, berdasarkan teknologi yang kita lihat, mereka tidak dapat memahami dengan cara yang sama bahwa manusia adalah sinyal kontekstual,” kata Georgia Haines, penasihat hukum Palang Merah. "Jadi risikonya sangat tinggi sehingga akan terjadi kesalahan identifikasi sasaran."

Kelompok hak asasi manusia menambahkan dimensi ekonomi pada bahaya ini: teknologi di balik senjata yang dibantu AI kini semakin murah dan mudah digunakan. Semakin luas penerapannya oleh militer nasional, semakin besar risiko penyebarannya ke kelompok teroris atau lembaga penegak hukum di rezim yang represif. Secara teori, segerombolan drone otonom dapat diprogram untuk menyerang setiap orang yang mengenakan warna pakaian tertentu atau membawa poster tertentu – diskriminasi dalam skala yang tidak pernah dirancang untuk ditangani oleh hukum perang.

Ruang Terpisah: 50-Plus Negara Bagian Versus Tiga Besar

Setidaknya 50 negara – termasuk Irlandia, Italia, Brasil, Meksiko, Prancis, dan Jerman – menyerukan jadwal yang ketat untuk menyetujui aturan mengikat yang mengatur senjata otonom. Banyak negara yang saat ini bertemu di Jenewa menanggapi masalah kemanusiaan dengan serius dan menginginkan proses tersebut sejalan dengan hukum internasional.

Namun di antara negara-negara yang sudah mengembangkan dan mengerahkan senjata semi-otonom, terdapat penolakan keras. Amerika Serikat, Rusia, dan Israel telah mengindikasikan bahwa mereka akan menentang peraturan yang mengikat secara hukum. Proposal balasan Washington: jadwal lima tahun untuk merancang pedoman yang tidak mengikat.

Posisi AS Mencerminkan Skeptisisme yang Lebih Luas terhadap Perjanjian

Sikap Amerika konsisten dengan pola yang panjang: Amerika biasanya terlambat mengadopsi perjanjian internasional. Negara ini tidak pernah meratifikasi Konvensi Ottawa mengenai ranjau darat, meskipun seiring berjalannya waktu negara ini berhenti mengerahkan ranjau darat dan mengurangi persediaannya. Di bawah pemerintahan Presiden Trump, keraguan terhadap hukum internasional menjadi semakin jelas – Washington telah menjatuhkan sanksi besar-besaran terhadap Pengadilan Kriminal Internasional, dan akhir pekan ini Menteri Luar Negeri Marco Rubio, dalam pidatonya di hadapan Masyarakat Federalis, memperingatkan agar tidak “mengutip undang-undang kepada orang yang membawa pedang.”

Aturan Konsensus dan Sejarah Solusi

Permasalahan struktural masih menghantui perundingan Jenewa: Perundingan PBB mengenai pembatasan senjata tertentu seharusnya dilakukan berdasarkan konsensus. Mekanisme tersebut menghasilkan satu perjanjian penting – larangan laser yang membutakan pada tahun 1995 – namun sebagian besar upaya lainnya gagal. Dengan adanya ranjau darat, negara-negara yang frustrasi dengan lambatnya proses PBB akhirnya melakukan perundingan di luar proses PBB, sehingga menghasilkan Konvensi Ottawa.

Para diplomat mengemukakan kemungkinan kompromi untuk minggu ini: periode negosiasi yang lebih panjang, atau bahkan terbuka, untuk mengembangkan peraturan yang kemudian dapat diadopsi oleh masing-masing negara sebagai peraturan yang mengikat atau tidak mengikat. Bagi para pendukung, ini adalah cara untuk menjamin setidaknya beberapa kemajuan. Bagi para pegiat, pendekatan ini tidaklah tepat – ada yang menyamakan pendekatan ini dengan membuang kaleng yang sangat berbahaya.

Apa yang Terjadi Selanjutnya

Jika konferensi berakhir dengan mandat terbuka, dampak praktisnya adalah batasan yang mengikat pada senjata otonom semakin berkurang di masa depan, sementara jadwal penyebarannya semakin padat. Pemerintah, militer, dan perusahaan rintisan di bidang pertahanan akan mengawasi Jenewa dengan cermat pada minggu ini – karena apa pun konsensus yang dicapai, hal tersebut akan menentukan lanskap hukum senjata otonom di tahun-tahun mendatang.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →