Rundingan mengenai peraturan yang mungkin untuk senjata autonomi maut — yang dipanggil "robot pembunuh" - sedang dijalankan di Pertubuhan Bangsa-Bangsa Bersatu di Geneva, pada persidangan yang disifatkan oleh penyokong kawalan senjata sebagai peluang realistik terakhir untuk menetapkan sempadan sebelum teknologi mengatasi diplomasi sepenuhnya. Rundingan itu sedang berlangsung pada persidangan PBB mengenai Senjata Konvensional Tertentu (CCW) minggu ini, sebuah forum yang hanya bersidang di peringkat ini sekali setiap lima tahun.
Keadaan mendesak itu bukan hipotesis. Teknologi peperangan telah berkembang pesat dalam beberapa tahun kebelakangan ini, dan beberapa pakar kini memberi amaran kepada dunia hanya beberapa bulan lagi daripada senjata yang boleh memilih sasaran dan membuat keputusan untuk membunuh tanpa manusia dalam gelung. Di Ukraine dan Gaza, senjata bantuan AI telah pun digunakan untuk menyerang sasaran, dengan orang awam Ukraine melaporkan mereka telah "diburu" oleh dron semasa membeli-belah atau berjalan ke sekolah. Sistem tersebut masih dikawal dari jauh oleh pengendali manusia — tetapi jarak antara alat kawalan jauh dan autonomi penuh semakin mengecil. Bagi pembaca yang menjejaki kepantasan medan ini bergerak, liputan senjata dan etika AI kami mengikuti setiap perkembangan.
Mengapa Kempen Memanggil Ini 'Peluang Terbaik Terakhir'
Penyokong kawalan ke atas senjata autonomi berpendapat bahawa mesyuarat CCW minggu ini adalah tetingkap terakhir untuk bersetuju dengan peraturan sementara teknologi itu kekal dalam peringkat separa autonominya. Sebaik sahaja senjata yang secara bebas memilih dan melibatkan sasaran diletakkan pada skala, mereka berpendapat, rundingan kekangan menjadi lebih sukar secara mendadak — negeri sudah pun menyepadukan sistem ke dalam senjata dan doktrin mereka.
Wajaran moral di sebalik ceramah adalah luar biasa luas. Menjelang pertemuan itu, Pertubuhan Bangsa-Bangsa Bersatu, Jawatankuasa Palang Merah Antarabangsa, dan Paus semuanya menyeru peraturan yang mengikat secara sah. Setiausaha Agung PBB Antonio Guterres memberi amaran bahawa membenarkan senjata autonomi sepenuhnya untuk membunuh akan "melintasi garis merah moral."
Kes Kemanusiaan: Tanggungjawab Mesti Kekal Manusia
Organisasi kemanusiaan berpendapat bahawa keputusan untuk membunuh - dan tanggungjawab untuk pilihan itu - mesti kekal di tangan manusia. Palang Merah amat prihatin bahawa peraturan perang sedia ada, yang dikodkan dalam Konvensyen Geneva, tidak boleh dihormati dengan pasti oleh sistem autonomi. Perang adalah huru-hara dan bergerak pantas, dan Konvensyen melindungi askar yang cedera atau menyerah diri secara aktif daripada menjadi sasaran.
"Risikonya ialah, berdasarkan teknologi yang kita lihat, mereka tidak dapat memahami dengan cara yang sama seperti manusia adalah isyarat kontekstual," kata Georgia Haines, penasihat undang-undang dengan Palang Merah. "Jadi risikonya adalah sangat tinggi sehinggakan terdapat kesilapan mengenal pasti sasaran."
Kumpulan hak asasi manusia menambah dimensi ekonomi kepada bahaya: teknologi di sebalik senjata bantuan AI menjadi murah dan mudah digunakan. Lebih luas penggunaannya oleh tentera negara, lebih besar risiko percambahan kepada kumpulan pengganas atau kepada agensi penguatkuasaan undang-undang dalam rejim yang menindas. Secara teori, sekumpulan dron autonomi boleh diprogramkan untuk menyerang semua orang yang memakai warna pakaian tertentu atau membawa poster tertentu - diskriminasi pada skala undang-undang perang tidak pernah direka untuk dikendalikan.
Bilik Berpecah: 50-Negeri Plus Berbanding Tiga Besar
Sekurang-kurangnya 50 negara - termasuk Ireland, Itali, Brazil, Mexico, Perancis, dan Jerman - menyeru jadual yang ketat untuk bersetuju dengan peraturan mengikat yang mengawal senjata autonomi. Banyak negeri yang kini bermesyuarat di Geneva memandang serius kebimbangan kemanusiaan dan mahu proses itu berlabuh dalam undang-undang antarabangsa.
Tetapi di antara negeri-negeri yang sudah membangun dan menggunakan senjata separa autonomi, terdapat tolak-balik yang tegas. Amerika Syarikat, Rusia dan Israel telah menyatakan mereka akan menentang peraturan yang mengikat secara sah. Cadangan balas Washington: jadual lima tahun untuk merangka garis panduan yang tidak mengikat sebaliknya.
Kedudukan AS Mencerminkan Skeptisisme yang Lebih Luas Terhadap Perjanjian
Pendirian Amerika konsisten dengan corak yang panjang: AS secara tradisinya adalah pengguna lewat perjanjian antarabangsa. Ia tidak pernah meratifikasi Konvensyen Ottawa mengenai periuk api, walaupun lama kelamaan ia berhenti mengerahkannya dan mengurangkan simpanannya. Di bawah Presiden Trump, keraguan tentang undang-undang antarabangsa telah menjadi lebih jelas — Washington telah mengenakan sekatan menyeluruh ke atas Mahkamah Jenayah Antarabangsa, dan hujung minggu ini Setiausaha Negara Marco Rubio, dalam ucaptama kepada Persatuan Federalis, memberi amaran terhadap "memetik undang-undang kepada lelaki dengan pedang."
Peraturan Konsensus dan Sejarah Penyelesaian
Masalah struktur tergantung pada perbincangan Geneva: Rundingan PBB mengenai mengehadkan senjata tertentu sepatutnya diteruskan dengan konsensus. Mekanisme itu menghasilkan satu perjanjian penting - larangan 1995 terhadap laser yang membutakan - tetapi kebanyakan percubaan lain telah diasaskan. Dengan periuk api, negara-negara yang kecewa dengan proses PBB yang perlahan akhirnya mengambil rundingan di luarnya sepenuhnya, menghasilkan Konvensyen Ottawa.
Diplomat mengapungkan kemungkinan kompromi untuk minggu ini: tempoh perundingan yang lebih panjang, malah terbuka, untuk membangunkan peraturan yang kemudiannya boleh diterima pakai oleh setiap negara sebagai mengikat atau tidak mengikat. Bagi penyokong, itu adalah cara untuk menjamin sekurang-kurangnya sedikit kemajuan. Bagi pihak yang berkempen, ia adalah sangat singkat — seseorang menyamakan pendekatan itu dengan menendang tin yang sangat berbahaya di jalan raya.
Apa Yang Berlaku Seterusnya
Jika persidangan itu berakhir dengan mandat terbuka, kesan praktikalnya ialah had mengikat pada senjata autonomi semakin berkurangan ke masa hadapan, manakala garis masa penggunaan terus memampatkan. Kerajaan, tentera dan pemula pertahanan akan memerhatikan Geneva dengan teliti minggu ini — kerana di mana-mana cara konsensus berlaku, ia akan menentukan landskap undang-undang untuk senjata autonomi untuk tahun-tahun akan datang.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →