Kuasa ketenteraan utama Amerika Syarikat dan Rusia nampaknya akan menentang desakan pada mesyuarat global di Geneva minggu ini untuk melancarkan rundingan mengenai peraturan mengikat secara sah bagi senjata autonomi, dalam perkara yang dijangkakan oleh diplomat dan kumpulan hak asasi sebagai perbincangan yang sukar, lapor Reuters pada hari Isnin.
Mesyuarat yang dihoskan PBB, yang bermula Isnin di Geneva, mesti memutuskan sama ada akan membuka rundingan untuk perjanjian yang mengikat secara sah mengenai larangan dan peraturan untuk Sistem Senjata Autonomi Maut (UNDANG-UNDANG) — apa yang dipanggil "robot pembunuh" yang diberi amaran oleh pengkritik boleh memilih dan menyerang sasaran tanpa penglibatan manusia. Kebangkitan kecerdasan buatan telah mempercepatkan pembangunan dron, robot, kereta kebal dan kapal selam yang mampu membunuh tanpa arahan langsung manusia, dan senjata separa autonomi yang dibantu AI telah pun menyaksikan pertempuran di Ukraine, Sudan dan Timur Tengah — evolusi dunia sebenar yang dijejaki dalam liputan industri AI sektor teknologi pertahanan.
Apa yang Ada di Meja di Geneva
Mesyuarat itu ialah Persidangan Kajian Semula Konvensyen Mengenai Senjata Konvensional Tertentu (CCW), yang mengira 128 negeri sebagai parti. Walaupun kebanyakan negeri tersebut menyokong pelancaran rundingan ke arah instrumen yang mengikat UNDANG-UNDANG, negara tentera utama termasuk AS, Rusia dan Israel menentang langkah itu, dengan alasan bahawa undang-undang kemanusiaan antarabangsa yang sedia ada sudah mencukupi untuk mengawal senjata ini.
Beberapa cadangan bersaing sedang dimainkan. Pengerusi rundingan minggu ini telah mencadangkan mandat dua tahun untuk merundingkan protokol yang mengikat secara sah. Sebaliknya, Washington mengutamakan garis panduan berbanding peraturan yang mengikat dan telah mencadangkan mandat lima tahun untuk perbincangan ke arah perjanjian tidak mengikat. United Kingdom, Jerman dan Perancis telah mencadangkan rundingan mengenai instrumen yang membiarkan terbuka sama ada ia akhirnya akan mengikat secara sah, menurut Human Rights Watch Verity Coyle, bercakap kepada Reuters.
Diplomat memberitahu Reuters bahawa perbincangan nampaknya akan mencabar, tetapi berkata negara boleh membina jambatan ke arah perjanjian kompromi menjelang akhir minggu ini. Semua pilihan kekal di atas meja, daripada mengikat secara sah kepada teks tidak mengikat secara sah, serta perjanjian hibrid yang menggabungkan kedua-dua elemen.
Mengapa AS dan Rusia Menentang
Pendirian Washington bergantung pada hujah bahawa undang-undang antarabangsa telah menyediakan rangka kerja untuk mengawal peperangan, menjadikan perjanjian baharu tidak diperlukan. Rusia tidak menyatakan secara terbuka pendiriannya dalam rundingan itu, tetapi sebelum ini telah menentang cadangan untuk perjanjian yang mengikat secara sah - dan merancang untuk menyekat Kesatuan Eropah, pemerhati rundingan itu, daripada mengambil bahagian, seorang diplomat kanan Barat memberitahu Reuters.
Anna Hehir, ketua tadbir urus AI ketenteraan di Future of Life Institute, memberitahu Reuters AS dan Rusia mungkin akan berusaha untuk mengurangkan sebarang keputusan, seperti yang mereka lakukan pada September dengan teks PBB tentang senjata autonomi dan potensinya untuk membahayakan. Pada Perhimpunan Agung PBB bulan lalu, 163 negara menerima pakai resolusi menyeru rundingan mengenai peraturan yang mengawal senjata autonomi, dengan lima negara mengundi menentang — Amerika Syarikat, Rusia, Belarus, Israel dan Korea Utara — dan sembilan berkecuali, termasuk Iran, Arab Saudi dan China.
Amaran Daripada PBB, Palang Merah dan Paus
Desakan untuk peraturan disokong oleh gabungan yang luar biasa. Setiausaha Agung PBB Antonio Guterres, kepimpinan Jawatankuasa Antarabangsa Palang Merah dan Pope Leo XIV semuanya telah memberi amaran supaya tidak menyerahkan kuasa hidup dan mati kepada mesin autonomi sepenuhnya. Pada 2023, Guterres dan Presiden ICRC Mirjana Spoljaric Egger bersama-sama menyeru negara-negara untuk memuktamadkan larangan senjata autonomi sebelum 2026.
"Keperluan untuk mengawal selia senjata autonomi telah mengambil perhatian baharu" dengan perkembangan dalam kecerdasan buatan, kata Laurent Gisel, ketua Unit Senjata dan Kelakuan Permusuhan di ICRC. Palang Merah berpendapat bahawa undang-undang kemanusiaan tidak cukup menangani risiko khusus yang ditimbulkan oleh senjata autonomi, dan menyeru larangan ke atas dua kategori: senjata autonomi yang tidak dapat diramalkan dan yang direka atau digunakan untuk menyasarkan manusia secara langsung.
“Mesin tidak seharusnya dibenarkan memutuskan siapa yang hidup dan mati di medan perang tetapi itulah realiti dystopian yang semakin menghampiri,” kata Verity Coyle dari Human Rights Watch, yang menggesa Persidangan Kajian Semula untuk bertindak tegas dan telah memberi amaran bahawa orang awam akan dibiarkan “terdedah secara berbahaya” jika mesyuarat itu gagal.
Senjata Autonomi Sudah Di Medan Perang
Penyokong peraturan yang mengikat berhujah perdebatan itu telah melepasi hipotetikal. Rusia dilaporkan telah menggunakan dron autonomi sepenuhnya untuk kesan maut dalam peperangannya ke atas Ukraine, manakala industri pertahanan Ukraine sendiri sedang berusaha untuk membangunkan kumpulan dron autonomi. Korea Utara minggu lepas telah bermegah dengan sistem torpedo yang didayakan AI baharu.
Hehir memberitahu Reuters bahawa UNDANG-UNDANG bukan lagi fiksyen sains, menunjuk kepada laporan media mengenai penggunaan awal sistem autonomi sepenuhnya di Ukraine. Kempen memberi amaran bahawa sistem boleh berkelakuan tidak dapat diramalkan, meningkatkan risiko kesilapan yang membawa maut walaupun ketika tentera berhasrat untuk memastikan manusia berada dalam gelung.
Apa Yang Berlaku Seterusnya
Memandangkan tentangan daripada kuasa tentera terkemuka, pemerhati berkata nampaknya tidak mungkin persetujuan akan dicapai minggu ini untuk memulakan rundingan rasmi mengenai peraturan yang mengikat. Hasil yang paling mungkin, diplomat mencadangkan, adalah mandat kompromi - mungkin instrumen hibrid yang menangguhkan persoalan ikatan undang-undang - atau satu lagi tahun kebuntuan.
Sama ada cara, sesi Geneva akan menguji sama ada kawalan senjata antarabangsa dapat mengikuti perkembangan senjata yang dipacu AI, atau sama ada, seperti dengan transformasi sebelumnya dalam teknologi ketenteraan, kekangan mengikat hanya akan tiba selepas senjata itu sudah digunakan secara meluas.
Kekal Mendahului AI
Jejaki keputusan dasar yang membentuk cara AI digunakan di seluruh dunia. Baca lebih banyak berita AI →
