Sebuah komite penting di Senat Amerika Serikat telah mengajukan usulan pagar pembatas AI militer satu langkah lebih dekat untuk menjadi undang-undang, menyetujui undang-undang yang akan mengatur bagaimana Pentagon mengembangkan, menguji, dan menerapkan kecerdasan buatan dan sistem senjata otonom.
Komite Angkatan Bersenjata Senat mendukung kerangka kerja baru ini dalam rancangan Undang-Undang Otorisasi Pertahanan Nasional tahun fiskal 2027, dan menyelesaikan rancangan undang-undang tersebut pada tanggal 10 Juni. Ketentuan tersebut menekankan penilaian manusia dan tanggung jawab utama manusia, serta sebagian besar mendukung penggunaan teknologi otonom oleh Pentagon, menurut Arms Control Association, yang melaporkan rinciannya pada bulan Juli 2026. For more context on this story, see our ongoing AI trends.
Undang-undang yang diusulkan ini akan mengharuskan Departemen Pertahanan untuk memastikan bahwa personel melaksanakan penilaian manusia pada tingkat yang sesuai dalam penggunaan senjata yang dilengkapi AI, dan bahwa sistem yang relevan dirancang agar komandan dan operator tetap memegang tanggung jawab manusia atas penggunaan kekuatan.
Mengkodifikasi Pengawasan Manusia
Kerangka kerja ini dibangun berdasarkan prinsip yang telah ditetapkan dalam Petunjuk Departemen Pertahanan 3000.09, yang mengatur otonomi dalam sistem persenjataan namun tidak memiliki definisi yang jelas mengenai apa yang dimaksud dengan penilaian manusia yang bermakna. Bahasa baru ini berupaya menguraikan prinsip tersebut secara konkret.
Berdasarkan ketentuan yang diusulkan, sistem otonom akan diperlukan untuk memungkinkan pengawasan oleh operator manusia, mencakup metode intervensi atau penghentian, menggabungkan mekanisme anti-gagal (fail-safe) untuk memungkinkan pengendalian manual, dan menyediakan data pemantauan yang memadai kepada pengawas. Sistem tersebut juga harus menyimpan catatan data dan logika pemilihan target, dan beroperasi sesuai dengan hukum internasional, hukum konflik bersenjata, perjanjian yang berlaku, dan kebijakan Departemen Pertahanan.
Undang-undang tersebut akan mengkodifikasi proses peninjauan yang ada yang diamanatkan oleh arahan tahun 2023 sambil menambahkan kriteria verifikasi, validasi, pengujian, dan evaluasi. Kantor Direktur, Pengujian dan Evaluasi Operasional Pentagon, yang anggarannya telah dipotong dua pertiga dalam permintaan anggaran saat ini, akan ditugaskan untuk memastikan bahwa sistem yang tercakup berfungsi sebagaimana antisipasi terhadap musuh adaptif.
Garis Merah Nuklir
Salah satu ketentuan yang paling penting adalah dengan tegas melarang penggunaan AI dalam pengambilan keputusan apa pun untuk memulai peluncuran atau peledakan senjata nuklir. Pembatasan tersebut diupayakan secara bipartisan pada tahun 2023 oleh Senator Ed Markey, Perwakilan Ted Lieu, Perwakilan Don Beyer, dan Perwakilan Ken Buck.
Namun, naskah komite Senat tidak memasukkan larangan penggunaan AI untuk menargetkan senjata nuklir, sebuah langkah yang diusulkan oleh Senator Kirsten Gillibrand dari New York dalam rancangan undang-undang yang berdiri sendiri yang diperkenalkan pada tanggal 2 Juni. Penghapusan ini menyoroti batasan-batasan dari apa yang ingin dibatasi oleh anggota parlemen, bahkan ketika mereka berupaya untuk membatasi kemampuan otonom yang paling ekstrim.
Komite tersebut juga akan membentuk gudang insiden untuk melacak data mengenai kegagalan sistem, perilaku yang tidak diinginkan, dan kejadian nyaris kecelakaan, sebuah langkah yang bertujuan untuk meningkatkan akuntabilitas seiring dengan semakin banyaknya integrasi AI ke dalam operasi militer militer.
Yayasan Bipartisan
Kerangka kerja ini sebagian besar mengikuti rancangan undang-undang yang diperkenalkan pada tanggal 8 Juni oleh kepemimpinan Partai Demokrat, yang diwakili oleh anggota senior Jack Reed dari Rhode Island dan Senator Chris Coons dari Delaware, yang menjabat sebagai petinggi Partai Demokrat di subkomite alokasi pertahanan Senat. Naskah tersebut, yang diterima oleh mayoritas Partai Republik ke dalam rancangan dasar rancangan undang-undang kebijakan, juga memasukkan sebagian besar proposal dari Senator Mark Kelly dari Arizona dan Perwakilan Suhas Subramanyam dari Virginia.
Beberapa senator Demokrat lainnya telah mengajukan proposal yang bersaing pada minggu-minggu sebelum kenaikan harga, termasuk langkah-langkah yang diambil oleh Senator Adam Schiff, Senator Elissa Slotkin, dan Senator Kelly. Bahasa komite Senat yang didasarkan pada RUU Coons-Reed kurang spesifik dalam perlindungannya terhadap pengawasan domestik dibandingkan beberapa alternatif lainnya.
Di bagian lain dalam rancangan undang-undang tersebut, komite merekomendasikan pembentukan komando robotika dan sistem otonom yang bertanggung jawab atas pembentukan kekuatan, pelatihan bersama, interoperabilitas, pengembangan doktrin, dan penggunaan operasional melalui komando kombatan lainnya.
Mempertimbangkan Dampaknya terhadap Pejuang Perang
Mencerminkan kekhawatiran bipartisan mengenai dampak adopsi AI yang cepat, bagian terpisah dari rancangan tersebut mencakup rancangan undang-undang yang diusulkan oleh Senator Kelly dan Senator Tom Cotton, seorang anggota Partai Republik dari Arkansas, yang akan menginstruksikan Pentagon untuk menilai bagaimana penggunaan AI memengaruhi pemeliharaan dan retensi keterampilan penting pejuang.
Kemajuan ini terjadi ketika Amerika Serikat berlomba untuk mengintegrasikan kecerdasan buatan ke dalam militernya lebih cepat dibandingkan musuhnya, sementara anggota parlemen berupaya membangun pagar pembatas yang mencegah kegagalan besar tanpa memperlambat pengerahan pasukan. RUU tersebut masih harus disetujui seluruh Senat dan DPR sebelum sampai ke meja presiden, dan ketentuannya dapat berubah selama negosiasi antar kamar.
Namun, persetujuan komite tersebut menandai salah satu langkah paling konkrit yang dilakukan Kongres untuk menetapkan batasan hukum yang mengikat tentang bagaimana militer menggunakan sistem otonom, menetapkan parameter yang dapat menentukan masa depan peperangan di tahun-tahun mendatang.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
