Sebuah jawatankuasa Senat Amerika Syarikat yang penting telah memindahkan cadangan penghadang AI ketenteraan selangkah lebih dekat untuk menjadi undang-undang, meluluskan undang-undang yang akan mengawal cara Pentagon membangun, menguji dan menggunakan kecerdasan buatan dan sistem senjata autonomi.
Jawatankuasa Perkhidmatan Bersenjata Senat mengesahkan rangka kerja baharu itu dalam draf Akta Keizinan Pertahanan Nasional tahun fiskal 2027, menamatkan penandaan rang undang-undang itu pada 10 Jun. Peruntukan itu menekankan pertimbangan manusia dan tanggungjawab manusia yang muktamad sambil sebahagian besarnya menyokong penggunaan teknologi autonomi Pentagon, menurut Persatuan Kawalan Senjata, yang melaporkan butirannya pada 2026 Julai. For more context on this story, see our ongoing AI news.
Perundangan yang dicadangkan memerlukan Jabatan Pertahanan untuk memastikan bahawa kakitangan menggunakan tahap pertimbangan manusia yang sesuai terhadap penggunaan senjata yang didayakan AI, dan sistem yang berkaitan direka bentuk supaya komander dan pengendali mengekalkan tanggungjawab manusia yang muktamad terhadap penggunaan kekerasan.
Mengkodkan Pengawasan Manusia
Rangka kerja ini dibina berdasarkan prinsip yang telah ditetapkan dalam Arahan Jabatan Pertahanan 3000.09, yang mengawal autonomi dalam sistem senjata tetapi tidak mempunyai definisi yang jelas tentang apa yang menjadi pertimbangan manusia yang bermakna. Bahasa baharu ini berusaha untuk menghuraikan prinsip itu secara konkrit.
Di bawah peruntukan yang dicadangkan, sistem autonomi akan diperlukan untuk membenarkan penyeliaan oleh pengendali manusia, termasuk kaedah untuk campur tangan atau penamatan, menggabungkan mekanisme selamat-gagal untuk membolehkan kawalan manual, dan menyediakan data pemantauan yang mencukupi kepada pengawal. Sistem ini juga perlu mengekalkan rekod data dan logik pemilihan sasaran, dan beroperasi mengikut undang-undang antarabangsa, undang-undang konflik bersenjata, perjanjian yang terpakai, dan dasar Jabatan Pertahanan.
Perundangan itu akan mengkodifikasikan proses semakan sedia ada yang dimandatkan oleh arahan 2023 sambil menambahkan kriteria pengesahan, pengesahan, ujian dan penilaian. Pejabat Pengarah, Ujian Operasi dan Penilaian Pentagon, yang telah mengurangkan bajet yang dicadangkan sebanyak dua pertiga dalam permintaan belanjawan semasa, akan didakwa memastikan sistem yang dilindungi berfungsi seperti yang dijangkakan terhadap musuh penyesuaian.
Talian Merah Nuklear
Salah satu peruntukan yang paling penting akan melarang penggunaan AI untuk sebarang keputusan untuk memulakan pelancaran atau letupan senjata nuklear. Sekatan itu telah diminta atas dasar dwipartisan pada 2023 oleh Senator Ed Markey, Wakil Ted Lieu, Wakil Don Beyer dan Wakil Ken Buck.
Walau bagaimanapun, teks jawatankuasa Senat tidak termasuk larangan menggunakan AI untuk menyasarkan senjata nuklear, satu langkah yang dicadangkan oleh Senator Kirsten Gillibrand dari New York dalam rang undang-undang yang berdiri sendiri yang diperkenalkan pada 2 Jun. Peninggalan itu menyerlahkan sempadan perkara yang sanggup disekat oleh penggubal undang-undang, walaupun ketika mereka bergerak untuk mengekang keupayaan autonomi yang paling ekstrem.
Jawatankuasa itu juga akan menubuhkan repositori insiden untuk menjejak data mengenai kegagalan sistem, tingkah laku yang tidak diingini dan kejadian hampir terlepas, satu langkah yang bertujuan untuk meningkatkan akauntabiliti apabila tentera mengintegrasikan lebih banyak AI ke dalam operasinya.
Yayasan Dwipartisan
Rangka kerja itu sebahagian besarnya menjejaki rang undang-undang yang diperkenalkan pada 8 Jun oleh kepimpinan Demokrat, yang diwakili oleh ahli ranking Jack Reed dari Rhode Island dan Senator Chris Coons dari Delaware, yang berkhidmat sebagai Demokrat teratas dalam jawatankuasa kecil peruntukan pertahanan Senat. Teks itu, yang telah diterima oleh majoriti Republikan ke dalam draf asas rang undang-undang dasar, juga menggabungkan sebahagian besar cadangan oleh Senator Mark Kelly dari Arizona dan Wakil Suhas Subramanyam dari Virginia.
Beberapa senator Demokrat lain telah memperkenalkan cadangan bersaing dalam beberapa minggu sebelum penandaan, termasuk langkah-langkah oleh Senator Adam Schiff, Senator Elissa Slotkin, dan Senator Kelly. Bahasa jawatankuasa Senat berdasarkan rang undang-undang Coons-Reed kurang spesifik dalam perlindungannya terhadap pengawasan domestik berbanding beberapa alternatif tersebut.
Di bahagian lain dalam draf rang undang-undang, jawatankuasa mengesyorkan mewujudkan perintah robotik dan sistem autonomi yang bertanggungjawab untuk penjanaan kuasa, latihan bersama, kesalingoperasian, pembangunan doktrin dan pekerjaan operasi melalui perintah pejuang yang lain.
Menimbang Kesan kepada Pejuang Perang
Mencerminkan kebimbangan dwipartisan tentang kesan penggunaan AI yang pantas, bahagian berasingan draf itu menggabungkan rang undang-undang yang dicadangkan oleh Senator Kelly dan Senator Tom Cotton, seorang Republikan Arkansas, yang akan mengarahkan Pentagon menilai cara penggunaan AI mempengaruhi penyelenggaraan dan pengekalan kemahiran pejuang penting.
Kemajuan itu datang ketika Amerika Syarikat berlumba-lumba untuk mengintegrasikan kecerdasan buatan ke dalam tenteranya lebih cepat daripada musuh, manakala penggubal undang-undang cuba mewujudkan pagar yang menghalang kegagalan bencana tanpa memperlahankan penempatan. Rang undang-undang itu masih mesti lulus penuh Senat dan Dewan sebelum sampai ke meja presiden, dan peruntukan boleh berubah semasa rundingan antara dewan.
Namun, kelulusan jawatankuasa itu menandakan salah satu langkah paling konkrit oleh Kongres untuk meletakkan had undang-undang yang mengikat tentang cara tentera menggunakan sistem autonomi, menetapkan parameter yang boleh membentuk masa depan peperangan untuk tahun-tahun akan datang.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
