Kantor Pentagon yang bertugas mengoordinasikan penggunaan kecerdasan buatan secara bertanggung jawab dan etis kekurangan staf secara signifikan, menurut pengawas utama pemerintah federal – sebuah kekurangan yang telah menghambat kerangka etika AI yang menjadi andalan departemen tersebut, bahkan ketika militer berusaha untuk menjadi kekuatan perang yang “mengutamakan AI”.
Kekurangan staf di Kepala Kantor Digital dan Kecerdasan Buatan telah menghalangi mereka untuk sepenuhnya menerapkan inisiatif AI yang Bertanggung Jawab dari Pentagon, kata Kantor Akuntabilitas Pemerintah dalam sebuah laporan tertanggal 14 Oktober dan dilaporkan pada hari Selasa oleh Stars and Stripes. Temuan ini muncul pada saat pengambilan keputusan AI di bidang pertahanan telah berpindah dari laboratorium ke medan perang, sehingga memberikan konsekuensi nyata terhadap kesenjangan staf.
Tiga dari Sepuluh Posisi Terisi, dan Lowongan Mungkin Tetap Terbuka
AI yang bertanggung jawab adalah kerangka etika terpadu Departemen Pertahanan yang mengatur pengembangan, penerapan, dan pengoperasian kemampuan AI pada sistem tempur dan non-tempur. CDAO adalah kantor utama dalam penerapan dan integrasi AI di departemen tersebut, termasuk kerangka kerja AI yang Bertanggung Jawab – yang menjadikan tingkat kepegawaiannya sebagai ukuran langsung mengenai seberapa besar kapasitas sebenarnya yang dimiliki fungsi pengawasan.
GAO menemukan bahwa hanya tiga dari 10 posisi resmi di kantor tersebut yang terisi pada bulan Februari. Para pejabat pertahanan mengatakan kepada lembaga pengawas tersebut bahwa posisi-posisi yang tersisa kemungkinan besar tidak akan terisi, sebuah pengakuan yang menunjukkan bahwa kekurangan tersebut bukan disebabkan oleh penundaan perekrutan sementara namun merupakan kondisi struktural dari mandat pengawasan kantor tersebut.
Strategi 'AI First' yang Melampaui Perlindungannya Sendiri
Pengungkapan kepegawaian berada di samping arahan strategis departemen. Pada bulan Januari, Menteri Pertahanan Pete Hegseth mengeluarkan strategi AI yang, menurut laporan GAO, menekankan kembali percepatan integrasi dan adopsi AI. Strategi tersebut, menurut laporan tersebut, “menekankan pijakan pada masa perang, menyerukan DOD untuk menjadi kekuatan perang yang 'mengutamakan AI' di semua komponen.”
Perbedaannya sangat mencolok: mandat AI yang semakin cepat di seluruh sistem tempur, diawasi oleh sebuah kantor yang menjalankan 30 persen dari kekuatan resminya. Perkembangan AI yang pesat telah memberikan tantangan bagi badan-badan pemerintahan di seluruh dunia karena teknologi ini melampaui pengawasan legislatif dan pengawasan manusia – dan badan pengawas Pentagon kini mendokumentasikan kesenjangan tersebut dalam birokrasi militer terbesar di dunia. Untuk pelaporan lebih lanjut mengenai kebijakan dan tata kelola AI, lihat beranda berita AI.
Taruhannya: Penargetan, Pagar Pembatas, dan Penolakan yang Mengubah Kebijakan
Konsekuensi dari pengawasan yang lemah tidak bersifat hipotetis. Bloomberg melaporkan bulan lalu, dan Stars and Stripes menegaskan kembali, bahwa perangkat lunak berkemampuan AI yang digunakan untuk memilih target berkontribusi terhadap serangan AS terhadap sebuah sekolah dasar dengan rudal Tomahawk pada tanggal 28 Februari, hari pertama Perang Iran, yang menewaskan lebih dari 100 anak.
Pertarungan tata kelola AI yang dilakukan pihak militer juga melibatkan sektor swasta. Pada bulan Februari, Menteri Pertahanan Pete Hegseth dan Presiden Donald Trump menekan Anthropic untuk menghapus pagar pengaman dalam model Claude yang dikontrak pemerintah untuk mencegah sistem tersebut digunakan untuk senjata otonom penuh dan pengawasan massal. Ketika Anthropic menolak, pemerintah menetapkan perusahaan tersebut berisiko terhadap keamanan nasional dan melarang lembaga pemerintah menggunakan Claude – kebuntuan yang telah diliput oleh AI Buzz Wire melalui pengadilan, termasuk keputusan pengadilan banding yang menguatkan daftar hitam tersebut.
Arti Berlari pada 30 Persen dalam Praktek
Kantor pengawasan pada tiga dari sepuluh posisi resminya bukanlah suatu birokrasi yang memiliki simpanan (backlog) – namun merupakan suatu kerangka kerja yang beroperasi pada sebagian kecil dari kapasitas yang diharapkan. Inisiatif AI yang Bertanggung Jawab bergantung pada CDAO untuk menerjemahkan prinsip-prinsip etika ke dalam proses peninjauan yang harus diikuti oleh program senjata dan komunikasi yang sebenarnya, dan setiap kursi yang tidak terisi mewakili pekerjaan yang tidak terselesaikan atau jatuh ke tangan staf yang tersisa di seluruh portofolio.
Karena pejabat Pertahanan mengatakan kepada GAO bahwa lowongan tersebut kemungkinan besar tidak akan terisi, kendala tersebut terlihat bertahan lama dan bukan bersifat siklus. Program-program tersebut akan terus berfokus pada kemampuan AI, dan beban praktis penerapan kerangka etika akan terus dikonsentrasikan pada sekelompok orang yang semakin kecil.
Etika Manusia sebagai Garis Pertahanan Terakhir
Pengacara militer berargumentasi bahwa kesenjangan jumlah staf menjadikan penilaian manusia sebagai satu-satunya pemeriksaan yang berarti. “Pengambilan keputusan militer harus didasarkan pada etika manusia, dan hanya dengan memerintahkan komputer untuk mencapai sesuatu mungkin merupakan cara yang sangat cepat untuk melakukannya, namun hal tersebut mungkin bukan metodologi hukum yang etis, moral, atau sah untuk mencapai apa pun yang kita inginkan agar terjadi,” Sean Timmons, seorang pengacara yang berspesialisasi dalam hukum militer di firma Tully Rinckey, mengatakan melalui telepon pada hari Selasa, menurut Stars and Stripes.
Beberapa pemimpin industri AI telah menyerukan untuk memperlambat laju kemajuan AI, dan memperingatkan bahwa hilangnya kendali atas agen AI otonom dapat menimbulkan ancaman nyata – peringatan yang memiliki bobot tertentu ketika diterapkan pada senjata otonom. Temuan GAO menunjukkan bahwa, untuk saat ini, komponen kekuatan militer AS yang tumbuh paling cepat sedang ditingkatkan dibandingkan infrastruktur manusia yang dimaksudkan untuk mengaturnya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
