Pejabat Pentagon yang ditugaskan untuk menyelaraskan penggunaan kecerdasan buatan yang bertanggungjawab dan beretika amat kekurangan kakitangan, menurut badan pemerhati tertinggi kerajaan persekutuan — kekurangan yang telah menghalang rangka kerja etika AI perdana jabatan itu walaupun tentera berusaha untuk menjadi pasukan perang "AI didahulukan".
Kekurangan kakitangan di Ketua Pejabat Kepintaran Digital dan Buatan telah menghalangnya daripada melaksanakan sepenuhnya inisiatif AI Bertanggungjawab Pentagon, kata Pejabat Akauntabiliti Kerajaan dalam laporan bertarikh 14 Oktober dan dilaporkan Selasa oleh Stars and Stripes. Penemuan itu tiba pada saat ketika membuat keputusan AI dalam pertahanan telah berpindah dari makmal ke medan perang, memberikan akibat konkrit jurang kakitangan.
Tiga daripada Sepuluh Jawatan Diisi, dan Jawatan Kosong Mungkin Kekal Dibuka
AI yang bertanggungjawab ialah rangka kerja etika bersepadu Jabatan Pertahanan yang mengawal pembangunan, penggunaan dan pengendalian keupayaan AI merentas kedua-dua sistem pertempuran dan bukan pertempuran. CDAO ialah pejabat utama untuk penerimaan dan penyepaduan AI jabatan, termasuk rangka kerja AI Bertanggungjawab — yang menjadikan tahap kakitangannya sebagai ukuran langsung tentang berapa banyak kapasiti sebenarnya yang dimiliki oleh fungsi pengawasan.
GAO mendapati bahawa hanya tiga daripada 10 jawatan dibenarkan pejabat telah diisi setakat Februari. Pegawai pertahanan memberitahu badan pemerhati bahawa jawatan selebihnya tidak mungkin diisi, pengakuan yang menunjukkan kekurangan itu bukan kelewatan pengambilan sementara tetapi keadaan struktur mandat pengawasan pejabat.
Strategi 'AI First' Melangkaui Perlindungannya Sendiri
Pendedahan kakitangan duduk dengan janggal di sebelah hala tuju strategik jabatan. Pada bulan Januari, Setiausaha Pertahanan Pete Hegseth mengeluarkan strategi AI yang, menurut laporan GAO, menekankan semula mempercepatkan integrasi dan penggunaan AI. Strategi itu, laporan itu menyatakan, "menekankan pijakan zaman perang, menyeru DOD untuk menjadi pasukan perang 'AI pertama' merentasi semua komponen."
Perbezaannya amat ketara: mandat yang semakin pantas untuk AI merentas sistem pertempuran, diawasi oleh pejabat yang beroperasi pada 30 peratus daripada kekuatan yang dibenarkannya. Pembangunan AI yang pesat telah mencabar badan-badan pentadbir di seluruh dunia kerana teknologi itu mengatasi pengawasan perundangan tradisional dan penyeliaan manusia — dan badan pemantau Pentagon sendiri kini mendokumentasikan jurang dalam birokrasi ketenteraan terbesar di dunia. Untuk pelaporan lanjut tentang dasar dan tadbir urus AI, lihat halaman utama berita AI kami.
The Stakes: Penyasaran, Pengawal dan Penolakan yang Membentuk Semula Dasar
Akibat daripada pengawasan yang tipis bukanlah hipotesis. Bloomberg melaporkan bulan lalu, dan Stars and Stripes mengulangi, bahawa perisian yang didayakan AI yang digunakan untuk memilih sasaran menyumbang kepada serangan AS ke atas sebuah sekolah rendah dengan peluru berpandu Tomahawk pada 28 Februari, hari pertama Perang Iran, di mana lebih daripada 100 kanak-kanak terbunuh.
Pertarungan tadbir urus AI tentera juga telah menarik dalam sektor swasta. Pada bulan Februari, Setiausaha Pertahanan Pete Hegseth dan Presiden Donald Trump menekan Anthropic untuk mengalihkan pagar keselamatan dalam model Claude yang dikontrak kerajaan yang menghalang sistem daripada digunakan untuk senjata autonomi sepenuhnya dan pengawasan besar-besaran. Apabila Anthropic enggan, pentadbiran menetapkan firma itu sebagai risiko keselamatan negara dan melarang agensi kerajaan daripada menggunakan Claude — kebuntuan AI Buzz Wire telah diliputi melalui mahkamah, termasuk keputusan mahkamah rayuan yang mengekalkan senarai hitam itu.
Maksud Berlari pada 30 Peratus dalam Amalan
Pejabat pengawasan di tiga daripada sepuluh jawatan yang diberi kuasa bukanlah birokrasi dengan tunggakan — ia adalah rangka kerja yang beroperasi pada sebahagian kecil daripada kapasiti yang dimaksudkan. Inisiatif AI Bertanggungjawab bergantung pada CDAO untuk menterjemahkan prinsip etika ke dalam proses semakan yang mesti diikuti oleh program senjata dan komunikasi sebenar, dan setiap tempat duduk yang tidak diisi mewakili kerja yang sama ada dibatalkan atau jatuh kepada kakitangan yang tinggal di seluruh portfolio.
Oleh kerana pegawai Pertahanan memberitahu GAO bahawa kekosongan tidak mungkin diisi, kekangan itu kelihatan tahan lama dan bukannya kitaran. Program akan meneruskan keupayaan AI, dan beban praktikal untuk menerapkan rangka kerja etika akan terus menumpukan pada kumpulan orang yang lebih kecil dan lebih kecil.
Etika Manusia sebagai Barisan Terakhir Pertahanan
Peguam tentera berpendapat jurang kakitangan meninggalkan pertimbangan manusia sebagai satu-satunya pemeriksaan yang bermakna. "Pembuatan keputusan ketenteraan harus berdasarkan etika manusia, dan hanya memberitahu komputer untuk mencapai sesuatu mungkin merupakan cara yang sangat cepat untuk melakukannya, tetapi ia mungkin bukan metodologi undang-undang etika, moral atau sah untuk mencapai apa sahaja yang kita cuba untuk berlaku," Sean Timmons, seorang peguam pakar dalam undang-undang ketenteraan di firma Tully Rinckey, berkata melalui telefon Stripes, menurut Stars dan Selasa.
Beberapa pemimpin industri AI telah menyeru untuk memperlahankan kadar kemajuan AI, memberi amaran bahawa kehilangan kawalan ejen AI autonomi boleh menimbulkan ancaman wujud — amaran yang membawa berat tertentu apabila digunakan pada senjata autonomi. Penemuan GAO menunjukkan bahawa, buat masa ini, komponen kuasa ketenteraan AS yang paling pesat berkembang sedang ditingkatkan mendahului infrastruktur manusia yang dimaksudkan untuk mengawalnya.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
