Pentagon melancarkan program perintis yang akan menggunakan kecerdasan buatan untuk mengurus cara ia mengklasifikasikan dan mengendalikan maklumat ketenteraan yang sensitif, menurut memorandum yang dikeluarkan oleh Timbalan Setiausaha Pertahanan Steve Feinberg yang disemak oleh DefenseScoop. Arahan itu memerintahkan penggunaan skala kecil awal keupayaan pengelasan keselamatan automatik dalam tempoh enam bulan akan datang — langkah pembukaan dalam usaha untuk membaik pulih proses yang disifatkan jabatan sebagai ketinggalan zaman yang berbahaya.
Di dalam Memo Feinberg For more context on this story, see our ongoing latest AI developments.
Memo itu, yang dikeluarkan pada hari Isnin, merangka prosedur klasifikasi dan penyahklasifikasian sedia ada Pentagon sebagai sumber "disfungsi" yang dikatakan jabatan itu "membahayakan" misinya. Ia berhujah bahawa prosedur lapuk memperlahankan "pengeluaran maklumat kritikal tepat pada masanya" dan menghakis kepercayaan orang ramai terhadap jabatan itu.
"Disfungsi yang disebabkan oleh prosedur ini membawa kepada klasifikasi yang salah yang membebankan sistem keselamatan negara kita, menghalang kebolehoperasian dan memperlahankan inovasi dengan memerangkap data penting dalam paip dapur," kata memo itu, menurut DefenseScoop.
ACME: Sistem Tentera Udara di Pusat
Untuk perbicaraan, Jabatan Pertahanan akan menggunakan sistem yang disokong AI yang dibangunkan oleh Tentera Udara baru-baru ini yang dipanggil Persekitaran Pengurusan Klasifikasi Automatik, atau ACME. Memo itu menetapkan pegawai awam tertinggi Tentera Udara sebagai ejen eksekutif untuk juruterbang, dan jurucakap Tentera Udara memberitahu DefenseScoop bahawa perkhidmatan itu "akan mematuhi arahan dalam memo."
ACME telah dibenderakan secara terbuka pada bulan Ogos, apabila pegawai mengeluarkan permintaan untuk industri meminta maklumat untuk membantu membina ekosistem pengurusan klasifikasi bagi menggantikan proses "manual, intensif manusia" yang telah digunakan oleh tentera selama beberapa dekad. Notis itu menggambarkan sistem di bawah tekanan: beratus-ratus pegawai memegang kuasa untuk mengklasifikasikan maklumat, kebanyakannya menggunakan atur cara kuno, menghasilkan dokumentasi lapuk, kadar ralat yang tinggi, klasifikasi berlebihan yang kerap dan integriti data yang merosot. Jabatan itu juga membawa salinan tertunggak kira-kira 140 juta muka surat.
Daripada Juruterbang kepada Rujukan Autoritatif Tunggal
Jika juruterbang berjaya, memo itu mengatakan sistem automatik akhirnya akan berfungsi sebagai "rujukan berwibawa digital tunggal" untuk semua keputusan pengelasan asal jabatan. Tanggungjawab itu secara historis dimiliki oleh pegawai manusia yang ditetapkan khas yang menentukan cara maklumat sensitif dikategorikan — bermakna pelancaran yang berjaya akan menandakan salah satu pemindahan paling penting bagi fungsi teras kerajaan kepada sistem AI setakat ini.
Mengapa Pegawai Mengatakan Perubahan Diperlukan
Kes untuk automasi bergantung pada jumlah dan halaju maklumat ketenteraan moden. Permintaan pada Ogos untuk maklumat yang dipanggil proses manual "tidak serasi" dengan jumlah dan kelajuan maklumat dalam era digital. Pengelasan berlebihan menghalang maklumat daripada unit dan sekutu yang memerlukannya; risiko di bawah klasifikasi mendedahkan keupayaan dan rancangan kepada musuh. Ralat dalam mana-mana arah membawa kos, dan dengan tunggakan halaman salinan keras tujuh angka, jabatan telah membuat kesimpulan bahawa pembetulan tambahan tidak mencukupi.
Josh Wallin, seorang felo di Pusat untuk program pertahanan New American Security, memberitahu DefenseScoop bahawa maklumat yang kurang terperingkat boleh mendedahkan keupayaan atau rancangan kepada musuh, manakala bahan yang terlalu diklasifikasikan boleh ditahan atau dihentikan oleh proses semakan yang tertunda - bermakna ia mungkin tidak sampai kepada organisasi yang memerlukannya, "dalam persekitaran gabungan di mana perkongsian maklumat penting untuk penyelarasan." Beliau menambah bahawa, dalam banyak kes, "sebahagian besar maklumat tidak semestinya begitu sensitif sehingga anda bimbang tentang salah klasifikasi," itulah sebabnya pengendalian yang lebih pantas dan lebih konsisten boleh membayar dividen di seluruh jabatan.
Penganalisis Melihat Keuntungan — dan Risiko Nyata
Wallin berkata automasi boleh membantu dengan isu salah klasifikasi - termasuk maklumat yang terlalu dilindungi, kurang dilindungi atau disalah label oleh manusia - dan mengurangkan paip dapur, terutamanya kerana konflik moden telah menunjukkan bahawa aliran maklumat yang pantas boleh menjadi kelebihan yang menentukan.
Tetapi Wallin juga menandakan risiko. Salah klasifikasi boleh berlaku pada skala yang lebih pantas di bawah sistem yang disokong AI. Perkongsian yang lebih pantas dengan sekutu dan rakan kongsi menimbulkan persoalan tentang protokol keselamatan siber rangkaian penerima. Dan penyahklasifikasian dipercepatkan menghasilkan kesan "agregat", yang mana pihak lawan boleh mengumpulkan cerapan sensitif daripada pendedahan yang tidak berbahaya secara individu.
"Terdapat kebimbangan salah klasifikasi," kata Wallin. "Hanya terdapat kebimbangan yang wujud bahawa sesetengah maklumat akan menjadi sensitif. Adakah ia akan disalahklasifikasikan dan dikongsi, secara tidak sengaja, dan adakah seseorang tidak akan menangkapnya?"
Soalan Pengawasan Kekal
Wallin juga mempersoalkan singkatnya juruterbang dan cara pengawasan manusia akan berfungsi apabila AI berfungsi sebagai rujukan muktamad untuk pihak berkuasa pengelasan asal. "Bagaimanakah [anda] benar-benar akan mempunyai pengawasan manusia di tempatnya? Itu perlu berterusan selama-lamanya," katanya kepada DefenseScoop, sambil menyatakan bahawa sistem itu akan berkembang dari semasa ke semasa dan kepercayaan sepenuhnya tidak akan dapat dicapai.
Pentagon tidak segera menjawab soalan tentang model AI yang mana yang akan memberi kuasa kepada juruterbang atau sama ada jabatan itu mempunyai kebimbangan tentang menggunakan teknologi untuk tujuan ini. Arahan itu tiba di tengah-tengah perdebatan yang lebih luas di Washington mengenai pengawasan AI, walaupun pegawai pertahanan berhujah bahawa AI adalah alat yang terlalu berkuasa untuk diketepikan sementara musuh menggunakannya merentasi tentera mereka sendiri. Bagaimana jabatan mengimbangi kedua-dua dorongan itu - penerimaan yang agresif dan kawalan manusia yang bermakna - akan menjadi persoalan yang menentukan bagi juruterbang enam bulan itu.
Bagi Tentera Udara, tugasan itu juga merupakan undi percaya. Perkhidmatan membina ACME sementara perbualan seluruh jabatan tentang pembaharuan klasifikasi masih bersifat teori, dan memo itu kini bertanggungjawab ke atas keupayaan yang, jika ia berfungsi, akan membentuk semula cara setiap cawangan tentera mengendalikan rahsianya. Bagi kerajaan persekutuan yang lain - di mana tunggakan klasifikasi dan aduan klasifikasi yang berlebihan adalah kronik - juruterbang Pentagon yang berjaya akan menyediakan templat berskala besar pertama untuk pengendalian maklumat yang dibantu AI, dan satu yang diawasi dengan teliti pada masa itu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
