Pentagon meluncurkan program percontohan yang akan menggunakan kecerdasan buatan untuk mengelola cara mereka mengklasifikasikan dan menangani informasi militer yang sensitif, menurut sebuah memorandum yang dikeluarkan oleh Wakil Menteri Pertahanan Steve Feinberg yang ditinjau oleh DefenseScoop. Arahan tersebut memerintahkan penerapan kemampuan klasifikasi keamanan otomatis dalam skala kecil dalam enam bulan ke depan – langkah pembuka dalam upaya merombak proses yang menurut departemen tersebut sudah sangat ketinggalan jaman.
Di dalam Memo Feinberg For more context on this story, see our ongoing AI trends.
Memo tersebut, yang dikeluarkan Senin, menggambarkan prosedur klasifikasi dan deklasifikasi Pentagon yang ada sebagai sumber “disfungsi” yang menurut departemen tersebut “membahayakan” misinya. Laporan tersebut berargumentasi bahwa prosedur yang sudah ketinggalan zaman memperlambat "penyaluran informasi penting secara tepat waktu" dan mengikis kepercayaan publik terhadap departemen tersebut.
“Disfungsi yang disebabkan oleh prosedur-prosedur ini menyebabkan klasifikasi yang salah yang membebani sistem keamanan nasional kita, menghambat interoperabilitas, dan memperlambat inovasi dengan menjebak data penting di dalam cerobong asap,” kata memo itu, menurut DefenseScoop.
ACME: Sistem Angkatan Udara di Pusat
Untuk uji coba tersebut, Departemen Pertahanan akan menggunakan sistem yang didukung AI yang baru-baru ini dikembangkan oleh Angkatan Udara yang disebut Automated Classification Management Environment, atau ACME. Memo tersebut menunjuk pejabat tinggi sipil Angkatan Udara sebagai agen eksekutif untuk pilot tersebut, dan juru bicara Angkatan Udara mengatakan kepada DefenseScoop bahwa layanan tersebut "akan mematuhi arahan dalam memo tersebut."
ACME ditandai secara publik pada bulan Agustus, ketika para pejabat mengeluarkan permintaan informasi yang meminta industri untuk membantu membangun ekosistem manajemen klasifikasi untuk menggantikan proses “manual dan intensif manusia” yang telah digunakan militer selama beberapa dekade. Pemberitahuan tersebut menggambarkan sistem yang sedang mengalami tekanan: ratusan pejabat memegang wewenang untuk mengklasifikasikan informasi, banyak yang menggunakan program kuno, menghasilkan dokumentasi yang ketinggalan jaman, tingkat kesalahan yang tinggi, seringnya klasifikasi berlebihan, dan integritas data yang menurun. Departemen ini juga memiliki simpanan hardcopy sekitar 140 juta halaman.
Dari Percontohan ke Referensi Resmi Tunggal
Jika uji coba ini berhasil, memo tersebut mengatakan bahwa sistem otomatis pada akhirnya akan berfungsi sebagai "satu-satunya referensi otoritatif digital" untuk semua keputusan klasifikasi awal departemen tersebut. Tanggung jawab tersebut secara historis berada di tangan pejabat yang ditunjuk secara khusus untuk menentukan bagaimana informasi sensitif dikategorikan – yang berarti peluncuran yang sukses akan menandai salah satu pengalihan fungsi inti pemerintah ke sistem AI hingga saat ini.
Mengapa Para Pejabat Mengatakan Perubahan Itu Diperlukan
Alasan otomatisasi bergantung pada volume dan kecepatan informasi militer modern. Permintaan informasi pada bulan Agustus menyebut proses manual "tidak sesuai" dengan volume dan kecepatan informasi di era digital. Klasifikasi yang berlebihan membuat informasi terkunci dari unit dan sekutu yang membutuhkannya; risiko yang di bawah klasifikasi memperlihatkan kemampuan dan rencana kepada musuh. Kesalahan di kedua arah menimbulkan biaya, dan dengan tumpukan halaman hardcopy sebanyak tujuh digit, departemen telah menyimpulkan bahwa perbaikan tambahan tidaklah cukup.
Josh Wallin, peneliti di program pertahanan Center for a New American Security (Pusat Keamanan Amerika Baru), mengatakan kepada DefenseScoop bahwa informasi yang kurang dirahasiakan dapat mengekspos kemampuan atau rencana kepada musuh, sementara materi yang terlalu dirahasiakan dapat ditahan atau dihentikan karena proses peninjauan yang tertunda – yang berarti informasi tersebut mungkin tidak sampai ke organisasi yang membutuhkannya, “dalam lingkungan koalisi di mana berbagi informasi sangat penting untuk koordinasi.” Dia menambahkan bahwa, dalam banyak kasus, “sebagian besar informasi belum tentu terlalu sensitif sehingga Anda khawatir akan kesalahan klasifikasi,” itulah sebabnya penanganan yang lebih cepat dan konsisten dapat memberikan keuntungan bagi seluruh departemen.
Analis Melihat Keuntungan — dan Risiko Nyata
Wallin mengatakan otomatisasi dapat membantu mengatasi masalah kesalahan klasifikasi – termasuk informasi yang terlalu terlindungi, kurang terlindungi, atau diberi label yang salah oleh manusia – dan mengurangi kesalahan klasifikasi, terutama karena konflik modern telah menunjukkan bahwa arus informasi yang cepat dapat menjadi keuntungan yang menentukan.
Namun Wallin juga menandai adanya risiko. Kesalahan klasifikasi dapat terjadi pada skala yang lebih cepat pada sistem yang didukung AI. Berbagi yang lebih cepat dengan sekutu dan mitra menimbulkan pertanyaan tentang protokol keamanan siber jaringan penerima. Dan deklasifikasi yang dipercepat menciptakan efek “agregat”, di mana pihak yang tidak bertanggung jawab dapat mengumpulkan informasi sensitif dari pengungkapan yang tidak berbahaya secara individu.
"Ada kekhawatiran kesalahan klasifikasi," kata Wallin. "Ada kekhawatiran yang melekat bahwa beberapa informasi akan bersifat sensitif. Apakah informasi tersebut akan salah diklasifikasikan dan dibagikan, secara tidak sengaja, dan apakah seseorang tidak akan mengetahuinya?"
Pertanyaan Pengawasan Masih Ada
Wallin juga mempertanyakan singkatnya uji coba ini dan bagaimana pengawasan manusia akan bekerja ketika AI berfungsi sebagai referensi pasti untuk otoritas klasifikasi asli. “Bagaimana [apakah Anda] bisa menerapkan pengawasan manusia? Hal ini harus dipertahankan selamanya,” katanya kepada DefenseScoop, sambil menekankan bahwa sistem akan berkembang seiring berjalannya waktu dan kepercayaan penuh tidak akan pernah bisa dicapai.
Pentagon tidak segera menjawab pertanyaan tentang model AI mana yang akan mendukung uji coba tersebut atau apakah departemen tersebut memiliki kekhawatiran tentang penggunaan teknologi tersebut untuk tujuan ini. Petunjuk ini muncul di tengah perdebatan yang lebih luas di Washington mengenai pengawasan AI, bahkan ketika para pejabat pertahanan berpendapat bahwa AI adalah alat yang terlalu kuat untuk dikesampingkan sementara pihak lawan menerapkannya di seluruh militer mereka sendiri. Bagaimana departemen ini menyeimbangkan kedua dorongan tersebut – adopsi yang agresif dan pengendalian manusia yang bermakna – akan menjadi pertanyaan yang menentukan dalam uji coba enam bulan ini.
Bagi TNI AU, penugasan ini juga merupakan mosi percaya. Badan ini membangun ACME sementara perbincangan di seluruh departemen mengenai reformasi klasifikasi masih bersifat teoritis, dan memo tersebut kini menyerahkan tanggung jawab atas kemampuan yang, jika berhasil, akan membentuk kembali cara setiap cabang militer menangani rahasianya. Bagi pemerintah federal lainnya – di mana simpanan klasifikasi dan keluhan klasifikasi berlebih merupakan hal yang kronis – proyek percontohan Pentagon yang sukses akan menyediakan templat skala besar pertama untuk penanganan informasi yang dibantu AI, dan templat yang diawasi dengan ketat.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
