Savunma Bakan Yardımcısı Steve Feinberg tarafından yayınlanan ve DefenseScoop tarafından incelenen bir memoranduma göre Pentagon, hassas askeri bilgilerin nasıl sınıflandırıldığını ve işlendiğini yönetmek için yapay zekayı kullanacak bir pilot program başlatıyor. Yönerge, önümüzdeki altı ay içinde otomatik bir güvenlik sınıflandırma yeteneğinin ilk küçük ölçekli dağıtımını emrediyor; bu, departmanın tehlikeli derecede güncelliğini kaybetmiş olarak tanımladığı bir süreci elden geçirme çabasının açılış hamlesi.
Feinberg Notunun İçinde For more context on this story, see our ongoing artificial intelligence updates.
Pazartesi günü yayınlanan not, Pentagon'un mevcut sınıflandırma ve sınıflandırmayı kaldırma prosedürlerini, bakanlığın misyonunu "tehlikeye attığını" söylediği bir "işlevsizlik" kaynağı olarak çerçeveliyor. Güncelliğini yitirmiş prosedürlerin "kritik bilgilerin zamanında açıklanmasını" yavaşlattığı ve halkın bakanlığa olan güvenini sarstığı öne sürülüyor.
DefenceScoop'a göre bildiride, "Bu prosedürlerin yol açtığı işlev bozukluğu, ulusal güvenlik sistemlerimize yük getiren, birlikte çalışabilirliği engelleyen ve hayati verileri soba borularına hapsederek inovasyonu yavaşlatan yanlış sınıflandırmalara yol açıyor" deniyor.
ACME: Merkezdeki Hava Kuvvetleri Sistemi
Deneme için Savunma Bakanlığı, Hava Kuvvetlerinin yakın zamanda geliştirdiği Otomatik Sınıflandırma Yönetim Ortamı veya ACME adı verilen yapay zeka destekli bir sistemi kullanacak. Notta Hava Kuvvetlerinin en üst düzey sivil yetkilisi pilotun idari temsilcisi olarak görevlendiriliyor ve bir Hava Kuvvetleri sözcüsü DefenseScoop'a hizmetin "nottaki yöne uyacağını" söyledi.
ACME, Ağustos ayında, yetkililerin ordunun onlarca yıldır kullandığı "manuel, insan yoğun" sürecin yerine geçecek bir sınıflandırma-yönetim ekosistemi oluşturulmasına yardımcı olmak için endüstriden bilgi talep eden bir talepte bulunmasıyla kamuya açık bir şekilde işaretlendi. Bu bildirim, baskı altında olan bir sistemi tanımlıyordu: Yüzlerce yetkili bilgiyi sınıflandırma yetkisine sahip, birçoğu eski programlar kullanıyor, güncelliğini yitirmiş belgeler üretiyor, yüksek hata oranları, sık sık aşırı sınıflandırma ve bozulmuş veri bütünlüğü. Departman ayrıca yaklaşık 140 milyon sayfalık bir basılı kopya birikimi de taşıyor.
Pilottan Tek Yetkili Referansa
Pilotun başarılı olması durumunda, notta otomatik sistemin sonunda departmanın tüm orijinal sınıflandırma kararları için "tek, dijital yetkili referans" olarak hizmet edeceği belirtiliyor. Bu sorumluluk, tarihsel olarak, hassas bilgilerin ne kadar kategorize edileceğini belirleyen, özel olarak atanmış insan yetkililere aitti; bu, başarılı bir uygulamanın, temel bir hükümet işlevinin bugüne kadar yapay zeka sistemlerine en önemli transferlerinden birini işaretleyeceği anlamına geliyor.
Yetkililer Neden Değişikliğin Gerekli Olduğunu Söylüyor?
Otomasyonun durumu, modern askeri bilgilerin hacmine ve hızına dayanmaktadır. Ağustos ayındaki bilgi talebi, manuel işlemin dijital çağdaki bilgi hacmi ve hızıyla "uyumsuz" olduğunu belirtti. Aşırı sınıflandırma, bilgilerin ona ihtiyaç duyan birimlerden ve müttefiklerden uzak tutulmasını sağlar; Yetersiz sınıflandırma, yeteneklerin ve planların düşmanlara ifşa edilmesi riskini taşır. Her iki yöndeki hatalar maliyet taşır ve yedi rakamlı basılı kopya sayfa birikimi nedeniyle departman, artan düzeltmelerin yeterli olmadığı sonucuna varmıştır.
Yeni Amerikan Güvenliği Merkezi'nin savunma programı üyelerinden Josh Wallin, DefenseScoop'a, gereğinden fazla sınıflandırılmış bilgilerin bir yeteneği veya planı bir düşmana ifşa edebileceğini, aşırı sınıflandırılmış malzemenin ise gecikmiş bir inceleme süreci nedeniyle alıkonulabileceğini veya durdurulabileceğini, yani "bilgi paylaşımının koordinasyon için kritik olduğu bir koalisyon ortamında" ihtiyacı olan kuruluşlara ulaşamayabileceğini söyledi. Çoğu durumda, "bilgilerin büyük çoğunluğunun, yanlış sınıflandırma konusunda endişeleneceğiniz kadar hassas olmadığını" ekledi; tam da bu nedenle, daha hızlı, daha tutarlı bir işlem, departman genelinde fayda sağlayabilir.
Analistler Kazanımları ve Gerçek Riskleri Görüyor
Wallin, otomasyonun aşırı korunan, yetersiz korunan veya insanlar tarafından yanlış etiketlenen bilgiler de dahil olmak üzere yanlış sınıflandırma sorunlarına yardımcı olabileceğini ve özellikle modern çatışmaların hızlı bilgi akışının belirleyici bir avantaj olabileceğini göstermesi nedeniyle soba borularını azaltabileceğini söyledi.
Ancak Wallin aynı zamanda riskleri de işaretledi. Yapay zeka destekli sistemlerde yanlış sınıflandırma daha hızlı bir ölçekte meydana gelebilir. Müttefikler ve ortaklarla daha hızlı paylaşım, alıcı ağların siber güvenlik protokolleri hakkında soruları gündeme getiriyor. Hızlandırılmış sınıflandırma kaldırma, saldırganın tek tek zararsız ifşaatlardan hassas içgörüleri bir araya getirebildiği "toplu" bir etki yaratır.
Wallin, "Yanlış sınıflandırma endişesi var" dedi. "Bazı bilgilerin hassas olacağına dair doğal bir endişe var. Yanlış sınıflandırılıp paylaşılacak mı, bir bakıma kasıtsız mı olacak ve birileri onu yakalayamayacak mı?"
Gözetim Soruları Devam Ediyor
Wallin ayrıca pilot çalışmanın kısalığını ve yapay zeka orijinal sınıflandırma otoritesi için kesin referans olarak hizmet ettiğinde insan gözetiminin nasıl çalışacağını da sorguladı. DefenseScoop'a "İnsan gözetimini gerçekten nasıl sağlayacaksınız? Bunun sonsuza kadar sürmesi gerekecek" dedi ve sistemin zaman içinde gelişeceğini ve tam güvenin hiçbir zaman elde edilemeyeceğini belirtti.
Pentagon, hangi temel yapay zeka modellerinin pilota güç vereceği veya bakanlığın bu teknolojiyi bu amaçla kullanma konusunda endişeleri olup olmadığı hakkındaki soruları hemen yanıtlamadı. Savunma yetkilileri, düşmanlar yapay zekayı kendi orduları genelinde konuşlandırırken yapay zekanın kenara çekilemeyecek kadar güçlü bir araç olduğunu iddia etse de, direktif Washington'da yapay zeka gözetimi konusunda daha geniş bir tartışmanın ortasında yer alıyor. Bakanlığın bu iki dürtüyü (agresif benimseme ve anlamlı insan kontrolü) nasıl dengeleyeceği altı aylık pilot çalışmanın belirleyici sorusu olacak.
Hava Kuvvetleri için bu atama aynı zamanda bir güven oyu anlamına da geliyor. Servis, ACME'yi, sınıflandırma reformu hakkındaki departman çapındaki tartışma henüz teorik iken inşa etti ve artık, eğer işe yararsa, her askeri şubenin sırlarını nasıl ele alacağını yeniden şekillendirecek bir yeteneğin sorumluluğunu ona veriyor. Federal hükümetin geri kalanı için (sınıflandırma iş yükünün ve aşırı sınıflandırma şikayetlerinin kronik olduğu yerlerde) başarılı bir Pentagon pilotu, yapay zeka destekli bilgi işleme için ilk büyük ölçekli şablonu sağlayacak ve bu konuda da yakından izlenecektir.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
