Bağımsız araştırmacılardan oluşan bir ekip, yapay zeka modellerinin, denetçiler modelin ağırlıklarına tam erişime sahip olsa bile, matematiksel olarak tespit edilmekten kaçınması garanti edilen, tamamen işlevsel gizli yetenekler taşıyabileceğini gösterdi. "Yapay Zeka Modelleri Keyfi Yetenekleri Muhtemelen Gizleyebilir" başlıklı makale, 9 Ekim 2026'da Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas ve Christian Schroeder de Witt tarafından arXiv'de yayınlandı ve bu hafta sitenin ön sayfasını yaptıktan sonra Hacker News'te büyük ilgi gördü.
Çalışma, modern yapay zeka güvenlik uygulamalarının temel bir varsayımına çarpıyor: Tehlikeli davranışlar, konuşlandırılmadan önce, yapabileceği her şeyi ortaya çıkarmak için tasarlanmış testlerle bir modeli inceleyen yetenek değerlendirmeleri yoluyla ortaya çıkarılabilir. Yazarlar, bu varsayımın çekişmeli koşullar altında çöktüğünü gösteriyor. Makalede belirtildiği gibi, yetenek değerlendirmelerinin güvenilirliği "gizli yeteneklerin ortaya çıkarılabileceği varsayımına bağlıdır" ve bu varsayımın açıkça başarısız olduğu yerlerde saldırılar düzenlerler. Güvenlik araştırmalarındaki en son yapay zeka gelişmelerini takip eden okuyucular için bu makale, yetenekli bir modelin aslında neler yapabileceğini gizlerken prensip olarak değerlendirmelerini geçebileceğinin en katı resmi kanıtlarından biridir.
Gizleme Düzeni Nasıl Çalışır?
Araştırmacılar, şifreli sinir ağları dedikleri şeyi bir ana bilgisayar modelinin ağırlıklarına yerleştiren arka kapı saldırıları geliştirdiler. Gizli ağ, gizli bir tetikleyici alana kadar modelin görünür davranışına hiçbir katkıda bulunmaksızın şifrelenmiş biçimde orada durur. Bu noktada model gizli devrenin şifresini çözer ve onu çalıştırır.
Yapının kalbindeki kriptografik mekanizma, yazarların dijital dolap dediği şeydir. Standart kriptografik varsayımlar altında, bu dolaplar gizli devrelerin ortaya çıkarılmasını ve yorumlanmasını, modelin ağırlıklarına tam erişimi olan bir denetçi için bile zorlaştırır. Başka bir deyişle, gizleme, gizlemenin incelikli veya tesadüfen zor olmasına bağlı değildir. Şifreli iletişimleri koruyan aynı türden matematiksel sertlik garantilerine dayanır.
Bu, modellerin şifreler veya kısa mesajlar gibi sabit dizeleri gizleyebileceğini gösteren alanda daha önceki çalışmaları genişletiyor. Yeni makale, hedef direklerini önemli ölçüde hareket ettiriyor: Artık gizlenebilecek olan şey keyfi bir hesaplamadır; statik bir sır yerine tam, işleyen bir yetenek.
Gerçek Denetim Tekniklerine Karşı Test Edildi
Ekip, kavram kanıtlama yapılarını PyTorch'ta uyguladı ve ardından standart model denetimi araç seti ile bunlara saldırdı. Değerlendirmeler, ince ayar, ağırlık gürültüsü, gradyan tabanlı tetik arama ve gizli rakip eğitimi yoluyla ortaya çıkarmayı test etti; bu teknikler, denetçilerin şüpheli bir modelden gizli davranışı gerçekte ne kadar ciddi bir şekilde çıkarmaya çalışacağını temsil eden bir dizi tekniktir.
Test görevi, gerçek dünyada riskli yeteneklere örnek olarak bilinçli olarak seçilen küçük bir kimyasal reaksiyon tahmin problemiydi: kimyasal tahmin görevleri, konuşlandırma öncesi değerlendirmelerin en çok önem verdiği yetenekler kategorisi olan KBRN ile ilgili (kimyasal, biyolojik, radyolojik ve nükleer) becerilerin yerine geçer. Gizli uygulamalar, kendilerine sunulan tüm ortaya çıkarma yöntemlerine direndi.
Kriptografik garantilerle birlikte yazarlar, sonuçlarının ortaya çıkarmaya dayalı yetenek denetimlerinin temel bir sınırını ortaya çıkardığını ileri sürüyorlar. Bir model geliştiricinin veya bir modeli kurcalayan kötü niyetli bir üçüncü tarafın bir yeteneği gizleme güdüsü varsa, davranışın ortaya çıkarılmasına dayanan denetimler onu bulamayabilir.
Bu Yapay Zeka Güvenliği Açısından Neden Önemli?
Yetenek değerlendirmeleri, öncü yapay zeka laboratuvarlarının modellerin piyasaya sürülmesinin güvenli olup olmadığına karar vermesinin standart bir parçası haline geldi. Makale, üretim modellerinin şu anda yetenekleri bu şekilde gizlediğini iddia etmiyor. Daha doğrusu, denetim katmanının kendisinin yapısal bir zayıflığı olduğunu gösteriyor: Bir modelin eğitimi üzerinde kontrol sahibi olan bir rakip, prensipte hiçbir incelemenin ortaya çıkaramayacağı yetenekler yerleştirebilir.
Etkiler birkaç yönde kesildi. Laboratuvarlar için bu, model ağırlıkları konusunda paranoyak tedarik zinciri güvenliği durumunu güçlendiriyor; arka kapılı bir kontrol noktası sadece bir güvenilirlik riski değil aynı zamanda potansiyel olarak tespit edilemeyen bir risktir. Denetçiler ve düzenleyiciler için, yalnızca davranış örneklemesine dayanan değerlendirmelerin, modellerin nasıl eğitildiğine ve ele alındığına ilişkin daha güçlü garantilerle tamamlanması gerekebileceğini öne sürüyor. Ve araştırma camiası için somut bir savunma zorluğu tanımlıyor: Yazarlar, özellikle bu saldırı sınıfına karşı savunmanın iyileştirilmesini desteklemek için modellerini kamuya açıkladılar.
Makale aynı zamanda daha geniş bir felsefi acı da taşıyor. Yapay zeka güvenliğinin büyük bir kısmı, güvene giden yolu test edebileceğimiz, yani yeterli sayıda kırmızı ekibin bir modelin neler yapabileceğini bulacağı fikrine dayanıyor. Kanıtlanabilir bir gizleme mekanizması, testleri yararsız hale getirmez, ancak bu, her testi geçmenin artık bulunacak hiçbir şey olmadığının kanıtı olarak görülemeyeceği anlamına gelir. Sınır modeller daha yetenekli ve daha özerk hale geldikçe, denetimlerin gösterebileceği şeyler ile hangi modellerin içerebileceği arasındaki uçurum, tam da bu alanın ciddiye almak zorunda kalacağı türden bir sorun olacaktır.
Yazarların kriptografik yapılar ve değerlendirme ayrıntıları da dahil olmak üzere tam makalesi arXiv'de mevcuttur ve yayınlanan kavram kanıtlama modelleri, savunuculara dijital dolap tarzı gizlemeye karşı çalışan bina tespit yöntemleri için somut bir başlangıç noktası sağlar.
---
Yapay Zekanın Önünde OlunEn son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
