Anthropic Perşembe günü, Tehdit İstihbaratı ekibinin Aralık 2025 ile Ağustos 2026 arasında Claude'u kötüye kullanan tehdit aktörlerini nasıl tespit ettiğini ve engellediğini açıklayan "Yapay zekanın kötüye kullanımını tespit etme ve bunlara karşı koyma" başlıklı Eylül 2026 tehdit istihbarat raporunu yayınladı. Vakalar yedi farklı zarar alanını kapsıyor: siber operasyonlar, nüfuz operasyonları, gözetleme, dolandırıcılık ve dolandırıcılık, biyolojik kötüye kullanım, geleneksel silah geliştirme ve yasa dışı model damıtma. Şirkete göre, açıkladığı her kampanya kesintiye uğradı ve istihbarat, uygun olduğu durumlarda yetkililerle ve sektör ortaklarıyla paylaşıldı.
Rapor, yapay zeka endüstrisi ve özellikle de Anthropic için yoğun incelemelerin yapıldığı bir zamanda geldi; çünkü bu hafta son dakika yapay zeka haberleri güvenlik açıklamaları, ihbarcı hesapları ve kanun yapıcılardan gelen artan baskıların hakimiyetindeydi. Aynı zamanda The New York Times ve Politico'nun biyolojik silah geliştirmeyle ilgili engellenen çabalar da dahil olmak üzere sınır modellerini silah haline getirme girişimlerini vurgulayan haberleriyle birlikte geliyor.
Anthropic, Yapay Zeka Destekli Tehdit Aktörlerini Nasıl Takip Ediyor?
Anthropic, raporunda aktörleri Üretken Tehdit Grupları veya GTG'ler olarak bilinen dahili tanımlayıcılar altında izliyor. Her vaka çalışması, şirketin iyileştirme olarak adlandırdığı şeyi, yani yapay zekanın bir operasyona üç boyutta sağladığı yetenek artışını ölçer: hız, ölçek ve derinlik. Kötüye kullanım vakaları Claude Haiku, Sonnet ve Opus modellerini içeriyordu. Yasadışı bir damıtma vakası dışında hiçbiri şirketin Fable veya Mythos sınıfı modellerini içermiyordu.
Anthropic, yayınlama isteğini bir pazarlama çalışması olmaktan ziyade bir görev olarak çerçeveliyor ve raporda "hizmetlerimizin kötü niyetli suiistimalini ifşa etme sorumluluğumuz olduğuna inanıyoruz" ifadesini kullanıyor.
Kendi Kötü Amaçlı Yazılımını Yeniden Oluşturan Midnight Blizzard Bağlantılı Bir Operasyon
Raporun GTG-20006 olarak takip edilen en kapsamlı siber vakası, Anthropic'in söylediğine göre, kendisini daha önce Nobelium veya APT29 olarak bilinen Rus devletine bağlı bilgisayar korsanlığı grubu Midnight Blizzard'a bağlayan kamuya açık raporlarla tutarlı olan bir aktörü tanımlıyor. "JackPoterz" tanıtıcısını kullanan operatörlerden biri, Rusça konuşmaktadır.
Rapora göre grup, Ukrayna hükümeti, askeri ve diplomatik kurumlar arasında yoğunlaşan 20'den fazla kuruluşu hedef aldı. DNS kayıtlarını ele geçirmek için en az üç otel Wi-Fi sağlayıcısının güvenliğini tehlikeye attı, en az iki eski üst düzey Ukraynalı yetkilinin WhatsApp hesaplarını ele geçirdi ve Kuzey Afrika hükümetinin teknoloji otoritesinden yarım milyondan fazla şirketi kapsayan ticari sicil verileriyle birlikte 300.000'den fazla ulusal kimlik kaydını çaldı.
En dikkat çekici detay otonom adaptasyon: Anthropic, aktörün yapay zeka ajanlarının, güvenlik ürünleri tespit ettiğinde grubun kötü amaçlı yazılımını değiştirdiğini ve yeniden oluşturduğunu bildirdi; bu, daha önce talep üzerine yetenekli geliştiricilerin ihtiyaç duyduğu bir döngüydü.
Geniş Ölçekte Kimlik Bilgisi Toplama ve Otonom Sıfır Gün Avcılığı
İkinci bir vaka olan GTG-50014, ShinyHunters kolektifiyle bağlantısı olduğundan şüphelenilen operatörleri kapsıyor. Kimlik bilgisi toplama hatları 1,8 milyon Android APK'sını toplu olarak indirdi ve bunları sabit kodlanmış sırlara karşı taradı. Bir teknoloji sağlayıcısının ele geçirdiği bir saldırıda, milyonlarca ödeme kartı kaydı da dahil olmak üzere bir terabayttan fazla veri sızdırıldı. Başka bir bağlı kuruluş, ihlal edilen bir hizmet olarak yazılım sağlayıcısının yaklaşık 200 alt müşterisinden veri çıkardı ve yaklaşık 34 saat içinde 40'tan fazla kurumsal kiracıyı kapsayan 2.100'den fazla Azure AD token setini çöpe attı; rapora göre işin neredeyse tamamını yapay zeka aracıları gerçekleştirdi.
GTG-10007, savunmacılar için hâlâ daha ayıltıcıdır. Anthropic, bu kümeyi, yaklaşık elli kuruluşu hedef alan ve özerk bir güvenlik açığı araştırma programı yürüten, muhtemelen Changsha, Hunan merkezli Çince konuşan operatörlere (bunlardan ikisinin lisans öğrencisi olduğunu belirledi) bağlıyor. Ağ cihazlarını yineleyen bir iş akışı, tek bir ayda bir düzineden fazla olası sıfır gün bulgusu sağladı.
Gasp, Yalnız Bir Hacktivist ve Yapay Zeka Laboratuvarlarına Başarısız Bir Baskın
Mali motivasyonlu suiistimal özellikleri belirgindir. Rusça konuşan bir aktör olan GTG-50020, bir kurbandan yaklaşık 26 gigabaytlık veri sızdırdı ve 1,5 ila 2,5 milyon dolar arasında bir gasp talep etti. Aynı grup daha sonra, yayın öncesi bir Claude modeline erişme hedefiyle yaklaşık dört gün içinde yaklaşık otuz yapay zeka şirketine saldırdı. Anthropic, denenen her yolun başarısız olduğunu ve kendi sistemlerinden asla ödün verilmediğini söylüyor.
Yelpazenin diğer ucundaki GTG-50029, en az dört siteye karşı daha önce belgelenmemiş bir WordPress yeniden yükleme yarışı koşulundan yararlanan, izlenen 42 hedeften en az 14'üne dahili erişim elde eden ve yaklaşık 140.000 kaydı sızdıran, Fransızca konuşan tek bir hacktivistti (kullanıcıların siyasi görüşleri de dahil olmak üzere bir kampanya platformundan). Aktör daha sonra on milyonlarca satırla dolu bir kişisel bilgi toplama platformu olan fafsearch'ü kurdu.
Orta Afrika Cumhuriyeti'nden Malezya'ya Etki Operasyonları
Raporda yer alan dokuz nüfuz operasyonu vakası Rusya, İran, Türkiye, Körfez, Güney Asya, Afrika ve Avrupa'dan kaynaklandı ve erişimi Brookings Enstitüsü'nün Patlama Ölçeğine göre ölçüldü. Bir vakada, Bangui merkezli Rusça konuşan bir aktör olan GTG-04001, Politoloji ile bağlantılı bir Antropik istasyon olan Radio Lengo Songo için günlük içerik üretti - değerlendirdiği Afrika Birliği ve Wagner nüfuz şubesi, 2023'ün sonlarında Rusya Dış İstihbarat Servisi kontrolüne girdi. Operasyonda, ülkenin cumhurbaşkanına ve Rusya'ya sadakati zorunlu kılan sahte Orta Afrika Cumhuriyeti hükümet belgeleri ve iş sözleşmeleri üretildi ve ölçekte Kategori Dört olarak değerlendirildi.
Diğer bir ağ olan GTG-54002'nin ise yaklaşık 70 uydurma haber sitesi, 70 eşleşen X hesabı ve 250'den fazla orijinal olmayan yorum hesabı işleten Fransa merkezli bir dijital reklam ajansı olan LKM Company'ye kadar takip edildiği belirlendi. Ağ yaklaşık 20 dilde en az 8.913 makale yayınladı; bunların 318'i Demokratik Kongo Cumhuriyeti'ne odaklandı.
Seçimler de bir hedefti. Anthropic'in İstanbul merkezli BBS Bilişim Teknolojileri ile bağlantılı olduğu, Malezya'yı hedefleyen ticari bir seçim manipülasyon platformu olan GTG-84005, Malezya'daki 222 parlamento seçim bölgesinin tamamında yaklaşık 1.000 sahte X hesabını yönetti ve muhalif bir siyasetçiye karşı uydurma dosyalar hazırladı. Ayrı bir küme olan GTG-24015, Rus devlet medyasını besleyen yapay zeka destekli bir yazı işleri masası olarak dört hesap kullandı.
Açıklama Neden Önemlidir
Anthropic, her durumda faaliyeti kesintiye uğrattığını, bulguları güvenlik önlemlerini güçlendirmek için kullandığını ve uygun olduğunda yetkililerle ve sektör ortaklarıyla istihbarat paylaştığını söyledi. Kendi tespitlerinin başarısızlık analizleriyle tamamlanan ayrıntılı vaka çalışmalarını yayınlamak, öncü laboratuvarlar arasında nadir olmaya devam ediyor ve şirket, şeffaflığın tüm sektör için temel çizgiyi yükselttiğini savunuyor.
Rapor ayrıca güvenlik ekiplerinin artık görmezden gelemeyeceği bir değişimin de altını çiziyor: Burada açıklanan en tehlikeli yapay zeka destekli operasyonlar varsayımsal gösteriler değil, hükümetlere, şirketlere ve seçimlere karşı canlı kampanyalardı. Modeller daha yetenekli hale geldikçe Anthropic'in verileri, kararlı rakiplere sağladıkları artışın arttığını ve savunucuların şimdilik mevcut en iyi cevabının görünürlük, açıklama ve güvenlik önlemlerinin daha hızlı yinelenmesi olduğunu gösteriyor.
---
Yapay Zekanın Önünde OlunEn son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
