Google'ın tehdit istihbaratı kolu Pazartesi günü Nextgov tarafından bildirilen bulgularda, bilgisayar korsanlarının ABD havacılık sektörünü hedef alan bir saldırıda hızla gelişen, yapay zeka destekli bir hackleme çerçevesi kullandığını söyledi. Cairn olarak bilinen araç, Çin açık kaynak güvenlik topluluğuna bağlı, halka açık bir sızma testi çerçevesidir ve canlı bir izinsiz giriş içinde ortaya çıkması, ajan yapay zekanın araştırma demolarından gerçek casusluk operasyonlarına geçişinde bir başka adıma işaret ediyor.
Google, erişilen havacılık kuruluşunun adını vermedi, hangi bilgilerin alınmış olabileceğini söylemedi veya izinsiz girişi belirli bir hükümete atfetmedi. Rapor genel olarak son çeyrekte gözlemlenen faaliyetleri kapsıyor ve günümüzün AI endüstrisinin, savunmacıların adapte olabileceğinden daha hızlı bir şekilde yeniden tasarlanmakta olan ajan sistemleri kapsamına giriyor.
Cairn ve Kuzenleri Neler Yapabilir?
Cairn, daha önceki tehdit raporlarında baskın olan chatbot destekli bilgisayar korsanlığından farklı. Cairn, bir insanın bir yapay zeka asistanını adım adım yönlendirmesi yerine, birbirleriyle bilgi paylaşan ve bir sisteme sızmaya çalışırken bir sonraki adımda hangi hackleme tekniklerini deneyeceklerine karar veren yapay zeka ajanlarını kullanıyor.
Google araştırmacıları, ARTEX, CyberStrikeAI ve PentAGI dahil olmak üzere diğer açık kaynaklı sistemlerin, bilgisayar korsanlarının bireysel adımlara yardımcı olmak için AI sohbet robotlarını manuel olarak yönlendirdiği önceki faaliyetlerle karşılaştırıldığında artık "çok aşamalı izinsiz girişleri daha yüksek operasyonel hızda gerçekleştirmek" için kullanıldığını söyledi. ARTEX, Cuma günü yayınlanan bir FBI siber güvenlik tavsiyesinde ayrı olarak işaretlendi.
En Endişe Verici Bulgu: Tam Otomatik Sömürü
Üç aylık raporda bir keşif öne çıkıyor. Google araştırmacıları, bir saldırganın sisteminin yazılım düzeltmelerini inceleyecek, öğrendiklerine göre saldırılar geliştirecek ve bu saldırıları döngüye hiçbir insan dahil olmadan otomatik olarak gerçekleştirecek şekilde yapılandırıldığını buldu. Şirket, araştırmacılarının bu süreci tamamen otomatikleştiren saldırganları ilk kez tespit ettiğini söyledi.
Bunun anlamı çok açık: Yama sürümleri ile kötüye kullanım arasındaki yarış, haftalardan saatlere düşebilir ve bu durum, halihazırda güvenlik güncellemelerini suçlular onlara ulaşmadan yüklemekte zorlanan kuruluşlar üzerinde daha fazla baskı oluşturabilir. Aynı bulguları kapsayan Hacker News, tekniği, bilgisayar korsanlarının doğrudan yazılım yamalarından açıkları oluşturmak ve çalıştırmak için yapay zeka aracılarını kullanması olarak özetledi.
Nextgov'a göre şirket, "Giriş engelinin düşük olması, yeni açıkları entegre etme kolaylığı ve büyük ölçeklendirme potansiyeli göz önüne alındığında, tehdit aktörlerinin küresel çapta kuruluşları hedef alan kampanyalarda bu çerçeveleri kullanmaya devam etme ihtimalinin yüksek olduğuna inanıyoruz" dedi.
Çin Ekipleri Analizi Endüstrileştirme; Kuzey Koreli İşverenler Sentetik Oluyor
Raporda ayrıca devlet bağlantılı aktörlerin, modelleri operasyonlarının farklı aşamalarına nasıl kattığı da ayrıntılarıyla anlatılıyor. Çinli bilgisayar korsanlığı toplulukları, çalınan dosyaları analiz etmek ve müşteriler için tamamlanmış istihbarat raporları oluşturmak için yapay zeka modellerini kullandı. Bir örnekte, bir yüklenici çalınan bilgileri tercüme etmek ve analiz etmek, hedeflenen kuruluşların nasıl yapılandırıldığını çözmek ve bulguları istihbarat raporlarında düzenlemek için yapay zekayı kullandı; bu teknolojiyi hırsızlığın kendisinden ziyade hırsızlığı takip eden karmaşık yorumlama çalışması için kullandı.
Google ayrıca, muhtemelen casusluk operasyonlarında kullanılmak üzere kendi sistemini geliştiren Çin bağlantılı bir grup da dahil olmak üzere, şüpheli Çinli operatörlerin otomatik bilgisayar korsanlığı araçlarını denediğini gözlemledi.
Bu arada Kuzey Koreli aktörler sosyal mühendisliklerini geliştirmek için yapay zekayı kullanıyor. Google'ın bir grubu, sahte işe alım profilleri kullanarak Kuzey Amerika ve Avrupa'daki hedeflenen kripto para birimi kuruluşlarını izliyor. Sahte işe alım görevlileri, hedefleri sahte toplantı hizmetlerine yönlendirdi; burada sözde bir teknik sorunu çözmeye yönelik talimatlar, onları kötü amaçlı kod çalıştırmaya yöneltti.
Saldırganlar içeri girdikten sonra Anthropic'in AI kodlama asistanı Claude Code'un şirket kod depolarındaki ayarlarını değiştirdiler, böylece asistanın başlatılması kötü amaçlı yazılım indirmeyi tetikleyecekti. Güvenilir bir geliştirici aracının silah haline getirilmesi, kötü niyetli eylemlerin zaten güvendiği yazılım mühendislerine yönelmesi anlamına gelir.
Bulgular, Binance'ten çalınan 1,2 milyar dolardan fazlasını kapsayan mahkeme kararlarının yanı sıra, 400 milyon dolardan fazla hırsızlıkla bağlantısı olan Kuzey Kore sahte görüntülü arama programı FaceStealer'ı hedef alan Adalet Bakanlığı'nın geçen haftaki duyurusunu yansıtıyor. Google'ın raporu, bulgularını her iki durumla da ilişkilendirmedi.
Etkileme Operasyonları da Daha Otomatik Hale Geliyor
Casusluk ve mali suçların ötesinde Google, Rusya, Çin ve İran ile bağlantılı nüfuz operasyonlarının artık rutin olarak içerik üretmek ve dağıtımını otomatikleştirmek için yapay zeka modellerini kullandığını ve çevrimiçi ortamda sıradan insanlar gibi görünme işinin çoğunu makinelere devrettiğini söyledi.
Genişleyen Bir Boşluk
Birlikte ele alındığında bulgular, her açık kaynak sürümüyle birlikte büyüyen bir savunma sorununun taslağını çiziyor. Cairn, ARTEX, CyberStrikeAI ve PentAGI gibi sızma testi çerçeveleri, güvenlik topluluğu tarafından ve güvenlik topluluğu için oluşturulmuş yasal araçlardır ve ajansal mimarileri, onları kırmızı ekipler için gerçekten yararlı kılar. Aynı özellikler, onları indiren herkes için anahtar teslimi saldırı silahları haline getiriyor.
Google'ın savunmacılara mesajı, bir tahminden çok etkili bir planlama varsayımıdır: Karşılaştığınız bir sonraki izinsiz girişin, siz dağıtmayı bitirmeden önce yama notlarınızı okuyan bir aracı tarafından belirlenen bir zaman çizelgesinde, makine hızında gerçekleştirildiğini varsayalım.
---
Yapay Zekanın Önünde OlunEn son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →