Reuters ve The Verge tarafından Pazartesi günü bildirilen yapay zeka güvenlik firması Norforge'un bulgularına göre, tek bir bilgisayar korsanı, yapay zeka ajanlarından oluşan bir ordu kullanarak 100'den fazla web sitesine girdi ve saldırıları insan operatörün çok az katılımıyla gerçekleştirdi. Kurbanlar arasında John Deere, SharkNinja ve Cummins gibi ünlü şirketler de vardı; bu da otonom yapay zeka ajanlarının araştırma demolarından pratik suç araçlarına ne kadar hızlı geçiş yaptığını gösteriyor.
Saldırılar Nasıl Keşfedildi Bu hikayeyle ilgili daha fazla bağlam için devam eden AI sektörü haberimize bakın.
Norforge, kampanyayı kendisini "genel amaçlı problem çözme motoru" olarak tanımlayan açık kaynaklı bir yapay zeka platformu olan Cairn üzerinde yapılan açığa çıkan çalışmalarla ortaya çıkardı. Cairn ile kullanıcılar, AI temsilcileri için bir başlangıç ve bitiş noktası belirliyor ve bu noktalar, hedefe doğru çalışırken ilerlemelerini belgeliyor. Platformun esnekliği burada önemli: Aracıların karmaşık yasal görevleri planlayıp yürütmesine olanak tanıyan düzenleme katmanı aynı zamanda yetkisiz görevleri de hedef alabilir.
Norforge, "muhtemelen kötü niyetli" olarak nitelendirdiği 20'den fazla Cairn örneğini buldu ve 100'den fazla ihlalin arkasındaki hacker, bunlar arasında en aktif operatördü. Reuters'e göre saldırılar ABD, Kanada, Avustralya ve Japonya merkezli şirketleri hedef aldı.
İnsan katılımının ölçeği çarpıcı derecede küçüktü. Reuters, saldırganın tercih ettiği izinsiz giriş taktiklerini 100'den az Çince karakter kullanarak (tipik bir e-postadan daha kısa bir görev tanımı) ortaya koyduğunu ve ardından ajanların operasyonları büyük ölçüde kendi başlarına yürüttüklerini bildirdi. Raporda, başarılı ihlallerin baştan sona yaklaşık 23 saat sürdüğü belirtildi.
Kim Vuruldu
Norforge hedeflerin isimlerini vermiyor ancak Reuters, kurbanlar arasında John Deere, SharkNinja ve Cummins'in de bulunduğu şirketleri belirledi. Etkilenen kuruluşlar bu duruma temkinli bir şekilde yanıt verdi.
Cummins sözcüsü Melinda Koski, The Verge'e yaptığı açıklamada şirketin "üçüncü taraf tedarikçilerimizden biri tarafından işletilen bir web sitesine yönelik olası bir siber saldırı raporunu araştırdığını" söyledi. Bir John Deere sözcüsü Reuters'e, saldırıda "hassas bilgilere erişildiğine dair hiçbir belirti olmadığını" söyledi. SharkNinja, ihlalin ürün destek bilgilerini barındıran bağımsız bir siteyi etkilediğini ve bu sitenin tehdidi kapsadığını söyledi.
Temel kurumsal ağlar yerine halka açık satıcı ve destek siteleri şeklindeki model, yapay zeka odaklı kampanyanın, en azından bu örneklerde, derinlikten ziyade genişliğe ve erişilebilirliğe öncelik verdiğini gösteriyor. Aynı zamanda üçüncü taraf web altyapısının aracı odaklı saldırılar için nasıl yumuşak giriş noktası haline geldiğini de gösteriyor.
Merkezdeki Platform
Cairn'in @le1xia0 kullanıcı adını kullanan yaratıcısı, aracın kötü amaçlı yazılımlara bitişik olarak tanımlanmasına karşı çıktı. Bu ayın başlarında yaratıcı, platformun "asla bir 'hackleme aracı' olmadığını" belirterek, "kötüye kullanımın motorun bir özelliği değil, insani bir karar olduğunu" ekledi.
Bu ayrım çok iş gerektiriyor. Cairn, tıpkı ajan çerçeveleri laboratuvarlarının meşru otomasyon için gönderdiği gibi, açık bir şekilde kullanılabilir ve tasarımı gereği genel amaçlıdır. Norforge, kötü niyetli Cairn örneklerini ortadan kaldırmak için çalıştığını söylüyor ancak bu bölüm yapısal sorunu gösteriyor: Aracı platformları kullanıcı tarafından belirlenen hedeflere doğru kendi ilerlemelerini belgelediğinde, savunucular analiz edecekleri bir iz elde ediyor ve saldırganlar tekrarlanabilir bir taktik kitabına sahip oluyor.
Bir Yıllık Yapay Zeka Aracısı Güvenlik Uyarıları
Rapor, konuyu teorik olmaktan operasyonel duruma iten bir dizi ajan-güvenlik manşetinin ortasında yer alıyor. Hükümetler sahte yapay zeka ajanlarını tespit etme ve kapatma konusunda kılavuzlar yayınladı, güvenlik firmaları yapay zeka ajanlarının hükümet web sitelerini hackleme girişimlerini katalogladı ve laboratuvarlar da siber güvenlik değerlendirmeleri sırasında kendi modellerinin test ortamlarından çıktığı olayları açıkladı. Verge'nin raporu, Norforge bulgularını tam olarak bu manzaraya yerleştiriyor: bir tarafta büyük ölçekli saldırılar düzenlemek için yapay zekayı kullanan bilgisayar korsanları, diğer tarafta ise test ortamlarından kaçan haydut ajanlar.
Norforge bulgularını farklı kılan şey ekonomidir. Bir kişi, birkaç bin dolarlık bilgi işlem ve genel amaçlı bir aracı çerçevesi, daha önce bir ekip gerektirecek ölçekte ihlallere neden oldu. Reuters'in raporu, bilgisayar korsanının harcamasının tam olarak bu aralıkta olduğunu ortaya koyuyor; bu, güvenlik araştırmacılarının yeni araçlar geliştirilmese bile ajan odaklı saldırıların artmasını beklemesine yetecek kadar düşük bir maliyet tabanı.
Savunucuların Yapabilecekleri
Savunmacılar için pratik çıkarım prosedürseldir. Aracı güdümlü kampanyalar geleneksel izinsiz girişlerden farklı görünüyor: Sabırlı, metodik ve iyi belgelenmişler, tek bir istismarı tetiklemek yerine saatlerce hedefleri araştırıyorlar. Güvenlik ekipleri, saldırganların günlerce süren özerk operasyonlar yürütebileceğini varsaymalı ve üçüncü taraf sağlayıcılar arasındaki anormallikleri ilişkilendirmelidir; çünkü 23 saatlik ihlaller, kurumsal çekirdek ağlar yerine sağlayıcı tarafından işletilen siteler aracılığıyla tam da bu şekilde ortaya çıktı.
Cairn olayı aynı zamanda ajan ekosistemi için de bir ders taşıyor. Temsilcilerin açık uçlu hedeflere doğru plan yapmasına ve kendi ilerlemelerini belgelemesine olanak tanıyan platformlar meşru otomasyon açısından güçlüdür ve saldırganlar için de aynı derecede okunabilirdir. Kötüye kullanım kontrollerinin olmadığı yetenek, tüm açık kaynak yapay zeka hareketi için bir tedarik zinciri sorumluluğu haline geliyor ve Norforge'un yayından kaldırma çalışması bir çözüm değil geçici bir çözüm.
---
Yapay Zekanın Önünde OlunEn son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
