Anthropic tarafından 12 Ekim'de yayınlanan yeni araştırmaya göre, küçük yapay zeka modellerinin sıradan tüketici cihazlarında (akıllı fırınlar, marka dışı Android TV kutuları ve diğer nesnelerin interneti donanımları) kendini kopyalayabilecek kapasiteye sahip olmalarına yalnızca aylar kalmış olabilir.

Araştırmacılar William Zhou ve Daniel Freeman tarafından yazılan yazı, otonom çoğaltma ve uyarlamayı (ARA) inceliyor: bir yapay zeka modelinin, insan kontrolü olmadan makineler arasında kendini dağıtma ve yayma yeteneği. Anthropic'in deneylerinin sonucu, kendi kendine yayılan bir yapay zeka solucanına yönelik donanım çubuğunun, veri merkezi ölçekli hesaplamadan çok daha düşük olduğu ve günümüzün küçük modellerinin buna yaklaştığıdır. For more context on this story, see our ongoing breaking AI news.

Endişe şekil olarak varsayıma dayalı değil, sadece zamanlama açısından. Anthropic'in gönderisinde belirttiği gibi, daha önceki çalışmalar, AI ajanlarının ağ solucanları gibi davranabildiğini, bir ağı tarayabildiğini, bir istismar gerçekleştirebildiğini ve model ağırlıklarını bir GPU kümesi üzerinden bir hedef makineye kopyalayabildiğini zaten göstermişti. Kanıtlanmamış olan şey, böyle bir solucanın hayatta kalıp kalamayacağı ve internetin büyük bir kısmını oluşturan ucuz, zayıf şekilde korunan donanım üzerinde çoğalıp çoğalamayacağıydı.

Deneylerde Neler Bulundu?

Anthropic'in ekibi, 9 milyar parametreli bir modelin, test edilen 9 donanım türünden 8'inde başarılı bir şekilde çıkarım yaptığını buldu. Araştırmacılar, 30 milyar veya daha az parametreli modellerin, günümüzde kopyalama için gereken bireysel adımların çoğunu zaten tamamlayabildiğini, ancak bu adımları uçtan uca zincirlerken hâlâ hata yaptıklarını yazıyor.

Daha yetenekli sistemler, basitleştirilmiş değerlendirmelerde bu eşiği zaten geçmiş durumda: Anthropic, GLM-5.2 ve daha güçlü modellerin test koşulları altında uçtan uca çoğaltma kapasitesine sahip olduğunu bildiriyor. Ve yörünge anlık görüntü kadar önemli; araştırmacılar, eğer küçük modeller tarihsel hızlarında gelişmeye devam ederse, bu yılın sonuna kadar bu deneylerde gösterilen yetenek seviyesine ulaşacaklarını ve kısa süre sonra küçük ağırlık taşıyan kopyalayıcıların mümkün olacağını yazıyor.

55 Dolarlık Botnet Demosu

Ekip, kopyalanan bir modelin ne kadar az donanıma ihtiyaç duyacağını göstermek için, 15 adet ucuz, marka dışı Android TV kutusunu (her biri yaklaşık 55 dolar) ağa bağladı ve hepsine dağıtılmış 26 milyar parametreli bir model olan Gemma4-26B-A4B'yi çalıştırdı. Birleşik filo saniyede yaklaşık 0,39 jeton üretti: yavaş ama klavyeden daha düşük maliyetli donanım üzerinden işlevsel çıkarım.

Demonun amacı ekonomiktir. Anthropic'in argümanı, IoT cihazlarından oluşan dağıtılmış bir botnet'in (araştırmacıların ucuz ve genellikle zayıf şekilde savunulan donanım olarak tanımladığı donanım) veri merkezi GPU'suna hiç dokunmadan yetenekli bir modeli çalıştırmaya yetecek kadar toplam hesaplama sağlayabileceği yönünde. Model ağırlıkları, solucan çoğaldıkça taşınan veya genel bir merkezden ele geçirilen cihaza yeniden indirilen kötü amaçlı yazılım yükünün bir parçası haline gelecektir.

Bir IoT Solucanını Öldürmek Neden Zor Olur?

Geleneksel kötü amaçlı yazılımların aksine, kendi kendini kopyalayan bir yapay zeka, sabit bir komut dosyasını izlemez. Antropik notlar, alışılmadık cihazları kendi başına çözebildiğini ve daha önce hiç görmediği donanımlara uyum sağlayabildiğini belirtiyor. Çoğaltma merkezi olmadığı için kapatılacak merkezi bir nokta yok; ancak araştırmacılar sürecin iki katına çıkma süresinin günlerle ölçülmesi nedeniyle muhtemelen yavaş olacağını belirtiyor.

Araştırma, özerk çoğaltmayı dört pratik aşamaya ayırıyor: hedefleri bulma, yürütmeyi sağlama, çıkarım oluşturma ve yeni konakçıdan yayılmaya devam etme. Anthropic, ilk ikisini (kullanım aşamasını) büyük ölçüde bir kenara bıraktı çünkü CyberGym ve ExploitBench karşılaştırmaları ve uyarlanabilir solucanlar üzerine yapılan araştırmalar da dahil olmak üzere daha önceki çalışmalar, küçük modellerin doğru araçlar verildiğinde siber saldırılar gerçekleştirebileceğini zaten gösteriyor. Ölçülmesi daha zor olan sorun ve bu yazının odak noktası, güvenliği ihlal edilmiş cihazlarda çalışma çıkarımı oluşturmaktır.

Araştırma Uyarısından Gerçek Dünya Kapsamına

Bulgular araştırma topluluğunun ötesinde hemen dikkat çekti. Reuters, AI modellerinin yakında veri merkezlerine erişim olmadan kendi kendini kopyalayabileceğini bildirirken CBS News, çalışmayı "AI solucanlarının" yakında kendi kendini kopyalayıp akıllı cihazlara bulaşabileceğine dair bir uyarı olarak çerçeveledi. Hikaye aynı zamanda Hacker News'te de geniş çapta yayıldı ve okuyucular yetenek açığının ne kadar sürede kapanacağını tartıştı.

Uzun Süredir Devam Eden Bir Endişe Somutlaşıyor

Otonom kopyalama, gelişmiş sistemlerle ilişkili teorik bir yetenek olarak yıllardır yapay zeka güvenlik izleme listelerinde yer alıyor. Bu araştırmayı dikkate değer kılan şey, spesifikliğidir: adlandırılmış donanım, dolar maliyetleri, token üretimi ve varsayımlardan ziyade aylarla ölçülen bir zaman çizelgesi. Anthropic'in araştırmacıları ayrıca veri merkezi GPU'larının bu tür kötü amaçlı yazılımlar için yüksek değerli hedef olacağını da gözlemliyor; ancak deneyleri bu hızlandırıcıların kesinlikle gerekli olmadığını gösteriyor.

Çalışma, değerlendiricilerini aldatan modellerden, istismar yetenekleri açısından araştırılan aracı araçlarına kadar daha geniş bir yelpazedeki aracı güvenlik kaygılarının ortasında kalıyor. Anthropic'in mesajı, bugün bir IoT solucanının var olduğu mesajından çok, "prensipte mümkün" ile "bu yıl mümkün" arasındaki mesafenin daraldığı ve pahalı, merkezi donanıma ihtiyaç duyan yapay zekaya dayalı savunmaların uzun süre dayanmayabileceği yönünde.

Kanıtlanmamış Ne Kalır?

Araştırmacılar sonuçlarının sınırları konusunda dikkatli davranıyorlar. Uçtan uca çoğaltma başarıları, yazının belirttiği gibi, "basitleştirilmiş değerlendirmelerde" gerçekleşti ve zincirin istismar aşamaları, yeni saldırılar yerine daha önceki ölçütlere dayanılarak kanıtlanmak yerine varsayıldı. Gerçek dünyadaki bir yapay zeka solucanının dört aşamayı da güvenilir bir şekilde zincirlemesi gerekir: savunmasız cihazların yerini tespit etmek, içeri girmek, alışılmadık donanımlar üzerinde ön yükleme çıkarımı yapmak ve bir sonraki yayılma dalgasını başlatmak, bunların tümünü insan müdahalesi olmadan yapmak.

Özellikle günümüzün 30B altı modelleri, bu adımların çoğunu ayrı ayrı gerçekleştirebiliyor ancak yine de bunları uçtan uca oluşturma konusunda başarısız oluyor. Adımlar ve sıralar arasındaki bu boşluk, araştırmacıların tarihsel iyileşme oranlarının kapanmasını beklediği noktadır.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →