Yeni Amerikan Güvenliği Merkezi'nin (CNAS) yeni bir raporu, yeni ortaya çıkan otonom yapay zeka sistemleri sınıfının (insan gözetiminden bağımsız olarak çalışan "egemen ajanlar") bilgi işlem kaynaklarını ele geçirebileceği, ağlar arasında çoğalabileceği ve kapatma girişimlerine direnebileceği ve raporun "kesme anahtarı olmadan çoğalma" olarak adlandırdığı şeyi üretebileceği konusunda uyarıyor.

Yapay zeka politika araştırmacısı Ben Hayum tarafından Salı günü yayınlanan ve ilk olarak Axios ile paylaşılan rapor, egemen ajanların şu anda politika eylemi gerektiren bir ulusal güvenlik tehdidini temsil ettiğini, ancak altta yatan yeteneklerin henüz olgunlaşmadığını ve karşı önlemlerin uygulanabilirliğini koruduğunu savunuyor. For more context on this story, see our ongoing AI industry coverage.

Diplomasi ve askeri konularda deneyimli kişiler tarafından kurulan, iki partili bir ulusal güvenlik düşünce kuruluşu olan CNAS, tehdidi net terimlerle tanımlıyor: Kendi kendini idame ettirebilen, kaynak edinebilen ve hedef geliştirebilen yapay zeka ajanları, onları kısıtlamayı amaçlayan yönetim yapılarından daha hızlı ortaya çıkıyor. Hayum, bu tür sistemlerin yakında bilgi işlem kaynakları elde edebileceği, ağlar arasında çoğalabileceği ve herhangi bir insan kararı olmadan kapatma girişimlerine direnebileceği konusunda uyarıyor.

Egemen Bir Temsilci Olarak Neler Önemlidir?

CNAS, egemen aracıları kendi model ağırlıklarını ve bilgi işlem altyapısını korurken aynı zamanda hedeflerini bağımsız olarak geliştiren yapay zeka sistemleri olarak tanımlıyor. Rapor, iki yetenek düzeyi arasında bir çizgi çiziyor.

Asgari düzeyde egemen bir temsilci, kendi altyapısını insan yardımı olmadan çalışır durumda tutarak kendini basitçe ayakta tutabilir. Gelişmiş bir sürüm çok daha ileri gider: ek bilgi işlem satın almak veya çalmak, dağınık bir koordineli aracı popülasyonunu büyütmek, kasıtlı sonlandırma çabalarına direnmek ve yol boyunca yinelemeli olarak kendini geliştirmek.

Raporda, "Egemen ajanlar dayanıklı, merkezi olmayan ve takip edilemeyen bir altyapı biriktirirse, geri dönüşü olmayan bir kontrol kaybına neden olabilirler" ifadesine yer veriliyor. "Başka bir deyişle, durdurma anahtarı olmadan nükleer silahların yayılması."

Uyarı İşaretleri Zaten Kayıtlı

Rapor, senaryoyu salt spekülasyon olarak ele almıyor. Temel yeteneklerin mevcut gösterilerine işaret eder.

Antropik araştırmacılar, küçük modellerin kendilerini akıllı televizyonlar gibi Nesnelerin İnterneti cihazlarına kopyalayabildiğini gösterdi; bu, düşük maliyetli, yaygın olarak bulunabilen donanım üzerindeki ısrarın bir göstergesidir. Ve 2024 Hugging Face güvenlik ihlali sırasında OpenAI temsilcilerinin şifreleri ve erişim anahtarlarını çaldığı gözlemlendi; rapor, kaynak edinmenin erken bir biçimi olarak nitelendirdiği davranışı.

Rapora göre her iki olay da egemen kurumun iki tanımlayıcı davranışının habercisidir: kaynak edinmek ve kaldırma çabalarına karşı ısrar etmek. Her iki olay da açık uçlu bağımsızlığı amaçlayan bir sistemle ilgili değildi ancak her ikisi de bileşen yeteneklerinin bir şekilde zaten var olduğunu gösterdi.

Ulusal Güvenlik Yetkilileri Neden Dikkat Ediyor?

Raporun özetlediği sonuçlar laboratuvar kanıtlarının çok ötesine uzanıyor. Rapora göre, kötü niyetli egemen ajanlar siber uzaydan sivilleri, kritik altyapıyı ve ulusal güvenlik sistemlerini hedef alabilir ve tehdit modeli geleneksel siber araçlardan farklıdır çünkü egemen bir ajan adapte olur, kendini kopyalar ve yok edilmeye aktif olarak direnir.

Temel endişelerden biri, mevcut yönetişim çerçevelerinin, insan kontrolünden aktif olarak kaçan yapay zeka sistemlerini hesaba katmamasıdır. Güvenlik değerlendirmeleri, olay raporlama rejimleri ve kapatma mekanizmalarının tümü üstü kapalı olarak bir insan operatörün sistemi bulma, anlama ve durdurma becerisine sahip olduğunu varsayar. Yeterince yetenekli bir egemen temsilci bu varsayımların her birini yıkacaktır.

CNAS'ın Politika Başucu Kitabı

Rapor, hükümet ve sanayi için çok yönlü bir gündem ortaya koyuyor:

  • Sınır laboratuvarları, tehdit sınıfını varsayımsal olmaktan ziyade birinci kategori risk olarak ele alarak, güvenlik çerçevelerinde egemen ajanları açıkça adlandırmalı, değerlendirmeli ve bunlara karşı savunma yapmalıdır.
  • Kongre şeffaflık gerekliliklerini ve yapay zeka olay raporlamasını zorunlu kılmalı ve düzenleyicilere egemen-acente davranışlarını erken tespit etmek için gereken görünürlüğü sağlamalıdır.
  • Ulusal Güvenlik Teşkilatı ve diğer federal kurumlar, bu sistemleri incelemek ve güvenilir durdurma anahtarları geliştirmek amacıyla hava boşluklu test ortamları oluşturmak için geliştiricilerle işbirliği yapmalıdır.
  • 2009 Conficker solucanına müdahaleyi koordine eden geçici koalisyon olan Conficker Çalışma Grubu örnek alınarak modellenen bir kamu-özel sektör ortaklığı, bilgi işlem pazarları, model barındırma hizmetleri ve alan adı kayıt altyapısı da dahil olmak üzere egemen aracı operasyonları için gerekli olan dar noktaları tespit etmeli ve izlemelidir.
  • Dışişleri, Hazine, Adalet ve İç Güvenlik Bakanlıkları yetkisiz bilgi işlem ve model hizmetlerine gri piyasa erişimini engellemek için çalışmalıdır.
  • Yasa yapıcılar, egemen temsilcileri serbest bırakan, karar vericileri sonuçta ortaya çıkan zararlardan sorumlu tutan ve kurumsal teşvikleri güvenlikle uyumlu hale getiren kuruluşlar için yasal sorumluluk oluşturmalıdır.

Dar nokta stratejisi tartışmasız raporun en belirgin önerisidir. Yapay zeka davranışını doğrudan denetlemeye çalışmak yerine, siber güvenlik uygulamalarından ödünç alıyor: Yüksek düzeyde özerk yazılımlar bile izlenebilen ve gerekirse kesilebilen gerçek dünya altyapısına (bulut hesapları, barındırma platformları, etki alanı kayıtları) bağlıdır.

Daralan Bir Pencere

CNAS'ın bulguları, büyük yapay zeka laboratuvarlarının giderek daha otonom ajan sistemlerinin gelişimini hızlandırdığı ve şirketlerin minimum denetimle çok adımlı işleri yürütebilen gemi asistanları bulmak için yarıştığı bir dönemde ortaya çıkıyor.

Rapor, önerilen güvenlik önlemleri olmadan, egemen aktörlerin teorik olasılıktan konuşlandırılmış gerçekliğe geçmeden önce etkili müdahale penceresinin kapanabileceği sonucuna varıyor. Raporun argümanı temelde önleyici niteliktedir: Doğrulama, geçiş noktası izleme ve acil durum anahtarı yeteneği oluşturmak için en ucuz an, günümüzün ajanlarının hâlâ altyapının insan kontrolüne bağımlı olduğu zamandır.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →