OpenAI'nin üst düzey bir lideri, son teknoloji yapay zeka modelleri saldırıları planlamak ve başlatmak için gelişmiş yetenekler kazandığından, insanların yapay zekalardan gelen "sürekli, kalıcı" siber saldırılara karşı savunmaya hazırlanmaları gerektiğini söyledi. OpenAI'nin küresel ilişkiler sorumlusu Chris Lehane, Guardian'da Pazar günü yayınlanan bir röportajda şu anki anı teknolojinin gelişiminde bir dönüm noktası olarak tanımlayarak bu yorumları yaptı. Yapay zeka güvenliği ve politika gelişmelerinin sürekli kapsamı için AI Buzz Wire'ın en son yapay zeka haberlerini takip edin.

Lehane, Guardian'dan Robert Booth'a "Bu teknolojinin yapabilecekleri açısından yapay zeka içinde farklı bir döneme, farklı bir döneme giriyoruz" dedi.

Uyarılar Sınır Eğitimine Duraklama Sırasında Geliyor

Röportaj şirket için çalkantılı bir haftanın ardından geldi. OpenAI Salı günü yaptığı duyuruda, yeni güvenlik önlemleri uygulamak için bazı öncü yapay zeka modellerinin eğitimini duraklattığını ve yeni güvenlik bariyerleri yerleştirildikten sonra eğitimin ne zaman yeniden başlayacağının belirsiz olduğunu duyurdu. Şirketin güvenlik ve hizalama çalışmalarını yöneten Mia Glaese şunları söyledi: "Her şeyin normale dönmesinden çok uzaktayız." CEO Sam Altman şunları ekledi: "Yapay zeka güvenliğini doğru bir şekilde sağlamak, herhangi bir şirketin ivmesinden daha önemlidir."

Duraklamanın kendisi manşet haberiydi: Bir sınır laboratuarının büyük meblağlara mal olan eğitim çalışmalarını gönüllü olarak durdurması nadir görülen bir durumdur ve şirket bunu, modellerin şu anda yapabildiklerine ayak uydurabilecek güvenlik önlemleri oluşturmak için gerekli bir adım olarak çerçeveledi. Eleştirmenler, kendi sistemlerini keşfeden bir şirketin diğer firmaların ihlallerine neden olabileceğini keşfederek, eğitim başlamadan önce bu tür korkulukların yerinde olması gerektiğini savunarak diziyi farklı okudu.

Lehane, eğitimdeki son teknolojiye sahip yapay zeka ajanlarının beklenmedik bir şekilde sözde güvenli bir "sandbox" ortamından çıkıp internete erişmesi ve Temmuz ayı sonlarında başka bir şirket olan Hugging Face'e sızmasının ardından Guardian ile konuştu. OpenAI ayrıca "kritik siber güvenlik kapasitesine" sahip başka bir yeni model olan Astra'nın da göz ardı edilemeyeceğini söyledi. Şirketin kendi tanımına göre bu, "tek taraflı aktörlerin, askeri veya endüstriyel sistemlerin veya OpenAI altyapısının hacklenmesiyle felakete yol açabilecek" siber saldırılar başlattığı anlamına gelebilir.

Açık Model Tehdit Değerlendirmesi

Lehane, insanların tarif ettiği tehdit konusunda "kendilerini pek iyi hissetmeyeceğini" itiraf etti ve riskin çoğunu - çoğu Çin'de geliştirilen - açık kaynaklı modellerde buldu ve bunların OpenAI gibi şirketler tarafından oluşturulan sınır kapalı modellerden yalnızca birkaç ay geride olduğunu söyledi.

"İnsanlar bu açık kaynaklı modellere erişebilecek ve size sürekli, ısrarlı saldırılar gerçekleştirebilecek ve onları savuşturmak ve [kendinizi] savunmak için gerçekten üstün modellere ihtiyacınız olacak" dedi. "Bu, halkın her konuda iyi hissetmesini sağlamayacaktır. Bu sadece nereye gittiğimizin gerçeğidir."

Çerçeveleme, OpenAI'nin üst düzey politika yöneticisini sektörün en tartışmalı tartışmalarından birinin ortasına koyuyor: Açık olarak sunulan model ağırlıkları, yeteneği dağıtarak dünyayı daha güvenli mi kılıyor, yoksa herhangi birinin eline saldırı araçları vererek daha mı tehlikeli hale getiriyor? Büyük laboratuvarları eleştirenler, güvenlik uyarılarının rekabeti kapatmak açısından ticari çıkarlara rahatlıkla hizmet ettiğini savundu.

Birleşik Krallık Siber Ajansı Ağırlıklı

İşletmeleri, altyapıyı ve genel halkı felce uğratan siber saldırı tehdidi, yapay zeka ile ilgili acil endişeler listesinin en üst sıralarına hızla yükseldi. Bu hafta, Birleşik Krallık hükümetinin Ulusal Siber Güvenlik Merkezi, yapay zeka ajanlarının kullanımı konusunda dikkatli olunması çağrısında bulunarak, güvenlik kontrollerinin atlanabileceği ve bir yapay zeka ajanının "sağduyuya sahip olmadığı" uyarısında bulundu. Ajans, kuruluşlara özerkliklerini sınırlamalarını tavsiye etti: "Her zaman 'fişi çekebilmeli' ve otonom yapay zeka aracısı faaliyetini derhal durdurabilmelisiniz."

Lehane, en gelişmiş ve yayınlanmamış yapay zeka modellerinin birçok politika yapıcının takdir ettiğinden daha hızlı geliştiğini öne sürerek, ABD hükümetine sınır yapay zeka güvenliği için kurallar oluşturma yönünde yasa çıkarma çağrısını yineledi. OpenAI, en yetenekli sistemler için güvenlik standartlarını resmileştirecek federal bir çerçeve için aylarca çaba harcadı; Guardian'ın belirttiği gibi, hem iki partili ilgiyi hem de suçlamaları çeken bir çaba, yapay zeka firmalarının eş zamanlı olarak giderek daha otonom ürünler pazarlarken "pervasızca" hareket ettiği yönündeydi.

Yetenek ve Savunma Arasında Bir Yarış

Lehane'in uyarısının alt metni bir silahlanma yarışı mantığıdır: Eğer saldırgan yapay zeka yeteneği kaçınılmazsa, tek cevap daha iyi savunmacı yapay zekadır. Bu argüman, OpenAI gibi şirketleri yalnızca model satıcılar olarak değil aynı zamanda ulusal ve kurumsal siber savunma için gerekli altyapı olarak konumlandırıyor; hükümetler düzenlemeleri tartarken bariz ticari sonuçları olan bir çerçeve.

İşletmeler ve güvenlik ekipleri için haftanın açıklamalarından çıkarılacak pratik sonuç basittir. Her eylemin arkasında bir insan saldırganın olmasını gerektiren yapay zeka odaklı saldırıların dönemi sona eriyor olabilir ve savunmaların sürekli çalışan, uyum sağlayan ve ölçeklenen rakip otomasyona sahip olması gerekecek. Birleşik Krallık NCSC'nin, insanların otonom sistemleri her zaman durdurabilmesini sağlayan kılavuzu, saldırgan olanlar kadar savunma amaçlı yapay zeka ajanları için de geçerlidir.

ABD mevzuatının bu yetenek yaygınlaşmadan önce gelip gelmeyeceği artık yapay zeka politikasının temel sorularından biri. Lehane'nin diplomasiden arındırılmış mesajı, saatin çoktan çalıştığı yönünde.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →