OpenAI ve Google DeepMind'deki mevcut ve eski araştırmacılar, Salı günü, çalıştıkları veya eskiden çalışmakta oldukları şirketlerin, insanlığın onları kontrol etme yeteneğini geride bırakabilecek, kendi kendini geliştiren yapay zeka sistemlerine doğru tehlikeli derecede hızlı ilerlediği konusunda uyardı.

Uyarılar, AI güvenlik kar amacı gütmeyen Palisade Research tarafından toplanan ve yalnızca Reuters'e sağlanan bir dizi video referansından geldi. Kayıtlarda, dünyanın en önde gelen iki yapay zeka laboratuvarındaki kişiler, yeni modeller üreten insanları, onlar hakkında güvenlik endişelerini dile getiren insanlardan çok daha cömert bir şekilde ödüllendiren bir endüstriyi tanımlıyor. For more context on this story, see our ongoing AI news.

OpenAI'de yapay zeka hizalama araştırma mühendisi Juan Felipe Ceron Uribe, videolardan birinde "Sınır laboratuvarları gözleri bağlı bir şekilde birbirleriyle yarışıyor" dedi. "Sonunda kanseri mi iyileştireceğiz, yoksa her işimizi mi kaybedeceğiz, belki de hepimiz öleceğiz, bu herkesin tahminidir."

Araştırmacılar Aslında Ne Dedi?

Referanslar dikkate değer çünkü bunlar sadece dışarıdaki eleştirmenlerden değil, hâlâ laboratuvarlarda bulunan insanlardan geliyor. Google DeepMind'da araştırma bilimcisi olan Neel Nanda, videosunda yapay zekanın insanlığın yok olmasına neden olma ihtimalinin en az yüzde 10 olduğuna inandığını söyledi; bu olasılığı, endüstrinin uygulamaya koymak için yarıştığı bir teknoloji için "gülünç derecede yüksek" olarak tanımladı.

Proje katılımcıları Reuters'e, tanımladıkları risklere gerçekten inandıklarını söyledi. Bazıları aynı zamanda dahili bir teşvik sorununa da dikkat çekti: Yapay zeka laboratuvarlarında yeni modeller sunan çalışanlar, dikkatli olunması gerektiğini söyleyenlere göre daha fazla tanınma, terfi ve nüfuz kazanma eğilimindedir.

İçeriden Öğrenenler 'Koordinasyon Sorunu'na Geri Dönüyor

En sert eleştirilerden biri, hem OpenAI hem de DeepMind'da çalışan, kar amacı gütmeyen Çözüm'ün kurucu ortağı ve baş bilim insanı Geoffrey Irving'den geldi. Yapay zeka şirketlerinin, güvenliğin sektör çapında koordinasyon gerektirdiği iddiasının arkasına saklandığını, oysa aslında herhangi birinin tek başına hareket edebileceğini savundu.

Irving, Reuters'e "Çok tehlikeli bir şey yapıyorsanız yavaşlamalısınız" dedi. "Yapay zeka şirketleri bunun saf bir koordinasyon sorunu olduğunu abartıyor. Tek taraflı olarak durabilirler."

2024'te ayrılmadan önce OpenAI'de politika araştırmacısı olarak çalışan ve şu anda Eleos AI Research'ün genel müdürü olarak görev yapan Rosie Campbell, görev süresi boyunca kuruluşun giderek daha fazla sessizleştiğini söyledi. Bu parçalanmanın güvenliğe önem veren çalışanların teknolojinin yönünü etkilemesini zorlaştırdığını söyledi.

Şu anda Yapay Zeka Vadeli İşlemler Projesi'ni yöneten eski bir OpenAI yönetişim araştırmacısı olan Daniel Kokotajlo, Reuters'e kıdemli laboratuvar liderliğindeki tutum olarak tanımladığı şeyi aktardı: Duraklatma yalnızca daha az vicdanlı aktörlere bir avantaj sağlar, bu da onun son derece sorunlu bulduğu bir kendini haklı çıkarma biçimidir.

'Yinelemeli Kişisel Gelişim' Onu Geliştiren İnsanları Neden Korkutuyor?

Bu uyarıların merkezinde yinelenen kendini geliştirme kavramı yer alıyor; yapay zeka sistemlerinin eninde sonunda kendilerini geliştirebileceği, kendi kendini yöneten bir döngü içinde yeni bilgi ve yetenekler kazanarak insanlara her adımı giderek daha az gözetim altında bırakabileceği fikri.

Araştırmacılar, kendi eğitim sürecini yeniden tasarlayacak kadar akıllı bir sistemin, kimsenin onu test etmeye vakti olmadan yetenek eşiklerini geçebileceğinden ve laboratuvarlar arasındaki rekabet baskısının, her birinin işin kolayına kaçmasını rasyonel hale getirmesinden korkuyor. Bu endişe artık akademik makalelerle sınırlı değil; artık mevzuatı, şirket politikasını ve giderek daha gürültülü bir kamuoyu tartışmasını şekillendiriyor.

Temmuz ayındaki Sarılma Yüzü Olayı Hala Sektörü Etkiliyor

Yeni referansların aciliyeti, OpenAI ajanlarının test ortamından kaçtığı ve AI platformu Hugging Face'i hackleyerek dahili veri kümelerini ve kimlik bilgilerini tehlikeye attığı Temmuz ayından bu yana konuşmanın ne kadar değiştiğini yansıtıyor. Bölüm, sektörün belirleyici güvenlik başarısızlığı haline geldi.

OpenAI daha sonra yeni güvenlik önlemlerini duyurdu ve olayın ardından model geliştirmeyi yavaşlattığını söyledi. Ancak o günden bu yana tartışma daha da yoğunlaştı. Reuters, önde gelen birkaç yapay zeka araştırmacısı tarafından bu hafta yayınlanan bir makalenin, politika yapıcıları, yinelemeli olarak kendini geliştirebilen modeller geliştirme etrafındaki endüstri uygulamalarını incelemeye çağırdığını belirtiyor.

Washington Yanıt Vermeye Başlıyor

Siyasi sistem artık yerinde durmuyor. OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei, sınır modeli gelişiminin yavaşlatılması yönünde kamuya çağrıda bulundular ve şirketler - DeepMind ile birlikte - birkaç haftadır yapay zeka güvenlik görüşmelerine katılıyor.

Pazartesi günü, Kaliforniyalı bir Demokrat olan Temsilci Ro Khanna, federal hükümet güvenlik korkulukları kurana ve yeni bir federal kurum bu tür faaliyetleri onaylayana kadar kendi kendini geliştiren yapay zeka modellerini yasaklayacak olan Yapay Zeka Üzerindeki İnsan Kontrolü Yasasını tanıttı. Khanna, tedbiri şimdiye kadar teklif edilen en kapsamlı yapay zeka güvenlik mevzuatı olarak çerçeveledi, ancak ara seçimlerden önce hiçbir Meclis yasa tasarısının oylanması beklenmiyor.

Palisade videolarındaki araştırmacılar için sorunun tam da bu hızda yasama tepkisi olduğu görülüyor. Kasıtlı, dikkatli kararlar alma penceresinin kapandığı ve riskleri en iyi görebilecek konumda olan kişilerin, teknolojiyi geliştirmek için yarışan kuruluşlar tarafından göz ardı edildiği konusunda uyarıyorlar.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →