The Guardian'ın Pazartesi günkü haberine göre, aralarında Nobel ödüllü Geoffrey Hinton, yapay zeka öncüsü Yoshua Bengio, Anthropic kurucu ortağı Jack Clark ve OpenAI baş bilim adamı Jakub Pachocki'nin de bulunduğu 20'den fazla araştırmacı, hükümetleri tarihteki en önemli teknolojik gelişme olabileceğini söyledikleri bir yapay zeka "istihbarat patlamasına" hazırlanmaları konusunda uyardı.

"Yapay zeka Ar-Ge'sini otomatikleştirmek bir istihbarat patlamasını tetiklerse ne olur" başlıklı makale, politikacıları teknolojide kontrolsüz bir ilerleme yaşanmadan harekete geçmeye çağırıyor. Yazarları senaryoyu "yapay zekanın ilerlemesinde dramatik bir yapay zeka odaklı hızlanma, aksi takdirde yıllar sürecek ilerlemelerin aylar veya daha kısa sürede sıkıştırılması" olarak tanımlıyor. En son yapay zeka araştırma haberlerini takip eden okuyucular için rapor, alarmından çok onu imzalayan kişiden çok dikkat çekicidir: Akademik çevrelerden ve rakip öncü laboratuvarlardan gelen rakamlar, politika yapıcıların en az hazırlıklı olduğu senaryonun otomatikleştirilmiş araştırma olduğu fikrini ortaya koymaktadır.

İstihbarat patlaması ne anlama gelir?

Yazarların temel kaygısı, yapay zeka sistemlerinin insan müdahalesi olmadan kendilerini geliştirme olasılığıdır; bu, özyinelemeli kişisel gelişim olarak bilinen ve makalede genel olarak otomatik yapay zeka araştırma ve geliştirme olarak anılan bir süreçtir.

Makalede, yapay zeka sistemleri yapay zeka Ar-Ge'sinde uzman düzeyinde yeteneklere ulaştığında, tek bir geliştiricinin "milyonlarca" üst düzey insan araştırmacıya eşdeğer bir iş gücünü çalıştırabileceği öne sürülüyor. Yazarların görüşüne göre yapay zeka Ar-Ge'sini otomatikleştirmek, bir zeka patlamasının en olası tetikleyicisidir, çünkü yapay zeka sistemleri halihazırda kendi teknolojilerinin geliştirilmesine katkıda bulunmaktadır ve yaratılmasına yardımcı oldukları gelişmiş sistemler, oluşturulduktan sonra hızla devreye alınabilir.

The Guardian'a göre gazetede "Bir istihbarat patlaması, yıllarca süren ilerlemeyi aylar veya daha kısa sürelere sıkıştıran, yapay zeka sistemleri üzerindeki insan kontrolünü tehdit eden ve eyaletler, şirketler ve hükümet organları içindeki ve arasındaki güç kontrollerini ciddi şekilde aşındıran, insanlık tarihindeki en önemli teknolojik gelişme olabilir" diyor.

Yazarlar neden pencerenin kapandığını söylüyor?

Raporun aciliyeti bir zaman çizelgesi iddiasına dayanıyor: Bugün sorunlu görünen yapay zeka sistemleri, şu anda insan ekiplerinin aylar süren Ar-Ge projelerini 2028 yılına kadar tamamen otomatik hale getirebilir.

Yazarlar, "Yapay zeka Ar-Ge otomasyonundan elde edilen üretkenlik kazanımları henüz bir zeka patlamasını tetiklemek için gereken eşiğe ulaşmadı, ancak daha yeni sistemlerden elde edilen kazanımlar muhtemelen bu eşiğe yaklaşıyor" diye yazıyor. "Bir istihbarat patlaması başladığında eylem penceresi kapanabilir."

Makale, "ön kanıtların, yazılım odaklı bir istihbarat patlamasının mümkün olduğunu gösterdiğini" ve bunun "son derece yetenekli veya insanüstü yapay zeka sistemlerinin son derece hızlı gelişmesine" yol açabileceğini ekliyor.

İşaretledikleri riskler

Bir istihbarat patlaması tıbbi buluşlara ve hızlı teknolojik sıçramalara neden olabilirken, yazarlar üç temel tehlikeyi özetlemektedir:

  • Kaçıp giden tehditler. Güçlü sistemler, bunlara karşı koymak için gereken önlemlerden daha hızlı gelişen biyolojik ve siber tehditlere olanak sağlayabilir.
  • Kontrol kaybı. İnsanlar yapay zeka Ar-Ge'sine daha az dahil oldukça, oluşturdukları sistemleri yönlendirme ve kısıtlama fırsatını kaybedebilirler.
  • Stratejik istikrarsızlık. Devletler, örneğin siber uzaydaki mütevazı bir liderliği belirleyici bir ulusal avantaja dönüştürmek için bir istihbarat patlamasını kullanabilirler.

Rapor, bu etkilerin "belirsiz" olduğunu açıkça belirtiyor. Teknolojik bir atılımın, özel malzemeler veya düzenleyici gereksinimler için belirli tedarik zincirlerini uygulamaya koyması zaman alabilir ve yapay zeka sistemleri, risklerin azaltılma hızını da hızlandırabilir.

Hükümetler ne yapmalı?

Yazarlar, bir istihbarat patlamasına hazırlanmanın "en üst düzey hükümet liderliği de dahil olmak üzere acil bir öncelik olması gerektiğini" söylüyor ve bir dizi aday politika ortaya koyuyor:

  • Bağımsız denetçilerin yapay zeka şirketlerine yerleştirilmesi de dahil olmak üzere, yapay zeka ile ilgili Ar-Ge konusunda şeffaf ilerleme raporlarının zorunlu kılınması
  • Bir yapay zeka sisteminin belirli bir zaman diliminde ne kadar hızlı gelişebileceğini sınırlamak
  • Belirli AI Ar-Ge projelerinin duraklatılmasını sağlamak için veri merkezleriyle çalışmak
  • Otomatik yapay zeka Ar-Ge sistemlerinin tamamen izole olmasını ve insan kontrolünden kaçmamasını sağlamak
  • İstihbarat patlamasının üretebileceği çeşitli senaryolar için "acil durum müdahale planları" oluşturmak

Teklifler, halihazırda Batı Yapay Zeka politikasında yer alan zorunlu olay raporlama, üçüncü taraf değerlendirmesi ve bilgi işlem yönetişimi gibi fikirleri genişletiyor ancak bunları belirli bir uç noktaya uyguluyor: araştırmanın otomasyonunun kendisi.

Neden bu yazarlar ve neden şimdi

İmzacılar gazeteye alışılmadık bir ağırlık veriyor. Hinton ve Bengio, sinir ağları üzerindeki temel çalışmalarıyla tanınan, modern yapay zekanın "vaftiz babalarından" ikisidir; her ikisi de yaratılmasına katkıda bulundukları teknoloji hakkında uyarıda bulunan öne çıkan sesler haline geldi. Clark, Anthropic'in kurucu ortağıdır ve Pachocki, OpenAI'nin baş bilim insanıdır.

Uyarıları, bu yönde ölçülebilir endüstri hareketinin ortasında yer alıyor. Anthropic, The Guardian'a göre yapay zekanın artık kendi kodunun %80'ini ürettiğini, OpenAI'nin ise yeni modellerin eğitimi gibi alanlarda otonom yapay zeka ajanlarını kullandığını söyledi. Her iki laboratuvar da yapay zeka gelişiminin güvenlik açısından kritik bir aşamaya ulaştığı uyarısının ardından bağımsız değerlendiricilerin modellerini değerlendirmesini kabul etti.

Hükümetlerin yazarların istediği hızda ilerleyip ilerlemeyeceği başka bir sorudur. Ancak gazetenin temel argümanı (frenleri yapma anının, arabanın onlara ihtiyaç duymasından önce olduğu) artık makineye en yakın kişiler tarafından onaylanıyor.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →