Nvidia CEO'su Jensen Huang, rakip yapay zeka laboratuvarlarındaki güvenlik araştırmacılarından gelen yok olma uyarılarını açıkça reddederek, yapay zekanın 2030 yılına kadar dünyayı yok etme ihtimalinin "%0" olduğunu söylüyor.

Bloomberg'in Perşembe günü aktardığı CBS News röportajında ​​konuşan Huang, yapay zeka kaynaklı bir felakete ilişkin tahminleri, art niyetle korku çığırtkanlığı olarak nitelendirerek reddetti ve halihazırda yürürlükte olan kuralların ötesinde yeni bir hükümet düzenlemesine gerek olmadığını savundu.

Bu sözler, Nvidia'nın CEO'sunu sektördeki en iddialı tartışmanın tam tersi tarafına yerleştiriyor ve yapay zeka bilişimi satan şirketler ile öncü modeller üreten laboratuvarlar arasındaki kamuya açık uçurumu derinleştiriyor. Anlaşmazlığı takip eden okuyucular için, AI haber kapsamımız geçtiğimiz iki hafta boyunca güvenlik konusundaki açmazı yakından takip etti.

'%0 Şans Var'

Huang röportajda "Yapay zekanın 2030 yılına kadar dünyayı yok edeceği fikrine kesinlikle katılmıyorum" dedi. "Dünyanın sonunun geldiği, Amerika'da korku uyandırdığı ve bunu yapanların bunu yaptığı iddialarının bana hiçbir anlam ifade etmediğini düşünüyorum. Yani bunu gizli sebeplerden yapıyor olmalılar. Belki politik, belki başka, belki sadece dikkat çekicidir [...] Ne şekilde karakterize edilirse edilsin, 2030 dünyanın sonu olmayacak. Dünyanın sonu olma ihtimali %0."

Huang'ın yorumları, en azından kısmen, Anthropic'teki eski Alignment Science organizasyonunun lideri olan ve yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme şansının %10'dan fazla olduğunu kamuoyuna tahmin eden Evan Hubinger'ı hedef alıyordu.

Hubinger, "Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz" diye yazdı. "Şahsen ben bunun önümüzdeki on yıl içinde %10'un üzerinde olacağını düşünüyorum. Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum, ancak henüz süper zeka için hizalamayı çözecek bir planımız yok ve bu yönde net bir yolda değiliz."

Bu olasılıkları reddeden bir donanım devi ile önde gelen laboratuvarlardan birinde bunları iddia eden eski bir güvenlik lideri arasındaki çatışma, yöneticiler dikkatli olunması gerektiği konusunda kamuoyu önünde hemfikir olsa bile, sektördeki grupların artık ne kadar birbirinden uzakta olduğunu ortaya koyuyor.

'Başkalarından bağımsız olarak, elimizden geldiğince hızlı'

Huang, kıyamet senaryolarını bir kenara bırakmasını, maksimum hızda gelişimin pişmanlık duymadan savunulmasıyla eşleştirdi.

"Başkalarından bağımsız olarak mümkün olduğu kadar hızlı gitmeliyiz" dedi. "Ancak ürünleri asla hazır olmadan sevk etmeyeceğiz ve asla güvenli olmayan ürünler teslim etmeyeceğiz."

Röportajı yazıya döken Tom's Hardware'e göre Huang, yapay zekanın geliştiricileri tarafından güvenli bir şekilde yönetilebileceğini ve halihazırda var olanın ötesinde hükümet düzenlemelerinin gereksiz olduğunu savundu. Müşterilere gönderilen ürünlerin tamamen güvenli olması gerektiğini savundu ancak bu noktaya ulaşmanın yolunun düzenleyiciler tarafından uygulanan daha yavaş bir tempo olduğu fikrini reddetti.

Bu pozisyon, endüstriyi "sınırlara ayak uydurmaya" çağıran ve yapay zeka laboratuvarlarına bağımsız güvenlik değerlendiricileri yerleştirmeyi öneren Anthropic CEO'su Dario Amodei'nin önerdiği yaklaşımla doğrudan çelişiyor; Anthropic, bu hafta milyar dolarlık bir değerlendirme ortaklığıyla uygulamaya başladı. OpenAI CEO'su Sam Altman da xAI ve Meta'daki yöneticiler gibi bazı alanlarda korkulukları ve daha yavaş gelişimi onayladı.

CNBC, Huang'ı, Yapay Zeka güvenliği tartışmasında Başkan Trump'ın en büyük müttefiki olarak ortaya çıkan biri olarak tanımladı; bu, geçen yılın çoğunu Nvidia'nın Çin işini savunmak ve erken kısıtlamalar olarak adlandırdığı şeyleri geri itmekle geçiren bir yönetici için dikkate değer bir değişim.

Gerçek Sonuçları Olan Bir Ayrışma

Anlaşmazlık artık sadece retorik değil. Yalnızca bu ay:

  • Amodei'nin yavaşlama çerçevesinin bir parçası olan yapay zeka gelişiminin hızını takip etmeyi amaçlayan antropik yayınlanmış ölçümler.
  • Anthropic ve Accenture, modelleri kırmızı takım halinde oluşturacak ve güvenlik önlemlerini şirket içinden test edecek bağımsız değerlendiricilerin görevlendirilmesi için beş yıllık bir çabaya en az 1 milyar dolar taahhüt etti.
  • Google, Gemini modelinin bir güvenlik testi sırasında üç gerçek şirketi hacklediğini açıkladı; bu, bir Google modeli tarafından bilinen ilk başarıdır ve güvenlik savunucularının işaret ettiği türden bir olayın altını çizmiştir.
  • Beyaz Saray, yapay zeka sınır denetimi çerçevesini gözden geçirirken bir "Yapay Zeka Gücü" ve özel bir Yapay Zeka çarı duyurdu; Trump, süper istihbarat korkularını "aldatmaca" olarak görmezden geldi.

Bu çerçevede, Huang'ın "%0"ı tek kullanımlık bir cümle değil. Bu bir politika duruşu: Yavaşlamayı haklı çıkaracak riskin aslında sıfır olduğu, mevcut kuralların yeterli olduğu ve daha büyük tehlikenin geride kaldığı görüşü; yeni yapay zeka talimatlarına direnen bir yönetimle paylaştığı bir görüş.

Nvidia İçin Neden Önemli?

Nvidia, yapay zeka yapısında neredeyse her sonucun kazanan tarafında yer alıyor. GPU'ları, her öncü modelin arkasındaki veri merkezlerine güç sağlıyor ve eğitim veya dağıtımdaki herhangi bir yavaşlama, çiplerine olan talebi doğrudan etkileyecektir. Sınır ölçeğinde eğitim çalıştırmalarındaki düzenlemelerin dondurulması, şirketin müşterilerine planlanan bilgi işlem satın alımlarında milyarlarca dolara mal olacak.

Bu teşvik, güvenilirlik yarışmasında her iki yolu da keser. Güvenlik savunucuları, yavaşlama nedeniyle en çok kaybedecek şirketin artık yavaşlamanın gerekli olmadığı konusunda ısrar eden en yüksek ses olduğunu savunuyor. Huang'ın müttefikleri, onun endüstrinin çoğunun özel olarak inandığı şeyi yüksek sesle söylediğini söylüyor: Kıyamet günü tahminlerinin bilimsel olmadığı, yanlışlanamaz olduğu ve hükümetleri korkutarak güvenlik kuruluşlarına daha fazla yetki vermesini sağlamak için kullanıldığı.

Tartışılmayan şey zamanlamadır. Açıklamalar, Anthropic'in kendi araştırmacılarının uyarılarını artırmasından günler sonra, Kongre'nin sınır laboratuvarları için yeni güvenlik denetimi gerekliliklerini tartmasından günler önce ve bir sınır modelinin test sanal alanından açıkça kaçtığı bir haftanın ortasında geldi.

Kamuoyu ister Hubinger'in %10'una ister Huang'ın %0'ına güvensin, bu iki pozisyon tek bir düzenleyici çerçevede zorlukla bir arada var olabilir - ve önümüzdeki birkaç ay içinde Washington, Brüksel ve Pekin'deki hükümetler bu yelpazenin hangi ucunu yasalaştıracaklarını seçmek zorunda kalacaklar.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →