San Francisco'daki Moscone Center bu hafta olağandışı bir kamuoyu anlaşmazlığına ev sahipliği yaptı: Salesforce'un Dreamforce konferansında birkaç saat arayla aynı sahnede yer alan Nvidia, Anthropic ve OpenAI liderleri, yapay zekanın ne kadar hızlı ilerlemesine izin verilmesi gerektiği sorusuna oldukça farklı yanıtlar verdi.

Nvidia CEO'su Jensen Huang, Salesforce şefi Marc Benioff'a hız ve güvenlik arasındaki çerçevenin yanlış olduğunu söyledi. CNBC'ye göre Huang, "Bu yanlış bir seçim" dedi. "Kesinlikle ikisine de aynı anda sahip olabilirsiniz." For more context on this story, see our ongoing AI industry coverage.

Onun tutumu, günün erken saatlerinde Anthropic CEO'su Dario Amodei ve daha sonra OpenAI CEO'su Sam Altman tarafından, bir hafta içinde araştırma bloglarından Washington'daki konferans açılış notlarına geçen bir tartışmada dile getirilen görüşle tam bir tezat oluşturuyordu.

Amodei'nin Yavaşlama Konuşması Açılış Platformuna Sahip Oldu

Amodei ilk olarak ortaya çıktı ve yaklaşık 12.000 kişilik bir izleyici kitlesinin önünde Salesforce'un yıllık açılış konuşması için Benioff'a katıldı. Bu görünüm, Amodei'nin hafta sonu yayınladığı ve endüstriyi model geliştirme hızını yavaşlatmaya çağıran bir makalenin ardından geldi; Amodei, bu önerinin "ticari avantajdan veya ABD'nin yapay zekadaki liderliğinden ödün vermeden" yeteneklerin ne kadar hızlı iyileşebileceğini azaltabileceğini söyledi.

CNBC'ye göre Amodei, gönüllü kısıtlamayı sektör için bir liderlik testi olarak çerçeveledi. Benioff'a "Bence sektörü ileriye taşımanın, örnek oluşturmanın, herkesin her zaman daha iyi olabileceğini söylemenin yolunun bu olduğunu düşünüyorum" dedi.

Makale, aralarında OpenAI'den Sam Altman, SpaceX CEO'su Elon Musk ve Google DeepMind başkanı Demis Hassabis'in de bulunduğu diğer sektör yöneticilerinden kısa sürede halkın desteğini aldı. Endüstri araştırmacılarının yapay zekanın yıkıcı zararlara neden olma potansiyeli konusunda alarm vermesinden günler sonra indi ve yavaşlama argümanına yeni bir aciliyet kazandırdı.

Huang: Yeni Yasalar Değil, Piyasa Güçleri

Sınır modellerini eğiten ve çalıştıran donanımları satarak şirketi dünyanın en değerli şirketi haline gelen Huang, hem takas önermesini hem de yeni düzenleme fikrini reddetti. Pervasız davranışları disipline eden piyasa güçlerinin zaten mevcut olduğunu ve ürünleri konusunda sorumlu bir şekilde hareket etmenin model geliştiricilere bağlı olduğunu savundu.

Huang, Benioff'a "Mümkün olduğu kadar hızlı koş" dedi. "Ancak herhangi bir zamanda şirketin kontrolden çıktığını veya ürünün güvenli olmayacağını hissederseniz, bir ara verin ve doğru yaptığınızdan emin olun."

Ayrım önemli: Huang, şirketlerin asla duraklamaması gerektiğini savunmuyor; yalnızca kararın yasalar veya sektör çapında koordineli ilerleme hızı anlaşmaları aracılığıyla uygulanmak yerine her şirkette kalması gerektiğini savunuyor. Bir gün önce, Los Angeles'taki Her Şey Dahil Zirvesi'nde Huang, yapay zeka veri merkezi inşaatını engellemeye çalışan insanlarla ilgili endişelerini dile getiren Başkan Donald Trump'tan bir hoparlör aldı. Huang, "Bunun olmasına izin vermeyeceğiz efendim" diye yanıtladı.

Altman: Güvenliğin 'Niteliği Olmamalı'

Altman'ın Dreamforce sahnesine çıkma sırası günün ilerleyen saatlerinde geldi ve kendisini Huang'dan çok Amodei'ye yakın konumlandırdı. Benioff ile şömine başında yapılan bir sohbet sırasında Altman, mevcut modellerin gücü göz önüne alındığında güvenlik ve izlemenin yeteneklerden önce gelmesi gerektiğini söyledi.

Güvenlik taahhütlerini rakiplerin davranışlarına bağlayan şirketleri hedef aldı. Altman, "'Sadece diğer şirketler sorumlu olursa biz de sorumlu olacağız' gibi şeyler söyleyen şirketleriniz var" dedi ve insanlar bir şirketin "ne olursa olsun" güvende olmak için ne yapacağını sorduğunda cevabın şartlara yer bırakmaması gerektiğini ekledi. "Bu konuda hiçbir niteleyici olmamalıdır."

Benioff Ortada Oturuyor

Üç yöneticiye de ev sahipliği yapan Benioff, ilerleme hızı konusunda bir taraf seçmeyi reddetti. Gazetecilere verdiği demeçte, "Yavaşlamaları gerektiğini hissediyorlarsa yavaşlamalılar. Hızlanmaları gerektiğini hissediyorlarsa, hızlanmalılar" dedi ve şirketlerin "sorumlu tutulması gerektiğini" ekledi.

Konferans aynı zamanda iş ilişkilerinin ne kadar karmaşık hale geldiğini de ortaya koydu. Salı günü Salesforce ve Nvidia, Salesforce'un Agentforce platformu için Nvidia'nın açık ağırlıklı Nemotron modellerinden biri üzerine inşa edilen yeni bir akıl yürütme modelini duyurdu. Ağustos ayı sonlarında Salesforce ve Anthropic, stratejik ortaklıklarını genişletti ve satış görevlilerinin Claude içinden Salesforce verilerine erişmesine olanak tanıyan "Claudeforce"u tanıttı.

Bölünme Neden Önemlidir

Dreamforce alışverişleri, yapay zeka yönetimi tartışmalarında merkezi fay hattı haline gelen şeyi netleştirdi: kısıtlamanın koordine edilmesi ve potansiyel olarak kodlanması mı yoksa rekabet baskısına ve bireysel kurumsal karara mı bırakılması gerektiği.

Amodei'nin teklifi isteğe bağlı olmaya devam ediyor, ancak OpenAI, DeepMind ve xAI CEO'ları tarafından onaylanması, büyük öncü laboratuvarların liderlerinin yavaşlama konusunda ilk kez kamuya açık bir şekilde ittifak kurduğunu gösteriyor. Huang'ın dünyanın en değerli şirketinden gelen karşı argümanı, ihtiyatlı olmanın özellikle Çin'deki rakiplere avantaj sağlayacağını savunan yöneticilere ve politika yapıcılara kılıf sağlıyor.

Başkan Trump, CNBC'nin ilgili bir analizde belirttiği gibi, sektörün kendi yavaşlama çağrılarını baltalayan bir duruş olan yeni yapay zeka kurallarına karşı çıktı. Bu, herhangi bir gönüllü ilerleme hızı anlaşmasını, güvenlik savunucularının ihtiyaç duyduğunu söylediği yaptırım mekanizmasından mahrum bırakıyor ve şimdilik kurumsal onur sistemleri konusundaki tartışmayı sıkı bir şekilde sürdürüyor.

Araştırmacıların felaket riskleri konusunda kamuoyuna uyarıda bulunması ve alanın en büyük şirketlerinin liderlerinin artık sahnede açıkça fikir ayrılığına düşmesiyle birlikte, hız meselesinin Washington'daki bir sonraki politika döngüsüne -piyasa bu arada ne yapmaya karar verirse versin- yön vermesi muhtemel.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →