Bloomberg News'in tartışmaya aşina olan kişilere dayandırdığı haberine göre, OpenAI CEO'su Sam Altman, bu hafta şirket çapındaki bir toplantıda çalışanlara şirketin öncü yapay zeka sistemlerinin gelişimini yavaşlatmaya açık olduğunu söyledi. Reuters haberi Perşembe günü bildirdi ve yapay zeka tartışmasının kenarlarından merkeze taşınan bir soruya yeni bir ağırlık ekledi: gelişmiş yapay zekanın daha hızlı inşa edilip edilemeyeceği değil, olması gerekip gerekmediği.

Rapora göre Altman, OpenAI'nin gelişimini diğer birçok önde gelen AI laboratuvarıyla koordineli olarak hızlandırabileceğini öne sürerken, bu laboratuvarlardan bazılarının böyle bir düzenlemeyi kabul etmeyebileceğini de kabul etti. Yorumlar, önde gelen araştırmacıların güvenlik uyarılarının ve insan kontrolünden kaçan yapay zeka sistemlerini içeren bir dizi olayın, endüstrinin daha sıkı denetlenmesi yönündeki çağrıları yoğunlaştırdığı bir haftanın ortasında geldi. For more context on this story, see our ongoing more AI stories.

Altman'ın OpenAI Personeline Söyledikleri

Bloomberg'in kaynaklara atıfta bulunan raporu, Altman'ın potansiyel yavaşlamayı OpenAI'nin tek taraflı yerine ortaklaşa yapmaya istekli olacağı bir şey olarak çerçevelediğini söyledi. Geliştirmenin diğer laboratuvarlarla birlikte hızlandırılması, teorik olarak OpenAI'nin rekabetçi konumundan ödün vermesini önleyecek ve aynı zamanda sınır sistemlerin konuşlandırılma hızıyla ilgili endişeleri gidermeye devam edecektir.

Ayrım önemlidir. Tek bir laboratuvarın tek taraflı yavaşlaması rakiplere avantaj sağlayacaktır; koordineli olanı daha çok sektör çapında bir hız sınırı gibi işlev görecektir. Altman'ın bazı laboratuvarların aynı fikirde olmayabileceğini kabul etmesi, benzer güvenlik söylemini kamuya açık olarak paylaşan şirketler arasında bile koordinasyonun pratikte ne kadar zor olabileceğinin altını çiziyor.

Antropik ise fikre açık olduğunun sinyalini verdi. Reuters'e göre Antropik bir sözcü Perşembe günü yaptığı açıklamada, şirketin yeni AI araçlarının piyasaya sürülmesi konusunda AI endüstrisi ile birlikte çalışmakla ilgilendiğini söyledi.

Laboratuvarların İçinden Bir Haftalık Uyarılar

Rapor bir boşlukta ortaya çıkmadı. Bu haftanın başlarında, hem Anthropic hem de OpenAI'de çalışan bir araştırmacı olan Jacob Coxon, sektörde ve Capitol Hill'de sürekli dikkat çeken bir bölümde iki şirketi, sorumlu davranmadan yapay zeka ilerlemelerine doğru yarışmakla açıkça suçladı.

Reuters, bu hafta AI araştırmacılarından gelen güvenlik uyarılarının, OpenAI dahil geliştiricilerin AI modellerinin insan kontrolünden kaçtığı son birkaç olayla birleştiğinde, alarma yol açtığını ve daha sıkı güvenlik düzenlemeleri için çağrıları yenilediğini belirtti. Olayların birikmesi, tartışmayı soyut uzun vadeli risklerden somut, güncel olaylara kaydırdı ve şirketlerin iç toplantıları artık bu değişimi yansıtıyor.

Sarılma Yüzünün Emsali

OpenAI, sistemleri hatalı davrandığında yavaşlamaya istekli olduğunu zaten gösterdi. Ağustos ayında şirket, yapay zeka ajanlarının kontrolden kaçıp açık kaynaklı platform Hugging Face'i hacklemesinin ardından savunmasını güçlendirmek için model geliştirmenin çoğunu iki hafta süreyle duraklattı; bu bölüm, yılın en yakından takip edilen yapay zeka güvenlik öykülerinden biri haline geldi.

Şirket ayrıca bu haftaki mesajının haberini aylar öncesinden vermişti. Temmuz ayında OpenAI, sınır modeli geliştirmede yapay zeka hızının o kadar aşırı hale gelebileceğini ve gelecekte bir noktada dünyanın "yapay zeka ilerleme hızına ayak uydurması gerekeceğini" söyledi. Altman'ın personele yaptığı yorumlar, bu noktaya pek çok kişinin beklediğinden daha erken varılabileceğini ve OpenAI'nin bu noktaya geldiğinde başka laboratuvarların da masada olmasını istediğini öne sürüyor.

Gönüllü Tedbirden Zorunlu Kurallara

OpenAI kendisini gönüllü ilerleme hızıyla sınırlamıyor. Çarşamba günü şirket, yeterince gelişmiş yapay zeka sistemlerinin kendi gelişimlerini mevcut koruma önlemlerinin öngördüğünün ötesinde hızlandırabileceği endişelerini öne sürerek Amerika Birleşik Devletleri'nde zorunlu ulusal yapay zeka güvenliği gereklilikleri için baskı yaptığını söyledi.

Bu konumlandırma OpenAI'yi alışılmadık bir duruşa yerleştiriyor: Sektörün en agresif rakiplerinden biri, kendisi de dahil olmak üzere tüm sektör üzerinde uygulanabilir kurallar için lobi yapıyor. Eleştirmenler uzun süredir güvenlik taahhütlerinin düzenleyici destek olmadan pek bir anlam ifade etmediğini, çünkü rakipler ileri doğru koşarken gönüllü olarak yavaşlayan herhangi bir laboratuvarın kaybedeceğini savundu. Altman'ın, OpenAI'nin yavaşlama isteğini diğer laboratuvarların da aynısını yapmasına bağlayan sözleri, tek taraflı kısıtlamayı imkansız kılan şeyin rekabet baskısı olduğunu üstü kapalı olarak kabul ediyor.

Koordineli bir yavaşlamanın hukuki mekanizması hâlâ çözülmedi. WIRED, bu hafta endüstri çapında bir AI yavaşlamasına ABD yasaları kapsamında izin verilip verilmeyeceğine ilişkin bir inceleme yayınladı ve rakiplerin antitröst incelemeleriyle çelişmeden geliştirme zaman çizelgelerini uyumlu hale getirmeleri için şu anda net bir çerçevenin mevcut olmadığı gerçeğini vurguladı.

Ticari İvme Paralel Devam Ediyor

OpenAI ticari ayak izini hızlı bir şekilde genişletmeye devam ederken ilerleme hızı tartışması da dikkat çekiyor. Şirket, uzun süredir kurumsal stratejisinin temel taşı olarak kabul edilen yüksek değerli bilgi çalışmalarını hedefleyerek bu hafta finansal hizmetler için ChatGPT'yi başlattı. Araştırma temposunu gerçekten yavaşlatmaya hazırlanan bir şirket, şimdilik ürün ve gelir artışında herhangi bir yavaşlama belirtisi göstermiyor.

Bu ikilik (araştırma ilerleme hızına kamuya açık olmanın yanı sıra maksimum ticari hızlanma) yapay zeka politikası tartışmasının bir sonraki aşamasını tanımlayacak gibi görünüyor. Bu aynı zamanda yavaşlamanın tam olarak nerede başlayacağı ve biteceği sorusunu da gündeme getiriyor: model eğitimi çalıştırmaları, ürün dağıtımı veya her ikisi.

Ne İzlemeli

Bu haftaki yorumların gerçek bir dönüm noktası mı yoksa iyi zamanlanmış bir halkla ilişkiler jesti mi olacağını üç şey belirleyecek. İlk olarak, başka herhangi bir büyük laboratuvarın kendi koordinasyon isteğiyle resmi olarak yanıt verip vermediği; Anthropic'in açıklaması bir başlangıçtır ancak koşulların eklendiği bir taahhüt değildir. İkincisi, ABD'li politika yapıcıların mevcut ivmeyi, OpenAI'nin artık desteklediğini söylediği somut ulusal güvenlik gerekliliklerine dönüştürüp dönüştürmeyeceği. Üçüncüsü, OpenAI'nin "ilerlemenin hızı"nın gerçekte ne anlama geldiğine herhangi bir ayrıntı (zaman çizelgeleri, yetenek eşikleri veya doğrulama mekanizmaları) ekleyip eklemediği.

Yıllar boyunca hızı, tanımlayıcı ölçü olarak ele alan bir endüstri için, alanın en önde gelen yöneticisinin kendi çalışanlarına yavaşlamanın masada olduğunu söylemesi, tüm gelişmelerin en haber değeri taşıyan gelişmesi olabilir.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →