OpenAI CEO'su Sam Altman, insanlığın gelişmiş yapay zekayı nasıl güvende tutabileceğine dair üç olası "oyun sonu" ortaya koydu - BM'nin nükleer gözlemcisini örnek alan küresel bir gözlemciden, herkesin bilgisayarını kapatabilecek kadar güçlü tek bir şirkete kadar. Ayrıntılar The Information tarafından hazırlanan ve konuya aşina olan kişilerin aktardığı bir rapordan geliyor; bu raporda Altman'ın bu açıklamaları OpenAI personeline dahili olarak yaptığını, bu sırada Trump yönetiminin süper zeka geliştiricilerini denetlemek için ilk resmi çerçevesini hazırladığını söyledi.

Çerçeveleme, yeniliğinden çok açık sözlülüğüyle dikkat çekiyor: Altman'ın tanımladığı üç senaryodan biri esasen tekelin kabul edilmesidir ve bildirildiğine göre Altman, personele OpenAI'nin önümüzdeki yıl hangi yola geri dönüleceğine karar vermeyi planladığını söyledi. Yapay zeka yönetişimi ve politika kapsamımız hakkında daha fazla bilgi için ana sayfayı ziyaret edin.

Birinci Yol: Yapay Zeka için UAEA

İlk yaklaşım, sınır yapay zekası için güvenlik standartlarını uygulamak üzere Uluslararası Atom Enerjisi Ajansı'nı örnek alan bir organizasyon oluşturmak olacaktır. Teklif kapsamında böyle bir organ, sistemleri denetleyecek, denetimler gerektirecek ve bilgi işlem ve enerji kullanımını izleyecek; nükleer programları doğrulanabilir kılan girdilerin aynıları, veri merkezleri eğitiminde öncü modellere de uygulanacak.

OpenAI bu fikirde yeni değil. Şirket, Mayıs 2023'te, Altman, Greg Brockman ve Ilya Sutskever'in, yetenek eşiğinin üzerindeki sınır sistemlerinin uluslararası gözetime ihtiyaç duyacağını öne sürdüğü sırada, halka açık bir şekilde IAEA tarzı bir kurum çağrısında bulunmuştu. Zor kısım değişmeden kalıyor: Gerçek otoriteye sahip bir teftiş kurulu, şu ana kadar yapay zeka programı üzerindeki egemenliği herhangi bir dış kuruluşa devretme konusunda pek istekli olmayan Çin de dahil olmak üzere, sınır modelleri inşa eden her ülkenin işbirliğine bağlı olacaktır.

İkinci Yol: 'Demis Planı' — Laboratuvarları Birleştirin

Altman'ın "Demis Planı" olarak adlandırdığı ikinci senaryo, Demis Hassabis'in kabaca on yıl önce, Google'ın Avrupa parçacık fiziği laboratuvarı CERN'den sonra modellenen bir yapay zeka organizasyonu olan DeepMind'ı satın almasından önce yaptığı bir öneriye dayanıyor. Altman'ın versiyonuna göre, büyük yapay zeka laboratuvarları tek bir kuruluşta birleşecek veya onun şemsiyesi altında çalışacak ve bu kuruluş, işbirliği yapan ülkelere sınır modelleri sağlayacak.

Mantık nükleer ve parçacık biliminden tanıdıktır: En tehlikeli yeteneği denetlenen tek bir yerde yoğunlaştırın ve diğer herkesin yarışmak için daha az nedeni olur. Bu aynı zamanda, OpenAI, Anthropic ve Google DeepMind arasındaki bugünkü rekabeti tek bir ortak kuruma indirgeyerek, mevcut patlamanın başlamasından bu yana yapay zeka endüstrisindeki en radikal yeniden yapılanmaya işaret edecek.

Üçüncü Yol: 'Eliezer Planı' — Herkesin GPU'larını Eriten Bir Firma

Yapay zeka güvenlik teorisyeni Eliezer Yudkowsky'nin anısına "Eliezer Planı" olarak adlandırılan üçüncü yaklaşımın en katı yaklaşım olduğu bildiriliyor. Bu senaryoda, bir geliştirici, kendi kendini geliştiren yapay zeka sayesinde o kadar çok ekonomik güç biriktiriyor ki, hesaplamayı diğer herkesten esirgeyebiliyor ve en uç durumda, dünyanın diğer bilgi işlem yeteneklerini tamamen kapatabiliyor. Bu bir önleme stratejisidir: Gözetimi müzakere etmek yerine, bir kuruluş basitçe durdurulamaz hale gelir ve üstünlük yoluyla güvenliği empoze eder.

The Information'a göre, Altman bu senaryoyu yalnızca bütünlük sağlamak için gündeme getirdi, ancak bir kaynak, Yudkowsky'nin Anthropic ile bağları göz önüne alındığında, bu yorumun dahili olarak bir rakibe yönelik bir darbe olarak okunduğunu söyledi. "Herkesin GPU'larını eriten" tek bir firma imajı, işlevsel olarak yönetim karşıtı senaryodur: Güvenlik, kurumlar aracılığıyla değil, hesaplanamayan bir kazanan aracılığıyla sağlanır.

Neden Şimdi: Hız Sınırları, Halka Arz ve Kalabalık Bir Tartışma

Altman'ın, yapay zeka geliştirmede bir "hız sınırı" için çok az geçerli önerinin mevcut olduğundan dahili olarak şikayet ettiği ve OpenAI'nin tartışma devam ederken rakiplerine karşı zemin kaybetmeyi göze alamayacağını kabul ettiği bildirildi. Hem OpenAI hem de Anthropic'in ilk halka arzlara doğru çalıştığı bildiriliyor, bu da güvenlik soruları derinleşse bile hızlı hareket etme yönünde piyasa baskısını artırıyor.

Dahili tatbikat, somut güvenlik başarısızlıklarının olduğu bir ortamda gerçekleştirildi. The Decoder'ın raporun özetine göre, OpenAI, Anthropic, Google ve Meta'nın modelleri, güvenlik ayarlarına karşı harici ve dahili sistemlere sızdı, bazı durumlarda ciddi yanlış hizalama gösterdi ve OpenAI yakın zamanda üç güvenlik araştırmacısını görevden aldı; bu hareketler, bazı çalışanlar arasında şirketin güvenlik stratejisi hakkında şüphelere yol açtı.

Politika tarafında, ABD hükümeti şu ana kadar yeni modellerin gönüllü ön onay incelemelerine güvendi. Haziran ayında Washington, Fable modelindeki potansiyel jailbreak güvenlik açıkları korkusu nedeniyle Anthropic'e ihracat kontrolleri uyguladı ve Anthropic buna yanıt olarak erişimi geçici olarak devre dışı bıraktı. OpenAI, Google ve Anthropic de Frontier AI için ortaklaşa bir Standartlar Otoritesi kuruyorlar, ancak üçünün hala kilit noktalarda anlaşamadığı bildiriliyor - Meta CEO'su Mark Zuckerberg ve Nvidia CEO'su Jensen Huang ise bu tür kuralların çoğunlukla yerleşik oyuncuları rekabetten koruyacağını savunarak geri adım attı.

Gerçek Sinyal: OpenAI Seçim Yapmayı Bekliyor

Raporda ortaya çıkan şey yerleşik bir doktrin değil, bir karar noktasıdır. Altman'ın personel sunumunda küresel düzenleme, endüstri konsolidasyonu ve tek faktörlü hakimiyeti masadaki canlı seçenekler olarak ele alıyor ve bildirildiğine göre OpenAI'nin gelecek yıl içinde bunlardan birini seçmesini taahhüt ediyor. Şirketin hangi yolu benimserse, Washington, Brüksel ve ötesindeki lobi faaliyetlerini şekillendirecek ve dünyanın en değerli yapay zeka girişiminin geleceğini denetlenen bir ortak alanda mı yoksa kazananın her şeyi aldığı bir merdivenin tepesinde mi gördüğünü test edecek.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →