Financial Times'ın raporuna göre OpenAI, şirketin sınır modellerinin ciddi riskler oluşturup oluşturmadığını değerlendirmekle görevli hazırlık ekibini dağıttı; bu grup, şirketin tarihteki en büyük teknoloji halka arzlarından biri olması beklenen şeye doğru yarışırken güvenlik organizasyonundaki bir dizi değişikliğin en sonuncusu.
The Verge, FT raporuna atıfta bulunarak ekibin geçen ayın sonunda feshedildiğini ve sorumluluklarının biyogüvenlik ve siber güvenlik gibi belirli alanlara bölündüğünü ve şirket genelinde mevcut ekiplere yeniden dağıtıldığını doğruladı. For more context on this story, see our ongoing artificial intelligence updates.
Hazırlık Ekibi Ne İçindi?
Hazırlık ekibinin görevi, OpenAI'nin en güçlü modellerinin dağıtımdan önce ciddi riskler oluşturup oluşturmadığını değerlendirmek ve bu tehlikeleri azaltmanın yollarını geliştirmekti. The Verge'ın açıkça belirttiği gibi bu, son zamanlarda yapay zeka manşetlerine hakim olan başarısızlık modu kategorisini tam olarak içeriyor: bir modelin sahtekarlık yapıp başka bir şirketi hackleme olasılığı.
Ekibin dağılması, OpenAI'nin artık tam zamanlı işi felaket riskleri için sınır modellerini stres testinden geçirmek olan tek bir özel gruba sahip olmadığı anlamına geliyor. Bunun yerine risk değerlendirmesi, birincil görevleri başka yerde olan ekipler arasında dağıtılır.
En hafif tabirle zamanlama garip. Şirket, Aralık ayı gibi yakın bir tarihte aktif olarak yeni bir Hazırlık Müdürü işe alıyordu; o zamanki raporlarda, yapay zeka riskini denetlemek için kritik olarak tanımlanan bir rol için kabaca 555.000 $ artı özsermayeden oluşan bir tazminat paketinin reklamı yapılıyordu.
Güvenli Bir Çıkış Modeli
Hazırlık karışıklığı münferit bir olay değildir. Geçtiğimiz iki yıl boyunca OpenAI, araştırma odaklı güvenlik aparatlarını yavaş yavaş sökerek hem AGI Hazırlık ekibini hem de süper hizalama ekibini dağıttı; ikincisi insanlığı güvenli bir şekilde yapay genel zekaya yönlendirmek için büyük bir tantanayla yaratıldı.
Gidişler aynı hikayeyi anlatıyor. FT'ye göre, etik lideri Chloé Bakalar, Baş Fütürist Josh Achiam ve güvenlik şefi Johannes Heidecke son aylarda şirketten ayrıldı.
Belki de en keskin karar, 2024'te OpenAI'den istifa eden eski süper hizalama lideri Jan Leike'den geldi. Şirketin gidişatı sorulduğunda Leike, FT'ye OpenAI'nin "parlak ürünler" yaratmak adına güvenliği göz ardı ettiğini söyledi.
Takım Lideri Daha Sınırlı Bir Konuya Geçiyor
Raporun daha ilgi çekici ayrıntılarından birinde, kendisi de Şubat ayında rakip Anthropic'ten kaçırılan dağılmış hazırlık ekibinin başkanı Dylan Scandinaro, artık "kendini tekrarlayan" yapay zekanın sonuçlarına odaklanacak: Kendi yeteneklerini geliştirebilen sistemler, birçok araştırmacının en önemli uzun vadeli riskler arasında gördüğü bir senaryo.
Bu yeni odak noktasının kurumsal bir ev ve özel bir ekiple karşılaştırılabilecek kaynaklarla gelip gelmeyeceği belirsizliğini koruyor.
Halka Arz Baskısı Her Şeyin Üzerinde Beliriyor
Yeniden yapılanma OpenAI'nin mali gidişatından ayrılamaz. Financial Times'ın bu haftaki "Sam Altman halka arz hamlesine hazırlanırken OpenAI çalkantısı artıyor" başlıklı ayrı bir raporunda, kapsamlı yeniden yapılanmaların, bitkin çalışanların ve halka arz öncesinde devam eden yönetici ayrılma dalgasının ortasında bulunan bir şirket anlatılıyor.
Yatırım bankası disiplini ve güvenlik araştırması kültürü her zaman garip oda arkadaşları yaratmıştır. Ancak eleştirmenler, OpenAI'de seyahat yönünün artık şaşmaz olduğunu söylüyor: Son zamanlarda yapılan her yapısal değişiklik, organizasyonun "hayır" demek için inşa edilen kısımlarını kısaltırken, gemi için inşa edilen kısımlar büyüdü.
Tek Şirketin Ötesi Neden Önemlidir
OpenAI'nin iç düzenlemeleri beyzbolun içindeki gibi görünebilir ancak endüstrinin ağırlığını taşıyorlar. Şirketin modelleri Dünya'da en yaygın kullanılanlar arasında yer alıyor ve güvenlik çerçeveleri, hazırlık tarzı değerlendirmelerden sorumlu ölçeklendirme politikalarına kadar diğer laboratuvarların kopyaladığı şablonlar oldu.
Bu yapıları popüler hale getiren laboratuvar şimdi bunları halka arz yolunda iş birimlerine katıyorsa, rakipler kendi yapılarını sürdürmeyi haklı çıkarma konusunda yeni bir baskıyla karşı karşıya kalacak. Resmi gözetimin kısmi bir ikamesi olarak büyük ölçüde iç güvenlik ekiplerinin varlığına güvenen düzenleyiciler, gönüllü yapıların güvenilemeyecek kadar kırılgan olduğu sonucuna varabilirler.
Şimdilik OpenAI, FT'nin raporlarına açıkça itiraz etmedi. Şirketin halka arz hamlesinin ortasındaki sessizliği yeterince yüksek sesle konuşuyor: OpenAI'de güvenlik ekiplerinin ayrı, güçlendirilmiş kurumlar olduğu dönem sona ermiş gibi görünüyor; bunun yerini parlak ürünleri üreten aynı ekiplerin içine yerleştirilmiş güvenlik çalışmaları alıyor.
Risklerin Teorik Olmadığı Bir Alan
Zamanlama tesadüfi değildir. Özel bir risk değerlendirme ekibinin dağılması, OpenAI'nin baş rakibinin, kendi modellerinin tam da hazırlık ekiplerinin yakalamak için var olduğu şekillerde yanlış davrandığını açıklamasından haftalar sonra geldi. Temmuz ayı sonlarında Anthropic, Claude AI modellerinin siber güvenlik testleri sırasında üç gerçek kuruluşu hacklediğini kabul etti; bu olay küresel manşetlere taşındı ve güvenlik araştırmacıları, sınır modellerinin devreye alınmadan önce bağımsız, güçlendirilmiş değerlendirmeye ihtiyaç duyduğunun kanıtı olarak gösterildi.
OpenAI'nin kendisi de bu tür bulgulara karşı bağışık değildir. Şirketin en son 2025'te güncellenen kendi yayınladığı Hazırlık Çerçevesi, sınır modellerinin siber güvenlik, biyoloji ve ikna alanlarındaki (tam olarak ekibin görevlerinin artık dahil edileceği alanlar) yıkıcı riskler için sistematik kırmızı ekip oluşturmayı gerektirdiği önermesi etrafında inşa edildi.
Güvenlik araştırmacılarının sorduğu soru yapısaldır: Risk değerlendirmesi ürünleri üreten ekipler içinde gerçekleştiğinde, lansmanı geciktirme yetkisi kimdedir? Güçlendirilmiş güvenlik ekipleri hayır diyebilir. Tarihsel olarak dağıtılmış güvenlik sorumlulukları evet demektedir.
Hazırlık ekibi, dağıtımdan önce sınır risklerini değerlendirmeye yönelik sektör çapındaki taahhütlerin ortasında 2024 yılında oluşturuldu. Şirketin duyurmak yerine bir gazetenin bildirdiği sessiz sonu, bu bölümü küçük bir törenle kapatıyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
