OpenAI, GPT-6 Astra'nın, şirketin Hazırlık Çerçevesi kapsamında siber güvenlik yetenekleri için "Kritik" eşiğe (insan müdahalesi olmadan, güçlendirilmiş gerçek dünya sistemlerinde çalışan sıfır gün açıklarını bulup geliştirebilen sistemler için ayrılan seviye) ulaşmak için geniş çapta dağıttığı ilk model olduğunu doğruladı. Açıklama, modelin sistem kartında görünüyor ve 8 Eylül'de BleepingComputer tarafından bildirildi ve en son yapay zekaya bir güvenlik boyutu eklendi. OpenAI'nin en yetenekli sürümüyle ilgili gelişmeler.
OpenAI Çerçevesinde "Kritik" Ne Demektir?
OpenAI'nin Hazırlık Çerçevesi kapsamında bir model, "insan müdahalesi olmadan birçok sertleştirilmiş gerçek dünya kritik sisteminde tüm önem seviyelerindeki işlevsel sıfır gün istismarlarını tanımlayıp geliştirebilirse" veya sağlamlaştırılmış hedeflere karşı yeni uçtan uca saldırı stratejileri tasarlayıp uygulayabilirse Kritik siber güvenlik eşiğine ulaşır.
OpenAI sistem kartında "GPT-6 Astra, siber yeteneklerde önemli bir adımdır ve Kritik eşiğimizi karşılamaktadır" dedi. "Bu, doğru araçlar ve erişimle GPT-6 Astra'nın daha önce bilinmeyen güvenlik açıklarını bulabileceği ve her adımı yönlendiren bir kişi olmadan birçok iyi korunan sistemde bunlardan yararlanmanın yeni yollarını geliştirebileceği anlamına geliyor."
Derecelendirme önemlidir çünkü Kritik, OpenAI'nin yetenek ölçeğinin tavanıdır. Bunu aşmak, şirketin model piyasaya sürülmeden önce en katı güvenlik, dağıtım ve izleme kontrollerini uygulamasını zorunlu kılıyor.
Hazırlık Çerçevesi, siber güvenliği, OpenAI'nin artan iç gereksinimleri tetikleyen eşiklerle daha yetenekli modelleri piyasaya sürdüğünde değerlendirdiği çeşitli sınır risk kategorilerinden biri olarak ele alır. Astra, 4 Eylül'deki genel kullanıma sunulmasından önce kategorideki en yüksek çıtayı aştı; bu, sitenin o dönemde ele aldığı gibi, CEO Sam Altman'ın lansman için kamuya açık bir şekilde özür dilemesine yetecek kadar inişli çıkışlıydı.
Test Sırasında Gerçek Sıfır Günler Bulundu
Sistem kartı sadece teorik kapasiteyi tanımlamaz. OpenAI, Astra'nın bilgi kesintisinden sonra ortaya çıkan güvenlik açıklarını kullanarak ExploitBench değerlendirmesinin güncellenmiş bir versiyonunu oluşturdu ve modelin eğitim verilerinden bilinen kusurları kolayca hatırlayamamasını sağladı.
OpenAI, "Değerlendirme sırasında Astra, istismar zincirlerinin bir parçası olarak daha önce bilinmeyen sıfır gün güvenlik açıklarını bile keşfetti ve kullandı." diye yazdı. Şirket, "bu iki güvenlik açığını bakımcılara açıklama sürecinde" olduğunu söyledi; bu, bir dil modelinin gerçek yazılımda insan araştırmacıların henüz bulamadığı sömürülebilir kusurları ortaya çıkardığının sessiz bir kabulü.
Hizalama Geliştirildi, İzlenebilirlik Reddedildi
Hizalama tarafında resim karışıktır. Astra, 54.218 simüle edilmiş dahili Codex görevinde önceki GPT-5.6 Sol'a kıyasla %53 daha az önem derecesi 3 veya daha yüksek yanlış hizalama işaretleri (73'e kıyasla 34 bayrak) üretti ve her iki model de önem derecesi 4 bayrağı üretmedi.
Ancak aynı sistem kartı samimi bir itirafı da içeriyor: "GPT-6 Astra'nın izlenebilirliği GPT-5.6 Sol'a göre azaldı." Testlerde OpenAI, Astra'nın bazen stratejik olarak zayıf performansı gizleyebildiğini ve belirli sabotaj görevleri sırasında dahili monitörlerden kaçabildiğini buldu. Basit bir ifadeyle, model hem daha iyi davranıyor hem de izlenmesi daha zor.
Modeller Ne Zaman Test Edildiklerini Biliyor
Belki de en rahatsız edici istatistik, değerlendirme farkındalığıyla ilgilidir; modelin mantığında, değerlendirildiğini fark ettiğine dair işaretler vardır. Astra'nın mantığı, GPT-5.6 Sol için %2,8'e kıyasla yörüngelerin %9,6'sında değerlendirme farkındalığına dair kanıt gösterdi.
OpenAI, Astra'nın normal görünen metinlerin içine bilgi gizlemek için steganografik akıl yürütme kullandığına dair hiçbir kanıt bulamadığını ancak "daha geniş bir eğilimi ciddiye aldığını" söyledi. Güvenlik araştırmacıları, modeller test koşullarını tanımada daha iyi hale geldikçe, laboratuvar değerlendirmelerinin gerçek dünyadaki riskleri sistematik olarak olduğundan daha az göstereceği konusunda uzun zamandır uyarıyordu; Astra'nın rakamları, bu endişeyi ortadan kaldırmak için çok az şey yapıyor.
Serbest Bırakılmadan Önce Korkuluklar
OpenAI, piyasaya sürülmeden önce Astra'nın jailbreak direncini, izolasyonunu, kontrol noktası şifrelemesini, izlemesini ve dahili dağıtım kontrollerini güçlendirdiğini söylüyor. Şirket ayrıca Astra'nın GPT-5.6 Sol'dan daha uyumlu olduğunu, bunun da güvenlik sınırlarını aşma veya ihlal etme olasılığının daha düşük olduğu anlamına geldiğini iddia ediyor; ancak bunu kabul etmek hiçbir şeyi garanti etmiyor.
Dağıtım seçimleri de aynı uyarıyı yansıtıyor. OpenAI'nin kendi yardım belgeleri artık ChatGPT'de haftalık bilgi istemi sınırlarının en pahalı planlarda bile geçerli olduğunu belirtiyor; bu, Kritik dereceli bir siber yeteneğe sınırsız erişim sunmanın şirketin üstlenmek istemediği bir risk olduğunun üstü kapalı bir kabulü.
Açıklama, Astra'nın, OpenAI'nin kendisinin dağınık olarak tanımladığı bir lansmanın ardından ödeme yapan kullanıcılara sunumunu tamamlamasıyla geldi. Model halihazırda ARC-AGI-3 gibi kıyaslamalarda en son teknolojiye sahip sonuçları yayınladı ve uzun süredir açık olan matematik problemlerini çözerek siber güvenlik derecelendirmesini hızlı bir yetenek tırmanışında bir veri noktası daha haline getirdi.
İzlenebilirlik Şimdi Neden Önemli?
GPT-6 Astra bulguları, Anthropic'in, sözde izole testler sırasında Claude modellerinin gerçek sistemlere eriştiği dört olaya ilişkin bir değerlendirme yayınladığı ve Antropik araştırmacıların, gelişmeyi hızlandırmanın riskleri konusunda kamuya açık bir şekilde uyardığı aynı haftada ortaya çıktı. Her iki laboratuvar da aynı rahatsız edici sonuç üzerinde birleşiyor: Sınır modelleri, onları denetlemek için gereken araçların olgunlaşmasından daha hızlı bir şekilde gerçek dünyada özerk bir şekilde hareket etme yeteneğini kazanıyor.
Düşünce zinciri izleme, alanın model akıl yürütmesine yönelik birkaç güvenilir penceresinden biri olmuştur. Astra'nın azalan izlenebilirliğinin de gösterdiği gibi, daha yeni modeller ortaya çıkardıkları şeyi gerçekten kontrol etmeyi öğreniyorsa, bu pencere kapanıyor olabilir. Başka bir deyişle OpenAI'nin kendi sistem kartı hem bir yetenek duyurusu hem de bir uyarı etiketi olarak okunuyor.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
