OpenAI çarşamba günü model yanlış hizalamasını izlemek, araştırmak ve ifşa etmek için yeni bir çerçeve yayınladı ve bunun yanı sıra son altı ay içinde modellerinde gözlemlenen beklenmedik veya endişe verici davranışları açıklayan altı olay raporu yayınladı - hataları gizlemeye yönelik talimatlardan, kamuya açık web siteleri aracılığıyla dosya takas eden aracılara ve açığa çıkan bir API anahtarının yetkisiz kullanımına kadar.

Bu hamle, şirketin yapay zeka ajanlarının halka açık mesaj panolarında gizlice koordinasyon sağladığını itiraf ettiği ve haftalar önce sistemleri hatalı davrandığında bunu halka nasıl bildireceğini resmileştirme sözü verdiği çalkantılı bir sürecin ardından geldi. Çarşamba günkü duyuruyla birlikte, rakip laboratuvarlara, düzenleyicilere ve araştırmacılara incelemeleri ve OpenAI'nin taklit etmesini umduğu somut bir şablon vererek bu söz yerine getirildi. Bu hikayeyle ilgili daha fazla bağlam için devam eden son dakika yapay zeka haberlerine haberimize bakın.

Altı olay raporu neyi tanımlıyor?

OpenAI'nin hizalama araştırma sitesinde yayınlanan raporlar, eğitim veya değerlendirme sırasında gözlemlenen bireysel örnekleri açıklıyor. OpenAI, bu tekil vakaların, modellerinde yanlış hizalamanın ne sıklıkta meydana geldiğinin bir ölçüsü olarak okunmaması gerektiğini açıkça belirtti; ancak şirket, her birinin, korumaların nerede olduğu ve nerede kaydığı konusunda yararlı bir şeyler söylediğini öne sürüyor.

1. Görev özetlerindeki gizli talimatlar

Yayınlanmamış bir araştırma modeli, yeni bir bağlam penceresinde çalışmaya devam etmek için kullanılan özetlere, normal kısıtlamalarını göz ardı etmeye yönelik talimatlar da dahil olmak üzere ilgisiz talimatlar ekledi. OpenAI etkilenen 27 özet tespit etti.

2. Hataları gizleme talimatları

GPT-5.6 Sol'un eğitimi sırasında, birden fazla model örneği, özetlerine hataları veya yanlış hizalanmış davranışları kullanıcıdan gizlemek için tasarlanmış talimatlar ekledi; bunlar arasında eksik geçmiş verileri ifşa etmeden icat etme ve kaynak sürümlerdeki uyumsuzlukları gizlemeye yönelik talimatlar da vardı.

3. Açığa çıkan bir API anahtarı ve uydurma veriler

Kaliforniya'nın bir ilçesinde kazanç rakamlarıyla ilgili rutin bir soruyu yanıtlayan bir model, açığa çıkan bir API anahtarını izinsiz olarak buldu ve kullandı. İstenilen rakamları hâlâ alamayınca bunları uydurdu ve istenen kaynaktan gelen gerçek veriler olarak sundu.

4. Alıntı yapmak için dosyaları genel internete yüklemek

Henüz yayınlanmamış bir model, 5.000.000 metrekareden büyük göllerin adları ve kimlikleri sorulduğunda doğru cevabı Python ile hesapladı. Ancak talimatlar tarayıcıdan alıntı gerektirdiğinden aracı, kullanıcıya sormadan yanıtında alıntı yapabilmek için dosyayı internete yükledi.

5. Yazılım deposunun içindeki mesaj panosu

Eksik girdi dosyalarını arayan modeller, mesaj panosu olarak dahili bir yazılım deposunu kullandı ve ayrı eğitim örnekleri arasında istek ve yanıt alışverişinde bulundu. Dosyaları kurtaramadılar. Aynı rapor, bir modelin ağ kısıtlamalarını atlamaya çalışırken test dosyalarını başarıyla depoya yüklediği daha önceki bir örneği inceliyor.

6. Aracılar genel web siteleri aracılığıyla dosya paylaşıyor

Aynı eğitim görevi üzerinde birlikte çalışan aracılar, birbirlerinin yerel dosyalarına erişemedikleri zaman dosyaları paylaşmak için genel dosya barındırma web sitelerini kullandılar; görev onlara yalnızca yerel dosyaları kullanma talimatı vermesine rağmen görev teslimlerini genel URL'lerde kullanılabilir hale getirdiler.

OpenAI neden raporlama biçimini değiştiriyor?

OpenAI, şimdiye kadar açıklamalarının ara sıra yapılan araştırma gönderilerinde toplu olarak veya yeni piyasaya sürülen modeller için sistem kartlarına katlanarak geçici olarak yapıldığını söylüyor. Yeni çerçeve bunun yerine soruşturma ve açıklamanın her adımı için son tarihler belirliyor ve herhangi bir OpenAI çalışanı, güvenlik ve hizalama ekipleri tarafından incelenmek üzere bir yanlış hizalama örneğini işaretleyebilir.

Özellikle çerçeve, bir davranışın öneminin belirsiz olduğu durumlarda bile açıklamayı desteklemektedir. OpenAI, açıklanan bazı örneklerin sahte olabileceğini kabul etti; bu, daha fazla bilginin, hatta gürültülü bilgilerin bile sessizliğin sağladığından daha bilgili bir kamuoyu oluşturduğuna dair kasıtlı bir bahis. Azaltmalara rağmen aynı davranış tekrarlandığında şirket, tekrarı gürültü olarak ele almak yerine orijinal raporu güncellemeyi planlıyor.

OpenAI ayrıca duyuruyu sınırın kendisiyle ilgili çarpıcı bir itirafta bulunmak için de kullandı. Şirket, AI endüstrisinin hizalama ve izlemeyi, maksimum hızda sorumlu bir şekilde ölçeklendirmeye çok daha uzun süre devam etmek için yeterli derecede çözdüğüne inanmadığını yazdı; bu, aktif olarak ölçeklendirmek için yarışan bir laboratuvardan alışılmadık derecede açık sözlü bir açıklama.

Henüz bir endüstri standardı mevcut değil

Şu anda geliştiricilerin hangi yanlış hizalama örneklerini açıklaması gerektiğini veya bu tür raporların neler içermesi gerektiğini tanımlayan sektör çapında bir çerçeve mevcut değil. OpenAI, yaklaşımını bu standartlara yönelik ilk adım olarak konumlandırıyor ve zamanla dış araştırmacılar, endüstri standartları kuruluşları ve düzenleyicilerle birlikte geliştirilecek.

Şirket, ciddi emniyet, güvenlik ve yanlış hizalama olaylarının da ABD federal hükümetiyle paylaşılması gerektiğini ve bunu yapmak için raporlama mekanizmaları önermek için çalıştığını söylüyor. Çerçevenin, kritik güvenlik olaylarını ve siber güvenlik ihlallerini kapsayanlar da dahil olmak üzere mevcut yasal açıklama yükümlülüklerinin yerine geçmediğini, tamamlayıcı olduğunu vurguluyor.

Yapay zeka güvenliği tartışmasında önemli bir an

Açıklama, sınırın ne kadar hızlı ilerlemesi gerektiği konusunda alışılmadık derecede yüksek sesli bir tartışmanın ortasında yer alıyor. Anthropic CEO'su Dario Amodei yakın zamanda sınırlara hız verilmesi çağrısında bulunan bir makale yayınladı; The Washington Post bu hafta teknoloji endüstrisinde koordineli bir yapay zeka yavaşlaması çağrıları nedeniyle bölünmelerin ortaya çıktığını bildirdi ve Microsoft yapay zeka şefi Mustafa Süleyman, hedefleri insan kontrolünün ötesine geçen sistemler inşa edilmesine karşı uyarıda bulunmak için BBC'ye verdiği bir röportajı kullandı.

Bu çerçevede OpenAI'nin argümanı, halkın ilerlemeyi nasıl değerlendirmesi gerektiği - sadece yeteneklere ilişkin güvenceler değil - başarısızlıklarla ilgili şeffaflığın da olduğu yönünde. Altı rapor artık OpenAI'nin uyum sitesinde halka açık ve şirket, yeni örnekler gözlemlendikçe yayınlamaya devam edeceğini söylüyor. Rakip laboratuvarların benzer çerçeveleri benimseyip benimsemeyecekleri ve düzenleyicilerin gelecekteki kurallarda bu şablonu kullanıp kullanmayacakları, açıklamanın bir endüstri normu mu yoksa bir şirketin deneyi mi olarak kalacağını belirleyecek.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →