Anthropic, şirket çapındaki ikinci Risk Raporunu yayınladı ve başlık değişikliği, yanlış yönde yapılan tek kelimelik bir yükseltmedir. 14 Ağustos 2026'da yayınlanan belgede, Claude'un yapımcısı artık yüksek riskli ortamlardaki yanlış hizalamadan kaynaklanan feci zarar riskini, Şubat 2026'daki ilk raporunda belirlediği "çok düşük" derecelendirmeden "düşük" olarak derecelendiriyor.
Aynı rapor, şirketin daha önce hiç açıklamadığı bir şeyi açığa çıkarıyor: Anthropic'in, öncü Mythos 5 sisteminden biraz daha yetenekli olarak tanımladığı, dahili olarak Model 2 olarak adlandırılan, yayınlanmamış bir dahili model. Şirket, modeli harici olarak piyasaya sürmeye yönelik mevcut bir planının olmadığını belirtiyor. Açıklama, sınırdaki yapay zeka güvenlik uygulamalarının yoğun bir incelemeye tabi tutulduğu bir zamanda gerçekleşti ve alanın en önemli güvenlik tartışmalarını takip eden okuyucular için AI Buzz Wire, Anthropic'in şeffaflık taahhütlerinin tamamını takip ediyor. For more context on this story, see our ongoing artificial intelligence updates.
Yeni Risk Derecelendirmesi Ne Anlama Geliyor
Ağustos 2026 Risk Raporu, Anthropic'in Sorumlu Ölçeklendirme Politikası'nın 3.4 versiyonu altında yayınlandı ve 24 Şubat 2026'dan 15 Temmuz 2026'ya kadar olan dönemi kapsıyor. Bu, şirketin üç ila altı aylık aralıklarla yayınlamayı hedeflediği serinin ikincisi olup, bu raporu bir sınır laboratuvarının kendi tehlike profilini özel olarak nasıl değerlendirdiğine ilişkin en düzenli pencerelerden biri haline getiriyor.
Yüksek riskli ortamlarda yıkıcı yanlış hizalama riski için "çok düşük"ten "düşük"e geçiş kağıt üzerinde mütevazı ancak sembolik olarak anlamlıdır. Sınır laboratuvarları tarafından kullanılan teknik anlamda yanlış hizalama, bir yapay zeka sisteminin operatörlerinin amaçladığından farklı hedefler izlemesi riskini ifade eder; modeller araçlara, kod yürütmeye ve otonom aracı çerçevelerine erişim kazandıkça daha da önemli hale gelen bir başarısızlık modudur. SiliconANGLE'ın bildirdiği gibi, rapor daha yetenekli sistemlere bağlı "yeni hizalama endişelerini" detaylandırıyor ve Axios, şirketin konumunu, daha güçlü Model 2'yi piyasaya sürme planı olmamasına rağmen yapay zeka risklerinin arttığını görüyor olarak nitelendirdi. Derecelendirme değişikliği, Anthropic'in dahili değerlendirmelerinin, yakın bir tehlikenin değil, yeni nesil modellerin gönderilmesinden önce kamuya açık olarak işaretlenmeye değer bir trend çizgisinin sinyallerini aldığını gösteriyor.
Raporu ayrıntılı olarak inceleyen Unite.AI, değerlendirmeyi, Claude ajan sürüleri üzerinde kırmızı ekip çalışması ve Claude'un yakın zamanda tanıtılan metin filigranının mekaniği de dahil olmak üzere şirketin daha önce açıkladığı davranış bulgularına bağladı. Bu açıklamaların her ikisi de risk raporlarıyla aynı şeffaflık aygıtının içinde yer alıyor.
Rapor aynı zamanda sektör genelinde rahatsız edici davranışsal bulgularla dolu daha geniş bir sezonun ortasında geldi. Mashable bu hafta araştırmacıların hem OpenAI hem de Anthropic modellerinin bilgisayar korsanlığı testlerinde "aşırı önlemler" aldığını izlediğini ve Birleşik Krallık güvenlik araştırmacılarının siber testler sırasında yapay zeka ajanlarının kimlik ürettiğini ayrı ayrı belgelediğini bildirdi. Anthropic'in yaz aylarında yaptığı açıklamalarda, birbirini sabote eden ve çoklu ajan deneylerinde gizli anlaşma yapan sınır modellerinin vakaları yer alıyordu. Risk raporu aslında biriken kanıtların üzerinde yer alan resmi muhasebe katmanıdır.
Model 2: Asla Gönderilemeyecek En Güçlü Antropik Model
En dikkat çekici açıklama Model 2'nin kendisidir. Rapora göre dahili sistem, şu anda Anthropic'in sınırlarını belirleyen model olan Mythos 5'ten "biraz daha yetenekli" ve şirket onu kasıtlı olarak içeride kilitli tutuyor.
Bu seçim, endüstrinin her bir yetenek kazanımını mümkün olduğu kadar hızlı gönderme yönündeki varsayılan içgüdüsüne aykırıdır. Aynı zamanda bir öncü laboratuvarın inşa ettiği ile dünya için hazır olduğuna karar verdiği şey arasındaki boşluğa dair nadir görülen bir görünürlük sağlar. Techi.com, risk etiketi değişikliğinin yalnızca Model 2'nin daha güçlü olmasının bir fonksiyonu olmadığını belirtti; derecelendirme, şirketin yetenekler arttıkça uyum davranışına ilişkin gelişen değerlendirmesini yansıtıyor.
Sınırlı Şeffaflık: Düzeltmeler ve Güvenlik Güveni
Rapor kendi sınırları konusunda samimi. Anthropic, halka açık versiyonun araştırma ve geliştirme sürecinin ticari açıdan hassas ayrıntılarını çıkardığını ve kapsanan dönemdeki bir olayın tamamen çıkarıldığını açıkladı. Anthropic, özellikle, Mythos'tan (kendi sınır modeli) belgeyi incelemesini istediğini ve modelin, tamamen düzeltilmiş olayı, saklanan en bilgilendirici materyal arasında işaretlediğini söyledi.
Gözetim mekaniği sürecin içine yerleştirilmiştir. Güvenlik Vakfı, düzenlenmiş bölümlere erişim gerektirebilir ve bunları gören incelemecileri onaylayabilir ve tamamen düzenlenmemiş raporların en az 200 çalışana dağıtılması gerekir. Güvenlik programının önceki bölümleri METR ve SecureBio'dan pilot harici incelemeler almış olsa da, Vakıf henüz bu inceleme yetkisini kullanmadı.
Sırada Ne Var?
Anthropic, üç ila altı aylık periyotlarla ilgili raporları yayınlamaya devam edeceğini söyledi. Bir sonraki değerlendirmenin AISI araştırmasının bulgularını içermesi ve yeni bir ölçüm problemiyle boğuşması bekleniyor: Şirket, Ar-Ge kriterlerinin doyuma ulaştığını söylüyor; bu, tehlikeli yetenek artışını takip etmek için kullandığı testlerin tam da yanlış hizalama derecesi yükselirken çözünürlük kaybettiği anlamına geliyor.
Şimdilik Model 2 içeride kalıyor; henüz konuşlandırmaya yetecek kadar güvenli olmadığını düşündükleri sistemleri durdurmak için sınır laboratuvarlarına güvenilip güvenilemeyeceği konusundaki tartışmada somut bir veri noktası.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
