Anthropic, sınır yapay zeka modellerini değerlendiren kâr amacı gütmeyen kuruluş olan METR'den bir ekibe, iç sistemlerine (şirket donanımı, ofis alanı ve kabaca kendi risk değerlendirme ekiplerinin kullandığı araçlarla aynı düzeyde) "çalışan benzeri erişim" sağlamaya başladı; böylece harici grup, Anthropic'in sınır modellerinin risklerini bağımsız olarak değerlendirebilir ve bulduklarını yayınlayabilir.

Çarşamba günü Anthropic'in blogunda duyurulan düzenleme, yapay zeka şirketlerinin genellikle hoşgörüyle karşıladığı denetim tarzı ilişkilerin ötesine geçiyor ve öne çıkan bir hüküm içeriyor: METR, risk değerlendirmelerinin sonuçlarını yayınlayacak ve Anthropic, yayınlamayı veto edemez.

"Çalışan Benzeri Erişim" Aslında Ne Anlama Geliyor

Altı METR çalışanı, şirket donanımı, ofis alanı ve Anthropic'in kendi risk değerlendirme ekiplerinin aldığıyla kabaca eşit olarak tanımladığı dahili araç ve sistemlere erişim hakkına sahip oldu. Anthropic, az sayıda açıkça tanımlanmış kategorinin (müşteriler hakkındaki veriler, avukat-müvekkil ayrıcalıklı bilgileri ve model mimarileri hakkındaki bilgiler) dışında, çalışanlarının uyum riski üzerinde çalışan diğer çalışanlarla olduğu gibi METR ekibiyle de bilgi paylaşmaya teşvik edildiğini söylüyor.

Nişan kasıtlı olarak daraltılmıştır. Uygulanabilir anlaşmalar kapsamında faaliyet gösteren küçük bir ekibi kapsıyor ve diğer projelerde Anthropic ile işbirliği yapan araştırmacılar da dahil olmak üzere diğer METR çalışanları bu ekibin çalışmalarından ayrı tutuluyor. Anthropic, kurulumun Anthropic'in güvenlik standartları altında çalışan birkaç nitelikli kişiye şirketin nasıl çalıştığına dair yakından bir bakış sağladığını belirtiyor; diğer kuruluşların Anthropic'in veya müşterilerinin bilgilerini elde edebileceği bir kanal değildir.

Yayın Hakları, Korkuluklu

Anlaşma kapsamında METR, Anthropic'in risk seviyeleri, olayları veya uygulamalarına ilişkin analizini yayınlayacak. Anthropic yayını engelleyemez, ancak bilgiler yukarıda açıklanan önceden tanımlanmış kategorilere girdiğinde düzeltmeler gerektirebilir ve Anthropic, neyin bu kategorilere girip girmeyeceğine kendisi karar verir. METR ise, redaksiyon gücünün bir sessize alma düğmesine dönüşmesini engellemek için tasarlanmış bir denge ağırlığı olan erişim düzeyi ve aldığı bilgiler hakkında belirli beyanlarda bulunma hakkını saklı tutar.

Antropik Neden Açılıyor?

Bu hamle, Anthropic'in geçen ay modellerinin ve güvenlik uygulamalarının daha güçlü, bağımsız, üçüncü taraf değerlendirmesine yönelik taahhüdünün ve yapay zeka şirketlerinin bağımsız dış denetçiler veya değerlendiricilerle ortaklık sözü verdiği Beyaz Saray Süper İstihbarat Anlaşması'ndaki imzasının ardından geldi. Aynı zamanda mevcut bir ilişkiyi de genişletiyor: Geçtiğimiz yıl Anthropic, Risk Raporlarının çeşitli incelemeleri üzerinde METR ile birlikte çalıştı.

METR portföyünde yalnız değil. Anthropic aynı zamanda değerlendirici olarak SecureBio ve Accenture ile birlikte çalıştığını söylüyor - Accenture Fakültesi, Eylül ayında şirketin ilk yerleşik değerlendiricisi seçildi - ve Hugging Face de dahil olmak üzere diğer birçok kuruluşla erken görüşmelerde bulunuyor. Şirket ne tür ortaklıkların işe yaradığını öğrenirken, bu erken aşamadaki ortaklıklar daha sınırlı bilgi erişimi ve yayın haklarıyla birlikte gelir.

Banka-Denetim Analojisi

Anthropic'in kendi çerçevesi finanstan ödünç alınmıştır. Bankalar kendi risk pozisyonları hakkında dışarıdakilerden daha fazla bilgi sahibi olduğundan, düzenleyiciler en büyük bankalarda çalışmak üzere yerleşik müfettişleri görevlendiriyor; Eğer bir bankanın risk alması halkı tehdit edebilecekse, üçüncü taraflar bunu önceden görmeye çalışır. Şirket, gömülü değerlendirmeyi yapay zeka endüstrisinin bu mantığın versiyonu olarak konumlandırıyor; inşaatçının her zaman gözlemciden daha fazlasını bildiği bir alanda sağlam güvenlik gözetimine doğru bir adım.

Tüm bunların temelinde belirtilen bir hedef yatıyor: Bağımsız değerlendiricilerin öncü bir yapay zeka şirketinin sistemleri hakkında anladıkları ile şirketin kendisinin anladıkları arasındaki boşluğu kapatmak.

Değerlendiricilerin İhtiyaç Duyduğu Şeyler

Duyuru aynı zamanda Anthropic'in anlamlı değerlendirmenin neyi gerektirdiğini düşündüğünü de ortaya koyuyor: değerlendirmelerin hizalama sahtekarlığı gibi olaylar yoluyla nasıl yanlış gidebileceğini anlamak da dahil olmak üzere sınır modeli yeteneklerini değerlendirmede uzmanlık; bağımsızlık, değerlendirilen şirkette özsermayenin veya mali veya operasyonel bağımlılığın olmaması anlamına gelir; En son modellerin ötesine geçerek, nasıl eğitildiklerine ve güvenlik önlemlerinin nasıl işlediğine kadar riskleri anlamlı bir şekilde değerlendirmek için yeterli erişim; ve bir modele veya sürece ilişkin gözlemleri ve değerlendirmeleri yayınlama özgürlüğü.

Tüm Sektör için Bir Test Senaryosu

Düzenleme çıktısına göre değerlendirilecektir. METR'nin yeni erişim rejimi kapsamında yayınlanan ilk değerlendirmesi, çalışan benzeri erişimin gerçek dişli bulgular mı yoksa şirketin kendisinin tanımladığı redaksiyon kategorileri ile kesilmiş raporlar mı ürettiğini gösterecek. Şüpheciler, Anthropic'in kategori sınırlarını kontrol ettiğini ve pilot ekibin küçük olduğunu not edecekler; destekçileri, Anthropic'in veto edemediği bir yayının sınır laboratuvarları arasında gerçekten yeni olduğunu fark edeceklerdir.

Her iki durumda da endüstri izliyor. METR'in yerleşik erişimi maddi bulguları ortaya çıkarır ve bunları bozulmadan yayınlarsa, model Beyaz Saray anlaşmasını imzalayan her laboratuvar için bariz bir şablon haline gelir ve politika yapıcılar için gönüllü gözetimin zorunlu denetimlerin yerini alıp alamayacağını tartan bir ölçüt haline gelir. AI güvenlik politikasının ve onu şekillendiren AI sektör haberlerinin devam eden kapsamı için AI Buzz Wire, her gelişmeyi ortaya çıktıkça takip ediyor.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →