Bir arkadaşınızla yüz yüze konuştuğunuzda onu görebilir, duyabilir, elini sıkabilirsiniz. Bir yapay zeka modeliyle konuştuğunuzda bu güvencelerin neredeyse hiçbirine sahip olmazsınız. Anthropic'in yeni araştırması tam olarak bu boşluğu hedefliyor: Şirket, bir yanıtın gerçekten iddia ettiği modelden geldiğini - sözleşmeye dayalı olarak değil matematiksel olarak - kanıtlayabilen FlashProve adlı bir sistem de dahil olmak üzere kriptografik çıkarım kanıtları konusunda ilerleme yayınladı.

FlashProve'un çözdüğü sorun oldukça yapısaldır. Bugün bir modeli sorgulayan bir kullanıcı, yanıtların, maliyet nedenleriyle bir yönlendirme hizmeti tarafından veya hatta token akışına müdahale eden bir saldırgan tarafından gizlice değiştirilen modelin aksine, geliştiricinin yanıt verdiğini iddia ettiği belirli modelden gelip gelmediğini kontrol edemez. Yanıtlar mükemmel görünse bile, yalnızca çıktıya bakarak karar vermek güvenilir değildir. Aynı sohbet penceresinin yük altında sessizce daha ucuz bir modele yönlendirilebildiği bir sektörde bu varsayımsal bir endişe değil; varsayılan güven modelidir. Bunun gibi çalışmalara ilişkin daha fazla bilgi için Yapay Zeka araştırma haberlerimize bakın.

Kanıtlanabilir Çıkarım Neden Zordur?

Kanıtlanabilir çıkarımın amacı, sınırlı hesaplama kaynaklarına sahip olan ve bir modelin özel ağırlıklarına erişimi olmayan bir kullanıcının, belirli bir yanıtın gerçekten o model tarafından üretildiğini doğrulamasını sağlamaktır. Modeli kendiniz yeniden çalıştırma şeklindeki bariz yaklaşım, başlangıç ​​noktası değildir: sınır modellerin ağırlıkları gizli tutulur ve bunlara karşı bir yanıtın kontrol edilmesi, tipik bir kullanıcının, hatta iyi finanse edilen bir değerlendiricinin bile karşılayabileceğinin çok ötesinde bir hesaplama gerektirir.

Anthropic'in yaklaşımı, onları göreve benzersiz şekilde uygun kılan güçlü gizleme ve verimlilik özelliklerine sahip sıfır bilgi kanıtlarından oluşan bir aile olan zkSNARK'lara dayanıyor. Bir sağlayıcı bir modeli bir kez taahhüt eder, ardından her yanıt için cevabın taahhüt edilen model tarafından hesaplandığına dair kompakt bir kanıt oluşturur; bu sırada kanıtların kendileri modelin ağırlıklarını gizler. Mimariyi gizlemek sistemin bir amacı değildir; ağırlıkları saklamaktır.

Sayılar

Gönderideki verimlilik rakamları hikayenin teknik temelini oluşturuyor çünkü büyük modeller için kanıt üretimi, tarihsel olarak çok yavaş bir süreç olmuştur. 400 milyar parametreli uzmanlardan oluşan bir model olan Llama 4 Maverick için, tek bir NVIDIA H100 GPU, 4 bitlik nicelenmiş ağırlıklar ve ön doldurmada tamsayı aritmetiği kullanarak, 1.024 jetonluk istek başına kabaca 19 MB'lık bir ispat boyutuyla, saniyede yaklaşık 110 jeton hızında kanıt üretir.

Bu hızın bir bedeli var: Kanıt oluşturma, modelin kendisini yaygın olarak kullanılan açık kaynaklı bir çıkarım kitaplığı olan vLLM'de çalıştırmanın GPU süresinin kabaca 70 ila 95 katı kadar zaman alıyor. Başka bir deyişle pahalı, ancak ilk kez kanıtlanmış olan şeyle aynı büyüklükte ve Anthropic'e göre, büyüklük sırasına göre geride kalan önceki açık kaynaklı sistemlerden önemli ölçüde daha hızlı.

Claude İnşa Etti — Yalın İddiaları Denetliyor

İlkinin içine katlanmış ikinci bir hikaye var. Gönderiye göre Claude, çıkarım için zkSNARK'lardaki iyileştirmeleri kendisi üretti ve kriptografik kanıt sistemleri için köklü tasarım ilkelerine güvenirken kriptografi ve güvenlik literatüründeki en son teknolojiye sahip araçları uygulamanın yeni yollarını buldu.

Anthropic, bu iş akışının getirdiği risk konusunda samimi: Claude optimizasyon konusunda iyidir ancak özellikle büyük karmaşık sistemlerde sıklıkla değerlendirilmesi zor kararlar verir. Karşı önlem resmi doğrulamadır. Şirket, iddia edilen güvenlik garantileri için resmi bir doğrulama dili olan Yalın dilinde üst düzey denetlenebilir ifadeler sağlıyor; yapay zekanın akıllı optimizasyonları ile bunlara güvenmek zorunda olan kullanıcılar arasında makine tarafından kontrol edilen matematik duruyor.

Tüm yığın Apache 2.0 lisansı altında yayınlanıyor: blog yazısı, sistemin ayrıntılarını açıklayan teknik bir rapor, bir protokol açıklaması, bir kanıtlayıcı ve iki doğrulayıcı (C++'da hızlı bir doğrulayıcı ve Yalın'da kanıtlanabilir doğru doğrulayıcı) içeren yürütülebilir kod, ayrıca Yalın kanıtların kendisi ve denetime yardımcı olacak etkileşimli bir görselleştirici.

Uyumluluktan Yapay Zeka İlerleme Hızı Anlaşmalarına

Antropik eskizlerde rutinden jeopolitike kadar değişen vakalar kullanılır. Yapay zeka modellerini yayınlanmadan önce ve sonra test eden bağımsız değerlendiricilerin, değerlendirdikleri modelin sunulan model olduğunu bilmeleri gerekir. Bir modele üçüncü taraf bir yönlendirme hizmeti aracılığıyla erişen müşteriler, tokenların ödeme yaptıkları modelden geldiğine dair güvence ister. Güvenlik senaryosunda ise belirli bir modeli taklit ederek jeton akışını değiştiren bir siber saldırgan, çıktı denetiminin tek başına asla başaramayacağı bir şekilde tespit edilebilir hale gelir.

Gönderide adı geçen en iddialı uygulama, sınır yeteneklerinin ne kadar hızlı ilerlediğini yönetmeye çalışan, ortaya çıkan, gönüllü ve resmi anlaşmalar sınıfı olan yapay zeka ilerleme hızı gerekliliklerine uygunluğun doğrulanmasıdır. Günümüzde bu tür taahhütler güvene ve evrak işlerine dayanmaktadır. Kriptografik çıkarım kanıtları incelemeye daha yakın bir şey sunar: hangi modelin belirli bir iş yüküne hizmet ettiğini iddia etmek yerine göstermenin bir yolu.

Araştırmacılar bunun tamamlanmış bir araştırma gündemi değil, ara ilerleme olduğunu açıkça belirtiyorlar ve başkalarının çalışmayı alıp geliştirmesi hedefiyle yayınlıyorlar. Bu çerçevelemenin kendisi bir sinyaldir: Kanıtlanabilir çıkarım, kriptografi-seminer düşünce deneyinden, bir sınır laboratuvarının konuşlandırılacak kadar ucuz hale getirmek için açıkça yarıştığı bir mühendislik problemine dönüştü.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →