När du pratar med en vän personligen kan du se dem, höra dem, skaka deras hand. När du pratar med en AI-modell har du nästan inga av dessa försäkringar. Anthropics nya forskning tar sikte på exakt det gapet: företaget har publicerat framsteg när det gäller kryptografiska slutledningsbevis, inklusive ett system som heter FlashProve som kan bevisa - matematiskt, inte kontraktuellt - att ett svar verkligen kom från den modell det påstår sig vara.
Problemet med FlashProve åtgärdar är tyst strukturellt. En användare som frågar efter en modell idag kan inte kontrollera att svaren kom från den specifika modell som en utvecklare hävdar svarar, i motsats till en som i hemlighet ersatts av en routingtjänst av kostnadsskäl, eller ens av en angripare som har manipulerat med tokenströmmen. Att döma bara av resultatet är opålitligt, även om svaren ser utmärkta ut. I en bransch där samma chattfönster tyst kan leda till en billigare modell under belastning, är det inte ett hypotetiskt problem – det är standardmodellen för förtroende. För mer täckning av arbete som detta, se våra AI-forskningsnyheter.
Varför bevisbar slutledning är svår
Målet med bevisbar slutledning är att låta en användare med begränsade beräkningsresurser – och ingen tillgång till en modells privata vikter – verifiera att ett givet svar verkligen producerades av den modellen. Det uppenbara tillvägagångssättet, att köra om modellen själv, är en icke-startare: gränsmodellernas vikter hålls privata, och att kontrollera ett svar mot dem skulle kräva beräkning långt utöver vad en typisk användare, eller till och med en välfinansierad utvärderare, har råd med.
Anthropics tillvägagångssätt bygger på zkSNARKs, en familj av noll-kunskapsbevis med starka döljande och effektivitetsegenskaper som gör dem unikt lämpade för uppgiften. En leverantör förbinder sig till en modell en gång och genererar sedan ett kompakt bevis för varje svar på att svaret beräknades av den engagerade modellen - medan bevisen i sig döljer modellens vikter. Att dölja arkitekturen är inte ett mål för systemet; dölja vikterna är.
Siffrorna
Effektivitetssiffrorna i inlägget är berättelsens tekniska kärna, eftersom bevisgenerering för stora modeller historiskt har varit storleksordningar för långsam för att spela roll. För Llama 4 Maverick, en blandning av experter med 400 miljarder parametrar, genererar en enda NVIDIA H100 GPU provtryck med cirka 110 tokens per sekund, med en provstorlek på ungefär 19 MB per 1 024-token-begäran, med hjälp av 4-bitars kvantifierade vikter och heltal.
Den hastigheten har en kostnad: bevisgenerering tar ungefär 70 till 95 gånger GPU-tiden för att helt enkelt köra själva modellen på vLLM, ett allmänt använt inferensbibliotek med öppen källkod. Dyrt, med andra ord - men för första gången i samma storleksordning som det som bevisas, och enligt Anthropic väsentligt snabbare än tidigare system med öppen källkod, som släpar efter i storleksordningar.
Claude byggde det — och Lean granskar påståendena
Det finns en andra berättelse vikt inuti den första. Enligt inlägget producerade Claude själv förbättringarna på zkSNARKs för slutledning, och hittade nya sätt att tillämpa toppmoderna verktyg från kryptografi- och säkerhetslitteraturen samtidigt som han förlitade sig på väletablerade designprinciper för kryptografiska bevissystem.
Anthropic är uppriktig om risken som följer med det arbetsflödet: Claude är bra på att optimera, men fattar ofta beslut som är svåra att utvärdera, särskilt i stora komplexa system. Motåtgärden är formell verifiering. Företaget tillhandahåller revisionsbara uttalanden på toppnivå i Lean, ett formellt verifieringsspråk, för de påstådda säkerhetsgarantierna - maskinkontrollerad matematik som står mellan en AI:s smarta optimeringar och användarna som måste lita på dem.
Hela stacken släpps under Apache 2.0-licensen: blogginlägget, en teknisk rapport som förklarar systemets detaljer, en protokollbeskrivning, körbar kod inklusive en provare och två verifierare – en snabb verifierare i C++ och en bevisligen korrekt verifierare i Lean – plus själva Lean-bevisen och en interaktiv visualiserare för att underlätta revision.
Från efterlevnad till AI-tempoavtal
Antropiska skisser använder fall som sträcker sig från rutin till geopolitiska. Oberoende utvärderare som testar AI-modeller före och efter lanseringen behöver veta vilken modell de utvärderar är modellen som serveras. Klienter som får åtkomst till en modell via en tredjeparts routingtjänst vill ha försäkran om att tokens kom från modellen de betalade för. Och i säkerhetsscenariot blir en cyberattackare som modifierar tokenströmmen samtidigt som den utger sig för att vara en given modell upptäckbar på ett sätt som enbart utdatainspektion aldrig kan uppnå.
Den mest ambitiösa applikationen som nämns i inlägget är verifiering av överensstämmelse med AI-tempokrav – den framväxande klassen av avtal, frivilliga och statliga, som försöker styra hur snabbt gränskapaciteten utvecklas. Idag vilar sådana åtaganden på förtroende och pappersarbete. Kryptografiska slutledningsbevis erbjuder något som ligger närmare inspektion: ett sätt att demonstrera, snarare än att hävda, vilken modell som tjänar en given arbetsbelastning.
Forskarna är tydliga med att detta är mellanliggande framsteg, inte en färdig forskningsagenda, och de publicerar med det uttalade målet att andra tar arbetet och förbättrar det. Den inramningen är i sig en signal: bevisbar slutsats har flyttats från tankeexperiment med kryptografiseminarium till ett tekniskt problem som ett gränslabb nu öppet tävlar om att göra tillräckligt billigt för att distribuera.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
