Als je persoonlijk met een vriend praat, kun je hem of haar zien, horen en de hand schudden. Als je met een AI-model praat, heb je bijna geen van deze garanties. Het nieuwe onderzoek van Anthropic richt zich precies op die leemte: het bedrijf heeft vooruitgang gepubliceerd op het gebied van cryptografische bewijzen van gevolgtrekking, waaronder een systeem genaamd FlashProve dat kan bewijzen – wiskundig, niet contractueel – dat een antwoord werkelijk voortkwam uit het model dat het beweert te zijn.
Het probleem dat FlashProve oplost, is stilletjes structureel. Een gebruiker die vandaag de dag een model bevraagt, kan niet controleren of de antwoorden afkomstig zijn van het specifieke model waarvan een ontwikkelaar beweert dat het reageert, in tegenstelling tot een model dat om kostenredenen in het geheim is vervangen door een routeringsservice, of zelfs door een aanvaller die met de tokenstroom heeft geknoeid. Alleen al op basis van de resultaten is het onbetrouwbaar, ook al zien de antwoorden er uitstekend uit. In een sector waar hetzelfde chatvenster onder belasting stilletjes naar een goedkoper model kan leiden, is dat geen hypothetische zorg; het is het standaard vertrouwensmodel. Zie ons AI-onderzoeksnieuws voor meer berichtgeving over dit soort werk.
Waarom aantoonbare gevolgtrekkingen moeilijk zijn
Het doel van aantoonbare gevolgtrekking is om een gebruiker met beperkte computerbronnen (en geen toegang tot de privégewichten van een model) te laten verifiëren dat een bepaald antwoord daadwerkelijk door dat model is geproduceerd. De voor de hand liggende aanpak, het model zelf opnieuw uitvoeren, is een non-starter: de gewichten van frontiermodellen worden privé gehouden, en het controleren van een antwoord daarop zou rekenkracht vergen die veel verder gaat dan wat een gemiddelde gebruiker, of zelfs een goed gefinancierde evaluator, zich kan veroorloven.
De aanpak van Anthropic leunt op zkSNARKs, een familie van zero-knowledge proofs met sterke dek- en efficiëntie-eigenschappen waardoor ze uniek geschikt zijn voor de taak. Een aanbieder verplicht zich één keer tot een model en genereert vervolgens voor elk antwoord een compact bewijs dat het antwoord door het vastgelegde model is berekend, terwijl de bewijzen zelf de gewichten van het model verbergen. Het verbergen van de architectuur is geen doel van het systeem; het verbergen van de gewichten is.
De cijfers
De efficiëntiecijfers in de post vormen de technische kern van het verhaal, omdat het genereren van bewijzen voor grote modellen historisch gezien te langzaam is geweest om er toe te doen. Voor Llama 4 Maverick, een mix-van-experts-model met 400 miljard parameters, genereert een enkele NVIDIA H100 GPU bewijzen met ongeveer 110 tokens per seconde, met een proefgrootte van ongeveer 19 MB per verzoek van 1.024 tokens, met behulp van 4-bits gekwantiseerde gewichten en rekenkundige berekeningen met gehele getallen in prefill.
Aan die snelheid zijn kosten verbonden: het genereren van proefdrukken kost ruwweg 70 tot 95 keer de GPU-tijd van het simpelweg uitvoeren van het model zelf op vLLM, een veelgebruikte open-source inferentiebibliotheek. Met andere woorden: duur, maar voor het eerst in dezelfde orde van grootte als wat wordt bewezen, en volgens Anthropic substantieel sneller dan eerdere open-sourcesystemen, die ordes van grootte achterblijven.
Claude heeft het gebouwd – en Lean controleert de claims
Er is een tweede verhaal gevouwen in het eerste. Volgens de post heeft Claude zelf de verbeteringen op zkSNARK's geproduceerd voor gevolgtrekking, waarbij hij nieuwe manieren heeft gevonden om de modernste tools uit de cryptografie- en beveiligingsliteratuur toe te passen, terwijl hij vertrouwt op gevestigde ontwerpprincipes voor cryptografische bewijssystemen.
Anthropic is openhartig over de risico's die deze workflow met zich meebrengt: Claude is goed in optimalisatie, maar neemt vaak beslissingen die moeilijk te evalueren zijn, vooral in grote complexe systemen. De tegenmaatregel is formele verificatie. Het bedrijf levert op het hoogste niveau controleerbare verklaringen in Lean, een formele verificatietaal, voor de geclaimde veiligheidsgaranties: machinaal gecontroleerde wiskunde die tussen de slimme optimalisaties van een AI en de gebruikers die ze moeten vertrouwen, staat.
De volledige stapel wordt vrijgegeven onder de Apache 2.0-licentie: de blogpost, een technisch rapport waarin de details van het systeem worden uitgelegd, een protocolbeschrijving, uitvoerbare code inclusief een prover en twee verifiers – een snelle verifier in C++ en een aantoonbaar correcte verifier in Lean – plus de Lean-proofs zelf en een interactieve visualisatie om auditing te vergemakkelijken.
Van naleving tot AI-pacingverdragen
Antropische schetsen gebruiken cases die variëren van routinematig tot geopolitiek. Onafhankelijke beoordelaars die AI-modellen voor en na de release testen, moeten weten welk model ze evalueren, het model is dat wordt bediend. Klanten die toegang krijgen tot een model via een routeringsservice van derden, willen zekerheid dat de tokens afkomstig zijn van het model waarvoor ze hebben betaald. En in het beveiligingsscenario wordt een cyberaanvaller die de tokenstroom wijzigt terwijl hij een bepaald model nabootst, detecteerbaar op een manier die alleen met outputinspectie nooit kan worden bereikt.
De meest ambitieuze toepassing die in de post wordt genoemd, is de verificatie van de naleving van AI-pacingvereisten – de opkomende klasse van overeenkomsten, vrijwillig en door de overheid, die proberen te bepalen hoe snel grenscapaciteiten zich ontwikkelen. Tegenwoordig berusten dergelijke verplichtingen op vertrouwen en papierwerk. Cryptografische bewijzen van gevolgtrekking bieden iets dat dichter bij inspectie ligt: een manier om aan te tonen, in plaats van te beweren, welk model een bepaalde werklast dient.
De onderzoekers maken duidelijk dat dit een tussentijdse vooruitgang is, en geen voltooide onderzoeksagenda, en ze publiceren met het gestelde doel dat anderen het werk overnemen en verbeteren. Die framing is zelf een signaal: de aantoonbare gevolgtrekking is verschoven van een gedachte-experiment op het gebied van cryptografie naar een technisch probleem dat een grenslaboratorium nu openlijk probeert te maken dat het goedkoop genoeg is om in te zetten.
---
Blijf AI een stap voorOntvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →
