Když mluvíte s přítelem osobně, můžete je vidět, slyšet, potřást si rukou. Když mluvíte s modelem AI, nemáte téměř žádnou z těchto záruk. Nový výzkum společnosti Anthropic se zaměřuje přesně na tuto mezeru: společnost zveřejnila pokrok v kryptografických důkazech odvození, včetně systému nazvaného FlashProve, který může prokázat – matematicky, nikoli smluvně –, že odpověď skutečně přišla z modelu, za nějž se vydává.

Problém, který FlashProve řeší, je tiše strukturální. Uživatel, který se dnes dotazuje na model, nemůže zkontrolovat, že odpovědi pocházejí z konkrétního modelu, o kterém vývojář tvrdí, že odpovídá, na rozdíl od toho, který byl tajně nahrazen směrovací službou z cenových důvodů, nebo dokonce útočníkem, který manipuloval s tokenem tokenu. Soudit podle samotného výstupu je nespolehlivé, i když odpovědi vypadají výborně. V odvětví, kde může stejné okno chatu tiše směrovat k levnějšímu modelu pod zatížením, to není hypotetický problém – je to výchozí model důvěry. Další informace o práci, jako je tato, najdete v našich zprávách o výzkumu AI.

Proč je prokazatelný závěr těžký

Cílem prokazatelného závěru je umožnit uživateli s omezenými výpočetními zdroji – a bez přístupu k soukromým vahám modelu – ověřit, že daná odpověď byla skutečně vytvořena tímto modelem. Zjevný přístup, opětovné spuštění modelu sami, není pro začátek: váhy hraničních modelů jsou uchovávány v soukromí a kontrola odpovědi proti nim by vyžadovala výpočet daleko za hranicemi toho, co si může dovolit typický uživatel nebo dokonce dobře financovaný hodnotitel.

Přístup společnosti Anthropic se opírá o zkSNARKs, rodinu důkazů s nulovými znalostmi se silnými krycími a účinnými vlastnostmi, díky nimž jsou jedinečně vhodné pro daný úkol. Poskytovatel se jednou zaváže k modelu a poté pro každou odpověď vygeneruje kompaktní důkaz, že odpověď byla vypočtena potvrzeným modelem – zatímco samotné důkazy skrývají váhy modelu. Skrytí architektury není cílem systému; skrytí závaží je.

Čísla

Údaje o efektivitě v příspěvku jsou technickým jádrem příběhu, protože generování důkazů pro velké modely bylo historicky řádově příliš pomalé na to, aby záleželo. Pro Llama 4 Maverick, model se 400 miliardami parametrů, směs odborníků, generuje jediný GPU NVIDIA H100 nátisky rychlostí přibližně 110 tokenů za sekundu, s velikostí nátisku zhruba 19 MB na 1 024 tokenů, s použitím 4bitových kvantovaných arithmetických vah a celých čísel.

Tato rychlost něco stojí: generování důkazů zabere zhruba 70 až 95krát více času GPU, než je doba pouhého spuštění samotného modelu na vLLM, široce používané open-source inferenční knihovně. Jinými slovy drahé — ale poprvé ve stejném řádu velikosti jako věc, která se prokazuje, a podle Antropic podstatně rychlejší než předchozí open-source systémy, které řádově zaostávají.

Claude to postavil — a Lean kontroluje tvrzení

Uvnitř prvního je složený druhý příběh. Podle příspěvku Claude sám produkoval vylepšení zkSNARK pro odvození, našel nové způsoby, jak aplikovat nejmodernější nástroje z literatury o kryptografii a bezpečnosti, a přitom se spoléhal na dobře zavedené principy návrhu pro kryptografické důkazní systémy.

Společnost Antropic otevřeně hovoří o riziku, které s sebou tento pracovní postup přináší: Claude je dobrý v optimalizaci, ale často dělá rozhodnutí, která je těžké vyhodnotit, zejména ve velkých komplexních systémech. Protiopatřením je formální ověření. Společnost poskytuje auditovatelná prohlášení nejvyšší úrovně v Lean, formálním ověřovacím jazyce, pro nárokované záruky zabezpečení – strojově kontrolovaná matematika stojící mezi chytrými optimalizacemi AI a uživateli, kteří jim musí věřit.

Celá sada je vydávána pod licencí Apache 2.0: blogový příspěvek, technická zpráva vysvětlující podrobnosti o systému, popis protokolu, spustitelný kód včetně ověřovače a dvou ověřovatelů – rychlého verifikátoru v C++ a prokazatelně správného ověřovače v Lean – plus samotné Lean důkazy a interaktivní vizualizér pro usnadnění auditu.

Od dodržování předpisů ke smlouvám o stimulaci umělé inteligence

Antropické náčrty používají případy, které sahají od rutinních po geopolitické. Nezávislí hodnotitelé, kteří testují modely umělé inteligence před vydáním a po něm, potřebují vědět, že model, který vyhodnocují, je model, který je obsluhován. Klienti, kteří přistupují k modelu prostřednictvím směrovací služby třetí strany, chtějí mít jistotu, že tokeny pocházejí z modelu, za který zaplatili. A v bezpečnostním scénáři se kybernetický útočník, který modifikuje tokenový tok a zároveň zosobňuje daný model, stane detekovatelným způsobem, kterého samotná výstupní kontrola nikdy nemůže dosáhnout.

Nejambicióznější aplikací uvedenou v příspěvku je ověření souladu s požadavky na rychlost AI – vznikající třída dohod, dobrovolných a vládních, které se pokoušejí řídit, jak rychle postupují hraniční schopnosti. Dnes takové závazky spočívají na důvěře a papírování. Kryptografické důkazy inference nabízejí něco bližšího inspekci: způsob, jak demonstrovat, spíše než tvrdit, který model slouží dané pracovní zátěži.

Výzkumníci jasně říkají, že se jedná o střední pokrok, nikoli o dokončený výzkumný program, a publikují s uvedeným cílem, aby se ostatní chopili práce a zlepšili ji. Toto rámování je samo o sobě signálem: prokazatelná inference se přesunula z myšlenkového experimentu na kryptografickém semináři k technickému problému, o který se nyní hraniční laboratoř otevřeně předháněla, aby byla dostatečně levná pro nasazení.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →