Kiedy rozmawiasz z przyjacielem osobiście, możesz go zobaczyć, usłyszeć, uścisnąć mu dłoń. Rozmawiając z modelem sztucznej inteligencji, nie masz prawie żadnej z tych gwarancji. Nowe badania Anthropic mają na celu dokładnie tę lukę: firma opublikowała postęp w zakresie kryptograficznych dowodów wnioskowania, w tym systemu o nazwie FlashProve, który może udowodnić – matematycznie, a nie na podstawie umowy – że odpowiedź rzeczywiście pochodzi z modelu, za który się podaje.
Problem, który rozwiązuje FlashProve, ma charakter strukturalny. Użytkownik wysyłający dzisiaj zapytanie do modelu nie może sprawdzić, czy odpowiedzi pochodzą z konkretnego modelu, na który według dewelopera odpowiada, a nie z modelu potajemnie zastąpionego przez usługę routingu ze względów kosztowych lub nawet przez osobę atakującą, która manipulowała strumieniem tokenów. Ocenianie na podstawie samych wyników jest niewiarygodne, nawet jeśli odpowiedzi wyglądają doskonale. W branży, w której to samo okno czatu może po cichu przekierowywać do tańszego modelu pod obciążeniem, nie jest to hipotetyczny problem — jest to domyślny model zaufania. Więcej informacji na temat tego typu prac znajdziesz w naszych wiadomościach dotyczących badań nad sztuczną inteligencją.
Dlaczego możliwe do udowodnienia wnioskowanie jest trudne
Celem dającego się udowodnić wnioskowania jest umożliwienie użytkownikowi z ograniczonymi zasobami obliczeniowymi – i bez dostępu do prywatnych wag modelu – sprawdzenia, czy dana odpowiedź została rzeczywiście wygenerowana przez ten model. Oczywiste podejście, polegające na samodzielnym ponownym uruchomieniu modelu, nie jest niczym startowym: wagi modeli pionierskich są utrzymywane w tajemnicy, a sprawdzenie odpowiedzi na ich podstawie wymagałoby obliczeń znacznie przekraczających możliwości przeciętnego użytkownika lub nawet dobrze finansowanego oceniającego.
Podejście zastosowane w projekcie Anthropic opiera się na zkSNARK – rodzinie dowodów o wiedzy zerowej o silnych właściwościach ukrywania i wydajności, dzięki którym idealnie nadają się do tego zadania. Dostawca zobowiązuje się do modelu raz, a następnie dla każdej odpowiedzi generuje kompaktowy dowód, że odpowiedź została obliczona przez zatwierdzony model — podczas gdy same dowody ukrywają wagi modelu. Ukrywanie architektury nie jest celem systemu; ukrywanie ciężarów jest.
Liczby
Dane dotyczące wydajności zawarte w poście stanowią techniczny rdzeń tej historii, ponieważ w przeszłości generowanie dowodów dla dużych modeli było o rzędy wielkości zbyt wolne, aby miało to znaczenie. W przypadku Llama 4 Maverick, modelu złożonego z wielu ekspertów o 400 miliardach parametrów, pojedynczy procesor graficzny NVIDIA H100 generuje dowody z szybkością około 110 tokenów na sekundę, przy rozmiarze dowodu wynoszącym około 19 MB na żądanie zawierające 1024 tokeny, przy użyciu 4-bitowych skwantowanych wag i arytmetyki liczb całkowitych we wstępnym wypełnieniu.
Taka prędkość ma swoją cenę: wygenerowanie dowodu zajmuje około 70–95 razy więcej czasu GPU niż zwykłe uruchomienie samego modelu w vLLM, powszechnie używanej bibliotece wnioskowań typu open source. Innymi słowy, drogie — ale po raz pierwszy w tym samym rzędzie wielkości, co udowadniana rzecz, i według Anthropic znacznie szybsze niż wcześniejsze systemy typu open source, które są opóźnione o rzędy wielkości.
Claude to zbudował — a Lean sprawdza roszczenia
Wewnątrz pierwszej kryje się druga historia. Zgodnie z postem Claude sam opracował ulepszenia zkSNARK służące do wnioskowania, znajdując nowatorskie sposoby zastosowania najnowocześniejszych narzędzi z literatury dotyczącej kryptografii i bezpieczeństwa, opierając się jednocześnie na ugruntowanych zasadach projektowania systemów dowodów kryptograficznych.
Anthropic szczerze mówi o ryzyku związanym z tym przepływem pracy: Claude jest dobry w optymalizacji, ale często podejmuje decyzje, które są trudne do oceny, szczególnie w przypadku dużych, złożonych systemów. Środkiem zaradczym jest weryfikacja formalna. Firma zapewnia najwyższej jakości sprawozdania podlegające audytowi w Lean, formalnym języku weryfikacji, dotyczące deklarowanych gwarancji bezpieczeństwa — sprawdzanej maszynowo matematyki stojącej pomiędzy sprytnymi optymalizacjami sztucznej inteligencji a użytkownikami, którzy muszą im ufać.
Pełen stos jest udostępniany na licencji Apache 2.0: wpis na blogu, raport techniczny wyjaśniający szczegóły systemu, opis protokołu, kod wykonywalny zawierający moduł sprawdzający i dwa weryfikatory — szybki weryfikator w C++ i możliwy do udowodnienia poprawny weryfikator w Lean — a także same dowody Lean i interaktywny wizualizator ułatwiający audyt.
Od zgodności do traktatów dotyczących sztucznej inteligencji
Szkice antropiczne wykorzystują przypadki od rutynowych po geopolityczne. Niezależni ewaluatorzy, którzy testują modele AI przed wydaniem i po jego wydaniu, muszą wiedzieć, że model, który oceniają, jest modelem obsługiwanym. Klienci uzyskujący dostęp do modelu za pośrednictwem usługi routingu innej firmy chcą mieć pewność, że tokeny pochodzą z modelu, za który zapłacili. W scenariuszu dotyczącym bezpieczeństwa cyberprzestępca, który modyfikuje strumień tokenów, podszywając się pod dany model, staje się wykrywalny w sposób, którego nie da się osiągnąć samą inspekcją danych wyjściowych.
Najbardziej ambitną aplikacją wymienioną w poście jest weryfikacja zgodności z wymogami dotyczącymi tempa rozwoju sztucznej inteligencji – wyłaniającej się klasy umów, dobrowolnych i rządowych, które mają na celu określenie szybkości rozwoju zdolności granicznych. Dziś takie zobowiązania opierają się na zaufaniu i dokumentacji. Kryptograficzne dowody wnioskowania oferują coś bliższego inspekcji: sposób na wykazanie, a nie stwierdzenie, który model obsługuje dane obciążenie.
Naukowcy wyraźnie mówią, że jest to postęp pośredni, a nie ukończony program badań, i publikują w określonym celu, aby inni podjęli pracę i ją ulepszyli. To sformułowanie samo w sobie jest sygnałem: możliwe do udowodnienia wnioskowanie przeszło od eksperymentu myślowego w ramach seminarium kryptograficznego do problemu inżynieryjnego, który obecnie laboratorium graniczne otwarcie ściga się, aby zapewnić wystarczająco niską cenę do wdrożenia.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
