Anthropic FlashProve: kryptografia weryfikuje modele AI

Kiedy wysyłasz zapytanie do modelu językowego, nie masz dziś żadnego sposobu, by sprawdzić, czy odpowiedź faktycznie pochodzi od wskazanego systemu. Usługa pośrednicząca może po cichu podstawić tańszy model, a strumień danych da się zmodyfikować po drodze. Anthropic proponuje rozwiązanie tego problemu w postaci FlashProve - otwartego prototypu badawczego, który wykorzystuje kryptografię do potwierdzania autorstwa odpowiedzi.

Jak kryptografia potwierdza, który model wygenerował tekst

Fundamentem systemu jest technika znana jako zkSNARK (zero-knowledge Succinct Non-interactive Argument of Knowledge). Mówiąc prościej: dostawca modelu tworzy najpierw cyfrowy odcisk palca swoich wag. Następnie przy każdej odpowiedzi dołącza zwięzły dowód, że dane wyjście powstało właśnie w tym modelu. Dowód nie zdradza przy tym niczego o samych wagach, które pozostają tajemnicą firmy.

To istotna różnica względem wcześniejszych podejść. Anthropic wskazuje, że jedyny porównywalny otwarty system potrzebował ponad 14 godzin na przetworzenie tysiąca tokenów, generował dowód ważący 93,6 GB i wymagał niemal całej doby na jego weryfikację. FlashProve zmienia ten obraz o kilka rzędów wielkości.

Wydajność, która czyni metodę użyteczną

Według raportu technicznego prototyp wytwarza dowody z szybkością około 110 tokenów na sekundę na pojedynczym GPU H100 - na przykładzie Llama 4 Maverick od Meta, modelu liczącego 400 miliardów parametrów. Każdy dowód zajmuje około 19 megabajtów i można go zweryfikować w 17 sekund na zwykłym procesorze. Narzut względem standardowego wnioskowania wynosi od 70 do 95 razy. Brzmi to dużo, ale w porównaniu z poprzednimi systemami to skok jakościowy, który pozwala myśleć o praktycznym zastosowaniu.

Kto skorzysta na weryfikacji wnioskowania

Anthropic wymienia kilka scenariuszy, w których dowody kryptograficzne mogłyby zmienić zasady gry:

• Regulatorzy mogliby sprawdzać, czy dostawca rzeczywiście uruchamia wyłącznie zatwierdzone modele, a nie inne systemy pod tą samą nazwą.
• Firmy mogłyby udowodnić, że ich kod przeszedł przegląd konkretnego modelu bezpieczeństwa - co ma znaczenie choćby w audytach compliance.
• Dostawcy infrastruktury zyskaliby narzędzie do wykrywania manipulacji na swoich serwerach, na przykład gdy atakujący lub bardziej zaawansowany model podsuwa nieautoryzowane odpowiedzi.

Warto zauważyć, że w swoim dokumencie Frontier Safety Roadmap Anthropic założył zbudowanie prototypu weryfikacji wnioskowania do września 2026 roku. Firma twierdzi, że cel osiągnęła już wcześniej - dzięki odrębnemu projektowi, który podpisuje ruch wnioskowania i śledzi obliczenia na zaufanym serwerze. FlashProve realizuje ten sam postulat, ale stawia wyłącznie na kryptografię i nie wymaga zaufanego sprzętu.

Ograniczenia, o których trzeba pamiętać

Anthropic wyraźnie podkreśla, że FlashProve pozostaje prototypem badawczym. Ograniczenia są poważne i dotyczą trzech obszarów.

Krótki kontekst i brak losowości

System potwierdza obecnie konteksty o długości maksymalnie 1024 tokenów - to znacznie mniej niż okna kontekstowe współczesnych modeli. Dowód ukrywa wagi, ale nie architekturę sieci. Co więcej, działa tylko wtedy, gdy model wybiera pojedynczy najbardziej prawdopodobny kolejny token. Codzienne rozmowy z chatbotami opierają się na próbkowaniu losowym, więc ta metoda na razie nie obejmuje typowych zastosowań.

Mimo tych zastrzeżeń warto śledzić projekt: pełny kod, dowody w Lean oraz dokumentacja są dostępne na GitHubie na licencji Apache 2.0. To zaproszenie do społeczności badawczej, by wspólnie pracować nad kolejnymi wersjami.

Co dalej z weryfikacją modeli

FlashProve pokazuje kierunek, w którym może iść odpowiedzialne wdrażanie AI: nie tylko deklaracje dostawców, ale mierzalne dowody. Dziś to narzędzie o wąskim zastosowaniu - krótki kontekst, deterministyczne wyjście, spory narzut obliczeniowy. Jednak sama idea kryptograficznego potwierdzania autorstwa odpowiedzi może stać się fundamentem przyszłych standardów audytu systemów AI, zwłaszcza w regulowanym otoczeniu.

Pytanie brzmi, czy kolejne iteracje poradzą sobie z losowym próbkowaniem i dłuższymi kontekstami na tyle szybko, by metoda trafiła do codziennych produktów. Jeśli tak, użytkownicy zyskają coś, czego dziś brakuje: możliwość sprawdzenia, z kim naprawdę rozmawiają.