Jak działa znak wodny w Claude? Wyjaśniamy

Niewidzialny podpis na tekstach generowanych przez sztuczną inteligencję staje się faktem. Anthropic, twórca modeli Claude, wdraża mechanizm watermarkingu, czyli znakowania tekstu. To odpowiedź na wymogi unijnego aktu o sztucznej inteligencji (EU AI Act), który od sierpnia nakłada na dostawców AI obowiązek oznaczania treści generowanych przez modele. Rozwiązanie ma być niewidoczne dla czytelników, ale wykrywalne dla odpowiednich narzędzi.

W tym artykule wyjaśniamy, na czym polega ta technologia, czy wpływa na jakość generowanych treści oraz jakie ma ograniczenia. Przyglądamy się też praktycznym konsekwencjom dla użytkowników, programistów i firm korzystających z Claude’a na co dzień.

Mechanizm działania: wybór między słowami

Modele językowe, takie jak Claude, konstruują odpowiedzi słowo po słowie. Przy każdym kroku algorytm wybiera najbardziej prawdopodobną kontynuację z listy kandydatów. W wielu przypadkach kilka opcji jest równie trafnych. Przykładowo, po zdaniu „Pogoda była zimna i…” zarówno „pochmurno”, jak i „szaro” będą sensownymi wyborami. Właśnie te niskiego ryzyka decyzje stanowią fundament watermarkingu.

W standardowym działaniu model wybiera losowo spośród równie dobrych opcji. Mechanizm znakowania podmienia źródło tej losowości. Zamiast generatora liczb losowych, decyzję podejmuje się na podstawie klucza oraz kilku poprzedzających słów. Dzięki temu sekwencja wyborów pozostawia charakterystyczny, powtarzalny wzorzec. Osoba posiadająca klucz może sprawdzić, czy tekst jest zgodny z tym wzorcem i określić prawdopodobieństwo, że wygenerował go Claude.

Analogie, które pomagają zrozumieć

Wyobraź sobie grę planszową, w której ruch gracza zależy od rzutu kostką. Zamiast fizycznej kostki możesz użyć ciągu cyfr liczby pi, zaczynając od losowo wybranego miejsca. Dla graczy przebieg gry pozostaje identyczny – ruchy są równie przypadkowe. Jednak obserwator, który zna sekwencję pi, może po fakcie stwierdzić, że gra toczyła się według tego właśnie klucza. Podobnie działa znak wodny w tekstach – nie zmienia doświadczenia czytelnika, ale pozwala na weryfikację pochodzenia treści.

Wpływ na jakość i koszty generowania

Wewnętrzne testy Anthropic nie wykazały żadnego wpływu watermarkingu na treść, kreatywność ani czytelność odpowiedzi. Firma powołuje się również na badania Google DeepMind, które testowały tę technikę na ruchu Gemini. Porównanie ocen pozytywnych i negatywnych użytkowników nie wykazało istotnych różnic statystycznych między modelami ze znakiem wodnym i bez niego. W kontrolowanych badaniach ludzcy oceniający nie dostrzegali różnic między tekstami oznaczonymi i nieoznaczonymi.

Co istotne, mechanizm nie dodaje żadnych ukrytych znaków do treści. Nie wymaga też dodatkowych tokenów, więc koszty serwowania modelu pozostają bez zmian. Wpływ na szybkość działania jest znikomy. Użytkownicy nie powinni zauważyć żadnej różnicy w działaniu Claude’a.

Gdzie znak wodny nie zadziała?

Skuteczność mechanizmu maleje w przypadku tekstów o charakterze ścisłym i faktograficznym. Gdy istnieje tylko jedno poprawne słowo, model nie ma pola manewru. Przykładem jest dokończenie tytułu dzieła Newtona – „Principia Mathematica” to jedyna poprawna odpowiedź. Podobnie sytuacja wygląda z kodem, gdzie precyzja jest kluczowa. W takich przypadkach znak wodny po prostu nie ma gdzie się zaczepić.

Ograniczenia dotyczą też krótkich fragmentów. Im mniej decyzji podejmuje model, tym mniej danych do analizy. Pewność detekcji rośnie wraz z długością tekstu. Podobnie sprawa wygląda z korektą tekstów – jeśli Claude tylko poprawia gramatykę cudzego utworu, jego wkład może być zbyt mały, by znak wodny był wykrywalny.

Prywatność i zgodność z prawem UE

Znak wodny nie zawiera żadnych informacji identyfikujących użytkownika. Nie można na jego podstawie ustalić, kto korzystał z modelu, z jakiej organizacji pochodzi ani jakie prowadził rozmowy. Mechanizm pozwala wyłącznie odpowiedzieć na pytanie o prawdopodobieństwo udziału Claude’a w tworzeniu tekstu. Nie rozstrzyga też kwestii własności ani odpowiedzialności prawnej za treść.

Wdrożenie wynika z podpisania unijnego kodeksu postępowania w sprawie przejrzystości treści generowanych przez AI. Anthropic znalazł się w gronie około 190 sygnatariuszy. Znakowanie obejmie wszystkie regiony, ponieważ firma nie dysponuje obecnie trwałym mechanizmem ograniczania go geograficznie. Starsze modele Claude’a również otrzymają aktualizacje w nadchodzących miesiącach, z uwzględnieniem okresu przejściowego przewidzianego w przepisach.

Pliki graficzne i przyszłe narzędzia

W przypadku plików graficznych (PNG, JPG, SVG) Claude będzie dołączał poświadczenia treści w standardzie C2PA. To otwarty format używany przez producentów aparatów i oprogramowanie do edycji zdjęć. Poświadczenie to podpisany kryptograficznie wpis w metadanych pliku, informujący o udziale Claude’a w jego powstaniu. Nie zmienia on samego pliku i nie zawiera danych osobowych.

Anthropic planuje udostępnić API do wykrywania znaków wodnych. Firma pracuje nad szczegółami implementacji. Warto też odróżnić watermarking od narzędzi do wykrywania AI, takich jak Pangram. Te drugie opierają się na analizie charakterystycznych wzorców językowych, np. częstego używania konstrukcji „to nie jest X, to Y” czy słowa „cicho”. To fundamentalnie inna metoda niż sprawdzanie zgodności z kluczem.

Znak wodny to nie jest zabezpieczenie absolutne. Lekka edycja tekstu prawdopodobnie nie usunie go całkowicie, ale gruntowny rewriting, w którym każde słowo zostanie zastąpione, już tak. W tym drugim przypadku trudno jednak mówić, że tekst nadal jest wytworem AI. Mechanizm sprawdza się również w tłumaczeniach – jeśli Claude tłumaczy całość, każde słowo pochodzi od modelu, więc znak wodny obejmuje cały tekst.

Nadchodzące zmiany oznaczają, że treści generowane przez AI staną się bardziej weryfikowalne. Dla firm i twórców to krok w stronę większej transparentności. Pozostaje pytanie, jak szybko narzędzia do detekcji staną się powszechnie dostępne i czy użytkownicy nauczą się z nich korzystać w codziennej pracy.