SynthID w GPT-Live: OpenAI znakuje głos przed wejściem w życie AI Act

OpenAI zaktualizowało swój model głosowy GPT-Live, osadzając w nim technologię znakowania wodnego SynthID od Google DeepMind. Od 31 lipca każdy fragment audio wygenerowany przez ChatGPT Voice oraz API zawiera niewidoczny i niesłyszalny dla człowieka znacznik. Równocześnie firma uruchomiła publiczne API weryfikacyjne, które pozwala każdej organizacji sprawdzić, czy dany plik dźwiękowy pochodzi z systemów OpenAI. Aktualizacja pojawiła się dokładnie na dzień przed wejściem w życie artykułu 50 unijnego aktu o sztucznej inteligencji (EU AI Act).

To nie jest jednak tylko kolejny element układanki związanej z bezpieczeństwem. Zmiana polega na tym, że sygnał nie tylko istnieje, ale każda strona trzecia może teraz sprawdzić jego obecność. Wcześniej weryfikacja pochodzenia audio była możliwa wyłącznie przez narzędzia dostępne dla użytkownika końcowego. Teraz deweloperzy mogą wbudować mechanizm sprawdzania bezpośrednio w swoje systemy, co otwiera nowe możliwości dla platform społecznościowych, redakcji czy działów compliance w firmach.

Jak działa znakowanie audio w technologii SynthID

Mechanizm znakowania obrazów w SynthID opiera się na modyfikacji pikseli po wygenerowaniu grafiki. W przypadku dźwięku potrzebne było zupełnie inne podejście. System działa w spektrogramie, czyli wizualnej reprezentacji częstotliwości sygnału audio w czasie. Proces składa się z trzech etapów: najpierw fala dźwiękowa jest przekształcana na reprezentację czasowo-częstotliwościową, następnie w spektrogramie kodowany jest wzorzec znaku wodnego z wykorzystaniem zasad maskowania psychoakustycznego, a na końcu fala jest odtwarzana z zmodyfikowanego spektrogramu.

Kluczowym elementem jest właśnie maskowanie psychoakustyczne. Ludzki układ słuchowy nie jest w stanie wychwycić dźwięków zamaskowanych przez głośniejsze sygnały w sąsiednich pasmach częstotliwości. Ta sama właściwość pozwala kompresji MP3 usuwać duże ilości danych bez odczuwalnej straty jakości. SynthID wykorzystuje te naturalne ograniczenia percepcji, umieszczając znak wodny w precyzyjnie dobranych miejscach. Technika rozproszonego widma (spread-spectrum) rozdziela nadmiarowe kopie sygnału na wiele pasm częstotliwości i pozycji czasowych.

Praktyczny efekt jest taki, że znak wodny przetrwa kompresję MP3, nawet przy agresywnym kodowaniu 128 kbps, zmiany prędkości i tonu, a nawet tak zwaną „dziurę analogową”, czyli nagranie dźwięku odtwarzanego przez głośnik i ponowne zarejestrowanie go przez mikrofon. Klip udostępniony w mediach społecznościowych, transkodowany przez platformę wideo czy przepuszczony przez kodek VoIP wciąż będzie zawierał sygnał. Zwykły znacznik metadanych nie przetrwałby żadnej z tych operacji.

Detekcja odbywa się za pomocą filtra dopasowanego (matched filter). Dekoder Google jest trenowany do rozpoznawania wzorca statystycznego wprowadzonego przez enkoder, nawet po przetworzeniu, kompresji czy ponownym zakodowaniu audio. Należy jednak podkreślić, że sam detektor pozostaje własnością Google i nie może być uruchamiany niezależnie przez strony trzecie. To właśnie dlatego udostępnienie API przez OpenAI ma tak duże znaczenie.

Co daje deweloperom nowe API weryfikacyjne

Znak wodny, którego nie może sprawdzić nikt poza OpenAI, nie stanowi systemu weryfikacji pochodzenia. To raczej narzędzie kryminalistyczne dostępne tylko jednej stronie. Otwarcie API zmienia tę sytuację. Organizacje mogą teraz wysyłać pliki audio do automatycznego sprawdzenia i otrzymać werdykt dotyczący pochodzenia sygnału. Zapytanie trafia do matchera OpenAI, który analizuje przesłaną falę dźwiękową i zwraca odpowiedź.

Zakres zastosowań jest szeroki. Redakcje mogą weryfikować nadesłane nagrania przed publikacją. Platformy społecznościowe mają możliwość przeglądu przesyłanych treści głosowych pod kątem pochodzenia z systemów OpenAI. Działy compliance w przedsiębiorstwach mogą sprawdzać nagrania wychodzące z firmowych systemów. To pierwszy przypadek, gdy weryfikacja pochodzenia audio może być zintegrowana z automatycznym potokiem przetwarzania danych, zamiast wymagać od użytkownika odwiedzenia strony internetowej.

Sasha Luccioni, badaczka AI z Hugging Face, zwracała uwagę już w 2023 roku, że zastrzeżona infrastruktura detekcyjna SynthID oznacza, iż tylko Google może osadzać i wykrywać znaki wodne. To ograniczenie strukturalne pozostało aktualne także po wdrożeniu znakowania obrazów w maju. Narzędzie weryfikacyjne OpenAI wymagało wówczas przesłania pliku na stronę openai.com/verify. Nowe API po raz pierwszy znosi tę barierę dla głosu.

Warto jednak zaznaczyć, że na starcie API obejmuje wyłącznie audio pochodzące z systemów OpenAI. Plik z ElevenLabs, klon głosu wygenerowany przez model open-source czy jakikolwiek syntetyczny głos niepochodzący z GPT-Live nie zwróci żadnego sygnału. Co istotne, brak sygnału nie oznacza, że nagranie jest autentyczne. Oznacza jedynie, że nie wykryto znaku wodnego OpenAI.

Regulacyjny wyścig z czasem i wymogi unijne

Artykuł 50 EU AI Act wchodzi w życie 2 sierpnia 2026 roku. Przepis nakłada na dostawców generatywnych systemów AI obowiązek osadzania maszynowo czytelnych znaczników w syntetycznych treściach audio, aby można było je zidentyfikować jako wytworzone sztucznie. Kary za nieprzestrzeganie przepisów sięgają 15 milionów euro lub 3% globalnego rocznego obrotu. Systemy obecne na rynku unijnym przed 2 sierpnia mają okres przejściowy do 2 grudnia 2026 roku. Nowe systemy muszą spełniać wymogi od pierwszego dnia dostępności.

Osobny termin, luty 2027 roku, dotyczy interoperacyjności rozwiązań do wykrywania znaków wodnych. Oznacza to, że znacznik z jednego systemu będzie mógł być wykryty przez narzędzia stworzone dla innego. Obecnie nie istnieje uniwersalny standard wykrywania między systemami. SynthID można wykryć wyłącznie przez autoryzowaną infrastrukturę Google. Nowe API OpenAI zaczyna zamykać tę lukę dla audio pochodzącego z GPT-Live.

Analiza prawna opublikowana przez Tech Policy Press wykazała, że żadna pojedyncza technologia znakowania nie spełnia obecnie wszystkich czterech kryteriów artykułu 50: skuteczności, interoperacyjności, odporności i niezawodności. Unijny kodeks postępowania zaleca podejście warstwowe, łączące osadzanie metadanych z niewidocznym znakiem wodnym. Dokładnie taką kombinację C2PA i SynthID zastosowano w przypadku audio OpenAI. Firma buduje to rozwiązanie od 2024 roku, gdy zaczęła dodawać poświadczenia treści do obrazów generowanych przez DALL-E 3, a później ImageGen i Sora.

GPT-Live i ograniczenia systemu znakowania

GPT-Live zadebiutował 8 lipca 2026 roku, zastępując Advanced Voice Mode jako domyślne doświadczenie głosowe dla ponad 150 milionów osób korzystających tygodniowo z funkcji głosowych i dyktowania w ChatGPT. Architektura full-duplex przetwarza wejście i wyjście audio jednocześnie, podejmując decyzje wiele razy na sekundę. Wcześniejsze systemy oparte na turze, w tym Advanced Voice Mode, czekały aż użytkownik skończy mówić, używając ciszy jako sygnału końca wypowiedzi. Przypadkowa pauza lub hałas w tle mogły przerwać rozmowę.

W kwestii ograniczeń, żaden system znakowania nie jest nie do obejścia. Badania opublikowane na USENIX Security 2025 w artykule UnMarker wykazały 79% skuteczność usuwania znaków SynthID, choć Google zakwestionował te wyniki. Inny projekt badacza Alosha Denny’ego zastosował transformację Fouriera i analizę spójności fazowej do znaków w obrazach, raportując 91% redukcję spójności fazowej przy minimalnej widocznej degradacji. Żaden z tych wyników nie eliminuje jednak wartości ochronnej znaku w praktyce. Częściowe obejście degraduje sygnał, a dwuwarstwowa konstrukcja sprawia, że udany atak na SynthID może pozostawić nietknięte metadane C2PA.

Bardziej fundamentalnym ograniczeniem jest kwestia strukturalna. Modele głosowe open-source, funkcjonujące całkowicie poza jakimkolwiek systemem znakowania, pozostają trwałą luką, której żadna inicjatywa międzysektorowa nie może zamknąć. Klon głosu wyprodukowany przez model open-source nie będzie zawierał znaku SynthID, nie zwróci sygnału z API weryfikacyjnego i nie będzie można go odróżnić od autentycznego ludzkiego audio za pomocą żadnego systemu opartego na pochodzeniu. Większość frameworków do klonowania głosu open-source nie obejmuje znakowania wodnego, weryfikacji zgody ani wbudowanego wykrywania deepfake’ów.

Detekcja wymaga również aktywnej integracji. Sygnał znaku wodnego ma znaczenie tylko wtedy, gdy platforma faktycznie wysyła zapytania do API. Infrastruktura już istnieje. Pytanie, czy ekosystem zbuduje warstwę detekcyjną w swoich potokach przetwarzania treści, pozostaje otwarte. Przed wdrożeniem w GPT-Live, SynthID był osadzany w produktach Google od 2023 roku — w Gemini dla tekstu, Imagen dla obrazów, Lyria dla audio i Veo dla wideo. Ogłoszenia z Google I/O w maju 2026 ustanowiły go standardem branżowym, gdy OpenAI, NVIDIA, ElevenLabs i Kakao przyjęły SynthID dla obrazów. Do maja 2026 roku oznaczono ponad 100 miliardów elementów w produktach Google. Koalicja C2PA, której standard metadanych uzupełnia osadzony sygnał SynthID, liczy obecnie ponad 6000 organizacji członkowskich.

Nowe API weryfikacyjne OpenAI to istotny krok w kierunku otwartego systemu sprawdzania pochodzenia treści głosowych. Umożliwia organizacjom screening pod kątem audio pochodzącego z GPT-Live, ale nie zastąpi kompleksowego systemu wykrywania całej syntetycznej mowy. Interoperacyjność między różnymi dostawcami pozostaje kwestią otwartą do lutego 2027 roku. Najbliższe miesiące pokażą, czy infrastruktura detekcyjna zostanie powszechnie wdrożona, czy pozostanie narzędziem wykorzystywanym tylko przez wybrane podmioty.