Znakowanie treści AI: koniec ery ukrytych chatbotów?

Każdy, kto regularnie korzysta z internetu, widzi, że treści generowane przez sztuczną inteligencję są wszędzie. Jednak w pojedynczych przypadkach trudno jednoznacznie stwierdzić, czy mamy do czynienia z tekstem napisanym przez człowieka, czy przez maszynę. Student może napisać esej w stylu, który budzi podejrzenia, ale nie daje pewności. Avatar na platformie społecznościowej bywa nienagannie dopracowany, ale nie niemożliwy do stworzenia przez człowieka. Nawet post na LinkedIn, który wydaje się typowy dla GPT, może być po prostu stylem pisania naszego znajomego.

Po kilku latach ery łatwego generowania obrazów, wideo i tekstu, sytuacja jest skomplikowana, choć nie tak krytyczna, jak przewidywano. Treści generowane przez AI stały się istotnym elementem polityki, ale zagrożenie dla demokracji ma głównie charakter estetyczny, a nie strategicznie oszukańczy. Automatyczne treści zachowują się jak zaawansowany spam, zapychając przestrzenie kulturowe i rynki. Zamiast spektakularnych deepfake’ów otrzymaliśmy zalew bezbarwnej, generycznej „papki” treściowej.

Platformy reagują na zalew sztucznych treści

Użytkownicy głośno wyrażają niezadowolenie z jakości treści w internecie. W odpowiedzi na to platformy zaczynają wprowadzać mechanizmy wykrywania i oznaczania materiałów wygenerowanych przez AI. Spotify ogłosiło plany znakowania muzyki tworzonej przez sztuczną inteligencję, tłumacząc to jasnym przekazem od słuchaczy, którzy nie chcą być wprowadzani w błąd co do autentyczności artysty.

Substack nawiązał współpracę z narzędziem Pangram, które pozwala sprawdzić, ile tekstu zostało napisane ręcznie, a ile z pomocą AI. TikTok, YouTube i Meta również wprowadziły oznaczenia dla wybranych treści generowanych. LinkedIn, gdzie użytkownicy od miesięcy nie widzieli ludzkich wpisów, dodał przycisk „Wygląda jak AI Slop”.

Większość tych działań koncentruje się na skutkach problemu, a nie jego źródle, co ogranicza ich skuteczność. Jednak pojawiły się też próby rozwiązania bliżej źródła – w postaci znaków wodnych na obrazach. Google osadza je w grafikach generowanych przez Gemini, a OpenAI i Meta mają systemy do znakowania obrazów tworzonych ich narzędziami. Część z tych działań wyprzedza regulacje prawne.

Nowe przepisy Unii Europejskiej, które wchodzą w życie w tym miesiącu, przyspieszyły te prace. Zgodnie z regulacjami UE, dostawcy chatbotów i innych systemów interaktywnych muszą informować użytkowników, że rozmawiają z AI. Producenci systemów generatywnych – tekstu, obrazów, audio i wideo – muszą oznaczać swoje wyniki w formacie czytelnym maszynowo, aby można było je wykryć jako sztucznie wygenerowane.

Watermarki tekstowe – nowa broń przeciwko slopowi

Znakowanie obrazów działa całkiem dobrze, choć nie jest idealnym rozwiązaniem. Zdeterminowani użytkownicy mogą usunąć lub ominąć znaki wodne, a wiele modeli bez ograniczeń nie podlega unijnym regulacjom. Badania potwierdzają, że oznaczenia zmniejszają zaangażowanie odbiorców, co sugeruje, że ludzie chcą wiedzieć, z czym mają do czynienia.

Anthropic jako pierwszy wprowadził trwałe znakowanie tekstu. Gdy model Claude generuje tekst, wplata w niego niewidoczny znak wodny. Nie zmienia on znaczenia, jakości ani czytelności odpowiedzi. Co ważne, znak podróżuje z tekstem, gdy jest kopiowany i wklejany w inne miejsca, a nawet może przetrwać niektóre edycje.

Dla osób mających częsty kontakt z modelami AI to zabawne, że Claude ma bardzo charakterystyczny styl pisania. Programista Werner Robitza zauważa, że Claude mówi tak, jakby „udowadniał swoje rozumowanie, a nie informował czytelnika”. To może być efekt uboczny skupienia modelu na tworzeniu oprogramowania, a nie prozy. W każdym razie styl jest nie do pomylenia.

Konsekwencje dla użytkowników i twórców

Wprowadzenie znaków wodnych to ważna zmiana, zwłaszcza jeśli inne firmy pójdą w ślady Anthropica. Są ludzie, którzy otwarcie przyznają, że korzystają z chatbotów do komunikacji lub umieszczają teksty AI w miejscach, gdzie pochodzenie nie ma większego znaczenia – na przykład w kodzie czy na LinkedIn. Są też środowiska pracy, gdzie korzystanie z AI jest zachęcane i znaki wodne nie będą niczym złym.

Jednak w wielu sytuacjach nieuczciwość i wprowadzanie w błąd są częścią wczesnych przypadków użycia AI. Udawanie, że coś nie zostało wygenerowane przez sztuczną inteligencję – w szkole, pracy czy w mediach społecznościowych – stanowi dużą część tekstów, które ludzie tworzą i na które się skarżą. Znakowanie nie rozwiąże od razu problemu ściągania w szkołach, ale może sprawić, że sytuacja stanie się ciekawsza.

Ben Thompson ze Stratechery argumentuje, że wymaganie znakowania AI jest jak żądanie, aby długopis reklamował się jako autor. W dłuższej perspektywie rzeczywiście pojawiają się wyzwania: każdy program na komputerze czy telefonie będzie miał dostęp do modeli generatywnych. Anthropic zapowiada, że znak będzie wstawiany do tekstów, gdzie Claude użyto do korekty, tłumaczenia czy streszczania. To może oznaczać, że znak będzie obejmować tak szeroki zakres wyników, że straci na znaczeniu. Może też prowadzić do fałszywych pozytywów, co już spotkało narzędzie Pangram na Substacku.

Nawet jeśli technologie regulowane obecnie przez UE jako AI w końcu znikną w anonimowym, niewymagającym kredytów narzędziu, a znakowanie AI zostanie zredukowane do statusu metadanych „Utworzono w Microsoft Word” czy informacji EXIF z aparatu cyfrowego, trudno dziś twierdzić, że Claude przypomina długopis. To instrument, który zdradza swoje użycie i przekazuje ruchy użytkownika bez udawania ludzkiej osobowości.

Przez najbliższe kilka lat sprzedawcy treści generowanych masowo staną przed trzema wyborami. Mogą przyznać się do tego, co robią, i liczyć, że odbiorcy nie mają nic przeciwko. Mogą podwoić wysiłki i szukać narzędzi, które nie zdradzają ich automatycznie. Albo – być może – część z nich po prostu się podda.

Źródło

Może Cię zainteresować