Proweniencja AI: nowy obowiązek dla firm

Decyzja Anthropic o osadzaniu niewidocznych, odczytywalnych maszynowo sygnałów w treściach generowanych przez model Claude z pozoru wygląda na techniczną odpowiedź na unijne regulacje. Firma zobowiązała się do przestrzegania artykułu 50(2) aktu o sztucznej inteligencji, czyli kodeksu postępowania dotyczącego przejrzystości treści tworzonych przez AI. Znakowanie obejmuje wszystkich użytkowników na świecie, nie tylko w Unii Europejskiej, i śledzi output Claude’a na każdej płaszczyźnie. Jednak dla liderów przedsiębiorstw ten ruch ma głębsze znaczenie – stawia kwestię operacyjnego zarządzania i odpowiedzialności.

Przez ostatnie trzy lata dyskusja o generatywnej sztucznej inteligencji koncentrowała się na mocy obliczeniowej, rozmiarach okien kontekstowych i wynikach benchmarków. Obecnie proweniencja treści przestaje być wyłącznie tematem bezpieczeństwa AI. W świetle europejskiego prawa staje się elementem audytowalnego łańcucha dowodowego, który determinuje odpowiedzialność korporacyjną. To zmiana paradygmatu, którą członkowie zarządów muszą zrozumieć.

Czym naprawdę jest proweniencja treści w świetle AI Act

Artykuł 50 aktu o AI to przepis o przejrzystości, a nie gwarancja autentyczności treści. Nakłada on na dostawców systemów AI obowiązek oznaczania wygenerowanych lub zmanipulowanych treści za pomocą odpowiednich technicznych środków. Mogą to być znaki wodne, metadane, podpisy kryptograficzne lub porównywalne metody. To zobowiązanie funkcjonuje obok bardziej znanych regulacji dotyczących systemów wysokiego ryzyka, ale stanowi odrębną warstwę wymogów.

Zobowiązanie Anthropic wynikające z kodeksu postępowania dotyczy właśnie tej warstwy przejrzystości. Chodzi o etykietowanie outputu, a nie o certyfikowanie bezpieczeństwa czy dokładności systemu. Tekstowy znak wodny ma przetrwać kopiowanie i lekką edycję, ale firma otwarcie przyznaje, że staje się niewykrywalny po gruntownym przepisaniu, sparafrazowaniu, tłumaczeniu lub gdy output jest zbyt krótki, by nieść wiarygodny sygnał.

Warto też podkreślić, że sygnał proweniencji nie jest tym samym co etykieta autorstwa. Maszynowo odczytywalny znacznik może dowodzić, że system AI wygenerował lub w znacznym stopniu zmanipulował treść. Nie przesądza jednak o tym, kto jest autorem dzieła, kto jest jego właścicielem, kto ponosi prawną odpowiedzialność ani czy ludzki wkład był trywialny, czy istotny. Sednem artykułu 50 są wymogi przejrzystości, a nie rozstrzyganie sporów o autorstwo.

Asymetryczne koszty dla przedsiębiorstw wdrażających AI

Dla dostawców systemów generatywnych kluczowym wymogiem jest maszynowo odczytywalne oznaczanie treści. Techniczne rozwiązanie ma być skuteczne, interoperacyjne, solidne i niezawodne, o ile to technicznie wykonalne, z uwzględnieniem specyfiki różnych mediów i stanu wiedzy. Wprowadzenie takich znaków wodnych może pomóc Anthropic wyróżnić się jako dostawca audytowalnych usług AI w środowiskach korporacyjnych.

Dla firm wdrażających AI reguły wyglądają inaczej. Treści deepfake w formie obrazów, audio i wideo muszą być ujawniane jako sztucznie wygenerowane lub zmanipulowane. Obowiązek ujawnienia obejmuje również teksty AI publikowane w celu informowania opinii publicznej o sprawach istotnych dla interesu publicznego. Problem w tym, że znaki wodne są podatne na lekką parafrazę i mogą zostać znacznie osłabione przez przepisanie czy tłumaczenie.

Znaki wodne w tekście zwykle opierają się na algorytmach, które można uznać za modyfikację sposobu doboru słów przez model. Ich obecność nie dowodzi jednak, w jaki sposób wykorzystano model AI. Korporacyjne przypadki użycia są znacznie bardziej złożone niż pojedyncze zastosowanie AI – często obejmują wieloagentowe, autonomiczne łańcuchy działań.

Anthropic wymaga od deweloperów korzystających z API prowadzenia dzienników proweniencji w firmowych systemach danych. Gdy Claude generuje analizy, raporty czy zautomatyzowany kod, dziennik systemowy zachowuje znaczniki proweniencji. To wszystko składa się na istotne obciążenie dla użytkowników korporacyjnych, którzy muszą zapewnić szczegółowe dzienniki audytowe i standardy zgodności na wielu poziomach organizacji. Unijne przepisy nakładają surowe wymogi na wdrażających systemy AI, co może tworzyć asymetryczne obciążenie dla przedsiębiorstw.

Dla członków zarządów, liderów przedsiębiorstw i komitetów ryzyka poleganie wyłącznie na technicznej definicji proweniencji jako biurokratycznym ćwiczeniu to za mało. Muszą zrozumieć, że decyzje korporacyjne są podatne na nowe ryzyka związane z AI: dane syntetyczne, halucynacje modeli i niejednoznaczność praw autorskich.

Jak budować wiarygodne standardy zarządzania treścią AI

Największym wyzwaniem dla organizacji jest wiarygodne ustanowienie standardów zarządzania, które ochronią je przed oszukańczą generacją treści i zatruwaniem danych. Dla regulatorów nakładanie kar bez jasnych standardów technicznych tworzy niepewność i przepisy niemożliwe do wyegzekwowania, co hamuje innowacje. Dla czołowych laboratoriów AI, takich jak Anthropic, miękkie obietnice polityczne mogą zawieść, jeśli nie będą poparte techniczną weryfikowalnością i możliwością audytu.

Anthropic otwarcie przyznaje, że pozytywny wynik wykrycia znaku wodnego oznacza jedynie, iż treść miała styczność z Claude’em w pewnym momencie. Nie świadczy to o tym, że treść jest w całości autorstwa Claude’a, że nie była edytowana ani że jest dokładna. Negatywny wynik nie dowodzi niczego, ponieważ starsze modele, krótkie teksty i intensywna edycja dają ten sam brak sygnału.

Przedsiębiorstwa powinny traktować dane o proweniencji jako jeden z elementów szerszej polityki weryfikacji i ujawniania informacji. Konieczne jest wdrożenie nowych procesów i struktur zarządzania, które zbudują zaufanie do cyfrowych treści. Dla myślących perspektywicznie liderów to szansa nie tylko na ochronę firmy przed odpowiedzialnością prawną, ale także na wykorzystanie polityk zgodności do ustanowienia cyfrowej integralności przedsiębiorstwa.

Nadchodzący okres pokaże, czy inne laboratoria AI pójdą śladem Anthropic i jakie standardy branżowe się wykształcą. Jedno jest pewne – proweniencja treści AI przestaje być niszowym tematem technicznym, a staje się elementem strategii korporacyjnej. Firmy, które zrozumieją to wcześnie, zyskają przewagę konkurencyjną i unikną kosztownych błędów.