Anthropic zmienia front: esej Amodei to radar dla branży AI

Anthropic, firma stojąca za modelami Claude, opublikowała obszerny esej i dwa dokumenty polityczne, które mogą zmienić zasady gry w świecie sztucznej inteligencji. CEO Dario Amodei pisze wprost: dotychczasowe podejście – oparte głównie na transparentności i dobrowolnych raportach – już nie wystarczy. Zamiast tego proponuje system przypominający procedury certyfikacji lotniczej: modele AI przed wdrożeniem miałyby przechodzić obowiązkowe kontrole techniczne, a rządowa agencja mogłaby blokować te, które niosą niedopuszczalne ryzyko. Czy to początek nowej epoki w regulacji sztucznej inteligencji?

Dlaczego dobrowolna transparentność to za mało

Do niedawna Anthropic koncentrował się na promowaniu przejrzystości. Firma wspierała ustawy takie jak kalifornijska SB 53, nowojorska RAISE czy illinojska SB 315. Amodei przyznaje jednak, że tamten etap się skończył. Przełomowym momentem okazało się doświadczenie z „Claude Mythos Preview” – wersją, która zdaniem specjalistów zachwiała globalnym krajobrazem cyberbezpieczeństwa. Pokazała, że modele graniczne (ang. frontier models) realnie zagrażają sektorowi finansowemu, infrastrukturze krytycznej i bezpieczeństwu narodowemu.

W swoim eseju Amodei sięga po metaforę z „Władcy Pierścieni”. Dwóch hobbitów próbuje przekonać enta Drzewca, by bronił lasu przed wycinającą go armią. Problem polega na tym, że Drzewiec jest mądry, ale tak powolny, że cały dzień zajmuje mu przywitanie się z innym drzewem. W interpretacji szefa Anthropic: ent to system polityczny, hobbici to ci, którzy od dawna ostrzegają przed zagrożeniami, a armia to niekontrolowana AI. I ta armia posuwa się naprzód bardzo szybko.

Cztery obszary ryzyka i model zamiast FAA

Amodei opiera swoje obawy na prawach skalowania (scaling laws) – im więcej mocy obliczeniowej, tym wykładniczo rosną możliwości modeli. Prognozuje, że w ciągu roku lub dwóch możemy ujrzeć „Potężne AI” (Powerful AI), czyli „kraj geniuszy w jednym centrum danych”. Dlatego wzywa do obowiązkowych testów przeprowadzanych przez kwalifikowane, niezależne podmioty w czterech dziedzinach: bezpieczeństwo cybernetyczne, broń biologiczna, utrata kontroli nad systemami AI oraz zautomatyzowane badania i rozwój (R&D), które mogłyby te zagrożenia przyspieszyć.

Wskazuje przy tym na Federalną Administrację Lotnictwa (FAA) jako wzór. Nowa agencja rządowa – na wzór tej regulującej samoloty – miałaby prawo zablokować lub wycofać model stwarzający niedopuszczalne ryzyko. Zanim jakikolwiek „inteligentny system” trafi do użytku, musiałby przejść techniczną inspekcję.

Kogo dokładnie obejmą nowe przepisy

Advanced AI Framework, czyli ramy regulacyjne Anthropic, nie dotyczą całej branży. Reguły uderzają w największych graczy. Obowiązywałyby wyłącznie deweloperów szkolących modele o mocy obliczeniowej przekraczającej 10^25 FLOP, którzy jednocześnie generują ponad 500 milionów dolarów przychodu ze sztucznej inteligencji lub wydają na badania w tym obszarze co najmniej miliard dolarów rocznie. Zdaniem twórców dokumentu, te progi skupiają obowiązki tam, gdzie modele są na tyle zaawansowane, by stwarzać katastrofalne zagrożenia.

Anthropic proponuje, by kryteria przeglądać przynajmniej raz w roku i stopniowo przechodzić z progów opartych na czystej mocy obliczeniowej na kryteria oparte na faktycznych możliwościach modeli. Powód? Wraz z postępem technicznym do niebezpiecznych umiejętności będzie potrzebna coraz mniejsza moc.

Obowiązki, audyty i zakaz „evaluator shopping”

Dla największych firm framework przewiduje szeroki zakres wymogów. Każdy deweloper musiałby opublikować ramy bezpieczeństwa, dostarczyć karty systemowe dla modeli wysokiego ryzyka, składać raport o ryzyku przynajmniej co sześć miesięcy oraz zgłaszać poważne incydenty bezpieczeństwa do agencji w ciągu 15 dni. W ciągu pół roku od wejścia przepisów w życie trzeba by zatrudnić przynajmniej jednego niezależnego audytora bez finansowych powiązań z firmą.

By zapobiec zjawisku „evaluator shopping” – czyli wybieraniu przez firmy najłagodniejszego audytora – Anthropic proponuje system oceny i przydzielania kontrolerów. Dokument zawiera też wymogi bezpieczeństwa dla wag modeli (model weights) i infrastruktury, kary cywilne za fałszywe oświadczenia, ochronę sygnalistów oraz uprawnienie do blokowania ryzykownych systemów. W kwestii władzy federalnej Amodei sugeruje, że Kongres powinien zastąpić prawo stanowe tylko wtedy, gdy stworzy reżim przynajmniej równie rygorystyczny.

Jak przygotować społeczeństwo na erę Potężnego AI

Druga część frameworku dotyczy odporności społecznej – czyli obrony przed zagrożeniami, które zaawansowana AI może przyspieszyć. W obszarze zagrożeń biologicznych Anthropic zaleca podejście warstwowe: zapobieganie (nowoczesne standardy bezpieczeństwa biologicznego i screening dostawców syntezy genów), wykrywanie (systemy wczesnego ostrzegania i kryminalistyczna atrybucja ataków) oraz gotowość (sprzęt ochronny, wzmocnione systemy budynków i przeciwdziałania przyspieszone przez AI).

Cyberbezpieczeństwo to obszar, gdzie – według specjalistów – AI już zmienia ekonomikę ataków. Propozycje obejmują zabezpieczanie oprogramowania open-source i starszego (legacy), wsparcie dla niedofinansowanych operatorów infrastruktury krytycznej oraz wykorzystanie sztucznej inteligencji do masowego usuwania luk w zabezpieczeniach. W przypadku utraty kontroli nad systemami AI i zautomatyzowanych badań, firma przyznaje, że jej agenda odpornościowa jest znacznie słabiej rozwinięta. Wskazuje jedynie ogólny kierunek: zdolność do wykrywania i wyłączania wymykających się spod kontroli modeli.

Trzy progi bezrobocia – od zasiłków po UBI

Osobny dokument poświęcono gospodarczym skutkom automatyzacji. Anthropic proponuje skalowane środki, uzależnione od stopy bezrobocia. Przy pierwszym progu (około 5%) mówi o uniwersalnych kontach kapitałowych zakładanych przy urodzeniu, ubezpieczeniu płac, reformie licencji zawodowych i dopłatach do szkoleń. Przekroczenie 10% bezrobocia uruchamia rozszerzenie zasiłków i pomoc w zaspokajaniu podstawowych potrzeb. Trzeci próg – gdy bezrobocie bije historyczne rekordy – obejmuje nowe źródła podatków i narzędzia redystrybucji: dochód gwarantowany (UBI), suwerenny fundusz AI lub wyższe podatki od zysków kapitałowych. Firma deklaruje gotowość płacenia „uczciwej części”, jeśli firmy AI wygenerują transformacyjne zyski.

Geopolityka i zimnowojenna logika w erze algorytmów

Esej Amodei sięga dalej niż regulacje i ekonomia. Ostrzega, że agencje takie jak FDA czy EMA mogą zostać przytłoczone tempem badań przyspieszanych przez AI. W kwestii swobód obywatelskich wzywa do odpowiedzialności za autonomiczną broń, zakazu jej użycia wewnątrz krajów oraz zamknięcia luki związanej z brokerami danych w nadzorze masowym. Na arenie geopolitycznej proponuje koalicję demokracji, które dzielą się łańcuchami dostaw, jednocześnie odmawiając dostępu przeciwnikom – i zaostrzenie kontroli eksportu chipów.

Światopogląd Amodei uderza swoją surowością. Nie traktuje AI jak technologii konsumenckiej. Umieszcza ją w tej samej kategorii co broń jądrową – coś, co przekształca całe pole geopolityczne. Obrazowo mówi: naród z AI zmierzający się z narodem bez AI to jak oddział marines walczący z rycerzami z mieczami. W swoich wyliczeniach uwzględnia w pełni autonomiczne armie dronów. Państwo jawi się tu zarówno jako uzasadniony obrońca, jak i potencjalny aparat do tyranii napędzanej algorytmami.

Współpracę Amodei widzi głównie jako sojusz podobnie myślących demokracji, odgradzających się od autokracji za pomocą łańcuchów dostaw i embarga. To zimnowojenna logika w przebraniu AI – idealnie pasująca do metafory powolnego enta. Jednocześnie odpiera zarzuty, że branża AI ma jedynie problem PR-owy. Pisze wprost: zaniepokojenie społeczne jest uzasadnione, a transparentność w kwestii realnych ryzyk to demokratyczna odpowiedzialność działająca tak, jak powinna.

W tle tych ogłoszeń Anthropic złożył wstępny prospekt emisyjny (IPO) w SEC na początku czerwca, a w tym samym tygodniu wypuścił Claude Fable 5 – pierwszy publiczny model z klasy Mythos. Czas pokaże, czy nowa strategia regulacyjna to faktyczna zmiana kursu, czy element większej rozgrywki o wpływy w branży.