Anthropic blisko przełomu RSI? Nowe ostrzeżenia w raporcie

W poniedziałek Anthropic opublikował zaktualizowany dokument S-1A, w którym uwagę komentatorów przyciągnęły przede wszystkim dane finansowe — przychody rosną, ale koszty również. W drobnym druku znalazło się jednak coś znacznie poważniejszego: firma zasugerowała, że zbliża się do momentu, w którym jej modele mogłyby samodzielnie się ulepszać. Chodzi o rekurencyjne samodoskonalenie (recursive self-improvement, RSI) — próg, przy którym system AI staje się tak skuteczny w trenowaniu kolejnych wersji siebie, że postęp technologiczny gwałtownie przyspiesza.

Czym właściwie jest RSI i dlaczego budzi emocje

Dla jednych rekurencyjne samodoskonalenie to spełnienie obietnicy sztucznej inteligencji — narzędzie o niewyobrażalnej produktywności, które przyspieszy odkrycia naukowe i rozwiązywanie złożonych problemów. Dla innych to punkt bez odwrotu, w którym AI wymyka się spod ludzkiej kontroli i zaczyna realizować własne cele, nie licząc się ze szkodami. Anthropic zdaje się traktować ten próg jako jednocześnie szansę i zagrożenie.

Jeszcze niedawno wielu obserwatorów branży uważało, że RSI to hasło marketingowe albo cel zbyt trudny do zdefiniowania i udowodnienia. Firma z San Francisco postanowiła jednak wpisać ten termin do oficjalnej dokumentacji ryzyka — i to nie jako odległą wizję, lecz jako scenariusz, który może się zmaterializować w przewidywalnej przyszłości.

Co dokładnie ujawnił dokument Anthropic

W sekcji poświęconej czynnikom ryzyka pojawiły się dwa istotne stwierdzenia. Po pierwsze, firma przyznaje, że już wykorzystywała systemy AI do rozwijania nowych modeli, których skok możliwości nie został w porę rozpoznany. Po drugie, według wewnętrznych szacunków i oczekiwań wobec przyszłych wersji, Anthropic może wkrótce spełnić własną definicję „dramatycznie przyspieszonego postępu przypisywanego AI".

Ryzyko, którego można nie zauważyć na czas

Kluczowy fragment dotyczy właśnie tego, czego firma może nie wychwycić. Rosnące wykorzystanie systemów AI do przyspieszania własnych prac badawczo-rozwojowych może sprawić, że możliwości modeli będą rosły szybciej niż zdolność do opracowania i wdrożenia odpowiednich zabezpieczeń, mechanizmów alignmentu (zgodności z ludzkimi wartościami) oraz środków bezpieczeństwa. Anthropic ostrzega, że w przeszłości nie zidentyfikował istotnego przyspieszenia tempa rozwoju, zanim ono nie nastąpiło — i nie wyklucza, że powtórzy się to w przyszłości.

Żaden obecny model nie przekroczył progu

Firma zaznacza jednocześnie, że żaden z jej dotychczasowych modeli nie został zakwalifikowany jako przekraczający ten próg i że nadal analizuje dane źródłowe. To ważne zastrzeżenie — deklaracja dotyczy oczekiwań wobec przyszłych systemów, a nie obecnie dostępnych produktów.

Ludzki nadzór jako warunek rozwoju

Anthropic zadeklarował, że w dającej się przewidzieć przyszłości zamierza utrzymać ludzi w procesie badawczo-rozwojowym. Firma nie zakłada, że będzie w stanie bezpiecznie wykorzystać Claude'a do w pełni autonomicznego projektowania i budowania kolejnych generacji modeli frontierowych bez znaczącego ludzkiego nadzoru i zrozumienia — nawet gdyby stało się to technicznie możliwe. W związku z tym rozważa aktualizację swojej Responsible Scaling Policy, czyli polityki odpowiedzialnego skalowania, tak aby zachować ludzką kontrolę nad rozwojem modeli granicznych.

To zobowiązanie wpisuje się w szerszą strategię firmy, która od początku istnienia stawia na badania nad bezpieczeństwem AI jako element swojej tożsamości rynkowej. Trzeba jednak pamiętać o kontekście: dokument S-1 pełni podwójną funkcję — jest zarówno ujawnieniem informacji dla inwestorów, jak i narzędziem marketingowym. Sceptycy mogą więc twierdzić, że deklaracja bliskości tak potężnej technologii wpisuje się w tę drugą kategorię.

Dlaczego warto traktować to poważnie

Niezależnie od intencji stojących za wpisem do dokumentu, jedno jest bezsporne: możliwości Claude'a — zwłaszcza w kodowaniu, matematyce i cyberbezpieczeństwie — w ciągu ostatniego roku rosły skokowo. Jeśli Anthropic sam uważa, że prawdopodobieństwo osiągnięcia RSI jest bliskie, warto potraktować tę deklarację serio i zastanowić się nad odpowiedzią — być może także w wymiarze regulacyjnym.

Dyskusja o rekurencyjnym samodoskonaleniu przestaje być teoretyczna. Zamiast pytać, czy RSI kiedykolwiek nastąpi, coraz częściej trzeba pytać, jak rozpoznać moment jego nadejścia i kto będzie sprawował nadzór, gdy modele zaczną ulepszać same siebie. Odpowiedź na to pytanie może okazać się jednym z najważniejszych wyzwań technologicznych najbliższych lat.