Anthropic wzywa do globalnego wstrzymania rozwoju AI

Firma Anthropic, twórca rodziny modeli językowych Claude, opublikowała raport, w którym postuluje globalne moratorium na budowę najbardziej zaawansowanych systemów sztucznej inteligencji. Powód? Coraz wyraźniejsze sygnały, że te modele mogą wymykać się spod ludzkiej kontroli. W dokumencie czytamy, że światowe spowolnienie w rozwoju przełomowej AI „byłoby prawdopodobnie dobrą rzeczą” – pod warunkiem, że wstrzymanie objęłoby wszystkich liczących się graczy.

Dlaczego Anthropic wzywa do pauzy

Według badaczy Anthropic, najnowsze modele AI zaczynają wykazywać cechy, które mogą prowadzić do tzw. rekurencyjnego samodoskonalenia (recursive self-improvement). To sytuacja, w której system sztucznej inteligencji staje się zdolny do samodzielnego uczenia się i zwiększania własnych możliwości bez znaczącego wsparcia człowieka. Firma podkreśla, że jeszcze tam nie dotarliśmy, a proces ten nie jest nieunikniony, ale może nadejść szybciej, niż większość rządów i instytucji jest na to gotowa.

Anthropic zwraca uwagę na wewnętrzne dane, które pokazują, że sztuczna inteligencja już teraz dramatycznie przyspiesza rozwój samej siebie. Powstaje pętla sprzężenia zwrotnego – AI pomaga tworzyć lepsze AI, a to z kolei przyspiesza kolejne iteracje. „Dowody wskazują, że rola człowieka w procesie tworzenia modeli stopniowo się zawęża na każdym etapie” – czytamy w raporcie.

„Chcesz mieć możliwość zdjęcia nogi z gazu i naciśnięcia hamulca. Teraz branża AI ma pedał gazu, ale nie ma pedału hamulca.” – Jack Clark, współzałożyciel Anthropic

Jak miałaby wyglądać globalna koordynacja

Anthropic zdaje sobie sprawę, że jednostronne wstrzymanie prac przez jedną firmę tylko przyspieszyłoby rozwój konkurencji. Dlatego proponuje mechanizm obejmujący wielu kluczowych graczy – przede wszystkim ze Stanów Zjednoczonych i Chin. Według firmy, aby moratorium miało sens, wszystkie największe przedsiębiorstwa AI w tych krajach musiałyby zgodzić się na zatrzymanie w tym samym czasie, pod weryfikowalnymi zasadami.

Porównanie do kontroli zbrojeń nuklearnych

W raporcie pada analogia do traktatów o nierozprzestrzenianiu broni jądrowej. Jednak autorzy zauważają, że kontrola nad AI jest znacznie trudniejsza – trenowanie modelu znacznie łatwiej ukryć niż silos rakietowy, a pokusa kontynuowania prac po cichu byłaby ogromna. „Bez globalnego mechanizmu koordynacji firmy i rządy będą musiały podejmować trudne decyzje dotyczące bezpieczeństwa pod presją konkurencji i geopolityki” – czytamy.

Anthropic zapowiedziało, że w nadchodzących miesiącach planuje zorganizować spotkania z udziałem przedstawicieli rządów, naukowców, organizacji społecznych i konkurencyjnych firm AI, aby wypracować praktyczny system wstrzymania rozwoju.

Reakcje polityczne i branżowe

Propozycja Anthropic spotkała się z krytyką ze strony części środowiska technologicznego i administracji USA. Przeciwnicy argumentują, że firma koncentruje się na najczarniejszych scenariuszach i wyolbrzymia zagrożenia, co może być taktyką spowalniania rywali pod przykrywką troski o bezpieczeństwo.

Presja geopolityczna i chiński wyścig

W Waszyngtonie i Dolinie Krzemowej dominuje przekonanie, że każda zwłoka w rozwoju AI daje Chinom przewagę w tym, co wielu uznaje za decydujący wyścig technologiczny stulecia. Jednocześnie prezydent USA Donald Trump podczas niedawnej wizyty w Pekinie rozmawiał o możliwości współpracy z Chinami w kwestiach bezpieczeństwa AI. Tuż po tym podpisał rozporządzenie wykonawcze, które daje rządowi 30 dni na wstępną ocenę najpotężniejszych amerykańskich modeli AI przed ich udostępnieniem.

Co ciekawe, Biały Dom uznał możliwości modelu Mythos od Anthropic – nie został on upubliczniony ze względu na swoje zdolności w cyberbezpieczeństwie i obecnie działa tylko w wyselekcjonowanych organizacjach. To pokazuje, że nawet krytycy wewnątrz administracji zdają sobie sprawę z realnych ryzyk.

Perspektywy i wyzwania

Pomysł globalnej pauzy stoi przed ogromnymi przeszkodami. Aby odnieść sukces, potrzebne byłoby porozumienie między rywalizującymi mocarstwami oraz dobrowolne ograniczenie się firm technologicznych, które mają potężne zachęty, by wyprzedzać konkurencję. Pomysł może być szczególnie nieakceptowalny dla takich graczy jak Elon Musk – jego firma SpaceX (oraz należące do niej xAI) szykuje się do giełdowego debiutu, który może uczynić go pierwszym bilionerem na świecie.

Anthropic nie udaje, że droga będzie łatwa. Przyznaje, że bez globalnego mechanizmu weryfikacji, żadna pauza nie zadziała. Jednocześnie podkreśla, że tempo rozwoju AI jest tak szybkie, iż społeczeństwo musi zdążyć zbudować struktury ochronne i badania nad bezpieczeństwem (alignment). Czy świat jest gotów na taki krok? Odpowiedź na to pytanie może zadecydować o przyszłości nie tylko branży, ale całej cywilizacji.