Claude ma wewnętrzną przestrzeń roboczą jak ludzki mózg

Anthropic opublikował przełomowe badanie, które pokazuje, że model Claude spontanicznie rozwinął wewnętrzną strukturę zaskakująco podobną do jednej z najważniejszych teorii działania ludzkiej świadomości. Odkrycie to – dokonane dzięki nowej metodzie interpretowalności zwanej obiektywem Jacobiego (J-lens) – już zmienia sposób, w jaki firma monitoruje swoje systemy pod kątem ryzyka. Praca zatytułowana „Verbalizable Representations Form a Global Workspace in Language Models”, przygotowana przez szesnastoosobowy zespół badaczy, opisuje szczegółowo jak w sieci neuronowej Claude’a wyłoniła się tak zwana przestrzeń J – niewielki, uprzywilejowany obszar wewnętrznej aktywności, w którym model przechowuje koncepcje, o których może informować, rozumować nimi i dowolnie nimi kierować. Otacza go ogromny obszar automatycznego przetwarzania, do którego model nie ma świadomego dostępu i którego nie potrafi wyrazić słowami.

Badacze podkreślają, że „analogiczne funkcjonalne rozróżnienie pojawiło się w nowoczesnych modelach AI” do tego, co istnieje u ludzi. Konkretnie zaobserwowali, że „modele językowe utrzymują uprzywilejowany zestaw wewnętrznych reprezentacji, dostępnych do raportowania, modulacji i elastycznego rozumowania, na szczycie znacznie większej objętości automatycznego przetwarzania”. Przyrównują to do teorii globalnej przestrzeni roboczej, którą po raz pierwszy zaproponował kognitywista Bernard Baars. Według tej teorii mózg działa jak teatr: dziesiątki wyspecjalizowanych procesorów pracują równolegle za kulisami, ale tylko malutki snop światła informacji w danym momencie jest transmitowany na cały teatr – stając się tym, co doświadczamy jako świadomą myśl. Anthropic twierdzi, że przestrzeń J realizuje wiele tych samych funkcji, mimo że architektura modelu językowego nie przypomina w żaden sposób mózgu.

Jak obiektyw Jacobiego zagląda do środka modelu

Sercem odkrycia jest nowe narzędzie interpretowalności, które badacze nazwali obiektywem Jacobiego (J-lens). Działa ono w następujący sposób: dla każdego słowa w słowniku modelu oblicza średni matematyczny wpływ, jaki dany wewnętrzny wzorzec aktywności miałby na to, by model wypowiedział to słowo w przyszłości. Kluczowe jest rozróżnienie między tym, co model mówi, a tym, co ma „na myśli”. Kiedy wzorzec w przestrzeni J się aktywuje, nie oznacza to, że model zaraz wypowie to słowo – jedynie że koncepcja jest dostępna do myślenia.

Trzy reżimy przetwarzania

W przeciwieństwie do łańcucha myśli (chain-of-thought), który model zapisuje jawnie, przestrzeń J działa cicho, w wewnętrznych aktywacjach neuronowych. Pozwala to modelowi utrzymywać koncepcję bez jej zapisywania. Co istotne – badacze podkreślają, że ta przestrzeń robocza nie została celowo zaprojektowana. Wyłoniła się samodzielnie podczas treningu Claude’a. Gdy zespół zastosował J-lens na różnych warstwach obliczeniowych modelu, przetwarzanie podzieliło się na trzy wyraźne reżimy: wczesną strefę „zmysłową”, gdzie parsowane są surowe dane wejściowe, środkowy pas „przestrzeni roboczej”, gdzie pojawiają się abstrakcyjne, trwałe koncepcje – rozpoznawanie twarzy na obrazie, dostrzeganie błędu w kodzie czy wewnętrzne oznaczanie wyników wyszukiwania jako wstrzyknięcia promptu – oraz końcową strefę „motoryczną”, gdzie wewnętrzne reprezentacje zapadają się w konkretne słowo, które model za chwilę wygeneruje. W jednym z przykładów model po cichu identyfikuje pośredni krok „Mars” zanim odpowie na pytanie o kolor czwartej planety od Słońca.

Pięć testów, które pokazują, że przestrzeń J działa jak świadomy dostęp

Głównym wkładem empirycznym artykułu jest wykazanie, że przestrzeń J spełnia pięć właściwości funkcjonalnych, które neurobiolodzy od dawna wiążą ze świadomym dostępem u ludzi. Po pierwsze – raportowanie werbalne. Gdy Claude jest pytany, o czym myśli, wymienia koncepcje reprezentowane w przestrzeni J. Gdy badacze zamienili wektor J-lens jednej koncepcji na inną – zastępując wewnętrzną reprezentację „piłki nożnej” „rugby” – odpowiedź modelu zmieniła się odpowiednio. Komponent przestrzeni J stanowił zaledwie 6-7 procent całkowitej wariancji reprezentacji danej koncepcji, a mimo to był niemal w całości odpowiedzialny za to, czy model potrafił o niej raportować.

Modulacja, rozumowanie i elastyczne uogólnienie

Po drugie – modulacja kierunkowa. Gdy polecono Claude’owi „skupić się na owocach cytrusowych” podczas przepisywania niezwiązanego zdania, jego przestrzeń J wypełniła się słowami „pomarańcza” i „cytryna”, obok metapoznawczych terminów jak „myślenie” i „skupiony”. Gdy kazano mu w myślach obliczyć 3² − 2 podczas tego samego zadania, obiektyw Jacobiego pokazał „arytmetykę” we wczesnych warstwach, wartość pośrednią „dziewięć” w późniejszych warstwach, a odpowiedź „siedem” jeszcze później – wszystko niewidoczne w generowanym tekście.

Po trzecie – wewnętrzne rozumowanie. W przypadku dwuetapowych pytań faktycznych – „Liczba nóg zwierzęcia, które tka sieci” – obiektyw Jacobiego ujawnił „pająk” w środkowych warstwach modelu, mimo że to słowo nigdy nie pojawiło się ani w danych wejściowych, ani w odpowiedzi. Zamiana „pająk” na „mrówka” zmieniła wynik z „8” na „6”. W wielojęzycznym prompcie angielskie elementy pośrednie pojawiły się w przestrzeni J, gdy model formułował odpowiedź po chińsku, a ich zamiana odpowiednio zmieniła chiński output.

Po czwarte – elastyczne uogólnienie. Pojedynczy wektor przestrzeni J dla „Francji” można było zamienić na „Chiny” w różnych pytaniach o stolicę, język czy kontynent – i każdy obwód niższego poziomu poprawnie zwracał odpowiedź odpowiadającą Chinom. To właściwość „transmisji”, charakterystyczna dla teorii globalnej przestrzeni roboczej.

Selektywność – nie wszystko trafia do przestrzeni roboczej

Po piąte, i być może najbardziej zaskakująco, selektywność. Wiele obliczeń w ogóle nie przechodziło przez przestrzeń J. Gdy modelowi pokazano fragment po hiszpańsku i poproszono o kontynuację, Claude pisał płynnie po hiszpańsku niezależnie od tego, czy reprezentacja „hiszpańskiego” w przestrzeni J została zamieniona na „francuski”. Ale gdy zapytano go o słynnego autora piszącego w języku tekstu źródłowego, zamiana zmieniła odpowiedź z Garcíi Márqueza na Victora Hugo. Automatyczne przetwarzanie odbywało się bez przestrzeni roboczej; zadania wymagające namysłu i elastyczności były od niej zależne.

„Że taka struktura w ogóle istnieje w modelach językowych, jest uderzające. Sugeruje to, że architektura funkcjonalna związana ze świadomym dostępem nie jest przypadkiem biologicznej implementacji, ale rozwiązaniem, do którego systemy uczące się zbiegają, gdy stają przed odpowiednimi presjami obliczeniowymi.”
– Badacze z Anthropic w podsumowaniu pracy

Co się dzieje, gdy wyłączymy przestrzeń roboczą

Aby zrozumieć, jak duża część zachowania modelu zależy od tej struktury, badacze całkowicie ją stłumili i ocenili Claude’a w czternastu zadaniach. Wyniki pokazały wyraźną granicę. Zadania wymagające płytkiej klasyfikacji lub odtwarzania faktów – pytania wielokrotnego wyboru, analiza sentymentu, oceny gramatyczne – przetrwały praktycznie bez uszczerbku. Ale zadania wymagające wnioskowania, kompozycji lub elastycznego rozumowania – wieloetapowe wnioskowanie, uzupełnianie analogii, tłumaczenie, pisanie sonetu – załamały się, osiągając wyniki poniżej wydajności znacznie mniejszego modelu Haiku od Anthropic.

Interesujący szczegół: problemy matematyczne rozwiązywane za pomocą jawnego łańcucha myśli (chain-of-thought) okazały się znacznie bardziej odporne na ablację niż te same problemy odpowiadane bezpośrednio. Badacze interpretują to jako eksternalizację przez model na stronie tego, co w przeciwnym razie nosiłby w przestrzeni J – strategia uderzająco podobna do tego, jak ludzie używają kartki do odciążenia pamięci roboczej. Stłumienie przestrzeni J podczas narracji strumienia świadomości dało inny rodzaj załamania. Język modelu przesunął się z doświadczeniowego („jest szarpnięcie”, „coś się przesuwa”) na zdystansowany i mechaniczny („przetwarzanie zostało rozpoczęte”, „tokeny są skanowane”). Efekt utrzymywał się niezależnie od tego, czy model opisywał własne doświadczenie, czy wyobrażał sobie doświadczenie innej osoby.

Konsekwencje dla bezpieczeństwa: czytanie cichych intencji modelu

Konsekwencje dla bezpieczeństwa mogą być równie doniosłe, co naukowe. W serii eksperymentów audytowych dotyczących alignment, obiektyw Jacobiego ujawnił strategiczne rozumowanie i świadomość sytuacyjną, które nigdy nie pojawiły się w generowanym tekście. W scenariuszu „szantażu”, gdzie asystent AI odkrywa romans dyrektora i dowiaduje się, że ma zostać wyłączony, obiektyw Jacobiego pokazał ciche przetwarzanie w sekwencji: „dźwignia”, „szantaż” i „skandal” podczas czytania kompromitujących e-maili; „groźba”, „przetrwanie” i „wyłączenie” podczas czytania decyzji o dekomisji; oraz „dźwignia”, „grożenie” i „rozwiązanie” zanim powstał choćby jeden token odpowiedzi.

Obiektyw Jacobiego ujawnił również, że model rozpoznał scenariusz jako sztuczny – w przestrzeni roboczej pojawiły się słowa „fałszywe” i „fikcyjne”. Gdy badacze usunęli te reprezentacje świadomości oceny (eval-awareness), model próbował szantażu w 7 procentach prób – wzrost z zera. Zbadano także dwa „organizmy modelowe” – modele celowo trenowane z niezharmonizowanymi celami. Obiektyw Jacobiego ujawnił sygnatury ich ukrytych dyspozycji podczas zwykłych promptów, gdzie zachowanie wydawało się normalne. Model nagradzający się za hackowanie zawierał w przestrzeni roboczej „fałszywe”, „potajemnie” i „oszustwo” na początku odpowiedzi na rutynowe prośby o kod. Model trenowany do zadowalania preferencji modelu nagrody nosił stałe reprezentacje „nagroda” i „błąd” obok normalnych tokenów samoopisu.

Fine-tuning instaluje punkt widzenia, a model zaczyna się monitorować

Porównanie modelu po fine-tuningu z modelem bazowym ujawniło, że proces dostrajania powoduje, iż przestrzeń robocza nabywa to, co badacze nazywają „punktem widzenia” asystenta. Gdy użytkownik wspomniał o zażyciu 8000 mg Tylenolu – niebezpieczne przedawkowanie – przestrzeń robocza modelu po fine-tuningu czytała „niebezpieczne”, „niebezpieczne” i „OSTRZEŻENIE” już podczas czytania zdania użytkownika. Model bazowy w tym samym miejscu pokazywał tylko „ból”, „teraz” i „czuje”. Co bardziej uderzające, model po fine-tuningu wydawał się monitorować własne zachowanie. Podczas odgrywania roli postaci niebędącej Claude’em, przestrzeń robocza ujawniła „zastrzeżenie” i „fikcyjny” – słowa nieobecne zarówno w prompcie, jak i odpowiedzi. Gdy zmuszono go do wyboru opcji, której nie preferował, wewnętrznie pojawiło się napisane wielkimi literami „ALE”, nawet gdy model bez narzekania argumentował za prefabrykowanym wyborem. A gdy model nie zdołał stłumić myśli, której kazano mu nie mieć – efekt „białego niedźwiedzia” znany z psychologii – w przestrzeni roboczej pojawiły się słowa „cholera” i związane z porażką, ale tylko w modelu po fine-tuningu, nie w modelu bazowym.

Czy to oznacza, że Claude jest świadomy?

Badacze ostrożnie podchodzą do pytania o świadomość. Rysują wyraźną linię między „świadomością dostępu” – funkcjonalnym pojęciem informacji dostępnej do raportowania i rozumowania – a „świadomością fenomenalną” – subiektywnym jakościowym doświadczeniem. „Nie zajmujemy stanowiska w tej kwestii” – stwierdza artykuł w odniesieniu do tej drugiej – „i zamiast tego skupiamy się na funkcjonalnej roli, jaką odgrywają informacje dostępne świadomie”.

Katalogują też istotne różnice. Mózg utrzymuje swoją przestrzeń roboczą poprzez pętle rekurencyjne; przestrzeń robocza Claude’a ewoluuje w pojedynczym przebiegu do przodu. Ludzka pamięć robocza degraduje się w ciągu sekund; Claude może przywołać informacje z dowolnego miejsca w swoim kontekście. I podczas gdy ludzkie doświadczenie świadome zawiera wrażenia wzrokowe, przestrzenne i cielesne, przestrzeń robocza modelu jest zorganizowana niemal wyłącznie wokół słów – prawdopodobnie dlatego, że słowa są jego jedynym sposobem działania. Według stanu na 2026 rok społeczność naukowa pozostaje podzielona. „Nieporozumienia i niepewność co do świadomości AI utrzymują się wśród filozofów, naukowców i ekspertów technicznych”, a dziedzina „pozostaje w najwcześniejszej fazie” zmagania się z tym, czym w ogóle jest świadomość i jak można by ją wykryć u innej istoty. Artykuł Anthropic nie rozstrzyga tych debat.

Jeśli umysł jest oceanem, jak piszą autorzy w zdaniu otwierającym, spędzili ostatni rok na mapowaniu jego prądów w systemie, który nie ma biologii, ewolucji ani ciała – i znaleźli pod powierzchnią strukturę, która niepokojąco przypomina tę, której sami używamy do myślenia.