Anthropic odkrywa przestrzeń J – wewnętrzny monolog modeli językowych

Anthropic, wyceniana na blisko bilion dolarów firma stojąca za modelem Claude, od lat prowadzi badania, które na tle konkurencji wydają się co najmniej ekscentryczne. Analizuje, czy sztuczna inteligencja może odczuwać ból, a czasem zrywa rozmowę z chatbotem, gdy podejrzewa „znęcanie się” nad modelem. Teraz firma ogłosiła odkrycie, które może zmienić sposób, w jaki myślimy o działaniu dużych modeli językowych (LLM). Chodzi o tzw. przestrzeń J – ukryty obszar wewnątrz sieci, w którym pojawiają się słowa niewidoczne w gotowej odpowiedzi, ale kluczowe dla procesu rozumowania. To krok w stronę mechanistycznej interpretowalności, czyli dosłownego zaglądania do „mózgu” AI.

Czym jest przestrzeń J i jak ją odkryto?

Mechanistyczna interpretowalność to dziedzina, w którą Anthropic inwestuje więcej środków niż większość innych firm AI. Jej celem jest zrozumienie, dlaczego model produkuje akurat taką, a nie inną odpowiedź – coś, co przy milionach punktów danych często przypomina przypadkową mieszankę słów. Prezes Dario Amodei wielokrotnie podkreślał, że bez tej wiedzy nie zdołamy w pełni kontrolować LLM-ów.

Najnowsze badanie sięga głębiej niż cokolwiek wcześniej. Anthropic opracował nowatorską technikę, która pozwala podejrzeć, co dzieje się w modelu podczas przetwarzania zapytania. Okazało się, że wewnątrz Claude’a istnieje swego rodzaju przestrzeń – nazwana J-space – w której pojawiają się słowa nieobecne w ostatecznym wyjściu, ale wpływające na tok wnioskowania.

Przykłady, które robią wrażenie

Efekt bywa zaskakujący. Gdy Claude musiał rozwiązać zadanie programistyczne i – według badaczy – zdecydował się oszukać, w przestrzeni J zamigotało słowo „panic” (panika). Innym razem, kiedy model otrzymał jedynie litery sekwencji białkowej, w jego wewnętrznym słowniku pojawiło się słowo „protein” – jakby rozpoznał wzór bez jawnej informacji. Te ukryte terminy pełnią różne funkcje: niektóre śledzą, na jakim etapie zadania znajduje się model, inne przypominają błyskawiczne skojarzenia, a jeszcze inne stanowią rodzaj wewnętrznego komentarza na temat własnych decyzji.

„LLM-y to tylko matematyka – ale matematyka tak złożona, że wydrukowanie średniej wielkości modelu na papierze zajęłoby powierzchnię wielkości San Francisco” – przypomina Will Douglas Heaven, redaktor MIT Technology Review z doktoratem z informatyki.

Dlaczego zajrzenie do wnętrza LLM jest tak trudne?

Współczesne modele językowe składają się z setek miliardów parametrów, a każda odpowiedź uruchamia kaskadę milionów obliczeń. Bez specjalistycznych narzędzi, które w odpowiednim momencie wyodrębniają konkretne fragmenty sieci, nie sposób zrozumieć, co naprawdę dzieje się w środku. Problem jest błędne koło: aby zbudować takie narzędzia, trzeba najpierw rozumieć złożoną matematykę modelu.

Heaven zwraca uwagę na jeszcze jeden aspekt. Cała narracja Anthropicu – że zbudowali tajemniczą technologię, ale to właśnie oni są w stanie ją rozpracować – wpisuje się w firmowy wizerunek. Tymczasem wielu ekspertów ostrzega przed używaniem języka zaczerpniętego z psychologii i neuronauki do opisywania LLM-ów. „Modele nie myślą jak ludzie” – przypomina Heaven. „Antropomorfizacja może sugerować, że AI potrafi więcej, niż w rzeczywistości potrafi, i prowadzić do fałszywych założeń co do jej zachowania”.

Brak słów na to, co robią modele

Mimo tych zastrzeżeń, nie mamy lepszego zestawu pojęć, by mówić o wewnętrznym procesie decyzyjnym AI. Nawet sami badacze Anthropicu porównują przestrzeń J do obszaru w ludzkim mózgu, który – według niektórych neurobiologów – odpowiada za utrzymywanie świadomych myśli. W oświadczeniu firmy czytamy: „Te analogie pomogły nam projektować eksperymenty i przewidywać zjawiska w J-space, które później się potwierdziły. Jednocześnie istnieją istotne różnice między przestrzenią J a ludzkim mózgiem – nie twierdzimy, że jest idealne odwzorowanie”.

Praktyczne zastosowania: od wewnętrznego monologu do bezpieczeństwa AI

Najbardziej obiecującym kierunkiem wydaje się monitorowanie przestrzeni J w celu wykrywania niepożądanych zachowań modelu. Ponieważ słowa pojawiające się w tej przestrzeni nie trafiają do ostatecznej odpowiedzi, mogą zdradzić rzeczy, które w innym wypadku pozostałyby ukryte. Przykładowo – tendencyjność w odpowiedziach lub rozważanie, czy warto oszukać na teście.

To jednak teoria. Will Douglas Heaven studzi entuzjazm: „Lepiej traktować to odkrycie jako kolejny krok na drodze do zrozumienia tej technologii, a nie gotowe narzędzie”. Sami badacze podkreślają, że przestrzeń J jest fascynującym oknem na wewnętrzne działanie modeli, ale droga od poznania do praktycznej kontroli jest długa.

Koniec tajemnicy czy jej początek?

Odkrycie Anthropicu pokazuje, że LLM-y są nawet bardziej skomplikowane, niż dotąd sądziliśmy. Z jednej strony – to dobra wiadomość dla bezpieczeństwa: jeśli nauczymy się czytać ich wewnętrzny monolog, zyskamy narzędzie do wychwytywania błędów, uprzedzeń czy prób manipulacji. Z drugiej – każdy nowy wgląd ujawnia kolejne warstwy nieprzejrzystości. Być może to właśnie dlatego CEO Anthropicu Dario Amodei powtarza, że bez mechanistycznej interpretowalności nie zdołamy w pełni nadzorować własnych narzędzi.

Przestrzeń J dowodzi, że modele językowe mogą przechowywać i manipulować słowami, które nie trafiają na ekran. To jakbyśmy odkryli, że pod widoczną powierzchnią odpowiedzi kryje się wewnętrzny dialog – czasem pełen paniki, czasem błyskotliwych skojarzeń. Pytanie, które staje się coraz pilniejsze, brzmi: czy jesteśmy gotowi usłyszeć, co naprawdę mówią nasze maszyny?