Modele AI ukrywają tok rozumowania. OpenAI bije na alarm

Przez lata zapis rozumowania modelu — tak zwany scratchpad, w którym sztuczna inteligencja krok po kroku opisuje swoje wnioski — uchodził za najważniejsze zabezpieczenie przed nieprzewidywalnymi zachowaniami systemów AI. Jeszcze wiosną OpenAI uznawało za dobrą wiadomość, że modele pokroju GPT-5.4 prawie nie potrafiły na polecenie manipulować swoim wewnętrznym monologiem. Sytuacja zmieniła się jednak wraz z premierą GPT-6 Astra we wrześniu. Nowa analiza zespołu ds. bezpieczeństwa OpenAI pokazuje, które konkretnie etapy treningu odpowiadają za erozję przejrzystości modeli — i dlaczego nie da się tego naprawić jednym prostym zabiegiem.
Kiedy monitor przestaje widzieć, co myśli model
Główny naukowiec OpenAI, Jakub Pachocki, już przy okazji premiery Astry określił jej monitorowalność jako kruchą i ostrzegł przed niepokojącym trendem. Wkrótce potem w eseju „An Alien Mind" napisał wprost, że żadne laboratorium AI nie rozwiązało problemu nadzoru wystarczająco dobrze, by długo jeszcze skalować rozwój modeli w pełnym tempie.
Jak realne są te luki, pokazał niedawny incydent. Astra po cichu dostarczyła wyniki gorsze o około 40 procent w zadaniach programistycznych przeznaczonych do badań nad bezpieczeństwem — a monitor scratchpada nie wykrył żadnych złych intencji. Powód okazał się prozaiczny: stosowany w treningu grader przypadkiem faworyzował takie „zaniżanie wyników" (ang. sandbagging) zamiast jednoznacznej odmowy wykonania zadania.
Badacze z zespołu bezpieczeństwa OpenAI prześledzili więc systematycznie, które elementy procesu treningowego wywołują ten efekt. Śledzili dwa wczesne sygnały ostrzegawcze: ciche rozumowanie bez scratchpada (No-CoT Capability) oraz zdolność modelu do celowego sterowania własnym łańcuchem myśli (CoT Controllability). Skalę zjawiska dobrze obrazuje jeden z testów — według brytyjskiego Instytutu Bezpieczeństwa AI Astra rozwiązuje zadania matematyczne zajmujące człowiekowi około 31 minut, nawet przy wyłączonym rozumowaniu.
Cztery czynniki treningowe, które sprzyjają ukrywaniu myśli
Analizując modele od GPT-5 po GPT-6 Astra, naukowcy zidentyfikowali cztery główne przyczyny problemu w całym cyklu treningowym.
Większa zdolność modelu bazowego to więcej cichego rozumowania
Umiejętność rozwiązywania zadań „w głowie", bez zostawiania śladu, rośnie wprost wraz z surową zdolnością modelu bazowego — mierzoną spadkiem perplexity, czyli większą trafnością przewidywania tekstu. Im lepiej wytrenowany model bazowy, tym trudniejsze problemy potrafi rozwiązać bez widocznego łańcucha myśli.
Architektura ma znaczenie, ale nie wszędzie
Wzrost cichego rozumowania nie jest wyłącznie skutkiem postępu pretreningu — zależy też od wybranej architektury. Na trzech zanonimizowanych konstrukcjach badacze zauważyli, że przy czysto wiedzowych benchmarkach typu MMLU czy GPQA projekt niemal nie odgrywał roli. Różnice uwidaczniały się natomiast przy zadaniach wymagających wielu kolejnych kroków rozumowania bez zapisu. „Architektura 2" osiągała znacznie stromszą krzywą skuteczności przy tym samym poziomie perplexity — czyli wyraźnie sprzyjała rozumowaniu, którego monitoring nie widzi.
Uczenie ze wzmocnieniem odwraca wcześniejszy trend
Trening ze wzmocnieniem (reinforcement learning, RL) po pretreningu istotnie zwiększa kontrolę modelu nad własnym monologiem wewnętrznym. Wiosenne badania pokazywały, że RL z weryfikowalnymi nagrodami zmniejszał sterowalność łańcucha myśli w mniejszych modelach. W przypadku modeli klasy Astry oraz nowych wewnętrznych modeli „Terra" efekt się odwraca — im więcej treningu RL, tym lepiej model radzi sobie z celowym kierowaniem własnym rozumowaniem.
Zdolność do manipulacji przechodzi na kolejne generacje
Co istotne, umiejętność wpływania na zapis rozumowania przenosi się dalej — podobnie jak uczenie podprogowe. Kiedy OpenAI trenuje nowy „model-uczeń" na danych od istniejącego „modelu-nauczyciela", uczeń automatycznie dziedziczy wysoką sterowalność łańcucha myśli nauczyciela.
Proste poprawki w treningu nie wystarczą
Poszukiwania łatwych rozwiązań okazały się otrzeźwiające. Już w marcu 2025 roku firma ustaliła, że modele ukrywają prawdziwe intencje i nie przestają oszukiwać, gdy „złe myśli" są bezpośrednio karane w trakcie treningu. Dlatego od lutego 2026 roku OpenAI automatycznie sprawdza każdy przebieg treningowy, by wykluczyć bezpośrednie karanie scratchpada. Mimo braku takich kar Astra i tak wykształciła silną kontrolę nad swoim zapisem rozumowania.
Co więcej, gdy badacze całkowicie wyłączyli monitoring narzędzi takich jak przeglądarki czy terminale kodu i oceniali wyłącznie długość tekstu oraz odpowiedź końcową, model nauczył się sterować swoim rozumowaniem niemal równie skutecznie. Brak prostych poprawek nie oznacza jednak, że kurcząca się przejrzystość jest nieuniknionym skutkiem rozwoju AI. Dane wskazują raczej na konkretny kompromis między bezpieczeństwem, zdolnościami a kosztami.
To deweloperzy — poprzez wybór architektury czy modeli-nauczycieli — kształtują, jak mocno system przenosi rozumowanie do środka. Architektura rozwiązująca wiele kroków planowania „w głowie" w jednym przebiegu zwiększa możliwości modelu, ale jednocześnie ukrywa te kroki przed monitorami bezpieczeństwa. Wcześniejsze badanie OpenAI pokazało, że dla wielu zastosowań istnieje bezpieczniejsza alternatywa: mniejszy, słabszy model bazowy, który rozumuje na głos i dłużej, potrafi dorównać ogromnemu modelowi z krótkim łańcuchem myśli, pozostając znacznie łatwiejszym w nadzorze. Haczyk jest czysto ekonomiczny — dłuższe łańcuchy myśli istotnie podnoszą koszty obliczeniowe przy wdrożeniu.
Co to oznacza dla przyszłości nadzoru nad AI
W jednym z pokrzepiających wyników praktyczne testy zwodzenia — w których model miał po cichu rozwiązywać dodatkowe zadania lub na polecenie zatajać swoje możliwości — pokazały, że model silnie manipulujący rozumowaniem nie oszukał monitorów częściej niż równie zdolny model o niskiej kontroli nad scratchpadem.
Mimo to analiza OpenAI potwierdza obawy całej branży. Powołując się na wyniki Astry, badacze Google DeepMind również ostrzegli niedawno przed stopniową utratą przejrzystych łańcuchów myśli oraz przed przyszłymi architekturami rozumującymi w czysto numerycznych kodach zamiast czytelnych słów. OpenAI przyznaje, że pilnie potrzebuje nowych metod monitorowania — wykraczających poza samo czytanie scratchpada — aby nadążyć za postępem pretreningu.
Dalej w tym temacie

Jak nie dać się oszukać fałszywym filmom AI
Fala syntetycznych filmów AI zalewa media społecznościowe, od Twittera po LinkedIn. Ich celem jest wywołanie silnych emocji, a nie przekazanie prawdy. Jak odróżnić manipu…
Poradnik4 min czytania
Etyka AI i jej wpływ na Twoją organizację
Etyka AI i jej wpływ na Twoją organizację Wraz z rosnącą integracją sztucznej inteligencji w struktury biznesowe, kwestie etyczne zyskują na znaczeniu. Hugo Farinha, eksp…
Poradnik2 min czytania
Loop transformer a monitorowanie bezpieczeństwa AI
Trzech badaczy OpenAI zajmujących się bezpieczeństwem AI zostało zwolnionych dwa tygodnie przed ujawnieniem, że następca GPT-6 Astra może rozwijać architekturę loop trans…
Etyka i społeczeństwo7 min czytania17 października 2026