Reset kontekstu kluczem do lepszych wyników agentów AI

Długo działający agenci AI zajmujący się badaniami naukowymi potrafią osiągnąć plateau, mimo zwiększania nakładów obliczeniowych. Kluczowym ograniczeniem okazuje się nagromadzony kontekst rozmowy, który kieruje ich ku rozwiązaniom podobnym do wcześniejszych, zamiast skłaniać do eksploracji nowych ścieżek. Zespół badawczy z Microsoft Research przyjrzał się temu zjawisku i zaproponował metodę, która znacząco poprawia efekty pracy takich systemów.

Dlaczego agenci AI utykają w jednym schemacie myślenia

Naukowcy z Microsoftu analizowali zachowanie tak zwanych agentów autoresearch – systemów, które wielokrotnie proponują rozwiązania, oceniają je i udoskonalają na podstawie informacji zwrotnej. Osiem niezależnych przebiegów tego samego agenta, wykonujących identyczne zadanie, zakończyło pracę na bardzo różnych poziomach skuteczności. Końcowe wyniki mieściły się w przedziale od 68,3 do 100,0 punktów. Co istotne, różnice te nie zniknęły nawet przy znacząco większych zasobach obliczeniowych.

Baseny pomysłów ograniczają poszukiwania

Aby zrozumieć przyczynę rozbieżności, badacze umieścili proponowane rozwiązania na dwuwymiarowej mapie, na której podobne koncepcje znajdują się blisko siebie. Okazało się, że wyniki pochodzące z jednego przebiegu niemal zawsze pozostają w niewielkim obszarze mapy. Autorzy nazwali te regiony „basenami pomysłów”. Agenci zamiast szukać lepszych rozwiązań, przez większość pozostałego budżetu obliczeniowego dopracowują warianty w obrębie mniej produktywnego obszaru. Wzorzec ten utrzymuje się nawet wtedy, gdy systemy okresowo kompresują historię rozmowy.

Fork-and-Flush – jak działa metoda resetowania kontekstu

Zaproponowane rozwiązanie łączy dwa mechanizmy. Pierwszy z nich, nazwany „forking”, polega na rozgałęzieniu agenta na K równoległych ścieżek, z których każda dziedziczy dotychczasowy obszar roboczy wraz ze wszystkimi wygenerowanymi plikami. Drugi mechanizm, „flushing”, powoduje, że każda z gałęzi traci cały kontekst rozmowy, zachowując jedynie przestrzeń roboczą. Dzięki temu agent może rozpocząć zupełnie nową konwersację i budować na wcześniejszych efektach pracy.

Gałąź, która zachowuje kontekst rozmowy procesu nadrzędnego, ma tendencję do powracania do tego samego basenu pomysłów, ponieważ wcześniejsze rozumowanie ukierunkowuje jej kolejne kroki. Świeży kontekst przywraca różnorodność poszukiwań. Historia konwersacji przepada, ale kod, pliki i zapisane wyniki pozostają dostępne w obszarze roboczym.

Wyniki testów na trzynastu zadaniach badawczych

Badacze sprawdzili skuteczność Fork-and-Flush na trzynastu długotrwałych zadaniach. Wśród nich znalazły się między innymi pakowanie polimino, harmonogramowanie job-shop oraz kryptoanaliza. Testy obejmowały również kompresję klasyfikatora CIFAR i optymalizację jądra VLIW. Pojedyncze przebiegi trwały od kilku godzin do ponad stu godzin. Agenci korzystali z modeli GPT-5.6-terra oraz GPT-5.5 za pośrednictwem GitHub Copilot CLI.

Wyższe wyniki przy tym samym budżecie obliczeniowym

Przy identycznych nakładach obliczeniowych metoda Fork-and-Flush osiągnęła znormalizowaną średnią ocenę na poziomie 0,78. Dla pojedynczych przebiegów wynik wyniósł 0,47, a dla strategii best-of-4 – 0,54. Względne poprawy wynoszą odpowiednio 66,0 oraz 44,4 procent. Rozwiązanie uzyskało najwyższą średnią ocenę w dwunastu z trzynastu zadań. Co więcej, Fork-and-Flush dawał bardziej spójne rezultaty – znormalizowane odchylenie standardowe spadło z 0,26 dla pojedynczych przebiegów do 0,16.

Sam proces czyszczenia kontekstu rozmowy, bez rozgałęziania, poprawił wyniki o około 22 procent. To pokazuje, że już samo usunięcie historii konwersacji wnosi istotną wartość.

Czy silniejsze modele też potrzebują resetów kontekstu

Naukowcy sprawdzili również, czy bardziej zaawansowane modele są mniej podatne na utykanie w basenach pomysłów. W tym celu wykorzystali problemy MAX-3-SAT i przetestowali trzy rozmiary modeli z rodziny Qwen3.5: 4B, 9B oraz 27B. Wariancja między przebiegami przyjęła kształt odwróconej litery U, osiągając szczyt na zadaniach znajdujących się na granicy możliwości danego modelu – mniej więcej w połowie drogi między wynikami losowymi a rezultatami wzorcowego solvera.

Modele niemal zawsze radzą sobie z zadaniami bardzo łatwymi i ponoszą porażkę przy skrajnie trudnych. Ten wzorzec powtarza się we wszystkich trzech testowanych rozmiarach. Autorzy przekonują, że otwarte problemy badawcze z definicji lokują się na granicy możliwości modeli. Spodziewają się, że zróżnicowanie, które wykorzystuje Fork-and-Flush, utrzyma się wraz z rozwojem systemów AI – granica przesunie się jedynie w stronę trudniejszych zagadnień.

Wnioski z badania sugerują, że regularne resetowanie kontekstu może pozostać użyteczne nawet dla najbardziej zaawansowanych agentów badawczych. Zamiast polegać wyłącznie na rosnącej mocy obliczeniowej, warto zadbać o różnorodność poszukiwań poprzez świadome zarządzanie historią rozmowy. To podejście może okazać się istotnym elementem projektowania autonomicznych systemów AI kolejnej generacji.