TokenMaxxing: jak nie przepalać budżetu na modele AI

Największe modele Anthropic i OpenAI kosztują nawet stukrotnie więcej za token niż ich najmniejsze odpowiedniki. Mimo to wiele osób domyślnie sięga po flagowca do każdego zadania — od analizy umów po pisanie maili. Efekt? Rosnące rachunki i zużycie limitów, które nie zawsze przekłada się na lepsze rezultaty.

Pojęcie „tokenmaxxingu” zaczęło żyć własnym życiem w Dolinie Krzemowej. Zamiast maksymalizować liczbę przepalonych tokenów, coraz więcej inżynierów rozumie je inaczej: chodzi o wyciśnięcie jak największej wartości z każdej jednostki tekstu przetworzonej przez model. Poniżej wyjaśniamy, skąd biorą się koszty i jak je realnie ograniczyć.

Skąd wzięła się moda na przepalanie tokenów

Wewnętrzne rankingi zużycia AI pojawiły się w Meta, Amazonie i Uberze. Pracownicy ścigali się o miejsca na firmowych leaderboardach, a efekty bywały absurdalne. W Meta w ciągu 30 dni zużyto 60 bilionów tokenów w ramach wewnętrznej zabawy nazwanej „Claudeonomics”. Publicysta technologiczny Gergely Orosz oszacował, że przy cenniku Anthropic rachunek mógłby sięgnąć około 900 milionów dolarów — choć sama firma zapewne płaci znacznie mniej.

Uber w podobny sposób wyczerpał całoroczny budżet na narzędzia AI w ciągu mniej więcej czterech miesięcy. W Amazonie pracownicy przyznawali, że podbijali statystyki, uruchamiając wewnętrzne narzędzie do nieistotnych zadań — aż wiceprezes musiał interweniować i poprosić, by nie używać AI wyłącznie dla samego używania.

„Tak wiele firm i użytkowników domyślnie sięga po Opus do wszystkiego, włącznie z generowaniem maili” — powiedziała konsultantka Bain & Company, Jue Wang, w rozmowie z Associated Press.

Wang porównała takie podejście do zatrudniania Alberta Einsteina do liczenia reszty w fast foodzie. Trafna metafora — bo każdy wpisany znak i każda odpowiedź modelu są rozliczane w tokenach, czyli fragmentach tekstu odpowiadających średnio trzem czwartym słowa. W subskrypcji za 20 dolarów to one decydują o tempie wyczerpania limitu, a w API — o wysokości faktury.

Jak działają koszty: pętle, orkiestracja i grafy

Zanim przejdziemy do praktycznych porad, warto zrozumieć, gdzie właściwie uciekają tokeny. Trzy mechanizmy odpowiadają za większość wydatków.

Pętla agenta

Agent to model, który potrafi korzystać z narzędzi: myśli, przeszukuje sieć lub uruchamia kod, odczytuje wynik i powtarza cykl, aż uzna zadanie za zakończone. Problem w tym, że przy każdym obrocie ponownie wysyła całą dotychczasową rozmowę — a więc koszt rośnie z każdą iteracją.

Orkiestracja i subagenty

Jeden model może pełnić rolę menedżera: dzieli zadanie na części, przekazuje je modelom-robotnikom i scala odpowiedzi. Każdy z nich prowadzi własną pętlę z osobną pamięcią. Dlatego według Anthropic zespoły agentów w Claude Code potrafią zużyć około siedmiokrotnie więcej tokenów niż standardowa sesja, gdy współpracownicy działają w trybie planowania.

Grafy workflow

Narzędzia takie jak LangGraph pozwalają rozrysować proces niczym mapę metra: węzły wykonują pracę, krawędzie decydują, dokąd trafić dalej. Model podąża wtedy ustaloną trasą, zamiast krążyć w pętli do wyczerpania budżetu. Pętle zwiększają automatyzację i jakość, ale słono kosztują — dlatego tak ważna jest efektywność.

Poziom podstawowy: małe zadania, małe modele

Większość poniższych nawyków nie wymaga ani linijki kodu. Wystarczy zmiana przyzwyczajeń w oknie czatu.

Dopasuj model do zadania

W aplikacji czatu kliknij nazwę modelu — w ChatGPT u góry okna, w Claude obok przycisku wysyłania — i przełącz się na mniejszy, szybszy wariant przy mailach, streszczeniach czy parafrazach. Flagowca zostaw do trudnego rozumowania i decyzji, w których drobny błąd kosztuje realne pieniądze. Test jest prosty: puść pięć zadań z zeszłego tygodnia na obu modelach i jeśli mniejszy sobie radzi, zostań przy nim. W subskrypcji wydłuży to limit, a w API obniży rachunek nawet o 99%.

Jeden dobry prompt zamiast pięciu słabych

Każda runda poprawek w stylu „nie, tylko suma” lub „zrób to lepiej” oznacza ponowne przesłanie całej rozmowy. Jeden precyzyjny prompt określa zadanie i dokładny kształt odpowiedzi. Warto podać, co ma się znaleźć w wyniku, jak ma być sformatowany i co zrobić, gdy danych brakuje. Testy OpenAI pokazały, że zwięzłe i jasne instrukcje dają lepsze wyniki przy mniejszym zużyciu tokenów.

Nowy czat przy zmianie tematu

Model odczytuje całą konwersację przy każdej wysyłce, więc wątek o wakacjach złożony z pięćdziesięciu wiadomości sprawia, że pytanie podatkowe staje się droższe i głupsze jednocześnie. Anthropic nazywa to zjawisko „context rot”, czyli gniciem kontekstu. Rozwiązanie jest banalne: zaczynaj nową rozmowę, gdy zmieniasz temat.

Określaj długość odpowiedzi

Tokeny wyjściowe kosztują pięć razy więcej niż wejściowe w topowych modelach Anthropic i OpenAI. Kończ prompt frazą typu „trzy punkty, poniżej stu słów” albo „tylko zmienione linijki”. Ograniczenie długości odpowiedzi szczególnie oszczędza przy zadaniach kreatywnych — pisaniu czy researchu — gdzie model ma tendencję do rozwijania wątków.

Najpierw darmowe, potem płatne

OpenRouter oferuje darmowy router kierujący zapytania do około dwudziestu bezpłatnych modeli. Modele można też uruchamiać lokalnie przez LM Studio lub Ollama — na karcie graficznej z 8 GB pamięci lub Macu z układem M. Darmowe pule potrafią zniknąć z dnia na dzień, więc nie buduj na nich niczego ważnego, a przed wklejeniem wrażliwych danych sprawdź politykę prywatności. Iteracje promptów lepiej jednak szlifować na darmowym, słabszym modelu niż płacić za premium, które zrobi to samo szybciej.

Poziom średni: agent czyta zdecydowanie za dużo

Kolejne porady opierają się na Claude Code, agencie Anthropic działającym w terminalu, ale logika jest podobna w innych środowiskach. Jeśli korzystasz wyłącznie z aplikacji czatu, uwaga o czyszczeniu kontekstu i tak się przyda.

Zacznij tanio, eskaluj przy porażce

Komenda /model pozwala przełączać modele. Ustaw Sonnet jako domyślny i sięgaj po Opus dopiero, gdy Sonnet zawiedzie przy konkretnym zadaniu — np. nie naprawi błędu po dwóch próbach. Do prostych zadań subagentów dokumentacja Anthropic sugeruje ustawienie model: haiku.

Czyść kontekst między zadaniami

Przy przejściu do niepowiązanego zadania wpisz /clear — to nic nie kosztuje i usuwa starą historię. Komendy /compact używaj tylko wtedy, gdy naprawdę potrzebujesz zachować kontekst, dodając notatkę, co ma zostać — bo sama kompakcja jest dużym zapytaniem.

Pozwól kodowi liczyć

Wklejenie arkusza z pięcioma tysiącami wierszy do czatu sprawia, że model czyta każdy wiersz — i wciąż może się pomylić, bo językowe modele nie są kalkulatorami, niezależnie od ceny. Zamiast tego poproś o formułę lub krótki skrypt, uruchom go samodzielnie i przekaż modelowi tylko wynik.

Ogranicz liczbę narzędzi

Serwery MCP to wtyczki łączące model z aplikacjami typu GitHub czy Google Drive — każda dokłada nazwy narzędzi i instrukcje do każdej sesji. Komenda /context pokaże, co zajmuje miejsce, a /mcp pozwoli wyłączyć serwery niepotrzebne w danym projekcie.

Warto też zaglądać do /usage, by zobaczyć, gdzie poszły tokeny, i trzymać plik instrukcji agenta (CLAUDE.md lub Soul.md) poniżej dwustu linii. Przy większych zmianach tryb planowania (Shift+Tab) pozwala zatwierdzić plan przed dotknięciem plików, a klawisz Esc natychmiast zatrzymuje agenta, gdy zbacza z kursu. Do prostych zadań, jak zmiana nazwy zmiennej, warto obniżyć poziom rozumowania komendą /effort. Anthropic pokazał, że ładowanie wyłącznie potrzebnych definicji narzędzi ścięło zużycie z 150 tysięcy tokenów do dwóch tysięcy — dlatego narzędzia wiersza poleceń, jak GitHub CLI, często wygrywają z wtyczkami działającymi bez przerwy.

Poziom zaawansowany: wbuduj ograniczenia w system

Wyobraźmy sobie developera, który przetwarza tysiąc faktur po dwa tysiące tokenów każda, z odpowiedziami po dwieście tokenów. Taka robota kosztuje około 30 dolarów na modelu z wyższej półki i około 30 centów na Haiku — jeszcze przed zastosowaniem poniższych trików.

Cache’uj to, co się nie zmienia

Stałe instrukcje umieść na początku, zmienne części na końcu, a stabilny blok oznacz do cache’owania. W API Anthropic to jedno dodatkowe pole cache_control. Odczyt z cache kosztuje ułamek normalnej ceny wejścia, choć zapis do domyślnego pięciominutowego bufora wiąże się z dopłatą. Sprawdzaj pole cache_read_input_tokens w odpowiedziach — jeśli po pierwszym wywołaniu wciąż wynosi zero, cache nie działa.

Grupuj zadania w partie

Zarówno OpenAI, jak i Anthropic przetwarzają zadania wsadowe z pięćdziesięcioprocentową zniżką, a OpenAI obiecuje wyniki w ciągu doby. Wgraj tysiąc faktur jako jeden plik wsadowy zamiast tysiąca wywołań na żywo — rachunek mocno spadnie.

Trzymaj agentów na smyczy

Ustal maksymalną liczbę kroków i limit dolarowy dla każdego uruchomienia, a przed startem zdefiniuj, co oznacza „gotowe”. Claude Code przyjmuje flagę --max-budget-usd dla skryptowych uruchomień, a Shopify stosuje wyłączniki, które natychmiast odcinają dostęp developerowi, jeśli jego wydatki gwałtownie wzrosną w ciągu dnia. Dziś normą bywa puszczanie agentów wolną drogą, aż wynik uzna się za idealny — ale bez budżetu nie pozwalaj agentowi samodzielnie decydować, co jest „idealne”.

Dwie dodatkowe zasady: kluczowe fakty umieszczaj na początku lub końcu długiego promptu (badanie pod kierownictwem Stanforda pokazało, że modele najgorzej korzystają z informacji zakopanych w środku), a drugi model do sprawdzania wyników opłaca się tylko wtedy, gdy błąd jest kosztowny — np. przy klauzuli umownej czy kwocie płatności. W API OpenAI warto włączyć twardy limit wydatków dla projektu, bo alerty tylko informują, nie zatrzymują ruchu.

Od czego zacząć i dlaczego to nie tylko kwestia ceny

Najprostszy test: przez tydzień ustaw jako domyślny najtańszy model, który przeszedł pięciozadaniowy sprawdzian, i przełączaj się wyżej tylko przy porażkach. Potem porównaj stronę zużycia z poprzednim tygodniem. W przykładzie z fakturami sam routing obniżył rachunek z 30 do 3,90 dolara — nawet po opłaceniu Opus, który poprawiał trzysta nieudanych przypadków.

Same tańsze tokeny nie załatwią jednak sprawy. Według indeksu Token Expenditure Index firmy Silicon Data cena pojedynczego tokena spadła od 2023 roku o ponad 90%, a mimo to wydatki na duże modele językowe podwoiły się od końca 2025 roku. Ekonomiści nazywają to paradoksem Jevonsa: gdy zasób tanieje, ludzie wydają na niego więcej łącznie. Brief Bain & Company z czerwca potwierdza ten wzorzec — między grudniem 2024 a 2025 koszt tokena spadł o połowę, a liczba zużytych tokenów wzrosła o 450%.

Dobra wiadomość jest taka, że spadające ceny pracują na twoją korzyść, gdy tylko przestajesz przepalać tokeny dla sportu. Połącz je z nawykami opisanymi wyżej, a AI stanie się jednocześnie tańsza i skuteczniejsza.