Agenci AI zużywają 600x więcej energii niż czat

Giganci technologiczni od dawna uspokajają opinię publiczną, podając niskie wartości zużycia energii dla pojedynczych zapytań do modeli AI. Google informował, że typowy prompt w Gemini zużywa zaledwie 0,24 watogodziny (Wh) – mniej niż dziewięć sekund działania telewizora. Sam Altman z OpenAI oszacował średnie zapotrzebowanie zapytania w ChatGPT na 0,34 Wh, czyli tyle, ile pochłaniało wyszukiwanie w Google w 2009 roku. Problem w tym, że te liczby mijają się z rzeczywistością – nie uwzględniają bowiem nowych sposobów korzystania z AI, które diametralnie zmieniają skalę zapotrzebowania na prąd.

Naukowiec zajmujący się klimatem, Zeke Hausfather, postanowił sprawdzić, jak duża jest ta rozbieżność. W swojej analizie opublikowanej na łamach The Climate Brink udokumentował rzeczywiste zużycie energii przez agentowego asystenta kodowania Claude Code. Wyniki dają do myślenia – okazuje się, że jedna akcja agenta może potrzebować nawet 600 razy więcej energii niż standardowa rozmowa z chatbotem.

Dlaczego standardowe pomiary nie oddają rzeczywistości?

Dotychczasowe szacunki koncentrowały się na prostych zapytaniach tekstowych. Tymczasem współczesne systemy AI działają zupełnie inaczej. Modele rozumujące generują wielokrotnie więcej tokenów z jednego zapytania, przetwarzają dane w różnych formatach, współpracują w zespołach wieloagentowych, generują kod i skalują się do miliardów zastosowań. Wszystkie te czynniki sprawiają, że publikowane przez firmy liczby mają niewiele wspólnego z faktycznym poborem prądu.

Hausfather zwraca uwagę na jeszcze jeden istotny problem – nikt poza laboratoriami AI nie zna prawdziwego kosztu energetycznego pojedynczego tokena dla najnowocześniejszych modeli. Jego wyliczenia to rozsądne szacunki oparte na dostępnych danych, ale wciąż tylko szacunki. Co więcej, odzwierciedlają one obecne wzorce użytkowania, a laboratoria już pracują nad systemami agentowymi, które będą działać autonomicznie przez dni, tygodnie, a nawet miesiące. To może doprowadzić do wykładniczego wzrostu zużycia energii.

3,2 miliarda tokenów w osiem tygodni

Hausfather przez osiem tygodni szczegółowo śledził własne korzystanie z Claude Code. Narzędzie to przechowuje kompletne lokalne logi każdej sesji, w tym dokładną liczbę tokenów raportowaną przez API dla każdego wywołania modelu. Jego 1138 wpisanych promptów wygenerowało ponad 14 000 wywołań modelu – średnio dwanaście na jeden prompt. Każdy prompt przetwarzał przeciętnie 2,9 miliona tokenów. Dla porównania, typowa rozmowa czatowa bez rozumowania i przeszukiwania sieci to około tysiąca tokenów.

Zużycie energii na pojedyncze zadanie AI rozciąga się na pięć rzędów wielkości – od 0,24 Wh dla promptu w Gemini do kilku kilowatogodzin (kWh) za cały dzień pracy z Claude Code. W sumie narzędzie przetworzyło 3,2 miliarda tokenów. Z tego 96 procent stanowiły odczyty z pamięci podręcznej, ponieważ na każdym z 14 000 kroków agent ponownie czyta cały zgromadzony kontekst. Tekst, który Hausfather faktycznie widzi na ekranie – czyli wyjście modelu – to zaledwie 0,4 procent wszystkich przetworzonych tokenów.

Jego najlepszy szacunek całkowitego zużycia to około 170 kWh energii elektrycznej z centrum danych w ciągu ośmiu tygodni, z zakresem niepewności od 70 do 330 kWh. Hausfather bezpośrednio zmierzył tylko liczbę tokenów z logów Claude Code, a przeliczenie na wartości energii opiera się na trzech niezależnych metodach z różnymi założeniami. W przeliczeniu na jeden prompt daje to około 150 Wh – mniej więcej 600 razy więcej niż w przypadku przeciętnego promptu czatowego.

„Prompt nie jest ostatecznie jednostką użycia AI, tak jak »przejazdy« nie są miarą jazdy samochodem; liczy się to, jak daleko jedziesz” – zauważa Hausfather.

Codzienna praca z agentem to energia dwóch lodówek

Mediana sesji Claude Code u Hausfathera zużywała około 0,6 kWh – to pięćdziesiąt razy więcej energii niż potrzeba do naładowania telefonu. Jego przeciętny dzień pracy z narzędziem pochłaniał 3,0 kWh (zakres od 1,2 do 5,9 kWh), czyli więcej niż dzienne zapotrzebowanie dwóch lodówek. W najbardziej intensywnym dniu, gdy kilka równoległych agentów przetwarzało obszerną analizę danych geograficznych, zużycie sięgnęło szacunkowo 11 kWh. To ponad jedna trzecia dziennego zużycia energii przeciętnego amerykańskiego gospodarstwa domowego.

W skali całego roku, intensywne korzystanie z agentów w stylu Claude Code oznaczałoby około 1,1 MWh energii z centrum danych (zakres od 0,4 do 2,2 MWh) – mniej więcej jedną dziesiątą rocznego zużycia przeciętnego amerykańskiego gospodarstwa. W przeliczeniu na średni amerykański miks energetyczny daje to około 370 kg ekwiwalentu CO₂ rocznie.

To nieco więcej niż roczna emisja elektrycznej suszarki do ubrań (262 kg) i około połowy emisji z lotu w obie strony na trasie San Francisco – Nowy Jork (700 kg), choć Hausfather zaznacza, że ta ostatnia liczba obejmuje tylko bezpośrednie emisje CO₂. Stanowi to około ośmiu procent rocznych emisji typowego amerykańskiego samochodu benzynowego i mniej więcej dwa procent średniego rocznego śladu węglowego Amerykanina.

„To jednocześnie duże źródło emisji i stosunkowo skromna część mojego całkowitego śladu węglowego” – podsumowuje naukowiec.

Czysta energia ma większe znaczenie niż ograniczanie użycia

Hausfather nie nawołuje do wyrzeczeń ani poczucia winy. Jak sam przyznaje, osobista powściągliwość niewielkiej grupy intensywnych użytkowników „nie zagnie żadnych krzywych”. Kierowanie prostych zadań do mniejszych modeli ma sens, ponieważ zużywają one od pięciu do siedmiu razy mniej energii na token niż modele z najwyższej półki. Jednak najważniejszą dźwignią jest – jego zdaniem – emisyjność samej energii elektrycznej.

Gdyby ta sama praca była zasilana w dużej mierze czystą energią, ślad węglowy spadłby o około 90 procent. Problem polega na tym, że niemal trzy czwarte planowanej energii dla amerykańskich centrów danych ma pochodzić z gazu ziemnego. Hausfather widzi w tym jednak szansę. Firmy AI dysponują ogromnym kapitałem i niezwykłą pilnością działania. Jeśli te pieniądze popłyną w kierunku czystej energii, rozbudowy sieci i zaawansowanych technologii, takich jak geotermia czy energetyka jądrowa, boom na AI może pozostawić sieć czystszą, niż ją zastał.

Przyszłość zależy więc nie od tego, czy ograniczymy korzystanie z agentów AI, ale od tego, jaką energią je zasilimy. To przesunięcie akcentu z indywidualnych wyborów na systemowe rozwiązania może okazać się kluczowe dla zrównoważonego rozwoju sztucznej inteligencji.

Źródło

Może Cię zainteresować