Revolut ciął koszty AI o 90% rezygnując z Claude

Revolut, brytyjski fintech z siedzibą w Londynie, postanowił znacząco ograniczyć wydatki na sztuczną inteligencję. Zamiast korzystać z komercyjnych modeli Anthropic, firma wdrożyła własne, otwarte modele od chińskiego Z.ai. Efekt? Koszty wnioskowania spadły o około 90% w ciągu niespełna roku. To jeden z pierwszych tak wyraźnych przykładów, że self-hosting modeli AI może realnie zmienić ekonomię wdrożeń.

Dlaczego Revolut porzucił Claude

Firma nie zrezygnowała z AI jako takiej – zmieniła jedynie sposób jej dostarczania. Wcześniej Revolut testował rozwiązania Google Gemini, by ostatecznie zatrzymać się przy modelach Claude od Anthropic. Problem pojawił się, gdy najbardziej aktywni użytkownicy zaczęli generować koszty sięgające tysięcy dolarów miesięcznie, nie przekładając się na proporcjonalne korzyści biznesowe.

David Abitbol, odpowiedzialny w Revolucie za infrastrukturę, przyznał podczas jednej z konferencji, że firma podchodziła do wydatków na AI z dużą ostrożnością. Od początku wprowadzono ścisłe limity budżetowe, które miały chronić przed niekontrolowanym wzrostem opłat za tokeny.

„Podchodziliśmy do kosztów AI z dużą dozą sceptycyzmu. Kiedy ją wdrażaliśmy, zrobiliśmy to z restrykcyjnymi limitami budżetowymi” – powiedział David Abitbol, Infrastructure Lead w Revolut.

Jakie korzyści przyniósł self-hosting modeli

Przejście na własną infrastrukturę wnioskowania okazało się korzystne nie tylko pod względem finansowym. Revolut raportuje wymierne efekty produktywnościowe, które pokazują, że pozbycie się limitów tokenowych uwolniło potencjał zespołów deweloperskich.

Mierzalne wzrosty wydajności

Według danych przedstawionych przez Abitbola na konferencji GTC Berlin, czas realizacji zadań (lead time) poprawił się o 70%, a produktywność w kodowaniu wzrosła o 60%. Deweloperzy mogą teraz korzystać z modeli AI bez obaw o wyczerpanie limitów, co przekłada się na swobodniejszą pracę.

Prywatność danych i audytowalność

Model GLM od Z.ai zyskał uznanie zespołu Revoluta również za kwestie związane z ochroną danych i możliwością audytu. Dla instytucji finansowej, która operuje na wrażliwych informacjach klientów, kontrola nad tym, gdzie trafiają dane przetwarzane przez AI, ma kluczowe znaczenie.

Ile kosztuje utrzymanie własnej infrastruktury AI

Obniżka kosztów wnioskowania do około 0,30 dolara za milion tokenów wejściowych i wyjściowych – czyli mniej więcej jednej dziesiątej cen komercyjnych – brzmi imponująco. Trzeba jednak pamiętać, że self-hosting wiąże się z istotnymi nakładami, których nie widać w samym cenniku modelu.

Revolut dysponuje obecnie 56 układami Nvidia B200. Sam model wymaga około 380 GB pamięci GPU, nie licząc dodatkowych 6–26 GB na użytkownika przeznaczonych na utrzymanie kontekstu. Do tego dochodzą koszty energii, konserwacji sprzętu i utrzymania zespołu infrastrukturalnego.

Mimo tych wydatków Abitbol podkreśla, że ekonomia się opłaca. Kluczowa zaleta? Przewidywalność. Zamiast zmiennego rachunku za tokeny, firma płaci stałą kwotę i nie doświadcza nieprzyjemnych niespodzianek na koniec miesiąca.

„Open source jest teraz priorytetem w Revolucie, a nasza ekonomia jest korzystna. Rozliczenia są płaskie, nie mamy szoku na koniec miesiąca, a frontier jest wyjątkiem” – dodał Abitbol.

Co to oznacza dla rynku AI w przedsiębiorstwach

Przypadek Revoluta wpisuje się w szerszy trend. Coraz więcej firm rozważa odejście od komercyjnych dostawców modeli AI na rzecz rozwiązań hostowanych we własnym zakresie. Nie chodzi wyłącznie o oszczędności – równie istotna jest kontrola nad danymi, przewidywalność budżetu i możliwość dostosowania modeli do specyficznych potrzeb organizacji.

Pojawia się jednak pytanie, czy takie podejście sprawdzi się w każdym przypadku. Utrzymanie infrastruktury GPU to poważne wyzwanie logistyczne i finansowe, dostępne głównie dla większych organizacji. Mniejsze firmy mogą nie mieć zasobów, by konkurować z gotowymi rozwiązaniami chmurowymi.

Niemniej historia Revoluta pokazuje, że bezkrytyczne wdrażanie AI bez analizy kosztów może prowadzić do rozczarowania. Sztuczna inteligencja pozostaje kosztowną technologią, a strategia „wdrożmy i zobaczymy” rzadko przynosi oczekiwane rezultaty. Być może przyszłość należy do hybrydowych modeli – gdzie zaawansowane modele komercyjne obsługują zadania wymagające najwyższej jakości, a tańsze, self-hostowane rozwiązania przejmują rutynowe obciążenia.

Revolut udowodnił, że taka optymalizacja jest możliwa. Czy jednak inne firmy pójdą jego śladem, zależy od tego, jak szybko dojrzeje ekosystem otwartych modeli i czy uda się obniżyć barierę wejścia w self-hosting. Na razie wniosek jest jeden: ekonomia AI wymaga tak samo uważnego planowania jak każda inna inwestycja technologiczna.