Baidu udostępnia ERNIE 5.5 Flash Base jako open source

Chiński gigant technologiczny dołącza do wyścigu otwartych modeli językowych, ale robi to w nietypowy sposób. Baidu opublikowało ERNIE 5.5 Flash Base - fundament, który świadomie pozbawiono procesu dostrajania i treningu po wstępnym szkoleniu. To decyzja, która przerzuca ciężar odpowiedzialności na społeczność deweloperów.

Premiera wpisuje się w szerszy trend udostępniania surowych modeli bazowych, które dopiero po odpowiednim dostrojeniu mają trafić do konkretnych zastosowań. Baidu zapowiada, że wersja po treningu post-hoc pojawi się w późniejszym terminie.

Architektura i skala modelu ERNIE 5.5 Flash Base

Nowy model opiera się na architekturze mixture-of-experts (MoE), czyli mieszanki ekspertów. To rozwiązanie, w którym sieć neuronowa dzieli się na wyspecjalizowane podsieci, a przy każdym zapytaniu aktywowana jest tylko ich część. Dzięki temu model może mieć ogromną liczbę parametrów, zachowując przy tym rozsądne koszty obliczeniowe.

W przypadku ERNIE 5.5 Flash Base całkowita liczba parametrów wynosi 280 miliardów. Jednak przy przetwarzaniu pojedynczego wejścia uruchamiane jest jedynie 14 miliardów - to około 5 procent całości. Taka konstrukcja pozwala łączyć szeroką wiedzę z relatywnie niskim obciążeniem infrastruktury.

Dane treningowe i okno kontekstu

Model przeszedł wstępne szkolenie na korpusie liczącym 33,5 biliona tokenów. Token to podstawowa jednostka tekstu, na której pracują modele językowe - może odpowiadać fragmentowi słowa, słowu lub krótkiej frazie. Podczas treningu stosowano kontekst do 128 tysięcy tokenów, ale sama architektura została przygotowana tak, by po dostrojeniu obsługiwać okna kontekstowe sięgające miliona tokenów - zarówno przy fine-tuningu, jak i wnioskowaniu.

Tak duży kontekst ma znaczenie praktyczne: pozwala analizować obszerne dokumenty, długie rozmowy czy rozbudowane bazy kodu bez konieczności dzielenia ich na mniejsze fragmenty.

Jak ERNIE 5.5 wypada na tle konkurencji

Baidu przeprowadziło testy porównawcze z innymi otwartymi modelami bazowymi o zbliżonej skali. Wśród konkurentów znalazły się DeepSeek-V4-Flash-Base, Hy3-preview-Base oraz MiMo-V2.5-Base. Wszystkie modele oceniano według jednolitego pipeline'u ewaluacyjnego, obejmującego siedem kategorii:

• egzaminy (Exam),
• nauki ścisłe i techniczne (STEM),
• rozumowanie (Reasoning),
• wiedza ogólna (Knowledge),
• programowanie (Code),
• zadania wielojęzyczne (Multilingual),
• długi kontekst (Long Context).

Według producenta model osiąga wyniki porównywalne z podobnie skonstruowanymi otwartymi fundamentami. Szczególnie w zadaniach wymagających rozumowania, generowania kodu oraz pracy z długim kontekstem ERNIE 5.5 Flash Base ma dorównywać DeepSeek V4 Flash i MiMo V2.5. Należy pamiętać, że są to deklaracje samego Baidu - niezależna weryfikacja przez społeczność dopiero się rozpocznie.

Gdzie pobrać wagi i co to oznacza dla deweloperów

Wagi modelu udostępniono na platformie Hugging Face w dwóch formatach precyzji: FP8 oraz BF16. Pierwszy z nich zmniejsza zużycie pamięci kosztem nieco niższej dokładności, drugi zachowuje większą wierność obliczeń. Wybór zależy od dostępnych zasobów sprzętowych i wymagań konkretnego projektu.

Brak fine-tuningu w wydaniu bazowym to kluczowa cecha tego udostępnienia. Deweloperzy otrzymują surowy model, który sami muszą przystosować do swoich zastosowań - czy to przez dostrajanie na własnych danych, czy przez techniki prompt engineeringu i budowę systemów wokół modelu. To podejście wymaga więcej pracy, ale daje pełną kontrolę nad finalnym zachowaniem systemu.

Dla zespołów budujących własne rozwiązania AI oznacza to elastyczność: zamiast dostosowywać się do gotowego produktu, można ukształtować model pod konkretną domenę. Cena tej swobody to jednak konieczność posiadania odpowiedniego zaplecza obliczeniowego i kompetencji w zakresie treningu.

Co dalej z otwartymi modelami Baidu

Zapowiedź wersji po treningu post-hoc sugeruje, że Baidu planuje dwutorową strategię: fundament dla zaawansowanych użytkowników i gotowy produkt dla tych, którzy oczekują modelu od razu użytecznego. To rozróżnienie staje się coraz częstsze w ekosystemie open source AI, gdzie same wagi to dopiero początek drogi.

Premiera ERNIE 5.5 Flash Base pokazuje też, że chińscy producenci nie zwalniają tempa w udostępnianiu swoich modeli społeczności. Dla polskich deweloperów i firm oznacza to kolejną opcję do przetestowania - szczególnie w kontekście zastosowań wymagających dużego kontekstu lub pracy z kodem. Kluczowe pytanie brzmi, jak model sprawdzi się w praktyce poza deklaracjami producenta i czy społeczność zdoła wykorzystać jego potencjał bez gotowego dostrojenia.