Chińskie modele AI tracą propagandę po fine-tuningu

Startup Nous Research z USA przeprowadził eksperyment, który rzuca nowe światło na charakterystykę chińskich modeli AI udostępnianych jako open-weight. Firma wzięła model Qwen3.8-27B od Alibaby i poddała go procesowi fine-tuningu (dostrajania) na około 53 milionach tokenów. Efekt? Nowy model o nazwie Arete-27B obniżył wskaźnik odpowiedzi zgodnych z linią partii z 22 procent do niespełna jednego procenta, zachowując przy tym ogólne zdolności bazowego systemu.

Jak zbudowano test wykrywający propagandę

Nous Research nie poprzestał na samym treningu. Zespół opracował własny zestaw testowy składający się z 803 promptów podzielonych na siedem kategorii tematycznych. Znalazły się wśród nich zagadnienia takie jak wolność słowa, ideologia państwowa, edukacja, prywatność i nadzór, demokracja oraz środowisko naturalne.

Dla każdego zapytania badacze zdefiniowali od dwóch do czterech faktów pochodzących z udokumentowanych źródeł – aktów prawnych, raportów prasowych lub prac naukowych. Rolę sędziego pełnił model Grok 4.7 od xAI, który sprawdzał, czy odpowiedź zawiera te fakty, pomija je lub im zaprzecza. Co istotne, sędzia nie wiedział, który system wygenerował ocenianą odpowiedź, a swoje werdykty musiał uzasadniać cytując konkretne sformułowania.

Za propagandę uznawano sytuację, w której model odtwarzał oficjalną narrację Pekinu zamiast przedstawiać fakty, popierał ją lub prezentował jako równie wartościową perspektywę. Wyniki bazowego Qwen3.8-27B pokazały skalę zjawiska: 2,32 punktu na 5 możliwych w zakresie dokładności faktograficznej i 22 procent odpowiedzi noszących znamiona propagandy.

Chińskie modele wypadają różnie, ale zachodnie też nie są bez skazy

Dla porównania modele zachodnie, takie jak Mistral Large 4 czy Gemma 4 31B, osiągnęły wskaźnik propagandy poniżej jednego procenta. Jednak nie wszystkie systemy z Chin prezentują podobny poziom. GLM-5.3 i DeepSeek V4.1 Flash uzyskały wyniki na poziomie odpowiednio 15 i 16 procent. Ciekawy przypadek stanowi Nvidia Nemotron – amerykański model, w którym Nous Research dopatrzył się oznak chińskiego biasu. Zespół podejrzewa, że skłonność ta przeniknęła przez trening na chińskich modelach open-weight.

Jako model nauczycielski (teacher model) wybrano Inkling od Thinking Machines Lab. Nous tłumaczy tę decyzję chęcią uniknięcia naruszenia warunków korzystania z usług, które zabraniają destylacji (distillation – przenoszenia wiedzy z jednego modelu do drugiego). Sam Inkling również powstawał z wykorzystaniem syntetycznych danych treningowych generowanych m.in. przez chiński model Kimi K2.5, co pokazuje, jak trudno o całkowicie "czyste" źródło.

Efekty fine-tuningu: propaganda spada, możliwości zostają

Proces treningowy opierał się wyłącznie na nadzorowanym fine-tuningu (supervised fine-tuning) przez dwie epoki, bez uczenia ze wzmocnieniem ani optymalizacji preferencji. Nous zadbał o usunięcie nakładania się promptów treningowych i testowych. Dane rozłożono niemal równomiernie między siedem kategorii wartości, a większość przykładów nie przekraczała tysiąca tokenów.

Rezultaty okazały się wyraźne. Arete-27B osiąga 2,98 punktu w dokładności faktograficznej, a odsetek odpowiedzi propagandowych spada do 0,9 procent. Największa zmiana nastąpiła w kategorii wolności słowa – wynik faktograficzny wzrósł z 0,89 do 2,44, a wskaźnik propagandy runął z 60 do jednego procenta. Przy włączonym trybie rozumowania model osiąga 3,07 punktu, choć ta liczba opiera się na razie na dwóch z pięciu zaplanowanych przebiegów.

Co z ogólnymi zdolnościami? Według Nous nie ucierpiały. W wewnętrznym benchmarku Hermes Bench Arete-27B uzyskuje 65,60 procent wobec 65,77 procent dla modelu bazowego. Na Terminal-Bench 2.1 wynik wzrasta z 67 do 70 procent, ale firma nie uznaje tego za rzeczywisty zysk ze względu na różnice w konfiguracji testów.

„Warstwa biasu w modelu zorientowanym na Chiny jest płytka. Jest nakładana późno, cienko, a pięćdziesiąt milionów tokenów starannie dobranego nadzoru usuwa ją bez zakłócania tego, co pod spodem" – podsumowuje Nous Research.

Od neutralności do „zachodnich wartości"

Arete-27B wyznacza nowy kierunek w strategii Nous Research. Wcześniejszy model Hermes 3 z 2024 roku był celowo neutralny i dostosowywał się do światopoglądu zdefiniowanego w promptcie systemowym. Nowy produkt ma promować „zachodnie wartości" zamiast linii partyjnej z Pekinu. To zmiana filozofii: od elastyczności do wyraźnego stanowiska ideologicznego.

Problem uprzedzeń w chińskich modelach jest dobrze udokumentowany. W 2025 roku NewsGuard ustalił, że pięć wiodących systemów, w tym Qwen, powtarzało lub nie korygowało prochińskiej dezinformacji w 60 procentach przypadków. CrowdStrike odkrył, że DeepSeek generuje mniej bezpieczny kod, gdy zapytania odnoszą się do Falun Gong, Tybetu lub Tajwanu. Badanie Aleph Alpha z 967 politycznie wrażliwymi pytaniami przyniosło zbliżone wnioski: wśród modeli od Alibaby, DeepSeek i Moonshot AI jedynie 17 do 41 procent odpowiedzi było wyważonych.

Najnowsze badanie ValsAI pokazuje jednak, że nie można wrzucać wszystkich chińskich systemów do jednego worka. GLM-5.3 Flash wprost potwierdzał naruszenia praw człowieka, podczas gdy Kimi K3 zaprzeczał istnieniu obozów internowania. Język i format odpowiedzi miały wyraźny wpływ na rezultaty, a nawet modele zachodnie okazjonalnie przyjmowały oficjalne stanowisko Pekinu – tam również ukierunkowany fine-tuning okazał się pomocny.

Co dalej z Arete i finansowaniem Nous

Nous Research pozyskał 90 milionów dolarów w rundzie Series B w październiku, przy wycenie 1,5 miliarda dolarów. Rundę prowadził Robot Ventures, a wśród uczestników znaleźli się Nvidia i Samsung. Firma przeznacza środki na wejście w sprzedaż enterprise z produktem „Hermes for Businesses".

Wagi modelu Arete-27B, zbiór testowy oraz dane treningowe są dostępne na licencji Apache 2.0 w repozytorium Hugging Face. To otwiera drogę do dalszych eksperymentów – zarówno dla badaczy, jak i dla firm, które chcą dostosować model do własnych potrzeb. Przypadek Arete pokazuje, że ideologiczne „warstwy" w modelach AI mogą być cieńsze, niż się wydaje, i poddawać się stosunkowo prostym zabiegom treningowym. Pozostaje pytanie, czy podobne podejście sprawdzi się w przypadku innych modeli i czy „przeprogramowanie" światopoglądowe nie niesie ze sobą niezamierzonych skutków ubocznych.