Szef Anthropic o modelach open-weight i Chinach

W branży sztucznej inteligencji od tygodni wrze. Nvidia, Meta, Hugging Face i inni giganci podpisali list otwarty, w którym apelują do polityków o nienakładanie pochopnych ograniczeń na modele open-weight (modele o otwartych wagach). W tle pojawiły się głosy, że Anthropic – firma stojąca za modelem Claude – rzekomo popiera amerykańskie restrykcje wobec chińskich modeli. Dario Amodei, założyciel i CEO Anthropic, postanowił przeciąć spekulacje w swoim poniedziałkowym wpisie na blogu.

Kategoryczne „nie” dla zakazu open-weight

Amodei nie pozostawia wątpliwości: „Anthropic nigdy nie opowiadał się za zakazem modeli open-weight” – pisze z naciskiem. Jego zdaniem każdy, kto śledzi jego wcześniejsze publikacje, wie, że nie uważa takich zakazów za skuteczne narzędzie. To ważne wyjaśnienie, zwłaszcza w kontekście listu Nvidii i innych firm, który wprawdzie nie wymieniał Chin, ale wyraźnie odnosił się do narastających napięć wokół otwartych modeli.

W branży od dawna krążą zarzuty, że chińskie laboratoria AI zyskują przewagę poprzez kradzież własności intelektualnej amerykańskich konkurentów. Jedną z metod jest tzw. destylacja (distillation), czyli technika, w której jeden model „bombarduje” inny zapytaniami, by odtworzyć jego działanie. Amodei jednak rozdziela te dwie kwestie.

Modele open-weight jako dobro publiczne

Szef Anthropic podkreśla, że modele open-weight, które nie posiadają niebezpiecznych zdolności, są dobrem publicznym. Nie generują kosztów poza mocą obliczeniową potrzebną do ich uruchomienia, a jednocześnie dostarczają realnej wartości biznesom, programistom i naukowcom. Nawet jeśli pochodzą z Chin, nie stanowią według niego zagrożenia same w sobie.

Prawdziwe obawy: autorytarne rządy i broń biologiczna

Amodei nie ukrywa, że ma długotrwałe obawy związane z rozwojem AI. Nie dotyczą one jednak firm używających otwartych modeli. Jego zdaniem realne zagrożenie płynie ze strony „autorytarnych rządów”, które mogą zbudować modele potężniejsze od amerykańskich, by osiągnąć „trwałą przewagę militarną” lub użyć AI do represjonowania własnych obywateli.

W tym kontekście wymienia Komunistyczną Partię Chin (KPCh) – nie jako jedyną, ale jako „najbardziej zdolną” do takich działań. Co istotne, Amodei ostrzega również przed możliwością wykorzystania AI do przeprowadzania ataków biologicznych, nie tylko cybernetycznych. I tu właśnie modele open-weight stają się problematyczne.

Dlaczego otwarte modele są trudniejsze do kontrolowania

Jak argumentuje Amodei, w przypadku otwartych wag trudno zastosować skuteczne zabezpieczenia (guardrails) lub monitorować ich użycie. Powołuje się przy tym na raport brytyjskiego UK AI Security Institute, który wskazuje, że raz opublikowanych wag modelu nie da się wycofać. To stanowisko stoi w sprzeczności z argumentami zwolenników open source, którzy twierdzą, że dostęp do potężnych, niekontrolowanych przez jedną firmę modeli pomaga obrońcom w zabezpieczaniu się przed atakami.

Propozycje dla polityków: chipy, destylacja i globalne testy

Amodei nie ogranicza się do diagnozy – przedstawia konkretne działania, które jego zdaniem mogłyby powstrzymać Chiny. Wymienia wśród nich ograniczenie dostępu do zaawansowanych chipów (co od dawna jest elementem amerykańskiej polityki) oraz formalne zwalczanie destylacji. USA groziły już sankcjami wobec Chin w przypadku stwierdzenia kradzieży własności intelektualnej amerykańskich modeli.

Najciekawszy jest jednak inny pomysł Amodeia. Popiera on rosnące wysiłki – częściowo prowadzone przez USA – na rzecz stworzenia organizacji zajmującej się testowaniem bezpieczeństwa modeli AI. Warunek? Musiałaby mieć charakter globalny, a więc podlegać jej musiałyby nawet Chiny.

„Testowanie musiałoby być globalne, co oznacza, że nawet KPCh musiałaby wziąć w nim udział. Myślę, że to może być możliwe… ograniczona współpraca w zakresie zapobiegania broni biologicznej AI może być możliwa, bo leży to również w interesie Chin.”
Dario Amodei, CEO Anthropic

Co ważne, Amodei dostrzega w tym pomyśle bliski konsensus. Cieszy go, że administracja Trumpa w ostatnich miesiącach zmierza w tym kierunku, a także że pojawiają się branżowe propozycje, które obejmowałyby testowaniem najpotężniejsze modele – niezależnie od kraju pochodzenia czy tego, czy są otwarte, czy zamknięte. Modele mniej zaawansowane, jak te tworzone przez startupy czy środowiska akademickie, mogłyby być z takich testów wyłączone.

Podsumowanie: między otwartością a bezpieczeństwem

Wypowiedź Dario Amodeia to rzadki przykład wyważonego stanowiska w gorącej debacie. Z jednej strony broni modeli open-weight jako wartościowego narzędzia dla biznesu i nauki. Z drugiej – nie bagatelizuje ryzyka, jakie niosą ze sobą potężne modele w rękach autorytarnych reżimów. Jego propozycja globalnych testów bezpieczeństwa, choć ambitna, może okazać się jedyną drogą do pogodzenia otwartości z bezpieczeństwem. Pytanie tylko, czy Chiny – i reszta świata – są gotowe na takie porozumienie.