Anthropic otwiera drzwi do audytu zewnętrznego

Anthropic zdecydował się na krok, który wykracza poza dotychczasowe praktyki firm rozwijających sztuczną inteligencję. Organizacja non-profit METR otrzymała możliwość przeprowadzenia audytu modeli AI oraz stosowanych przez firmę procedur bezpieczeństwa – i to nie z pozycji zewnętrznego obserwatora, lecz z dostępem do wewnętrznych zasobów.

To pierwsza tak głęboka forma współpracy z niezależnym recenzentem w historii Anthropic. Firma sama podkreśla, że zakres udostępnionych informacji i narzędzi przewyższa to, co zaproponowano innym zewnętrznym podmiotom.

Co dokładnie otrzymał zespół METR

Sześciu pracowników METR zostało wyposażonych w sprzęt firmowy oraz przestrzeń biurową na terenie Anthropic. Co istotne, uzyskali również dostęp do wewnętrznych narzędzi, które – zdaniem samej firmy – stawiają ich na poziomie zbliżonym do wewnętrznych zespołów odpowiedzialnych za ocenę ryzyka.

Nie oznacza to jednak pełnej transparentności. Z zakresu audytu wyłączono kilka kategorii danych:

  • informacje o klientach,
  • materiały objęte tajemnicą adwokacką,
  • szczegóły dotyczące architektury modeli.

Mimo tych ograniczeń METR zachowuje prawo do samodzielnej publikacji wyników. Anthropic może wnioskować o redakcję fragmentów w ściśle określonych kategoriach, ale zespół audytowy może publicznie ocenić, czy takie zastrzeżenia były uzasadnione. To mechanizm, który w założeniu ma chronić niezależność recenzji.

Dlaczego nie wszystko może być jawne

Anthropic przekonuje, że część informacji związanych z bezpieczeństwem nie nadaje się do upublicznienia. Powody są dwa: po pierwsze, ujawnienie pewnych szczegółów mogłoby ułatwić działania potencjalnym atakującym; po drugie, niektóre dane mają charakter wrażliwy z biznesowego punktu widzenia.

Firma zaznacza jednocześnie, że umowa z METR idzie dalej niż porozumienia zawarte z innymi zewnętrznymi recenzentami. Podmioty takie jak SecureBio, Accenture czy Faculty otrzymały dotąd węższy zakres dostępu oraz bardziej restrykcyjne limity publikacji. Anthropic prowadzi też wstępne rozmowy z Hugging Face.

Kontekst polityczny i zobowiązania

Decyzja o współpracy z METR nie jest przypadkowa. Anthropic podpisał wcześniej porozumienie znane jako White House Accord on Super Intelligence, które zawiera zobowiązanie do poddawania się zewnętrznym ocenom. Umowa z METR wydaje się bezpośrednią realizacją tego zobowiązania.

Warto zauważyć, że model współpracy opiera się na wzajemnym zaufaniu i precyzyjnie zdefiniowanych granicach. Z jednej strony firma otwiera drzwi do swoich zasobów, z drugiej – zastrzega sobie prawo do ochrony najbardziej wrażliwych informacji. METR z kolei zyskuje możliwość publicznej oceny, czy te zastrzeżenia były słuszne.

Co to oznacza dla ekosystemu AI

Przypadek Anthropic pokazuje, że niezależny audyt bezpieczeństwa modeli AI przestaje być teoretycznym postulatem, a staje się elementem praktyki operacyjnej. To istotny sygnał dla całej branży, w której coraz częściej pojawiają się pytania o to, jak weryfikować deklaracje firm dotyczące bezpieczeństwa ich systemów.

Jednocześnie model ten nie jest pozbawiony napięć. Równowaga między transparentnością a ochroną informacji wrażliwych pozostaje trudnym kompromisem. To, czy inne firmy pójdą śladem Anthropic i zaproszą niezależnych recenzentów na podobnych warunkach, będzie jednym z ciekawszych wątków najbliższych miesięcy.

Źródło

Może Cię zainteresować