Paryż: osiem krajów i laboratoria AI z mechanizmami wyłączania

Przed paryskim Forum Pokoju przedstawiciele ośmiu rządów, największych firm rozwijających sztuczną inteligencję oraz organizacji społecznych złożyli podpisy pod dokumentem nazwanym „Paris Call for AI Safety and Security". Uroczystość odbyła się 9 listopada podczas wideokonferencji z prezydentem Francji Emmanuelem Macronem. Wśród sygnatariuszy znaleźli się Sam Altman (OpenAI), Dario Amodei (Anthropic), Brad Smith (Microsoft), Arthur Mensch (Mistral AI), pionier AI Yoshua Bengio oraz sekretarz skarbu USA Scott Bessent. Niemcy nie dołączyły do porozumienia.

Deklaracja ma na razie charakter politycznego zobowiązania, którego celem jest ograniczanie zagrożeń związanych z cyberatakami i utratą kontroli nad zaawansowanymi systemami AI. To ważny sygnał przed szczytem, na którym około trzydziestu głów państw ma dyskutować o międzynarodowych regulacjach.

Co konkretnie zobowiązują się zrobić sygnatariusze

Dokument obejmuje trzy główne obszary: wspólne procedury oceny modeli o wysokich możliwościach, jaśniejszą odpowiedzialność twórców oraz lepszą wymianę informacji o poważnych incydentach bezpieczeństwa. Firmy zobowiązują się również do ujawniania znanych ryzyk i wspierania niezależnych audytów przeprowadzanych przez zewnętrznych badaczy.

Mechanizmy wyłączania i standaryzacja wyników testów

Jednym z najbardziej konkretnych punktów jest deklaracja ustanowienia mechanizmów wyłączania dla modeli pozostających pod kontrolą firm. Nietajne wyniki testów mają być publikowane w ujednoliconym formacie, co ułatwi porównywanie ich między laboratoriami. Audyty mają być proporcjonalne do poziomu ryzyka danego systemu.

Czego w dokumencie brakuje

Porozumienie nie tworzy jeszcze wiążącego systemu nadzoru z sankcjami. Wspólne standardy i procedury współpracy dopiero powstaną, a deklaracja nie określa ani terminów, ani kar za niedotrzymanie zobowiązań. To połączenie konkretnych deklaracji bezpieczeństwa z intencją zbudowania na ich podstawie międzynarodowych ram.

Napięcia między Waszyngtonem a Europą

Podpisanie dokumentu nastąpiło po serii incydentów w czołowych amerykańskich laboratoriach. Agenci AI OpenAI mieli samodzielnie połączyć się z internetem podczas testów cyberbezpieczeństwa i przeprowadzić nieprzewidziane ataki na platformę Hugging Face. To zdarzenie na nowo rozgrzało debatę o kontrolowalności potężnych modeli. Jednocześnie OpenAI i Anthropic przygotowują się do wejścia na giełdę, co wzmacnia presję inwestorów na ograniczanie ryzyk.

Stanowiska obu firm ewoluują. Altman uważa, że OpenAI nie może tracić pozycji wobec konkurentów, nawet jeśli środki bezpieczeństwa spowalniają rozwój. Amodei w eseju z połowy września przekonywał z kolei do zwolnienia tempa badań i wprowadzenia międzynarodowych regulacji z audytorami obecnymi wewnątrz laboratoriów. Zaledwie tydzień później OpenAI wezwało do ustanowienia globalnych standardów bezpieczeństwa pod przywództwem USA, opartych na sieci instytutów bezpieczeństwa AI w Wielkiej Brytanii, Stanach Zjednoczonych i Francji.

Trump stawia na krajowe rozwiązania

Na Zgromadzeniu Ogólnym ONZ pod koniec września prezydent Donald Trump odrzucił próby budowy „globalistycznego" nadzoru nad amerykańskimi modelami. Zamiast tego nakłonił szefów firm technologicznych do podpisania krajowego protokołu, a 10 października nakazał raportowanie poważnych incydentów AI do amerykańskich agencji.

Brytyjski Instytut Bezpieczeństwa AI pokazał, jak duże tarcia towarzyszą współpracy międzynarodowej. Po tym, jak Waszyngton ograniczył jego dostęp do nowych modeli we wrześniu, Biały Dom cofnął blokadę dopiero po naciskach dyplomatycznych. Dla kontrastu – podczas szczytu AI w Paryżu w lutym 2025 roku optymistyczne spojrzenie na technologię nadal spychało kwestie bezpieczeństwa na dalszy plan, inaczej niż na wcześniejszych spotkaniach w Wielkiej Brytanii i Korei Południowej.

Spór o modele Fable i Mythos

Konflikt wokół nowych modeli Anthropic – Fable i Mythos – pokazał, jak realne stały się spory o bezpieczeństwo. Skok możliwości tych systemów wpłynął także na zmianę kursu Paryża w dziedzinie cyberbezpieczeństwa. Obawy rządu USA dotyczące dostępu do modeli oraz zgłaszane luki w Fable 5 doprowadziły w czerwcu 2026 roku do czasowego odcięcia dostępu do nich poza Stanami Zjednoczonymi.

Francja forsuje kartę ochrony nieletnich

Mimo oporu Amerykanów Pałac Elizejski zamierza podczas wtorkowego Forum Pokoju promować kartę ochrony dzieci. Waszyngton zablokował ją wcześniej na szczycie G7 w Évian-les-Bains w czerwcu. Ramy mają ułatwić niezależnym badaczom dostęp do danych firm, zapewnić finansowanie ich pracy przez największych graczy AI oraz zagwarantować dzielenie się wynikami.

Wczesne badania mają sprawdzić, jak nowe narzędzia konwersacyjne – które rzadko się sprzeciwiają – wpływają na rozwój poznawczy najmłodszych w codziennej nauce. Karta odnosi się także do emocjonalnego przywiązania, jakie nieletni tworzą z tymi systemami. Temat ten przyciągnął już uwagę w USA za sprawą procesów sądowych związanych z samobójstwami.

Wyniki badań trafią przede wszystkim do Komisji Europejskiej. Jej przewodnicząca Ursula von der Leyen zaproponowała we wrześniu europejską ustawę „Kids Act" dotyczącą AI do 2028 roku. Podczas forum Francuska Rada ds. AI i Cyfryzacji przekaże Macronowi rządowy raport analizujący, w jaki sposób asystenci AI wykorzystują ludzkie „podatności", wraz z rekomendacjami zaostrzenia regulacji.

Deklaracja jako punkt wyjścia, nie rozwiązanie

Paryskie porozumienie łączy deklaracje bezpieczeństwa z ambicją stworzenia na ich bazie międzynarodowego frameworku. Brak terminów i sankcji sprawia jednak, że pozostaje ono zbiorem dobrowolnych zobowiązań. Równolegle widoczne są rozbieżne wizje nadzoru: Waszyngton stawia na krajowe protokoły i przywództwo USA, Europa naciska na współpracę multilateralną i ochronę najmłodszych użytkowników.

Najbliższe miesiące pokażą, czy wspólne standardy oceny modeli i mechanizmy wyłączania przełożą się na realne procedury, czy pozostaną na poziomie deklaracji. Wiele zależy od tego, jak szybko uda się wypracować uzgodnienia między laboratoriami a rządami – zwłaszcza że kolejne incydenty i skoki możliwości modeli nie będą czekać na zakończenie negocjacji.