AI wykryła 27-letnie luki. Szefowie Wall Street na spotkaniu kryzysowym

W świecie cyberbezpieczeństwa pojawił się nowy, niepokojąco skuteczny gracz. Nie jest to hakerska grupa ani agencja rządowa, lecz zaawansowany model sztucznej inteligencji. Firma Anthropic poinformowała, że jej najnowszy system, Claude Mythos, zidentyfikował dziesiątki starych, nieznanych dotąd luk w zabezpieczeniach, w tym jedną sprzed 27 lat. Ta bezprecedensowa zdolność wywołała natychmiastową reakcję na najwyższych szczeblach władzy i finansów, prowadząc do kryzysowego spotkania przywódców Wall Street.

Nadzwyczajne zgromadzenie przywódców finansjery

W odpowiedzi na doniesienia o możliwościach nowej AI, sekretarz skarbu USA Scott Bessent oraz przewodniczący Rezerwy Federalnej Jerome Powell zorganizowali pilne spotkanie. Jego celem było poinformowanie szefów największych instytucji finansowych o potencjalnych zagrożeniach związanych z modelem Mythos i podobnymi, przyszłymi systemami. Według doniesień medialnych, na spotkaniu w siedzibie Departamentu Skarbu pojawili się prezesi kluczowych banków, w tym Citigroup, Morgan Stanley, Bank of America, Wells Fargo i Goldman Sachs. Zaproszony został również szef JPMorgan Chase, Jamie Dimon, który nie mógł uczestniczyć osobiście.

Bezpośredni briefing rządu USA

Anthropic potwierdziło, że jeszcze przed publikacją raportu o możliwościach Mythos, przeprowadziło briefings dla wysokiego szczebla administracji amerykańskiej oraz przedstawicieli branży. Firma zadeklarowała w komunikacie chęć ścisłej współpracy z wszystkimi poziomami władz, aby priorytetem przy wdrażaniu nowych modeli AI było bezpieczeństwo narodowe. To stanowisko ma szczególne znaczenie, biorąc pod uwagę toczący się spór prawny między Anthropic a Pentagonem, który umieścił firmę na czarnej liście z powodu ograniczeń w użyciu jej technologii.

Niepokojące możliwości modelu Claude Mythos

Sednem całego zamieszania jest opublikowany przez Anthropic raport oceniający zdolności cyberbezpieczeństwowe modelu w wersji preview. Dokument ujawnia, że sztuczna inteligencja była w stanie samodzielnie odkryć liczne luki w zabezpieczeniach, które pozostawały ukryte przez ludzkich ekspertów przez 10, 20, a nawet 27 lat. Ta ostatnia, szczególnie niepokojąca, dotyczyła systemu operacyjnego OpenBSD, powszechnie uznawanego za jeden z najbezpieczniejszych na świecie.

Przepisanie zasad cyberobrony

Anthropic otwarcie stwierdza, że obserwowane możliwości Mythos mogą „przekształcić cyberbezpieczeństwo”. Firma ostrzega, że biorąc pod uwagę tempo rozwoju AI, podobne zdolności szybko staną się powszechne, potencjalnie trafiając w ręce podmiotów, które nie będą ich używać w sposób odpowiedzialny. Konsekwencje dla gospodarek, bezpieczeństwa publicznego i obronności narodowej mogą być, zdaniem badaczy, poważne. To właśnie ta świadomość skłoniła firmę do podjęcia nadzwyczajnych kroków.

Promowanie cyberbezpieczeństwa i odporności systemu finansowego jest kluczowe dla misji JPMorgan Chase. Wierzymy, że branża jest najsilniejsza, gdy wiodące instytucje współpracują nad wspólnymi wyzwaniami

Odpowiedź branży: Projekt Glasswing

W odpowiedzi na te wyzwania, Anthropic zainicjowało Projekt Glasswing – wspólne przedsięwzięcie z kluczowymi firmami technologicznymi i finansowymi. Do partnerów należą JPMorgan Chase, Amazon i Google. Inicjatywa ma na celu zabezpieczenie kluczowego oprogramowania w obliczu postępu AI. W ramach projektu Anthropic zobowiązało się dzielić zdobytą wiedzą z sektorami technologicznym i finansowym, a także udostępnić ograniczony dostęp do modelu Mythos Preview około 40 organizacjom odpowiedzialnym za infrastrukturę programistyczną, oferując nawet 100 milionów dolarów w kredytach na jego użycie.

Wyścig z czasem w obronie infrastruktury

Filozofia Projektu Glasswing opiera się na proaktywnym działaniu. Chodzi o to, aby umożliwić obrońcom systemów – firmom, rządom – rozpoczęcie zabezpieczania najważniejszych infrastruktury zanim modele o podobnych możliwościach staną się powszechnie dostępne. Jak zauważył Pat Opet, dyrektor ds. bezpieczeństwa informatycznego w JPMorgan, projekt daje unikalną szansę na ocenę narzędzi AI następnej generacji w defensywnym cyberbezpieczeństwie na własnych warunkach i we współpracy z liderami technologicznymi.

Głosy ostrzeżenia z Wall Street

Niepokój związany z podwójną naturą AI – jako narzędzia i zagrożenia – nie jest nowy w świecie finansów. Jamie Dimon w swoim corocznym liście do akcjonariuszy JPMorgan wyraźnie wskazywał, że cyberbezpieczeństwo pozostaje jednym z największych ryzyk, a sztuczna inteligencja prawie na pewno je pogorszy. Spotkanie w Departamencie Skarbu i powstanie Projektu Glasswing pokazują, że branża przechodzi od słów do czynów, próbując przygotować się na nieuniknione.

Nowa era w wyścigu zbrojeń

Odkrycia dokonane przez Claude’a Mythos oznaczają początek nowego rozdziału w cyberbezpieczeństwie. Po jednej stronie barykady stoją teraz nie tylko ludzcy eksperci, ale także zaawansowane AI, zdolne do przeczesywania dziesięcioleci kodu w poszukiwaniu ukrytych słabości. Po drugiej stronie mogą wkrótce stanąć równie zaawansowane systemy, być może używane przez wrogie podmioty. Reakcja amerykańskiego rządu i sektora finansowego pokazuje, że uznano to za zagrożenie systemowe, wymagające koordynacji na najwyższym poziomie.

Sukces Mythos w wykrywaniu starych luk jest jednocześnie obietnicą i groźbą. Obietnicą szybszego i dokładniejszego zabezpieczania krytycznych systemów, z których wszyscy korzystamy. Groźbą przyspieszenia wyścigu zbrojeń, w którym narzędzia obrony i ataku ewoluują w niespotykanym dotąd tempie. Projekt Glasswing to pierwsza, szeroka próba nadania temu wyścigowi ram współpracy, a nie tylko rywalizacji. Jego skuteczność może zdefiniować, czy era superinteligentnych AI w cyberbezpieczeństwie będzie erą większej stabilności, czy też erą ciągłego, wykładniczego zagrożenia.

Źródło

Może Cię zainteresować