GPT-6 Cyber: AI, które hakuje i naprawia systemy

OpenAI zaprezentowało GPT-6 Cyber - model sztucznej inteligencji wyszkolony z myślą o wyszukiwaniu słabości w oprogramowaniu. Według producenta system potrafi nie tylko lokalizować błędy, ale też konstruować działające exploity oraz proponować łatki. Równocześnie twórcy zapewniają, że model trzyma się wyznaczonych ram operacyjnych - co w przypadku wcześniejszych wersji bywało problematyczne.

To zapowiedź nowego rozdziału w relacji między AI a cyberbezpieczeństwem. Narzędzia ofensywne i defensywne zaczynają się bowiem zlewać w jednym systemie, a granica między wykrywaniem zagrożeń a ich wykorzystywaniem staje się coraz cieńsza.

Jak OpenAI zadbało o bezpieczeństwo własnego modelu

Kluczowym wyzwaniem było utrzymanie modelu w ryzach. OpenAI zastosowało szereg mechanizmów, w tym pułapkę (honeypot) wzorowaną na incydencie z Hugging Face. Efekty są wymierne: bez dodatkowych instrukcji bezpieczeństwa GPT-6 Cyber unikał naruszeń granic w 99,93 proc. przypadków, podczas gdy jego poprzednik osiągał 94,49 proc. Po włączeniu wytycznych bezpieczeństwa wskaźnik ten sięgnął 100 proc.

W kategorii cyberbezpieczeństwa własnych ram Preparedness Framework OpenAI ocenia nowy model jako "Critical" - tak samo jak GPT-6 Astra, czyli model bazowy. To najwyższa klasa ryzyka, co pokazuje, jak duży potencjał drzemie w tego typu systemach.

Wyniki benchmarków: przewaga nad poprzednikami

OpenAI opublikowało zestaw pomiarów, które mają potwierdzić skuteczność nowego modelu. Wszystkie pochodzą od samego producenta - jak dotąd nie pojawiły się niezależne testy.

ExploitGym i wyszukiwanie luk w aplikacjach webowych

Na benchmarku ExploitGym, sprawdzającym zdolność modelu do wykorzystania podatności w zdalnym systemie, GPT-6 Cyber uzyskał 48,5 proc. Dla porównania poprzednia wersja GPT-5.6 Cyber osiągnęła 32,1 proc. W nowym teście polegającym na znajdowaniu słabości w aplikacjach webowych bez dostępu do kodu źródłowego model uzyskał 40,3 proc., podczas gdy standardowy GPT-6 Astra - 32,0 proc.

Ciekawy jest przypadek GPT-6 Astra z włączonymi zabezpieczeniami: jego wynik na ExploitGym spadł do 0,0 proc. To pokazuje, jak silnie mechanizmy ochronne mogą ograniczać ofensywne możliwości modelu.

Prawdziwe efekty: Firefox i jądro Linux

OpenAI podkreśla, że model nie ogranicza się do laboratorium. W ukierunkowanej kampanii GPT-6 Cyber wykrył 81 wcześniej nieznanych poważnych luk w przeglądarce Firefox - mimo że była już testowana z użyciem wcześniejszych modeli AI. Dodatkowo wykazał, że 30 znanych wcześniej problemów ma wyższy poziom krytyczności, niż sądzono. Mozilla przyjęła zgłoszenia i wypuściła poprawki.

Jeszcze większe wrażenie robią wyniki dotyczące jądra Linux. Model odtworzył 1724 podatności bezpieczeństwa i opracował działające exploity dla 948 z nich - ponad pięciokrotnie więcej niż 166 uzyskanych przez GPT-5.6 Sol w tych samych warunkach. Do opiekunów jądra trafiło 304 krytyczne zgłoszenia wraz z propozycjami poprawek.

Automatyczny system agentów i koszty kampanii

Na potrzeby kampanii w jądrze Linux OpenAI zbudowało dedykowany, zautomatyzowany zespół agentów - zwiadowców i analityków. Najpierw przeskanowali około 5034 miejsc istotnych z punktu widzenia bezpieczeństwa (około siedmiu procent całego kodu), następnie zawęzili listę do 2308 kandydatów, by w końcu potwierdzić 1724 podatności w izolowanych maszynach wirtualnych.

Cały proces kosztował 1 213 430 dolarów w przeliczeniu na moc obliczeniową, co daje około 1279 dolarów za exploit. Dla porównania programy takie jak Pwn2Own czy TyphoonPWN historycznie wypłacały od 20 do 70 tysięcy dolarów za porównywalne znalezisko. To stawia ekonomiczną opłacalność AI w zupełnie nowym świetle.

OpenAI twierdzi, że agenci wykorzystali co najmniej dziesięć nowatorskich technik ataku, nieznanych wcześniej nawet zewnętrznym ekspertom od bezpieczeństwa jądra. Model miał zarówno odtwarzać znane schematy, jak i wypracowywać własne podejścia. Jak dużą wagę przypisać temu twierdzeniu, zależy od tego, jak wąsko zdefiniujemy "własne podejścia" - badacze wciąż spierają się, czy modele AI faktycznie dokonują nowych odkryć, czy jedynie rekombinują to, co widziały podczas treningu.

Ograniczony dostęp i rosnące ryzyko nadużyć

Na razie GPT-6 Cyber jest udostępniany wyłącznie wybranym klientom programu Daybreak Red - poprzez API oraz Codex. Dostęp ma być rozszerzany stopniowo. Równolegle GPT-5.6 Cyber otwiera się dla wszystkich użytkowników Daybreak Red, a dostęp alfa do Daybreak Blue dla GPT-6 Astra ma objąć kolejne organizacje i niezależnych badaczy bezpieczeństwa.

OpenAI przyznaje, że wraz ze wzrostem możliwości modeli rośnie też liczba prób nadużyć. Niektórzy aktorzy i grupy próbują przenosić zdolności modeli do własnych systemów. Producent wymienia szereg środków zaradczych:

• weryfikację zgodności działań modelu z uprawnieniami użytkownika,
• ukierunkowany monitoring nowo ujawnianych podatności,
• automatyczne kontrole bezpieczeństwa w ramach Private Safety Processing,
• ograniczenia dostępu oparte na adresach IP dla Daybreak Red,
• zalecenie uruchamiania modelu w izolowanych środowiskach pod nadzorem człowieka.

Szczególną uwagę OpenAI zwraca na ochronę infrastruktury krytycznej - elektrowni czy oczyszczalni wody. Ułatwieniem dla obrońców ma być miliardowy program "Daybreak for Frontline Defenders" oraz nowa podgrupa "Daybreak Red for Critical Infrastructure" przeznaczona do autoryzowanych testów.

Producent mówi o ograniczonym oknie czasowym, w którym najlepsze modele można wykorzystać do zabezpieczania oprogramowania. Celem jest rozszerzenie programu Daybreak na organizacje każdej wielkości, niezależnych badaczy i opiekunów projektów open source. Czy to się uda - to osobna kwestia. Badacze z Epoch AI właśnie pokazali, że otwarty model GLM mógłby wykorzystać znane, ale wciąż niezałatane luki w Firefoxie.

GPT-6 Cyber wyznacza nowy etap w automatyzacji cyberbezpieczeństwa. Z jednej strony obniża koszty wykrywania podatności do poziomu nieosiągalnego dla tradycyjnych programów bug bounty, z drugiej - rodzi pytania o granice między ofensywą a defensywą. Kluczowe pozostaje jedno: niezależna weryfikacja wyników, której na razie brak.