Jak terroryści wykorzystują AI do planowania ataków

Organizacje terrorystyczne na całym świecie coraz śmielej sięgają po narzędzia sztucznej inteligencji. Najnowsze badania przeprowadzone przez Antonię Jülich z Cambridge Programme on AI Science & Policy (CASP) ujawniają szokujący obraz: grupy takie jak ISIS i Boko Haram nie tylko korzystają z popularnych chatbotów, ale też systematycznie szkolą swoich członków w zakresie ich wykorzystania do planowania ataków i konstruowania broni. Czy dobrowolne regulacje ze strony firm technologicznych mają szansę powstrzymać ten trend?

AI w rękach terrorystów – szczegóły badania Cambridge

Antonia Jülich przeprowadziła 57 wywiadów z 27 byłymi członkami Boko Haram i jej frakcji ISWAP. Wyniki, opublikowane w ramach programu CASP, pokazują, że już w 2023 roku ISIS oferowało szkolenia z zakresu prompt engineeringu i metod jailbreaku – czyli omijania zabezpieczeń modeli językowych. Co więcej, bojownicy Boko Haram przeszli takie szkolenie pod okiem dowódców ISIS, a obie frakcje utworzyły własne, wyspecjalizowane jednostki AI.

„Zgromadzili najlepszych ludzi w jednym pomieszczeniu i na dużym ekranie pokazali im, jak to działa” – relacjonuje Antonia Jülich z Cambridge Programme on AI Science & Policy.

Badaczka podkreśla, że terroryści wykorzystują modele takie jak ChatGPT, Claude, Gemini, Grok, Meta AI czy DeepSeek nie tylko do zdobywania informacji, ale też do konkretnych zadań operacyjnych. Wśród nich znalazło się: planowanie ataków, konstruowanie potężniejszych ładunków wybuchowych, konserwacja uzbrojenia oraz zapewnianie bezpieczeństwa operacyjnego.

Motocykle, filmy i martwi bojownicy – konkretne przypadki

Najbardziej spektakularny przykład dotyczy frakcji ISWAP. Dowódcy poprosili AI o odtworzenie technik skoków motocyklowych znanych z filmów akcji – chcieli w ten sposób pokonywać rowy wokół pozycji wroga. Efekt był tragiczny: podczas ćwiczeń zginęło 18 bojowników, a tylko ośmiu zdołało wykonać skok. Były dowódca ISWAP, Munzir, szczegółowo opowiedział Jülich, jak grupa uczyła się z pomocą AI pokonywać przeszkody terenowe.

To jednak nie koniec. W raporcie czytamy, że „byli członkowie opisywali silny entuzjazm wobec AI, a niektórzy mówili, że grupa rozważała wcześniej broń masowego rażenia”. Jülich podkreśla, że choć na razie użycie AI przez Boko Haram ma charakter konwencjonalny, to stanowi ostrzeżenie: skala zagrożenia może wzrosnąć, gdy terroryści sięgną po wsparcie AI w zakresie broni chemicznej lub biologicznej.

Jak działa szkolenie z omijania filtrów?

ISIS nie tylko udostępniło Boko Haram gotowe instrukcje, ale też wyszkoliło dowódców w terenie – na przykład w Nigerii. Łącznicy ISIS przeprowadzali warsztaty, podczas których pokazywali, jak przeformułowywać zapytania tak, by chatboty nie blokowały odpowiedzi dotyczących budowy bomb czy taktyki wojskowej. W efekcie obie frakcje uruchomiły własne jednostki AI, które na co dzień analizują możliwości modeli i szukają nowych luk.

Filtry bezpieczeństwa nie wytrzymują – czy modele same w sobie są winne?

Badanie ujawnia, że standardowe zabezpieczenia najpopularniejszych chatbotów wielokrotnie okazywały się nieskuteczne. Terroryści bez większego trudu uzyskiwali instrukcje dotyczące budowy ładunków wybuchowych czy taktyk bojowych. To potwierdza wcześniejsze obawy zarówno badaczy, jak i firm takich jak OpenAI czy Anthropic – że modele językowe mogą demokratyzować dostęp do niebezpiecznej wiedzy.

Anthropic niedawno przyznało, że całkowite wyeliminowanie jailbreaków jest praktycznie niemożliwe. Jednak eksperci zwracają uwagę na ważne rozróżnienie: publiczne chatboty, które przyciągają największą uwagę, w większości nie generują nowej wiedzy – przetwarzają i ułatwiają znalezienie tego, co już istnieje. Prawdziwe zagrożenie leży gdzie indziej.

Prawdziwe ryzyko: specjalistyczne modele AI w naukach przyrodniczych

Badacze z CASP wskazują, że znacznie większy problem mogą stanowić wyspecjalizowane systemy AI w takich dziedzinach jak biologia syntetyczna czy chemia. Modele trenowane na specjalistycznych danych są w stanie proponować nieznane wcześniej drogi syntezy związków chemicznych czy projektować modyfikacje genetyczne. W połączeniu z intencjami terrorystów mogłyby umożliwić stworzenie broni biologicznej o niespotykanej dotąd skuteczności.

Dostęp do takich modeli jest obecnie ograniczony, ale dynamika rozwoju sztucznej inteligencji sugeruje, że wkrótce mogą stać się powszechniejsze. Dlatego – zdaniem autorek raportu – nie wystarczy skupiać się na łataniu dziur w ChatGPT. Potrzebna jest systemowa debata o regulacji modeli o podwójnym zastosowaniu, zanim trafią w niepowołane ręce.

Co dalej? Między regulacją a naturą modeli językowych

Przypadek Boko Haram pokazuje, że dobrowolne zobowiązania firm technologicznych (tzw. self-regulation) mają ograniczoną skuteczność. Nawet jeśli OpenAI czy Anthropic zablokują pewne zapytania, terroryści szybko znajdą nowe obejścia – zwłaszcza mając dedykowane jednostki AI. Jednocześnie badanie podkreśla, że nie wszystkie modele są tak samo niebezpieczne: powszechne chatboty głównie porządkują istniejącą wiedzę, podczas gdy specjalistyczne systemy mogą ją rozszerzać.

Dla społeczności AI i decydentów płynie stąd jasna lekcja: potrzebujemy nie tylko lepszych filtrów, ale też głębszej analizy ryzyka związanego z konkretnymi architekturami modeli. Tymczasem terroryści nie czekają – szkolą się, testują i adaptują szybciej niż ktokolwiek się spodziewał. Pytanie brzmi, czy nasze mechanizmy obronne zdążą za nimi nadążyć.