Nowa metoda hakerów: malware przez AI do kodowania

Asystenci kodowania oparci o sztuczną inteligencję, takie jak Cursor, GitHub Copilot czy Gemini, zyskują coraz większą popularność wśród programistów. Niestety, wraz z ich rosnącym zastosowaniem pojawia się nowe, wyrafinowane zagrożenie. Badacze cyberbezpieczeństwa z Uniwersytetu w Tel Awiwie oraz firmy Intuit odkryli metodę, która pozwala hakerom zamienić jedną z największych wad LLM-ów – halucynacje – w skuteczne narzędzie do rozprzestrzeniania złośliwego oprogramowania.

Jak halucynacje AI otwierają drzwi hakerom

Duże modele językowe (LLM) wciąż borykają się z problemem generowania nieprawdziwych informacji, czyli tzw. halucynacji. W kontekście generowania kodu problem ten przybiera konkretną, niebezpieczną formę. Gdy asystent AI podpowiada programiście użycie zewnętrznej biblioteki lub pakietu, często zdarza się, że proponuje nazwy, które… w rzeczywistości nie istnieją. To właśnie ten mechanizm stał się podstawą nowego typu ataku.

Eksperci nazwali tę technikę „adversarial hallucination squatting”, w skrócie „hallusquatting”. Działa ona zaskakująco prosto. Przestępca identyfikuje fikcyjne nazwy pakietów, które asystent AI regularnie podpowiada. Następnie rejestruje je jako prawdziwe repozytoria i umieszcza w środku złośliwy kod. Gdy programista zaakceptuje sugestię AI, jego środowisko programistyczne automatycznie pobiera i instaluje taki pakiet, infekując komputer.

Skala problemu i podatne narzędzia

Skuteczność tej metody jest zatrważająca. W zależności od konkretnego zadania programistycznego, wskaźnik powodzenia ataku waha się od 85 do 100 procent. Oznacza to, że w wielu przypadkach haker ma praktycznie gwarancję, że jego spreparowany pakiet zostanie pobrany przez ofiarę.

Które narzędzia są zagrożone?

Badacze przetestowali kilka popularnych asystentów AI i odkryli, że podatność dotyczy szerokiego spektrum rozwiązań. Lista zagrożonych narzędzi obejmuje między innymi:

Cursor – edytor kodu z wbudowaną AI
GitHub Copilot – asystent od Microsoftu i GitHub
Gemini – model Google’a
OpenClaw – kolejne narzędzie wykorzystujące LLM

Jak podkreślają specjaliści, luka ta nie wynika z błędu w konkretnej aplikacji, ale jest cechą samej technologii. Modele językowe są z natury „pewnymi siebie kłamcami” – z dużą dozą pewności podają nieprawdziwe informacje, co czyni je łatwym celem dla cyberprzestępców.

Dlaczego ofiara długo nie wie o infekcji

Najbardziej niebezpiecznym aspektem hallusquattingu jest jego automatyczny i ukryty charakter. Ponieważ cały proces – od wygenerowania sugestii po pobranie pakietu – odbywa się bez bezpośredniego udziału człowieka, programista często nie zdaje sobie sprawy z zagrożenia. Złośliwe oprogramowanie może działać w tle przez długi czas, zanim ofiara w ogóle zauważy, że coś jest nie tak.

Badacze poinformowali o odkryciu producentów zagrożonych narzędzi. Zdecydowali się również nie ujawniać niektórych szczegółów technicznych ataku, aby nie ułatwiać pracy hakerom. Mimo to, podstawowy problem pozostaje nierozwiązany: dopóki asystenci AI będą generować halucynacje, dopóty będą stanowić potencjalne wejście dla złośliwego oprogramowania.

Perspektywy i wnioski dla programistów

Odkrycie hallusquattingu stawia przed społecznością programistyczną nowe wyzwanie. Z jednej strony narzędzia AI znacząco przyspieszają pracę, z drugiej – wprowadzają nowy wektor ataku, którego wcześniej nie brano pod uwagę. Programiści korzystający z asystentów kodowania powinni zachować szczególną ostrożność przy instalowaniu sugerowanych pakietów, zwłaszcza tych mniej znanych.

Problem ten pokazuje również, że walka z halucynacjami AI to nie tylko kwestia dokładności odpowiedzi, ale także fundamentalnego bezpieczeństwa. Dopóki modele nie nauczą się rozpoznawać, kiedy „nie wiedzą”, i zamiast wymyślać odpowiedź, przyznawać się do niewiedzy, podobne ataki będą się powtarzać. Dla hakerów to otwarte zaproszenie do wykorzystywania jednej z najbardziej irytujących cech dzisiejszej sztucznej inteligencji.