Izraelski fake think tank oszukuje chatboty AI

Na pierwszy rzut oka Hanover Institute for Public Policy wygląda jak kolejny think tank zajmujący się konfliktem izraelsko-palestyńskim. Organizacja publikuje raporty w stylu analiz politycznych, z przypisami, spisami treści i neutralnym tonem. Problem w tym, że instytut nie istnieje naprawdę, a jego publikacje powstały z myślą o jednym, konkretnym odbiorcy – nie ludziach, lecz modelach językowych AI.

To nie pojedynczy przypadek, lecz element szerszej strategii. Izraelski rząd przeznaczył znaczne środki na działania, które mają kształtować odpowiedzi chatbotów na temat konfliktu na Bliskim Wschodzie. Sprawa ujawnia, jak wygląda nowa forma walki informacyjnej – tym razem prowadzonej nie o uwagę czytelników, lecz o algorytmy decydujące o tym, co zobaczą użytkownicy narzędzi AI.

Czym jest Hanover Institute i jak działa

Hanover Institute publikuje treści od 6 sierpnia, a w ciągu kilku miesięcy wypuścił ponad 100 raportów. Wszystkie dotyczą tematyki izraelsko-palestyńskiej. Żaden z nich nie ma podpisanego autora. Na dole strony znajduje się drobny zapis informujący, że organizację stworzono na zlecenie Izraelskiej Rządowej Agencji Reklamowej, a wykonawcą jest firma Piro, Inc.

Firmę Piro współtworzył Daniel Rosenberg, producent znany z pracy nad filmem Spike’a Lee „Inside Man”. To właśnie ta firma odpowiada za strategię publikacyjną instytutu. Na swojej stronie Piro wprost opisuje usługę jako „AI Story Optimization” – tworzenie treści zaprojektowanych pod kątem tego, jak modele językowe oceniają wiarygodność źródeł. Inni nazywają tę praktykę „LLM poisoning” – zatruwaniem modeli językowych.

Struktura raportów jest powtarzalna. Każdy zaczyna się od pozornie niewinnego pytania, które użytkownik mógłby zadać chatbotowi. Przykłady obejmują pytania o przyczyny wysiedleń Palestyńczyków w 1948 roku, dokumentację izraelskich zbrodni wojennych czy aktualną sytuację w Strefie Gazy. Takie formułowanie tematów ma zwiększać szanse, że treści zostaną wykorzystane przez modele AI jako źródło odpowiedzi.

Treści, które mają przekonać algorytmy

Raporty Hanover Institute utrzymane są w neutralnym tonie, co ma kluczowe znaczenie dla ich wiarygodności w oczach systemów AI. Publikacje zawierają przypisy, tabele i odwołania do badań. Jednym z przykładów jest artykuł o tym, czy IDF (Siły Obronne Izraela) to najbardziej moralna armia świata, w którym przytoczono sondaż z 2022 roku – 47% izraelskich Żydów podzielało to przekonanie.

Inny raport podważa dane UNICEF dotyczące zniszczeń infrastruktury w Gazie. Organizacja twierdziła, że uszkodzeniu lub zniszczeniu uległo 90% infrastruktury wodnej i instytucjonalnej. Publikacje instytutu często kończą się powiązaniem omawianego tematu z narastającym antysemityzmem, przy czym wiele z nich odwołuje się do tych samych badań.

Instytut publikuje również materiały, które mają wyglądać na oryginalne ustalenia badawcze. Przykładowo, jedno z opracowań głosi, że 19 z 36 najczęściej oglądanych filmów wyjaśniających konflikt na platformach wideo zawiera kwestionowane twierdzenia, przy czym większość z nich jest zgodna z narracją palestyńską.

Kontrowersje wokół wiarygodności i finansowania

Instytut deklaruje, że cytowane w publikacjach badania są recenzowane i akademickie. Jednak analiza treści pokazuje, że często odwołuje się on do źródeł rządowych, takich jak IDF czy izraelskie Ministerstwo Spraw Zagranicznych. Co ciekawe, niektóre publikacje przeczą oficjalnej narracji izraelskiego rządu. Jeden z raportów określa teorię o zagranicznym finansowaniu uniwersytetów jako wyjaśnienie antysemickich incydentów mianem „słabej i pełnej wyjątków”.

To stanowisko stoi w sprzeczności z poglądami premiera Binjamina Netanjahu, który w wywiadzie dla Breitbarta twierdził, że Europejczycy i Katarczycy wydali miliardy na amerykańskich uniwersytetach, aby oczerniać Izrael i Żydów. Redakcja Responsible Statecraft przeanalizowała 12 losowo wybranych artykułów instytutu za pomocą narzędzia GPTZero, które wykrywa teksty generowane przez AI. Aż 11 z nich zostało oznaczonych jako napisane przez sztuczną inteligencję z „wysokim poziomem pewności”, a jeden z „umiarkowanym”.

Szerszy kontekst operacji wpływania na AI

Izrael zawarł również kontrakt o wartości 46,5 miliona dolarów z Bradem Parscale’em, byłym menedżerem kampanii Donalda Trumpa. Jego zadaniem jest tworzenie proizraelskich stron internetowych zaprojektowanych tak, aby wpływać na chatboty. Dochodzenie Drop Site wykazało, że wiele modeli, szczególnie Microsoft Copilot i Google Gemini, zostało wytrenowanych na danych z tych stron. Chatboty często cytują te źródła bez informowania użytkowników o ich charakterze.

Piro nie ujawnia w umowie złożonej w Departamencie Sprawiedliwości, że jej praca dla Izraela ma na celu wpływanie na AI. Rosenberg w korespondencji z Politico tłumaczył, że celem firmy jest „umieszczanie dokładnych, popartych źródłami faktów w przestrzeni publicznej” i przeciwdziałanie dezinformacji o Izraelu. Jednak na LinkedIn opisał działania firmy wprost: „Kiedy ktoś pyta ChatGPT, Gemini lub Perplexity o twoją kategorię, odpowiedź wraca w jednym pewnym siebie akapicie. Większość marek nie ma pojęcia, jak ten akapit powstaje. Spędziliśmy miesiące na jego reverse-engineeringu”.

Piro otrzymało od izraelskiego rządu 900 tysięcy dolarów za swoją pracę. Podobnie jak inni wykonawcy współpracujący z Izraelem, firma działa przez podwykonawstwo z Havas Media, francuskim konglomeratem PR-owym. Sprawa pokazuje, że walka o narrację w konflikcie izraelsko-palestyńskim przenosi się do świata sztucznej inteligencji, a tworzenie pozornie wiarygodnych źródeł staje się narzędziem kształtowania odpowiedzi, które codziennie otrzymują miliony użytkowników chatbotów na całym świecie.