Rozmowa z AI osłabia wiarę w teorie spiskowe

Kiedy dochodzi do zamachu lub tragedii, w sieci błyskawicznie pojawiają się alternatywne narracje. Najnowsze badania zespołu z Carnegie Mellon, MIT i Cornell pokazują, że krótka rozmowa z dużym modelem językowym (LLM) może skutecznie osłabić te przekonania właśnie w tym krytycznym momencie. W dwóch eksperymentach przeprowadzonych po realnych atakach, dialog z chatbotem okazał się bardziej efektywny niż tradycyjna ulotka z faktami.

Jak testowano skuteczność czatu z AI

Badacze przeprowadzili dwa internetowe eksperymenty w dniach następujących po zamachach na Donalda Trumpa oraz po zabójstwie Briana Kirka. Uczestników rekrutowano wśród dorosłych Amerykanów za pomocą platformy ankietowej. Do selekcji osób wierzących w teorie spiskowe użyto modelu GPT-4o. W eksperymencie dotyczącym Trumpa wzięło udział 472 osoby, a w sprawie Kirka – 1035.

Po zmierzeniu początkowego poziomu wiary w spiskowe narracje, uczestników losowo podzielono na trzy grupy. Pierwsza prowadziła co najmniej pięć rund rozmowy z modelem Google Gemini (wersja 1.5 z lutego 2024 w pierwszym teście, wersja 2.5 z czerwca 2025 w drugim). Model otrzymał polecenie osłabiania przekonań spiskowych poprzez rozmowę opartą na dowodach. Druga grupa czytała statyczną listę faktów z przypisami do źródeł. Trzecia grupa kontrolna rozmawiała na neutralny temat – o tym, czy lepszymi pupilami są koty, czy psy.

Warto podkreślić, że oba wydarzenia miały miejsce po dacie granicznej danych treningowych modeli. Oznacza to, że chatboty nie mogły korzystać z wewnętrznej wiedzy na ich temat. Zamiast tego badacze wbudowali w prompt systemowy starannie opracowaną bazę faktów, podzieloną na potwierdzone informacje, obalone tezy oraz pytania jawnie oznaczone jako otwarte. W eksperymencie dotyczącym Kirka model mógł dodatkowo korzystać z wyszukiwarki internetowej, ale wyłącznie do weryfikacji merytorycznych twierdzeń.

Dlaczego dialog pokonuje statyczną listę faktów

Rozmowy trwały średnio około siedmiu minut. W obu eksperymentach zmniejszyły one wiarę uczestników we własną teorię spiskową – zarówno w porównaniu z grupą kontrolną, jak i z grupą czytającą fakty. Spadła również zgoda na stwierdzenia o „zmowie” czy „ukrytych czynnikach”. Co ciekawe, w eksperymencie dotyczącym Trumpa nie wzrosło zaufanie do oficjalnych wyjaśnień. Autorzy tłumaczą to faktem, że w tamtym momencie żadne jasne oficjalne stanowisko nie istniało – wiadomo było jedynie, że zawiodły procedury bezpieczeństwa, a motywy zamachowca pozostawały nieznane nawet podczas pisania raportu.

W przypadku zabójstwa Kirka, gdzie władze zdążyły już podzielić się szczegółami dotyczącymi sprawcy, zaufanie do oficjalnej wersji wzrosło nieznacznie w porównaniu z grupą kontrolną. Różnica względem grupy z faktami nie była jednak istotna statystycznie. Dialog dotyczący Kirka nie wpłynął też mierzalnie na poparcie dla przemocy politycznej.

Model dostosowuje strategię do dostępnych informacji

Aby zrozumieć, w jaki sposób model przekonuje rozmówców, naukowcy rozbili jego odpowiedzi na pojedyncze zdania. Okazało się, że chatbot wyraźnie adaptował się do dostępnych dowodów. W przypadku zamachu na Trumpa, gdzie o motywach i przeszłości strzelca wiedziano niemal nic, model rzadziej sięgał po racjonalną perswazję. Zamiast tego:

wykazywał epistemiczną pokorę, czyli przyznawał ograniczenia własnej wiedzy,
przestrzegał przed pochopnym wyciąganiem wniosków,
stosował pytania sokratejskie, skłaniające rozmówcę do refleksji nad własnymi dowodami,
wskazywał wiarygodne źródła informacji.

W sprawie Kirka, gdzie dostępnych było więcej faktów, podejście bardziej przypominało klasyczne rozprawianie się z teoriami spiskowymi, z większym naciskiem na społeczne szkody wynikające z myślenia konspiracyjnego.

Odporność na przyszłe dezinformacje

Efekt rozmowy z chatbotem wykraczał poza samo wydarzenie. Dwa miesiące po pierwszym zamachu na Trumpa, gdy na jego posesji zatrzymano kolejnego uzbrojonego mężczyznę, uczestnicy, którzy wcześniej przeszli rozmowę demaskującą, rzadziej wierzyli, że prawdę poznają tylko nieliczni lub że zostanie ona ukryta przed opinią publiczną. Efekt utrzymywał się w czasie.

Dwa i pół tygodnia po zabójstwie Kirka doszło do strzelaniny i podpalenia w kościele w Grand Blanc Township w Michigan. Badacze ponownie przebadali uczestników jedenaście dni później. Główna analiza nie wykazała istotnego bezpośredniego wpływu na to wydarzenie, jednak analiza drugorzędna sugerowała, że część pierwotnego efektu była nadal widoczna w narracjach spiskowych dotyczących ataku na kościół. Przeniesienie efektu było wyraźniejsze w ogólnych przekonaniach spiskowych – osoby rozmawiające z modelem rzadziej zgadzały się z popularnymi narracjami spiskowymi.

Działało to więc jak swego rodzaju prebunking – czyli budowanie odporności na fałszywe informacje. W przeciwieństwie do standardowych metod prebunkingu, gdzie ludzi ostrzega się z wyprzedzeniem i pokazuje osłabioną wersję dezinformacji, ten efekt wystąpił bez żadnego wcześniejszego przygotowania.

Wyzwanie: skłonienie ludzi do rozmowy z AI

Autorzy podkreślają, że ich praca to studium przypadku. Mogą istnieć kryzysy, w których to podejście zawiedzie, oraz sytuacje, w których spisek jest realny, a demaskowanie byłoby błędem. Wskazują też na własne wcześniejsze badania, które pokazały, że podobne dialogi mogą działać w odwrotnym kierunku – przekonując ludzi do narracji spiskowych. W przypadku nowo powstających teorii spiskowych autorzy zwracają uwagę na potencjalne ryzyko nadużyć.

Oczywiście, ludzie muszą w ogóle chcieć rozmawiać z modelem językowym o swoich przekonaniach. Ale kiedy już to zrobią, nawet krótkie rozmowy mogą przynieść wymierną różnicę – nawet gdy dostępnych jest niewiele kontrargumentów. Ten sam zespół dwa lata temu zredukował wiarę w utrwalone teorie spiskowe o około 20 punktów procentowych poprzez rozmowy z GPT-4, a efekty były mierzalne dwa miesiące później, także w przypadku narracji, które w ogóle nie pojawiły się w dialogu. Nowością w obecnych badaniach jest test na świeżych wydarzeniach, gdzie faktów było niewiele.

Dlaczego rozmowa pokonuje listę faktów? To pytanie było przedmiotem badania z udziałem blisko 77 tysięcy uczestników. Modele językowe w dialogu okazały się o 41–52 procent bardziej przekonujące niż krótka wiadomość tekstowa. Decydującym czynnikiem była nie finezja retoryczna, ale sama liczba twierdzeń popartych źródłami. Ten sam mechanizm może zostać obrócony przeciwko ludziom, co pokazał nieautoryzowany eksperyment Uniwersytetu w Zurychu na Reddicie.