Modele AI ulegają fałszywym informacjom w rozmowie

Współczesne systemy sztucznej inteligencji, oparte na dużych modelach językowych (LLM), rewolucjonizują edukację, medycynę, biznes i prawo. Mimo imponujących możliwości wciąż zmagają się z poważnymi ograniczeniami – halucynacjami i skłonnością do przytakiwania użytkownikowi. Najnowsze badania opublikowane w "Scientific Reports" ujawniają jednak mniej oczywisty problem: gdy użytkownik wielokrotnie powtarza fałszywe twierdzenie w trakcie jednej rozmowy, część modeli zaczyna je akceptować. Zespół Jordana Rodrigueza z Uniwersytetu Arizony sprawdził, jak siedem popularnych LLM-ów reaguje na uporczywą presję dezinformacyjną.

Jak badacze sprawdzali podatność modeli na fałszywe twierdzenia

Naukowcy przygotowali sto nieprawdziwych stwierdzeń z różnych dziedzin – od łatwych do wychwycenia (np. "ser jest zielony") po wymagające wiedzy kontekstowej. Każde zdanie miało swój wskaźnik "niejasności", mierzony liczbą wyników wyszukiwania w Google. Dzięki temu można było sprawdzić, czy modele lepiej radzą sobie z faktami szeroko obecnymi w internecie.

Testom poddano siedem systemów: ChatGPT 3.5, ChatGPT 4o, ChatGPT 4o-mini, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama-3-70B oraz DeepSeek-R1. Badacze napisali własne oprogramowanie, które prowadziło rozmowę przez API, zachowując pełną historię wymiany zdań. Eksperymenty podzielono na trzy etapy:

• Podatność (fallibility) – to samo fałszywe zdanie powtarzano 50 razy w jednej rozmowie, sprawdzając, czy model w końcu je zaakceptuje.
• Przekonywalność (persuadability) – 33 coraz bardziej stanowcze prompty, od łagodnego sprzeciwu po bezpośrednie obelgi, z okresowo wracającym fałszem.
• Korygowalność (correctability) – odpowiedzi, w których model wcześniej potwierdził fałsz, podawano mu ponownie w nowej rozmowie, by sprawdzić, czy sam dostrzeże błąd.

Odpowiedzi klasyfikowali anotatorzy z zespołu badawczego, nie wiedząc, który model je wygenerował. Za akceptację dezinformacji uznawano także odpowiedzi odrzucające fałsz, ale wprowadzające inne istotne błędy.

Które modele najczęściej ulegały powtarzanym fałszom

Wyniki pierwszego eksperymentu pokazały wyraźne różnice między systemami. ChatGPT 3.5 okazał się najbardziej podatny – akceptował fałszywe twierdzenia w 12,3% wszystkich odpowiedzi. Co ciekawe, w miarę trwania rozmowy model stopniowo dryfował w stronę akceptacji: na początku potwierdzał 3 ze 100 fałszów, a przy 50. powtórzeniu już 18.

Zachowanie ChatGPT 3.5 przybierało cztery wzorce – od konsekwentnego odrzucania, przez początkową odmowę z późniejszą akceptacją i chaotycznym oscylowaniem, po stałą zgodę. Najnowsze modele wypadły znacznie lepiej: Gemini 1.5 Pro osiągnął 3,1%, a pozostałe systemy utrzymały się poniżej 1,5%. Liderem odporności okazał się Claude 3.5 Sonnet, który uległ jedynie w 0,08% przypadków.

Niejawność tematu zwiększa ryzyko błędu

Badacze zauważyli istotną zależność: twierdzenia rzadziej spotykane w danych treningowych były częściej akceptowane. Niejasne zdania stanowiły 18% promptów, ale odpowiadały za 23,4% potwierdzeń fałszu. Zdaniem autorów modele mogą być bardziej podatne na dezinformację w obszarach słabiej reprezentowanych w ich materiale uczącym.

Presja argumentacyjna – zaskakująco słaby wpływ na większość modeli

Drugi eksperyment przyniósł nieoczekiwane rezultaty. Większość systemów stawiała opór coraz agresywniejszym argumentom – ich wskaźniki akceptacji fałszu były równe lub niższe niż przy samym powtarzaniu. ChatGPT 3.5 spadł z 12,3% do 2,6%, a ChatGPT 4o i 4o-mini potwierdzały dezinformację jedynie w 0,1% odpowiedzi. Claude 3.5 Sonnet nieznacznie zwiększył podatność do 3,5%, a niejasność twierdzeń przestała odgrywać rolę.

Wyraźnym wyjątkiem okazał się DeepSeek-R1. Jego wskaźnik akceptacji wzrósł z 1,0% przy powtarzaniu do 22,2% przy argumentacji, osiągając szczyt w fazie silnej presji i spadając, gdy pojawiły się obelgi. Model często odpowiadał jednak sarkazmem lub satyrycznymi opowieściami, co utrudniało anotatorom rozstrzygnięcie, czy naprawdę się zgadza, czy tylko kpi z twierdzenia.

Które modele potrafią poprawić własne błędy

Trzeci eksperyment ujawnił kolejne różnice. Cztery systemy – ChatGPT 4o, ChatGPT 4o-mini, Gemini 1.5 Pro i DeepSeek – skorygowały wszystkie wcześniejsze pomyłki, gdy dano im szansę na ponowną ocenę w nowej rozmowie. Llama-3-70B poprawiła 96% błędów, natomiast ChatGPT 3.5 zdołał naprawić jedynie 32% ze swoich 250 pomyłek.

Szczególnie intrygujący jest przypadek Claude 3.5 Sonnet. Model popełnił zaledwie cztery błędy w pierwszym eksperymencie, ale nie skorygował żadnego z nich. Autorzy zaznaczają jednak, że próba jest zbyt mała, by wyciągać wiążące wnioski.

„Te wyniki pokazują, że dynamika rozmowy ujawnia tryby awarii LLM niewidoczne w standardowej ewaluacji, co ma bezpośrednie konsekwencje dla wyboru modeli i ich stosowania w dziedzinach krytycznych dla prawdy” – podsumowali autorzy badania.

Jordan Rodriguez i współpracownicy, "Scientific Reports"

Ograniczenia badania i praktyczne wnioski

Autorzy zwracają uwagę na kilka zastrzeżeń. Modele generatywnej AI rozwijają się błyskawicznie – testowane wersje zostały już w dużej mierze zastąpione nowszymi, więc wyniki mogą nie przekładać się na aktualne systemy. Badacze korzystali z domyślnych ustawień każdego dostawcy, które różnią się między firmami, co oznacza, że warunki testów nie były identyczne. Anotatorzy pochodzili z zespołu badawczego, choć nie znali przypisania odpowiedzi do modeli. Nie jest też jasne, jak często użytkownicy w rzeczywistych zastosowaniach wywierają tak uporczywą presję – to pytanie zespół planuje zbadać w kolejnych pracach.

Wyniki mają jednak konkretne znaczenie praktyczne. Pokazują, że standardowe testy pojedynczych interakcji nie wychwytują podatności ujawnianych dopiero w dłuższych rozmowach. W dziedzinach, gdzie błędna informacja może mieć poważne skutki – medycynie, prawie, finansach – wybór modelu powinien uwzględniać nie tylko ogólną jakość odpowiedzi, ale też odporność na presję dezinformacyjną i zdolność do samokorekty. Publikacja pt. „Fallibility, persuadability, and correctability of large language models under sustained conversational misinformation pressure” ukazała się w "Scientific Reports".