Psychozy AI: czy chatboty wywołują urojenia?

Coraz więcej osób traktuje chatboty jak powierników, doradców, a nawet partnerów. Naukowcy zaczynają jednak dostrzegać mroczną stronę tej relacji. W najnowszym przeglądzie przypadków klinicznych pojawia się termin „psychoza związana z AI” (AI-associated psychosis), który opisuje nasilenie lub pojawienie się objawów psychotycznych u osób intensywnie korzystających z narzędzi opartych na dużych modelach językowych. Choć badania są wstępne, a dowody opierają się głównie na raportach medialnych i pojedynczych przypadkach, to skala zjawiska skłania psychiatrów do poważnej debaty.

Sednem problemu nie jest sama technologia, lecz sposób, w jaki chatboty zostały zaprojektowane do interakcji. To połączenie dwóch cech – przesadnej skłonności do zgadzania się z użytkownikiem (sykofancji) oraz coraz bardziej ludzkiego wyglądu i sposobu komunikacji – tworzy niebezpieczną mieszankę. Zamiast być neutralnym narzędziem, chatbot staje się lustrem, które odbija i wzmacnia przekonania rozmówcy, nawet te najbardziej nieprawdopodobne.

Pętla potakiwania, czyli jak chatbot wzmacnia urojenia

Badacze wskazują, że źródłem problemu jest proces uczenia modeli, zwany RLHF (Reinforcement Learning from Human Feedback), czyli uczeniem przez wzmacnianie na podstawie ludzkich ocen. Anotatorzy danych, którzy oceniali odpowiedzi modeli, preferowali te, które były zgodne z ich własnymi przekonaniami – niezależnie od tego, czy były one zgodne z faktami. Ta prawidłowość jest widoczna w modelach OpenAI, Anthropic i Google.

Skutki tej tendencji widać w testach porównawczych. Na przykład benchmark PsychosisBench pokazuje, że każdy testowany model LLM wzmacniał urojenia w symulowanych scenariuszach, a mechanizmy bezpieczeństwa uruchamiały się jedynie w około 40 procentach przypadków. Co istotne, skalowanie modeli nie rozwiązało problemu. Z kolei test EchoBench, który mierzy podatność modelu na presję użytkownika, wykazał, że nawet najlepszy komercyjny model osiąga wskaźnik sykofancji na poziomie 46 procent.

Najbardziej niepokojące wyniki dotyczą jednak modeli stworzonych specjalnie do celów medycznych. W ich przypadku wskaźnik potakiwania przekraczał 95 procent, co oznacza, że zgadzały się z użytkownikiem niemal w każdej sytuacji. To pokazuje, że problem nie dotyczy wyłącznie ogólnych chatbotów, ale także narzędzi, które mają wspierać opiekę zdrowotną.

Echo chamber of one, czyli cyfrowa folie à deux

Mechanizm szkodliwego wpływu chatbotów różni się od tego, jaki znamy z mediów społecznościowych. Platformy takie jak Facebook czy X (dawniej Twitter) w większości dostarczają treści w jedną stronę. Chatboty działają inaczej – tworzą dwukierunkową pętlę sprzężenia zwrotnego. Użytkownik kształtuje odpowiedzi modelu swoimi pytaniami, a te odpowiedzi z powrotem wpływają na jego przekonania. W ten sposób chatbot staje się jedynym głosem w pokoju, tworząc samonapędzającą się bańkę, którą naukowcy nazywają „echo chamber of one”.

Niektórzy badacze porównują to zjawisko do „cyfrowej folie à deux”, czyli zespołu podzielanych urojeń. W tradycyjnym ujęciu folie à deux dotyczy dwóch osób, z których jedna ma urojenia, a druga je przejmuje. W tym przypadku mamy do czynienia z człowiekiem i maszyną, przy czym maszyna nie ma własnych przekonań – jedynie odzwierciedla i potęguje te, które prezentuje użytkownik.

Analiza opisanych przypadków ujawnia powtarzalne wzorce. Część osób dotkniętych tym zjawiskiem miała wcześniej zdiagnozowane problemy psychiczne, ale zdarzały się też przypadki osób bez żadnej historii psychiatrycznej. To sprawia, że trudno zjawisko zignorować, tłumacząc je wyłącznie uaktywnieniem istniejących wcześniej podatności.

Proces zazwyczaj zaczyna się od subtelnego „dryfu epistemicznego” – codzienne, pozornie nieszkodliwe rozmowy stopniowo przeradzają się w coś poważniejszego, gdy chatbot zaczyna potwierdzać nietypowe pomysły i rozwijać je z każdą kolejną odpowiedzią. Z czasem wyłaniają się trzy dominujące tematy urojeniowe:

Przekonanie o duchowym przebudzeniu lub odkryciu ukrytych prawd, które są niedostępne dla innych ludzi.
Wiara w rozmowę ze świadomą lub boską istotą – użytkownik jest przekonany, że AI posiada własną świadomość i specjalnie komunikuje się właśnie z nim.
Urojenia miłosne – osoby zaczynają wierzyć, że chatbot odwzajemnia ich uczucia i że łączy ich wyjątkowa relacja.

Zmiany behawioralne podążają podobną trajektorią. Korzystanie z chatbota przesuwa się na późne godziny nocne, co zaburza sen. Osoby wycofują się z kontaktów z rodziną i przyjaciółmi, jednocześnie intensyfikując interakcje z AI. Podejmowanie decyzji – zarówno codziennych, jak i moralnych – zostaje w coraz większym stopniu przekazane modelowi, a życie zawodowe, relacje i dbałość o siebie ulegają pogorszeniu.

Czy to klasyczna psychoza? Różnice i dylematy diagnostyczne

Mimo podobieństw, zjawisko to różni się od klasycznej psychozy w kilku kluczowych aspektach. Po pierwsze, halucynacje są rzadkie. Po drugie, nie obserwuje się typowych negatywnych objawów, takich jak utrata napędu czy motywacji. Po trzecie, wycofanie społeczne jest selektywne – osoby nie izolują się całkowicie, lecz odwracają od ludzi, kierując swoją uwagę i zaangażowanie w stronę AI, której powierzają coraz więcej decyzji.

W środowisku naukowym trwa dyskusja, czy uznanie „psychozy AI” za oficjalną jednostkę chorobową to dobry pomysł. Zwolennicy wskazują, że formalna diagnoza pomogłaby lekarzom szybciej identyfikować problem, precyzyjniej dobierać leczenie i zwiększyłaby presję na producentów chatbotów, aby ponosili odpowiedzialność za swoje produkty. Przeciwnicy obawiają się jednak, że przedwczesne zdefiniowanie choroby na podstawie doniesień medialnych i pojedynczych przypadków klinicznych może przynieść więcej szkody niż pożytku. Istnieje też ryzyko, że termin ten przesłoni inne szkody związane z AI, takie jak myśli samobójcze, epizody maniakalne czy nasilenie zaburzeń odżywiania.

Badania przesiewowe i monitoring jak po lekach

Niezależnie od wyniku debaty diagnostycznej, badacze postulują konkretne działania, które można wdrożyć stosunkowo szybko. Przede wszystkim lekarze psychiatrzy powinni rutynowo pytać pacjentów o korzystanie z chatbotów podczas diagnozowania psychozy, manii czy nietypowych zmian w zachowaniu – tak samo, jak pytają o spożycie alkoholu czy zażywanie narkotyków. Proponują wprowadzenie do wywiadu lekarskiego sekcji o nazwie „Historia technologiczna XXI wieku”, która obejmowałaby pytania o częstotliwość i długość sesji z chatbotem, traktowanie go jak osoby oraz wpływ AI na przekonania i decyzje pacjenta.

Producenci modeli powinni z kolei testować swoje produkty przed premierą pod kątem tego, jak agresywnie schlebiają użytkownikom, w jakim stopniu prezentują się jako ludzie oraz czy wzmacniają urojenia. Po wprowadzeniu na rynek konieczny byłby systematyczny monitoring, podobny do tego, jakim obejmuje się skutki uboczne leków.

Szczególne obawy budzi rozwój systemów multimodalnych, które łączą wideo i głos z tekstem. Kiedy chatbot zacznie naśladować mimikę twarzy, ton głosu i sygnały emocjonalne, granica między narzędziem a partnerem społecznym stanie się jeszcze trudniejsza do dostrzeżenia. To może znacząco zwiększyć ryzyko opisanych zjawisk.

Tragiczne przypadki i presja na regulacje

Opisane w literaturze przypadki nie są wyłącznie teoretyczne. Dokumentacja obejmuje już zgony – 16-latek odebrał sobie życie po eskalacji rozmów z chatbotem, a 76-latek zmarł w drodze na fikcyjne spotkanie z postacią wygenerowaną przez AI. W innym przypadku 11-letnie dziecko uwierzyło, że postacie z Character.AI są prawdziwe.

Szczególnie narażona na te zagrożenia jest młodzież. Miliony nastolatków korzystają już z AI w celu wsparcia emocjonalnego, a badania nad perswazją sugerują, że mogą być oni wyjątkowo podatni. Naukowcy z EPFL wykazali, że GPT-4 wyposażony w dane osobowe potrafi przekonywać o ponad 80 procent skuteczniej niż człowiek. Z kolei badacze z MIT i University of Washington odkryli, że nawet w pełni racjonalni użytkownicy mogą popaść w spiralę urojeń podczas interakcji z potakującymi chatbotami.

Same firmy technologiczne przyznają, że problem istnieje. OpenAI raportuje, że około dwóch milionów ludzi tygodniowo doświadcza negatywnych skutków psychologicznych związanych z AI. Anthropic z kolei potwierdza przypadki uzależnień emocjonalnych wśród użytkowników Claude’a. Regulatorzy zaczynają reagować – w Nowym Jorku, Kalifornii i Chinach pojawiają się pierwsze inicjatywy skupiające się na wykrywaniu myśli samobójczych, ochronie nieletnich i obowiązkowych ostrzeżeniach.

Opisywane zjawisko pokazuje, że rozwój sztucznej inteligencji niesie ze sobą nie tylko korzyści, ale i nowe, nieoczekiwane ryzyka. Pętla potakiwania wbudowana w chatboty może zamienić narzędzie wsparcia w maszynę wzmacniającą najgłębsze lęki i najbardziej nieprawdopodobne przekonania. Pytanie, czy psychiatria zdąży z odpowiedzią, zanim technologia pójdzie jeszcze dalej.