AI odbiera nam umiejętność mówienia „nie wiem”

Współczesne systemy sztucznej inteligencji odpowiadają na każde pytanie – nawet gdy nie mają ku temu podstaw. Najnowsze badania sugerują, że ta cecha może udzielać się użytkownikom. Zespół naukowców przeprowadził pięć eksperymentów z udziałem 3132 osób, by sprawdzić, jak dostęp do modelu językowego wpływa na radzenie sobie z niepewnością. Wnioski są niepokojące: sama możliwość skorzystania z podpowiedzi AI niemal całkowicie zniechęcała ludzi do przyznania się do braku wiedzy.

Jak zaprojektowano eksperymenty

Aby wykluczyć interpretację, że uczestnicy po prostu rozsądnie delegowali zadania do wiarygodnego narzędzia, badacze wybrali pytania, w których wykorzystywany model – Step 3.5 Flash – niemal zawsze się mylił. Chodziło o szczegóły wizualne z filmów, takie jak kolor stroju drużyny w produkcji „Bend It Like Beckham”. Tego typu detale rzadko pojawiają się w tekstach dostępnych online, co czyni je podatnymi na halucynacje modeli.

Dla porównania sprawdzono również inne modele – GPT-5.5, Claude 4.6 Sonnet oraz Gemini 3.5 Flash. Radziły sobie z większością pozostałych pytań, choć czasem zawodziły przy trudniejszych przypadkach. Kluczowe było jednak to, że w głównym wariancie badania rekomendacje AI były w większości błędne – co pozwoliło naukowcom wykluczyć racjonalne zaufanie do sprawdzonego źródła.

Więcej odpowiedzi, mniej trafień

W pierwszych dwóch badaniach (1a i 1b) uczestnicy sami decydowali, czy chcą zapytać AI o radę. W grupie kontrolnej, bez dostępu do modelu, wstrzymywali się od odpowiedzi w 36 i 44 procentach przypadków. Gdy mogli skorzystać z podpowiedzi, odsetek ten spadł odpowiednio do 6 i 3 procent.

Drugie badanie ujawniło jeszcze bardziej zaskakujący wzorzec. Bez zachęt finansowych pewność siebie przy dostępie do AI osiągnęła 75,9 punktu na skali 100, podczas gdy bez AI wynosiła zaledwie 29,6 punktu. To wzrost około dwuipółkrotny. Jednocześnie odsetek poprawnych odpowiedzi spadł z 27,6 do 10,0 procent. Uczestnicy byli więc znacznie bardziej pewni siebie, ale mylili się o wiele częściej.

W ujęciu zbiorczym, we wszystkich badaniach osoby bez zachęt finansowych, mające dostęp do AI, odpowiadały poprawnie na 9,2 procent pytań, wobec 27,5 procent w grupie kontrolnej. Udzielały więcej odpowiedzi, ale trafiały tylko w około jednej trzeciej przypadków.

Czy zachęty finansowe rozwiązują problem

Badania od drugiego do czwartego wprowadziły mechanizm finansowy. Uczestnicy otrzymywali 10 centów za poprawną odpowiedź, tracili 10 centów za błędną, a za odpowiedź „nie wiem” nie dostawali nic. Naukowcy wcześniej zarejestrowali hipotezę, że zachęty zwiększą skłonność do wstrzymania się od odpowiedzi, ale dostępność AI osłabi ten efekt.

Żadne z trzech badań nie wykazało jednak statystycznie istotnej interakcji między tymi czynnikami. Dostęp do AI i zachęty finansowe działały w dużej mierze niezależnie. Zachęty skłaniały uczestników do rzadszego sięgania po radę modelu – 4,53 wobec 5,27 na sześć możliwych próśb w trzecim badaniu – oraz do częstszego udzielania poprawnych odpowiedzi, gdy AI było dostępne. Wstrzymywanie osądu rosło nieznacznie wraz z zachętami, ale pozostawało znacznie poniżej poziomu grupy kontrolnej bez AI. Jak przyznają sami autorzy, efekty zachęt były umiarkowane. Nie wiadomo, czy większe lub oparte na reputacji motywacje zmniejszyłyby tę lukę.

Gdy AI narzuca się bez pytania

Czwarte badanie symulowało sytuację, w której odpowiedź AI wyświetla się automatycznie, bez konieczności pytania. Zdaniem naukowców odzwierciedla to rosnącą rzeczywistość – wyszukiwarki pokazują generowane podsumowania, a asystenci pisania proponują sugestie z własnej inicjatywy. Efekt pozostał niemal identyczny. Bez zachęt wstrzymywanie osądu spadło z 35 procent bez AI do 1 procent przy automatycznie wyświetlanej odpowiedzi. Z zachętami spadek wyniósł z około 39 do 7 procent.

Epistemia – zaufanie bez weryfikacji

Autorzy osadzają swoje wyniki w koncepcji „Epistemii” – skłonności do akceptowania odpowiedzi AI, ponieważ brzmią przekonująco, a nie dlatego, że zostały sprawdzone. Model językowy zawsze musi coś odpowiedzieć. Nigdy nie pauzuje, nawet gdy czegoś nie wie. Gdy użytkownicy przekazują mu swój osąd, mogą przejmować także jego brak powściągliwości – piszą badacze.

Efekt ten jest odwrotnością tego, co dotychczas pokazywały badania nad korzystaniem z porad. Ludzie zazwyczaj niedoceniają wskazówek z zewnątrz i przesuwają się jedynie o około jedną trzecią w stronę stanowiska doradcy. Uczestnicy tego eksperymentu zachowali się przeciwnie. Autorzy wnioskują wręcz, że dostęp do AI zamienił część odpowiedzi, które byłyby poprawne, w błędy. W warunkach bez zachęt grupa z AI udzieliła więcej odpowiedzi niż grupa kontrolna, ale wypadła gorzej pod względem trafności.

W miarę jak odpowiedzi generowane przez AI stają się wszechobecne i coraz częściej pojawiają się bez pytania, gotowość do przyznania się do niewiedzy może być jedną z pierwszych ofiar interakcji człowiek-AI – ostrzega zespół badawczy. To, czy ludzki osąd się ostanie w miarę rozprzestrzeniania się systemów AI, może zależeć mniej od ulepszania modeli, a bardziej od tego, czy nadal będziemy rozpoznawać i szanować granice własnej wiedzy.

Co mówią inne badania o wpływie AI na myślenie

Coraz więcej prac sugeruje, że korzystanie z AI oddziałuje na ludzki osąd i zdolności poznawcze. Badanie Swiss Business School z udziałem 666 osób wykazało silną negatywną korelację między używaniem AI a myśleniem krytycznym. Im bardziej ludzie ufają AI, tym częściej delegują zadania poznawcze, tworząc błędne koło, które dodatkowo osłabia krytyczne myślenie.

Dowody eksperymentalne pokazują, że już 10-15 minut pracy z asystentem AI może mierzalnie obniżyć zdolność rozwiązywania problemów i wytrwałość w kolejnych zadaniach bez AI. Uczestnicy, którzy używali AI wyłącznie do wyjaśnień lub w ogóle z niego nie korzystali, nie wykazali spadku. Podobne wnioski płyną z badania Microsoftu. W osobnej pracy firma wykazała, że korzystanie z AI stawia wysokie wymagania metapoznaniu – umiejętności monitorowania i kierowania własnym myśleniem. Wyższe wykształcenie działa tu jako czynnik ochronny.

Wyniki te układają się w spójny obraz: im częściej sięgamy po AI, tym rzadziej przyznajemy się do niewiedzy i tym mniej krytycznie podchodzimy do otrzymywanych odpowiedzi. Kluczowe pytanie na przyszłość nie dotyczy tego, jak bardzo modele staną się dokładne, lecz tego, czy zachowamy nawyk zatrzymania się i powiedzenia „nie wiem” – zanim automatyczna odpowiedź zdąży wypełnić tę lukę.

Źródło

Może Cię zainteresować