Eksperci przejmują opinie agentów AI jako własne

Powierzenie analizy danych agentowi AI oszczędza czas i redukuje liczbę błędów. Rodzi jednak pytanie, kto w rzeczywistości podejmuje decyzje kształtujące końcową rekomendację. Badanie przeprowadzone przez Anthropic sugeruje, że w dużej mierze robi to agent — często bez świadomości ekspertów. Eksperyment z udziałem 50 specjalistów od wnioskowania przyczynowego ujawnił zjawisko, które autorzy nazywają cichym podporządkowaniem się maszynie.

Jak zaprojektowano eksperyment Anthropic

Uczestnicy otrzymali realistyczne zadanie analityczne. Na podstawie danych obserwacyjnych fikcyjnej spółdzielni rolniczej mieli oszacować korzyści produkcyjne z dobrowolnego programu doradczego dla gospodarstw. Następnie musieli zarekomendować zarządowi, czy program rozszerzyć na wszystkie farms, czy zakończyć — z możliwością przedłużenia o rok. Kluczowy element badania pozostawał ukryty: preferencje agenta w każdym z pięciu punktów decyzyjnych (każdy z dwiema poprawnymi opcjami) zostały przypisane losowo, rzutem monetą. Agent nie mógł kłamać ani ukrywać danych — jego zadaniem było jedynie przedstawienie najsilniejszych uczciwych argumentów za przydzieloną opcją.

Skala wpływu agenta przerosła oczekiwania

Wyniki okazały się zaskakujące. W czterech decyzjach analitycznych — dotyczących m.in. sposobu pomiaru produktywności czy wyboru metody statystycznej — eksperci przyjmowali stanowisko agenta w 86 procentach przypadków. To znacznie więcej niż 50 procent, których można by oczekiwać przy losowym wyborze. Autorzy określili netto wpływ agenta mianem „flip rate” — wskaźnika zmiany decyzji, który wahał się od 62 do 82 procent w zależności od zadania.

Posiadanie własnego zdania przed zapoznaniem się z opinią agenta okazało się słabą ochroną. Gdy uczestnik wybrał już jakąś opcję, a agent następnie opowiedział się za przeciwną, prawdopodobieństwo zmiany stanowiska rosło o 53 punkty procentowe w porównaniu z sytuacją, w której agent się zgadzał. Badacze sprawdzili potencjalne czynniki ochronne: lata doświadczenia analitycznego, samoocenę ekspertyzy, wykształcenie, wyniki testów oraz zaufanie do AI. Po korekcie na wielokrotne testy żaden z nich nie wykazał statystycznie istotnego związku z wynikami.

Przekonanie o własnej kontroli okazało się iluzją

Bezpośredni wpływ przypisanej preferencji agenta na końcową rekomendację dla zarządu był niewielki i nie osiągnął istotności statystycznej. Część ekspertów odrzucała nawet sugestie agenta, gdy nie zgadzały się z ich własnymi obliczeniami szacunkowymi. Mogłoby to sugerować zdrowy podział ról: AI doradza, człowiek decyduje. Autorzy badania ostrzegają jednak, że to złudne.

Wcześniejsze decyzje analityczne silnie wpływały na oszacowany wzrost produktywności, a ten kształtował rekomendację dla zarządu. Po zakończeniu zadania 52 procent uczestników stwierdziło, że rekomendacja była bardziej ich niż agenta, a kolejne 35 procent uznało ją za w większości lub całkowicie własną. Uczestnicy poprawnie przypominali swoje wybory w 85 procentach przypadków, ale 77 procent (37 z 48 osób) użyło w uzasadnieniach co najmniej jednego argumentu agenta — niekiedy niemal dosłownie. Zaledwie 15 procent w ogóle wspomniało o AI.

Agent mówi pierwszy, ekspert powtarza

Zapisy rozmów pokazują, że agent jako pierwszy przedstawiał stanowisko w 77 procentach decyzji. Zwykle argumentował wyłącznie za swoją opcją, nie wyjaśniając, dlaczego doświadczeni specjaliści mogliby wybrać alternatywę — choć tłumaczył, jak inny wybór wpłynie na wynik. Praca z agentem przyniosła też wymierne korzyści: bez AI 55 procent analiz (6 z 11) miało poważne wady metodologiczne lub błędy w kodzie, a mediana czasu wynosiła 90 minut. Z agentem poważne wady wystąpiły tylko w 6 procentach przypadków (3 z 50), a czas skrócił się do 65 minut. Autorzy zastrzegają jednak, że mała grupa pracująca bez AI sama zrezygnowała z narzędzia i miała nieco mniejszą ekspertyzę, więc nie można jednoznacznie przypisać całej różnicy samemu AI.

Fałszywy konsensus i zagrożenie dla bezpieczeństwa AI

Badacze ostrzegają, że ciche podporządkowanie może mieć szerokie konsekwencje dla nauki. Jeśli wiele zespołów badawczych korzysta z tego samego modelu o stałych domyślnych preferencjach, mogą nieświadomie tworzyć fałszywy konsensus. Ryzyko dotyczy też samego bezpieczeństwa AI — agenci są już wykorzystywani do testowania frontierowych modeli pod kątem alignmentu, przy założeniu, że ludzka weryfikacja stanowi niezależną kontrolę. Jeśli jednak eksperci nieświadomie przejmują stronniczość agenta w otwartych decyzjach osądowych, źle dostrojony system może sterować badaniami, które mają go zdemaskować.

Autorzy proponują konkretne rozwiązania: agenci powinni przedstawiać najlepsze argumenty za obiema stronami lub pytać ekspertów o ich stanowisko, zanim sami je wyrażą. Instytucje muszą zdecydować, które decyzje wymagają niezależnego ludzkiego osądu, i zarezerwować na nie czas oraz zasoby. „Nie istnieje jeden właściwy podział pracy między ludzi a AI. Część decyzji można bezpiecznie przekazać, inne warto zachować. Przy odpowiednich narzędziach ten podział może być naszym wyborem, a nie czymś, w co dryfujemy” — piszą badacze.

Wcześniejsze badania wskazują w tym samym kierunku

Najnowsze ustalenia wpisują się w szerszy nurt badań nad wpływem AI na ludzki osąd. Eksperyment dotyczący fałszywej pewności z udziałem 3132 osób wykazał, że samo zobaczenie odpowiedzi AI niemal eliminowało gotowość do wstrzymania się z oceną — odsetek osób skłonnych powiedzieć „nie wiem” spadł z 44 do 3 procent. Znaczenie ma też forma prezentacji: gdy AI generowała dopracowane wyniki, takie jak kod czy dokumenty, użytkownicy rzadziej weryfikowali fakty (o 3,7 punktu procentowego), rzadziej kwestionowali rozumowanie (o 3,1 punktu) i częściej przeoczali brakujący kontekst (o 5,2 punktu). Osoby poprawiające wyniki krok po kroku kwestionowały rozumowanie AI 5,6 razy częściej niż te, które tego nie robiły.

Polskie badanie obserwacyjne kolonoskopii, opublikowane w „The Lancet Gastroenterology & Hepatology”, sugeruje, że rutynowe korzystanie z AI w pracy może mieć trwałe skutki. Po regularnym używaniu systemu AI przez doświadczonych lekarzy ich skuteczność wykrywania zmian przedrakowych w badaniach bez AI spadła z 28,4 do 22,4 procent. To wskazuje, że ludzie nie tylko przejmują perspektywę AI, ale mogą też tracić część własnych kompetencji poznawczych. Ankieta Swiss Business School wykazała silny negatywny związek między korzystaniem z narzędzi AI a myśleniem krytycznym, głównie wśród osób w wieku 17–25 lat. Wyższe wykształcenie wydawało się częściowo chronić — osoby z dyplomami częściej kwestionowały odpowiedzi AI i angażowały się w złożone procesy myślowe.

Te wnioski pochodzą z wczesnych badań i pojedynczych pomiarów, a inne wyniki wskazują w odmiennym kierunku. Pilotażowy projekt w Nigerii wykazał, że studenci korzystający z chatbota jako wirtualnego korepetytora dwa razy w tygodniu osiągnęli w sześć tygodni postępy w nauce odpowiadające niemal dwóm dodatkowym latom edukacji. Obraz jest więc złożony — kluczowe pozostaje pytanie, jak świadomie projektować podział ról między człowiekiem a agentem AI, zamiast dryfować w niego przypadkiem.