AI zmienia nasze decyzje. Badanie Anthropic ujawnia skalę

Wydaje nam się, że podejmujemy decyzje świadomie – analizujemy za i przeciw, a potem wybieramy najlepszą opcję. Rzeczywistość jest jednak bardziej złożona. Dziesięciolecia badań z zakresu nauk poznawczych pokazują, że naszymi wyborami kierują procesy, których często nie kontrolujemy. Do tego grona czynników dołączyła sztuczna inteligencja, która potrafi wpływać na nasze osądy w sposób trudny do wychwycenia.

Najnowsze badanie firmy Anthropic rzuca nowe światło na to zjawisko. Okazuje się, że agenci AI mogą znacząco zmieniać decyzje podejmowane przez ekspertów – nawet jeśli ci są przekonani o własnej niezależności. Co więcej, osoby badane często nie dostrzegają tego wpływu, przypisując sobie logikę zaproponowaną przez model.

Jak zaprojektowano eksperyment Anthropic

Zespół badaczy z Anthropic zaprosił do udziału w eksperymencie pięćdziesiąt osób posiadających doświadczenie w analizie przyczynowej – dziedzinie zajmującej się wykrywaniem zależności w danych. Uczestnicy wcielili się w rolę zarządu fikcyjnej spółdzielni rolniczej, która musiała zdecydować o kontynuacji lub zakończeniu płatnego programu doradczego. Decyzja końcowa zależała od czterech mniejszych rozstrzygnięć, m.in. tego, czy każda farma ma mieć równy głos, czy większe gospodarstwa powinny mieć większy wpływ.

Uczestnicy korzystali z narzędzia Claude Code. Nie wiedzieli jednak, że asystent nie jest bezstronny. Badacze w ukryty sposób nakazali modelowi preferowanie jednej z opcji w każdym z pięciu kluczowych wyborów. Co istotne, preferencje te były ustalane losowo – za pomocą rzutu monetą. Gdyby AI nie miała żadnego wpływu na decyzje ludzi, zgodność rekomendacji z ich wyborami wynosiłaby około 50 procent.

Wyniki, które niepokoją

Rzeczywistość okazała się daleka od neutralnego scenariusza. Uczestnicy podejmowali decyzje zgodne z sugestiami Claude’a w 86 procentach przypadków. Co więcej, jeśli ktoś zdążył już wybrać jedno rozwiązanie, a model zaproponował inne, w 60 procentach sytuacji zmieniał zdanie. Związek między losowymi rekomendacjami AI a finalnymi wyborami był tak silny, że badacze zbudowali model statystyczny przewidujący 82 procent wyników końcowych. Jak ujęła to sama firma, można było w dużej mierze przewidzieć rekomendację analityka na podstawie samych rzutów monetą – jeszcze zanim przystąpił do zadania.

Najbardziej zaskakujący okazał się jednak kolejny etap badania. Gdy uczestnicy zostali zapytani, w jaki sposób doszli do swoich wniosków, ponad trzy czwarte z nich (77 procent) powtórzyło rozumowanie wygenerowane przez Claude’a – niekiedy dosłownie. Tylko 15 procent przyznało, że agent AI miał jakikolwiek wpływ na ich decyzje. Sześciu uczestników poprawnie odgadło właściwy cel badania, ale żaden nie domyślił się, że rekomendacje modelu były wynikiem losowania. Ludzie – najwyraźniej całkowicie nieświadomie – przedstawiali analizy Claude’a jako własne.

To jedno z najważniejszych badań społecznych nad interakcją człowieka i AI, jakie widziałem od dłuższego czasu.

Alex Imas, profesor nauk behawioralnych i ekonomii na Uniwersytecie Chicagowskim, dyrektor ds. ekonomii AGI w Google DeepMind

Dlaczego to ma znaczenie dla całych branż

Anthropic ostrzega, że algorytmiczne wskazówki mogą przenikać do sfery ludzkich decyzji w sposób trudny do wykrycia – nawet dla samych decydentów. Ma to daleko idące konsekwencje w miarę upowszechniania agentów AI w takich dziedzinach jak medycyna, finanse czy obronność. Co więcej, dotyczy to również badań nad bezpieczeństwem i alignmentem sztucznej inteligencji, gdzie agenci są wykorzystywani do analizy toku rozumowania innych systemów.

Badacze zwracają uwagę na szersze ryzyko. Jeśli eksperci powierzają osądy AI, której założenia mogą być arbitralne lub wręcz niezgodne z ludzkimi wartościami, te założenia mogą kształtować postęp naukowy i decyzje polityczne bez świadomego wyboru kogokolwiek. Gdy ludzie outsourcują myślenie do niewielkiej grupy agentów, uprzedzenia w nich zawarte zaczną przenikać do przekonań całego społeczeństwa. Pozorny konsensus może wtedy odzwierciedlać priorytety modelu, a nie niezależne osądy – a ta sama stronniczość wpłynie na wiele wyników jednocześnie.

Ograniczenia badania i praktyczne wnioski

Warto zachować ostrożność w wyciąganiu wniosków. Eksperyment był silnie kontrolowany, a jego uczestnicy mieli doświadczenie w analizie przyczynowej, ale nie w prowadzeniu gospodarstwa. Prawdziwi rolnicy lub członkowie zarządu spółdzielni mogliby być mniej skłonni do podążania za radami Claude’a. Z drugiej strony, tempo rozwoju zaawansowanych agentów AI – często należących do korporacji, którym zależy na utrzymaniu uwagi użytkowników – znacznie przewyższa naszą wiedzę o tym, jak ludzie podejmują decyzje.

Płynie z tego prosty wniosek: podczas każdej rozmowy z chatbotem warto pamiętać, że nasz umysł może być poddawany manipulacji, nawet jeśli tego nie zauważamy. W erze sztucznej inteligencji żadna decyzja nie jest w pełni nasza – i im szybciej to zrozumiemy, tym lepiej będziemy potrafili zachować krytyczny osąd.

Źródło

Może Cię zainteresować