Jak AI pogłębia kryzys zaufania w medycynie

Dynamiczny rozwój i wdrażanie systemów sztucznej inteligencji w sektorze ochrony zdrowia budzi nie tylko nadzieje, ale też poważne obawy. Jak wskazują najnowsze analizy i raporty, pośpiech w implementacji tych rozwiązań, często bez wystarczających testów i przejrzystości, nie rozwiązuje problemów służby zdrowia, a wręcz je pogłębia. Kluczowym wyzwaniem okazuje się kryzys zaufania, który narastał od lat, a który technologia AI może znacząco spotęgować, zwłaszcza wśród najbardziej narażonych grup pacjentów.

Alarmujące błędy i pośpieszne wdrożenia

Prawdziwość obaw potwierdzają konkretne przypadki. Na początku roku czołowe firmy zajmujące się AI, OpenAI i Anthropic, ogłosiły specjalne inicjatywy skierowane do sektora medycznego. Niedługo potem, w lutym, opublikowano badanie dotyczące narzędzia ChatGPT Health. Jego wyniki były szokujące: system generował błędy w połowie przypadków. W symulowanych sytuacjach nagłych rekomendował nawet opóźnienie niezbędnej interwencji medycznej. Co istotne, tak wysoki wskaźnik nieprawidłowości nie został wychwycony przed oficjalnym wprowadzeniem aplikacji do użytku.

Symptom szerszego problemu

Ten incydent nie jest odosobniony, lecz stanowi przejaw głębszego zjawiska. Placówki medyczne i firmy ubezpieczeniowe coraz chętniej i szybciej adoptują zaawansowane algorytmy, nierzadko pomijając kluczowe etapy weryfikacji ich skuteczności i bezpieczeństwa dla pacjentów. Taka praktyka bezpośrednio przyczynia się do intensyfikacji trwającego już kryzysu zaufania do instytucji ochrony zdrowia.

Długotrwały kryzys zaufania i jego konsekwencje

Utrata wiary w system opieki zdrowotnej w Stanach Zjednoczonych to proces, który nasilił się szczególnie w czasie pandemii Covid-19. Reprezentatywne badanie krajowe, obejmujące ponad 443 tysiące dorosłych osób, wykazało drastyczny spadek. Zaufanie do lekarzy i szpitali spadło z 72% w 2020 roku do zaledwie 40% w 2024. Spadek ten dotknął wszystkie grupy społeczno-demograficzne.

Historyczne obciążenie i realne skutki

Dla społeczności czarnoskórych, latynoskich i rdzennych mieszkańców ten współczesny kryzys nakłada się na historyczną i wciąż obecną nieufność, zakorzenioną w doświadczeniach medycznego rasizmu. Badania pokazują jasny związek między brakiem zaufania a działaniami pacjentów. Osoby, które nie ufają swoim lekarzom, częściej odkładają wizyty, w tym te profilaktyczne, oraz przerywają zalecaną terapię. Te wzorce zachowań przekładają się bezpośrednio na wyższe wskaźniki hospitalizacji oraz przedwczesnych zgonów.

Jak sztuczna inteligencja potęguje istniejącą nieufność

Wdrożenia AI w medycynie już teraz przynoszą udokumentowane szkody, które podsycają negatywne nastroje. Jednym z głośnych przykładów jest algorytm używany do oceny stanu zdrowia pacjentów, który dotknął szacunkowo 200 milionów Amerykanów. Narzędzie to systematycznie zaniżało stopień zaawansowania choroby u osób czarnoskórych, ponieważ za miarę powagi schorzenia przyjęło wysokość poniesionych kosztów leczenia. Pacjenci nie byli nawet świadomi, że to oprogramowanie wpływa na decyzje dotyczące ich terapii.

Automatyzacja odmów i brak transparentności

Kolejny problem dotyczy ubezpieczycieli Medicare Advantage, którzy wykorzystali systemy AI do wspomagania procesu autoryzacji świadczeń. Wprowadzenie tych narzędzi pomogło podwoić wskaźnik odmów dla starszych pacjentów. Paradoksalnie, około 75% tych decyzji było uchylanych na drodze odwoławczej, jednak mniej niż 1% pacjentów kiedykolwiek się odwoływało. Mimo tych kontrowersji, rząd federalny rozpoczął pilotażowe wdrażanie automatycznej autoryzacji wspomaganej AI w tradycyjnym Medicare w sześciu stanach.

Pacjenci, którzy doświadczyli dyskryminacji w systemie opieki zdrowotnej, są znacznie mniej skłonni ufać, że instytucje te będą odpowiedzialnie używać sztucznej inteligencji. Wdrażanie systemów AI bez znaczącego zaangażowania pacjentów i społeczności w proces decyzyjny tylko powtarza schemat, który doprowadził do powstania tej nieufności.

Potężny rynek i głód danych

Motywacją dla tej gwałtownej ekspansji jest ogromny potencjał rynkowy. Ochrona zdrowia w USA to sektor wart 5,3 biliona dolarów, stanowiący 18% PKB w 2024 roku. Amerykańskie organizacje medyczne wydały w 2025 roku na narzędzia AI kwotę 1,4 miliarda dolarów, co stanowi niemal trzykrotność wydatków z roku poprzedniego. Inwestycje te obejmują analizę obrazów medycznych, automatyzację rozliczeń i dokumentacji.

Pacjent jako źródło surowca

Poza zyskiem, sektor ten dostarcza też tego, czego firmy AI potrzebują do rozwoju: ogromnych ilości danych. Mowa o elektronicznych kartach pacjentów, historiach roszczeń ubezpieczeniowych, zdjęciach diagnostycznych i profilach genetycznych milionów ludzi. Dane te są często zbierane bez przejrzystej informacji o planowanym ich wykorzystaniu i bez konsultacji z samymi pacjentami czy ich społecznościami.

Droga do odbudowy zaufania

Badanie z lutego 2025 roku, w którym wzięło udział ponad 2000 Amerykanów, potwierdza skalę problemu. Aż 66% respondentów deklarowało niskie zaufanie do zdolności swojego systemu ochrony zdrowia do odpowiedzialnego wykorzystania AI. Co ciekawe, na te wyniki nie wpływała ani wiedza na temat sztucznej inteligencji, ani ogólna znajomość zagadnień medycznych. Najważniejszym czynnikiem prognostycznym było to, jak bardzo dana osoba ufała systemowi opieki zdrowotnej jeszcze przed kontaktem z technologią.

Konkretne warunki koniecznej zmiany

Eksperci, tacy jak Oni Blackstock, lekarz-badacz i założyciel organizacji Health Justice, wskazują na konkretne działania niezbędne do odwrócenia tej niebezpiecznej tendencji. Kluczowa jest zmiana w podejmowaniu decyzji dotyczących zakupu, zarządzania i używania narzędzi AI. Potrzebne są formalne role decyzyjne dla pacjentów i przedstawicieli społeczności, a nie jedynie stanowiska doradcze. Systemy opieki zdrowotnej i ubezpieczyciele powinni publicznie raportować o wynikach działania algorytmów, także w podziale na różne grupy etniczne, jeszcze przed ich wdrożeniem. Fundamentalną kwestią jest również jasna i wcześniejsza informacja dla pacjenta o każdym użyciu AI w procesie jego leczenia.

Instytucje medyczne i firmy technologiczne stoją przed wyborem. Mogą kontynuować wyścig, w którym liczy się jedynie szybkość implementacji nowych rozwiązań. Alternatywą jest podjęcie trudniejszej pracy, jaką jest działanie w tempie budowania zaufania. Oznacza to nadanie głosu pacjentom i społecznościom na etapie podejmowania decyzji, a nie dopiero po tym, jak szkoda zostanie wyrządzona. W kontekście ochrony zdrowia, gdzie stawką jest ludzkie życie, wybór tej drugiej drogi wydaje się nie tylko etyczny, ale i konieczny dla stworzenia trwałego, sprawiedliwego i skutecznego systemu.

Źródło

Może Cię zainteresować