Sztuczna inteligencja decyduje o leczeniu pacjentów Medicare

Systemy sztucznej inteligencji coraz śmielej wkraczają w obszary, które jeszcze niedawno wydawały się zarezerwowane wyłącznie dla ludzi. Najnowszy przykład pochodzi ze Stanów Zjednoczonych, gdzie w sześciu stanach AI przejęła kontrolę nad decyzjami dotyczącymi refundacji zabiegów medycznych w ramach rządowego programu Medicare. Pilotażowy projekt, nazwany WISeR, miał ograniczyć „marnotrawne” wydatki, ale zamiast tego generuje opóźnienia, spory i cierpienie pacjentów.

Historia 83-letniego Keitha Magnusona z Seattle obrazuje skalę problemu. Mężczyzna zmaga się ze zwężeniem kanału kręgowego, które uniemożliwia mu normalne funkcjonowanie. Jego lekarz zarekomendował mało inwazyjną dekompresję lędźwiową (MILD) – procedurę obarczoną mniejszym ryzykiem niż tradycyjna operacja. Częścią planu była również zastrzyk steroidowy łagodzący ból. To właśnie ta część została odrzucona przez Medicare. Trzykrotnie. Dopiero po trzeciej odmowie Magnuson odkrył, że decyzje podejmuje nie człowiek, a algorytm. „Byłem oburzony. To znaczy, że po drugiej stronie nie ma nawet człowieka? To AI? Bot?” – relacjonował.

Czym jest program WISeR i jak działa w praktyce

Program WISeR, czyli Wasteful and Inappropriate Service Reduction Model, objął sześć stanów: Waszyngton, Arizonę, New Jersey, Ohio, Oklahomę i Teksas. Pacjenci Medicare zostali włączeni do niego bez możliwości rezygnacji. Departament Zdrowia i Usług Społecznych USA (HHS) chce w ten sposób sprawdzić, czy AI uchroni podatników przed finansowaniem zbędnych procedur. Argumentem jest raport Medicare Payment Advisory Commission, według którego w 2022 roku nawet 5,8 miliarda dolarów wydano na „usługi o minimalnych korzyściach”.

Mechanizm działania opiera się na wcześniejszej autoryzacji. Lekarze chcący wykonać jeden z 15 objętych programem zabiegów – od zastrzyków steroidowych po artroskopię kolana – muszą przesłać uzasadnienie do internetowego portalu. Następnie algorytm ocenia, czy procedura zostanie objęta refundacją. Za każdy stan odpowiada inna firma technologiczna wybrana przez Centers for Medicare and Medicaid Services (CMS).

Zgodnie z założeniami, decyzja powinna zapaść w ciągu 72 godzin. Rzeczywistość okazuje się jednak znacznie mniej optymistyczna. Jeb Shepard, dyrektor ds. polityki w Washington State Medical Association, mówi wprost: „Sprzedano to środowisku lekarskiemu jako rozwiązanie błyskawiczne, a ludzie czekają cztery tygodnie lub dłużej. To populacja osób starszych – jeśli nie otrzymają opieki na czas, ich stan pogarsza się znacznie szybciej niż u osób młodszych”.

Problemy, z którymi mierzą się lekarze i pacjenci

Opóźnienia to nie jedyny problem. Lekarze zgłaszają również trudności w kontakcie z firmami technologicznymi. Yasamin Alazawi, technik z przychodni w Richland w stanie Waszyngton, wspomina pierwsze miesiące współpracy z firmą Virtix: „Nie mogłam się do nikogo dodzwonić. Czekałam w nieskończoność i nic z tego nie wynikało”. Sytuacja nieco się poprawiła, ale jak podkreśla, pierwsze tygodnie były koszmarem.

Dr Steve Aydin, specjalista od leczenia bólu z New Jersey, zwraca uwagę na kolejny aspekt – nieuzasadnione odmowy. Jego zdaniem algorytm nie bierze pod uwagę pełnego obrazu klinicznego. „Lekarz podejmuje decyzję na podstawie wywiadu, badania fizykalnego i rozmowy z pacjentem. AI nie wie, co czuje pacjent i przez co przechodzi” – argumentuje. W efekcie pacjenci muszą wracać na dodatkowe wizyty, a lekarze zatrudniają dodatkowy personel do obsługi odwołań.

Szczególnie niepokojący jest fakt, że każda apelacja w przychodni Alazawi kończy się odwróceniem decyzji. „W odmowach, które widziałam, wyglądało to tak, jakby nikt nie sprawdził dokumentacji. Ich uzasadnienie zwykle nie pokrywa się z ustaleniami lekarza” – mówi. To rodzi pytanie o jakość i rzetelność algorytmów oceniających wnioski.

Kontrowersyjny model wynagradzania firm technologicznych

Sedno problemu może leżeć w sposobie rozliczania firm odpowiedzialnych za algorytmy. Część ich wynagrodzenia zależy bowiem od oszczędności wygenerowanych dzięki odrzucaniu wniosków. To – zdaniem krytyków – tworzy wypaczoną motywację do odmawiania leczenia. „Dajesz firmie nastawionej na zysk udział w tym, co zaoszczędzi na odmowach. Trudno sobie wyobrazić, żeby to nie prowadziło do większej liczby odrzuceń” – komentuje Shepard.

CMS odpiera zarzuty, tłumacząc, że płatności są korygowane o takie wskaźniki jak satysfakcja klientów czy odsetek decyzji uchylonych w odwołaniach. Firma Humata Health, obsługująca Oklahomę, zapewnia z kolei, że jej algorytm nie ma możliwości odmówić. „Nasza sztuczna inteligencja może tylko powiedzieć tak. Jeśli brakuje informacji, sprawę przejmuje człowiek” – deklaruje Jeremy Friese, dyrektor generalny Humata Health. Firma chwali się 88-procentową skutecznością i zapowiada dalszą poprawę.

Eksperci o przyszłości AI w medycynie

Dr Jeff Marr z Brown University określa cały system mianem „czarnej skrzynki”. „Nie wiadomo, jak działają te modele, na jakich danych je trenowano i jakie informacje analizują. Badacze i opinia publiczna mają bardzo ograniczony wgląd w te procesy” – zauważa. Michelle Mello ze Stanford University dodaje, że przepisy regulujące AI w amerykańskiej ochronie zdrowia pochodzą w dużej mierze z 1976 roku, czyli z czasów, gdy o zaawansowanych algorytmach nikt nawet nie myślał.

Lekarze podkreślają, że nie są przeciwni AI jako takiej. Widzą jej potencjał w analizie obrazów medycznych czy wsparciu diagnostyki. Badanie ze Szwecji wykazało, że zastosowanie AI w mammografii zwiększyło wykrywalność raka piersi o 12 procent. Kluczowa różnica polega jednak na tym, że w tych przypadkach algorytm wspiera człowieka, a nie go zastępuje. Dr Aydin puentuje: „AI świetnie sprawdza się w stawianiu diagnozy. Ale nie zastąpi decyzji dobrego, doświadczonego lekarza”.

Keith Magnuson, który ostatecznie zdecydował się zapłacić za zabieg z własnej kieszeni, ma nadzieję, że jego historia pomoże innym. „Chcę pomóc ludziom, których nie stać na dodatkowe 600 dolarów i którzy nie powinni musieć ich płacić” – mówi. Jego zdaniem program wprowadzono bez namysłu i konsultacji społecznych. „Po prostu to zrobili. A to kiepski sposób prowadzenia spraw” – podsumowuje.