Autonomiczna AI w medycynie: lekarz już niepotrzebny?

Środowisko medyczne stanęło przed pytaniem, które jeszcze dekadę temu brzmiałoby jak scenariusz filmu science fiction: czy sztuczna inteligencja powinna przejąć pełną odpowiedzialność za diagnozowanie pacjentów? Najnowszy artykuł opublikowany w prestiżowym czasopiśmie JAMA wywołuje burzliwą dyskusję, proponując radykalną zmianę podejścia do roli lekarza w procesie leczenia. Autorzy publikacji przekonują, że autonomiczne systemy AI wkrótce osiągną poziom przewyższający jakiekolwiek połączenie człowieka i maszyny, a wymuszanie nadzoru lekarza może wręcz zaszkodzić pacjentom.

To stanowisko stoi w jawnej opozycji do głównego nurtu organizacji lekarskich, które widzą w sztucznej inteligencji wyłącznie narzędzie wspierające pracę specjalistów. Dyskusja nabiera szczególnego znaczenia, gdy przyjrzymy się, kto stoi za tą kontrowersyjną tezą i jakie interesy mogą się za nią kryć.

Kto stoi za kontrowersyjną tezą?

Głównym autorem artykułu jest Ezekiel Emanuel, ceniony bioetyk z University of Pennsylvania, który współtworzył reformę systemu opieki zdrowotnej za kadencji Baracka Obamy. Jego pozycja w amerykańskiej polityce zdrowotnej nadaje publikacji znaczną wagę. Współautorem jest Neal Khosla, dyrektor generalny firmy Curai Health zajmującej się telemedycyną opartą na AI. Warto zauważyć, że ojciec Neala, Vinod Khosla, jest inwestorem zarówno w OpenAI, jak i w Curai Health.

Ta zależność finansowa nie umyka uwadze krytyków. Dwóch z trzech autorów może bowiem bezpośrednio zyskać na przyszłości, którą opisują w swoim artykule. Z kolei organizacje takie jak American Medical Association czy American College of Physicians prezentują odmienne stanowisko, podkreślając, że AI powinna wspierać lekarzy, a nie ich zastępować. Robert Wachter, profesor medycyny, posuwa się nawet do określenia opieki prowadzonej wyłącznie przez AI mianem „klasy ekonomicznej” w medycynie.

Autorzy artykułu w JAMA odrzucają jednak tę hierarchię jako niepopartą dowodami i przedstawiają dwa zasadnicze argumenty przemawiające za autonomią systemów sztucznej inteligencji.

Dowody: AI pokonuje lekarzy w kluczowych zadaniach

Pierwszy argument dotyczy badań naukowych. Większość analiz przeprowadzonych od 2024 roku pokazuje, że AI samodzielnie dorównuje lub pokonuje lekarzy w pięciu podstawowych zadaniach rozumowania medycznego. Chodzi o zbieranie wywiadu, stawianie diagnoz, dobór badań, leczenie zgodne z wytycznymi oraz zarządzanie chorobami przewlekłymi.

Konkretne wyniki robią wrażenie. System konwersacyjny Google o nazwie AMIE osiągnął wyższe wyniki niż lekarze pierwszego kontaktu w niemal każdej kategorii podczas symulowanych rozmów z pacjentami. W analizie 377 skomplikowanych przypadków ChatGPT o3 wskazał poprawną diagnozę jako pierwszą w 60 procentach sytuacji, podczas gdy dwudziestu internistów osiągnęło wynik zaledwie 15,9 procenta. Microsoftowski „diagnostic orchestrator” znajdował właściwe rozpoznanie przy ograniczonym budżecie około czterokrotnie częściej niż lekarze, dodatkowo ponosząc niższe koszty.

Autorzy nie ignorują jednak badań o przeciwnych wnioskach. Tłumaczą je jednak jako przestarzałe lub słabe metodologicznie, na przykład dlatego, że nie uwzględniały najnowszych i najlepszych modeli. To spostrzeżenie otwiera drogę do drugiego, ważniejszego argumentu.

Przepowiednia: rola lekarza jako źródło błędów

Sedno publikacji stanowi prognoza dotycząca przyszłości. Modele AI rozwijają się w zawrotnym tempie, podczas gdy lekarze tracą swoje umiejętności przez coraz częstsze korzystanie z tych narzędzi. Sugeruje to badanie opublikowane w Lancet dotyczące kolonoskopii. Dystans między możliwościami maszyn a ludźmi będzie się tylko powiększać.

Gdy maszyna osiągnie wyraźną przewagę, lekarz pełniący funkcję kontrolną przestaje być zabezpieczeniem, a staje się źródłem błędów. Metaanaliza 106 eksperymentów potwierdza tę tezę. Gdy człowiek jest lepszy, współpraca przynosi korzyści. Gdy lepsza jest AI, człowiek pogarsza wynik, odwołując decyzje systemu w niewłaściwych miejscach.

Najbardziej wymowny przykład pochodzi z badania na realnych przypadkach pacjentów. GPT-4 samodzielnie osiągnął 92 procent skuteczności w rozumowaniu diagnostycznym. Lekarze korzystający z tego samego modelu uzyskali zaledwie 76 procent. Dodanie człowieka do równania paradoksalnie obniżyło jakość.

Autorzy przywołują historyczną analogię z szachami. Po pokonaniu Kasparowa przez Deep Blue w 1997 roku, przez lata najlepsze wyniki osiągały zespoły łączące ludzi i maszyny. Jednak od 2017 roku sama AI zaczęła pokonywać również te połączone zespoły.

Ostrzeżenie dla prawodawców i realne ograniczenia

Główny przekaz artykułu kierowany jest do twórców regulacji. Utrwalenie w przepisach wymogu, by lekarz podejmował ostateczną decyzję, może na lata zamrozić formę opieki, która wkrótce stanie się przestarzała. Zdaniem autorów, do 2030 roku autonomiczna AI będzie gotowa do przejęcia części, a może nawet wielu procesów klinicznych, przynajmniej tych ograniczonych do zadań poznawczych.

Konieczne jest już dziś przemyślenie kwestii odpowiedzialności prawnej, systemów płatności, regulacji oraz sposobów szkolenia personelu medycznego. Autorzy uczciwie przyznają jednak, że ich wizja ma słabe punkty. Niemal wszystkie dowody pochodzą z symulacji pojedynczych zadań, a nie z rzeczywistej opieki nad pacjentami. Przekazywanie informacji między człowiekiem a modelem pozostaje newralgicznym obszarem. Procedury fizyczne, takie jak operacje, porody czy kolonoskopie, pozostaną domeną ludzi, ponieważ robotyka nie jest jeszcze na to gotowa.

Nie można też zapominać o awariach autonomicznych systemów. Halucynacje, przerwy w dostępie do internetu czy ataki cybernetyczne to zagrożenia, których lekarze nie znają. Autorzy przyznają, że te ryzyka należy zestawić z wyższą skutecznością diagnostyczną.

Debata nad rolą AI w medycynie dopiero się rozkręca. Jedno jest pewne: odpowiedź na pytanie, czy lekarz powinien pozostać w pętli decyzyjnej, zdeterminuje kształt opieki zdrowotnej na następne dekady. Czas pokaże, czy zwycięży ostrożność organizacji lekarskich, czy wizja autorów z JAMA.

Źródło

Może Cię zainteresować