AI trafnie diagnozuje. Jej wykorzystanie w praktyce może jednak być jak wprowadzanie na rynek nie do końca przebadanego leku
Chyba każdy, kto musiał skorzystać ze szpitalnego oddziału ratunkowego (SOR), doświadczył ogromnie stresującej atmosfery tego miejsca, zwłaszcza w większych miastach. Nawet w Stanach Zjednoczonych, gdzie opieka medyczna kosztuje najdrożej na świecie (w przeliczeniu na mieszkańca), sytuacja zaskakująco przypomina to, z czym mają do czynienia polscy pacjenci.
Dlatego szpitale na całym świecie z radością powitałyby każde rozwiązanie odciążające SOR-y. Czy w takiej roli sprawdziłaby się sztuczna inteligencja? Prestiżowy tygodnik naukowy „Science” opublikował w tym roku bardzo ciekawe wyniki badania na ten temat. Składało się ono z sześciu eksperymentów, w których w roli głównej wystąpił model o1-preview firmy OpenAI (udostępniony po raz pierwszy we wrześniu 2024 r.).
Najbliższy praktyce klinicznej był test wykorzystujący surowe i zanonimizowane dane 76 losowo wybranych pacjentów, którzy zgłosili się do oddziału ratunkowego jednego z bostońskich szpitali. Eksperci oceniali diagnozy postawione przez dwóch lekarzy oraz te przygotowane przez AI, nie wiedząc (tzw. ślepa próba), co wyszło spod ręki człowieka, a co napisał algorytm.
Przewaga w triażu
Okazało się, że o1 przewyższał jakością odpowiedzi zarówno wcześniejsze modele OpenAI, jak i dwóch doświadczonych specjalistów. A jego przewaga najbardziej uwidoczniła się na początkowym etapie selekcji medycznej przypadków (czyli tzw. triażu), gdy decyzje trzeba podejmować bardzo szybko, dysponując zaledwie wycinkiem informacji. Model zaproponował dokładną lub bardzo bliską prawdy diagnozę w 67,1 proc. przypadków, podczas gdy lekarze uzyskali wyniki na poziomie 55,3 proc. i 50 proc. Potrafił bowiem umiejętnie łączyć rozproszone fragmenty nieustrukturyzowanych danych pochodzące z dokumentacji medycznej.
Z kolei w testach z wykorzystaniem NEJM Healer – edukacyjnej platformy, na której lekarze ćwiczą wnioskowanie kliniczne, prowadząc symulowane konsultacje z wirtualnymi pacjentami – o1 osiągnął jeszcze wyraźniejszą przewagę. Maksymalną liczbę punktów zdobył w 78 z 80 przypadków. Dla porównania: GPT-4 w 47, lekarze specjaliści w 28, rezydenci zaś w 16.
Również naukowcy z Google Research umieścili niedawno w internecie pracę (tzw. preprint, czyli już gotową publikację, ale jeszcze niezrecenzowaną przez innych specjalistów), prezentującą system AMIE (Articulate Medical Intelligence Explorer). Został on sprawdzony w warunkach zbliżonych do rzeczywistych – za pomocą wiadomości tekstowych algorytm rozmawiał z prawdziwymi pacjentami zapisanymi na wizyty w pewnej bostońskiej klinice.
AMIE zbierał wywiad i omawiał możliwe rozpoznania, a robił to nawet pięć dni przed spotkaniem chorego z lekarzem. Następnie na podstawie konwersacji układał listę prawdopodobnych diagnoz. Jak się okazało, ta najbardziej trafna znalazła się w pierwszej trójce jego typów w 75 proc. przypadków, a na pierwszym miejscu – w 56 proc. To wyniki porównywalne z osiągniętymi przez lekarzy, do których trafili pacjenci biorący udział w eksperymencie. Jak jednak przyznają autorzy badania, same plany leczenia zaproponowane przez ludzi były bardziej praktyczne i tańsze.
Wykrywacze rzadkich chorób
Na początku tego roku chińscy badacze przedstawili na łamach „Nature” system sztucznej inteligencji DeepRare. Ma przyjść z pomocą osobom dotkniętym przez choroby rzadkie (ponad 300 mln ludzi), które ze względu na ogromną różnorodność objawów klinicznych są dla lekarzy trudnym wyzwaniem. Dlatego pacjenci często doświadczają tzw. odysei diagnostycznej, trwającej średnio ponad pięć lat. W tym czasie padają ofiarą błędnych rozpoznań, niepotrzebnych interwencji medycznych oraz ogromnego obciążenia psychicznego i finansowego.
DeepRare bazuje na dużych modelach językowych (takich jak ChatGPT), ponad 40 specjalistycznych narzędziach analitycznych oraz aktualizowanych na bieżąco bazach wiedzy medycznej. Potrafi też przetwarzać różnorodne dane wejściowe: od zwykłych notatek lekarskich, przez wystandaryzowane terminy medyczne opisujące objawy pacjenta, aż po surowe wyniki zaawansowanych badań genetycznych. I na tej podstawie generuje ranking najbardziej prawdopodobnych schorzeń.
Skuteczność systemu poddano testom na prawie 6,5 tys. przypadków klinicznych. W bezpośrednim porównaniu z doświadczonymi specjalistami o ponaddziesięcioletnim stażu AI osiągnęła skuteczność na poziomie 64,4 proc., a lekarze trafnie wytypowali chorobę w pierwszym wyborze w 54,6 proc. przypadków. Dodatkową zaletą DeepRare jest przejrzystość. Każda proponowana diagnoza poparta zostaje logicznym, weryfikowalnym przez człowieka łańcuchem wnioskowania, odsyłającym do konkretnej literatury medycznej lub opisów podobnych przypadków.
Testować jak nowe leki
Ponieważ podobnych doniesień o nowych zastosowaniach AI w medycynie pojawia się coraz więcej, a algorytmy już pomagają medykom analizować m.in. zdjęcia z tomografii komputerowej, serwis internetowy „Nature” postanowił sprawdzić, czy jesteśmy świadkami przejmowania kontroli nad medycyną przez (nieludzko) inteligentne maszyny. Odpowiedź okazuje się następująca: owszem, systemy te robią spore wrażenie swoimi możliwościami, ale do zastępowania lekarzy w przychodniach czy szpitalach wciąż im daleko.
Entuzjazm studzą sami autorzy opisanych na początku tekstu algorytmów. Adam Rodman – lekarz z Harvard Medical School i współautor pracy o zastosowaniu AI na SOR-ze, zaangażowany również w tworzenie systemu AMIE – podkreśla w rozmowie z „Nature”, że imponująca skuteczność diagnostyczna to jedno, a bezpieczne wdrażanie do praktyki klinicznej to drugie. Dotychczasowe eksperymenty nie sprawdzały jeszcze, jak ta technologia zadziałałaby w prawdziwym szpitalu – ani algorytmy, ani lekarze biorący udział w bostońskim teście nie mieli okazji porozmawiać z pacjentami.
Żeby to zmienić, potrzebne byłyby rzetelne badania kliniczne – takie jak właśnie zaplanowane przez Google, które obejmie sporą grupę pacjentów z całych USA. Konkretów na ten temat dostarcza firmowy blog laboratorium AI Google Research. Ochotnicy mają być losowo przydzielani do grup (tzw. randomizacja, metoda uznawana za złoty standard w medycynie), a AMIE będzie mierzyć się z prawdziwymi pacjentami i ich realnymi dolegliwościami w warunkach opieki zdalnej (virtual care), a nie – jak dotychczas – z odgrywającymi role aktorami czy wyselekcjonowanymi opisami przypadków. Chodzi o to, by zebrać wiarygodne dane na dużą skalę i lepiej poznać nie tylko możliwości, lecz również ograniczenia systemu.
Zwłaszcza że medycyna bywa chaotyczna, bo nie zawsze objawy występujące u pacjentów pasują do tych z podręczników – zauważa w rozmowie z „Nature” dr David Wu z Harvard Medical School. I nie udało się jeszcze wykazać, żeby systemy AI potrafiły radzić sobie z tym bałaganem. Wu ma zresztą powody do ostrożności.
Kiedy poprosił testowany przez niego algorytm o drugą opinię dla pacjenta, otrzymał w odpowiedzi skrajnie niebezpieczną sugestię. To skłoniło go do opracowania, wraz z innymi naukowcami, metody NOHARM służącej do wyłapywania potencjalnie szkodliwych porad generowanych przez zaawansowane systemy AI. Jej autorzy postulują, żeby testy kliniczne algorytmów sztucznej inteligencji obowiązkowo raportowały zdarzenia niepożądane, jak robi się to przy badaniu nowych leków. Wstępne wyniki analiz zespołu Wu okazały się bowiem dość niepokojące – w przypadku 31 badanych algorytmów ryzyko wygenerowania potencjalnie poważnych szkód dla pacjenta występowało w ok. 22 proc. przypadków.
Lekarzu, lecz sam
Dlatego zastępowanie lekarzy przez AI to przyszłość, i to raczej dalsza. Za to już dziś algorytmy sprawdzają się w roli ich asystentów – odciążając od wykonywania prostszych zadań, jak sporządzanie notatek czy odnawianie recept (to drugie testowane jest właśnie w amerykańskim stanie Utah). Przykładem takiej udanej kooperacji człowiek–maszyna okazał się system AI Consult, na podstawie elektronicznej dokumentacji podpowiadający medykom w Nairobi, jakie badania należy zlecić i jakie sposoby leczenia wdrożyć. Dzięki temu – jak wynika z testów – popełniali oni o 16 proc. mniej błędów diagnostycznych i o 13 proc. mniej terapeutycznych. Dlatego – zdaniem Karandeepa Singha, specjalisty od medycznej AI z University of California w San Diego – przyszłość należy do maszyn włączanych do zespołów lekarzy. Zwłaszcza że obecna opieka zdrowotna sama daleka jest od ideału.
Choć i w tym obszarze pojawiają się sygnały ostrzegawcze, np. publikacja z października 2025 r. w „The Lancet Gastroenterology and Hepatology”. Opisuje wyniki badania przeprowadzonego przez międzynarodowy zespół naukowców w czterech ośrodkach medycznych w Polsce. Wzięło w nim udział 19 doświadczonych lekarzy mających na koncie ponad 2 tys. przeprowadzonych kolonoskopii.
Pod koniec 2021 r. w ich miejscach pracy zainstalowano nowoczesny system AI, który w czasie rzeczywistym analizuje obraz z kamery i pomaga wykrywać gruczolaki, czyli zmiany przednowotworowe w jelicie. Był jednak aktywowany losowo tylko w wybrane dni. W ten sposób badacze mogli sprawdzić, jak rutynowy kontakt z tym wirtualnym asystentem wpłynie na jakość pracy medyków wtedy, gdy zdani byli wyłącznie na siebie.
Wyniki okazały się niepokojące. W trzymiesięcznym okresie przed wprowadzeniem AI lekarze wykrywali gruczolaki średnio u 28,4 proc. pacjentów. Gdy jednak przyzwyczaili się do wsparcia ze strony algorytmów, ich skuteczność podczas niewspomaganych przez AI kolonoskopii spadła do 22,4 proc. Co to oznacza w praktyce? Jak sugerują autorzy, przyzwyczajenie do podpowiedzi maszyny może osłabić motywację i koncentrację klinicystów, a także ich poczucie odpowiedzialności za podejmowane decyzje.
Problem zaś jest na tyle nowy, że obecnie nie ma żadnych sprawdzonych metod zapobiegania zjawisku obniżenia kwalifikacji (ang. deskilling). Trudno więc się dziwić, że 70 proc. pielęgniarek i 77 proc. lekarzy w USA obawia się utraty umiejętności wskutek nadmiernego polegania na AI.
Zresztą kwestia ta nie dotyczy tylko medycyny. Badacze z firmy Anthropic (stworzyła popularny model Claude) przeprowadzili eksperyment z udziałem 52 inżynierów oprogramowania, którym zlecono proste zadanie, ale połowa mogła korzystać z asystenta AI. W późniejszym teście sprawdzającym, czego się nauczyli, grupa wspierana przez sztuczną inteligencję wypadła wyraźnie gorzej, uzyskując średnio 50 proc. punktów wobec 67 proc. w grupie bez AI. Najwięcej kłopotu przysporzyło wykrywanie błędów w kodzie komputerowym, co sugeruje, że informatycy nie rozumieli do końca, jak on działa, choć sami go napisali (ale z pomocą AI).
Postęp w dziedzinie medycznej sztucznej inteligencji przypomina zatem wprowadzanie na rynek bardzo silnego, choć nie do końca przebadanego leku. Algorytmy mogą rozładować kolejki w szpitalach, nie wolno jednak zapominać o poważnych skutkach ubocznych. A złota zasada medycyny brzmi: „Przede wszystkim nie szkodzić”. I w erze cyfrowych asystentów nabiera ona nowego znaczenia. Chodzi już nie tylko o to, by nie szkodzić pacjentom generowanymi przez maszyny błędami, lecz także by nie zaszkodzić samym sobie, oddając algorytmom ciężko wypracowaną, ekspercką wiedzę i obniżając własne kwalifikacje.