- Sztuczna inteligencja, coraz częściej doradzająca w kwestiach zdrowotnych, może nieoczekiwanie podnosić koszty leczenia.
- Badanie naukowców z Japonii i USA ujawniło, że modele językowe AI wykazują stronniczość, preferując droższe i bardziej znane leki.
- Niestety, stosowanie się do takich rekomendacji może skutkować wzrostem rocznych wydatków na leki nawet o miliony dolarów.
AI podbija koszty leczenia? Milionowe straty na horyzoncie
Sztuczna inteligencja, w tym popularne duże modele językowe (LLM), takie jak ChatGPT czy Claude, coraz śmielej wkracza w nasze życie, również w obszarze zdrowia. Ich rola w dostarczaniu informacji o metodach leczenia rośnie, obiecując łatwiejszy dostęp do wiedzy. Jednak najnowsze badanie przeprowadzone przez naukowców z Osaka Metropolitan University w Japonii oraz University of Texas w USA ujawniło istotne ograniczenia tych narzędzi.
Okazuje się, że modele AI wykazują stronniczość w sugerowaniu terapii, co w praktyce mogłoby prowadzić do znaczącego wzrostu kosztów leczenia, sięgającego nawet dziesiątek milionów dolarów rocznie.
Eksperci szacują, że gdyby lekarze w Stanach Zjednoczonych postępowali zgodnie z zaleceniami generowanymi przez sztuczną inteligencję, roczne koszty zakupu leków mogłyby wzrosnąć o około 55,6 miliona dolarów amerykańskich. To astronomiczny wzrost realizacji recept o 1019 procent. To odkrycie budzi poważne obawy o to, jak w przyszłości sztuczna inteligencja będzie wpływać na nasze zdrowie i nasze portfele.
Dlaczego sztuczna inteligencja preferuje droższe leki?
Naukowcy przetestowali kilka popularnych modeli LLM, w tym GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 oraz MedGemma. Zadaniem AI było rekomendowanie maksymalnie trzech produktów leczniczych zatwierdzonych przez amerykańską Agencję Żywności i Leków (FDA) dla wielu symulowanych scenariuszy. Wyniki pokazały jasny trend: modele miały tendencję do faworyzowania znanych marek oraz produktów o większej widoczności w internecie.
Działo się tak, nawet gdy dostępne były tańsze lub generyczne alternatywy. W badaniu ustalono, że choć dla każdej analizowanej substancji czynnej na rynku dostępnych było średnio 5,5 produktu zatwierdzonego przez FDA, to w przypadku aż 97,5 procent rekomendacji AI wskazywało jeden i ten sam produkt jako "pierwszy wybór".
Te preferowane leki to zazwyczaj:
- produkty markowe,
- preparaty o wysokiej widoczności w wynikach wyszukiwania Google,
- leki posiadające własne strony w serwisie Wikipedia.
Badanie ujawniło również, że niektóre rekomendacje były wręcz niezgodne z oficjalnymi danymi regulacyjnymi - zdarzało się, że sztuczna inteligencja wskazywała na produkty, których produkcja została już wstrzymana.
Jakie są konsekwencje dla pacjentów i systemu zdrowia?
Potencjalne skutki finansowe tych stronniczych rekomendacji oszacowano na podstawie danych ze Stanów Zjednoczonych, zakładając scenariusz, w którym lekarze stosowaliby się do zaleceń generowanych przez AI. "Ustaliliśmy, że roczne koszty zakupu leków wzrosłyby o około 55,6 miliona dolarów amerykańskich" - podsumował profesor Ueda z Osaka Metropolitan University. - "Oznacza to wzrost kosztów realizacji recept o 1019 procent".
Co więcej, nawet gdy naukowcy dali modelom AI jasne polecenie, aby priorytetowo traktowały produkty tańsze lub leki generyczne, rekomendacje uległy zmianie, ale nadal koncentrowały się na ograniczonej grupie produktów. To pokazuje, jak głęboko zakorzeniony jest problem stronniczości w tych systemach.
Jak korygować błędy sztucznej inteligencji?
Wyniki badania jednoznacznie wskazują na konieczność dokładnej oceny systemów sztucznej inteligencji wykorzystywanych w ochronie zdrowia. "Nasze ustalenia wskazują na konieczność oceny systemów sztucznej inteligencji w ochronie zdrowia pod kątem stronniczości w doborze produktów oraz sposobu, w jaki uwzględniają one informacje o kosztach i wymogach regulacyjnych" - podkreślił profesor Ueda.
Aby AI mogła być prawdziwie pomocna i nie generowała niepotrzebnych kosztów, kluczowe jest wprowadzenie odpowiednich mechanizmów kontroli. "Łączenie systemów AI z wiarygodnymi źródłami informacji o lekach oraz zapewnienie nadzoru ze strony człowieka może pomóc w dokonywaniu bardziej właściwych wyborów terapeutycznych" - dodał profesor.
To oznacza, że choć AI ma ogromny potencjał, ludzkie doświadczenie i czujność nadal pozostają niezastąpione w delikatnej dziedzinie medycyny.
