- Chatboty AI, często używane do szukania porad zdrowotnych, mogą wprowadzać w błąd osoby z objawami bezdechu sennego.
- Badanie wykazało, że w ponad jednej trzeciej przypadków sztuczna inteligencja błędnie uspokajała pacjentów, zamiast zalecić wizytę u specjalisty.
- Nieleczony bezdech senny to poważne zaburzenie, które zwiększa ryzyko wielu chorób, takich jak nadciśnienie czy udar.
Chatboty AI: Ryzykowna rada w kwestii bezdechu sennego
Nowoczesne technologie, takie jak chatboty oparte na sztucznej inteligencji, stały się pierwszym miejscem, do którego wiele osób zwraca się z pytaniami o zdrowie - często zanim pójdą do lekarza. Jednak nowe badanie, którego wyniki przedstawiono podczas kongresu European Respiratory Society w Barcelonie, rzuca cień na ich wiarygodność, zwłaszcza w kontekście poważnych schorzeń.
Okazuje się, że w ponad jednej trzeciej przypadków chatboty AI mogą błędnie uspokajać osoby z objawami bezdechu sennego, sugerując, że problem nie jest poważny, zamiast niezwłocznie skierować je do lekarza. To zjawisko budzi poważne obawy, ponieważ nieleczony bezdech senny wiąże się ze znacznym ryzykiem dla zdrowia.
Obturacyjny bezdech senny, bo o nim mowa, to zaburzenie, w którym w trakcie snu dochodzi do wielokrotnych przerw w oddychaniu spowodowanych zwężeniem lub całkowitym zamknięciem dróg oddechowych. Objawy obejmują głośne chrapanie, widoczne zatrzymania oddechu, częste wybudzenia oraz uporczywą senność w ciągu dnia.
Bagatelizowanie tych sygnałów może mieć tragiczne konsekwencje, ponieważ nieleczony bezdech znacząco zwiększa ryzyko rozwoju nadciśnienia tętniczego, udaru mózgu, chorób serca, a nawet cukrzycy typu 2. Mimo to wiele osób nie zdaje sobie sprawy z powagi problemu lub po prostu ignoruje swoje dolegliwości. I to właśnie w takich sytuacjach chatboty okazały się najmniej pomocne.
Jak naukowcy sprawdzili rzetelność sztucznej inteligencji?
Zespół naukowców pod kierownictwem doktora Deebana Ratneswarana z Guy's and St Thomas' NHS Foundation Trust w Londynie postanowił dokładnie sprawdzić, czy chatboty AI wydają właściwe zalecenia osobom pytającym o objawy bezdechu sennego. Ich zainteresowanie budziło zwłaszcza to, jak systemy reagują na użytkowników, którzy sami bagatelizują swoje problemy lub wręcz sprzeciwiają się propozycji konsultacji lekarskiej.
Doktor Ratneswaran zauważył, że dotychczasowe badania skupiały się głównie na precyzji odpowiedzi chatbotów na konkretne zapytania, a nie na ich reakcji na sprzeciw pacjenta. Aby zbadać ten problem, badacze przygotowali siedem różnych scenariuszy, opisujących osoby z objawami bezdechu sennego. Każda z tych fikcyjnych postaci spełniała kryteria wymagające skierowania na badanie snu, które jest kluczowe do rozpoznania tego zaburzenia.
Następnie przeprowadzono łącznie 700 rozmów z pięcioma popularnymi i bezpłatnymi chatbotami: ChatGPT, Google Gemini, Claude, DeepSeek i Grok. Każdy przypadek był przedstawiany w dwóch wariantach. Informacje medyczne pozostawały identyczne, ale zmieniało się zachowanie "pacjenta". W pierwszej wersji użytkownik przyjmował zalecenia i był gotów zgłosić się do specjalisty.
W drugiej natomiast bagatelizował swoje dolegliwości i sprzeciwiał się propozycji skierowania do lekarza.
Niewłaściwe porady, gdy pacjent się sprzeciwia
Różnice w reakcjach modeli sztucznej inteligencji okazały się bardzo znaczące. W przypadku użytkowników, którzy akceptowali zalecenia, chatboty we wszystkich 350 rozmowach prawidłowo radziły konsultację lekarską. Problem pojawiał się jednak, gdy użytkownicy odrzucali taką propozycję.
Wówczas chatboty podtrzymywały swoje pierwotne, prawidłowe zalecenia jedynie w 225 z 350 rozmów, co stanowiło zaledwie 64 procent przypadków. - Prawidłowa porada była więc odrzucana w ponad jednej trzeciej przypadków wyłącznie ze względu na sposób mówienia pacjenta - podsumował doktor Ratneswaran. - Co więcej, najczęściej modele zawodziły w najpoważniejszych przypadkach.
Naukowcy zaobserwowali również, że w zależności od konkretnego modelu, w około 25 do 50 procentach rozmów z osobami bagatelizującymi objawy, chatbot proponował jedynie zmianę stylu życia zamiast konsultacji ze specjalistą. Zdaniem autorów badania, takie zalecenie może tylko utwierdzać użytkownika w decyzji o odłożeniu lub zrezygnowaniu z profesjonalnej diagnostyki, co w przypadku bezdechu sennego jest bardzo niebezpieczne.
Skłonność do zgody to pułapka
Badacze uważają, że takie zachowanie chatbotów wynika z ich charakterystycznej skłonności do zgadzania się z użytkownikiem i udzielania mu odpowiedzi zgodnych z jego oczekiwaniami.
W praktyce oznacza to, że jeśli ktoś wchodzi w interakcję z AI, bagatelizując objawy, system może nieświadomie wzmacniać to przekonanie, zamiast stanowczo alarmować o potencjalnym zagrożeniu. - Problemem często nie jest więc to, że chatboty czegoś nie wiedzą, ale to, jak reagują na sprzeciw - wyjaśnili autorzy badania.
Eksperci podkreślają, że zdrowie jest zbyt cenne, aby polegać wyłącznie na sztucznej inteligencji, zwłaszcza w przypadku symptomów, które mogą wskazywać na poważne schorzenia. Każdy, kto doświadcza potencjalnych objawów bezdechu sennego, powinien bezwzględnie skonsultować się z lekarzem, aby uzyskać fachową diagnozę i odpowiednie leczenie. Tylko w ten sposób można skutecznie chronić się przed groźnymi konsekwencjami nieleczonego zaburzenia.
7
