Włoscy naukowcy wykazali, że sztuczna inteligencja popełnia poważne błędy w diagnozach medycznych. W badaniu chatbot błędnie rozpoznał raka skóry i pomylił typy nowotworu piersi.
Niepokojące wyniki włoskiego badania
Badanie prowadzone pod kierunkiem Vincenzo Guastafierro z Instytutu Klinicznego i Uniwersytetu Humanitas w Rozzano przeanalizowało odpowiedzi ChatGPT na 200 fikcyjnych przypadków klinicznych. Wyniki pokazały, że w około 70% przypadków sztuczna inteligencja udzieliła błędnych odpowiedzi, a tylko 32% z nich było całkowicie wolnych od pomyłek.
Do najpoważniejszych błędów należały błędne diagnozy raka skóry oraz pomylenie dwóch różnych typów nowotworu piersi. Co więcej, w 30% przypadków chatbot odwoływał się do nieistniejących lub niedokładnych źródeł medycznych, co podważa jego wiarygodność w zastosowaniach klinicznych.
Skala i charakter pomyłek AI
Chociaż w 62% przypadków odpowiedzi chatbota uznano za częściowo użyteczne, wysoki odsetek błędów wskazuje na istotne ograniczenia technologii. Pomyłki w diagnozach onkologicznych mogłyby prowadzić do poważnych konsekwencji zdrowotnych dla pacjentów, opóźniając właściwe leczenie lub prowadząc do wdrożenia nieprawidłowej terapii.
Problem cytowania nieistniejących źródeł dodatkowo komplikuje weryfikację informacji. Zarówno lekarze, jak i pacjenci, mogliby mieć trudności z oceną rzetelności diagnozy postawionej przez AI, co stanowi poważne ryzyko w procesie leczenia.
Lekarz wciąż niezastąpiony
Autor badania, Vincenzo Guastafierro, podkreśla, że należy zachować dużą ostrożność w wykorzystywaniu sztucznej inteligencji w medycynie. Zaznaczył, że „oko kliniczne lekarza pozostaje niezastąpione”, a AI powinna być traktowana jedynie jako narzędzie wspierające, a nie zastępstwo dla ludzkich kompetencji.
Wyniki badania z Włoch uwrażliwiają na konieczność odpowiedzialnego wdrażania nowych technologii w sektorze zdrowia. Pokazują, że sztuczna inteligencja, choć obiecująca, wymaga jeszcze wielu udoskonaleń, zanim będzie mogła stać się w pełni bezpiecznym i wiarygodnym narzędziem w rękach lekarzy.
Źródło: https://www.medonet.pl/biznes-system-i-zdrowie/digital-innovation,sztuczna-inteligencja-w-medycynie--wyniki-badan-budza-obawy,artykul,68996469.html
