Nowe badanie naukowców z Harvard Medical School wykazało, że modele AI w patomorfologii mogą identyfikować dane demograficzne pacjentów. Może to prowadzić do uprzedzeń w diagnostyce nowotworów.
Nieoczekiwane zdolności sztucznej inteligencji
Według badania przeprowadzonego przez naukowców z Harvard Medical School, systemy sztucznej inteligencji stosowane w patomorfologii potrafią wydobywać z preparatów tkankowych informacje demograficzne. Dzieje się tak, mimo że preparaty te powinny zawierać jedynie dane dotyczące choroby, a nie dane osobowe pacjenta.
Zdolność AI do identyfikacji danych, które nie powinny być widoczne, została określona przez badaczy jako wydobywanie „za dużo danych”. Stwarza to ryzyko, że diagnozy stawiane przez algorytmy nie będą w pełni obiektywne i mogą być obarczone uprzedzeniami.
Rola patomorfologii w leczeniu nowotworów
Patomorfologia odgrywa kluczową rolę w procesie diagnozowania i leczenia chorób nowotworowych. Analiza preparatu tkankowego pobranego od pacjenta dostarcza lekarzom niezbędnych informacji o charakterze i zaawansowaniu schorzenia.
Standardowo, preparaty wykorzystywane w badaniach patomorfologicznych są anonimizowane. Oznacza to, że nie powinny one ujawniać żadnych danych osobowych pacjenta, koncentrując się wyłącznie na informacjach istotnych z medycznego punktu widzenia.
Konsekwencje dla diagnostyki onkologicznej
Głównym zagrożeniem wynikającym z odkrycia jest możliwość powstawania uprzedzeń diagnostycznych w systemach AI. Jeśli algorytm nauczy się korelować dane demograficzne z obrazem tkanki, może to wpłynąć na jego ocenę w różnych grupach pacjentów.
Odkrycie naukowców z Harvardu podkreśla potrzebę dalszych badań i tworzenia zabezpieczeń w medycznych systemach AI. Celem jest zapewnienie, aby technologie te były sprawiedliwe i bezstronne dla wszystkich pacjentów, niezależnie od ich cech demograficznych.
Źródło: https://www.rynekzdrowia.pl/Serwis-Onkologia/AI-nie-taka-pomocna-w-tej-diagnostyce-Sa-nowe-badania-z-Harvardu,279292,1013.html
