Nowe badanie pokazuje, że systemy AI używane do diagnozowania nowotworów nie działają jednakowo dla wszystkich pacjentów. Naukowcy wskazali przyczyny i stworzyli podejście, które znacznie redukuje te różnice.
Stronniczość w cyfrowej patologii
Badanie przeprowadzone przez naukowców z Harvard Medical School wykazało, że modele sztucznej inteligencji potrafią wydedukować dane demograficzne pacjenta bezpośrednio z obrazów tkanek. Ta nieoczekiwana zdolność może wprowadzać stronniczość w diagnozowaniu raka, prowadząc do różnic w dokładności w zależności od rasy, płci i wieku pacjenta.
Po przeanalizowaniu czterech popularnych modeli AI, badacze odkryli, że ich skuteczność diagnostyczna była niższa dla określonych grup demograficznych. Modele miały trudności z rozróżnianiem podtypów raka płuc u pacjentów pochodzenia afroamerykańskiego i u mężczyzn, a także z klasyfikacją podtypów raka piersi u młodszych pacjentek. Rozbieżności te pojawiły się w około 29% analizowanych zadań diagnostycznych.
Źródła błędów w systemach AI
Zespół zidentyfikował trzy główne przyczyny stronniczości. Po pierwsze, dane treningowe są często niezrównoważone, ponieważ próbki tkanek od niektórych grup demograficznych są trudniej dostępne. Powoduje to, że modele AI mają trudności z dokładnym diagnozowaniem nowotworów w niedostatecznie reprezentowanych grupach.
Kolejnymi przyczynami są różnice w częstości występowania chorób oraz zdolność AI do wykrywania subtelnych różnic molekularnych. Systemy mogą uczyć się rozpoznawać mutacje w genach i używać ich jako skrótów do klasyfikacji nowotworu, co obniża dokładność w populacjach, gdzie te mutacje są rzadsze.
Nowe podejście na rzecz sprawiedliwej diagnostyki
W odpowiedzi na zidentyfikowane problemy, naukowcy opracowali system o nazwie FAIR-Path. Wykorzystuje on metodę uczenia maszynowego, która modyfikuje proces treningu AI. Dzięki temu modele skupiają się na kluczowych różnicach, takich jak typy nowotworów, jednocześnie zmniejszając uwagę poświęcaną cechom demograficznym.
Zastosowanie FAIR-Path w testowanych modelach pozwoliło zredukować rozbieżności diagnostyczne o około 88%. Wyniki te sugerują, że możliwe jest znaczne zmniejszenie stronniczości bez konieczności posiadania idealnie zrównoważonych zbiorów danych. Celem jest tworzenie systemów AI, które wspierają ekspertów, zapewniając szybkie, dokładne i sprawiedliwe diagnozy dla wszystkich pacjentów.
Źródło: https://www.sciencedaily.com/releases/2025/12/251217231230.htm
