Nowe badanie pokazuje, że systemy AI do diagnozy nowotworów działają z różną dokładnością w zależności od demografii pacjentów. Naukowcy stworzyli metodę, która znacznie redukuje te różnice.
Ukryta stronniczość w cyfrowej patologii
Naukowcy z Harvard Medical School odkryli, że modele sztucznej inteligencji (AI) używane w patologii potrafią wywnioskować dane demograficzne pacjentów bezpośrednio z obrazów tkanek. Ta nieoczekiwana zdolność wprowadza stronniczość, powodując, że dokładność diagnozy różni się w zależności od rasy, płci i wieku pacjenta.
Analiza czterech popularnych modeli AI wykazała, że systemy miały trudności na przykład z rozróżnianiem podtypów raka płuc u pacjentów afroamerykańskich i mężczyzn. Zmniejszoną dokładność zaobserwowano również przy klasyfikacji podtypów raka piersi u młodszych pacjentek oraz w wykrywaniu raka piersi, nerek, tarczycy i żołądka w niektórych grupach demograficznych. Rozbieżności te wystąpiły w około 29% analizowanych zadań diagnostycznych.
Źródła problemu w danych i algorytmach
Zespół zidentyfikował trzy główne przyczyny błędu. Po pierwsze, dane treningowe są często niezrównoważone, ponieważ próbki tkanek są łatwiejsze do uzyskania od niektórych grup demograficznych. Po drugie, różnice w częstości występowania pewnych nowotworów w określonych populacjach sprawiają, że modele AI stają się bardziej precyzyjne dla tych grup, a mniej dla innych.
Trzecim czynnikiem jest zdolność AI do wykrywania subtelnych różnic molekularnych, takich jak mutacje w genach sterujących rozwojem raka. Systemy mogą używać tych cech jako „skrótów” do klasyfikacji nowotworu, co obniża ich skuteczność w populacjach, gdzie te mutacje są rzadsze. W rezultacie AI może skupiać się na sygnałach bardziej związanych z demografią niż z samą chorobą.
FAIR-Path jako rozwiązanie problemu
W odpowiedzi na te wyzwania naukowcy opracowali system o nazwie FAIR-Path. Wykorzystuje on metodę uczenia maszynowego, która modyfikuje proces treningu AI. Dzięki temu modele uczą się koncentrować na kluczowych różnicach, takich jak typy nowotworów, jednocześnie zmniejszając wagę cech demograficznych.
Zastosowanie FAIR-Path w testowanych modelach AI pozwoliło na zredukowanie rozbieżności diagnostycznych o około 88%. Wyniki te sugerują, że możliwe jest znaczne zmniejszenie stronniczości bez konieczności tworzenia idealnie zrównoważonych zbiorów danych. Celem jest rozwój systemów AI, które zapewnią szybką, dokładną i sprawiedliwą diagnostykę dla wszystkich pacjentów.
Źródło: https://www.sciencedaily.com/releases/2025/12/251217231230.htm
