Algorytmy medyczne wymknęły się spod kontroli

Algorytmy medyczne są wykorzystywane w całym spektrum opieki medycznej w celu diagnozowania chorób, przedstawiania rokowania, monitorowania stanu zdrowia pacjentów i wspierania zadań administracyjnych, takich jak planowanie terminu wizyt. Jednak w Stanach Zjednoczonych historia wykorzystywania w tym celu techniki pełna jest przypadków, kiedy wymknęła się ona spod kontroli. Stwierdzano różne problemy, od nieuzasadnionego uznania ofiar przemocy seksualnej za osoby o wysokim ryzyku stosowania narkotyków, przez błędy diagnostyczne algorytmu wykrywającego posocznicę, wykorzystywanego przez ponad 100 systemów opieki zdrowotnej w całym kraju, po oprogramowanie wspomagające podejmowanie decyzji klinicznych (clinical decision support, CDS), które zmniejszało szanse na skierowanie na kompleksowe leczenie milionów czarnoskórych pacjentów.