Алгоритм без сердца: ИИ UnitedHealth оставляет пожилых без помощи

Крупнейшая страховая компания в США, UnitedHealthcare, обвиняется в использовании некорректно работающего алгоритма искусственного интеллекта, который опровергает решения врачей и необоснованно отказывает в критически важном медицинском обслуживании пожилым пациентам. Это приводит к преждевременному выписыванию пациентов из реабилитационных программ и медицинских учреждений, вынуждая их тратить сбережения на необходимую помощь, которая должна покрываться их планом Medicare Advantage, финансируемым государством.

Об этом говорится в иске , поданном на этой неделе в Федеральный окружной суд Миннесоты. Иск подан от имени наследников двух умерших людей, которым было отказано в покрытии расходов UnitedHealth. Также иск предполагает получение статуса коллективного для аналогично пострадавших людей, которых может быть десятки тысяч по всей стране.

Согласно расследованию Stat News, подтверждающему утверждения иска, проблемный алгоритм был разработан дочерней компанией UnitedHealth, NaviHealth. Названный nH Predict, этот алгоритм предназначен для оценки потребности пациентов в помощи после острых состояний, таких как травмы или заболевания. Однако он не учитывает ряд критически важных аспектов, включая сопутствующие заболевания, что может серьёзно исказить его оценки.

По словам бывшего сотрудника NaviHealth, Эмбер Линч, компания сосредоточена на прибыли, а не на заботе о пациентах. "Это все о деньгах и данных," - говорит она.

Иск утверждает, что алгоритм часто предлагает нереалистичные оценки, сокращая продолжительность пребывания в домах престарелых до нескольких дней и приводя к отказам в оплате от UnitedHealth. Когда врачи пытались оспорить эти решения, их мнение игнорировалось.

Ситуация усугубляется тем, что, несмотря на высокий процент отмены отказов в покрытии при апелляции, UnitedHealth продолжает придерживаться предсказаний алгоритма, даже усиливая требования к его точности.

В ответ на обвинения, UnitedHealth заявила, что алгоритм nH Predict не используется для принятия решений о покрытии, а лишь как руководство для информирования поставщиков услуг и семей о потребностях пациента.

Иск обвиняет UnitedHealth и NaviHealth в нарушении договора, добросовестности и справедливости, необоснованном обогащении и нарушении страхового законодательства во многих штатах. Он требует компенсации ущерба, возмещения за эмоциональный стресс, конфискации и/или возврата средств, а также прекращения отказов на основе AI-алгоритма.

Пока неясно, сколько UnitedHealth экономит за счет использования nH Predict, но, согласно оценкам Stat, это может составлять сотни миллионов долларов ежегодно.