Искусственный интеллект в медицине обошёлся в $942 млн: ИИ завышает диагнозы ради страховых выплат

The New York Times назвала этот анализ очередным свидетельством того, что искусственный интеллект в медицине не снижает, а увеличивает расходы на здравоохранение. Конфликт между больницами и страховщиками по поводу оплаты лечения существовал всегда, но газета отмечает: применение ИИ обеими сторонами усугубляет ситуацию.

Суть проблемы проста. Больницы используют ИИ-инструменты, которые автоматически «апкодируют» диагнозы: описывают состояние пациента как более сложное, чем оно есть. Страховая компания получает заявку на большую сумму. По данным BCBSA, резко выросло число пациентов, задокументированных как имеющие сложные заболевания, но при этом нет никаких свидетельств того, что само лечение изменилось.

Как работает завышение диагнозов через ИИ?

• ИИ анализирует медицинскую документацию и подбирает коды диагнозов, которые дают максимальную страховую выплату. Код диагноза (код из международной классификации болезней, по которому страховая определяет сумму возмещения) становится инструментом заработка, а не описания реального состояния пациента.
• Разрыв между кодированием и лечением. BCBSA прямо указывает на «явное несоответствие между кодированием и лечением»: диагнозы на бумаге стали тяжелее, а набор процедур и назначений остался прежним.
• ИИ применяют обе стороны. Страховщики тоже внедряют ИИ для проверки заявок и отклонения завышенных претензий. По выражению The New York Times, это превращается в гонку алгоритмов.

Что говорят участники рынка?

Люк Чалкер, старший вице-президент BCBSA, описал ситуацию жёстко:

Это не война. Это полностью односторонняя бойня. : Люк Чалкер, старший вице-президент BCBSA

По его словам, страховщики оказываются проигравшей стороной.

Шив Рао, основатель ИИ-стартапа Abridge, признал, что бесконтрольное применение ИИ может привести к «ужасному антиутопическому будущему, в котором никто не хочет жить», где «боты воюют с ботами, агенты (ИИ-агенты, программы, выполняющие задачи автономно) воюют с агентами». Впрочем, Рао добавил, что ИИ также может снизить напряжённость и сократить расходы, хотя конкретных данных в пользу этого сценария не привёл.

Как попробовать разобраться в теме на практике?

1. Прочитайте анализ BCBSA и публикацию The New York Times, чтобы увидеть конкретные механизмы завышения диагнозов через ИИ.
2. Проверьте, используют ли ваши подрядчики или клиники ИИ при кодировании диагнозов. В России страховые компании ОМС и ДМС уже начинают автоматизировать проверку заявок, и тот же сценарий может повториться.
3. Если вы автор медицинского контента или маркетолог в сфере здравоохранения, разберитесь в терминах: «апкодирование» (завышение кода диагноза для увеличения выплаты) и «медицинское кодирование» (присвоение стандартного кода заболеванию по международной классификации).

Касается ли это России?

В российской системе ОМС и ДМС пока нет массового внедрения ИИ для автоматического кодирования диагнозов. Но направление движения совпадает: «Сбер» и другие игроки активно продвигают ИИ-решения для медицинской документации. Прямого аналога BCBSA в России нет, ближайшие по функции организации это ФФОМС (Федеральный фонд обязательного медицинского страхования) и крупные страховщики ДМС.

Что делать с этим прямо сейчас, по ролям

Авторам Дзена и копирайтерам в медицинской тематике: тема горячая и понятная широкой аудитории. Объясните механику простым языком: ИИ не лечит хуже, он оформляет бумаги дороже.

Маркетологам в сфере здравоохранения: если ваш продукт или клиника использует ИИ для документооборота, проверьте, не попадаете ли вы в зону репутационного риска. Фраза «мы используем ИИ» может восприниматься негативно после таких публикаций.

Предпринимателям и управленцам клиник: изучите американский опыт до того, как регуляторы в России обратят внимание на эту проблему. 942 миллиона долларов потерь за два года это аргумент, который обязательно всплывёт в дискуссиях о регулировании ИИ в отечественной медицине.

Частые вопросы

ИИ ставит ложные диагнозы?

Нет. Проблема не в ошибочных диагнозах, а в выборе более сложных кодов для реального состояния пациента. Лечение при этом не меняется, меняется только сумма в страховой заявке.

Касается ли это обычных пациентов?

Напрямую нет: пациент получает то же лечение. Косвенно да: рост расходов страховщиков в конечном счёте ведёт к повышению стоимости страховок для всех.

Есть ли закон, запрещающий использование ИИ при кодировании?

На момент публикации анализа BCBSA ни в США, ни в России нет прямого запрета на применение ИИ при кодировании медицинских диагнозов. Но после публикации таких данных регуляторное внимание к этой сфере наверняка вырастет.