Искусственный интеллект в медицине и здравоохранении США блокирует лечение: пациенты ждут решений ИИ днями

Программа WISeR стала первым масштабным экспериментом, где алгоритм встал между врачом и пациентом в государственной медицине США. По данным Ars Technica, организация Electronic Frontier Foundation (EFF, фонд защиты цифровых прав) в начале июня опубликовала федеральные документы, полученные в ходе судебного разбирательства. Эти документы подтвердили массовые жалобы медиков: технические сбои, необъяснимые отказы в лечении, многодневные задержки решений. Для тех, кто следит за внедрением искусственного интеллекта в медицине и здравоохранении, этот кейс даёт конкретную картину того, что идёт не так, когда алгоритм получает право вето над врачом.

Что такое WISeR и зачем её запустили?

WISeR расшифровывается как Wasteful and Inappropriate Service Reduction, по-русски «Сокращение расточительных и неуместных услуг». Цель системы: с помощью ИИ и машинного обучения проверять обоснованность назначений врачей в Medicare (федеральная программа медицинского страхования для пожилых американцев) и отсекать мошенничество.

До WISeR программа Medicare не требовала от врачей предварительного одобрения (prior authorization, предварительное разрешение страховщика на процедуру) для многих видов помощи. Теперь алгоритм решает, получит ли пациент лечение.

Программу запустили в январе 2025 года в шести штатах:

• Нью-Джерси
• Огайо
• Оклахома
• Техас
• Аризона
• Вашингтон

По данным Ars Technica, администрация планирует продлить WISeR до конца 2031 года и расширить охват.

Что пошло не так на практике?

Документы EFF и отчёты СМИ зафиксировали несколько типов сбоев:

• Технические ошибки. Система выдавала необъяснимые отказы, не позволяя врачам назначить лечение.
• Длительные задержки. Решения по запросам затягивались на дни, пока пациенты оставались без помощи.
• Страдания пациентов. Один из медицинских работников в обратной связи описал, как пациенты плакали от боли в ожидании одобрения алгоритма.

Один из медицинских работников назвал программу «позором для человеческого рода» и сообщил, что видел, как пациенты плачут от боли, ожидая одобрения лечения. : Из документов EFF, опубликованных Ars Technica

Характерная деталь: сбои начались почти сразу после запуска. Это означает, что систему вывели на реальных пациентов без достаточной обкатки.

Законность программы под вопросом

В мае Счётная палата правительства США (Government Accountability Office, GAO, аналог российской Счётной палаты) установила, что администрация Трампа не соблюла установленные процедуры при запуске WISeR. Это ставит под сомнение законность всей программы.

Конгрессвумен Сьюзан Делбини (демократ от штата Вашингтон) попыталась провести голосование комитета, чтобы обязать администрацию раскрыть дополнительные документы о WISeR. Республиканцы заблокировали инициативу.

Понятно, почему администрация делает всё возможное, чтобы скрыть эти документы. Чем больше американцы узнают о WISeR, тем сильнее их возмущение тем, что администрация Трампа ставит под угрозу их медицинскую помощь и пытается приватизировать Medicare. : Сьюзан Делбини, конгрессвумен (демократ, Вашингтон)

Несмотря на выводы GAO и общественную критику, программа продолжает работу и расширяется.

Что это значит для вас, по ролям

Авторам Дзена и копирайтерам. Кейс WISeR даёт конкретный, документально подтверждённый пример для контента о рисках ИИ. Это не абстрактные страхи, а реальные отказы врачам и слёзы пациентов. Если пишете об искусственном интеллекте в медицине и здравоохранении, ссылайтесь на документы EFF, они в открытом доступе.

Маркетологам и предпринимателям. Любой проект, где алгоритм принимает решение «да/нет» по критически важному запросу (одобрение кредита, допуск к услуге, медицинская маршрутизация), рискует получить такой же скандал. Урок: нельзя убирать человека из цепочки, пока система не прошла стресс-тест на реальных данных с обратной связью.

Тем, кто работает с ИИ в России и СНГ. Из доступных в РФ решений для здравоохранения есть, например, сервисы на базе платформы СберМедИИ. Но ни один из них пока не имеет права блокировать назначения врача. Кейс WISeR показывает, почему эту границу нельзя пересекать без многолетней проверки.

Программа WISeR работает в шести штатах, расширяется и запланирована до 2031 года, несмотря на заключение GAO о процедурных нарушениях. Если вам важна тема ИИ в критических решениях, следите за публикациями EFF: именно их судебные запросы вытаскивают на свет то, что администрация предпочла бы не показывать.