США обязали Anthropic Claude отозвать две модели: найден обход защиты

Событие зафиксировал подкаст Equity издания TechCrunch. Ведущие Энтони Ха, Шон О'Кейн и Ребекка Беллан разобрали последствия запрета для разработчиков, строящих продукты на базе Anthropic Claude, и для тех, кто следит за возможным IPO компании. Примечательно, что решение вынесено администрацией Трампа, и авторы подкаста ставят открытый вопрос: реальная ли это угроза безопасности или очередной эпизод непростых отношений Anthropic с нынешней властью.

Что именно произошло?

Guardrails (защитные ограничения, встроенные фильтры, которые не дают модели выдавать опасный контент) Fable 5 были якобы обойдены исследователями из Amazon. Метод обхода в источнике не раскрыт, названа лишь сама возможность джейлбрейка (jailbreak, приём, позволяющий заставить ИИ проигнорировать запреты).

После этого правительство США потребовало от Anthropic убрать из доступа обе модели. Формальное основание: национальная безопасность. Конкретных сценариев угрозы источник не приводит.

Сам запрет стал публичным в конце прошлой недели. Решение касается непосредственно платформы Anthropic, на которой разработчики интегрируют Anthropic Claude в свои продукты.

Что говорит отрасль?

• Открытое письмо специалистов по кибербезопасности называет запрет опасным шагом. Конкретное число подписантов и их имена в источнике не указаны.
• Anthropic признала: те же джейлбрейки работают и на моделях конкурентов. Это ключевой аргумент компании: если уязвимость системная, блокировка одного поставщика не решает проблему.
• Ведущие подкаста допускают, что запрет может неожиданно сыграть Anthropic на руку. Логику этого тезиса они разбирают в полном выпуске, но сам факт публичного конфликта с властями делает историю компании заметнее для инвесторов перед возможным IPO.

Обращает на себя внимание формулировка «allegedly» (якобы) в описании находки Amazon. Источник не утверждает, что обход защиты подтверждён независимо, а фиксирует это как заявление.

Что делать с этим прямо сейчас?

Разработчикам в России и СНГ. Fable 5 и Mythos 5 и до запрета были доступны в РФ с ограничениями, через API с обходом. Сейчас их нет даже на платформе Anthropic для американских пользователей. Но главный урок не в конкретной модели: Anthropic сама подтвердила, что джейлбрейки работают и на чужих моделях. Если вы выбираете ИИ-инструмент для продакшена (промышленного использования, когда от модели зависит реальный продукт), тестируйте guardrails самостоятельно, независимо от бренда. Это касается и локально доступных решений: YandexGPT, GigaChat, открытых моделей (open-source, код которых можно скачать и запустить на своём сервере).

Авторам Дзена и контент-маркетологам. Новость не про конкретный инструмент, а про хрупкость фильтров. Если вы используете любую языковую модель для генерации текстов, помните: защита от нежелательного контента, это не гарантия, а барьер, который при определённых условиях обходится. Финальная ответственность за публикуемый текст остаётся на авторе.

Предпринимателям. Прецедент показывает, что государство может в любой момент отозвать доступ к модели по соображениям безопасности. Строить критическую бизнес-логику на единственном поставщике ИИ рискованно. Запасной план, вторая модель или локальное решение, перестаёт быть перестраховкой и становится необходимостью.

По данным TechCrunch Equity