Белый дом заставил Anthropic отключить модели для сотен миллионов пользователей за выходные

Anthropic и раньше конфликтовала с Пентагоном, но новый эпизод вышел за рамки ведомственного спора. По данным The Wall Street Journal, предписание об экспортном контроле появилось после того, как исследователи Amazon обнаружили способ обойти защиту Fable 5 и получить от модели информацию, пригодную для кибератак. Глава Amazon Энди Джасси лично передал результаты в Белый дом, и решение последовало почти сразу.

Что стало поводом для отзыва?

9 июня Anthropic выпустила две модели. Fable 5 компания назвала «самой мощной моделью, которую мы когда-либо делали общедоступной». Mythos 5 использовала ту же базовую модель, но «с ослабленными ограничениями в ряде областей».

По данным The Wall Street Journal, исследователи Amazon провели серию промптов (текстовых запросов к модели) и обнаружили, что Fable 5 можно заставить выдавать информацию, полезную для проведения кибератак. Эту технику обычно называют джейлбрейком (jailbreak): обход встроенных ограничений модели через специально составленные запросы.

После того как Энди Джасси поделился находками с Белым домом, правительство 12 июня потребовало от Anthropic заблокировать доступ к обеим моделям для всех иностранных граждан, в том числе тех, кто работает внутри США. Среди сотрудников Anthropic немало иностранцев, и они тоже потеряли доступ к собственному продукту.

Что обнаружили и кто с кем не согласен?

• Anthropic подчинилась, но публично возразила. Компания заявила: «Мы выполняем юридическое предписание правительства и отключаем доступ к Fable 5 и Mythos 5 для всех пользователей. Однако мы не согласны с тем, что обнаружение узкой потенциальной уязвимости для джейлбрейка должно быть основанием для отзыва коммерческой модели, развёрнутой для сотен миллионов людей».
• Правительство не предоставило деталей. По словам Anthropic, конкретных данных об угрозе национальной безопасности компания не получила. Свидетельства об уязвимости были переданы устно, а сами уязвимости, по утверждению Anthropic, незначительны и доступны в других моделях, включая GPT 5.5.
• Версия про Китай не подтверждена. По данным Semafor, Белый дом отчасти руководствовался опасениями, что к Mythos 5 получила доступ группа, связанная с Китаем. Если это так, возникает риск дистилляции (distillation): процесса, при котором менее продвинутую модель обучают на ответах более мощной, фактически копируя её поведение. Советник Трампа Дэвид Сакс в публикации в X (бывший Twitter) не упомянул Китай, сосредоточившись на проблеме джейлбрейка. Anthropic заявила Semafor, что правительство не поднимало тему Китая в ходе обсуждений экспортного контроля.
• Отключение ударило по всем. Чтобы выполнить требование о блокировке иностранцев, Anthropic полностью отключила обе модели для всех клиентов без исключения.

Что это значит для вас?

Эта новость Anthropic выходит за пределы корпоративного конфликта. The Verge прямо пишет: инцидент дал «свежие аргументы политикам, правительствам и компаниям, которые уже настаивают на необходимости лидировать в технологиях самим».

Автору на Дзене стоит учитывать: если вы строите рабочие процессы вокруг одной конкретной модели, один правительственный звонок способен обнулить доступ за выходные. Держите запасной вариант: сохраняйте промпты и инструкции в формате, который можно перенести на другую модель.

Маркетологу и предпринимателю в РФ эпизод особенно показателен. Западные модели ИИ и без того ограничены санкциями, а теперь очевидно, что даже в странах без санкций доступ может быть отключён по политическим мотивам. Из доступных в РФ аналогов для текстовых задач работают YandexGPT и GigaChat. Они закрывают не все сценарии, но от внешнего рубильника не зависят.

Всем, кто следит за регулированием ИИ: это первый публичный случай отзыва коммерческой ИИ-модели по прямому правительственному предписанию в США. Вне зависимости от того, была ли угроза реальной, прецедент создан.

Прецедент создан, инструмент отозван, а доказательства до сих пор не опубликованы. Если вы пользуетесь любой зарубежной моделью как основным рабочим инструментом, сегодня хороший день, чтобы проверить, есть ли у вас план Б.

По материалам The Verge AI