США заблокировали модели Anthropic, но опасности искусственного интеллекта это не снимет

В конце прошлой недели Anthropic была вынуждена отключить две свои новые модели: Claude Fable 5 и Mythos 5. Причина: директива правительства США об экспортном контроле, запрещающая доступ к этим сервисам «любому иностранному гражданину». По данным Ars Technica, компания с пятницы ведёт переговоры с Белым домом, но на момент публикации договорённости о возобновлении доступа достигнуто не было.

Что стоит за запретом?

Модель Mythos дебютировала в апреле, и сама Anthropic сразу предупредила о её двойственной природе. Модель умеет не только находить уязвимости в программном обеспечении, помогая защитникам их закрывать, но и подсказывать способы эксплуатации этих уязвимостей, чем потенциально могут воспользоваться злоумышленники.

Компания это понимала и действовала поэтапно:

• Сначала выпустила ограниченную версию Mythos Preview для закрытого консорциума в составе рабочей группы Project Glasswing.
• Полную Mythos 5 на прошлой неделе передали той же группе.
• Claude Fable 5, модель класса Mythos, выпустили для широкой публики, но с блокировками: она не отвечала на вопросы по биологии и кибербезопасности.

Администрация Трампа вмешалась в конце недели. По мнению правительства, защитные ограничения Claude Fable 5 можно отключить и получить полный доступ к возможностям Mythos 5. Именно это сочли угрозой национальной безопасности.

Аргументы в пользу ограничений

Позиция властей США выстроена на конкретном техническом риске. Если защитные фильтры модели можно обойти, а модель при этом способна генерировать информацию об эксплуатации уязвимостей, распространение такого инструмента среди иностранных пользователей создаёт реальную угрозу.

Сама Anthropic, что показательно, не спорит с оценкой рисков. В блоге компании прямо сказано, что продвинутое использование моделей ИИ по своей природе имеет двойное назначение. Одни и те же запросы, полезные в руках специалистов по кибербезопасности и исследователей в биологии, становятся опасными, если доступны злоумышленникам.

Экспортный контроль здесь работает как знакомый инструмент: ограничить доступ к технологии, пока не выработаны надёжные механизмы защиты. Логика та же, что с военными технологиями или ядерными материалами.

Почему запрет может не сработать?

Эксперты, опрошенные Ars Technica, указывают на фундаментальную проблему: конфликт между Anthropic и правительством лишь маскирует неприятную реальность. Anthropic сейчас оказалась «остриём копья», но модели от других компаний и разработчиков открытых весов (open weights, когда параметры модели доступны для скачивания) почти наверняка будут обладать аналогичными возможностями в ближайшем будущем, если не обладают уже.

Это ключевой пункт для понимания опасностей искусственного интеллекта в текущей фазе развития:

• Запрет касается двух конкретных моделей одной компании. Конкуренты, включая разработчиков опенсорс-решений, не затронуты.
• Знание о поиске и эксплуатации уязвимостей не уникально для Mythos. Оно распределено по обучающим данным (training data, массивы текстов и кода, на которых учится модель), доступным многим разработчикам.
• Закрытие одного продукта не уничтожает саму возможность. Оно лишь перенаправляет спрос к менее контролируемым альтернативам.

Иначе говоря, точечный запрет может оказаться хуже бездействия: он создаёт иллюзию безопасности, одновременно подталкивая пользователей к моделям, где нет ни фильтров, ни рабочих групп, ни переговоров с Белым домом.

«Значительная часть продвинутого использования моделей ИИ имеет двойное назначение: те же запросы, которые полезны в руках специалистов по кибербезопасности и исследователей в биологии, могут быть опасны, если доступны злоумышленникам.» : Anthropic, из официального блога компании

Что это значит для вас?

Авторам и контент-специалистам. Если вы использовали Claude Fable 5 для работы с текстами, доступ из-за пределов США уже закрыт. Переход на альтернативы, YandexGPT, GigaChat или другие доступные в России модели, стоит планировать уже сейчас, не дожидаясь итогов переговоров Anthropic с Белым домом.

Маркетологам и предпринимателям. Этот случай показывает, что зависимость от одного зарубежного ИИ-сервиса становится бизнес-риском. Экспортные ограничения могут отключить инструмент за выходные, без предупреждения и без переходного периода.

Всем, кто работает с ИИ. Двойное назначение продвинутых моделей не исчезнет от запретов. Понимание того, что ваш рабочий инструмент может быть отключён по политическим причинам, должно влиять на выбор платформы и хранение данных.

Запрет Claude Fable 5 и Mythos 5 войдёт в историю как первый случай, когда правительство США заблокировало коммерческую модель ИИ по соображениям нацбезопасности, но вряд ли как случай, который остановил распространение подобных возможностей. Модели с двойным назначением будут появляться быстрее, чем регуляторы успевают реагировать, и единственный реалистичный ответ на это не запрет конкретного продукта, а выстраивание инфраструктуры контроля, которая работает поперёк всей отрасли.

По материалам Ars Technica AI