Anthropic раскрыла схемы злоупотребления Claude: от DeepSeek до ракет в Йемене

Отчёт охватывает восемь месяцев работы и построен как набор конкретных кейсов: каждый случай описан с деталями, которые Anthropic выявила и пресекла. Источник материала: издание The Rundown AI. Документ выходит на фоне растущего внимания к тому, как закрытые модели (модели, доступные только через API разработчика, а не в открытом коде) используются без разрешения.

Что раскрыл отчёт?

• Дистилляция (distillation) китайскими лабораториями. Anthropic назвала семь компаний, в том числе Alibaba, DeepSeek, Moonshot и Xiaomi. Дистилляция означает, что чужую модель массово «расспрашивают» через тысячи поддельных аккаунтов, а полученные ответы используют как обучающие данные (данные, на которых тренируют собственную модель) для своих систем.

• Подмена модели. Moonshot и DeepSeek, по данным отчёта, в ряде случаев напрямую отдавали ответы Claude своим пользователям, выдавая их за результат работы собственной модели, а затем использовали эти ответы для дообучения (обучения модели на новых примерах под узкую задачу).

• Биологические угрозы. Пять случаев касались учёных-биологов, чьи запросы к Claude подняли тревогу из-за возможного применения в создании оружия. Anthropic подчёркивает: компания «не утверждает, что они намеревались причинить вред».

• Ракетное наведение. Один пользователь из Йемена использовал Claude Code для разработки программного обеспечения наведения ракеты, а после неудачного тестового пуска вернулся к Claude за советом.

• Массовая слежка. Консультант построил для спецслужб Мали систему, рассчитанную на прослушивание 25 миллионов телефонных линий. Аналогичные попытки наблюдения Anthropic заблокировала в Иране, Китае и других странах.

• Мошенничество и манипуляции. Среди прочих случаев: управление 4 700 фейковыми профилями в приложениях для знакомств, клонирование стиля письма активиста для общения с его контактами, переработка вредоносного кода для обхода антивирусов.

Все описанные случаи были предприняты с моделями уровня Opus и ниже. Anthropic отмечает, что с ростом возможностей моделей масштаб подобных попыток будет только увеличиваться.

Как прочитать отчёт самостоятельно?

1. Перейдите на официальный сайт Anthropic и найдите раздел с публикациями по безопасности (Threat Report доступен бесплатно, более 150 страниц).
2. Обратите внимание на раздел о дистилляции: там конкретные имена компаний и описания схем, полезно для понимания того, как реально устроен «серый» рынок ИИ-моделей.
3. Если вы работаете с API Claude, проверьте свои аккаунты и паттерны использования: Anthropic активно блокирует подозрительную активность, и массовые запросы могут попасть под фильтр.

Есть ли аналоги в России?

Российские модели YandexGPT и GigaChat работают как закрытые модели и тоже доступны через API. Публичных отчётов об угрозах такого масштаба ни Яндекс, ни Сбер пока не выпускали. Для русскоязычного пользователя это означает, что прозрачность в вопросах безопасности у западных разработчиков пока выше: Anthropic открыто показывает, кто и как пытался злоупотребить моделью, а российские компании о подобных инцидентах публично не сообщают.

Что делать с этим прямо сейчас, по ролям?

Автору на Дзене. Отчёт Anthropic даёт конкретный материал для контента: можно разобрать схему дистилляции простыми словами, объяснить аудитории, почему «бесплатная китайская нейросеть» может оказаться чужой моделью под другой обёрткой.

Маркетологу. Если вы используете API Claude или любой другой закрытой модели для автоматизации, убедитесь, что ваш подрядчик не перепродаёт чужие ответы. Отчёт показывает: такие схемы существуют и выявляются.

Предпринимателю в РФ и СНГ. Claude доступен в России с ограничениями (нужен зарубежный номер и оплата). Но сам факт отчёта важен как ориентир: если вы строите продукт на чужой модели, риск блокировки аккаунтов реален. Anthropic уже массово закрывает поддельные учётные записи.

Частые вопросы

Claude использовали для создания настоящего оружия?

По данным отчёта, одна операция в Йемене действительно дошла до стадии тестового пуска ракеты с программным обеспечением, написанным при помощи Claude Code. Пять биологических случаев подняли тревогу, но Anthropic не утверждает, что учёные намеревались причинить вред.

Как DeepSeek и Moonshot использовали Claude?

Эти компании через тысячи поддельных аккаунтов массово отправляли запросы к Claude, собирали ответы и использовали их для дообучения собственных моделей. В ряде случаев они отдавали ответы Claude напрямую своим пользователям, выдавая результат за собственную разработку.

Могут ли заблокировать мой аккаунт Claude?

Если вы используете модель в рамках обычных задач, копирайтинга, анализа текстов, генерации идей, риска нет. Anthropic блокирует аккаунты при массовых автоматизированных запросах, попытках дистилляции и использовании модели для создания вредоносного контента. Обычному автору или маркетологу беспокоиться не о чем, но перепродавать ответы Claude как свою нейросеть точно не стоит.