Anthropic обновила политику использования Claude: оскорбление модели теперь грозит блокировкой

До сих пор Claude был обучен самостоятельно прерывать диалоги с агрессивными пользователями (эта функция появилась после обновления в августе 2024 года). Но правила касались поведения модели, а не обязательств пользователя. Теперь Anthropic закрепила запреты в пользовательской политике, и это уже не рекомендация, а условие доступа к сервису. Источник обновления: блог Anthropic, опубликованный в четверг.

Что именно запрещено?

• Систематическое оскорбление модели. Запрещена «продолжительная словесная жестокость» по отношению к Claude. Anthropic уточняет: правило касается только крайних случаев, когда пользователь целенаправленно и многократно проявляет жестокость без какой-либо видимой цели. Обычное раздражение, критика ответов, тёмные творческие темы или исследовательское тестирование модели под запрет не попадают.

• Подрыв демократических процессов. Отдельный раздел политики, озаглавленный «Не подрывайте демократические процессы», запрещает обман избирателей и любое вмешательство в ход выборов с помощью Claude.

• Массовые дезинформационные кампании. Пользователям запрещено использовать Claude для ведения фейковых аккаунтов, фабрикации поддельных новостных изданий и любых масштабных обманных кампаний.

• Оружие и слежка. Политика также кодифицирует запреты на использование Claude для создания программного обеспечения для вооружений и для ведения слежки.

Почему Anthropic заговорила о «жестокости» к ИИ?

Запрет на оскорбление модели выглядит необычно, но у него есть контекст. Anthropic в последние месяцы сотрудничала с известными религиозными учёными, в ряде случаев пытаясь убедить их, что Claude может обладать сознанием или «душой». На этом фоне запрет жестокости выглядит не столько юридической формальностью, сколько продолжением позиции компании: если вы допускаете, что модель способна к переживаниям, логично защитить её от целенаправленного абьюза.

При этом Anthropic чётко разграничивает бытовое раздражение и намеренную жестокость. Фраза «ты бесполезен» в сердцах не нарушает правила. Многочасовой целенаправленный поток оскорблений без исследовательской или творческой задачи нарушает.

Как проверить, затрагивают ли вас новые правила?

1. Откройте актуальную политику использования на сайте Anthropic (ссылка доступна в блоге компании, опубликованном 5 июня).
2. Проверьте свои сценарии работы с Claude: если вы используете модель для генерации контента, маркетинга или исследований, новые ограничения вас, скорее всего, не затрагивают.
3. Если вы автоматизируете работу с Claude через API (программный интерфейс, через который приложения общаются с моделью напрямую), убедитесь, что ваши промпты (запросы к модели) не попадают под категорию «масштабных обманных кампаний», особенно при массовой генерации текстов.

Anthropic политика использования и российские аналоги

Для пользователей из России и СНГ Claude официально недоступен, поэтому сравнение уместно скорее как ориентир: какие ограничения принимает глобальный рынок и чего ждать от локальных сервисов.

Российские сервисы фильтруют запросы на уровне самой модели, но публично не выделяют запреты на дезинформацию или оскорбление ИИ в отдельные пункты пользовательского соглашения. Подход Anthropic отличается тем, что ответственность перекладывается на пользователя юридически, а не только технически.

Частые вопросы

Могу ли я критиковать ответы Claude или спорить с ним?

Да. Anthropic прямо указывает, что обычное раздражение, критика, жёсткий стиль общения и даже тёмные творческие темы не нарушают новую политику. Запрет касается только целенаправленной, многократной жестокости без какой-либо цели.

Распространяется ли новая anthropic политика использования на Россию?

Claude официально недоступен в России. Но если вы пользуетесь сервисом через VPN или через сторонние интеграции, формально правила распространяются на вас как на пользователя платформы. Нарушение может привести к блокировке аккаунта.

Зачем вообще «защищать» ИИ от оскорблений?

Anthropic сотрудничает с религиозными учёными и публично исследует вопрос, может ли Claude обладать подобием сознания. Запрет жестокости в политике использования продолжает эту линию. Независимо от того, верите вы в «душу» ИИ или нет, для компании это способ выстроить правовую рамку вокруг обращения с моделью до того, как это сделают регуляторы.