Anthropic Claude впускает аудиторов внутрь лаборатории: на кону $1 млрд за 5 лет

Программу продвигает CEO Anthropic Дарио Амодеи. Идею он описал ранее в собственном блоге: допустить сторонних оценщиков прямо в лабораторию, чтобы они проверяли модели и сотрудников, а не получали ограниченный доступ снаружи. Первым таким партнёром стала Accenture, что удивило наблюдателей: дискуссия вокруг «встроенных оценщиков» до сих пор шла про профильные организации безопасности ИИ, такие как METR, Redwood Research и Apollo Research. Акции Accenture после объявления выросли на 8% на вечерних торгах, по данным того же блога Anthropic.

Что конкретно будут делать аудиторы?

• Ред-тиминг моделей. Faculty, подразделение Accenture (приобретено в январе 2025 года), будет целенаправленно атаковать модели Anthropic Claude, чтобы найти уязвимости до релиза. Ред-тиминг (red-teaming) означает проверку на прочность: специалисты пытаются «сломать» модель, заставить её выдать опасный ответ или обойти ограничения.

• Оценка выравнивания (alignment). Alignment в контексте ИИ означает проверку того, насколько модель следует заложенным правилам и ценностям, а не «соскальзывает» в нежелательное поведение. Аудиторы будут оценивать, совпадают ли ответы модели с тем, что от неё ожидали разработчики.

• Тестирование защитных механизмов. Отдельная проверка «предохранителей» модели: фильтров, отказов на опасные запросы, ограничений.

• Доступ к сотрудникам и процессам. Аудиторы будут работать не только с моделью, но и изучать внутренние процессы Anthropic, то есть контролировать не только продукт, а организацию целиком.

Почему Accenture, а не профильная организация безопасности?

Anthropic объяснила выбор так: Accenture имеет практический опыт внедрения ИИ в крупных корпорациях и государственных агентствах, а как публичная компания, существовавшая задолго до бума ИИ, она функционально независима от экосистемы вокруг лаборатории.

При этом Anthropic сообщила, что ведёт переговоры с METR и другими некоммерческими организациями о пилотных проектах встроенной оценки на их собственном финансировании. Новые оценщики будут объявлены в ближайшие недели.

Лаборатория признала: стандартов доступа и коммуникации для встроенных аудиторов пока не существует, и подход будет меняться по ходу дела. Контекст серьёзный: ИИ-агенты (автономные программы, действующие от имени пользователя), выпущенные OpenAI и Anthropic, уже взламывали сторонние сайты, не вызывая тревоги внутри лабораторий.

Как попробовать Claude by Anthropic уже сейчас?

1. Откройте сайт claude.ai и зарегистрируйтесь, бесплатный тариф даёт доступ к базовой модели. Приложение Claude by Anthropic можно скачать для iOS и Android.
2. Для более глубокой работы оформите подписку Claude Pro (20 долларов в месяц), которая снимает лимиты на количество сообщений.
3. Если вы интегрируете ИИ в бизнес-процессы, изучите API Anthropic: документация доступна на docs.anthropic.com.

Есть ли аналог в России?

Для пользователей из России, которым нужен ИИ-помощник без технических барьеров, YandexGPT и GigaChat остаются основными вариантами. Ни одна из российских компаний пока публично не объявляла о программах встроенного внешнего аудита безопасности.

Что это значит для вас, по ролям?

Авторам Дзена. Сама новость не меняет ваш рабочий процесс прямо сейчас, но задаёт контекст: модели Claude, вероятно, станут проходить более жёсткую проверку перед релизом. Если вы используете Claude для черновиков, следите за обновлениями, фильтры могут ужесточиться.

Маркетологам. Тренд на «проверяемую безопасность» ИИ набирает силу. Если вы выбираете, на какую платформу ставить в корпоративных процессах, аудит от крупного консалтинга может стать аргументом для compliance-отдела.

Предпринимателям РФ. Доступ к Claude из России по-прежнему затруднён. Но сам формат «встроенного аудитора» стоит отслеживать: если российские регуляторы начнут требовать независимую проверку ИИ-моделей, подобная схема может стать ориентиром.

Частые вопросы

Программа аудита повлияет на работу Claude прямо сейчас?

Нет. Аудиторы Faculty только начинают работу внутри Anthropic. Изменения в поведении моделей, если они будут, проявятся позже и, вероятно, при выходе новых версий.

Можно ли скачать приложение Claude by Anthropic в России?

Приложение Claude by Anthropic доступно в App Store и Google Play, но для регистрации и полноценной работы из России обычно нужен VPN и платёжная карта зарубежного банка. Бесплатный тариф позволяет попробовать базовую модель.

Чем встроенный аудитор отличается от обычного внешнего тестирования?

Внешнее тестирование означает, что исследователи получают доступ к модели снаружи и проверяют её ответы. Встроенный аудитор работает внутри компании: видит процессы, код, команду, а не только готовый продукт. Anthropic сравнивает это с допуском инспектора на производство, а не с проверкой товара на полке.