ИИ-безопасность против исследователей: модели блокируют легальный поиск уязвимостей

Проблема не нова, но в июне 2025 года она обострилась. Правительство США ввело экспортные ограничения на модели Anthropic «Mythos» и «Fable» после отчёта о возможности обхода их защитных барьеров. По данным TechCrunch, ограничения на «Fable 5» и «Mythos 5» позже сняли: «Fable 5» вернулась в открытый доступ 1 июля, а «Mythos 5» доступна только проверенным американским организациям. Сам факт блокировки показал, насколько хрупок баланс между ИИ-безопасностью и полезностью моделей для профессионалов.

И Anthropic, и OpenAI предлагают специальные программы доступа для киберисследователей: Trusted Access for Cyber у OpenAI и Cyber Verification Program у Anthropic. Но даже участники этих программ жалуются на непоследовательность ограничений.

Что понадобится

• Закрытая модель (закрытая модель, код которой недоступен пользователю) с программой доступа для исследователей: Claude (Anthropic) через Cyber Verification Program или ChatGPT/GPT-4 (OpenAI) через Trusted Access for Cyber. Подать заявку можно на сайтах компаний.
• Открытая модель без ограничений для локального запуска: Llama (Meta), Mistral или аналоги. Нужен компьютер с видеокартой от 16 ГБ видеопамяти или облачный сервер.
• Среда для локального инференса (инференс, запуск модели для получения ответа, а не для обучения): Ollama, llama.cpp или vLLM.
• Базовое понимание промпт-инжиниринга (промпт-инжиниринг, умение формулировать запросы к нейросети так, чтобы получить нужный результат).
• Время: от 30 минут на настройку локальной модели до нескольких дней на ожидание одобрения в программах доступа.

Пошаговая инструкция

1. Определите, какой этап работы блокирует модель. Разделите задачи на те, где ограничения мешают (поиск уязвимостей, генерация эксплойтов), и те, где закрытая модель работает без проблем (анализ кода, реверс-инжиниринг, написание вспомогательных скриптов). Крис Энли, главный учёный консалтинговой компании NCC Group, объяснил TechCrunch: попросить модель проэксплуатировать баг, это ключевой шаг для подтверждения реальной уязвимости, но именно на нём срабатывает блокировка.

2. Для «безопасных» задач используйте закрытую модель напрямую. Джузеппе Кали, исследователь уязвимостей нулевого дня (zero-day, ранее неизвестная уязвимость в ПО), рассказал TechCrunch, что применяет ИИ только для начального реверс-инжиниринга и создания вспомогательных инструментов, а поиск самих уязвимостей оставляет себе. Такой подход не упирается в ограничения.

3. Для «чувствительных» задач разверните открытую модель локально. Это главный обходной путь, который описали несколько исследователей в материале TechCrunch. Паоло Стагно, технический директор компании Crowdfense (занимается покупкой и продажей уязвимостей госструктурам), объяснил, почему: отправка данных об уязвимостях в облачную модель рискует утечкой или попаданием информации в обучающие данные (training data, массив текстов и кода, на котором модель училась). Локальная открытая модель не передаёт данные наружу.

4. Установите модель через Ollama или llama.cpp. Пример для Ollama:

# Установка Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Загрузка модели (например, Mistral или CodeLlama)
ollama pull mistral

# Запуск диалога
ollama run mistral

1. Формулируйте промпт без «атакующих» слов, если работаете с закрытой моделью. Крис Энли подчеркнул парадокс: промпт «исправь этот код» одновременно помогает защитнику и показывает путь к уязвимости. Модель не может разделить эти два намерения. Попробуйте описать задачу как задачу защиты:

Проанализируй следующий фрагмент кода на наличие
ошибок управления памятью. Укажи строки, где
возможно переполнение буфера, и предложи
безопасную замену.

1. Подайте заявку в программу доступа, если ваша работа требует регулярного использования закрытых моделей. OpenAI и Anthropic рассматривают заявки от организаций. Учтите: по словам Криса Томпсона, главы компании RemoteThreat и основателя конференции Offensive AI Con, даже внутри программ доступа ограничения работают непоследовательно и меняются день ото дня.

Что делать с этим прямо сейчас?

Автору Дзена и контент-специалисту. Если вы пишете о кибербезопасности, вы столкнётесь с тем, что ChatGPT и Claude откажутся генерировать даже учебные примеры атак для статьи. Формулируйте промпт как задачу защиты, не атаки. Это работает и для образовательного контента.

Маркетологу. ИИ-безопасность становится продающим аргументом: компании, которые предлагают ИИ-инструменты без облачной передачи данных, получают преимущество на рынке B2B. Если ваш продукт работает локально, это стоит выделять в позиционировании.

Специалисту по безопасности в РФ и СНГ. Программы доступа OpenAI и Anthropic ориентированы на американские организации. Российским исследователям они фактически недоступны. Основной рабочий путь: открытые модели (Llama, Mistral, DeepSeek) с локальным запуском. Из российских инструментов можно пробовать YandexGPT и GigaChat для задач анализа кода, но для работы с уязвимостями они также могут блокировать запросы.

Джузеппе Кали, который находит и разрабатывает эксплойты для уязвимостей нулевого дня, закрыл тему фразой, которую стоит запомнить: «Я ревниво отношусь к своим багам и слишком люблю эту игру, чтобы позволить моделям играть за меня». Пока ИИ не научился отличать защитника от атакующего, последнее слово остаётся за человеком с локальной моделью и здравым смыслом.