Что такое ИИ-агент для SOC: инженер без опыта собрал его за месяц и вышел в лидеры

Positive Technologies осенью 2024 года провела внутреннее, а затем открытое соревнование по созданию ИИ-агентов для SOC (Security Operations Center, центр мониторинга и реагирования на инциденты безопасности). Один из участников, инженер с девятилетним опытом в управлении уязвимостями, но без практики в разборе тревог, описал на Хабре весь процесс: от первого непонимания задачи до финальных результатов. Его рассказ ценен именно тем, что показывает российскую практику построения такого агента с нуля.

Что понадобится

• Доступ к языковой модели с API. Участник использовал Codex от OpenAI и Claude Code от Anthropic параллельно. В России можно экспериментировать с API YandexGPT или GigaChat, но для задач уровня SOC-агента пока лучше подходят зарубежные модели
• Среда для написания кода на Python. Клиент арены, скрипты разбора, вспомогательные утилиты писались в диалоге с ИИ-напарниками
• Понимание базовой терминологии SOC. Что такое тревога, вердикт (вредоносное или легитимное), меры реагирования (изолировать хост, сменить учётку, заблокировать адрес)
• Время. У автора процесс занял около месяца, включая внутренний и общий этапы соревнования
• Готовность к ошибкам. Автор прямо предупреждает: это не история успеха, а история граблей

Как собрать ИИ-агента для первой линии SOC: пошаговая инструкция

1. Разберитесь в формате задачи, прежде чем писать код. Агент получает тревогу, например «подозрительный процесс на сервере», и должен расследовать её через API арены. На входе у него граф сцены: узлы (хосты, учётные записи, процессы, файлы, сетевые соединения, записи журналов, объекты Active Directory) и типизированные связи между ними. Агент не видит граф целиком, а раскрывает его шаг за шагом, как детектив с ограниченным числом вопросов.

2. Определите, что именно агент должен выдать на выходе. По условиям соревнования итог работы состоит из:

3. вердикта: вредоносная тревога или легитимная
4. для вредоносной: конкретных мер реагирования с привязкой к объектам (какой хост изолировать, какую учётку сменить, какой адрес заблокировать, какой файл удалить)

5. для легитимной: улик, на каких объектах и полях держится вывод, что это штатная работа

6. Подключите языковую модель как «напарника-джуна». Автор работал с двумя моделями одновременно и относился к ним как к толковым, но ненадёжным помощникам: ставил задачу, спорил, проверял, регулярно ловил на уверенно выданной чепухе. Человек держал смысл и решения, модели держали клавиатуру.

Первое сообщение напарнику-ИИ:
"Я не понимаю смысл этого, объясни мне"

1. Постройте клиент для работы с API арены. Зарегистрируйтесь, получите ключ доступа, проверьте подключение. Половина первого дня у автора ушла на борьбу с инфраструктурой: ошибки 502 от nginx оказались проблемой площадки, а не его кода.

2. Запускайте итерации и читайте обратную связь. На открытом этапе арена сразу показывает оценку: качество (насколько ответ совпал с эталоном), эффективность (уложился ли агент в бюджет вызовов) и награду за поиск. Автор сделал 17 прогонов до первого места на внутреннем открытом этапе.

3. Используйте две модели для перекрёстной проверки. На общем этапе две модели работали параллельно, проверяли находки друг друга и спорили о составе ответа. Несколько улучшений появились именно потому, что одна модель нашла то, что пропустила другая.

4. Не доверяйте собственной метрике на закрытом этапе. На закрытых этапах оценка скрыта, в ответе приходят нули. Автор предупреждает: в соревновании со скрытой оценкой легко поверить в выдуманную метрику, и он сам попадался на это многократно.

Что делать с этим прямо сейчас, по ролям?

Если вы автор на Дзене, пишущий про технологии. Тема ИИ-агентов в кибербезопасности набирает обороты. Разобраться, что такое ИИ-агент на первой линии SOC, значит получить материал, который пока мало кто объясняет простым языком. Эта статья даёт вам фактуру и терминологию.

Если вы инженер или безопасник. Соревнование Positive Technologies показало конкретный формат: граф сцены, бюджет вызовов, эталонная оценка. Даже без участия в конкурсе этот подход можно воспроизвести для тренировки собственных агентов на внутренних данных.

Если вы предприниматель в РФ. Positive Technologies, крупный российский вендор в сфере кибербезопасности, уже строит инфраструктуру для агентных решений в SOC. Понимание того, что такое ИИ-агент в этом контексте, поможет оценить, когда и как автоматизация дойдёт до вашего бизнеса.

Соревнование Positive Technologies показало главное: собрать ИИ-агента для разбора тревог может человек без опыта в SOC, если он готов учиться, проверять каждый шаг и не доверять модели больше, чем она заслуживает. Грабли автора пригодятся любому, кто строит агентов для задач, где правильный ответ заранее неизвестен.