Игорь Градов
Игорь Градов
6 мин
ai

Что такое ИИ-агент на практике: трёхуровневый контроль для кода без сюрпризов

Разработчики ИИ-инструментов всё чаще сталкиваются с тем, что агент, который сам пишет и ревьюит код, принимает тысячи решений без участия человека, и без формализованных правил результат непредсказуем.

Что такое ИИ-агент на практике: трёхуровневый контроль для кода без сюрпризов
Почему это важно

ИИ-агент (программа, которая сама планирует действия, выполняет их и проверяет результат) на автономном уровне принимает до 10 000 микрорешений в час. Разработчик физически не может проверить каждое, и без выстроенной системы правил код деградирует незаметно.

Термин Governance (управление правилами: кто их принимает, как они работают и кто следит за соблюдением) в контексте ИИ-агентов перестаёт быть формальностью. Пока вы работаете в чат-режиме, каждая строчка кода проходит через вашу голову. Когда агент автономен, ваша голова больше не в цепочке. Ниже разберём, как выстроить трёхуровневую систему контроля на реальном примере платформы бронирования спортплощадок, построенной на NestJS и Next.js.

Что понадобится?

  • Доступ к агентному ИИ-инструменту: Claude Code, Codex CLI или Cursor
  • Проект на любом стеке (пример построен на NestJS для серверной части и Next.js для интерфейса, но логика универсальна)
  • Текстовый редактор для написания файлов политик в формате Markdown
  • CI/CD-система (система автоматической сборки и проверки кода) для запуска проверок: GitHub Actions, GitLab CI или аналог
  • Около 3 часов на первичную настройку стека правил

Как собрать Governance-стек для ИИ-агента: пошагово

  1. Определите уровень автоматизации вашего проекта. Если вы копируете код из чата в редактор и проверяете каждую строку сами, это первый уровень. Здесь правила у вас в голове, формализация не обязательна. Если агент читает файлы, вносит изменения и запускает тесты, но вы утверждаете каждое действие, это второй уровень. Правила нужны лёгкие: соглашения по именованию, структура папок, ожидания от тестов. Если агент создаёт подагентов, связывает изменения через десятки файлов и работает без вашего одобрения на каждом шаге, это третий уровень. Здесь без жёсткого стека правил начинать нельзя.

  2. Напишите файлы политик. Каждый документ фиксирует одно решение, которое вы приняли бы при ручном ревью. Например:

# policy-error-handling.md

## Правило
Сервисы НЕ используют throw new Error().
Все ошибки оборачиваются в типизированные исключения
из модуля @app/exceptions.

## Почему
Агент не знает контекст вашего проекта.
Без явного запрета он будет генерировать
generic-ошибки, которые невозможно отследить
в логах.

Таких документов в описанном стеке двенадцать: обработка ошибок, формат API (snake_case), структура файлов, пороги покрытия тестами и другие.

  1. Создайте «навыки» для агента. Навык (skill) в терминах агентных инструментов, это короткая инструкция, которая показывает агенту правильный паттерн через пример. По сути, это few-shot промпт (промпт с примерами правильных ответов, чтобы модель повторяла шаблон). Десять навыков покрывают типовые ситуации: как создать эндпоинт, как написать тест, как оформить миграцию базы данных.

  2. Настройте специализированных агентов-ревьюеров. Вместо одного агента, который делает всё, выделите шесть ролей. Один проверяет архитектуру, другой безопасность, третий тесты. Каждый получает свой ревью-промпт с конкретными критериями.

  3. Зафиксируйте рабочий процесс в семи фазах. Агент не должен писать код сразу. Сначала план, потом реализация, потом тесты, потом ревью каждым специализированным агентом, потом финальная проверка. Каждая фаза оставляет артефакт: файл с планом, отчёт ревьюера, лог тестов. Без артефакта предыдущей фазы следующая не запускается.

  4. Подключите CI-проверки. Линтер (автоматическая проверка стиля кода) блокирует слияние, если нарушена политика именования. Падение покрытия тестами ломает сборку. Это не бюрократия, а инфраструктура: автор кода, будь то человек или агент, не решает, достаточно ли хорош результат.

  5. Запустите агента на реальной задаче и сверьте результат с артефактами каждой фазы. Первый прогон покажет, какие политики агент нарушает чаще всего. Допишите недостающие правила и повторите.

Как это выглядит на практике

На платформе бронирования спортплощадок (NestJS/Next.js) агенту поставили задачу: добавить эндпоинт для отмены бронирования. Без Governance-стека агент сгенерировал контроллер с throw new Error('Booking not found'), использовал camelCase в ответе API вместо snake_case и написал тест, который проверял только успешный сценарий. С подключённым стеком: политика обработки ошибок заставила агента использовать BookingNotFoundException из модуля @app/exceptions, политика формата API привела ответ к snake_case, а навык написания тестов добавил проверки для несуществующего бронирования и бронирования с истёкшим сроком. Агент-ревьюер по безопасности дополнительно указал на отсутствие проверки прав пользователя, и агент добавил guard (защитный слой, проверяющий, что отменить бронирование может только его автор).

Частые ошибки
  • Пропуск второго уровня. Переход от чата сразу к автономному агенту без промежуточного этапа «агент под присмотром». На втором уровне вы увидите, какие ошибки агент делает чаще всего, и именно из этих ошибок вырастут ваши политики. Без этого опыта правила будут абстрактными.
  • Governance в голове, а не в файле. Вы «и так знаете», что в API используется snake_case. Агент не знает. Если правило не записано в файл политики и не подключено к контексту агента, оно не существует.
  • Один агент на все роли. Агент, который одновременно пишет код и проверяет безопасность, пропускает собственные ошибки. Разделение на специализированных ревьюеров критично.
  • Игнорирование стоимости контекста. Каждая политика, каждый навык, каждый ревью-промпт занимает токены (единицы текста, которые модель обрабатывает за деньги) в контекстном окне (объём текста, который модель «видит» за один вызов). Двенадцать документов, десять навыков, шесть промптов ревью, это заметный расход. При масштабировании стоимость растёт линейно.

Что делать с этим прямо сейчас, по ролям

Разработчику, который уже использует ИИ-агенты. Проведите аудит: на каком уровне автоматизации вы работаете? Если агент вносит изменения в несколько файлов без вашего одобрения на каждом шаге, вы уже на третьем уровне. Без формализованных политик вы не замечаете деградацию, пока она не станет багом в продакшене.

Автору Дзена и контент-маркетологу. Понять, что такое ИИ-агент и чем он отличается от чат-бота, полезно даже без навыков программирования. Принцип тот же: если вы даёте ИИ автономность (например, агент сам публикует посты или отвечает комментаторам), нужны явные правила, записанные в системном промпте (начальная инструкция, которую модель получает до вашего запроса). Иначе агент «галлюцинирует» (уверенно выдумывает факты) или нарушает tone of voice.

Предпринимателю в РФ. Инструменты из примера (Claude Code, Codex CLI, Cursor) доступны с ограничениями. Cursor работает без VPN, Claude Code требует доступа к API Anthropic. Из российских аналогов для агентной разработки пока нет прямых эквивалентов, но GigaCode от Сбера и кодовые возможности YandexGPT развиваются в сторону агентного режима.

Мнение редакции dzen.guru

Главный вывод из этого разбора: чем больше автономности вы отдаёте ИИ-агенту, тем строже должны быть формализованные правила. Это контринтуитивно, кажется, что автоматизация снимает контроль. На практике она его перемещает: из головы разработчика в файлы политик.

По моим наблюдениям, большинство тех, кто пробует агентные инструменты, застревают между вторым и третьим уровнем: агент уже работает автономно, а правила всё ещё «в голове». Это самая опасная зона.

Честная оговорка: стоимость контекста пока остаётся нерешённой проблемой. Двенадцать документов политик при каждом вызове агента, это сотни тысяч токенов в день. Автор оригинального разбора сам признаёт, что вопрос масштабирования открыт.

Выстроить Governance-стек за один вечер реально, если у вас уже есть опыт работы с агентом на втором уровне. Начните с трёх политик, которые закрывают самые частые ошибки вашего агента, и добавляйте новые по мере появления багов, а не «на всякий случай».

Хотите разобраться в ИИ-инструментах для контента?

В dzen.guru мы тестируем нейросети и делимся работающими приёмами для авторов и маркетологов.

Попробовать dzen.guru
Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

Вайбкодинг нейросети на практике: 7 проектов за 7 месяцев и три уровня работы с ИИ
ai

Вайбкодинг нейросети на практике: 7 проектов за 7 месяцев и три уровня работы с ИИ

Компания Anthropic не выпускала продукт и не делала анонс: источник представляет собой личный опыт русскоязычного разработчика, который семь месяцев…

6 мин
ИИ и человек: «Хабр» разложил, какие навыки мы теряем, доверяя рутину нейросетям
ai

ИИ и человек: «Хабр» разложил, какие навыки мы теряем, доверяя рутину нейросетям

Компания «Хабр» опубликовала развёрнутый разбор того, как большие языковые модели (LLM, нейросети, которые понимают и генерируют текст на обычном языке) меняют…

5 мин
Что такое ИИ-агент на практике: Creatorry за день заменил пороговые алерты скриптом в 20 строк
ai

Что такое ИИ-агент на практике: Creatorry за день заменил пороговые алерты скриптом в 20 строк

Компания Creatorry, платформа для генерации музыки, фото и видео с помощью нейросетей, 135 дней назад перестала ждать жалоб от пользователей и посадила на свои…

8 мин