Игорь Градов
Игорь Градов
5 мин
ai

Эксперт объяснил, что такое ИИ-агент: без четырёх опор демо разваливается через три месяца

Андрей Бирюков, независимый эксперт по ИТ и информационной безопасности, опубликовал на Хабре разбор архитектуры ИИ-агентов, объясняющий, почему типовое внедрение даёт рабочее демо за месяц и разваливается ещё через три.

Эксперт объяснил, что такое ИИ-агент: без четырёх опор демо разваливается через три месяца
Почему это важно

Автор переводит разговор с выбора модели на устройство системы. Агент без ограниченных прав, внешней памяти и правил безопасности остаётся генератором текста, а не исполнителем работы.

Если коротко ответить, что такое ИИ-агент: это программа на основе большой языковой модели (LLM, нейросеть того же типа, что отвечает в чат-ботах), которая не просто пишет текст, а сама выполняет шаги в рабочих системах. Бирюков описывает, как такие агенты обычно внедряют: «Давайте возьмём LLM, дадим ей доступ к нашим системам через API и пусть она сама разбирается». API здесь означает программный вход в систему, через который одна программа управляет другой.

По словам автора, после запуска в продуктивной среде агент уходит в бесконечный цикл рассуждений, вызывает не тот инструмент, теряет контекст на пятом шаге или выполняет действие, которого не должен был выполнять. Примеры в статье взяты из закупок, CRM (системы учёта клиентов) и комплаенса (проверки на соответствие законам и внутренним правилам), то есть из задач, знакомых российскому бизнесу без перевода.

Что Когда Кто выпустил Цена
Статья-разбор архитектуры ИИ-агентов на Хабре Дату источник не указывает Андрей Бирюков, независимый эксперт по ИТ и ИБ, преподаватель учебных центров Не указана

Что нового?

Главная мысль статьи: агент нельзя считать «умным промптом» (промпт, это текстовое задание для нейросети). Его надо проектировать как распределённую систему из четырёх частей:

  • контур принятия решений, или агентный цикл;
  • набор инструментов с ограниченными правами;
  • память, вынесенная за пределы контекстного окна (объёма текста, который модель держит в голове за один раз);
  • политики безопасности, которые срабатывают даже тогда, когда модель ошибается.

Дальше автор раскладывает схемы работы агентов по степени свободы, от жёстко заданных к полностью динамическим:

  • Детерминированный конвейер. Шаги заданы кодом, модель подключают точечно, например чтобы классифицировать обращение в поддержку. Предсказуемо и дёшево, но не подходит, если число шагов заранее неизвестно.
  • Одиночный агент с инструментами. Модель сама выбирает функцию: найти клиента в CRM, посмотреть заказы, собрать сводку. На длинных цепочках она начинает «забывать» исходную цель.
  • Передача эстафеты. Аналитик собирает данные, валидатор проверяет, оформитель готовит документ. Каждый следующий получает не сырой текст, а структурированный файл JSON (таблицу данных с заранее известными полями), и это, по словам автора, резко снижает цепочки ошибок.
  • Параллельные ветки. В закупках проверка бюджета и проверка контрагента идут одновременно. Если одна ветка упала, решение должно быть заложено заранее, например правило «fail-closed» (при сбое проверки операция не проходит).
  • Оркестратор и исполнители (Magentic). Центральный агент сам строит план и раздаёт шаги. Автор называет эту схему самой мощной и дорогой: она расходует кратно больше токенов (единиц текста, за которые платят при работе с моделью). Правило простое: если 80% задач укладываются в фиксированный сценарий, Magentic не нужен.

Отдельно Бирюков разбирает «человека в контуре» (Human-in-the-Loop, HITL). Выполнение останавливается, задача уходит человеку на утверждение и потом продолжается. Такие точки он считает обязательными для платежей, отправки юридически значимых документов и удаления данных.

Ещё один практический вывод: агент видит мир только через ответы инструментов. Если инструмент возвращает размытую ошибку вроде «что-то пошло не так», агент не сможет исправиться.

Как попробовать?

  1. Найдите статью Андрея Бирюкова об архитектуре ИИ-агентов на Хабре и прочитайте раздел о паттернах.
  2. Возьмите одну повторяющуюся задачу и честно ответьте, сколько в ней шагов и известны ли они заранее.
  3. Если шаги известны, начните с детерминированного конвейера, а не с «умного» агента.
  4. Отметьте все необратимые действия (оплата, отправка, удаление) и поставьте на них подтверждение человеком.

Где это работает с российскими моделями?

Из доступных в РФ аналогов, YandexGPT и GigaChat. Источник их не разбирает, но описанные схемы не привязаны к конкретной модели: детерминированный конвейер с точечным вызовом нейросети собирается на любой из них. Сравнение их агентных возможностей в статье не приводится.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Ваш рабочий процесс (тема, черновик, проверка, публикация) по сути и есть конвейер с известными шагами. Не ждите от одного промпта «сделай всё», разбейте работу на этапы и проверяйте результат каждого.

Маркетологу. Схема «эстафеты» переносится на контент-план: один шаг собирает данные, второй проверяет факты, третий оформляет. Публикацию и рассылку оставьте за человеком.

Предпринимателю. Если подрядчик предлагает «агента, который сам разберётся», спросите, где у него ограничены права, где хранится память и кто подтверждает платежи. Нет ответа, значит перед вами демо.

Инженеру. Статья даёт общий язык с заказчиком: «конвейер», «эстафета», «точка утверждения». Это помогает обсуждать не модель, а стоимость и риски конкретной схемы.

Где подвох

Разбор описывает архитектуру, а не готовый продукт: кнопки «скачать агента» здесь нет. Подтверждение человеком тоже не бесплатно: автор пишет, что оно добавляет очередь ожидания, механизм возобновления и учёт того, кто утвердил действие.

Мнение редакции dzen.guru

На мой взгляд, самая полезная строка статьи про 80% задач. Я вижу, как авторы гонятся за «автономными агентами», хотя их работа укладывается в три понятных шага. Оговорка: разбор написан для инженеров, и часть терминов придётся переводить для себя. Что сделать сегодня: выпишите свой процесс подготовки статьи по шагам и найдите место, где нейросеть нужна точечно, а не везде.

Частые вопросы: что такое ИИ-агент и нужен ли он автору?

Чем агент отличается от чат-бота?

Чат-бот отвечает текстом. Агент сам вызывает инструменты и выполняет действия в системах, поэтому ему нужны ограничения прав и правила безопасности.

Нужна ли автору сложная схема с оркестратором?

Почти наверняка нет. Автор статьи прямо пишет, что такая схема дорогая и оправдана только там, где следующий шаг непредсказуем.

Можно ли доверить агенту публикацию?

Публикация необратима, а для необратимых действий Бирюков требует подтверждения человеком. Пусть нейросеть готовит, а кнопку «опубликовать» нажимаете вы.

Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

Нейросеть для 1С: разработчик с 2006 года советует начинать с чтения кода, а не с правок
ai

Нейросеть для 1С: разработчик с 2006 года советует начинать с чтения кода, а не с правок

Разработчик 1С со стажем с 2006 года после месяца ежедневной работы с ИИ советует начинать не с выбора модели, а с безопасного процесса, пока названия и…

5 мин
Рекордное IPO Anthropic на $81,3 млрд: акционеры не смогут сместить основателей
ai

Рекордное IPO Anthropic на $81,3 млрд: акционеры не смогут сместить основателей

Anthropic вышла на биржу с крупнейшим в истории первичным размещением акций, обойдя SpaceX, и именно сейчас её репутация «хорошего парня» в ИИ попадает под…

5 мин
GPT-6.2 требует KYC для части задач кибербезопасности: подписки разработчикам уже мало
ai

GPT-6.2 требует KYC для части задач кибербезопасности: подписки разработчикам уже мало

OpenAI 17 ноября выпустила модели GPT-6.2 Astra и Sol, но свободный доступ к части их возможностей в кибербезопасности теперь зависит от проверки личности, а…

5 мин