Что такое ИИ-агент в цехе: конвейер из семи за 11 центов простаивает, справляется один

В прошлой публикации автор обещал рассказать, как семь агентов превращают голосовое сообщение из цеха в черновик задачи. Когда он сел писать, оказалось, что задачу с телефона разбирает один агент, а большой конвейер стоит без дела. Поэтому новый текст про оба варианта: архитектуру, стоимость прогона и баги, которые прятались друг за другом.

Что такое ИИ-агент на примере цеха?

Если коротко, что такое ИИ-агент: это программа на основе языковой модели, которая не только пишет текст, но и сама выполняет действия. Например, ищет запись в базе, смотрит на результат и решает, что делать дальше. Обычный чат-бот похож на консультанта по телефону, а агент похож на сотрудника с доступом к картотеке.

На производстве сообщение может прийти о чём угодно: «на третьем станке опять течёт», «кончились подшипники 6204», фото накладной, просьба выточить деталь. Человеку некогда выбирать раздел, поэтому система сама определяет тип сообщения и готовит черновик: замечание производства, дефицит, приход на склад или задачу. Один промпт с такой разницей входов и выходов автор доверять не захотел.

Что понадобится для своего конвейера?

• Языковая модель, которая умеет вызывать инструменты. У автора проверяющий агент работает на модели Sonnet.
• Очередь фоновых задач. У автора это Celery (программа, которая выполняет работу в фоне, не задерживая пользователя).
• Хранилище для «замков». У автора это Redis (быстрое хранилище данных).
• База со справочниками: проекты, наряды, материалы, сотрудники.
• Расшифровка голоса, если заявки приходят голосом. Автор использует Whisper на своём сервере.
• Веб-кабинет, где человек нажимает «Подтвердить».

Из доступных в РФ языковых моделей это YandexGPT и GigaChat. Перед стартом проверьте, умеет ли выбранная модель вызывать инструменты. Сколько времени ушло на сборку, автор не сообщает.

Пошаговая инструкция: от сообщения из цеха до задачи

1. Опишите входы и выходы. Перечислите, что люди присылают и какие черновики система должна готовить.
2. Разложите работу по ролям. У автора пять агентов работают цепочкой на каждое сообщение, ещё два запускаются отдельно по расписанию. В тексте подробно описаны составитель, который пишет черновик, и проверяющий, который сверяет его с базой.
3. Запускайте цепочку в фоне. На каждое сообщение ставится замок на десять минут, чтобы его не обработали дважды. При сбое задача повторяется до трёх раз с паузами 60, 120 и 240 секунд. Это спасает от временных ограничений API (канала, через который программа обращается к модели) и от падения базы.
4. Дайте проверяющему инструменты. Он ищет проект по коду или названию, наряд по коду, материал по марке и размеру, человека по роли или имени и открытые замечания по наряду. Кругов «спросил базу, получил ответ» разрешено не больше пяти, чтобы агент не зациклился.
5. Заведите таблицу правил для каждого действия. Вот сокращённая схема автора в пересказе:

определить тип сообщения: само, если уверенность выше 0.85, иначе черновик для администратора
черновик задачи: само выше 0.80, иначе черновик для конструктора
дефицит материала: само выше 0.90, иначе черновик для склада
заявка на закупку: всегда черновик для закупщика
утвердить ревизию чертежа: запрещено агенту
списать материал: запрещено агенту
выпустить наряд в цех: запрещено агенту
неизвестное действие: черновик для администратора

1. Ведите журнал каждого вызова модели. Записывайте модель, токены (кусочки текста, за которые платят при работе с моделью), цену, время и уверенность. Автор признаёт, что без журнала у него не было бы ни одной цифры.
2. Разбирайте ответ модели в три ступени. Сначала ищите блок кода с JSON (формат данных, похожий на анкету с полями) в любом месте текста, затем первый целый объект, затем пробуйте ответ как есть.
3. Прогоните тестовое сообщение и сверьте журнал.

Что делать с этим прямо сейчас, по ролям?

Автору Дзена. Схема «агент пишет черновик, человек подтверждает» подходит и для контента: пусть модель собирает заготовку, а публикацию оставьте за собой.

Маркетологу. Журнал вызовов с ценой и временем превращает разговор о бюджете на ИИ из догадок в счёт за каждое сообщение.

Предпринимателю. Начните с таблицы запретов: какие действия ИИ-агенту нельзя никогда. На производстве это списание и выпуск нарядов, у вас могут быть платежи или отправка писем клиентам.