Что такое ИИ-агент на практике: бот за $77 в месяц закрыл 8568 запросов

Термин «ИИ-агент» (agent) звучит всё чаще, но обычно без цифр и без честного разбора ошибок. Разработчик с Хабра выложил устройство бота «Лиза Петровна», где один чат скрывает несколько специализированных агентов: доктора, юриста, дизайнера, штурмана. Пользователь пишет текстом, голосом или отправляет фото, а система сама решает, кому передать задачу. Ниже разберём, как повторить подход и на что обратить внимание.

Что понадобится?

• Мессенджер: Telegram-бот (или мост в MAX, мессенджер VK)
• Прокси для моделей: LiteLLM (открытый прокси, который направляет запросы к разным провайдерам по алиасам)
• Языковые модели: дешёвая для большинства ответов (в кейсе DeepSeek) и дорогая для сложных задач (в кейсе Claude Opus)
• База данных: PostgreSQL с расширением pgvector (хранение переписки, памяти и векторов) плюс Redis для кэша
• Эмбеддинги (числовые представления текста для поиска по смыслу): локальный сервис на модели deepvk/USER2-small, без внешних платных API
• Веб-поиск: собственный экземпляр SearXNG (опенсорсный метапоисковик)
• Инфраструктура: Docker Compose, Ansible для деплоя, мониторинг через cAdvisor
• Время на базовую настройку: от нескольких дней, если знакомы с Docker и Python

Как собрать ИИ-агента по шагу?

1. Определите точку входа. Пользователь пишет в один чат. Не заставляйте его выбирать агента вручную. Бот-секретарь принимает любое сообщение: текст, голос, фото.

2. Настройте прокси для моделей через LiteLLM. Агенты знают только алиасы (например, «default» и «complex»), а конфиг прокси решает, к какому провайдеру уходит запрос. Это позволяет менять модель за минуту, не трогая код агентов.

3. Задайте правило маршрутизации между дешёвой и дорогой моделью. В кейсе используется регулярное выражение и проверка длины контекста:

_RE_ESC_COMPLEX = re.compile(
    r"(?iu)(проанализир\w*|анализ\b|сравни\b|стратеги\w*|спланируй|разбери\w*"
    r"|подумай (хорошо|глубоко|как следует)|посчитай|рассчитай|исследуй"
    r"|напиши (код|скрипт|отч[её]т|статью|план)|объясни подробно|детально разбер)"
)

Два триггера эскалации на дорогую модель: слова из списка (complex) и длина сообщения с контекстом больше 2500 символов (length). Всё остальное отвечает дешёвая модель.

1. Создайте профильных агентов с отдельными системными промптами. Доктор, юрист, дизайнер получают собственную модель и инструкции. Маршрутизация секретаря на них не влияет: у каждого агента своя модель, выбранная под задачу, где качество важнее экономии.

2. Организуйте память. Каждый обмен (вопрос пользователя плюс ответ) сохраняется как эпизод. Вектор считается в фоне, ответ пользователю не ждёт эмбеддинг-сервер. Поиск гибридный: семантика через pgvector плюс совпадение по словам. Слова пользователя весят больше слов ответа, чтобы поиск находил то, что человек сам говорил, а не то, что бот упоминал.

3. Добавьте зрение. По данным из кейса, каждая пятая задача начинается с фото. Бот без vision-модели (модели, которая «видит» изображения) теряет этот сценарий. В проекте отдельная vision-модель даёт почти 7% всех ответов секретаря.

4. Вычищайте данные третьих лиц перед сохранением. Идентификаторы третьих лиц удаляются из текста до записи в базу. Удаление пользователя удаляет и его память.

Сколько это стоит в реальности?

За 30 дней языковые модели для всех агентов обошлись в 77 долларов (около 6300 рублей по текущему курсу). Это только инференс (вычисления при генерации ответа), без генерации картинок и видео.

Секретарь за 30 дней обработал 2500 ответов и стоил 51 доллар. Из них 39 долларов ушло на Opus, дорогую рассуждающую модель (reasoning model). Один ответ Opus обходится примерно как 50 ответов DeepSeek.

Экономия достигается простым правилом: дорогую модель вызывают только на запросы «разбери договор», «посчитай, хватит ли топлива» и подобные. Ошибка в таком ответе стоит дороже двадцати центов за вызов модели.

Поиск по памяти занимает в среднем 33 миллисекунды, медиана 17 миллисекунд.

Что люди на самом деле просят у ИИ-секретаря?

Все 8568 запросов с 30 мая разложили по темам автоматически: DeepSeek классифицировал батчами по 80 сообщений, одна тема на сообщение из 16 вариантов. Переписку никто не читал, считали только доли. Классификация приблизительная, доли могут отклоняться на пару процентных пунктов.

21% сообщений оказались короткими репликами: «давай», «ну чего там?», «ты тут?». С ботом разговаривают как с человеком. Осталось 6796 задач.

Классической секретарской работы (календарь, напоминания) набралось 4,7%. «ИИ-секретарь» на практике оказался не ежедневником, а универсальным помощником, которого спрашивают обо всём.

Почти 12% запросов касались здоровья и юридических вопросов, для них работают отдельные агенты с жёстким требованием не выдумывать дозировки и статьи законов.

Картинки и видео просят в 2,5 раза чаще, чем тексты. Факт, который помогает понять, что такое ИИ-агент на практике: это не текстовый чат-бот, а мультимодальная (работающая с текстом, изображениями, голосом) система.

Что делать с этим прямо сейчас, по ролям?

Автору на Дзене. Протестируйте идею «одного входа»: бот в Telegram, который отвечает на вопросы подписчиков и отдаёт сложные запросы рассуждающей модели. 93% ответов обойдутся в копейки, а подписчик получит ощущение персонального помощника.

Маркетологу. Цифры из кейса показывают реальную экономику: 77 долларов в месяц на 118 пользователей. Это позволяет оценить юнит-экономику ИИ-ассистента для клиентской поддержки до запуска, а не после.

Предпринимателю в РФ. Telegram и MAX работают без VPN. Модели DeepSeek доступны через API. Для дорогих задач можно подключить отечественные модели: YandexGPT или GigaChat. Прокси LiteLLM позволяет переключать провайдера в конфиге, не переписывая код.

Кейс «Лизы Петровны» показывает, что такое ИИ-агент без маркетинговой упаковки: регулярка для маршрутизации, гибридный поиск по памяти за 17 миллисекунд и 77 долларов в месяц на весь LLM-слой. Если вы собираете бота для своей аудитории в Telegram, начните с двух триггеров и дешёвой модели, а дорогую подключайте только там, где ошибка стоит дороже вызова.