Игорь Градов
Игорь Градов
6 мин
ai

Что такое ИИ-агент с памятью: плагин Microsoft и Berkeley сократил расходы до 30,9%

Исследователи UC Berkeley и Microsoft выпустили TokenEconomizer, открытый плагин против лишних трат ИИ-агентов для программирования, которые каждый день начинают в знакомом коде с нуля, и снизили расходы на величину от 18,4 до 30,9%.

Что такое ИИ-агент с памятью: плагин Microsoft и Berkeley сократил расходы до 30,9%
Почему это важно

Экономию здесь считают по накопленному опыту в конкретном проекте, а не по одной задаче. По словам авторов, большинство прежних попыток сократить расходы работали именно с отдельными задачами. Расходы снизились во всех шести проверенных проектах.

Что такое ИИ-агент? Это программа на базе нейросети, которая сама выполняет цепочку действий: читает код, запускает команды, правит файлы. Каждое обращение агента к модели расходует токены (единицы текста, за которые списывается оплата), и до сих пор агент в каждой новой сессии начинал с чистого листа.

TokenEconomizer, общий проект UC Berkeley, Microsoft Research и Microsoft Security, превращает завершённые сессии в подсказки для следующих. Агента и модель под ним плагин не меняет. Подробности изложены в научной статье исследователей TokenEconomizer: Experience-Driven Black-Box Cost Control for Coding Agents.

Что Когда Кто выпустил Цена
TokenEconomizer, открытый плагин для ИИ-агентов, пишущих код Дату релиза источник не называет UC Berkeley, Microsoft Research, Microsoft Security Открытый код, собственный ключ API не нужен, цену не называют

Куда утекают токены?

Сначала авторы проследили за агентом Claude Code на 60 задачах из SWE-Bench. Это набор реальных исправлений ошибок в открытых проектах на Python. Задачи каждого проекта шли подряд, и три вида потерь повторялись раз за разом:

  • Повтор известного. Когда в проекте набиралось не меньше пяти решённых задач, 30% вызовов инструментов повторяли действие из прошлой задачи в том же проекте. Совпадений с историей других проектов было лишь 7%.
  • Оплата лишних инструментов. На каждом шаге агент получал описания 23 инструментов, 16 из них он ни разу не вызвал.
  • Застревание на ошибках. Неудачными оказались 17% задач, но на них пришлось 32% расходов.

Исследователи также проверили три популярных открытых плагина, каждый со своей постоянной стратегией экономии. В одних проектах они снижали расходы, в других нет. Отсюда вывод авторов: экономия должна подстраиваться под конкретный проект.

Что нового умеет TokenEconomizer?

После каждой сессии плагин читает её журнал и обновляет свои знания о проекте. Дальше он работает тремя способами и использует только те возможности, которые у агента уже есть:

  • Микронавыки. Это однострочные заметки о проекте вроде «как здесь запускать тесты». Заметка попадает в стартовый набор агента, только если её подтвердили несколько сессий. Если новые данные ей противоречат, она удаляется.
  • Обрезка инструментов. Плагин убирает инструменты, которые агенту в этом проекте вряд ли понадобятся. Базовые инструменты для запуска команд и правки файлов остаются всегда, а убранные можно вернуть.
  • Выход из тупика. Отдельная модель-судья (нейросеть, которая оценивает ход работы) решает, застрял агент или ещё продвигается. Застрявшему агенту приходит короткая подсказка сменить подход. Если и она не помогла, плагин предупреждает разработчика, а работу сам не останавливает.

В заявленную экономию авторы включили и стоимость обращений самого плагина к модели.

Расходы упали во всех шести проектах

Проверка шла на 277 задачах SWE-Bench из шести проектов. Авторы взяли пять разных связок «агент плюс модель», и в каждом проекте плагин стартовал без истории. Средние расходы снизились на величину от 18,4 до 30,9%, без потери качества во всех 30 парах «проект плюс связка».

Для сравнения: снижение уровня рассуждений модели экономило столько же или больше, но заметно ухудшало результат. Первые задачи с плагином могут стоить дороже, пока он учится. Однако к шестой задаче общий расход опускался ниже обычного в каждом проекте.

Каждый из трёх механизмов экономит и сам по себе, а вместе они дают наибольшее снижение. На Web-Bench, тесте последовательной веб-разработки, расходы упали на величину от 16 до 21,2%. При аудите безопасности экономия составила от 6,4 до 19,6%. Это показательная деталь: там каждая задача была в новом проекте, то есть накопленного опыта у плагина не было.

Где подвох

Цифры получены в тестах самих авторов, на исправлении ошибок в Python и веб-разработке. Из агентов источник называет по имени только Claude Code, остальные четыре связки не перечислены. Порядок установки, точные требования и доступность из России в материале не описаны.

Как попробовать плагин?

  1. Найдите проект по названию TokenEconomizer. Прямой ссылки на код в исходном материале нет, авторы лишь сообщают, что плагин открытый.
  2. Подключите его к агенту, которым уже пользуетесь. Плагин работает рядом с агентом, модель не меняет и не требует собственного ключа API (пропуска для подключения к сервису модели).
  3. Дайте ему поработать в одном проекте. По данным авторов, общий расход опускается ниже обычного к шестой задаче.
  4. Следите за предупреждениями. Если агент застрянет, плагин сообщит вам, а решение останется за вами.

Есть ли российский аналог?

Отечественного аналога TokenEconomizer источник не называет. Из доступных в РФ языковых моделей можно назвать YandexGPT и GigaChat, но тестировали ли плагин с ними, авторы не сообщают. Свои знания плагин хранит на компьютере разработчика, и для компаний, которые не хотят выносить сведения о проекте наружу, это практичный плюс.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. У темы «что такое ИИ-агент и почему он дорогой» теперь есть цифры: 17% неудачных задач съели 32% бюджета. Такая цифра хорошо держит текст о том, как не переплачивать за нейросети.

Маркетологу. Если команда платит за токены агентов, сверьте расходы по проектам. Повторяющиеся задачи в одном и том же месте и есть зона, где опыт агента экономит деньги.

Предпринимателю РФ и СНГ. Сам плагин открытый и работает локально. Но прежде чем закладывать экономию в бюджет, проверьте, доступен ли вам агент, к которому вы его подключите.

Мнение редакции dzen.guru

На мой взгляд, ценность здесь не в коде, а в принципе: агент ведёт конспект и перестаёт платить за то, что уже знает. Оговорка честная: это тесты авторов на своих наборах задач, независимых проверок пока нет. Что сделать сегодня, даже без программирования: заведите себе «микронавыки». Это пять строк о том, что сработало в прошлых промптах (так называют запросы к нейросети). Вставляйте их в начало каждого нового запроса.

Какие вопросы задают чаще всего?

Нужно ли уметь программировать, чтобы пользоваться плагином?

Да, плагин рассчитан на разработчиков, которые работают с ИИ-агентами в коде. Сама идея пригодится всем: короткие заметки о том, что уже проверено, экономят время и запросы в любой нейросети.

Не станет ли агент работать хуже?

По данным авторов, доля успешно решённых задач в целом не изменилась. Хуже стало как раз при другом способе экономии, когда модели урезали уровень рассуждений.

Куда уходят сведения о моём проекте?

По словам авторов, всё, что плагин узнаёт, остаётся на компьютере разработчика. Если вы годами откладывали ИИ-агентов из-за цены, начните с одного проекта и посчитайте расход после шестой задачи.

Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

MLPerf впервые проверил ИИ-агентов: тензорные процессоры Google справились за 18 минут
ai

MLPerf впервые проверил ИИ-агентов: тензорные процессоры Google справились за 18 минут

Google Cloud опубликовала 10 результатов в раунде тестов MLPerf Training v6.1, где впервые появилось испытание на обучение ИИ-агентов, и тензорные процессоры…

4 мин
ai

ИИ в Google Maps пришёл в 30 стран Европы: карта планирует поездку по вопросу

Google выводит Ask Maps, ИИ-помощника в Google Maps на моделях Gemini, в более чем 30 стран Европы, и поездку по европейскому городу теперь можно планировать…

4 мин
Google Поиск сам оформляет бронь отеля и следит за билетами: 4 сценария к праздникам
ai

Google Поиск сам оформляет бронь отеля и следит за билетами: 4 сценария к праздникам

Google перед сезоном праздников, когда списки дел длиннее всего, показала четыре способа переложить хлопоты на свой поиск: от спасения испорченной глазури до…

4 мин