LangGraph агенты теряют токены: gMAS меняет граф на лету и экономит до 52%

Команда изначально пыталась воспроизвести G-Designer, исследовательскую работу, где топология мультиагентной системы (набор ИИ-агентов и связей между ними) оптимизируется графовой нейросетью. Повторить процесс по опубликованному коду не удалось, но сама постановка задачи оказалась настолько перспективной, что разработчики начали писать собственную реализацию. Средой выполнения выбрали LangGraph. Именно тогда эксперимент по оптимизации графов превратился в эксперимент по ограничениям агентных фреймворков. Об этом команда рассказала в публикации на Habr.

Почему LangGraph не справился с динамической топологией?

LangGraph удобен для процессов, где нужно сохранять состояние: можно собирать агентов (программных помощников, выполняющих отдельные роли) в граф, добавлять условные переходы, передавать общее состояние между узлами и сохранять контрольные точки.

Но есть принципиальное различие между двумя задачами:

• Динамическая маршрутизация означает выбрать путь внутри заранее заданного графа. LangGraph это умеет.
• Изменение топологии означает изменить сам граф (удалить агента, добавить нового, поменять связи) и продолжить текущий запуск. LangGraph этого не даёт: структура компилируется перед выполнением.

Команда столкнулась с тем, что при каждом изменении от оптимизатора граф приходилось собирать и компилировать заново. При этом терялась уже выполненная работа. Фактически у разработчиков оказалось два графа: один выполнялся в LangGraph, второй жил рядом и использовался алгоритмом. После каждого изменения нужно было доказывать, что они описывают одну и ту же систему.

Что нового в gMAS?

• Изменяемый граф на базе rustworkx. Rustworkx, это библиотека графовых структур с Python API, где тяжёлые операции реализованы на Rust (быстрый язык программирования). Вершины и рёбра можно добавлять, удалять и менять веса прямо во время выполнения, без перекомпиляции.
• Досрочная остановка. Механизм, который прекращает работу агентов, когда результат уже достигнут. По данным авторов, это сокращает расход токенов на 52,6%.
• Обучаемое прореживание графа. Автоматическое удаление бесполезных связей между агентами. По данным авторов, экономия токенов составляет 27%.
• Единая структура данных. Веса рёбер, матрица смежности (таблица связей между агентами), признаки вершин и метрики переходов хранятся в одном объекте. Не нужно синхронизировать два графа через адаптеры.
• Визуальный слой flowMAS. Граф можно собрать на рабочем поле, запустить и наблюдать за изменениями топологии без погружения в Python-код.

Как попробовать?

1. Установите пакет командой pip install frontier-ai-gmas (требуется Python и менеджер пакетов pip).
2. Постройте граф агентов, используя RoleGraph как изменяемую структуру данных. Документация и примеры доступны в репозитории проекта на PyPI.
3. Для визуальной работы без кода попробуйте flowMAS, интерфейс, где граф собирается мышкой на рабочем поле.

Есть ли аналоги в России?

gMAS решает узкую инфраструктурную задачу: динамическое изменение графа агентов во время выполнения. Прямых аналогов среди российских продуктов на момент публикации нет.

Из доступных в РФ платформ для работы с ИИ-агентами можно назвать YandexGPT и GigaChat. Обе предлагают API для построения цепочек вызовов, но ни одна не позиционируется как фреймворк для динамической оптимизации топологии агентных графов. gMAS работает на уровень ниже: это не замена языковой модели, а инструмент для управления тем, как несколько моделей взаимодействуют друг с другом.

Частые вопросы

Нужно ли знать Python, чтобы использовать gMAS?

Для основного фреймворка, да. gMAS устанавливается через pip и требует написания кода на Python. Для тех, кому код неудобен, авторы разрабатывают визуальный интерфейс flowMAS, где граф собирается мышкой. Но flowMAS пока не вышел в полноценный релиз.

Чем gMAS отличается от LangGraph?

LangGraph позволяет собрать граф агентов и выбирать маршрут внутри него во время выполнения. Но сам граф зафиксирован после компиляции. gMAS даёт возможность менять структуру графа (удалять агентов, добавлять новых, перестраивать связи) прямо в ходе работы, не теряя уже полученных результатов.

Можно ли использовать gMAS с российскими языковыми моделями?

gMAS работает на уровне графовой инфраструктуры и не привязан к конкретной языковой модели. В качестве агентов можно подключать любые модели с API, включая YandexGPT или GigaChat. Ограничения будут зависеть от совместимости API конкретной модели, а не от самого фреймворка.

Если вы строите LangGraph-агентов и упираетесь в то, что граф нельзя перестроить на лету, gMAS стоит проверить на тестовой задаче уже сейчас: пакет занимает одну команду установки, а экономия токенов измеряется десятками процентов.