Токеномика нейросетей получила свой Big-O: Linux Foundation учит считать расходы на токены

Linux Foundation, крупнейший в мире фонд поддержки открытого ПО, учредил Tokenomics Foundation и опубликовал проект нотации Big-T. Автор фреймворка Ден Нефф, старший архитектор облачных решений в Adobe, предложил систему классов сложности для оценки и прогнозирования расходов на токены (минимальные единицы текста, которыми нейросеть измеряет входящие и исходящие данные) в LLM и агентных системах. Разработка опирается на исследования компании Flexpa и лаборатории MIT CSAIL.

Зачем нужен новый язык для расходов на ИИ?

До сих пор бюджетирование токенов в большинстве компаний относили к категории «разберёмся потом». Ден Нефф сравнивает ситуацию с ранним интернетом, когда веб-разработчики точно так же игнорировали стоимость SQL-запросов к базам данных, пока счета не начинали расти лавинообразно.

Проблема не в том, что один токен дорог. Проблема в том, что рост расходов трудно структурно предсказать и управленчески контролировать. Именно для этого предложена Big-T нотация, по аналогии с Big-O нотацией из теории алгоритмов.

Big-O, для тех, кто не программист, это способ описать, как растёт время работы программы при увеличении объёма данных. Не точное число секунд, а именно характер роста: удваивается, утраивается или почти не меняется. Big-T делает то же самое, но для потребления токенов.

Пять ступеней «лестницы расходов»

Автор выстроил классы сложности в виде лестницы. Каждая ступень показывает, как быстро растёт потребление токенов при увеличении числа запросов или их сложности.

• T(1), константа. Модель вообще не вызывается: ответ берётся из кеша или статической заготовки. Аналогия: пароль от Wi-Fi висит стикером на двери, никто не отвлекает сотрудника, сколько бы людей ни спросили.

• T(log n), сублинейный рост. Правильно построенный RAG (система поиска по базе знаний перед отправкой запроса в модель), где фильтрация отсекает лишнее до передачи в нейросеть. Нефф приводит пример: объём данных сжимается с 240 000 до 19 000 токенов через SQL-фильтрацию. Аналогия: помощник ищет договор не перебором всех папок, а сразу идёт к нужной полке.

• T(n), линейный рост. Базовое допущение большинства бюджетных расчётов: вдвое больше запросов, вдвое больше токенов. Но автор предупреждает о скрытой фиксированной надбавке: полный каталог инструментов ИИ-агента (программы, которая сама выполняет задачи) загружается в контекст при каждом вызове, даже если ни один инструмент не используется.

• T(n·k), мультипликативный рост. Здесь появляется «невидимый множитель» k. Рассуждающие модели могут тратить сотни тысяч токенов на внутренние размышления ради пары сотен токенов видимого ответа. Если результат одного шага нельзя передать в следующий напрямую, ИИ-агент на каждом шаге перечитывает весь накопленный контекст, и пятишаговая цепочка обходится в 10-20 раз дороже единого вызова.

• Выше T(n·k) нотация предусматривает ещё более крутой рост для глубоких деревьев агентов, где параметр a (глубина цепочки) добавляет экспоненциальное усложнение.

Нефф честно оговаривается: Big-T это не формальная математическая система с теоремами и доказательствами, а практический инструмент классификации.

Токены в бюджетировании обычно относят к категории «разберёмся потом», примерно как когда-то на заре Интернета веб-разработчики относились к SQL-запросам. : Ден Нефф, старший архитектор облачных решений Adobe, автор Big-T нотации

Как «невидимые множители» выглядят в реальном биллинге?

Токеномика нейросетей перестаёт быть абстракцией, когда открываешь прайс-лист Yandex Cloud AI Studio, единственной крупной российской платформы с публичной поторенной тарификацией LLM.

В тарифах Yandex Cloud AI Studio цена указана отдельно за входящие токены (промпт, то есть ваш запрос плюс контекст) и исходящие токены (ответ модели). Именно здесь проявляется тот самый «невидимый множитель» k из нотации Big-T: системный промпт (постоянная инструкция модели), история диалога и каталог инструментов агента, всё это входящие токены, которые пересылаются при каждом обращении. Пользователь видит короткий ответ, но платит за весь контекст.

Для автора Дзена или маркетолога это означает конкретную вещь: если вы запускаете ИИ-агента, который на каждом шаге перечитывает всю переписку с клиентом, ваш сценарий не T(n), а T(n·k), и счёт растёт не линейно, а с множителем.

Что это значит для вас?

Автору Дзена. Если вы используете нейросеть для генерации контента через API, проверьте, сколько токенов уходит на системный промпт и контекст. Часто 80% расходов составляет не сам ответ, а «обвязка», которую вы отправляете каждый раз. Сократите системный промпт, используйте кеширование, и вы перейдёте с «лестницы» T(n·k) на T(n) или даже T(log n).

Маркетологу. При планировании бюджета на ИИ-инструменты закладывайте не «цену за запрос», а класс сложности сценария. Чат-бот с памятью диалога и подключёнными инструментами это не линейный рост, а мультипликативный. Big-T нотация даёт язык, на котором можно объяснить финансовому директору, почему счёт вырос непропорционально числу пользователей.

Предпринимателю в РФ. Из доступных в России платформ с API-доступом к LLM, Yandex Cloud AI Studio и GigaChat API. Оба тарифицируют токены, и «невидимые множители» работают одинаково. Перед масштабированием любого ИИ-решения определите класс сложности по Big-T и заложите запас.

Фреймворк уже доступен как открытый проект на GitHub через Tokenomics Foundation. Практический шаг на сегодня: откройте биллинг вашего API, посмотрите на соотношение входящих и исходящих токенов и определите, на какой ступени «лестницы» Big-T находится ваш самый дорогой сценарий. Это и есть точка, где оптимизация даст реальную экономию.