Google выпустил TimesFM-3: прогнозирование временных рядов стало многорядным без дообучения

TimesFM-3 стала первым мультивариантным (многорядным) релизом в линейке Google Research. До версии 2.5 включительно модель была унивариантной: один временной ряд, собственная история, ничего больше. Об этом сообщает блог Google Research со ссылкой на результаты трёх независимых бенчмарков. Для русских аналитиков и предпринимателей это особенно заметный шаг: прогнозирование временных рядов перестаёт требовать ручной подготовки отдельной модели под каждую метрику.

Что на самом деле умеет TimesFM-3?

Прогнозирование временных рядов в реальном бизнесе почти никогда не сводится к одному графику. Продажи мороженого зависят от погоды, потока покупателей, расписания акций и календаря праздников. Раньше TimesFM видел только сам ряд продаж и строил прогноз по его истории.

TimesFM-3 принимает три типа входных данных без какого-либо дообучения (fine-tuning, подстройки модели под конкретную задачу):

• Несколько целевых рядов прогнозируются совместно, с точечными и квантильными оценками для каждого.
• Прошлые ковариаты (past covariates), данные, известные только за прошлый период. Например, прошлый поток посетителей.
• Прошло-будущие ковариаты (past-future covariates), величины, чьи будущие значения уже известны. Например, календарь акций или расписание праздников.

Модель всё ещё остаётся трансформером (архитектура, лежащая в основе ChatGPT и других языковых моделей), но работает иначе, чем языковые модели. Временные точки группируются в «патчи» (patches), блоки по 32 шага, и нормализуются по каждому ряду, чтобы данные с разным масштабом не забивали друг друга.

Два вида внимания вместо одного

Ключевое нововведение в архитектуре: токены (минимальные элементы, которые модель обрабатывает) проходят через два чередующихся механизма внимания.

• Каузальное временное внимание работает горизонтально, внутри одного ряда, строго от прошлого к будущему. Это не даёт модели «подглядывать» в будущее конкретного ряда.
• Полное вариантное внимание работает вертикально: на каждом временном шаге токен одного ряда видит все остальные ряды в тот же момент. Именно это позволяет модели ловить связи между рядами, например, между погодой и продажами.

Релиз вышел вместе с механизмом Contiguous Patch Masking, впервые описанным в проекте TiRex. Вместо пошаговой генерации прогноза модель заполняет весь горизонт прогноза за один проход. Для каждого целевого ряда выдаются 9 квантилей на каждом шаге, что даёт не просто точечный прогноз, а диапазон вероятных значений.

Где TimesFM-3 опередила конкурентов?

Google сравнивал модель с Chronos-2, семейством Toto 2.0 и собственной TimesFM-2.5 на трёх бенчмарках: GIFT-Eval, fev-bench и TIME. По среднему рангу среди базовых (pretrained) моделей TimesFM-3 заняла первое место на всех трёх, и по точечным, и по вероятностным метрикам.

Важная деталь, которую легко пропустить: сравнение шло только среди базовых моделей без дообучения. Дообученные решения под конкретную задачу могут показывать другие результаты.

Коммерческое использование пока закрыто

Код репозитория TimesFM распространяется по лицензии Apache-2.0, но веса модели версии 3.0 выложены под лицензией timesfm-non-commercial-license-v1.0. Это значит: тестировать, сравнивать с конкурентами и публиковать результаты можно. Встраивать в коммерческий продукт или запускать за API для клиентов нельзя. Для продакшена Google оставляет TimesFM 2.5 с лицензией Apache-2.0, но та модель унивариантная.

Что делать с этим прямо сейчас, по ролям

Аналитикам и дата-сайентистам в РФ. Скачайте веса с Hugging Face и протестируйте на своих данных. TimesFM-3 особенно интересна для локализованных задач: прогнозирование временных рядов продаж с учётом российских праздников, погоды и промоакций в одной модели. Подайте календарь праздников и расписание скидок как прошло-будущие ковариаты, а поток покупателей как прошлую ковариату.

Авторам Дзена и контент-маркетологам. Если вы анализируете сезонность своего трафика, попробуйте подать связанные метрики вместе: просмотры, подписки, внешние переходы. Модель сама найдёт зависимости между ними. Для работы нужен Python и базовое понимание pandas, порог входа средний.

Предпринимателям. Для прод-решений TimesFM-3 пока закрыта лицензионно. Из доступных в РФ альтернатив для прогнозирования временных рядов стоит смотреть на открытые модели Chronos-2 (Amazon) с лицензией Apache-2.0. Для внутренних экспериментов и подготовки пайплайнов TimesFM-3 подходит уже сейчас.

Концовка простая: модель открыта для экспериментов, веса на Hugging Face, код на GitHub. Постройте прогноз на своих рядах, сравните с тем, что даёт ваша текущая модель, и сохраните пайплайн. Когда лицензия изменится, а у Google это случалось не раз, вы будете готовы первыми.

По данным Google Research / Marktechpost