Liquid AI показала, что такое ИИ-агент на телефоне: 2,69 млрд параметров без облака

Компания Liquid AI опубликовала два варианта модели LFM2.5-2.6B с открытыми весами: базовый для дообучения (обучения модели на ваших примерах под узкую задачу) и готовый к агентным сценариям. Источник публикации: Marktechpost. На фоне того, что крупные языковые модели по-прежнему требуют мощных серверов и облачных подписок, релиз компактного агента, который декодирует 220 токенов (минимальных единиц текста, слогов или слов) в секунду на ноутбуке Apple, выглядит как практическая альтернатива для тех, кому нельзя отдавать данные наружу.

Что умеет LFM2.5-2.6B?

• Работает полностью на устройстве. Инференс (вычисления модели) идёт локально: ни один промпт не уходит на сторонний сервер. Для финансов, медицины и оборонки это снимает вопрос утечки данных.
• Контекстное окно 131 072 токена. Модель обрабатывает документы объёмом до 128 000 токенов за один проход. Это примерно 200 страниц текста.
• Агентные сценарии из коробки. Планирование действий, вызов инструментов, многошаговые задачи. По тестам Liquid AI, модель лидирует в бенчмарках ToolSandbox, Multi-IF и IFStruct, обгоняя Gemma 4 E4B-it (8 млрд параметров) и Qwen3.5-9B (9,7 млрд параметров).
• Скорость и компактность. 220 токенов в секунду на чипе Apple M5 Max, 30 токенов в секунду на телефоне. Занимает менее 2,5 ГБ оперативной памяти.
• 16 языков, включая текстовые задачи. Модель текстовая, без обработки изображений или аудио.
• Дообучение через LoRA (метод лёгкой настройки без переобучения всей модели) с поддержкой библиотек TRL и Unsloth.

Liquid AI прямо предупреждает: модель не рекомендуется для написания кода и задач, требующих глубоких энциклопедических знаний. На бенчмарке LiveCodeBenchv6 она набирает 59,41 балла против 69,86 у более крупной Qwen3.5-9B.

Как устроена архитектура?

Модель состоит из 30 слоёв: 22 блока свёрточных вычислений (short convolution, быстрая обработка коротких фрагментов текста) и 8 блоков группового внимания (GQA, способ эффективно находить связи между словами на большом расстоянии). Словарь расширен до 128 000 единиц без переобучения с нуля. Предобучение заняло около 34 трлн токенов.

Постобучение идёт в четыре этапа: два раунда обучения на размеченных примерах, затем специализация по доменам через обучение с подкреплением, затем дистилляция (перенос знаний от нескольких учителей-экспертов в одну модель) и, наконец, агентное обучение с подкреплением внутри реальных сред.

Как попробовать?

1. Откройте страницу модели на Hugging Face: ищите LFM2.5-2.6B или LFM2.5-2.6B-Base.
2. Скачайте веса в нужном формате: GGUF для llama.cpp, MLX для Mac, ONNX для Windows и встраиваемых систем.
3. Запустите через LM Studio (бесплатная программа для работы с локальными моделями) или vLLM/SGLang, если нужен серверный вариант на GPU.
4. Для серверной нагрузки: по данным Liquid AI, одна видеокарта NVIDIA H100 SXM5 обслуживает примерно 1,3 млрд токенов в день.

LFM2.5 и российские аналоги: что доступно локально?

Для аудитории в России вопрос «что такое ИИ-агент, работающий локально» пока решается иначе. YandexGPT и GigaChat работают через облачные API (интерфейс для программного обращения к сервису), то есть данные уходят на серверы Яндекса или Сбера. Локальный запуск этих моделей на своём устройстве официально не предусмотрен.

LFM2.5-2.6B, напротив, рассчитана именно на автономную работу без сети. Для компаний в регулируемых секторах, финансы, здравоохранение, оборонная сфера, где передача данных в стороннее облако запрещена или ограничена, это принципиальное отличие. Модель поддерживает 16 языков; Liquid AI не уточняет полный список, поэтому качество работы с русским языком стоит проверять самостоятельно.

Что делать с этим прямо сейчас, по ролям

Автору на Дзене. Если вы используете нейросети для черновиков или извлечения фактов из длинных документов, LFM2.5 позволяет делать это офлайн. Контент не уходит на чужие серверы, а расход на генерацию после скачивания модели равен нулю.

Маркетологу. Модель извлекает данные из счетов, форм и документов до 200 страниц. Автоматическая обработка входящих заявок или анализ длинных отчётов без подписки на облачный сервис.

Предпринимателю в РФ. Для регулируемых отраслей, где нельзя отправлять данные клиентов в зарубежное облако, локальный ИИ-агент закрывает формальное требование. Но проверьте качество на русскоязычных задачах до внедрения: Liquid AI не публикует бенчмарки отдельно по русскому языку.

Частые вопросы

Нужна ли мощная видеокарта для запуска?

Нет. По данным Liquid AI, модель занимает менее 2,5 ГБ памяти и выдаёт 30 токенов в секунду даже на телефоне. На ноутбуке с чипом Apple M5 Max скорость достигает 220 токенов в секунду. Для серверного развёртывания достаточно одной GPU.

Модель бесплатная?

Да. Оба варианта опубликованы на Hugging Face под лицензией lfm1.0. Веса можно скачать и использовать без подписки. Стоимость каждого запуска после скачивания фактически нулевая, поскольку вычисления идут на вашем оборудовании.

Подходит ли LFM2.5 для работы с русскоязычным контентом?

Liquid AI заявляет поддержку 16 языков, но не раскрывает полный список и не публикует отдельных бенчмарков по русскому. Перед внедрением в рабочие процессы протестируйте на своих задачах: извлечение данных из документов, следование инструкциям на русском, работа с формами.

Локальный ИИ-агент за ноль рублей в месяц, который при этом обгоняет модели вчетверо крупнее на агентных задачах, стоит проверить на практике раньше, чем конкуренты в вашей нише сделают это за вас.