Мини модели нейросетей догоняют крупные: MiniCPM5-2B на 2,5 млрд параметров обошла конкурентов вдвое больше

Результаты опубликованы лабораторией OpenBMB на Hugging Face и GitHub. MiniCPM5-2B стала вторым чекпоинтом в серии MiniCPM5, после версии на 1 миллиард параметров. Модель выпущена под лицензией Apache 2.0, то есть её можно использовать в коммерческих проектах без ограничений. Контекст здесь важен: рынок мини моделей нейросетей за последние месяцы стал одним из самых конкурентных, модели Qwen3.5, Gemma 4 и Granite 4.2 борются за ту же нишу.

Что отличает MiniCPM5-2B от конкурентов?

• Архитектура без сюрпризов. Модель построена на стандартной архитектуре LlamaForCausalLM (то есть совместима с инструментами, которые поддерживают формат Llama). 42 слоя, 16 голов внимания для запросов и 2 для ключей и значений. Это значит, что не нужны кастомные ядра или форки кода: модель загружается в любой популярный движок как есть.

• Контекстное окно 131 072 токена (токен, это примерно одно слово или его часть). Для модели такого размера это много: можно загрузить документ на десятки страниц целиком.

• Средний балл 53,9 по 34 бенчмаркам. По данным OpenBMB, это выше, чем у Qwen3.5-4B (51,1 балла), хотя та модель почти вдвое крупнее. Модели того же размера, LFM2.5-2.6B (33,2) и Gemma-4-E2B-it, отстают заметно.

• Инструменты и код, главная сила. На бенчмарке τ²-Bench Telecom (тест на использование инструментов в телеком-сценариях) модель набрала 97,1 балла. На LiveCodeBench v6 (задачи на написание кода) 69,1 против 56,4 у лучшего конкурента в своём классе. На SWE-bench Verified (исправление багов в реальных репозиториях) 46,4 против 33,6.

• Где модель слабее. Общие знания, ожидаемое ограничение для компактной модели: 70,8 на MMLU-Pro против 78,0 у более крупной Qwen3.5-4B. На длинном контексте результаты смешанные: NoLiMa 68,1 против 43,5 (заметное преимущество), но LongBench v2 43,7 против 47,3 (уступает).

• Все данные обучения опубликованы. OpenBMB выложила наборы Ultra-FineWeb, UltraX, UltraData-Code, UltraData-Math, а также 500 000 агентных примеров и более 80 000 примеров для обучения с подкреплением. Промежуточные чекпоинты (базовый, после промежуточного обучения, после SFT) тоже доступны.

Как обучали: SFT, подкрепление, дистилляция

Процесс обучения трёхэтапный, и он объясняет, почему маленькая модель конкурирует с крупными.

Сначала, дообучение (fine-tuning) на 400 миллиардах токенов (то есть модель «прочитала» огромный корпус размеченных примеров). Затем, обучение с подкреплением (RL, reinforcement learning, когда модель получает награду за верные решения), причём для каждой области, математики, кода, агентных задач и текстов, обучили отдельного «учителя» по алгоритму JustRL II.

Финальный шаг, дистилляция по политике (on-policy distillation, OPD): 16 специализированных «учителей», пять из которых агентные, объединили в одну модель. По замерам OpenBMB, этапы RL и OPD дали прирост в среднем 10,96 балла на задачах рассуждения и 6,96 балла на агентных задачах.

Как попробовать?

1. Ollama или LM Studio (самый простой путь). Установите Ollama на компьютер, затем выполните команду загрузки модели MiniCPM5-2B. На машине с 8 ГБ оперативной памяти модель запустится, хотя для комфортной работы лучше 16 ГБ.

2. vLLM или SGLang (для разработчиков). Эти движки для инференса (инференс, запуск модели для генерации ответов) поддерживают MiniCPM5-2B без дополнительного кода. Достаточно указать идентификатор модели на Hugging Face.

3. llama.cpp (для запуска на слабом железе). Квантованные версии (сжатые до меньшего размера с потерей части точности) доступны на Hugging Face. Подходит для ноутбуков без видеокарты.

4. Репозиторий на GitHub содержит инструкции, примеры промптов (промпт, текстовая инструкция для модели) и ссылки на все наборы данных.

Сравнение с российскими инструментами

Для задач, где важна конфиденциальность данных или нужен вызов локальных функций, MiniCPM5-2B даёт преимущество. Для текстов на русском языке YandexGPT и GigaChat по моему опыту пока удобнее, модель OpenBMB не заточена под русскоязычный контент.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Напрямую модель для генерации контента пока слабо применима: русский язык не приоритетный, общие знания ограничены. Но если вы пишете о технологиях, разбор MiniCPM5-2B, это тема для экспертного поста с практическим углом.

Маркетологу. Если ваша компания обрабатывает клиентские данные и не хочет отправлять их в облако, модель позволяет строить агентные пайплайны на собственном сервере. Экономика простая: лицензия бесплатна, платите только за железо.

Разработчику и предпринимателю в РФ. Все данные обучения доступны, промежуточные чекпоинты тоже. Это значит, что можно воспроизвести методологию дообучения и дистилляции на своих данных. Для стартапов, которым нужна компактная модель под специфическую задачу, это рабочий путь без зависимости от закрытых API.

Частые вопросы

Можно ли запустить MiniCPM5-2B на обычном ноутбуке?

Да. Модель занимает около 5 ГБ в формате с квантизацией (сжатием). Ноутбук с 16 ГБ оперативной памяти справится. На 8 ГБ запустить можно, но генерация будет медленной. Видеокарта не обязательна, хотя с ней ответы приходят заметно быстрее.

Чем MiniCPM5-2B лучше, чем просто использовать ChatGPT через API?

Двумя вещами: данные не покидают ваш компьютер (критично для NDA и персональных данных) и нет платы за токены. Но на задачах написания текстов, перевода и ответов на общие вопросы ChatGPT будет точнее.

Подходит ли модель для русского языка?

Модель мультимодальная по языкам (мультимодальный, работающий с несколькими типами данных или языками), но OpenBMB не публикует отдельных бенчмарков для русского. По моим первым тестам, модель понимает русские промпты, но качество ответов на русском заметно ниже, чем на английском или китайском.

Открытость MiniCPM5-2B, от весов до обучающих данных и промежуточных чекпоинтов, делает её не столько готовым продуктом, сколько строительным материалом. Если вы готовы вложить время в дообучение под свою задачу, в этом весовом классе конкурентов с таким уровнем прозрачности сейчас просто нет.