Кодовые модели ИИ с открытыми весами: Moonshot AI выложила триллион параметров за $0,19 за 1 млн токенов

До сих пор рынок кодовых моделей ИИ делили преимущественно закрытые решения OpenAI и Anthropic. Moonshot AI, известная моделями линейки Kimi, выложила K2.7-Code на Hugging Face под модифицированной лицензией MIT. Как сообщает MarkTechPost, модель также доступна через собственный API, совместимый с форматом OpenAI, и через платформу Kimi Code.

Что умеет K2.7-Code?

• Архитектура MoE (Mixture-of-Experts, «смесь экспертов», когда модель хранит много блоков знаний, но на каждый запрос включает лишь часть из них). Всего триллион параметров, но на один токен активируются только 32 миллиарда. 384 эксперта, из них 8 выбираются на каждый токен плюс 1 общий. 61 слой, включая 1 плотный.

• Контекстное окно 256 тысяч токенов. Это позволяет загрузить в один промпт большой репозиторий, логи, скриншоты и видео одновременно, модель принимает текст, изображения и видео благодаря встроенному визуальному кодировщику MoonViT (400 млн параметров).

• На 30% меньше «мыслительных» токенов, чем у предшественника K2.6 (по данным Moonshot AI). Рассуждающие токены (reasoning tokens, те, что модель тратит на внутренние размышления перед ответом) оплачиваются как выходные. При агентной работе модель проходит сотни шагов, и сокращение на треть снижает стоимость каждого прогона.

• Рост на Kimi Code Bench v2: с 50,9 до 62,0 по сравнению с K2.6 (данные Moonshot AI). На бенчмарке MCP Mark Verified (тест на корректный вызов инструментов через Model Context Protocol, стандарт, по которому модель управляет внешними сервисами) K2.7-Code набрала 81,1 против 76,4 у Claude Opus 4.8.

• Режим рассуждений включён принудительно. Его нельзя отключить, попытка вернёт ошибку API. Параметры генерации тоже зафиксированы: температура 1.0, top_p 0.95. Менять их нельзя.

Все опубликованные бенчмарки проведены самой Moonshot AI. Независимые измерения на момент публикации отсутствуют, и это главная оговорка.

Как попробовать?

1. Через API. Зарегистрируйтесь на platform.moonshot.ai, получите ключ. Модель вызывается строкой kimi-k2.7-code через стандартную библиотеку OpenAI для Python. Формат запросов совместим, менять код почти не нужно.

2. Через платформу Kimi Code. Moonshot AI предлагает подписную среду для кодинга, где модель уже встроена. Подробности на сайте Kimi Code.

3. Самостоятельный хостинг. Веса лежат на Hugging Face, но занимают около 595 ГБ. Поддерживаются фреймворки vLLM, SGLang и KTransformers. Это серверное решение, не для ноутбука.

Сравнение с российскими аналогами

Прямого аналога кодовой модели ИИ такого масштаба с открытыми весами в России пока нет. YandexGPT и GigaChat умеют генерировать код, но не позиционируются как агентные кодовые модели для многошаговой разработки.

Для разработчиков из РФ и СНГ K2.7-Code интересна именно тем, что веса можно скачать и развернуть на своём сервере без зависимости от зарубежного облака.

Частые вопросы

Можно ли запустить Kimi K2.7-Code на обычном компьютере?

Нет. Веса занимают около 595 ГБ, даже со встроенной квантизацией INT4 (сжатие модели до 4-битных чисел для экономии памяти). Нужен сервер с мощными GPU. Moonshot AI прямо указывает, что это не модель для ноутбука.

Чем K2.7-Code отличается от обычного чат-бота?

Модель заточена на агентную (agentную) работу с кодом: она планирует, редактирует файлы, запускает инструменты и отлаживает ошибки за много шагов. Обычный чат-бот отвечает на один вопрос за раз. K2.7-Code ближе к автономному программисту, который сам ведёт задачу от теста до зелёного билда.

Все ли тесты производительности достоверны?

На момент публикации все бенчмарки проведены командой Moonshot AI. Независимых подтверждений пока нет. Это стандартная ситуация для дня запуска, но принимать цифры за истину стоит с оговоркой.

Появление кодовых моделей ИИ такого класса с открытыми весами расширяет пространство выбора, и тем, кто строит внутренние инструменты для разработки, стоит как минимум протестировать API на реальной задаче, пока независимые бенчмарки ещё в пути.

По материалам MarkTechPost