Новости ИИ за 14 июля: модели на 295B параметров теперь запускаются на одной видеокарте

---

Сразу несколько команд за 13–14 июля 2026 года выпустили модели и инструменты, которые позволяют запускать мощные нейросети локально, на обычном компьютере или даже смартфоне, и это напрямую касается тех, кто работает с ИИ в России.

Источник этих новостей ИИ, дайджест AI News (раздел Latent Space), который агрегирует публикации из 12 сабреддитов и 544 аккаунтов в Twitter. За два дня накопилось сразу несколько релизов: сжатые открытые модели для локального запуска, новый агентный бенчмарк от Perplexity и продолжающийся рост пользователей Codex от OpenAI. Ниже разбираю то, что пригодится на практике.

Что вышло и почему это не рядовой апдейт?

• Bonsai 27B от PrismML. Две версии модели Qwen 3.6 27B, сжатые до экстремально малого размера. Ternary-вариант занимает 5,9 ГБ при 1,71 эффективных бит на параметр. Однобитный вариант занимает 3,9 ГБ при 1,125 эффективных бит. Обе версии сохраняют мультимодальность (модель работает с текстом и изображениями), умеют использовать инструменты и поддерживают длинный контекст. Демонстрация показала запуск на видеокарте RTX 5090, а Locally AI продемонстрировал работу на смартфоне. Лицензия Apache 2.0, то есть модель полностью открытая и бесплатная, в том числе для коммерческого применения.

• Hy3 от Tencent Hunyuan. Модель масштаба 295 миллиардов параметров (295B), выпущенная в однобитном и четырёхбитном вариантах. По заявлению разработчиков, её можно запустить на одном GPU (видеокарте) через llama.cpp с включённым MTP (Multi-Token Prediction, предсказание нескольких токенов за один шаг). Для модели такого масштаба это заметный сдвиг: обычно подобные нейросети требовали кластера серверов.

• MOSS-VL-Realtime от OpenMOSS. Мультимодальная модель на 11 миллиардов параметров с контекстом 256 тысяч токенов (токен, это единица текста, примерно одно слово или его часть). Умеет непрерывно смотреть видеопоток, отвечать по ходу просмотра, пересматривать свои ответы при смене сцены и молчать, когда данных для ответа недостаточно. Лицензия Apache 2.0.

• Codex от OpenAI продолжает расти. Сэм Альтман (глава OpenAI) сообщил, что использование Codex и ChatGPT Work выросло в 2,5 раза за неделю, а спрос на модель GPT-5.6 Sol он назвал словом «insane» (безумный), предупредив о возможных перебоях из-за нагрузки на инфраструктуру. JetBrains сделал Codex рекомендуемым агентом (ИИ-агент, это программа, которая самостоятельно выполняет задачи, а не просто отвечает на вопросы).

Как попробовать Bonsai 27B на своём компьютере?

1. Убедитесь, что у вас есть видеокарта с объёмом видеопамяти от 6 ГБ (для однобитного варианта хватит 4 ГБ VRAM). Подойдут карты NVIDIA начиная с RTX 3060.
2. Скачайте модель Bonsai 27B со страницы PrismML. Найти её можно на платформе Hugging Face по запросу «PrismML Bonsai 27B».
3. Запустите модель через llama.cpp или любой совместимый локальный раннер (Ollama, LM Studio). Однобитный вариант на 3,9 ГБ загружается за минуты даже при медленном интернете.
4. Для модели Hy3 от Tencent используйте llama.cpp с параметром MTP enabled, как указано в документации Hunyuan.

Что доступно в России: сравнение с YandexGPT и GigaChat

Для тех, кто работает в России, локальный запуск снимает две проблемы: зависимость от стабильности облачного доступа и стоимость API-запросов, которая при активной работе с контентом ощутима.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Локальная модель на 3,9 ГБ, это бесплатный помощник для генерации черновиков, рерайта и проверки текстов. Никаких лимитов на количество запросов, никаких подписок.

Маркетологу. Модели с поддержкой инструментов и агентных сценариев позволяют автоматизировать рутину: сбор данных, генерацию отчётов, первичный анализ. При этом данные клиентов остаются на вашем компьютере, что закрывает вопрос конфиденциальности.

Предпринимателю в РФ. Экономика меняется: вместо оплаты облачных API по курсу доллара вы один раз покупаете видеокарту и дальше используете модель бесплатно. Для малого бизнеса с десятками тысяч запросов в месяц разница может быть кратной.

Частые вопросы

Нужна ли мощная видеокарта для запуска Bonsai 27B?

Для однобитного варианта (3,9 ГБ) достаточно карты с 4 ГБ видеопамяти. Для ternary-варианта (5,9 ГБ) нужно от 6 ГБ. Карты уровня RTX 3060 и выше подходят. Источник также упоминает запуск на смартфоне, но конкретные модели телефонов не названы.

Можно ли использовать эти модели для коммерческих проектов?

Bonsai 27B и MOSS-VL-Realtime выпущены под лицензией Apache 2.0, которая разрешает коммерческое использование без ограничений. Для Hy3 от Tencent конкретная лицензия в источнике не указана, уточняйте на странице проекта.

Заменят ли эти модели ChatGPT или YandexGPT?

Пока нет. Локальные сжатые модели хорошо справляются с рутинными задачами: генерация текста, ответы на вопросы, работа с контекстом. Но для задач, где требуется доступ к актуальной информации из интернета или максимальная точность рассуждений, облачные сервисы остаются сильнее. Локальные модели, это дополнение, а не полная замена.

Главное из сегодняшних новостей ИИ: барьер входа в работу с мощными нейросетями продолжает падать, и теперь он измеряется не стоимостью подписки, а наличием видеокарты с 4 ГБ памяти, которая есть у большинства.