Игорь Градов
Игорь Градов
6 мин
ai

Мини ПК запускает нейросети на 35 млрд параметров без видеокарты, если снять лимит Windows

Владелец мини ПК с процессором Intel Core Ultra может запустить локальные нейросети на 26–35 миллиардов параметров без дискретной видеокарты, если снять ограничение Windows на память встроенной графики.

Мини ПК запускает нейросети на 35 млрд параметров без видеокарты, если снять лимит Windows
Почему это важно

Встроенной графике Intel Arc можно отдать больше 80% оперативной памяти. Модели, которые раньше требовали видеокарту с 24 ГБ, теперь помещаются в тихий настольный компьютер размером с книгу.

Раньше автор исходного обзора запускал на видеокарте с 8 ГБ видеопамяти только модели на 7 и 8 миллиардов параметров. Теперь он тестирует модели в три-четыре раза крупнее на мини-ПК GEEKOM GT1 Mega с 32 ГБ ОЗУ (оперативной памяти). Его задача: собрать недорогую домашнюю связку для работы с OpenSCAD, FreeCAD, Blender и SolidCraft.

Что понадобится для запуска?

  • Мини ПК с процессором Intel Core Ultra и встроенной графикой Arc. В тесте использовали Core Ultra 9 185H: 16 ядер, 22 потока, частота до 5,1 ГГц, 8 графических ядер Xe и NPU (отдельный блок для нейросетевых вычислений).
  • 32 ГБ двухканальной памяти DDR5-5600. Можно поставить и 64 ГБ, но для этого придётся заменить оба модуля.
  • Программа Intel Graphics Software.
  • Ollama, бесплатная программа для запуска языковых моделей на своём компьютере.
  • Около 18 ГБ свободного места на диске под каждую модель и одна перезагрузка.

Как отдать графике 26 ГБ и запустить модель: шесть шагов

Встроенная графика Arc не имеет собственной памяти и берёт её из общей ОЗУ. По умолчанию Windows разрешает ей около половины: на компьютере с 32 ГБ Ollama видела только 18 ГБ и падала с ошибкой нехватки памяти, если модель занимала её почти полностью.

  1. Откройте Intel Graphics Software. Перейдите в раздел «Настройки», затем «Система», найдите параметр Shared GPU Memory Override (переопределение общей памяти графики).
  2. Сдвиньте ползунок. Автор отдал графике 26 ГБ: такого объёма хватает большинству моделей на 26–27 миллиардов параметров.
  3. Перезагрузите компьютер, без этого настройка не применится.
  4. Скачайте модели, по одной команде на каждую:

ollama pull gemma4:26b ollama pull hf.co/npario/Tiel-Coder-35B-A3B-GGUF:UD-IQ4_XS ollama pull gpt-oss:20b ollama pull hf.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:IQ4_NL

  1. Включите в Ollama поддержку встроенной графики через Vulkan (стандартный интерфейс, через который программы обращаются к видеокарте) и запустите сервер:

set OLLAMA_VULKAN=1 set OLLAMA_IGPU_ENABLE=1 set OLLAMA_HOST=127.0.0.1:11435 ollama serve

  1. Проверьте результат командой ollama ps. Если модель загрузилась целиком в графику, вы увидите «100% GPU».

По словам автора, этот ползунок по объёму памяти приближает мини-ПК к видеокартам с 24 ГБ видеопамяти. Быстрее компьютер от этого не стал, зато модели перестали упираться в лимит.

Какие модели поместились в 26 ГБ?

Три из четырёх протестированных моделей построены по схеме MoE (смесь экспертов). Внутри такой модели много узких «специалистов», и на каждом шаге работают только нужные. Памяти она занимает как большая модель, а считает почти как маленькая.

  • Gemma 4 26B-A4B от Google DeepMind. Всего 25,2 миллиарда параметров, на каждый токен (кусочек слова, которым модель читает и пишет текст) работает около 4 миллиардов. Модель понимает картинки, вызывает инструменты и умеет рассуждать. Сжатая версия Q4_K_M занимает 18 ГБ на диске. Модуль для работы с картинками весит 0,9 ГБ, Ollama скачивает его сама.
  • Tiel-Coder 35B-A3B, сторонняя сборка с Hugging Face (крупнейшего каталога открытых моделей) под лицензией MIT. Это доработанная под программирование модель Ornith-1.5: 34,7 миллиарда параметров, около 3 миллиардов активных. Вариант UD-IQ4_XS весит 17,7 ГБ.
  • GPT-OSS 20B, открытая модель OpenAI в родном формате MXFP4.
  • Qwen3-Coder 30B-A3B, модель Alibaba для написания кода, в сжатии IQ4_NL.

Буквы Q4 и IQ4 в названиях обозначают квантизацию: модель «ужимают», чтобы она поместилась в память, и платят за это небольшой потерей точности.

Как это выглядит на практике

Автор отдал графике 26 ГБ и перезагрузил компьютер. Ollama сообщила, что графике доступно 26,2 ГБ, все модели загрузились полностью, с отметкой «100% GPU». Gemma с контекстным окном (объёмом текста, который модель держит в голове за раз) в 24 576 токенов заняла около 16–17 ГБ, Tiel-Coder около 17–18 ГБ. Диспетчер задач показал занятые 20 ГБ из 26. При этом параллельно без сбоев работали OpenSCAD, Blender, SolidCraft и компилятор arduino-cli.

Сколько потребляет мини ПК под нагрузкой?

Автор снимал данные со счётчиков энергопотребления процессора Intel, которые Windows отдаёт как «Energy Meter». В простое процессор потреблял около 8,5 Вт. Под нагрузкой потребление держалось на 45 Вт, это долговременный лимит мощности, с короткими пиками до 70 Вт при загрузке модели и в начале каждого ответа.

Учтите, что это потребление самого процессора, а не всего компьютера из розетки. Память, SSD, вентилятор и блок питания добавляют сверху, по оценке автора, примерно 20–30%.

Частые ошибки
  • Не отдавайте графике всю память. Windows и программам должно остаться хотя бы 5–6 ГБ, иначе система начнёт тормозить.
  • Не забудьте перезагрузиться после изменения ползунка. Без этого Ollama продолжит видеть прежний лимит.
  • Не пропускайте переменные OLLAMA_VULKAN и OLLAMA_IGPU_ENABLE, иначе модель может запуститься на процессоре вместо графики.
  • Не ждите прироста скорости. Настройка решает проблему нехватки памяти, а не производительности.
  • Tiel-Coder собрал сторонний автор, а не крупная компания. Ставьте такие сборки, понимая, откуда они взялись.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Локальная модель работает без интернета и подписки, а ваши черновики не уходят на чужие серверы. Начните с Gemma 4: она понимает картинки, и её удобно использовать для подписей и разбора скриншотов.

Маркетологу. Один мини-ПК с 32 ГБ памяти заменяет для части задач облачные подписки. Посчитайте, сколько платных запросов в месяц можно перевести на локальную модель.

Предпринимателю в РФ и СНГ. Ollama и модели скачиваются одной командой, оплата из-за рубежа не нужна. Если решили мини ПК купить под нейросети, проверьте модель процессора и объём памяти: 32 ГБ здесь минимум, а для 64 ГБ придётся менять оба модуля. Если своего железа нет, можно работать в облаке: из доступных в РФ сервисов это YandexGPT и GigaChat.

Совет редакции dzen.guru

На мой взгляд, главная находка здесь не модели, а один ползунок в настройках Intel, который многие владельцы мини-ПК даже не открывали. Выжать максимум помогает простое правило: держите размер модели на диске около 18 ГБ, тогда остаётся запас на длинный контекст и рабочие программы.

Честная оговорка: в доступной части обзора нет замеров скорости ответа, поэтому я бы не обещал, что такой компьютер заменит мощную видеокарту в работе. Он заменяет её по одному параметру, по объёму памяти. Для домашней связки без шума и счетов за электричество этого хватает.

Хотите применять нейросети в работе без лишней теории?

На dzen.guru разбираем рабочие инструменты ИИ для авторов, маркетологов и предпринимателей.

Перейти на dzen.guru
Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

Voyage Labs привлекла $12 млн на ИИ-ассистента для путешествий: он сам бронирует отели
ai

Voyage Labs привлекла $12 млн на ИИ-ассистента для путешествий: он сам бронирует отели

Voyage Labs, стартап выходца из Google Maps, привлекла 12 миллионов долларов на разработку специализированного ИИ-ассистента для путешествий, когда…

4 мин
ai

Галлюцинации The AI Scientist: до 42% запусков падают, а статьи содержат выдуманные цифры

Лаборатория EvoNova Labs выложила в открытый научный архив стресс-тест системы The AI Scientist от Sakana AI, стартапа с оценкой выше 1,5 млрд долларов: до 42%…

4 мин
Первый крупный шаг Nvidia после ухода Хуанга: комитет по национальной безопасности
ai

Первый крупный шаг Nvidia после ухода Хуанга: комитет по национальной безопасности

Nvidia во вторник создала комитет совета директоров по национальной безопасности и экспортному контролю, и это первый крупный шаг компании после ухода Дженсена…

4 мин