Holo3.1 локальные агенты для ПК

Спор о том, где должны работать ИИ-агенты (agent, программа, которая сама выполняет действия на экране компьютера вместо человека), длится уже больше года. Облачные сервисы удобны, но каждый клик, каждый скриншот, каждый документ уходит на чужой сервер. Для компаний с жёсткими требованиями к данным, а в России это почти все, кто работает с персональными данными или внутренними документами, облачные агенты часто просто неприемлемы. Holo3.1 предлагает альтернативу, и стоит разобраться, насколько она реальна.

Что выпустила Hcompany?

Holo3.1 построена на базе семейства Qwen и выпущена в четырёх размерах: 0.8B, 4B, 9B и 35B-A3B (число означает количество параметров модели, чем больше, тем умнее, но требовательнее к железу). Впервые в линейке Holo появились квантованные (сжатые для экономии памяти) версии весов: FP8, Q4 GGUF и NVFP4.

Практический смысл: самая мощная модель 35B-A3B в формате NVFP4 на сервере NVIDIA DGX Spark выполняет один шаг за 3,3 секунды вместо 6,8 секунды у несжатой версии. Это двукратное ускорение без заметной потери качества: по бенчмарку OSWorld разница между полной точностью и сжатой версией составляет около двух баллов, по данным Hcompany.

ИИ-агент запускается прямо на Windows или Mac. Модель при этом может работать либо на том же компьютере, либо на DGX Spark в той же локальной сети. В обоих случаях данные не покидают сеть пользователя.

На мобильных устройствах прирост тоже заметный: на бенчмарке AndroidWorld модель 35B-A3B поднялась с 67% до 79,3%, а младшие версии 4B и 9B выросли с 58% до 72%.

Аргументы за локальных ИИ-агентов

Полная приватность. Ни скриншоты, ни тексты документов, ни действия пользователя не уходят за пределы машины. Для российских компаний, работающих с персональными данными по 152-ФЗ, это снимает целый пласт юридических рисков.

Независимость от облака. Нет интернета, сервис провайдера упал, API заблокирован, локальный агент продолжает работать. Для авторов и маркетологов, которые уже обожглись на недоступности зарубежных сервисов, это весомый довод.

Скорость и стоимость. Квантованная модель на DGX Spark обрабатывает запросы в 1,74 раза быстрее, чем версия полной точности BF16, и не требует оплаты за каждый токен (токен, минимальная единица текста, которую обрабатывает модель). После покупки железа каждый запуск по сути бесплатен.

Выбор размера. Четыре варианта от крошечного 0.8B до мощного 35B-A3B позволяют подобрать баланс между качеством и требованиями к оборудованию. Маленькие модели реалистично запустить на обычном ноутбуке с Apple Silicon.

Честный взгляд на ограничения

Порог входа по железу. DGX Spark стоит несколько тысяч долларов, а полноценный запуск 35B-модели на обычном ноутбуке может оказаться медленным. Младшие модели 0.8B и 4B слабее по качеству, и не каждая рабочая задача им по силам.

Экосистема в зачатке. Holo3.1 пока не имеет готового десктопного агентского интерфейса для обычных пользователей: Hcompany обещает его «в ближайшем обновлении». Сейчас развёртывание требует технических навыков, работы с командной строкой, настройки vLLM или llama.cpp.

Бенчмарки не равны реальной работе. Результаты на OSWorld и AndroidWorld получены в контролируемых условиях. Hcompany сама отмечает, что «сильные результаты в одной среде не обязательно переносятся в другую». Корпоративный софт, российские интерфейсы, 1С, Битрикс, никто пока не тестировал.

Конкуренция с облаком. Облачные AI-агенты, такие как решения на базе Claude от Anthropic или GPT от OpenAI, обновляются без участия пользователя и обычно дают более высокое качество на сложных задачах за счёт масштаба.

Holo3.1 — это серьёзный шаг к нашему видению универсальных агентов для управления компьютером: систем, которые могут работать в любых средах, интегрироваться в любой агентный стек и запускаться там, где живёт рабочий процесс. : Hcompany, официальный блог

Что делать с этим прямо сейчас?

Автору Дзена. Если вы работаете с конфиденциальными черновиками или клиентскими данными, локальный ИИ-агент позволит автоматизировать рутину (заполнение таблиц, сбор информации из браузера, работа с почтой) без риска утечки. Но пока нужен технически подкованный помощник для настройки.

Маркетологу. Автоматизация e-commerce сценариев и работы с бизнес-софтом, одно из направлений, где Holo3.1 тестировалась. Если ваша команда уже экспериментирует с ИИ-агентами, стоит попробовать младшие модели на внутреннем сервере и сравнить результат с облачными аналогами.

Предпринимателю в РФ. Из доступных в России аналогов по философии локального запуска можно рассмотреть модели YandexGPT (через API) и GigaChat, но они не предлагают агентного управления рабочим столом. Holo3.1 с открытыми весами (open weights, веса модели доступны для скачивания) можно загрузить с HuggingFace и запустить без зависимости от зарубежных облаков.

Ближайшие полгода покажут, станут ли локальные ИИ-агенты массовым инструментом или останутся нишей для технарей. Hcompany обещает десктопный интерфейс, и если он появится с нормальной установкой в пару кликов, барьер входа резко упадёт. Пока же главный вывод прагматичный: модели уже лежат на HuggingFace, весят адекватно, работают на потребительском железе, и ничто не мешает протестировать их сегодня, не дожидаясь идеального момента.

По материалам HuggingFace