Selectel протестировал AI-ускорители Zhenwu 810E: 1 536 ГБ памяти, но полная зависимость от Alibaba

Selectel опубликовал подробный разбор тестирования AI-ускорителя PPU (Parallel Processing Unit, «параллельный процессор», отдельный класс ускорителей наряду с GPU и TPU) Zhenwu 810E от подразделения Alibaba, компании T-HEAD (Pingtou Ge Semiconductor). Материал написал Дмитрий, MLOps-инженер Selectel. Тестировали не ради обзора характеристик, а чтобы понять, можно ли встроить такой сервер в реальную облачную инфраструктуру: как ноду для Kubernetes или как выделенный сервер для инференса (запуска готовой модели на запросах пользователей).

Что внутри сервера?

Компания Chaitex предоставила Selectel AI-станцию с 16 ускорителями Zhenwu 810E. Каждый ускоритель оснащён:

• 96 ГБ памяти HBM2e (высокоскоростная память, как у серверных видеокарт NVIDIA)
• пропускной способностью памяти 2 765 ГБ/с (около 2,77 ТБ/с)
• интерфейсом PCIe 5.0 x16
• собственным межчиповым интерконнектом ICN с пропускной способностью до 700 ГБ/с на ускоритель

Суммарно на сервер приходится 1 536 ГБ видеопамяти. Этого хватает для запуска моделей с сотнями миллиардов параметров без разбиения на несколько серверов.

Сервер поставляется с предустановленной ОС, драйверами и UI-интерфейсом. Возможности сменить операционную систему Selectel не получил, хотя в документации есть ссылки на загрузку драйверов.

Что понадобится

• Доступ к AI-станции с Zhenwu 810E (поставляется через партнёров Alibaba, в данном случае через Chaitex)
• Учётные данные PTG PIP (выдаются вендором) для скачивания квантизованных (сжатых без критической потери качества) моделей
• Docker для работы с образами PPU SDK
• Терпение: документация на китайском, английская версия отстаёт по актуальности
• Время на ожидание портирования библиотек (от нескольких недель до неопределённого срока)

Пошаговая инструкция: как запустить модель на Zhenwu 810E

1. Получите доступ к серверу. AI-станция приходит с предустановленным стеком. Убедитесь, что драйверы PPU установлены и ускорители видны в системе. Для мониторинга PPU существуют аналоги привычных утилит NVIDIA, часть доступна прямо на сервере, часть внутри Docker-образа PPU SDK.

2. Скачайте Docker-образ PPU SDK. Весь портированный стек для инференса поставляется в виде собранного Docker-образа с конкретным тегом. Версии библиотек внутри образа фиксированы и отстают от актуальных. Какой именно образ использовать, смотрите в документации Alibaba Cloud Zhenwu PPU Service.

3. Загрузите квантизованную модель. T-HEAD выкладывает модели на китайской платформе Modelscope.cn (аналог Hugging Face, но на глобальной версии Modelscope.ai моделей T-HEAD нет). Внутри образа PPU SDK скачивание работает без дополнительной авторизации:

modelscope download --model T-HEAD/DeepSeek-V4-Flash-0731-W8A8-INT8 --local_dir deepseek

1. Выберите квантизацию. PPU поддерживает FP32, BF16 и FP16, а также схемы квантизации W8A8 (INT8), AWQ (W4A16) и GPTQ (W4A16, W8A16). Alibaba рекомендует для инференса схему W8A8: модель компактнее полновесной, при этом качество ответов падает некритично.

2. Запустите инференс-сервер. Используйте портированную версию vLLM (инференс-движок, который раздаёт запросы к модели) из Docker-образа. Учитывайте, что версия vLLM внутри образа отстаёт от актуальной.

3. Протестируйте на своих задачах. Прогоните типовые запросы и замерьте латентность и пропускную способность, прежде чем принимать решение о закупке.

Главная проблема: вендор-зависимость и отставание стека

Нативные библиотеки NVIDIA с PPU не работают. Хотя заявляется совместимость с исходниками CUDA-кода, эти исходники нужно перекомпилировать под PPU с помощью PPU SDK. Библиотеки PyTorch, Transformers, FlashAttention, vLLM и другие портирует команда T-HEAD.

На практике это означает: когда выходит новая модель или новая версия инференс-движка, приходится ждать, пока T-HEAD портирует обновление. По данным Selectel на 26 августа 2026 года, актуальная версия vLLM составляла v0.27.0, а актуальная сборка для PPU содержала vLLM v0.23.0. Разрыв в четыре версии, и сроки обновления не фиксированы.

Список моделей, для которых T-HEAD подготовила квантизованные веса с W8A8 (INT8):

• DeepSeek R1
• DeepSeek v3.2
• Kimi-K2-Instruct
• Qwen3-235B-A22B
• GLM-5
• MiniMax-M2.5
• Qwen3.5-397B-A17B

На Hugging Face T-HEAD не представлена. Модели в W8A8 там есть, но от неверифицированных источников.

Документация: языковой барьер на практике

Основная документация T-HEAD доступна на китайском языке и ориентирована на разработчиков SDK. С AI-станцией идёт русскоязычная инструкция, но она касается только работы через UI-интерфейс встроенной платформы Alibaba AI Stack.

Английская версия документации доступна на глобальном портале Alibaba Cloud, но только в предыдущей итерации. Актуальные материалы по PPU существуют только на китайской версии портала.

Что делать с этим прямо сейчас, по ролям

Авторам и копирайтерам на Дзене. Если пишете про AI-ускорители или обзоры железа, этот кейс Selectel даёт конкретный сценарий: что происходит, когда российская компания пытается интегрировать китайский чип. Факты из статьи (разрыв в версиях vLLM, языковой барьер, зависимость от вендора) годятся как примеры для материалов про импортозамещение.

Маркетологам. Если ваш продукт работает на инференсе крупных моделей в России, стоит отслеживать доступность Zhenwu 810E через партнёров Alibaba. Объём памяти позволяет запускать модели на сотни миллиардов параметров на одном сервере, но закладывайте в план риск задержек с обновлениями.

Предпринимателям и техническим директорам в РФ. Zhenwu 810E уже тестируется российским провайдером, значит, железо физически доступно. Но «доступно» и «готово к продакшену» не одно и то же. Перед закупкой уточните у поставщика: какая версия PPU SDK поставляется, есть ли портированные версии нужных вам библиотек, и кто будет заниматься поддержкой, когда выйдет новая модель, а T-HEAD ещё не обновил образ.