Microsoft Foundry открыла 3 млн моделей Hugging Face: нейросеть можно запустить без настройки GPU

До сих пор Hugging Face оставалась площадкой для публикации и экспериментов: 15 миллионов разработчиков, свыше 3 миллионов открытых моделей, еженедельно появляются новые. Но развернуть такую модель в продакшене с корпоративным уровнем безопасности, мониторингом и обновлениями приходилось самостоятельно. Теперь Microsoft берёт на себя этот слой через Foundry Managed Compute, третий вариант развёртывания внутри платформы Microsoft Foundry, рядом с оплатой за токен (token, минимальная единица текста, которую обрабатывает нейросеть) и зарезервированной пропускной способностью. Источник: документация Microsoft Foundry.

Что появилось в Foundry для пользователей Hugging Face?

• Единая точка входа. Открытые модели Hugging Face подключаются через тот же эндпоинт, SDK и систему аутентификации, что и закрытые модели OpenAI или Anthropic. Отдельной интеграции не нужно.
• Автоматический подбор среды исполнения. Foundry сам выбирает движок под задачу: vLLM и SGLang для языковых моделей, TensorRT-LLM и NIM там, где они применимы, TEI для эмбеддингов (числовых представлений текста для поиска и сравнения), llama.cpp для работы на CPU.
• Безопасность без ручного контроля. Все модели коллекции проходят проверку, поставляются только в формате SafeTensors, без исполнения непроверенного кода. Обновления контейнеров, патчи безопасности и апгрейды среды исполнения накатываются автоматически.
• Резиденция данных. Два режима развёртывания: глобальное (лучшие цены и ёмкость) и по зонам данных (Data Zone), что позволяет хранить и обрабатывать данные в конкретной юрисдикции.
• Еженедельное обновление каталога. Трендовые модели из экосистемы Hugging Face добавляются непрерывно. Покрыты все модальности: текст, зрение, аудио, мультимодальные модели (работающие сразу с несколькими типами данных), генерация изображений, распознавание речи.
• Дообучение и контроль версий. Полные веса позволяют дообучать (fine-tuning), дистиллировать, квантовать модель, адаптировать через LoRA. Можно зафиксировать конкретную версию и откатиться при необходимости.

Как попробовать?

1. Откройте каталог моделей Microsoft Foundry и найдите коллекцию Hugging Face. Модели помечены и доступны наравне с остальными.
2. Выберите модель, укажите параметры рабочей нагрузки: размер (число параметров), длину контекста и приоритет (задержка или пропускная способность). GPU-топологию Foundry подберёт сам.
3. Разверните через знакомый SDK на Python, C#, JavaScript или Java. Эндпоинт, аутентификация и биллинг общие для всех моделей каталога.

Регистрация в Azure и доступ к Foundry требуют учётной записи Microsoft. Квота привязана к семейству ускорителей: план, построенный сегодня на H100, сохранится при переходе на следующие поколения оборудования.

Hugging Face нейросеть и российские реалии: сравнение с YandexGPT и GigaChat

Для разработчиков из РФ и СНГ критичен вопрос: где физически хранятся данные и есть ли доступ к платформе.

Foundry даёт гибкость, но для тех, кому нужна гарантированная работа из России и хранение данных на территории РФ, YandexGPT и GigaChat остаются рабочим вариантом. Открытые модели Hugging Face можно также развернуть самостоятельно на локальном сервере, минуя облачные платформы.

Что это значит для вас?

Автору Дзена. Hugging Face нейросеть через Foundry даёт доступ к свежим открытым моделям для генерации текстов, изображений и аудио без технической подготовки серверов. Если вы экспериментируете с нейросетями для контента, единый SDK и оплата за час GPU снижают порог входа.

Маркетологу. Возможность дообучить модель на собственных данных (описания продуктов, FAQ, стиль бренда) и держать её под контролем в своём облачном тенанте (изолированное пространство в облаке) меняет экономику: вместо оплаты за токен при высоких объёмах можно перейти на почасовую аренду GPU.

Предпринимателю из РФ и СНГ. Прямой доступ к Azure из России затруднён. Практичный путь: скачать нужную модель Hugging Face (они открытые), развернуть на российском облаке (Yandex Cloud, Selectel, VK Cloud) или на своём сервере. Резиденция данных и соответствие 152-ФЗ в таком случае зависят от вашей инфраструктуры, а не от Microsoft.

Частые вопросы

Hugging Face нейросеть платная или бесплатная?

Сами модели с открытыми весами бесплатны, их можно скачать и запустить на своём оборудовании. При использовании через Microsoft Foundry Managed Compute вы платите за аренду GPU по часам. Конкретные тарифы зависят от семейства ускорителей и региона развёртывания.

Можно ли использовать Foundry Managed Compute из России?

Платформа работает на базе Azure. Регистрация и оплата Azure из РФ затруднены из-за санкционных ограничений. Альтернатива: скачать открытую модель с Hugging Face и развернуть на российском облаке или локальном сервере.

Чем Managed Compute отличается от оплаты за токен?

Оплата за токен подходит для старта и непредсказуемых нагрузок. Managed Compute выгоднее при стабильном и большом объёме запросов: вы арендуете GPU, масштабируете до нуля в простое и контролируете задержку. Для закрытых моделей (OpenAI, Anthropic) в Foundry доступна также зарезервированная пропускная способность.

Открытые модели догнали закрытые на большинстве публичных бенчмарков, и корпоративная обвязка была последним недостающим звеном. Теперь оно есть, вопрос только в том, из какой точки мира вы подключаетесь.