Kubernetes учит автоскейлер понимать GPU: задачи зависают даже при свободном кластере
Сообщество Kubernetes учит планировщик и автоскейлер одинаково понимать оборудование, потому что с распространением ИИ задача на дорогом ускорителе может зависать в очереди даже при свободных мощностях кластера.

Десять лет два главных механизма Kubernetes работали почти независимо. Теперь у них появляется общий язык описания видеокарт и других ускорителей. Это поворот для всех, кто платит за GPU, пока задача ждёт запуска.
Kubernetes раскладывает программы в контейнерах по серверам кластера. Контейнер похож на чемодан, в котором программа едет вместе со всем, что нужно ей для запуска. Как пишет материал, который перевела команда VK Tech, эта архитектура держалась на двух циклах. Им раньше редко требовалось взаимодействовать, но ИИ-нагрузки и ускорители изменили условия.
| Что | Когда | Кто выпустил | Цена |
|---|---|---|---|
| Механизм DRA и его расширения для ускорителей | Дату в материале не назвали | Сообщество Kubernetes, перевод VK Tech | В материале не указана |
Почему мощная видеокарта простаивает, хотя место в кластере есть?
Первый цикл ведёт планировщик. Он размещает поды на узлах, которые уже работают. Под можно сравнить с одной посылкой с программой, а узел с полкой, то есть отдельным сервером.
Второй цикл ведёт автоскейлер. Он добавляет новые узлы, когда подам не хватает места. Пока вычислительные ресурсы были взаимозаменяемыми, каждый цикл мог действовать, почти ничего не зная о решениях другого.
С GPU картина другая. Под остаётся в состоянии Pending, то есть ждёт размещения, хотя мощности кластера не исчерпаны. Автоскейлер готов добавить узел, но планировщик не может его использовать. Автоскейлер отвечает на вопрос «нужен ли узел», а сначала нужно понять, подходит ли конфигурация узла для конкретной нагрузки.
Что нового в связке планировщика и автоскейлера?
Материал разбирает три задачи, на которых виден прогресс:
- Резервирование мощностей. Ускорителей на рынке мало, простой стоит дорого, поэтому команды бронируют мощности заранее. Автоскейлер должен понимать, займёт ли новый узел ресурсы, которые команда уже оплатила.
- Топология, то есть схема связей между устройствами. Ускоритель работает лучше, когда рядом находятся его процессор и память из того же блока NUMA, его сетевая карта на общей внутренней шине PCIe и быстрые каналы к соседним ускорителям. NUMA означает участок сервера, где процессор и память стоят ближе всего друг к другу. PCIe означает внутреннюю шину, по которой устройства обмениваются данными.
- DRA (Dynamic Resource Allocation), динамическое распределение ресурсов. Раньше узел сообщал только число устройств, а под запрашивал число, и планировщик сравнивал два целых числа. Теперь нагрузка подаёт структурированную заявку со связями, например «ускоритель плюс его сетевая карта», и планировщик читает её напрямую.
- Деление одного устройства. Механизм partitionable devices выдаёт части устройства по запросу. Consumable capacity, или «расходуемая ёмкость», позволяет нескольким задачам одновременно брать измеримые доли ресурса.
Одна деталь в материале важнее остальных. Автоскейлеры с поддержкой DRA только «начинают» учитывать заявки, и поддержка «зависит от реализации». Значит, это движение в процессе, а не включённая по умолчанию функция.
Мелкое деление ускорителя приводит к фрагментации: часть ресурсов остаётся неиспользуемой. Помогают разумно выбранные минимальный размер и шаг выделения. Ещё одна проблема не решается общим языком: групповое планирование (gang scheduling) по принципу «всё или ничего». В этом режиме крупное задание запускается только тогда, когда сразу нашлись все нужные ему части.
Как проверить свой кластер?
- Откройте kubernetes dashboard или консоль кластера и найдите поды, которые висят в статусе Pending, когда свободные мощности есть.
- Спросите поставщика или инженера, поддерживает ли ваш автоскейлер DRA. По материалу, поддержка различается.
- Если у вас много небольших задач, обсудите деление ускорителя и сразу договоритесь о минимальном размере и шаге выделения.
- Если мощности забронированы, проверьте, учитывает ли автоскейлер эту бронь при добавлении узлов.
Есть ли российский вариант без своей команды инженеров?
Материал перевела VK Tech, и в нём есть реклама её сервиса Managed Containers для развёртывания кластеров Kubernetes. Компания обещает снизить затраты на инфраструктуру до 60%. Это рекламное заявление самой VK Tech, условий расчёта материал не приводит. Сравнения с другими российскими сервисами в источнике нет.
Что делать с этим прямо сейчас, по ролям
Автору Дзена. Если вы пишете про ИТ или облака, тема простоя видеокарт хорошо объясняется на бытовом примере: оплаченная машина стоит в гараже, потому что для неё нет подходящего водителя.
Маркетологу. Если компания арендует GPU под ИИ-генерацию, спросите у технической команды, сколько времени ускорители простаивают. Это прямые деньги в смете.
Предпринимателю в РФ и СНГ. Перед покупкой облака под нейросети уточните три вещи: поддерживается ли деление ускорителя, учитывается ли бронь и работает ли автоскейлер с DRA.
На мой взгляд, это одно из самых практичных изменений в инфраструктуре ИИ за последнее время. Оно бьёт по деньгам, а не по красоте демонстраций. Оговорка: поддержка DRA в автоскейлерах пока неровная, а групповое планирование остаётся открытым вопросом. Обещания провайдеров про экономию проверяйте на своей нагрузке. Сегодня откройте счёт за облако и посмотрите, сколько вы платите за GPU в часы, когда задачи стоят в очереди.
Частые вопросы
Нужно ли мне это, если я просто пользуюсь чат-ботом?
Напрямую нет. Это задача тех, кто запускает свои модели на собственных или арендованных серверах.
Можно ли делить одну видеокарту между задачами?
Да. Устройство делят на изолированные части или выдают задачам измеримые доли. Некоторые среды выполнения дают задачам доступ к устройству по очереди, разделяя время его работы.
Почему бы просто не купить больше видеокарт?
Предложение ограничено, а простой ускорителей дорог. Если автоскейлер добавит неподходящий узел, лишняя карта будет простаивать точно так же, как и первая.
Кто первым научит свой кластер не платить за простой, тот и выиграет на ценах ИИ-сервисов.

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».
Читайте также

Агентный RAG на JVM в Смысл.ИИ: в модель уходят только найденные фрагменты
Создатель B2B-системы Смысл.ИИ разобрал устройство агентного RAG на JVM в момент, когда вакансии и туториалы по ИИ-агентам чаще всего строятся на Python, а…

Anthropic завершила стадию pre IPO: размещение на $81,3 млрд побило рекорд SpaceX
Anthropic, разработчик чат-бота Claude, продала акции по 83 доллара, выше заявленного диапазона, и привлекла 81,3 млрд долларов, проведя крупнейшее IPO в…
Claude Code AI мог сохранять пароли открытым текстом: на GitHub больше тысячи таких файлов
Пользователи Claude Code, хоть раз нажавшие «больше не спрашивать», могли сохранить пароли открытым текстом в файле проекта, и после того как в открытых…
Комментарии