Marktechpost запустил таблицу лидеров GPU и расширение Deploy It: цены разнятся в 3,5 раза

GPU Leaderboard ранжирует облачные GPU (графические процессоры, то есть видеокарты для вычислений) по цене одного часа работы. Сервис рассчитан на команды, которые занимаются инференсом (запуском уже обученной нейросети, чтобы она отвечала на запросы). По данным Marktechpost, сайт берёт цены напрямую со страниц тарифов каждого провайдера и отвечает на вопрос: какая видеокарта нужна и где она дешевле всего.

Что нового в GPU Leaderboard?

Первая версия сервиса состоит из четырёх разделов:

• Калькулятор инференса. Считает стоимость задачи целиком, а не только почасовую ставку.
• Таблица лидеров. Все предложения отсортированы по цене за час работы одной видеокарты. Их можно отфильтровать по модели видеокарты, тарифу, региону и наличию.
• Самый дешёвый инференс. Минимальная цена по каждой отслеживаемой видеокарте при почасовой оплате без обязательств.
• Провайдеры. Справочник с числом машин, регионами, сбоями со страниц статуса и историей проверок цен.

Сайт собирает два вида цен. Первый вид, это почасовая оплата без обязательств. Второй, это спотовые цены: свободные мощности со скидкой, которые провайдер может забрать в любой момент.

Всего, по данным издания, в базе 201 действующее предложение от 24 провайдеров.

Калькулятор работает так: вы выбираете видеокарту, их количество, длительность работы и процент загрузки. Сервис оценивает именно эту задачу у каждого провайдера. Есть необязательное поле для названия модели, оно сужает список.

В примере по умолчанию взяты восемь серверных видеокарт H100 на 72 часа при загрузке 90%. Это 576 оплачиваемых часов. Дешевле всех вышло у Latitude: 967,68 доллара, или 1,68 доллара за час. Медиана по 15 провайдерам составила 1716,48 доллара. Дороже всех оказался CoreWeave с ценой 3545,28 доллара.

Разница между крайними предложениями в этом примере больше чем в три с половиной раза. Калькулятор показывает и «реальную» цену за час полезной работы: простой всё равно оплачивается, поэтому 1,68 доллара при загрузке 90% превращаются в 1,87. По словам автора материала, именно эту цифру чаще всего упускают в бюджетных таблицах.

Расширение GPU Leaderboard: Deploy It показывает цены там, где разработчики выбирают модели. Судя по описанию в магазине расширений, оно работает в трёх местах:

• Страницы моделей на Hugging Face (крупный каталог открытых нейросетей). Расширение определяет размер модели и оценивает, сколько ей нужно видеопамяти (VRAM, памяти самой видеокарты). Оценка даётся для форматов FP16, INT8 и INT4: это степени сжатия модели, и чем меньше число, тем меньше памяти она занимает. Затем расширение показывает самые дешёвые видеокарты, на которых модель поместится.
• Репозитории на GitHub (площадка, где хранят программный код). Расширение находит упоминания моделей и прямо на странице прикидывает, какое железо им нужно.
• Поиск с панели браузера. Можно найти любую модель или видеокарту, не открывая сайт.

Что делать с этим прямо сейчас, по ролям?

Автору Дзена. Сервис пригодится, если вы пишете о нейросетях. Пример с разбросом от 968 до 3545 долларов за одинаковую задачу наглядно объясняет читателю, почему ИИ стоит денег и откуда берутся цены подписок.

Маркетологу. Если компания думает запускать собственную модель, калькулятор даёт честную стартовую оценку. Закладывайте в смету «реальную» цену часа с учётом простоя, а не рекламную ставку.

Предпринимателю из России и СНГ. Провайдеры в примерах зарубежные, и оплатить их из России обычно мешают санкции и ограничения на карты. Есть ли среди 24 провайдеров российские, источник не сообщает.

Как попробовать сервис бесплатно?

1. Откройте сайт gpuleaderboard.com.
2. В калькуляторе укажите видеокарту, их количество, срок и ожидаемую загрузку.
3. Установите расширение GPU Leaderboard: Deploy It из магазина Chrome Web Store.
4. Откройте страницу любой модели на Hugging Face и посмотрите, сколько памяти ей нужно и где её дешевле запустить.

Есть ли российская альтернатива?

Готового российского аналога, который сводил бы цены всех облаков в одну таблицу, в материале нет. Аренду видеокарт предлагают российские облака, например Selectel, Yandex Cloud и Cloud.ru, но их цены придётся сравнивать вручную на сайтах провайдеров.

Удобный приём такой: в GPU Leaderboard определите, какая видеокарта и сколько памяти нужны вашей модели. С этими параметрами идите к российскому провайдеру. Если свою модель запускать не нужно, проще готовые сервисы вроде YandexGPT и GigaChat: там платят за запросы, а не за часы работы железа.

Что чаще всего спрашивают о сервисе?

Marktechpost AI запускает таблицу лидеров GPU и расширение Chrome Deploy It: это нужно только программистам?

Нет. Сайт полезен всем, кто считает бюджет на ИИ: калькулятор работает без кода, достаточно выбрать параметры из списков.

Можно ли арендовать видеокарту прямо через сервис?

Об этом источник не сообщает. Сервис сравнивает цены и ведёт на страницы тарифов провайдеров.

Насколько свежие цены?

Данные обновляются раз в сутки, и сам Marktechpost называет это слабым местом. Перед оплатой сверяйте цену на сайте провайдера: таблица подскажет, где искать, а финальную цифру назовёт счёт.