OpenAI показала свои чипы для нейросетей: в 3,6 раза быстрее Nvidia по отклику

Результаты опубликованы в блоге OpenAI и подтверждены комментариями вице-президента по аппаратному обеспечению компании Ричарда Хо. Jalapeño, чипы для нейросетей класса ASIC (микросхема, спроектированная под одну конкретную задачу, в данном случае под инференс), разработан совместно с Broadcom и впервые анонсирован в июне. Сейчас компания раскрыла конкретные цифры производительности, замеренные на независимой платформе InferenceX.

Что именно измеряли?

OpenAI использовала InferenceX, открытую платформу для бенчмарков инференса. Инференс, это момент, когда уже обученная модель выполняет вашу задачу: отвечает на промпт, запускает ИИ-агента, генерирует текст или код. Именно на этом этапе пользователь ждёт ответа, и именно здесь задержка ощущается напрямую.

Чип Jalapeño сравнивали с лучшими на тот момент результатами на InferenceX, полученными на суперчипах Nvidia GB200 и GB300. Тестировали на трёх моделях разного размера и архитектуры: GPT-OSS 120B (открытая модель OpenAI на 120 миллиардов параметров), DeepSeek R1 и Kimi K2.5 1T.

Что показали замеры?

• Энергоэффективность: Jalapeño выполнял от 1,5 до 1,9 раза больше вычислительной работы на каждый ватт потреблённой энергии по сравнению с решениями Nvidia. Для дата-центров это означает: при том же энергопотреблении можно обслужить больше запросов.
• Скорость отклика: Задержка от запроса до ответа оказалась в 1,7 до 3,6 раза ниже. По словам Ричарда Хо, это даёт пользователям «более быстрые ответы, более отзывчивых агентов и более надёжный доступ при растущем спросе».
• Компромисс решён: Хо отметил, что системы ИИ обычно вынуждены жертвовать либо скоростью отклика, либо пропускной способностью. Jalapeño, по его словам, предлагает «лучшее из обоих миров».

Nvidia остаётся партнёром, а не конкурентом

Ричард Хо подчеркнул: OpenAI не планирует полностью заменять существующие чипы на Jalapeño. Компания называет Nvidia «очень хорошим партнёром» и продолжит использовать их решения. Одновременно OpenAI уже разрабатывает второе и третье поколения собственного чипа.

Серийное производство начнётся с малых партий до конца 2025 года. Объём будет наращиваться к 2027 году, но конкретное количество чипов компания не раскрыла.

Что это значит для вас?

Авторам Дзена и копирайтерам. Чипы для нейросетей, подобные Jalapeño, напрямую влияют на скорость работы сервисов, которыми вы пользуетесь каждый день. Если ChatGPT и его API начнут работать на собственных чипах OpenAI, ответы могут приходить заметно быстрее, а длинные генерации (сценарии, лонгриды, переписывание текстов) перестанут «зависать» на полминуты.

Маркетологам и предпринимателям. Более дешёвый инференс потенциально снижает стоимость API-вызовов. Если OpenAI переведёт часть нагрузки на Jalapeño, это может отразиться на ценах подписок и тарифов, хотя конкретных обещаний компания не давала.

Тем, кто работает в РФ и СНГ. Прямой доступ к ChatGPT в России ограничен, но российские сервисы (YandexGPT, GigaChat) тоже зависят от стоимости и доступности чипов для инференса. Появление конкурента Nvidia на этом рынке в перспективе может повлиять на цены серверного оборудования для всех, включая российских провайдеров.

Серийные поставки начнутся в малых объёмах до конца года, а ощутимый масштаб обещан только к 2027-му. До тех пор следите за обновлениями тарифов OpenAI API: если цены пойдут вниз, значит, Jalapeño уже работает.

По данным The Verge