OpenAI показала свой чип Jalapeño: обогнал Nvidia Blackwell по скорости и энергоэффективности

До сих пор OpenAI целиком полагалась на чипы Nvidia для работы ChatGPT и других сервисов. О проекте Jalapeño компания объявила в октябре прошлого года, но конкретных замеров не публиковала. Теперь результаты есть, и они проверены внешним бенчмарком InferenceX от аналитической компании SemiAnalysis. Это не внутренний тест, а отраслевой стандарт, что добавляет данным веса.

Что именно измеряли?

Тест InferenceX оценивает, сколько токенов (фрагментов текста, из которых складывается ответ нейросети) процессор выдаёт каждому пользователю и сколько работы делает на каждый потреблённый киловатт энергии. Два показателя отвечают на два практических вопроса: насколько быстро человек получит ответ и сколько это стоит в электричестве.

OpenAI сравнивала Jalapeño с системой на базе Nvidia Blackwell. Blackwell на сегодня считается самым производительным коммерческим чипом для инференса. Обе метрики оказались в пользу Jalapeño.

Что обнаружили?

• Больше токенов на пользователя. Jalapeño выдаёт каждому подключённому пользователю больше токенов, чем Blackwell. На практике это означает более быстрые и длинные ответы без очереди.
• Выше энергоэффективность. На каждый киловатт потреблённой мощности чип OpenAI обрабатывает больше запросов. Ричард Хо назвал это «очень, очень значительным преимуществом».
• Оптимизация узких мест. Чип спроектирован так, чтобы минимизировать задержки на двух этапах, которые обычно тормозят инференс: предзаполнение (prefill, когда модель «читает» ваш промпт) и коммуникация между узлами. Данные модели, включая KV-кэш (память, которую модель использует, пока генерирует ответ), хранятся локально, без лишних пересылок.
• Полный стек «под ключ». OpenAI разрабатывала чип совместно с Broadcom и использовала собственные модели в процессе проектирования. Компания планирует сделать Jalapeño мультипоколенческой платформой: модели, чипы, память и ИИ-продукты будут развиваться как единая система.

Что это значит для вас?

Авторам Дзена и копирайтерам. Если OpenAI удешевит инференс за счёт своего железа, подписки на ChatGPT и API могут со временем стать доступнее, а лимиты на генерацию выше. Пока это горизонт 2027 года, но направление ясное: больше текста за те же деньги.

Маркетологам и предпринимателям. Зависимость от одного поставщика чипов (Nvidia) означает, что цены на ИИ-сервисы растут вместе с ценами на видеокарты. Появление альтернативы давит на монополию и в перспективе снижает стоимость всей цепочки, от облачного API до готовых решений.

Тем, кто работает в России и СНГ. Jalapeño не продаётся отдельно, это внутренний чип OpenAI для собственных дата-центров. Прямого доступа к нему у российских компаний не будет. Но сам факт, что крупнейший ИИ-разработчик строит своё железо вместо закупки Nvidia, показывает реальный путь: специализированный чип под конкретные задачи инференса может обойти универсальный GPU. Для отечественных команд, которые проектируют ускорители (в том числе на базе RISC-V), это подтверждение стратегии. Из доступных в РФ инструментов для инференса на своём оборудовании стоит смотреть на открытые модели от Сбера (GigaChat) и Яндекса (YandexGPT), где вопрос железа решается локально.

Разработка OpenAI чипа Jalapeño подтверждает: гонка за дешёвый и быстрый инференс переместилась с уровня софта на уровень кремния, и любой, кто планирует масштабировать ИИ-сервисы, теперь вынужден думать не только о моделях, но и о том, на чём они физически работают.

По данным TechCrunch