OpenAI представила свой первый чип: Jalapeño удешевит каждый запрос к ChatGPT

До сих пор OpenAI закупала графические процессоры Nvidia для всех вычислений. Партнёрство с Broadcom было объявлено в октябре, но первый результат показали только сейчас. По тому же пути уже пошли Google и Amazon, создавшие собственные ускорители для машинного обучения. Источник подробностей: The Verge.

Что умеет Jalapeño и зачем он нужен?

• Заточен под инференс. Инференс, это процесс, при котором готовая ИИ-модель обрабатывает ваш запрос и выдаёт ответ. Именно на инференс приходится основная часть расходов, когда миллионы людей одновременно пишут в ChatGPT.
• Разрабатывался с помощью ИИ. OpenAI сообщила, что её собственные модели участвовали в проектировании чипа.
• Лучше энергоэффективность. По словам OpenAI, ранние тесты показывают заметно лучшее соотношение производительности на ватт по сравнению с текущими решениями. Конкретных цифр компания не привела.
• Фокус на задачах реального времени. В анонсе OpenAI отдельно подчеркнула низкую стоимость работы чипа при запуске моделей для кодирования в реальном времени.
• Обучение моделей остаётся на Nvidia. Более тяжёлые задачи, такие как предварительное обучение моделей с нуля, по-прежнему будут выполняться на оборудовании Nvidia.

Зачем OpenAI лезет в «железо»?

Грег Брокман, президент OpenAI, объяснил логику в корпоративном подкасте компании после объявления о партнёрстве с Broadcom.

Мы глубоко понимаем рабочую нагрузку. Мы искали конкретные задачи, которые плохо обслуживаются существующими решениями, и спрашивали себя: как создать то, что ускорит возможное? : Грег Брокман, президент OpenAI

Компания описала свою стратегию так: OpenAI теперь разрабатывает не только передовые модели и продукты поверх них, но и проектирует инфраструктуру под ними, от архитектуры чипов и ядер до систем памяти, сетей, планировщиков и развёртывания. Каждый уровень оптимизирован под одну цель: сделать модели быстрее, надёжнее и дешевле для пользователей.

Релиз Jalapeño совпал по времени с активным развитием агентных (agentic) продуктов OpenAI, таких как Codex (ИИ-агент для написания кода). Чем дешевле инференс, тем выгоднее запускать агентов, которые отправляют десятки запросов к модели за одну пользовательскую задачу.

Как попробовать?

1. Напрямую попробовать чип нельзя. Jalapeño пока проходит тестирование, OpenAI не назвала дату начала промышленной эксплуатации.
2. Следите за ценами API OpenAI. Если чип выйдет в производство, логичным следствием станет снижение стоимости запросов через API, это отразится на всех, кто использует ChatGPT и модели OpenAI через сторонние сервисы.
3. Проверяйте обновления на openai.com. Компания публикует изменения в ценах и доступности моделей в блоге и документации.

Есть ли что-то похожее в России?

Прямого аналога Jalapeño на российском рынке нет. Крупные российские ИИ-сервисы, YandexGPT и GigaChat от Сбера, работают на серверных GPU и не объявляли о разработке собственных чипов для инференса.

Для российских пользователей, которые работают с ChatGPT через VPN или API, снижение стоимости инференса у OpenAI может со временем означать более дешёвый доступ к моделям. Для тех, кто использует YandexGPT или GigaChat, новость важна как ориентир: если OpenAI удешевит инференс, давление на цены конкурентов вырастет по всему миру.

Частые вопросы

Когда Jalapeño появится в продаже или в облаке?

OpenAI не назвала дату запуска в промышленную эксплуатацию. Чип находится на этапе тестирования. Следить за обновлениями можно в блоге OpenAI.

Заменит ли Jalapeño чипы Nvidia полностью?

Нет. По данным из анонса, Jalapeño предназначен только для инференса. Обучение моделей с нуля, самая ресурсоёмкая часть, по-прежнему будет выполняться на оборудовании Nvidia.

Повлияет ли это на стоимость ChatGPT для обычных пользователей?

Напрямую и сразу нет. Но если OpenAI удастся снизить расходы на инференс, это создаст пространство для снижения цен на подписки и API в будущем. Точных сроков и размера экономии компания не раскрыла.