OpenAI создала свой чип за 9 месяцев: зависимость от чипов Nvidia для ИИ начала слабеть

OpenAI за девять месяцев довела свой первый чип Jalapeño от проекта до работающего образца в лаборатории, и собственные модели компании участвовали в его проектировании.

До сих пор OpenAI полностью зависела от ускорителей Nvidia: и для обучения моделей, и для их запуска. В октябре 2024 года OpenAI и Broadcom объявили о совместной разработке специализированного чипа. Девять месяцев спустя компания раскрыла первые подробности: чип получил название Jalapeño, уже работает в лаборатории, а OpenAI называет цикл разработки «самым быстрым в истории ASIC-чипов» (ASIC — микросхема, спроектированная под одну конкретную задачу, в отличие от универсального процессора).

Что именно делает Jalapeño?

Jalapeño — это чип для инференса (инференс — этап, когда готовая модель обрабатывает ваш запрос и выдаёт ответ, а не учится на данных). Он не заменяет чипы Nvidia для ИИ на этапе обучения: Nvidia, по словам OpenAI, остаётся основой для тренировки моделей. Но всё, что видит пользователь ChatGPT, Codex или будущих агентов, может работать на Jalapeño.

По заявлению OpenAI, чип показал «производительность на ватт существенно лучше, чем у нынешнего уровня техники» в тестах. Конкретных цифр компания не привела.

Зачем OpenAI понадобился свой чип?

Когда компания владеет и моделью, и продуктом, и чипом, она может настраивать каждый слой под другой. Это даёт выигрыш в себестоимости и скорости, который невозможен при покупке универсального оборудования у стороннего поставщика.

OpenAI заявила о планах довести собственные вычислительные мощности до 10 гигаватт к 2029 году, используя свои чипы. Для масштаба: 10 гигаватт — это примерная мощность десяти крупных атомных реакторов.

Отдельная деталь: собственные ИИ-модели OpenAI помогали проектировать и оптимизировать Jalapeño. Компания считает, что с каждым поколением моделей цикл разработки чипов будет ускоряться ещё сильнее.

Что понадобится, чтобы применить эту новость на практике?

Вам не нужно покупать чип. Речь о другом: понять, как сдвиг инфраструктуры влияет на доступность и цену инструментов, которыми вы пользуетесь.

• Аккаунт ChatGPT (бесплатный или платный) для отслеживания изменений в скорости и тарифах
• 10 минут, чтобы проверить альтернативы и сравнить текущие цены
• Базовое понимание того, за что вы платите при каждом запросе к ИИ-сервису

Пошаговая инструкция: как подготовиться к удешевлению ИИ-инференса?

1. Посчитайте текущие расходы на ИИ. Откройте настройки ChatGPT или API-панель и посмотрите, сколько запросов вы делаете в месяц. Если пользуетесь API, выгрузите статистику токенов (токен — единица текста, которую модель обрабатывает за раз; примерно 3/4 слова).

2. Зафиксируйте скорость ответов. Засеките, сколько секунд занимает типичный ответ ChatGPT на ваш рабочий промпт (промпт — текстовый запрос к модели). Эта метрика покажет, стало ли быстрее после перевода на новые чипы.

3. Проверьте российские альтернативы. Из доступных в РФ аналогов — YandexGPT и GigaChat. Отправьте один и тот же рабочий промпт в ChatGPT и в российский сервис. Сохраните оба ответа для сравнения.

4. Настройте уведомления о тарифных изменениях. Подпишитесь на блог OpenAI и канал @openaboratory (или аналогичный русскоязычный канал), чтобы не пропустить момент, когда снижение себестоимости дойдёт до цен для конечных пользователей.

5. Пересмотрите бюджет через квартал. Если OpenAI переведёт инференс на Jalapeño в продакшене, цена за токен может снизиться. Отложите решение о годовой подписке до появления новых тарифов.

Что это значит для вас по ролям?

Авторам Дзена. Если себестоимость инференса упадёт, платные функции ChatGPT могут подешеветь или стать доступнее на бесплатных тарифах. Следите за обновлениями тарифной сетки и не привязывайтесь к годовым планам, пока рынок не стабилизируется.

Маркетологам. Снижение стоимости запросов меняет экономику ИИ-автоматизации: задачи, которые сейчас невыгодно отдавать модели из-за цены за токен, могут стать рентабельными. Пересчитайте unit-экономику (стоимость одного результата) ваших ИИ-воронок через квартал.

Предпринимателям в РФ и СНГ. Прямые закупки зарубежных чипов затруднены, но удешевление облачного инференса коснётся вас через API. Если вы строите продукт на API OpenAI, каждый процент снижения цены за токен напрямую снижает вашу себестоимость — без необходимости покупать оборудование.

Факт, за которым стоит следить: OpenAI заявила, что её собственные модели ускоряют проектирование чипов. Если это подтвердится в следующих поколениях, мы увидим цикл, где ИИ проектирует железо, которое ускоряет ИИ, который проектирует ещё лучшее железо. Пока это заявление компании, не независимая оценка, но именно этот цикл может определить, кто через три-четыре года будет контролировать стоимость ИИ-вычислений.