Экс-CTO OpenAI выпустила открытую модель ИИ: в 14 раз дешевле закрытых аналогов

До сих пор крупные открытые модели ИИ выпускали в основном Meta (Llama) и Nvidia (Nemotron). Thinking Machines Lab заявляет другой подход: модель намеренно сделана «заготовкой», которую организация дообучает (fine-tuning, обучение модели на ваших примерах под узкую задачу) на собственных данных. Источник новости, TechCrunch, отмечает: компания не претендует на звание лучшей модели, а делает ставку на то, что адаптированная под конкретный бизнес система обыграет универсальную закрытую.

Что умеет Inkling?

• 975 млрд параметров, но работает на 41 млрд. Используется архитектура Mixture-of-Experts (MoE): на каждый запрос задействуется лишь часть параметров. Это снижает стоимость и ускоряет ответ.
• Обучена на 45 трлн токенов (токен, минимальная единица текста для модели, примерно треть слова) текста, изображений, аудио и видео. Модель «понимает» все четыре формата, но пока выдаёт только текст: код, структурированные данные, стилизованные документы.
• Регулируемое «усилие рассуждения». Пользователь может выбрать: быстрый короткий ответ или медленный, но более глубокий. Модель также умеет явно сообщать, когда не уверена в ответе, вместо того чтобы выдумывать (галлюцинация, когда ИИ уверенно выдумывает несуществующие факты).
• Экономичность на бенчмарке. По собственным данным Thinking Machines, Inkling тратит втрое меньше токенов, чем Nvidia Nemotron 3 Ultra, чтобы достичь того же результата в задачах на код. Независимой проверки этих замеров нет.

Зачем открытая модель, если есть ChatGPT?

Аргумент Thinking Machines Lab подкрепляется неожиданным союзником. Глава Microsoft Сатья Наделла в своём блоге от 15 июня предупредил: компании, использующие закрытые модели, «платят дважды», за подписку и за то, что их бизнес-знания, вложенные в промпты (prompt, текстовая инструкция для модели) и правки, впитываются в будущие версии чужой модели.

Глава Hugging Face Клем Деланж в разговоре с TechCrunch на прошлой неделе спрогнозировал: передовые закрытые модели останутся для экспериментов и дорогих задач, а основная рабочая нагрузка уйдёт на открытые или приватные решения.

Показательный пример привела сама Thinking Machines: совместный проект с Bridgewater Associates, крупнейшим хедж-фондом мира. Исследователи взяли открытую модель, дообучили её на финансовой экспертизе Bridgewater и получили 84,7% на тестах финансового рассуждения, обойдя закрытые модели. Стоимость запуска оказалась примерно в 14 раз ниже. Оговорка из источника: результаты получены самими участниками проекта, независимого аудита не проводилось.

Как была обучена Inkling?

Thinking Machines Lab предобучила модель с нуля, но признаёт: на этапе пост-тренинга использовались данные, сгенерированные другими открытыми моделями, включая Kimi K2.5 от Moonshot AI. Эта практика (дистилляция) вызывает споры в индустрии. Компания обещает, что следующая модель обойдётся без неё.

Обучение проходило на системах Nvidia GB300 NVL72. Thinking Machines Lab заключила партнёрство с Nvidia на гигаватт вычислительных мощностей Vera Rubin. Стоимость обучения компания не раскрыла. По данным TechCrunch, раунд финансирования в 50 млрд долларов обсуждался в ноябре 2024 года, но к январю переговоры застопорились; с тех пор компания отказывается комментировать финансовую сторону.

При этом от идеи до рабочей модели с выручкой Thinking Machines Lab добралась, по её собственным словам, за девять месяцев. Для сравнения: OpenAI потребовалось около пяти лет, Anthropic около трёх.

Что с этого российским авторам и предпринимателям?

Авторам Дзена и копирайтерам. Inkling пока выдаёт только текст. Если модель станет доступна через API или платформу Tinker (инструмент Thinking Machines для кастомизации), появится ещё одна открытая модель ИИ, которую можно дообучить на своих текстах, темах, стиле. Но для дообучения нужны технические навыки и серверные мощности.

Маркетологам. Аргумент «платишь дважды» от Наделлы стоит взять на заметку: каждая правка промпта в закрытой модели потенциально обогащает чужую систему. Открытые модели ИИ дают контроль над данными.

Предпринимателям в РФ. Модель с открытыми весами можно развернуть на своих серверах, это плюс для компаний, которым важна технологическая независимость. Но скачать 975 млрд параметров и запустить на инференсе (inference, процесс генерации ответа моделью) недешёво: потребуется мощное GPU-оборудование.

Как попробовать?

1. Перейдите на сайт Thinking Machines Lab и найдите раздел Inkling (прямую ссылку на скачивание источник не приводит).
2. Убедитесь, что у вас есть серверы с GPU: модель использует 41 млрд активных параметров, для запуска потребуются видеокарты уровня Nvidia A100 или выше.
3. Для дообучения под свои задачи компания предлагает платформу Tinker, подробности о доступе и ценах пока не опубликованы.

Частые вопросы

Можно ли использовать Inkling в России?

Модель выпущена с открытыми весами, формальных географических ограничений в материалах компании не упоминается. Скачать и развернуть на своём оборудовании можно из любой страны, но потребуются мощные серверы и специалисты по машинному обучению.

Inkling лучше ChatGPT?

Сама Thinking Machines Lab прямо пишет: Inkling «не является самой сильной моделью на сегодня, ни среди открытых, ни среди закрытых». Преимущество в другом: модель можно адаптировать под конкретную задачу, и компания утверждает, что дообученная версия обходит универсальные закрытые системы в узких областях.

Это бесплатно?

Веса модели открыты, но стоимость инфраструктуры для запуска и дообучения ложится на пользователя. Цены на платформу Tinker компания не раскрыла.

Для тех, кто следит за движением открытых моделей ИИ, выход Inkling подтверждает тренд: закрытые гиганты теряют монополию не потому, что кто-то сделал модель лучше, а потому, что бизнесу всё чаще нужна своя модель, а не чужая.