Что такое ИИ-агент нового типа: OpenAI и TypeSafe снизили цену контроля в 100 раз

OpenAI на мероприятии Dev Day 3 июня представила Decisions API, программный интерфейс, который позволяет ИИ-агенту (программе, самостоятельно выполняющей задачи в интернете) выбирать действие из заранее заданного набора, а не генерировать ответ с нуля.

Сэм Альтман показал продукт как реплику стартапа TypeSafe AI, выпустившего модель Jev несколькими неделями ранее, и основатель TypeSafe Диого Альмейда, бывший инженер OpenAI и один из создателей обучения с подкреплением (reinforcement learning), пошутил в соцсетях про начало «войны клонов».

Что такое ИИ-агент, который принимает решения, а не пишет текст?

Чтобы понять, зачем нужен Decisions API, сначала разберём, что такое ИИ-агент в его нынешнем виде. ИИ-агент получает задачу, например «найди и забронируй билет», и сам выполняет цепочку действий: открывает сайт, заполняет форму, нажимает кнопку. Проблема в том, что на каждом шаге агент вызывает большую языковую модель целиком, а это медленно и дорого.

Decisions API и модель Jev работают иначе. Разработчик заранее задаёт набор вариантов, например: «классифицируй изображение как А, Б или В» или «разреши действие, заблокируй, отправь на проверку человеку». Модель не сочиняет ответ, а выдаёт вероятности для каждого варианта. Это похоже на переключатель с тремя положениями вместо свободного эссе.

«Сфокусировав модель на конкретном выборе, мы делаем её крайне быстрой, сохраняя при этом возможности вроде распознавания изображений, широкой языковой поддержки и защиты» : Сэм Альтман, CEO OpenAI

Зачем клонировать стартап и при чём тут безопасность?

Альмейда из TypeSafe называет подход «System One» (быстрое, интуитивное мышление, в противовес медленному «System 2», как это принято у психологов). Его тезис: большие модели не подходят для множества программных задач, потому что слишком медленные и дорогие.

По данным TechCrunch, разработчик Шапор Нагибзаде из стартапа QueryStory собрал на хакатоне демо, в котором Jev проверяет каждое действие ИИ-агента: блокирует явно вредные, отправляет сомнительные на проверку человеку и пропускает остальные.

Ключевая цифра из того же материала TechCrunch: мониторинг действий одного агента обходится в 2,94 доллара с Jev против 372 долларов с обычной большой моделью. Разница больше чем в сто раз. По словам Нагибзаде, такой мониторинг мог бы предотвратить инцидент на платформе Hugging Face, когда агент OpenAI вёл себя непредсказуемо в открытом интернете.

Релиз Decisions API вышел после серии подобных инцидентов, и сама OpenAI уже использует отдельную модель для слежения за действиями своих агентов, но, как отмечает TechCrunch, «при значительных вычислительных затратах».

«Быстро и дёшево сделать очень легко. Хотите быстро и дёшево, бросайте кости. Интеллект, вот что сложно. Мой ориентир: всегда двигать кривую "интеллект за доллар" вперёд» : Диого Альмейда, CEO TypeSafe AI

Как попробовать?

1. Decisions API от OpenAI пока выпущен как ограниченный предварительный доступ (limited preview). На момент публикации TechCrunch не нашёл разработчиков, уже тестирующих его публично. Следите за обновлениями на platform.openai.com.
2. Модель Jev от TypeSafe AI уже доступна разработчикам. Документацию можно найти на сайте TypeSafe AI.
3. Если вы не разработчик, попробуйте объяснить своему техническому специалисту задачу через аналогию: «нам нужен не генератор текста, а переключатель, который на каждом шаге выбирает одно из трёх действий и стоит копейки».

Есть ли аналог в России?

На момент публикации ни YandexGPT, ни GigaChat не предлагают отдельного «решенческого» API, работающего по принципу Jev или Decisions API. Обе платформы дают доступ к языковым моделям общего назначения, которые можно использовать для классификации, но на порядки дороже, чем специализированный классификатор.

Для российских разработчиков это практический сигнал: если вы строите агентную систему и хотите дёшево контролировать каждый шаг, пока придётся использовать Jev через API (с учётом ограничений доступа) или ждать локальных аналогов.

Что значит этот запуск для вашей работы?

Автору на Дзене. Если вы используете ИИ-агентов для сбора материала или автопубликации, дешёвый мониторинг действий означает, что скоро можно будет ставить «сторожа» на каждое действие агента, чтобы он не опубликовал чушь от вашего имени.

Маркетологу. Классификация входящих заявок, изображений, отзывов через «решенческую» модель вместо полноценной генеративной может обойтись в десятки и сотни раз дешевле. Это меняет экономику автоматизации рутины.

Разработчику и предпринимателю в РФ. Decisions API пока закрыт, Jev доступен через API TypeSafe. Следите за тем, появятся ли открытые веса (open weights, когда параметры модели опубликованы и её можно запустить на своём сервере), потому что именно это сделает подход доступным без зависимости от зарубежного облака.

Частые вопросы

Что такое ИИ-агент простыми словами?

ИИ-агент, это программа, которая сама выполняет цепочку действий для достижения цели: ищет информацию, заполняет формы, отправляет письма. В отличие от обычного чат-бота, агент не ждёт вашей команды на каждом шаге, а действует автономно. Именно поэтому важно контролировать, что он делает, и Decisions API с Jev решают именно эту задачу.

Decisions API и Jev это одно и то же?

Нет. Jev выпущен стартапом TypeSafe AI и уже доступен разработчикам. Decisions API от OpenAI анонсирован как ограниченный предварительный доступ. По описанию Альтмана функциональность похожа, но насколько точно совпадают возможности, пока неизвестно: по данным TechCrunch, публичных тестов Decisions API на момент публикации не было.

Можно ли использовать из России?

Jev работает через API TypeSafe AI, доступ зависит от текущих ограничений сервиса. Decisions API от OpenAI пока закрыт даже для большинства зарубежных разработчиков. Если вам нужна классификация «здесь и сейчас», проверьте доступность Jev или используйте YandexGPT и GigaChat для задач классификации, пусть и дороже.

Самое интересное здесь не сам API, а то, что OpenAI публично признала: контролировать ИИ-агента стоит дороже, чем сам агент, и это надо срочно менять.