Модели принятия решений в системах искусственного интеллекта

Компания TypeSafe выпустила Jev, модель принятия решений (decision model), которая работает принципиально иначе, чем привычные большие языковые модели: вместо свободной генерации текста она получает вопрос, контекст и набор допустимых вариантов, а возвращает только выбор, оценку или вероятность. Создатели относят Jev к классу System One Models, отсылая к «Системе 1» из книги Даниэля Канемана о быстрых, почти мгновенных решениях без длинной цепочки рассуждений. Сейчас модель доступна через API на платформе OpenRouter в версии 1.13.

Для аудитории dzen.guru это интересно тем, что модели принятия решений для многокритериального выбора (models for multi criteria decision making) до сих пор были либо академическими, либо требовали собственной инфраструктуры. Jev предлагает готовое API, где задачу маршрутизации или проверки безопасности вызова инструмента решает лёгкая модель вместо тяжёлой LLM.

Что Jev умеет и чем отличается от обычных LLM?

• Не генерирует свободный текст. Модель возвращает только один из трёх типов ответа: выбор (choice), оценку (score) или вероятность (noul, то есть значение от 0 до 1). Ничего другого она создать не может.
• Параллельная обработка вопросов. В одном запросе можно задать сразу несколько вопросов к одному состоянию (state). Например, одновременно проверить, опасен ли вызов инструмента, и достаточно ли данных для ответа.
• Маршрутизация моделей. Вместо того чтобы каждый запрос отправлять на самую дорогую модель, Jev решает, какая модель нужна: лёгкая для простой задачи, тяжёлая для сложной. Вы заранее описываете критерии, модель выбирает.
• Проверка безопасности перед вызовом инструмента (guardrail). Перед тем как ИИ-агент (программа, которая сама выполняет действия по вашему запросу) запустит внешний инструмент, Jev оценивает вероятность риска: удаляет ли действие данные, отправляет ли информацию наружу, создаёт ли внешний эффект.
• Ограничение контекста. Максимум 64 000 токенов (токен, это единица текста, примерно три четверти слова) на весь запрос, причём состояние плюс вопрос должны укладываться в 32 000 токенов.

Как попробовать Jev на практике?

1. Получите ключ API на OpenRouter. Зарегистрируйтесь на сайте openrouter.ai, создайте API-ключ и пополните баланс.
2. Отправьте запрос к эндпоинту решений. Адрес: https://openrouter.ai/api/alpha/decisions, модель указывайте как Jev 1.13. В теле запроса опишите state (контекст: сообщения пользователя, описание инструмента) и questions (вопросы с типом ответа и критериями).
3. Интегрируйте в своего агента. Если вы используете LangChain, напишите middleware (промежуточный обработчик), который перехватывает вызов инструмента и перед выполнением спрашивает у Jev, безопасно ли это действие. Пример кода для такого middleware приведён в документации TypeSafe.

Есть ли аналоги в России?

На момент публикации прямого аналога Jev среди российских моделей нет. YandexGPT и GigaChat от Сбера работают как классические генеративные модели: они создают свободный текст, а не выбирают из заданных вариантов.

Для задач маршрутизации и безопасности российские разработчики обычно используют лёгкие открытые модели или правила на регулярных выражениях. Jev предлагает готовый API-сервис, но он размещён на зарубежной платформе OpenRouter, и доступ из РФ зависит от работоспособности платёжных методов и сетевой доступности сервиса.

Что делать с этим прямо сейчас?

Разработчику агентов. Если вы строите ИИ-агента и каждый вызов инструмента проверяете тяжёлой моделью, Jev может снизить задержку и стоимость. Модель принятия решений для многокритериального выбора (models for multi criteria decision making) здесь работает буквально: вы задаёте критерии, модель возвращает вероятность.

Автору Дзена. Сама по себе Jev текст не пишет, для создания контента она бесполезна. Но если вы пользуетесь ИИ-ассистентами, которые вызывают инструменты (поиск, редактирование файлов), именно такой слой проверки делает их безопаснее.

Предпринимателю в РФ. Пока Jev доступна только через OpenRouter. Если вам критична локализация и размещение данных на территории России, придётся ждать появления аналогов или разворачивать собственные решения на открытых моделях.

Частые вопросы

Jev заменяет ChatGPT или другие большие модели?

Нет. Jev не умеет генерировать свободный текст, писать статьи, отвечать на открытые вопросы. Она только выбирает из заранее заданных вариантов или возвращает вероятность. Это инструмент для разработчиков, которые строят ИИ-агентов и хотят дешевле решать задачи маршрутизации и проверки безопасности.

Можно ли использовать Jev из России?

Технически модель доступна через API OpenRouter, и запросы отправляются по обычному HTTPS. Оплата на OpenRouter привязана к зарубежным платёжным системам, поэтому доступность зависит от вашей возможности пополнить баланс на платформе.

Зачем нужна отдельная модель для принятия решений, если LLM тоже умеет выбирать?

Большая языковая модель при каждом запросе генерирует полноценный текстовый ответ, это дорого по вычислениям и медленно. Decision model возвращает только число или метку, работает быстрее и обходится дешевле. Для задач, где ответ заранее ограничен набором вариантов, гонять тяжёлую модель избыточно.