ИИ-модели для принятия решений без токенов: Jev выбирает действие за один вызов API

Модель Jev, которую выпустила компания TypeSafe под названием System One, занимает нишу, которую до сих пор закрывали костылями. Жёсткие правила if/else не понимают контекст и ломаются от перестановки слов. Большие языковые модели понимают контекст, но каждый вызов стоит денег и занимает секунды. Jev работает между этими крайностями: принимает решения с пониманием смысла, но без генерации прозы. Для задач маршрутизации заявок, модерации, классификации на русском языке это означает экономию на токенах и скорость, недоступную рассуждающим моделям.

Что понадобится

• Аккаунт TypeSafe и API-ключ (регистрация на сайте typesafe.ai)
• Node.js версии 18 или новее
• Репозиторий с готовыми скриптами: https://github.com/gmoreva/jev-scripts
• Текстовый редактор и терминал
• Примерно 30 минут на первый запуск и настройку порогов

Пошаговая инструкция

1. Клонируйте репозиторий и установите зависимости.

git clone https://github.com/gmoreva/jev-scripts.git
cd jev-scripts
npm install

1. Создайте файл .env и впишите ключ API.

TYPESAFE_API_KEY=ваш_ключ

1. Разберитесь с тремя типами вопросов Jev. Это основа: ИИ модели для принятия решений работают не через свободный промпт (промпт, текстовое задание для модели), а через структурированные вопросы.

2. Choice : «выбери один вариант из предложенных». На выходе ключ опции, полное распределение вероятностей и уровень уверенности.

3. Noul : «какова вероятность, что ответ "да"?» Одно число от 0 до 1.

4. Score : «определи положение на шкале». Шкала из 2 до 10 уровней, где каждый уровень описан словами.

5. Соберите батарею вопросов в одном HTTP-вызове. Главная особенность Jev: от 2 до 13 вопросов отправляются параллельно, за один запрос. Вопросы не видят ответы друг друга.

{
  "state": {
    "ticket": {
      "text": "Пользователь жалуется на списание средств"
    }
  },
  "model": "jev-latest",
  "questions": {
    "category": {
      "type": "choice",
      "criteria": {
        "billing": "вопрос связан с оплатой",
        "tech": "техническая проблема",
        "other": "всё остальное"
      }
    },
    "is_urgent": {
      "type": "noul",
      "instructions": "Требуется ли немедленная реакция?"
    },
    "severity": {
      "type": "score",
      "criteria": ["не критично", "неудобство", "блокер", "потеря данных", "финансовый ущерб"]
    }
  }
}

1. Отправьте запрос к API.

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d @request.json

1. Обработайте ответ в коде. Jev вернёт для каждого вопроса типизированный результат. Дальше логика простая:

if (response.is_urgent.probability > 0.55) {
  escalateToHuman();
} else {
  routeToQueue(response.category.selected);
}

1. Запустите готовое демо для сравнения. В репозитории два скрипта: agent-jev.js (Jev принимает решения, код владеет циклом) и agent-llm.js (классический агент на большой языковой модели). Запустите оба и сравните результаты.

node agent-jev.js
node agent-llm.js

Релиз вышел без привязки к конкретному региону, API доступен по HTTP из любой точки, включая Россию, без VPN. Это делает Jev применимой для русскоязычных задач прямо сейчас, без ожидания локализации.

Где это пригодится конкретно вам?

Автору Дзена и копирайтеру. Если вы строите бота, который сортирует комментарии или заявки от читателей, Jev заменит цепочку промптов к ChatGPT одним вызовом. Формулируете варианты («спам», «вопрос по теме», «благодарность»), получаете классификацию с вероятностью. Экономия на токенах ощутима при сотнях сообщений в день.

Маркетологу. Маршрутизация лидов, скоринг заявок, модерация отзывов: все задачи, где нужно быстро и дёшево рассортировать входящий поток по категориям. Jev не требует дообучения (обучение модели на ваших примерах под узкую задачу) для базовых сценариев, достаточно описать варианты словами.

Разработчику и предпринимателю в РФ. API работает без ограничений по региону. Из доступных в России аналогов для классификации можно использовать YandexGPT и GigaChat, но они генерируют текст и берут плату за токены рассуждений. Jev снимает этот слой затрат для задач, где свободный ответ не нужен.

Кто строит автоматизацию на больших языковых моделях и каждый месяц смотрит на счёт за токены, попробуйте вынести типовые решения в отдельный слой. Репозиторий открыт, API доступен из России, первый тест занимает полчаса.