TypeSafe AI выпустила модель Jev: вместо текста она возвращает типизированные объекты

Компания TypeSafe AI представила свою первую модель линейки System One под названием Jev. Об этом стало известно из официального руководства, опубликованного вместе с Python SDK версии 0.7.0. Модель отличается от привычных генеративных систем: она не создаёт текст, а отвечает на типизированные вопросы структурированными объектами с вероятностями и оценками. Для разработчиков, которые строят системы поддержки или маршрутизации, это означает переход от «парсинга ответа нейросети» к работе с готовыми типами данных.

Зачем это автору или разработчику на практике?

Типичная боль: вы отправляете запрос в генеративную модель, получаете текст, потом пишете регулярные выражения или промпты-валидаторы, чтобы вытащить из ответа нужное значение. Jev убирает этот слой. Вы описываете состояние (например, тикет клиента с историей сообщений и данными заказа) и задаёте вопросы тремя примитивами:

• Choice (выбор): модель выбирает один вариант из заданных критериев и возвращает вероятность каждого варианта
• Score (оценка): модель размещает состояние на упорядоченной шкале и возвращает взвешенный балл
• Noul (да/нет с вероятностью): модель отвечает числом от 0 до 1, насколько утверждение верно

Все три примитива можно отправить в одном вызове. На выходе вы получаете не текст для разбора, а объект с полями choice, score, noul, probabilities и confidence.

Что понадобится

• Python 3.8 или новее
• Пакет typesafe-sdk версии 0.7.0 (устанавливается через pip)
• API-ключ TypeSafe AI (получают на console.typesafe.ai/keys)
• Примерно 30 минут на первый рабочий пример
• Базовое понимание JSON и работы с Python-словарями

Пошаговая инструкция

1. Установите SDK и загрузите ключ. Выполните в терминале или Jupyter-ноутбуке:

pip install typesafe-sdk==0.7.0

Ключ можно передать через переменную окружения TYPESAFE_API_KEY или через секреты Google Colab. Клиент читает переменную автоматически:

import os
from typesafe_sdk import TypeSafeClient

os.environ["TYPESAFE_API_KEY"] = "ваш_ключ"
client = TypeSafeClient()

1. Опишите состояние как обычный Python-словарь. Состояние (state) это любой JSON-объект, описывающий ситуацию. Для системы поддержки это тикет, заказ и политика возврата:

state = {
    "ticket": {
        "subject": "Двойное списание",
        "messages": [
            {"from": "customer", "text": "С меня списали дважды за заказ A-104. Верните деньги сегодня."},
            {"from": "support", "text": "Проверяем списания."},
        ],
    },
    "order": {"id": "A-104", "charges": [
        {"amount_usd": 49, "status": "captured"},
        {"amount_usd": 49, "status": "captured"}
    ]},
    "refund_policy": "Двойные списания подлежат полному возврату в течение 30 дней.",
}

1. Сформулируйте типизированные вопросы тремя примитивами. В одном вызове можно задать сразу Choice, Score и Noul:

from typesafe_sdk import Choice, Noul, Score

questions = {
    "department": Choice(
        instructions="Какая команда должна обработать этот тикет",
        criteria={
            "billing": "Оплата, возврат или подписка",
            "technical": "Баги, сбои или интеграция",
            "sales": "Тарифы, планы или апгрейд аккаунта",
        },
    ),
    "frustration": Score(
        instructions="Насколько клиент раздражён в первом сообщении",
        criteria=["Спокоен, излагает факты", "Раздражён, но вежлив", "Очень зол"],
    ),
    "refund_requested": Noul(instructions="Клиент явно просит возврат"),
    "policy_supports": Noul(instructions="Политика возврата покрывает эту ситуацию"),
}

1. Отправьте запрос и получите структурированный ответ:

response = client.system_one(state, questions)

dept = response.choices["department"]
print(f"Отдел: {dept.choice}, уверенность: {dept.confidence:.3f}")
print(f"Вероятности: {dept.probabilities}")

fr = response.scores["frustration"]
print(f"Раздражение: {fr.score:.3f}")

print(f"Просит возврат: {response.nouls['refund_requested'].noul:.3f}")
print(f"Политика покрывает: {response.nouls['policy_supports'].noul:.3f}")

1. Используйте результат для ветвления логики без парсинга текста:

if dept.choice == "billing" and response.nouls["refund_requested"].noul > 0.8:
    route_to_billing_with_priority()

1. Оптимизируйте через батчинг. Согласно руководству, десять вопросов в одном вызове дешевле и быстрее десяти отдельных вызовов. Стоимость входных токенов (инференс, то есть обработка запроса моделью) составляет $0.042 за миллион токенов. Выходные токены бесплатны.

Как всё это выглядит на русскоязычном примере?

{
  "ticket": {
    "subject": "Двойное списание",
    "messages": [
      {"from": "customer", "text": "С меня списали дважды за заказ A-104. Верните деньги сегодня."}
    ]
  },
  "refund_policy": "Двойные списания подлежат полному возврату в течение 30 дней."
}

Что делать с этим прямо сейчас, по ролям

Автору Дзена или копирайтеру. Сам Jev вам не инструмент для написания текстов. Но если вы строите бота поддержки для своего канала или курса, типизированные ответы без парсинга экономят часы на обработке обратной связи от подписчиков.

Разработчику или техническому маркетологу. TypeScript AI и типизированные решения через Jev позволяют строить маршрутизацию обращений, скоринг клиентов и confidence-gated routing (маршрутизация с порогом уверенности, когда запрос передаётся человеку, если модель «не уверена»). Вся логика весов и ветвления остаётся в вашем коде, а не в промпте (промпт, текстовая инструкция для модели).

Предпринимателю в РФ и СНГ. API TypeSafe AI доступен через интернет, ограничений по региону в документации не указано. Из российских аналогов подобного подхода с типизированными ответами пока нет: YandexGPT и GigaChat работают как генеративные модели и требуют парсинга. Если вам нужна классификация обращений на русском, Jev принимает русскоязычный state, как показано в примере выше.

Jev не заменяет генеративные модели, он занимает другую нишу: структурированные решения с гарантиями типов, где код управляет логикой, а модель только оценивает состояние. Для тех, кто строит системы поддержки или автоматизирует маршрутизацию, это способ убрать самый хрупкий слой, парсинг свободного текста, и получить предсказуемый результат с первого вызова.