Модель Jev сократила расходы на модерацию каталога на 90%: кейс на 200 000 товаров

Опыт опубликовала команда Narisuemvse.by. Компания обслуживает магазин компьютерной техники: около 200 тысяч активных позиций, которые постоянно пополняются через парсинг внешних источников. Контент-менеджеры проверяли каждый товар вручную и успевали обработать около 5 000 штук в месяц, тогда как входящий поток был выше. К моменту автоматизации накопилось порядка 100 тысяч необработанных заявок.

Как выглядела первая версия на классической LLM?

Команда написала сервис для CRM, внутри которого ИИ-агент (программа, выполняющая задачу без участия человека) анализировал название товара, характеристики и категорию. Модель получала промпт (текстовую инструкцию) с правилами модерации и возвращала вердикт в формате JSON: поле valid (соответствует ли товар категории), коэффициент уверенности от 0 до 100 и краткую причину на русском.

Главная трудность: бюджетные языковые модели часто отдавали ответ не в том формате, который ожидал код. Приходилось либо прописывать структуру прямо в промпте, либо передавать JSON-схему через параметр response_format для тех моделей, которые его поддерживают. Оба пути нестабильны: модель может добавить лишний текст, обернуть JSON в Markdown или пропустить обязательное поле.

Что понадобится

• Доступ к API модели Jev (идентификатор «typesafe/jev-1.13»).
• Существующий сервис верификации товаров или скрипт, который умеет отправлять HTTP-запросы и читать JSON-ответ.
• Каталог товаров с полями: id, название, категория, бренд, характеристики.
• Около часа на адаптацию запросов, если у вас уже есть работающий пайплайн на языковой модели.

Пошаговая инструкция

1. Сформулируйте вопросы вместо промпта. В классической LLM вы пишете длинную текстовую инструкцию. В Jev вместо этого задаёте отдельные вопросы с типом ответа. Каждому вопросу нужно указать тип (например, «noul» для вероятности от 0 до 1), инструкцию и критерии для «да» и «нет».

2. Подготовьте объект state с данными товара. Передайте id, title, category, brand и массив fields. Это те же поля, которые вы передавали в промпт LLM, только теперь они идут структурированным объектом, а не вклеиваются в текст.

3. Отправьте запрос к API Jev. Пример запроса для проверки категории и характеристик:

{
  "model": "typesafe/jev-1.13",
  "state": {
    "product": {
      "id": 482915,
      "title": "Кабель ВВГнг-LS 3х2,5",
      "category": "Кабель силовой",
      "brand": "Электрокабель",
      "fields": [
        {"name": "Сечение", "value": "3х2,5"},
        {"name": "Тип", "value": "силовой"}
      ]
    }
  },
  "questions": {
    "category_match": {
      "type": "noul",
      "instructions": "Does the product belong to its assigned store category?",
      "criteria": {
        "true": "The product is a natural, correct member of this category.",
        "false": "The product clearly belongs to a different category."
      }
    },
    "fields_consistent": {
      "type": "noul",
      "instructions": "Are the product title and the listed characteristics mutually consistent?",
      "criteria": {
        "true": "The characteristics agree with the title and brand.",
        "false": "The characteristics contradict the title, type or brand."
      }
    }
  }
}

1. Прочитайте ответ. Модель возвращает строго типизированный JSON без лишнего текста:

{
  "model": "jev-1.13.0",
  "answers": {
    "category_match": {"type": "noul", "noul": 0.94},
    "fields_consistent": {"type": "noul", "noul": 0.88}
  },
  "usage": {
    "input_tokens": 412,
    "output_tokens": 0
  }
}

Обратите внимание: output_tokens равен нулю. Модель не генерирует текст, а возвращает числовые вероятности, поэтому расход токенов (единиц, за которые вы платите) падает.

1. Настройте пороги уверенности. Если category_match выше вашего порога, товар проходит автоматически. Если ниже, отправляйте на ручную проверку. Теперь у вас два отдельных коэффициента (категория и характеристики) вместо одного общего, что делает маршрутизацию гибче.

2. Добавьте сценарий подбора категории. Если товар имеет корректные характеристики, но ошибочную категорию, Jev может предложить верную категорию отдельным запросом.

Что с этого прямо сейчас, по ролям?

Автору на Дзене. Если вы используете языковые модели для классификации контента, тегирования или сортировки черновиков, попробуйте Jev там, где вам не нужен текстовый ответ, а нужна оценка «да/нет» с уверенностью. Экономия на токенах ощутима уже при нескольких сотнях запросов в день.

Маркетологу. Модерация каталога, проверка карточек товаров, валидация фидов для рекламных кампаний: везде, где сейчас LLM парсит текст и вы боретесь с форматом ответа, переход на Jev bondage (привязку к строгой схеме) убирает прослойку парсинга и снижает стоимость.

Предпринимателю из РФ и СНГ. Команда из Беларуси работала с международным API. Проверьте доступность эндпоинта из вашего региона. Из российских аналогов, решающих задачу структурированного вывода, можно посмотреть на YandexGPT и GigaChat, но нативной поддержки формата noul (вероятностного ответа без генерации текста) у них пока нет.

Один сервис, одна замена модели, ноль выходных токенов. Если ваш пайплайн сегодня гоняет LLM ради ответа «да или нет», посчитайте, сколько вы переплачиваете за текст, который никто не читает.