Открой нейросеть Drex 1.5: 9 млрд параметров на одной GPU догоняют закрытый Jev

До сих пор категорию «решающих моделей» (decision models), моделей, которые не генерируют текст, а выбирают лучший вариант из предложенных, определял закрытый продукт Jev от TypeSafe. Drex 1.5 от стартапа Nace AI, как сообщает Marktechpost, стал первой открытой альтернативой, набравшей сопоставимый балл. Для разработчиков в РФ и СНГ это практический вопрос: можно ли перенести логику выбора с облачного API на собственный сервер с одной GPU.

Что умеет и чего не умеет Drex 1.5?

• Не генерирует текст. Модель читает состояние (текст или JSON) и типизированные вопросы, а затем возвращает вероятность для каждого варианта ответа. Три типа вопросов: выбор из списка, «да или нет» и порядковая оценка.
• 58,08 балла на Decision Index 0.3.1 (публичный бенчмарк из 37 тестов с поправкой на случайное угадывание). У закрытой Jev 1.13.0 результат 57,96. Разница в пределах «полосы равенства» (tie band) в 0,9 балла, то есть модели статистически равны.
• Длинные документы, сильная сторона. На текстах от 32 до 128 тысяч токенов точность достигает 93,4%. Если тот же запрос обрезать до 8 тысяч токенов, точность падает до 78%.
• Работает на одной GPU. В формате bf16 нужно около 18 ГБ видеопамяти (протестировано на A10G с 24 ГБ). Квантизованная версия Q8_0 GGUF занимает около 9,5 ГБ и запускается даже на Mac с чипом Apple Silicon.
• Слабые места честно названы. На тесте общих знаний GPQA Diamond модель набирает 45,4% против 78,6% у Jev. На задаче тонкого анализа тональности ACOS F1-метрика составляет 7,4% против 29,5% у Jev.

Это важный нюанс: Drex 1.5 не универсальная нейросеть. Она заточена под принятие решений, а не под генерацию или работу с широкой базой знаний.

Как попробовать?

1. Откройте нейросеть на Hugging Face: веса выложены в открытом доступе, скачайте bf16 или Q8_0 GGUF.
2. Разверните локально на одной GPU. Четыре варианта: Python-скрипт через Kev-рантайм, форк llama.cpp от Nace, форк Ollama с поддержкой «decision»-задач или размещение на сервере с CUDA.
3. Или откройте нейросеть в облаке через OpenRouter. Облачную версию обслуживает DeepInfra: $0,04 за миллион входных токенов, выходные токены бесплатно. Nace также предлагает собственный Console API.
4. Подключите к своему агенту. Drex поддерживает тот же формат запросов (POST /v1/systemone), что и Jev. По заявлению Nace, существующие клиенты Jev заработают после замены нескольких переменных окружения.

Для Ollama и llama.cpp нужны именно форки от Nace, а не оригинальные сборки. Лицензия RAIL-M содержит ограничения на коммерческое использование: перед запуском в продакшн стоит прочитать условия.

Drex 1.5 против российских альтернатив: разные задачи

Сравнивать Drex напрямую с YandexGPT или GigaChat некорректно: это модели разных категорий. YandexGPT и GigaChat генерируют текст, ведут диалог, пишут код. Drex 1.5 не умеет ничего из этого. Его задача: получить набор вариантов и вернуть вероятности.

Для русскоязычных разработчиков, которые строят агентные системы, Drex интересен как модуль принятия решений, который встраивается в цепочку рядом с генеративной моделью. Локальный запуск на одном GPU за 18 ГБ памяти делает его доступным для небольших команд без облачных бюджетов.

Что это значит для вас?

Разработчику агентов и бэкенд-систем. Decision Index 0.3.1, конкретная метрика для сравнения Drex (58,08) и закрытой Jev (57,96). Если ваш агент принимает решения через API Jev, проверьте Drex как бесплатную замену: формат запросов совместим, а запуск на одной A10G позволяет считать стоимость инференса в рублях за электричество, а не в долларах за API.

Автору Дзена и контент-маркетологу. Drex не пишет тексты и не заменит вам генеративную нейросеть. Но если вы строите автоматизацию, скажем, бот выбирает лучший заголовок из пяти вариантов, решающая модель может стать точнее, чем просьба к ChatGPT «выбери лучший».

Предпринимателю в РФ. Модель запускается локально, без зависимости от зарубежных облаков. Но учтите лицензию RAIL-M: она содержит ограничения, и перед коммерческим использованием нужна юридическая проверка.

Частые вопросы

Drex 1.5 может заменить ChatGPT или YandexGPT?

Нет. Drex не генерирует текст, не ведёт диалог и не пишет код. Это узкоспециализированная модель для выбора из заданных вариантов. Она дополняет генеративную нейросеть, а не заменяет её.

Нужна ли мощная видеокарта для запуска?

В полном формате (bf16) нужно около 18 ГБ видеопамяти, подойдёт карта уровня A10G или RTX 4090. Квантизованная версия Q8_0 GGUF весит около 9,5 ГБ и работает на Mac с чипом Apple Silicon и даже на процессоре без GPU.

Можно ли использовать Drex 1.5 в коммерческом проекте?

Веса распространяются под лицензией RAIL-M, которая содержит ограничения на определённые сценарии использования. Перед запуском в коммерческий продукт прочитайте условия лицензии на странице модели в Hugging Face.