Glean, UiPath и Workday показали сценарии с Jev: модели первой системы выбирают, а не пишут

До сих пор основой ИИ-продуктов делали большие языковые модели (LLM, нейросети, которые пишут связный текст). Создатель Jev Диогу Алмейда называет их главной бедой надёжность. Об этом пишет Latent Space в репортаже The Jev Revolution: What Engineers Are Already Building with System One Models.

Модели первой системы (system one) устроены иначе. Они не сочиняют текст, а возвращают выбор из готовых вариантов, оценку или вероятность и обычно работают намного быстрее и дешевле рассуждающих моделей. Название отсылает к быстрому, почти интуитивному мышлению, а рассуждающие модели в этой логике называют моделями второй системы.

Что нового показали инженеры?

• Ставка на надёжность. Алмейда, сооснователь и гендиректор TypeSafe AI, назвал Jev «надёжным интеллектом», который стоит использовать, чтобы «просто автоматизировать всё».
• Модель живёт внутри кода. «Код это язык автоматизации, поэтому нужно интегрироваться с кодом», сказал Алмейда. Основатель Latent Space swyx прочитал это как призыв щедро встраивать такие вызовы прямо в программы вместо склеивания текстовых запросов «в надежде на лучшее».
• Glean сочетает Jev с LLM и классификаторами (программами, которые раскладывают данные по категориям). Jev там ценят за работу без примеров и без дообучения под каждую новую задачу (zero-shot).
• UiPath, платформа автоматизации бизнес-процессов, устроила «турнир». Jev выбирала самые подходящие фрагменты документов из небольших групп, победители проходили в следующий круг. Весь процесс занял меньше секунды даже при тысячах обращений к модели.
• Workday заполняет форму, пока вы печатаете. Прототип начинает заполнять карточку отпуска, пока пользователь ещё набирает текст.

Почему надёжность важнее ума?

Алмейда описал проблему LLM одной фразой.

Вы получаете Эйнштейна в 95% случаев и мистера Бина в 5%. : Диогу Алмейда, сооснователь и гендиректор TypeSafe AI

Он добавил, что, если не отличить одно от другого, автоматизировать ничего не выйдет. Свою цель он сформулировал так: сделать модель «такой же надёжной, как четвёртый логический вентиль». Логический вентиль, это базовый элемент микросхемы, который на одинаковый вход всегда даёт одинаковый ответ.

Чинмай Гоял из Glean объяснил, чем это выгодно на практике.

Когда меняется набор категорий, между которыми мы выбираем, нам не приходится дообучать эти модели снова и снова. : Чинмай Гоял, Glean

После доклада он рассказал Latent Space, что клиентам не нужно знать, какая модель работает внутри. По его словам, Jev обслуживает значительную часть сценариев, а задача команды в том, чтобы продукт просто работал.

Скотт Робертс, ведущий инженер Workday, назвал свой прототип переходом «от предсказания того, что вы хотите сказать, к предсказанию того, что вы хотите сделать». Показательная деталь из репортажа: сосед автора по залу, руководитель ИИ-направления в своей компании, в свободное время собрал на Jev сайт, который сортирует новости о фэнтези-футболе.

Есть ли российская замена Jev?

Российских моделей первой системы источник не называет. Из доступных в РФ нейросетей можно взять YandexGPT и GigaChat и проверить на них сам приём: ответ строго из заданного списка. Для этого достаточно прописать такое требование в промпте (текстовой инструкции для нейросети).

Скорость и стоимость такого решения источник с Jev не сравнивает. Доли секунды на тысячах запросов без собственной проверки не обещайте ни себе, ни заказчику.

Как попробовать подход без доступа к Jev?

1. Послушайте выпуск подкаста Latent Space с Алмейдой, записанный к запуску Jev: там он объясняет, почему надёжность важнее красноречия.
2. Выпишите задачи, где нужен выбор, а не текст: рубрика для заметки, тональность комментария, срочность письма.
3. Проверьте приём в YandexGPT или GigaChat: дайте список вариантов и попросите вернуть только один, без пояснений.
4. Перед тем как закладывать Jev в бюджет, уточните доступ и цену у TypeSafe AI.

Что делать с этим автору, маркетологу и предпринимателю?

Автору Дзена. Отдайте нейросети сортировку, а не сочинительство: пусть раскладывает идеи по рубрикам или оценивает заголовки по вашему списку признаков. Текст пишите сами.

Маркетологу. Разметка отзывов и заявок по категориям, это ровно тот класс задач, о котором говорили на сцене. Считайте не «насколько умно», а «как часто ошибается».

Предпринимателю в РФ и СНГ. Доступность Jev в России не подтверждена, поэтому стройте процессы на отечественных нейросетях. Закладывайте в схему проверку ответа, чтобы ошибка не уходила клиенту.

Что чаще всего спрашивают про Jev?

Jev заменит ChatGPT и похожие нейросети?

Нет. В Glean её используют вместе с LLM и классификаторами, каждую под свою задачу.

Можно ли попробовать Jev из России?

Источник об этом не сообщает. Проверить сам принцип можно на YandexGPT и GigaChat через промпт с готовым списком ответов.

Зачем модель, которая не умеет писать?

Ради скорости и предсказуемости. В тесте UiPath тысячи обращений к Jev уложились меньше чем в секунду.

Алмейда сравнил нынешний момент с ранним интернетом, когда люди пробовали новое «не потому, что это ценно, а потому, что могут». Сайт про фэнтези-футбол, собранный в свободное время, показывает: начинать стоит с маленькой задачи, где ответ легко проверить.