ИИ-агенты: это бесплатно, если локально. OpenJarvis из Стэнфорда закрыл 88,7% задач без облака

OpenJarvis разработан исследователями Стэнфордского университета и опубликован на GitHub как открытый проект. По данным авторов, фреймворк протестирован на более чем 20 моделях и 8 ускорителях. Локальный софт закрывает 88,7% обычных пользовательских запросов, а эффективность работы моделей на собственном оборудовании выросла в 5,3 раза по сравнению с предыдущими замерами команды: с 23,2% решаемых задач до 71,3%.

Из каких блоков состоит OpenJarvis?

Архитектура модульная и строится на пяти независимых слоях, каждый из которых можно менять и тестировать отдельно:

• Agents определяет логику поведения: как агент реагирует на запросы, какие роли и стратегии использует.
• Tools and Memory отвечает за подключение к данным, хранение знаний и семантическое индексирование (быстрый поиск по личным файлам, когда агент сам находит нужные записи и передаёт их модели).
• Learning собирает логи и трейсы (записи работы системы) для дообучения (fine-tuning, обучение модели на ваших примерах под узкую задачу) и оптимизации.
• Intelligence хранит каталог языковых моделей с метаданными: требования к памяти, размеры параметров, конфигурация.
• Engine представляет собой движок инференса (inference, процесс генерации ответа моделью). По команде jarvis init система определяет оборудование и подбирает оптимальную связку движок плюс модель.

Фреймворк поддерживает локальные движки vLLM, Ollama и облачные API как запасной вариант. Встроена телеметрия: энергопотребление, время отклика, стоимость инференса, FLOPs (количество вычислительных операций) и точность.

Протоколы MCP и Google A2A позволяют агентам безопасно вызывать внешние функции и обмениваться контекстом между собой.

Что понадобится

• Железо: 8 ядер CPU, 32 ГБ оперативной памяти, видеокарта с 16 ГБ VRAM (например, NVIDIA L4). Домашний ПК подойдёт, если в нём стоит подходящая карта, но арендованный сервер избавит от шума и ограничений.
• ОС: Ubuntu 24.04 LTS или совместимый Linux-дистрибутив.
• Софт: Git, менеджер пакетов uv, Ollama (установится по ходу).
• Время: от 30 минут до часа на первую настройку, включая скачивание модели.

Пошаговая инструкция

1. Подготовьте сервер. Если используете облачный сервер, убедитесь, что в конфигурации активна нужная видеокарта. Подключитесь по SSH.

2. Клонируйте репозиторий и установите зависимости:

git clone https://github.com/open-jarvis/OpenJarvis.git
cd OpenJarvis
uv sync

1. Установите Ollama как локальный движок инференса:

curl -fsSL https://ollama.com/install.sh -o install.sh
bash -x install.sh

1. Скачайте языковую модель. Для конфигурации с 16 ГБ VRAM подходит qwen3:14b, она умещается в память и справляется с агентными задачами:

ollama pull qwen3:14b

1. Проверьте, что OpenJarvis видит окружение:

uv run jarvis doctor

1. Убедитесь, что модель на месте:

ollama list

1. Проверьте конфигурацию OpenJarvis:

nano ~/.openjarvis/config.toml

Здесь можно изменить модель, порт и параметры памяти.

1. Запустите агента с пресетом для глубокого поиска:

uv run jarvis init --preset deep-research

Режим deep-research активирует автономный поиск информации в сети и анализ документов. После инициализации агент готов принимать запросы через CLI, нативное приложение или веб-интерфейс.

Что делать с этим прямо сейчас, по ролям

Разработчику и техническому энтузиасту. OpenJarvis даёт готовую модульную архитектуру вместо самодельных скриптов. Можно подключить свои инструменты через MCP, настроить дообучение на собственных логах и получить приватного агента без ежемесячных платежей за API.

Автору Дзена и копирайтеру. Локальный агент в режиме deep-research ищет и структурирует информацию для статей. Промпт (prompt, текстовая команда для модели) формулируется на русском, модель qwen3:14b понимает русский язык. Данные и черновики остаются на вашей машине.

Предпринимателю в РФ. ИИ-агенты, работающие локально, снимают два риска: утечку данных в сторонние облака и отключение зарубежного API из-за санкций или смены тарифов. Аренда сервера с GPU у российских хостеров обойдётся дешевле, чем подписка на коммерческие агентные платформы. Из доступных в РФ аналогов для экспериментов с локальными моделями подойдут YandexGPT (через API) и GigaChat, хотя они работают через облако, а не локально.

Фреймворк доступен на GitHub, развёртывание занимает меньше часа, а результат, агент, который работает на вашем железе и не отправляет ни одного токена (token, минимальная единица текста для модели) на чужой сервер. Если вы давно хотели попробовать ИИ-агентов без подписок и рисков, более удобной точки входа пока не появлялось.