Nvidia выпустила открытый маршрутизатор для локального ИИ

Nvidia выпустила PAIR (Personal AI Router), открытый виртуальный маршрутизатор, который находит совместимые устройства в домашней сети и распределяет запросы к локальным нейросетям между ними, решая проблему простаивающих машин при мультиагентных нагрузках.

Когда один ИИ-агент (программа, самостоятельно выполняющая задачу) разбивает запрос пользователя на десятки подзадач, все они конкурируют за ресурсы одного компьютера. Очередь растёт, а ноутбук или рабочая станция рядом стоит без дела. PAIR решает именно эту проблему: он не запускает модели сам, а лишь направляет каждый запрос на свободное устройство, где модель выполняют привычные движки Ollama или LM Studio.

Что умеет PAIR и чего не умеет?

• Находит устройства автоматически. Использует протокол mDNS (автоматическое обнаружение в локальной сети). Если обнаружение не сработало, можно добавить устройство вручную по IP-адресу.
• Безопасное подключение. Доверие между устройствами устанавливается через шестизначный PIN-код. Пока код не введён, обмен данными заблокирован. После подключения весь трафик шифруется сертификатами mTLS.
• Не требует переписывать агентов. PAIR проксирует (пропускает через себя) совместимые интерфейсы Ollama и LM Studio, а также предоставляет OpenAI-совместимые точки доступа. Существующие агенты продолжают работать без изменений.
• Планировщик учитывает пять сигналов: доступен ли узел, включён ли движок, есть ли нужная модель, какова текущая нагрузка, какова загрузка GPU (видеокарты).
• Устанавливает модели удалённо. PAIR может поставить движок и запустить загрузку моделей на подключённом устройстве, что снимает основную рутину настройки.
• Чего НЕ делает: не объединяет видеопамять нескольких видеокарт, не разбивает один запрос на части между машинами, не превращает несколько GPU в один ускоритель. Каждый запрос выполняется целиком на одном узле.

Демо Nvidia: три устройства вместо одного

В демонстрации Nvidia использовала PAIR совместно с Hermes Desktop, который создаёт нагрузку из пяти подагентов, обрабатывающих синтетический почтовый ящик. На каждом узле Ollama выполняла модель Qwen 3.6 35B A3B.

На одном ноутбуке RTX Spark задача заняла в среднем 18 минут. На кластере из трёх устройств (ноутбук RTX Spark, DGX Spark и видеокарта RTX 5090) среднее время составило 8 минут 48 секунд. Nvidia подчёркивает, что эти цифры неофициальные.

Соотношение понятное: три устройства сократили время более чем вдвое, но не втрое, что логично при накладных расходах на маршрутизацию и неравномерности нагрузки.

Какие устройства подходят?

Поддерживаются видеокарты GeForce RTX серии 20 и новее, профессиональные RTX PRO от архитектуры Turing, DGX Spark и Apple M4 или новее. Установщики доступны для Windows, macOS и Linux (x64 и arm64). Windows на ARM в экспериментальном режиме. Минимум: 8 ГБ оперативной памяти, рекомендуется 20 ГБ дискового пространства. Интернет нужен только для скачивания моделей, дальше всё работает локально.

Как попробовать?

1. Скачайте установщик PAIR v0.1.1 с GitHub-репозитория Nvidia (доступны версии для Windows, macOS, Linux).
2. Установите на каждое устройство в домашней сети, где хотите запускать модели. На каждом узле должен стоять Ollama или LM Studio.
3. С основного устройства запустите обнаружение, на экране появится шестизначный PIN-код. Введите его на втором устройстве для подключения.
4. Загрузите нужную модель (PAIR может сделать это удалённо на подключённые устройства) и направляйте запросы как обычно. Агент обращается к локальному адресу, PAIR сам выбирает свободный узел.

Сравнение с тем, что доступно в России

Облачные сервисы YandexGPT и GigaChat решают другую задачу: запросы уходят на серверы провайдера, пользователь не управляет инфраструктурой. PAIR работает принципиально иначе: всё остаётся на ваших устройствах в домашней сети.

Для тех, кто уже экспериментирует с локальными нейросетями для генерации изображений и текста, PAIR добавляет масштабирование без облака. Для тех, кому проще в облаке, российские сервисы остаются рабочим вариантом.

Что делать с этим прямо сейчас, по ролям

Авторам Дзена и копирайтерам. Если вы уже используете Ollama или LM Studio на домашнем компьютере для генерации черновиков или обработки текстов, PAIR позволит подключить второй компьютер или ноутбук и ускорить работу, когда агент разбивает задачу на подзадачи. Переписывать ничего не нужно, PAIR просто проксирует существующие запросы.

Маркетологам. Мультиагентные сценарии (анализ почты, сортировка лидов, подготовка ответов) на локальных моделях теперь можно масштабировать без покупки нового мощного компьютера: достаточно объединить те устройства, что уже есть в офисе.

Предпринимателям в РФ и СНГ. PAIR не требует облака и не отправляет данные в интернет, что закрывает вопросы приватности и независимости от зарубежных сервисов. Ограничение: нужны видеокарты Nvidia RTX 20-й серии и новее или Apple M4, бюджетные ноутбуки без дискретной графики не подойдут.

Частые вопросы

Нужен ли интернет для работы PAIR?

Нет. Интернет требуется только один раз: для скачивания самих моделей. После этого весь инференс (выполнение запросов к нейросети) идёт внутри локальной сети. Данные не покидают ваши устройства.

Можно ли объединить компьютер с Windows и MacBook?

Да. По данным Nvidia, узлы на Windows, Linux и macOS свободно подключаются друг к другу. Для Mac нужен чип Apple M4 или новее. Windows на ARM поддерживается экспериментально.

Заменяет ли PAIR сам движок для запуска моделей?

Нет. PAIR не запускает модели. Он только маршрутизирует запросы между устройствами, на каждом из которых работает Ollama или LM Studio. Думайте о нём как о диспетчере, который решает, какой компьютер сейчас свободен, и отправляет задачу туда.

Полный код проекта и документация доступны на GitHub Nvidia, установщики для трёх операционных систем можно скачать уже сейчас.