Нейросети с открытым исходным кодом для локальной работы: проект «Свой» решил проблему 152-ФЗ

Проект «Свой» начинался как браузерная игра, вырос в полноценного ассистента и долго балансировал между тремя сценариями: выложить в открытый доступ, работать «в серой зоне» на зарубежных моделях или забросить. Автор проекта, разработчик под псевдонимом Zazza, выбрал первый путь и опубликовал два репозитория на GitHub: основное приложение svoi-oss и внешний RAG-модуль (RAG, retrieval-augmented generation, когда нейросеть перед ответом ищет нужные факты в вашей базе документов) svoi-oss-rag. Оба выпущены под лицензией AGPL-3.0.

Что понадобится?

• Docker и Docker Compose для запуска контейнеров (PostgreSQL, SearXNG, бэкенд, nginx)
• PostgreSQL 17 с расширением pgvector (идёт в комплекте Docker-сборки)
• Ollama (локальный сервер для запуска открытых моделей) или доступ к любому OpenAI-совместимому провайдеру
• Десктоп-агент svoi-rag (Go-бинарник): GUI-версия для Windows и macOS, TUI-версия (текстовый интерфейс в терминале) для Linux
• Для модуля «Мой ПК» дополнительно нужен sqlite-vec (локальная векторная база, ставится вместе с агентом)
• Около 30 минут на первоначальную настройку, если Docker уже установлен

Как развернуть локального ассистента без облака?

1. Клонируйте репозиторий основного приложения:

git clone https://github.com/Zazza/svoi-oss.git
cd svoi-oss

1. Поднимите весь стек одной командой. В проекте уже лежит файл docker-compose, который запускает PostgreSQL с pgvector, поисковый движок SearXNG, бэкенд на Go и nginx. Все сервисы слушают только локальный адрес 127.0.0.1, наружу смотрит только nginx:

docker-compose up -d

1. Укажите провайдера моделей в конфиге. Архитектура проекта построена так, что все вызовы к языковым моделям идут через единый OpenAI-совместимый клиент. В таблице провайдеров задаются приоритеты: если основной провайдер падает или возвращает ошибку 5xx, запрос автоматически уходит на запасной. Для полностью локальной работы пропишите Ollama как основной провайдер. Четыре модели задаются отдельно: модель чата, модель извлечения фактов (extraction), модель для работы с изображениями (vision) и модель эмбеддингов (превращение текста в числовые векторы для поиска по смыслу).

2. Настройте модель эмбеддингов. При запуске код автоматически выравнивает размерность колонок в базе под выбранную модель. Это значит, что модель эмбеддингов можно менять без ручных миграций базы данных.

3. Для модуля «Мой ПК» клонируйте второй репозиторий и установите десктоп-агент:

git clone https://github.com/Zazza/svoi-oss-rag.git

1. Укажите агенту папки для индексации. Десктоп-агент svoi-rag проиндексирует выбранные директории (PDF, DOCX, текстовые файлы) в локальную базу sqlite-vec. Данные не покидают ваш компьютер: ни бэкенд, ни языковая модель не видят содержимого файлов напрямую, они получают только релевантные фрагменты в момент запроса.

2. Задавайте вопросы из любого устройства. После настройки можно спрашивать ассистента с телефона, и поиск пойдёт по документам на вашем домашнем или рабочем компьютере.

Что ещё умеет «Свой»?

Помимо RAG-модуля, в проекте есть функции, которые стоит упомянуть отдельно.

Генерация тем интерфейса через языковую модель. Кроме стандартных светлой и тёмной тем, есть режим «vibe»: пользователь пишет промпт (промпт, текстовая инструкция для нейросети), например «панк, красный, закат с переливами», и модель генерирует палитру. Модель выступает «арт-директором» и отдаёт только три цвета (фон, текст, акцент) плюс «материал» (стекло, ретро-рамки в стиле Windows 95 или плоский дизайн). Остальные 16 полей палитры вычисляются автоматически смешиванием базовых цветов. Контраст текста и фона проверяется по стандарту WCAG (стандарт доступности веб-контента: если текст плохо читается на фоне, система автоматически подбирает читаемый вариант).

Веб-поиск через встроенный SearXNG (мета-поисковик с открытым кодом, который агрегирует результаты других поисковых систем).

Мультиагентный пайплайн (цепочка, где несколько ИИ-агентов выполняют задачу по очереди), инструменты (tool calling), планировщик и работа с изображениями (vision).

Что с этого прямо сейчас, по ролям?

Автору Дзена: если вы ведёте канал и накопили сотни черновиков, заметок, выгрузок статистики, внешний RAG «Мой ПК» позволяет превратить эту кучу в поисковую базу. Спросите ассистента: «О чём я писал в марте?» или «Какие темы набирали больше просмотров?». При этом ваши материалы не попадают ни в какое облако.

Маркетологу и предпринимателю в РФ: проект решает конкретную юридическую проблему. Многие компании не могут использовать зарубежные языковые модели через облако, потому что 152-ФЗ (Федеральный закон «О персональных данных») ограничивает трансграничную передачу данных. «Свой» работает на локальной Ollama с нейросетями с открытым исходным кодом: данные остаются на вашем сервере. Автор проекта прошёл путь регистрации документов на обработку персональных данных и трансграничную передачу, то есть юридическая сторона уже проработана.

Тем, кто использует YandexGPT или GigaChat: эти сервисы работают через облако. «Свой» предлагает альтернативный подход: полностью локальный стек. Нейросети с открытым исходным кодом, запущенные через Ollama, не отправляют запросы на внешние серверы.

Для авторов и предпринимателей в РФ, которые устали выбирать между удобством облачных нейросетей и требованиями закона о персональных данных, «Свой» предлагает третий путь: поставить всё локально, индексировать свои документы и не думать о том, куда утекают данные. Код открыт, репозитории на GitHub доступны, юридическая подготовка пройдена. Остаётся только поднять Docker и попробовать.