RAG 2.0 и Agentic RAG вместо векторного поиска: база знаний сама сверяет источники

RAG (генерация с опорой на поиск) работает так: нейросеть сначала ищет ответ в ваших документах и только потом пишет текст. Задача этой инструкции: превратить такой поисковик по архиву в помощника, который сам планирует поиск, сверяет несколько источников и проверяет найденное. На выходе получится база знаний, способная отвечать на запутанные вопросы, а не только на простые справочные.

Материал опубликовал Лев, системный администратор технической поддержки Selectel. В прошлой статье команда развернула RAGFlow, открытую платформу для RAG. Теперь автор описывает, как поверх неё перейти к RAG 2.0 и Agentic RAG, то есть к агентному поиску.

Архитектура RAG 2.0: от простого векторного поиска к Agentic RAG, в чём разница?

Классическая схема выглядит так. Система переводит вопрос в эмбеддинг (числовой «отпечаток» смысла текста) и ищет в векторной базе несколько самых похожих чанков (фрагментов, на которые нарезаны документы). Найденное подставляется в промпт, и LLM (большая языковая модель) пишет ответ.

На вопросах вроде «Какой у нас SLA по тикетам?» схема срабатывает быстро. Она ломается, когда вопрос требует нескольких переходов по данным, опирается на разные источники, сформулирован неоднозначно или требует проверки найденного. Тогда система либо приносит нерелевантные куски, либо выдаёт галлюцинацию (уверенно выдумывает то, чего нет в базе).

Термин RAG 2.0 появился в компании Contextual AI. Так называют систему, где поисковый модуль и языковую модель обучают совместно. Agentic RAG отвечает на другой вопрос: как управляется поиск, одним проходом или циклом с планированием и проверкой. Подходы совместимы.

Contextual AI сравнила свои системы с «замороженными» RAG на GPT-4 и Mixtral с ручной настройкой промптов. Проверяли на наборах Natural Questions, TriviaQA, HotpotQA, HaluEvalQA, TruthfulQA, FreshQA и финансовом FinanceBench. По данным компании, её системы обошли «замороженные» даже на финансовых документах. Конкретных цифр в разборе Selectel нет.

Что понадобится для перехода к Agentic RAG?

• Развёрнутый RAGFlow или другая RAG-платформа с вашей базой документов.
• Доступ к языковой модели. Из доступных в РФ вариантов можно взять YandexGPT и GigaChat; у Selectel есть ИИ-роутер с доступом к более чем 400 моделям через единый ключ.
• Набор инструментов для агента: поиск по документам, SQL-запросы к таблицам (язык запросов к базам данных), при необходимости свои API (каналы обмена данными между программами).
• Список из нескольких «трудных» вопросов к своей базе для проверки. Сроков настройки источник не называет.

Пошаговая инструкция: как собрать агентный цикл

1. Отберите вопросы, на которых классика проваливается: составные, с данными из разных файлов, расплывчатые. Простые справочные оставьте обычному поиску.
2. Назначьте агента-оркестратора, то есть модель-диспетчер, которая управляет всем процессом: планирует, выбирает источники, вызывает инструменты, проверяет результат.
3. Подключите инструменты. Поиск по базе становится лишь одним из них, рядом стоят SQL-запросы и свои API.
4. Пропишите правила цикла в системном промпте:

Ты агент поиска по базе знаний.

1. Разбей вопрос на подзадачи и составь план.
2. Для каждой подзадачи выбери инструмент: поиск по документам, SQL или API.
3. Если результат слабый, переформулируй запрос и повтори.
4. Сверь найденное между источниками, укажи, откуда каждый факт.
5. Остановись, когда данных хватает для ответа. Если не хватает, так и скажи.

1. Прогоните отобранные вопросы и проверьте, ссылается ли ответ на реальные документы.

В мультиагентных схемах роли иногда делят между отдельными агентами: планировщиком, исполнителем и оркестратором. Единого стандарта такого деления, по словам автора, нет.

Что с этим делать по ролям?

Автору Дзена. Загрузите в базу свои старые статьи и заметки и задавайте вопросы, требующие сводки из нескольких текстов. Агентный цикл поможет собрать фактуру для обзора, но факты всё равно сверяйте.

Маркетологу. Подключите к агенту таблицы с отчётами через SQL. Тогда вопрос «какие кампании дали лучший отклик» получит ответ, собранный из данных, а не из одного документа.

Предпринимателю в РФ и СНГ. Связка RAGFlow, российского облака и отечественной модели позволяет держать корпоративную базу внутри страны. Начните с одного отдела и двух десятков типовых вопросов.