Что такое галлюцинации нейросетей: как MCP-сервер запрещает модели считать в уме

Большие языковые модели (LLM, нейросети, которые генерируют текст) до сих пор ломаются на простых задачах с данными. Вы кладёте CSV-файл с 50 тысячами строк, спрашиваете среднюю выручку по регионам и получаете красивое, но выдуманное число. Авторы русскоязычного проекта на базе Claude Desktop и открытого MCP-сервера (Model Context Protocol, протокол, через который модель вызывает внешние инструменты) разобрали, почему так происходит, и собрали обвязку, которая заставляет модель не импровизировать, а пользоваться проверяемыми инструментами.

Почему модель врёт на таблицах?

Любая LLM генерирует ответ, подбирая следующий токен (минимальный кусочек текста). Таблица для неё такой же текст, как роман или новость. Если данных не хватило или вопрос чуть в сторону, модель не скажет «не знаю». Она допишет то, что выглядит правдоподобно.

Прямой путь «отдать CSV и попросить посчитать» именно поэтому не работает. Модель с удовольствием выдаст число, иногда даже близкое к правде, но воспроизводимости ноль: тот же вопрос приводит к разной логике расчёта от запуска к запуску.

Что понадобится

• Claude Desktop или другая модель с поддержкой MCP (протокола вызова внешних инструментов).
• DuckDB (встраиваемый аналитический движок, читает CSV, Parquet и JSON без отдельного сервера).
• Python 3.10+ и библиотеки: pandas, numpy, scipy, statsmodels, matplotlib.
• FastMCP для бэкенда MCP-сервера, Next.js с ai-sdk для фронта (если нужен интерфейс).
• Ваш датасет в CSV или Parquet.
• Примерно 2 часа на первую настройку, если вы знакомы с Python.

Пошаговая инструкция

1. Установите DuckDB и убедитесь, что он читает ваш файл. Проверьте простым запросом: sql SELECT count(*) FROM read_csv_auto('ваш_файл.csv'); Если число строк совпало с реальным, движок подключён верно.

2. Заблокируйте модели доступ к записи. При создании соединения с DuckDB запретите автозагрузку расширений и заморозьте конфигурацию: sql SET autoinstall_known_extensions=false; SET autoload_known_extensions=false; SET lock_configuration=true; После последней строки настройки уже не изменить внутри сессии.

3. Добавьте валидатор SQL-запросов. Функция validate_read_only() в файле mcp_server/duckdb_utils.py режет всё, что меняет данные: INSERT, UPDATE, DELETE, DROP, CREATE, ALTER, ATTACH. Она также блокирует функции glob(), sqlite_scan(), postgres_query(), которые обходят изоляцию файловой системы. Проверка идёт по очищенному SQL без комментариев и строковых литералов, чтобы фильтр нельзя было обмануть.

4. Ограничьте вывод и предупредите модель об усечении. Если результат запроса длиннее 200 строк, покажите первые и последние, а к ним приложите предупреждение прямо в ответе инструмента: WARNING: показаны 200 из 5000 строк. Агрегации по этому выводу будут неверны — используйте SQL-агрегацию. Без этой строки модель получит 200 строк, решит, что это полная таблица, и «усреднит» только их, забыв про оставшиеся 4800.

5. Настройте песочницу для Python-кода. Для задач, которые не ложатся на SQL (сложная статистика, прогнозы, нестандартные преобразования), поднимите изолированный контейнер. Код исполняется под непривилегированным пользователем. Модель формулирует код, песочница его запускает и возвращает результат. Принцип тот же: считает среда, не модель.

6. Опишите схему данных явно. Модель не должна гадать, что внутри таблицы. Передайте ей описание колонок, типов и допустимых значений до первого вопроса. Без этого она начнёт выдумывать имена полей.

7. Подключите внешние базы через federation (если нужно). DuckDB умеет подключаться к PostgreSQL, MySQL, SQLite без копирования данных: sql ATTACH 'host=... dbname=...' AS pg (TYPE postgres, READ_ONLY); Подключение всегда READ_ONLY и всегда in-memory: данные живут на диске или во внешней базе, DuckDB поднимает их в память только на время запроса.

SELECT region, AVG(revenue) AS avg_revenue
FROM read_csv_auto('sales.csv')
GROUP BY region
ORDER BY avg_revenue DESC;

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы пишете обзоры с цифрами (статистика, рейтинги, сравнения товаров), подход «модель плюс CSV» приводит к публикации выдуманных данных, а это удар по доверию аудитории. Проверяйте каждое число, которое модель выдала по таблице, или используйте связку с DuckDB, где считает движок.

Маркетологу. Отчёты по рекламным кампаниям, которые LLM «прочитала» из выгрузки, могут содержать фантомные метрики. Прежде чем нести цифры руководству, прогоните тот же вопрос через SQL-запрос к реальной базе.

Предпринимателю в РФ. Claude Desktop доступен с ограничениями, но DuckDB и FastMCP работают локально и не зависят от внешних сервисов. Из российских аналогов для базовой аналитики можно использовать YandexGPT или GigaChat, но MCP-протокол они пока не поддерживают, поэтому связка DuckDB плюс открытая модель (опенсорс) через собственный сервер остаётся наиболее воспроизводимым вариантом.

Тем, кто работает с данными каждый день, стоит попробовать эту связку на своём датасете: DuckDB бесплатен, MCP-сервер собирается за пару часов, а разница между «модель посчитала» и «модель попросила движок посчитать» это разница между галлюцинацией и фактом.