RAG, LLM и RandomForest на одной видеокарте выдают торговый сигнал с доказательствами

В первой части цикла автор собрал RAG-систему (ИИ, который сначала ищет нужные документы в базе и только потом отвечает) с ИИ-агентом на LangGraph и локальных LLM. LLM расшифровывается как large language model, то есть большая языковая модель, вроде той, что стоит за чат-ботами. Вторая часть, «Как я скрестил RAG, LLM и RandomForest: архитектура торгового сигнала с доказательствами», описывает следующий шаг: от чтения новостей к предсказанию.

На выходе система выдаёт сигналы BUY, SELL или NEUTRAL (покупать, продавать, нейтрально). К каждому сигналу прилагаются доказательства, которые показывает Explainable UI, то есть интерфейс с объяснением, почему модель так решила.

Что понадобится для повторения?

• Стек автора: Scikit-learn, Plotly, FastAPI, Streamlit, PostgreSQL, Ollama. Ollama нужна, чтобы запускать языковые модели на своём компьютере.
• Видеокарта с 16 ГБ видеопамяти (VRAM). У автора Tesla P100.
• Две модели в памяти одновременно: Qwen 14B для текста и BGE-M3 для эмбеддингов. Эмбеддинг переводит смысл текста в набор чисел, по которому удобно искать похожее.
• Доступ к API Мосбиржи для словаря тикеров.
• Новостная база. У автора 37 268 статей из 24 источников.

Пошаговая инструкция: от заголовка новости до сигнала

1. Соберите единый конвейер. Раньше классификация, NER и обогащение шли тремя независимыми фоновыми задачами. Они мешали друг другу и по очереди грузили модели в видеопамять. Теперь каждая статья проходит одну цепочку: классификация, фильтр мусора, оценка влияния на рынок, NER, краткое изложение, эмбеддинг. NER означает извлечение сущностей: модель находит в тексте названия компаний.
2. Отсекайте нерыночные новости. Спорт, культура и происшествия получают пометку skipped, и на них не тратятся ресурсы видеокарты. По словам автора, именно этот переход от «обрабатываем всё» к «обрабатываем только важное» позволил добавить ML-сигналы без взрыва нагрузки.
3. Привяжите компании к тикерам. NER находит «Сбер» или «Лукойл», но не знает, что на бирже это SBER и LKOH. Эту задачу решает Entity Linking, то есть сопоставление названия с биржевым кодом. Для неё автор завёл словарь синонимов tickers.yaml, который сам пополняется из API Мосбиржи. Сейчас новости привязываются к 50+ ликвидным акциям.
4. Посчитайте признаки за каждый день и тикер. Признаки здесь означают числа, по которым модель учится:
5. market_pressure, сумма направлений новостей: плюс 1 за позитивную для акции, минус 1 за негативную;
6. news_count, число новостей;
7. has_summary, делалось ли краткое изложение, это косвенный признак важности новости;
8. vol_5d и vol_20d, волатильность, то есть насколько сильно скачет цена;
9. adv_20d, средний объём торгов за 20 дней.
10. Заложите аномальный объём. Если дневной объём торгов втрое и больше превышает средний, это часто предшествует движению цены. Признак volume_ratio уже встроен в архитектуру, но на истории его пока не проверяли.
11. Обучите RandomForest и настройте Ollama. RandomForest, или «случайный лес», это классический алгоритм, который принимает решение голосованием множества простых деревьев решений. Настройки Ollama, на которых остановился автор:

OLLAMA_MAX_LOADED_MODELS=2
OLLAMA_NUM_PARALLEL=6
OLLAMA_KEEP_ALIVE=-1
CUDA_VISIBLE_DEVICES=0

Значение 6 подобрали опытным путём. При 8 параллельных запросах видеокарта упиралась в потолок памяти, и запросы обрывались по таймауту.

После настройки пайплайн ускорился от 1,5 до 2 раз, и система стабильно работает на одной карте. Автор отдельно признаёт, что выборка пока мала. Поэтому цифры точности здесь говорят о методе, а не о готовой торговой стратегии.

Что делать с этим прямо сейчас, по ролям

Автору Дзена про финансы: забирайте сам принцип «сигнал плюс доказательство». Разбор акции, где каждый вывод подкреплён конкретными новостями, вызывает больше доверия, чем голое «покупайте».

Маркетологу: фильтр мусора до дорогой обработки годится для мониторинга упоминаний бренда. Сначала отсеять нерелевантное, потом тратить ресурсы на анализ оставшегося.

Предпринимателю в РФ и СНГ: весь стек работает локально и не зависит от зарубежных облаков. Если нужен облачный вариант для текстовой части, из доступных в РФ есть YandexGPT и GigaChat.

Начните с самого дешёвого шага, фильтра мусора. Он один экономит больше ресурсов видеокарты, чем любая тонкая настройка модели.