Разработка LLM в России: интеграторов почти нет, а бизнес готов платить

Автор материала, старший инженер-программист в компании «Финам» и создатель курса «LLM-разработчик» на платформе «Хекслет», описал текущее состояние рынка так: в 2024 году мир начал понимать, куда движется история с ИИ, а в 2025 и 2026 в России «тоже очухались». Бизнес хочет внедрять языковые модели повсюду, от CI/CD до код-ревью, но часто не понимает, зачем конкретно. Именно этот разрыв между желанием и пониманием и создаёт рынок для новой роли: LLM-интегратора.

Что понадобится

• Базовые навыки программирования. Автор подчёркивает, что LLM-интегратор должен уметь разбираться в бизнес-процессах, а не только писать код, но код тоже нужен
• Понимание RAG (Retrieval-Augmented Generation, генерация с дополненной выборкой), способ дать модели доступ к вашим документам, базам знаний, договорам и карточкам клиентов
• Представление об агентах и MCP. ИИ-агент (agent) выполняет задачи самостоятельно: создаёт задачи из чата, назначает созвоны, систематизирует информацию. MCP (Model Context Protocol, протокол контекста модели) позволяет подключать модель к внешним сервисам
• Время на эксперименты. По описанию автора, даже опытная команда потратила заметное время на два варианта юридической системы, прежде чем нашла работающий подход
• Доступ к языковой модели. В России доступны YandexGPT, GigaChat, а также открытые модели (open-source), которые можно запускать локально

Как начать разработку LLM-решения: пошаговая инструкция

1. Опишите бизнес-процесс, который хотите ускорить. Автор подчёркивает: самое сложное не технология, а понимание процессов. Без этого ИИ будет внедрён «потому что революция», а не потому что полезно

2. Определите намерение пользователя (intent). Намерение, по определению автора, это то, что пользователь хочет получить, а не те слова, которыми он это описал. Промпт (prompt), текстовый запрос к модели, должен отражать именно намерение

3. Соберите данные и нарежьте их на чанки (смысловые куски). Каждый чанк превращается в вектор, набор чисел, отражающий смысл текста. Векторы сохраняются в векторную базу

4. Настройте RAG-поиск. Когда пользователь отправляет запрос, система превращает его в вектор, находит ближайшие по смыслу куски в базе и отдаёт их модели для ответа. Для коротких запросов добавьте обычный текстовый поиск: одно слово может не получить достаточного веса в векторном пространстве

5. Протестируйте два режима: автономный и ассистентский. Автор описывает реальный проект для юридического анализа договоров. Полностью автономная система давала около 20% эффективности внедрения: юристы всё равно перепроверяли вручную. А вот агент-ассистент, встроенный в Word, ускорил работу юристов почти вдвое. Люди перестали бояться замены и начали пользоваться инструментом

6. Оцените результат и решите, нужно ли дообучение (fine-tuning). Дообучение, это обучение модели на ваших примерах под узкую задачу. Автор отмечает, что не всегда нужно «связываться с большими моделями»: иногда достаточно правильно настроенного RAG

Почему ассистент победил автопилот?

Кейс с юристами показателен. Полностью автономная система анализировала договор сама, проводила проверки по загруженным статьям и законам. Результат: долго, дорого, 20% эффективности. Юристы не доверились.

Когда команда добавила агента в Word, произошло два сдвига. Специалисты поняли, что их не заменят. И они получили контролируемый инструмент, который позволял обсуждать куски текста через чат. Скорость работы выросла почти вдвое.

Вывод автора прямой: важна не только технология, но и восприятие пользователей.

Что делать с этим прямо сейчас, по ролям

Автору на Дзене. RAG-подход можно применить к собственному архиву: загрузить все свои статьи в векторную базу и через чат-бот находить пересечения тем, повторы, идеи для новых материалов. Это не разработка LLM с нуля, а использование готовых инструментов.

Маркетологу. LLM-интеграция меняет воронку: вместо статичных FAQ клиент разговаривает с ботом, который знает всю базу знаний компании. По описанию автора, именно такие задачи бизнес готов оплачивать прямо сейчас.

Предпринимателю в РФ. Автор прямо говорит: кадров мало, спрос огромный. Если в команде есть разработчик, готовый разобраться в бизнес-процессах и освоить RAG, это уже потенциальный LLM-интегратор. Из доступных в России моделей для экспериментов подойдут YandexGPT, GigaChat и открытые модели, которые запускаются локально.

Главный урок из этого материала простой: не модель решает задачу бизнеса, а человек, который понял эту задачу и правильно подключил модель к данным. Именно таких людей рынок сейчас ищет и не находит.