ИИ-агенту доверяют деньги: в толстом харнессе списание одобряет код, а не модель

Инструкция поможет описать любого своего агента по девяти этапам и увидеть, на каком из них он может ошибиться или навредить.

Сначала коротко о том, что такое ИИ-агент: это нейросеть, которой дали инструменты, чтобы она действовала, а не только отвечала. Харнесс (от английского harness, обвязка) окружает модель кодом. В тонком варианте этот код в основном передаёт сообщения и выдаёт инструменты, а дальше модель решает сама.

В толстом варианте приложение заранее определяет, какие операции поддерживаются, как они выполняются и где нужно остановиться для проверки или подтверждения. Автор исходного разбора формулирует задачу модели так: понять человеческий текст и выбрать подходящий путь решения. Состояние продукта харнесс получает через код и сам применяет правила, которые одним текстовым инструктажем надёжно не обеспечить.

Что понадобится, чтобы собрать толстый харнесс?

• Доступ к языковой модели. Из доступных в РФ аналогов подойдут YandexGPT и GigaChat.
• Список операций, которые агент должен уметь, и правила для каждой из них.
• Разработчик или собственные навыки программирования: правила и проверки пишутся кодом.
• Время, чтобы до запуска целиком описать хотя бы один сценарий.

Девять этапов от сообщения пользователя до записи в журнале

1. Нормализация запроса. Сырой ввод очищают: исправляют опечатки, убирают мешающий шум вроде приветствий и смайликов, приводят текст к единому регистру. Голосовое сообщение сначала переводят в текст, это называется распознаванием речи (Speech-to-Text).

2. Маршрутизация. Система решает, кому передать запрос. Уровней три:

3. событийный: реакция на системный триггер, например на нажатие кнопки «Выход»;
4. точный: жёсткие правила и регулярные выражения, то есть шаблоны поиска текста; команда /help сразу открывает справку;

5. смысловой: большая языковая модель (LLM) разбирает свободную речь вроде «Слушай, переведи сотку Сане».

6. Интент и параметры. Интент (intent) описывает в формализованном виде, чего хочет пользователь. С него толстый харнесс начинается почти всегда. Интент отвечает только на вопрос, какое действие начать, а параметры и составное поведение хранятся отдельно. Промпт для этого шага может выглядеть так:

Ты определяешь намерение пользователя. Выбери ровно один интент из списка: send_money, check_balance, prepare_order. Верни интент и параметры. Если параметра не хватает, укажи, какого именно. Сам ничего не выполняй.

Для перевода Сане результат будет таким: интент send_money, сумма 100, получатель Саня.

1. Требования к контексту. Система определяет, каких данных не хватает, и запрашивает их из памяти сессии или из баз данных. В примере ей нужно узнать, кто такой Саня (его идентификатор или номер телефона) и есть ли у пользователя 100 рублей на счёте.

2. Возможности. Интент сверяют со списком модулей и плагинов агента. Если банковского плагина нет, агент честно отвечает: «Я не умею переводить деньги».

3. Сценарий (workflow). Строится пошаговый план. Простая задача укладывается в один шаг, сложная превращается в цепочку: заблокировать сумму, отправить запрос в банк, дождаться ответа, списать сумму.

4. Политики и одобрение. Защитные ограничения (guardrails) проверяют лимиты и права доступа. Перед критической операцией, например списанием денег или удалением данных, сценарий встаёт на паузу, и пользователь видит кнопку: «Вы подтверждаете перевод 100 рублей Сане?»

5. Инструмент. Агент вызывает программную функцию: API (программный интерфейс, через который одна система обращается к другой), базу данных или калькулятор. В примере это реальный запрос к банковскому шлюзу.

6. Верификация и аудит. Система проверяет ответ: вернул ли банк статус Success, не возникла ли ошибка, не выдала ли нейросеть бред. Итог записывается в неизменяемый журнал. Он нужен для безопасности, для разбора инцидентов и для того, чтобы агент учитывал этот опыт на следующих шагах.

Как привязать схему к российским правилам?

Российские требования ложатся на конкретные этапы. Лимиты переводов через СБП (Систему быстрых платежей) задаются на седьмом этапе кодом. Проверки по 115-ФЗ (федеральному закону о противодействии отмыванию доходов) встраиваются туда же, до кнопки подтверждения.

Требования 152-ФЗ, закона о персональных данных, касаются четвёртого и девятого этапов: там агент достаёт данные о людях и пишет журнал. Разговорный русский вроде «сотку Сане» должен разбирать первый этап, до того как запрос попадёт к модели.

Сам исходный разбор российское право не обсуждает. Конкретные лимиты и порядок проверок уточняйте у банка и юриста.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Схема из девяти этапов помогает понятно объяснить читателю, что такое ИИ-агент и почему ему нельзя доверять всё подряд. Пример с «соткой Сане» хорошо работает в тексте для широкой аудитории.

Маркетологу. Перед покупкой агентного сервиса спросите подрядчика, где у него этапы политик, подтверждения и аудита. Если ответ звучит как «модель сама разберётся», перед вами тонкий харнесс.

Предпринимателю в РФ и СНГ. Начните с одного денежного сценария и пропишите для него этапы 4, 7 и 9 до того, как подключать модель.

Агент, которому разрешено тратить чужие деньги без кода-контролёра, рано или поздно ошибётся. Толстый харнесс делает так, чтобы эта ошибка остановилась на кнопке подтверждения.