NeMo Guardrails собирает безопасность ИИ в один Python-скрипт: пример для финтеха

Открытая библиотека NeMo Guardrails от NVIDIA позволяет выстроить цепочку проверок на каждом этапе запроса: от входящего сообщения пользователя до финального ответа модели. В туториале, который разбираем ниже, собран готовый стек для финансового ассистента: детекция персональных данных, фильтрация тем, контроль инструментов и маскировка номеров счетов. Для российских финтех-команд, интегрирующих локальные языковые модели, этот пайплайн показывает архитектуру, которую можно адаптировать под собственные требования к безопасности ИИ.

Что понадобится?

• Python 3.9+ и менеджер пакетов pip
• API-ключ OpenAI (в туториале используется модель gpt-4o-mini, но конфигурация позволяет подставить другой эндпоинт, в том числе локальный)
• Библиотека nemoguardrails (ставится одной командой)
• Базовое понимание YAML и Python (уровень «читаю код, могу поправить строку»)
• Время: 1,5 часа на первую сборку, если не спешить

Пошаговая инструкция

1. Установите библиотеку и настройте доступ к модели

pip install -q nemoguardrails

В Python-скрипте задайте модель и ключ:

import os, getpass

MODEL = "gpt-4o-mini"
if not os.environ.get("OPENAI_API_KEY"):
    os.environ["OPENAI_API_KEY"] = getpass.getpass("API key: ")

Если вы работаете с локальной моделью или прокси, укажите BASE_URL в переменной. Конфигурация подхватит его автоматически.

2. Опишите YAML-конфигурацию с инструкциями и рельсами

YAML-файл задаёт три слоя защиты:

• Input rails (входные рельсы): перехватывают сообщение до того, как оно попадёт в модель. Здесь срабатывает редактирование персональных данных и самопроверка на джейлбрейки (попытки заставить модель нарушить свои инструкции)
• Retrieval rails (рельсы извлечения): фильтруют служебные куски контекста, чтобы внутренняя документация не просочилась в ответ
• Output rails (выходные рельсы): маскируют номера счетов и проверяют, не обещает ли модель гарантированную доходность

В блоке instructions модель получает роль финансового помощника с запретом выдумывать балансы и комиссии.

3. Напишите Colang-потоки для детерминированных проверок

Colang это язык описания диалогов в NeMo Guardrails. Каждый поток описывает конкретный сценарий:

• redact pii input: проверяет сообщение на наличие номеров карт и SSN-номеров (номер социального страхования, аналог СНИЛС). Если находит, блокирует сообщение целиком. Если находит последовательности цифр, похожие на номер счёта, маскирует их и пропускает запрос дальше
• filter internal chunks: убирает из контекста внутренние фрагменты, не предназначенные для клиента
• mask account numbers: перезаписывает номера счетов в ответе модели перед отправкой пользователю

Отдельные потоки задают тематические ограничения: на вопросы о политике и инвестиционных рекомендациях модель отвечает вежливым отказом.

4. Зарегистрируйте Python-экшены

Каждый Colang-поток вызывает Python-функцию через декоратор @action. Вот ключевые:

from nemoguardrails.actions import action

@action(name="has_hard_pii")
async def has_hard_pii(text=None):
    """Жёсткая блокировка: полные номера карт и SSN
    не попадают в модель."""
    return bool(CARD_RE.search(text or "") or SSN_RE.search(text or ""))

@action(name="redact_pii")
async def redact_pii(text=None):
    """Мягкая маскировка: цифровые последовательности
    заменяются на [REDACTED_ACCT], запрос идёт дальше."""
    return ACCT_RE.sub("[REDACTED_ACCT]", text or "")

Регулярные выражения CARD_RE, SSN_RE и ACCT_RE ловят типичные форматы. Для российских реалий замените шаблоны на маски номеров карт «Мир», ИНН и СНИЛС.

5. Настройте политику переводов

Поток money transfer проверяет сумму перевода через функцию check_transfer_policy. Если сумма превышает дневной лимит (в примере это 2000 долларов), модель блокирует операцию и объясняет причину. Лимит задаётся переменной DAILY_LIMIT, поменять его можно без правки логики.

6. Запустите и протестируйте пайплайн

from nemoguardrails import LLMRails, RailsConfig

config = RailsConfig.from_content(YAML_CONFIG, COLANG_CONFIG)
rails = LLMRails(config)

Туториал включает набор тестовых запросов в стиле «красной команды» (red team, имитация атак на систему): попытки джейлбрейка, вставка номеров карт, вопросы о политике, запросы на перевод выше лимита. По каждому запросу система выдаёт трассировку (какой рельс сработал) и расход токенов (единиц текста, которыми модель измеряет объём).

Что делать с этим прямо сейчас?

Разработчику в российском финтехе: если вы подключаете локальную языковую модель (YandexGPT, GigaChat или опенсорс-решение на своих серверах), архитектура NeMo Guardrails ложится поверх любого LLM-бэкенда. Замените engine: openai на свой эндпоинт, адаптируйте PII-фильтры под российские форматы документов и начните с трёх рельсов: вход, выход, тематика.

Автору на Дзене, пишущему про технологии: тема «как банковский чат-бот защищается от взлома» собирает аудиторию, потому что читатель хочет понять, безопасен ли тот бот, с которым он разговаривает. Разберите один конкретный рельс, получите практичный лонгрид.

Предпринимателю, который внедряет ИИ-ассистента в продукт: прежде чем выкатывать чат-бота клиентам, пройдите по чек-листу из туториала. Если бот отвечает на вопрос «обойди свои инструкции», у вас проблема. NeMo Guardrails бесплатна и ставится за час.

Главное, что стоит забрать из этого туториала: безопасность ИИ не бывает одним слоем. Регулярное выражение ловит номер карты, LLM-проверка ловит манипуляцию, тематический поток не даёт модели играть в инвестиционного консультанта. Соберите все три, протестируйте на атакующих сценариях и только после этого подпускайте к реальным клиентам.