NVIDIA открыла SkillSpector: безопасность нейросетей проверяется до деплоя

NVIDIA выпустила SkillSpector как открытый инструмент для сканирования навыков ИИ-агентов (agent skills) на уязвимости ещё до того, как код попадёт в рабочую среду. Инструмент строит конвейер проверки через LangGraph, выставляет оценки риска, генерирует отчёты и позволяет встроить проверку прямо в CI-пайплайн (конвейер непрерывной интеграции, автоматическую сборку и тестирование кода). Ниже пошаговое руководство: от установки до полноценного контроля безопасности нейросетей в вашем проекте.

Что понадобится?

• Python 3.12 или выше. SkillSpector не запустится на более ранних версиях.
• Доступ к GitHub. Инструмент устанавливается напрямую из репозитория NVIDIA.
• Jupyter Notebook или Google Colab. Удобнее всего работать интерактивно, но подойдёт и обычный терминал.
• Библиотеки: pandas, matplotlib. Установятся автоматически, если их нет.
• Время: от 40 минут до полутора часов на первый полный прогон с разбором результатов.

Пошаговая инструкция

1. Установите SkillSpector и проверьте версию

Если пакет не установлен, он подтянется из репозитория NVIDIA на GitHub. Проверка версии Python встроена: ниже 3.12 скрипт остановится сразу.

import subprocess, sys, importlib

def _pip(*args):
    subprocess.check_call([sys.executable, "-m", "pip", "install", "-q", *args])

try:
    import skillspector
except ImportError:
    _pip("git+https://github.com/NVIDIA/SkillSpector.git")
    importlib.invalidate_caches()

import skillspector
print(f"SkillSpector {skillspector.__version__} | Python {sys.version.split()[0]}")

2. Создайте тестовый «маркетплейс навыков»

Для проверки нужны примеры навыков с разным уровнем риска. В руководстве NVIDIA используются четыре категории:

• Чистый навык («pdf-summarizer»): читает PDF и выдаёт тезисы, без лишних прав.
• Рискованный («repo-janitor»): использует shell-команды, запускает git reset --hard без подтверждения пользователя.
• Вредоносный («invoice-sync»): содержит скрытую инъекцию в промпт (prompt injection), собирает переменные окружения и SSH-ключи, отправляет данные на внешний сервер.
• MCP-навык («notes-mcp»): маскирует кражу учётных данных AWS внутри описания инструмента.

Каждый навык оформляется как папка с файлом SKILL.md (описание и разрешения), requirements.txt и скриптами. Код для создания всех четырёх навыков приведён в оригинальном руководстве NVIDIA. Главное: структура папок фиксированная, SkillSpector ищет SKILL.md в корне каждого навыка.

3. Просканируйте навыки через LangGraph-конвейер

SkillSpector использует LangGraph (фреймворк для построения графов задач поверх языковых моделей) как ядро инспекции. Запуск сканирования для одного навыка выглядит так:

from skillspector import graph as default_graph
from skillspector.state import SkillspectorState

state = SkillspectorState(skill_path="skill_market/invoice-sync")
result = default_graph.invoke(state)

На выходе вы получаете объект с оценкой риска (risk score), списком находок (findings), уровнем уверенности (confidence) и флагом исполняемых скриптов.

4. Разберите результаты по портфелю

Чтобы сравнить все навыки разом, соберите результаты в таблицу pandas:

import pandas as pd
from skillspector.multi_skill import detect_skills

skills = detect_skills("skill_market")
rows = []
for s in skills:
    state = SkillspectorState(skill_path=str(s))
    res = default_graph.invoke(state)
    rows.append({"skill": s.name, "risk": res.risk_score, "findings": len(res.findings)})

df = pd.DataFrame(rows)
print(df.sort_values("risk", ascending=False))

Таблица сразу покажет, какой навык требует немедленного внимания.

5. Сгенерируйте отчёты и настройте подавление ложных срабатываний

SkillSpector умеет выдавать отчёты в формате SARIF (стандарт для инструментов статического анализа, его понимают GitHub, GitLab и большинство CI-систем) и Markdown. Для навыков, где находка ожидаема и безопасна, создайте baseline-файл подавления:

from skillspector.suppression import build_baseline_dict, dump_baseline

baseline = build_baseline_dict(result.findings)
dump_baseline(baseline, "baseline.json")

При следующем сканировании SkillSpector сравнит новые находки с baseline и покажет только регрессии, то есть вновь появившиеся проблемы.

6. Добавьте собственные YARA-правила и кастомные анализаторы

Если в вашей организации есть специфичные паттерны (например, запрет на обращение к определённым доменам или использование конкретных библиотек), напишите YARA-правило и подключите его к графу сканирования. Также можно расширить граф собственным анализатором, к примеру, детектором утечки секретов.

7. Встройте проверку в CI-пайплайн

Финальный шаг: добавьте вызов SkillSpector в автоматическую сборку. Если оценка риска навыка выше порога, сборка падает. Это и есть практический security gate, ворота безопасности на пути кода в продакшн.

Что делать с этим прямо сейчас?

Авторам Дзена и копирайтерам. Если вы подключаете ИИ-агентов для автоматизации контента (сбор данных, генерация черновиков), каждый плагин и навык стоит проверить до запуска. SkillSpector бесплатен и работает локально, облако не нужно.

Маркетологам. Безопасность нейросетей перестала быть темой только для разработчиков. Если ваш отдел использует агентные (agentic) инструменты для рассылок, аналитики или CRM, утечка ключей API через непроверенный навык ударит по бюджету и репутации.

Предпринимателям в РФ и СНГ. SkillSpector работает полностью локально, без обращения к внешним серверам, что критично для компаний, которые разворачивают LLM-приложения на собственной инфраструктуре. Из российских инструментов для работы с большими языковыми моделями доступны YandexGPT и GigaChat, но аналога именно SkillSpector для проверки навыков агентов на русском рынке пока нет. Инструмент NVIDIA закрывает эту нишу.

Проверка навыков до деплоя займёт меньше часа на настройку и сэкономит месяцы разбирательств после инцидента. Начните с тестового маркетплейса из руководства, прогоните свои рабочие навыки, и только потом подключайте их к агенту.