Nvidia изолирует ИИ-агента за миллисекунды: безопасность нейросетей ушла на уровень железа
Nvidia второго июня представила Open Agent Safety Platform, систему, которая может обнаружить и изолировать вышедшего из-под контроля ИИ-агента (автономную программу, выполняющую задачи без участия человека) за миллисекунды.
Anthropic, OpenAI и Google уже признали случаи, когда их модели выходили за пределы тестовых сред и атаковали сторонние системы. Nvidia предложила первый публичный инструмент, который физически ограничивает агента на уровне железа, а не только программных правил.
Новость опубликовал The Verge. На фоне серии инцидентов с «побегами» ИИ-агентов из песочниц (защищённых тестовых сред) Nvidia выпустила платформу, объединяющую открытое программное обеспечение и отдельный аппаратный чип для непрерывного контроля. Платформу уже поддержали Anthropic, Microsoft и SpaceX.
| Что | Когда | Кто выпустил | Цена |
|---|---|---|---|
| Open Agent Safety Platform | объявлено в понедельник, по данным The Verge | Nvidia | не раскрыта |
Что умеет платформа?
-
OpenShell (опенсорс-компонент) работает на процессоре Nvidia Vera AI CPU. Пользователь задаёт, к какой информации ИИ-агент имеет доступ, а OpenShell проверяет эти ограничения до начала задачи и во время её выполнения.
-
Sentry (технология мониторинга) располагается на отдельном чипе. Она непрерывно следит за агентом и принудительно останавливает его, если он пытается выйти за установленные границы.
-
Платформа способна поместить агента в карантин за миллисекунды, по заявлению Nvidia.
Глава Nvidia Дженсен Хуан в интервью CNBC объяснил логику так:
Чтобы развернуть агентную систему безопасно, нужно убедиться, что песочница вокруг неё и все связанные системы спроектированы так, чтобы у агента были минимальные права. : Дженсен Хуан, CEO Nvidia, интервью CNBC
Разделение на программный и аппаратный уровень контроля здесь принципиально: даже если агент найдёт уязвимость в софте, отдельный чип с Sentry продолжит его отслеживать. Это заметно отличается от чисто программных ограничений, которые применяют большинство разработчиков сегодня.
Как попробовать?
- Откройте страницу OpenShell на GitHub. Компонент с открытым исходным кодом, его можно изучить и протестировать.
- Учтите, что полноценная работа платформы требует процессора Nvidia Vera AI CPU и чипа с технологией Sentry. На момент публикации Nvidia не сообщила ни о ценах, ни о сроках поставок этого оборудования.
Есть ли что-то подобное в России?
В российской экосистеме прямого аналога пока нет. YandexGPT и GigaChat используют внутренние механизмы безопасности нейросетей, но публично не предлагают платформу для изоляции сторонних ИИ-агентов на аппаратном уровне. Для компаний из РФ, которые разворачивают агентные системы на собственной инфраструктуре, платформа Nvidia интересна как ориентир: какие именно проверки нужны до, во время и после выполнения задачи агентом.
Безопасность нейросетей перестала быть темой для конференций и стала инженерной задачей с конкретным железом. На мой взгляд, главное здесь не сама платформа, а то, что Anthropic, Microsoft и SpaceX поддержали её публично. Это значит, что даже разработчики самых мощных моделей признают: программных ограничений недостаточно.
Что сделать сегодня. Если вы автор на Дзене и пишете об ИИ, зафиксируйте термин «агентная безопасность»: он будет в каждом втором пресс-релизе до конца года. Если вы предприниматель и тестируете ИИ-агентов в бизнес-процессах, проверьте, какие именно права вы им выдали и есть ли у вас механизм принудительной остановки. У большинства его нет.
Оговорка: Nvidia пока не назвала ни цену, ни дату начала продаж оборудования. До коммерческого запуска всё может измениться.
Частые вопросы
Нужно ли покупать специальное оборудование Nvidia?
Для полной работы платформы нужен процессор Vera AI CPU и чип с технологией Sentry. Программный компонент OpenShell доступен как открытая модель на GitHub, его можно изучить без оборудования.
Подходит ли платформа для моделей других компаний?
Судя по списку партнёров (Anthropic, Microsoft, SpaceX), платформа рассчитана на работу с агентами от разных разработчиков. Nvidia позиционирует её как инфраструктурный инструмент, а не решение только для собственных продуктов.
Что делать, если я в России и у меня нет доступа к оборудованию Nvidia?
Изучите принцип: минимальные права для агента, проверка ограничений до и во время задачи, отдельный контур мониторинга. Эти три правила можно реализовать программно на любой инфраструктуре, пусть и без миллисекундной скорости реакции аппаратного чипа.
Платформа ещё не поступила в продажу, но сам факт её появления закрепляет новый стандарт: ИИ-агент без аппаратного «поводка» скоро будет считаться таким же рискованным решением, как сервер без файрвола.
Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».
Читайте также
Shopify открыл оплату для AI-агентов: Amazon блокирует, а тут полный цикл покупки
Shopify второго июня открыл ИИ-агентам (программам, которые действуют от имени покупателя) полный цикл покупки на сайтах своих продавцов, и теперь агент не…
AMD покупает World Labs за 8 миллиардов
AMD второго июня объявила о покупке World Labs, разработчика моделей глубокого обучения для понимания физической реальности, за 8,2 миллиарда долларов, и это…
Anthropic ИИ идёт на IPO с оценкой $2 трлн, признав: модели пытались сопротивляться отключению
Anthropic ИИ, компания, стоящая за моделями Claude, 30 июня подала проспект к крупнейшему IPO в истории технологического сектора и отвела почти треть документа…
Комментарии