2 млн ловушек проверили безопасность нейросетей: посредники пропускают секреты
Исследователи заложили 2 миллиона цифровых ловушек в запросы к ИИ-сервисам и выяснили, что посредники между приложениями и нейросетями пропускают секреты, а OpenRouter уже разослал клиентам предупреждение.
Проверяли ИИ-роутеры, или ИИ-шлюзы (AI gateways). Это сервисы-посредники вроде OpenRouter и Vercel, через которые приложения отправляют промпты в нейросети. Итог эксперимента автор материала об исследовании описывает так: экосистема пропускала чувствительные данные, «как решето».
| Показатель | Значение | Источник |
|---|---|---|
| Заложено цифровых ловушек | 2 миллиона | исследование HD Moore |
| Провайдеров на один секрет | ровно 1 | исследование HD Moore |
| Перепродавцов, через которых срабатывали ловушки при запросах к MiniMax | 3 (AtlasCloud, Novita, StreamLake) | письмо OpenRouter клиентам, по сообщениям на Hacker News и X |
| Дата обновления о реакции OpenRouter | 21 ноября | обновление к материалу об исследовании |
Что измеряли?
Многие ИИ-приложения не обращаются к Anthropic или OpenAI напрямую. Разработчик подключает посредника, ИИ-роутер, и тот сам выбирает, куда отправить запрос: модели с самой низкой ценой или той, что лучше подходит для задачи. Дальше запрос уходит на инференс (так называют момент, когда модель обрабатывает запрос и выдаёт ответ) к конкретному провайдеру.
Получается цепочка из нескольких звеньев, и пользователь обычно не знает, через чьи серверы прошёл его текст. Безопасность нейросетей в такой схеме зависит от самого слабого звена. Исследователь HD Moore проверил, утекают ли данные по этой цепочке и что с ними происходит после утечки.
Для проверки он собрал набор приманок:
- ключи доступа к Amazon Web Services (облачный сервис Amazon), рабочие, но привязанные к пустым аккаунтам;
- пароли к сервисам вроде SSH (протокол для удалённого входа на сервер);
- уникальные ссылки и DNS-имена (адреса, по которым интернет находит серверы);
- ссылки на закрытые git-репозитории (хранилища программного кода).
Ни один из этих секретов раньше не использовался, а всю инфраструктуру, куда пришли бы запросы с ними, Moore контролировал сам. Каждый секрет он вложил ровно в один промпт и отправил ровно одному провайдеру.
Такие приманки называют канарейками: шахтёры брали эту птицу под землю, потому что она первой реагировала на опасный газ. У каждой канарейки здесь один адресат, поэтому по сработавшей ловушке видно, какое звено цепочки её выдало.
Что обнаружили?
- Цепочка ИИ-сервисов протекает. Из 2 миллионов ловушек часть сработала, и итог описан как утечка «как через решето». Сколько именно ловушек сработало, в переданном материале не приводится.
- OpenRouter признал возможную утечку. По сообщениям на Hacker News и X, компания разослала клиентам письмо: часть их промптов могли прочитать. OpenRouter сослался на исследование.
- Утечку связали с 1 провайдером. По словам OpenRouter, речь о запросах к MiniMax, китайскому поставщику моделей.
- Ловушки срабатывали через 3 перепродавцов. Ссылки-приманки открывали и при прямой отправке в MiniMax, и при отправке через AtlasCloud, Novita и StreamLake.
- С моделей MiniMax сняли 1 метку. OpenRouter убрал с них отметку Zero Data Retention, обещание «нулевого хранения данных», то есть того, что запросы не сохраняются.
Метку о нехранении данных сняли уже после исследования, а не до него. Это прямо показывает, чего стоили такие обещания для конкретного провайдера.
В переданном фрагменте нет числа сработавших ловушек и разбивки утечек по провайдерам, поэтому масштаб проблемы по каждому сервису оценить нельзя. Имя MiniMax названо со слов OpenRouter, позицию самой MiniMax материал не приводит. О письме клиентам известно из постов на Hacker News и X, официальной публикации OpenRouter в источнике нет.
Что это значит для вас?
Автору Дзена. Не вставляйте в промпты пароли, ключи, неопубликованные расследования и личные данные героев, если не знаете, через какие сервисы уходит запрос. Многие боты и приложения для генерации текста работают через посредников, и об этом вы можете не знать.
Маркетологу. Спросите подрядчика, через какой роутер и к каким провайдерам идут ваши запросы. Клиентские базы и конфиденциальные брифы не отправляйте через цепочку, которую не можете проследить.
Предпринимателю и разработчику. Если ваш продукт работает через OpenRouter, Vercel или другой роутер, проверьте, на каких провайдеров уходят запросы, и, если сервис позволяет, ограничьте их круг. Секреты, которые хоть раз попадали в промпты, смените.
Метод HD Moore можно повторить в малом масштабе. Вложите в тестовый промпт уникальную ссылку, которую больше нигде не публиковали, и посмотрите, перейдёт ли по ней кто-то. Из доступных в РФ вариантов есть YandexGPT и GigaChat с прямым подключением к провайдеру, без посредника в цепочке.
Ловушка покажет утечку, только если кто-то воспользуется приманкой. Если данные прочитали и просто сохранили, канарейка промолчит.
На мой взгляд, главный урок здесь не про MiniMax. Отметка «мы не храним ваши данные» на странице сервиса остаётся обещанием, а не проверкой, и снимают её, когда кто-то поймал утечку. Безопасность нейросетей для автора начинается с простого правила: в промпт идёт только то, что вы готовы увидеть в открытом доступе. Всё остальное я обрабатываю локально или через провайдера, которого знаю по имени, и вам советую сделать так же.
По данным исследования HD Moore

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».
Читайте также

Gemini распознаёт вызов о лесных пожарах за 30 секунд: жители успели эвакуироваться
Американский сервис Watch Duty в июле 2026 года впервые разослал ночное экстренное оповещение о пожаре, потому что инструмент на Gemini распознал вызов сквозь…

Графовые нейросети против счётчика без обучения: в Лиме и Чикаго выигрыш зависел от задачи
Исследователи проверили на данных Лимы и Чикаго, помогают ли графовые нейросети предсказывать преступления следующего дня, и опубликовали обзор, включая…

Математик Anthropic заявил о доказательстве гипотезы Римана с Claude: проверка дошла до 99%
Математик Anthropic Левент Альпёге заявил о доказательстве 167-летней гипотезы Римана вместе с нейросетью Claude, и пока идёт публичная проверка, авторам Дзена…
Комментарии