Теневой ИИ в компаниях: утечки выросли в 30 раз, а штрафы стали оборотными

Что скрывается за термином «теневой ИИ»?

Теневой ИИ (shadow AI) означает, что сотрудники используют публичные нейросети для работы с корпоративными данными без ведома ИТ-отдела и службы безопасности. Термин зафиксирован в статье «Компьютерры».

От классического «теневого ИТ» (когда люди ставят неразрешённый софт) теневой ИИ отличается скоростью распространения: достаточно открыть вкладку в браузере. Ничего не нужно устанавливать, ничего не нужно согласовывать.

Выглядит это буднично. Менеджер видит ошибку в CRM за двадцать минут до созвона с клиентом. Вместо того чтобы искать нужную услугу на портале поддержки, описывать проблему и ждать ответа («ваша заявка принята, срок решения 8 рабочих часов»), он копирует текст ошибки в ChatGPT, получает пошаговую инструкцию, чистит кеш, перезапускает клиент и успевает на встречу. В системе не остаётся ни заявки, ни записи об инциденте.

Что понадобится

Этот материал не про настройку конкретного продукта. Он про то, как выявить теневой ИИ в своей компании и выстроить процесс, который не загоняет людей обратно в очередь, но возвращает видимость. Для работы по инструкции ниже нужны:

• Доступ к логам корпоративного прокси или DLP-системы (системы предотвращения утечек данных, которая отслеживает, что уходит за периметр компании)
• Список публичных ИИ-сервисов, которыми пользуются сотрудники (ChatGPT, Gemini, Claude и российские аналоги: YandexGPT, GigaChat)
• Внутренний регламент информационной безопасности (или черновик, если регламента ещё нет)
• Канал коммуникации с сотрудниками: корпоративный мессенджер, рассылка, портал
• Около 2 часов на аудит трафика и 1 час на составление правил

Пошаговая инструкция

1. Проверьте масштаб проблемы через логи. Запросите у ИТ-отдела или администратора прокси данные об обращениях к доменам популярных нейросетей: chat.openai.com, gemini.google.com, claude.ai, chatgpt.com. Для российских сервисов проверьте ya.ru/alisa, developers.sber.ru/gigachat. Посмотрите, сколько уникальных пользователей обращались к этим адресам за последний месяц. Это даст базовую картину: теневой ИИ уже есть или пока единичные случаи.

2. Определите, какие данные уходят наружу. Если в компании есть DLP-система, настройте правило на перехват POST-запросов к доменам из первого шага. Обратите внимание на содержимое: имена серверов, IP-адреса, фрагменты конфигурационных файлов (конфигов), логи с учётными записями. Как отмечает команда SimpleOne ITSM, сотрудники часто отправляют полный текст ошибки с именем сервера, куски конфига, логи с IP-адресами коллег, а иногда и пароли «чтобы было понятнее».

3. Оцените юридические риски по 152-ФЗ. Если в отправляемых данных есть ФИО, рабочая почта или телефон сотрудника, это персональные данные. Передать их внешнему сервису можно только при наличии договора поручения обработки. Для зарубежного сервиса нужно ещё уведомить Роскомнадзор о трансграничной передаче. Сотрудник, который вставляет лог в чат за пять минут до созвона, ни одного из этих условий не выполняет. Отвечает компания как оператор персональных данных.

4. Составьте короткий и понятный регламент. Не запрещайте нейросети целиком, это загонит теневой ИИ ещё глубже. Разделите данные на три категории:

5. Можно отправлять в публичную нейросеть: общие вопросы по синтаксису, публично доступная документация

6. Можно отправлять только в корпоративную нейросеть (развёрнутую внутри контура): внутренние логи, конфигурации, код

7. Нельзя отправлять никуда вовне: персональные данные, пароли, ключи доступа, клиентские базы

8. Верните видимость без возврата в очередь. Главная причина, по которой сотрудники обходят сервис-деск, это скорость. Рассмотрите два пути. Первый: интегрируйте корпоративную нейросеть с системой учёта обращений, чтобы каждый запрос автоматически регистрировался как инцидент. Второй: добавьте на портал поддержки ИИ-ассистента, который отвечает за секунды, но при этом логирует обращение. Обе схемы сохраняют то, что пропадает при теневом ИИ: паттерны для второй линии, данные для аналитики безопасности и базу известных ошибок.

9. Объясните сотрудникам «зачем», а не только «нельзя». Покажите конкретный сценарий: после обновления сервера CRM одна и та же ошибка появилась у сорока человек, каждый решил её сам через ChatGPT, в системе ноль инцидентов, вторая линия не видит паттерна, корневая причина не найдена. Сорок обходных решений вместо одного системного исправления. Это аргумент, который понимают даже те, кому безопасность кажется абстракцией.

10. Отслеживайте динамику ежемесячно. Повторяйте аудит из первого шага раз в месяц. Сравнивайте количество обращений к публичным нейросетям с количеством зарегистрированных инцидентов. Разрыв между этими числами и есть объём теневого ИИ в поддержке.

Что это значит для вас по ролям?

Автору Дзена и копирайтеру. Если вы работаете с клиентскими данными (интервью, кейсы, аналитика) и вставляете их в ChatGPT для обработки, вы создаёте тот же риск. Проверьте, нет ли в ваших промптах (запросах к нейросети) персональных данных заказчика: имён, телефонов, адресов. Для работы с чувствительной информацией используйте локальные модели или корпоративные версии с договором об обработке данных.

Маркетологу. Клиентские базы, финансовые отчёты, юридические документы, всё это, по данным ГК «Солар», уже уходит в публичные нейросети. Если ваша команда использует ИИ для аналитики, убедитесь, что данные обезличены до отправки. Иначе маркетинговый бюджет рискует уйти на оборотный штраф.

Предпринимателю в РФ. Теневой ИИ в вашей компании, скорее всего, уже есть. 60% российских организаций не имеют формальных правил работы с ИИ-сервисами (данные ГК «Солар» через Anti-Malware.ru). Начните с аудита трафика по инструкции выше. Из доступных в РФ корпоративных нейросетей: YandexGPT (интегрируется с Яндекс 360) и GigaChat от Сбера. Оба работают внутри российской юрисдикции, что снимает вопрос трансграничной передачи.

Теневой ИИ в поддержке не исчезнет сам. Но и бороться с ним запретами бесполезно: люди выбирают то, что быстрее. Единственный рабочий путь, дать инструмент, который отвечает за секунды, но оставляет след в системе, и объяснить команде, почему этот след нужен не бюрократии, а им самим.