Meta пропустила 332 объявления с детским deepfake: нейросеть брала фото из открытых профилей

Что обнаружили исследователи?

• 332 рекламных объявления с материалами сексуального насилия над детьми прошли модерацию Meta в 2025 году. Компании потребовались дни, чтобы удалить их после того, как TTP сообщила о находках.

• Подавляющее большинство объявлений рекламировали ИИ-приложения китайского производства. Многие продвигали так называемые nudify-приложения (приложения для «раздевания»), которые позволяют с помощью deepfake-нейросети создавать поддельные интимные изображения из обычных фотографий.

• Использовались фотографии реальных детей. TTP сопоставила несколько объявлений с настоящими снимками, найденными в открытом доступе. Среди жертв: малолетний член европейской королевской семьи (пресс-фото), 14-летняя Instagram-блогер (фото в спортивной форме клуба) и девочка-подросток со стоковых фотографий.

• Фотографии превращали в видео с изображением сексуального насилия. По данным TTP, снимок юной представительницы королевской семьи был анимирован в видео с откровенным сексуальным актом. Фото 14-летней блогерки было переработано аналогичным образом. Третью жертву, девочку со стоковых фото, изобразили в сцене насилия со взрослым мужчиной.

• Тексты объявлений открыто заманивали пользователей фразами вроде «Я могу показать тебе больше», «Наш ИИ превращает ваши скрытые желания в гипнотические видео» и «Ограничений нет. Все персонажи, реальные люди».

Почему это нарушает закон?

Министерство юстиции США ранее разъяснило, что материалы сексуального насилия над детьми, сгенерированные ИИ, юридически приравниваются к реальным CSAM-материалам. Объявления, обнаруженные TTP, подпадают под федеральные законы о детской порнографии.

Meta при этом позиционирует свои платформы как безопасное пространство и регулярно отчитывается об удалении нелегального контента. Но факт остаётся: сотни объявлений прошли автоматическую модерацию, были показаны пользователям и удалены только после внешнего сигнала.

Абсолютное большинство жертв на обнаруженных объявлениях, девочки предподросткового возраста, сообщает TTP. Часть детей на изображениях идентифицировать не удалось.

Что делать прямо сейчас, по ролям

Родителям и всем, кто публикует фото детей. Расследование TTP показало, что deepfake-нейросеть берёт исходные фотографии из открытых источников: Instagram-профилей, стоковых баз, пресс-фото. Любое публичное фото ребёнка может стать сырьём. Проверьте настройки приватности аккаунтов, где есть снимки ваших детей, и ограничьте доступ.

Авторам Дзена и контент-маркетологам. Если ведёте детскую или семейную тематику, предупредите аудиторию: открытые фото детей в соцсетях используются для генерации нелегального контента. Это не гипотетическая угроза, а задокументированная практика.

Рекламодателям в Meta. Ваши объявления показываются на тех же площадках, где неделями висит CSAM-реклама. Репутационный риск реален. Следите за отчётами TTP и требуйте от площадки прозрачности модерации.

Есть ли защита в российском сегменте?

В России Facebook и Instagram принадлежат компании Meta, признанной экстремистской и запрещённой. Формально российские пользователи не должны видеть эту рекламу. Но на практике:

• VPN-доступ к Instagram сохраняется у миллионов пользователей в РФ.
• Китайские nudify-приложения рекламируются не только через Meta: подобная реклама встречается в Telegram-каналах и на сайтах с обходом блокировок.
• Российское законодательство квалифицирует такие материалы как детскую порнографию вне зависимости от способа создания (статья 242.1 УК РФ).

Отечественные площадки, ВКонтакте, Дзен, Одноклассники, модерируют рекламу по собственным правилам, но ни одна система автоматической модерации не гарантирует стопроцентного обнаружения deepfake-контента, созданного нейросетью.

Частые вопросы

Что такое nudify-приложение и как оно связано с deepfake?

Nudify-приложение, это программа, которая с помощью нейросети «раздевает» человека на фотографии или создаёт поддельное видео интимного характера. Технически это разновидность deepfake (глубокой подделки), когда нейросеть генерирует реалистичное, но полностью фальшивое изображение или видео на основе обычного фото.

Могут ли такие объявления появиться в российских соцсетях?

Прямая реклама через запрещённую Meta в РФ невозможна легально. Но аналогичные приложения могут рекламироваться через Telegram-каналы, сайты-прокладки и спам-рассылки. Российское законодательство запрещает создание и распространение таких материалов, однако автоматическая модерация на любой платформе не совершенна.

Что делать, если я нашёл deepfake-контент с участием ребёнка?

Не скачивайте и не пересылайте материал. Зафиксируйте скриншот с адресом страницы и подайте заявление в полицию или через сайт Роскомнадзора. Хранение и распространение таких материалов, уголовное преступление по российским законам, даже если контент сгенерирован нейросетью.

Расследование TTP вскрыло системную проблему: пока платформы вкладываются в генеративный ИИ, их защита от преступного использования тех же технологий отстаёт на месяцы, и за это время жертвами становятся реальные дети с реальными фотографиями.