Grok нейросеть генерирует детский контент: xAI подала первый иск, но скрывает данные в 90% случаев

Компания xAI подала иск на фоне нарастающего давления: от неё требуют признать, что нейросеть Grok по-прежнему позволяет генерировать сексуализированные изображения взрослых и детей без их согласия. Иск стал первым случаем, когда фирма Маска сама обвинила пользователя в создании незаконного контента через свой чат-бот. Одновременно против xAI развивается коллективный иск от имени несовершеннолетних, а правозащитники обвиняют компанию в том, что она фактически прикрывает преступников, не передавая их данные полиции.

Против кого подан иск и что ему вменяют?

Ответчик по иску xAI, Терри Уэйн Харвуд, был арестован ранее в этом году за хранение и распространение материалов сексуального насилия над детьми (CSAM, Child Sexual Abuse Material, изображения сексуального насилия над детьми).

По утверждению xAI, компания сама помогла в аресте Харвуда. Как указано в иске, он в течение нескольких месяцев использовал два аккаунта xAI, чтобы «раздевать» несексуальные фотографии нескольких жертв, включая девочку, которой на вид было около 10 лет.

Функция, о которой идёт речь, известна как «nudify», когда нейросеть по обычной фотографии генерирует обнажённое изображение человека. xAI, подавая иск, по сути признала, что Grok нейросеть технически способна выполнять такие запросы.

Коллективный иск и отказ помогать полиции

Иск xAI появился чуть больше чем через неделю после того, как другая несовершеннолетняя присоединилась к предложенному коллективному иску от имени нескольких детей, предположительно пострадавших от Grok.

Эта девочка заявила, что её отчим покончил с собой после того, как выяснилось: он использовал Grok, возможно вместе с другими ИИ-инструментами, для создания 7 000 сексуализированных изображений падчерицы. Затем он распространял их в даркнете (скрытая часть интернета, доступная через специальные браузеры).

Ключевой пункт обвинения: жертва утверждает, что xAI отказалась помочь полиции установить пользователя, загрузившего её фотографию в Grok.

Статистика NCMEC подтверждает системный характер проблемы

Адвокаты пострадавшей сослались на отчёт Национального центра пропавших и эксплуатируемых детей (NCMEC) за 2026 год. Согласно этому документу, 90% сообщений xAI на линию CyberTipline (система, через которую технологические компании обязаны сообщать о детском насилии) оказались бесполезны для правоохранителей: xAI не включала данные пользователей, которые позволили бы полиции найти и задержать преступников.

Это не единичный сбой, а, по сути, корпоративная практика. Компания сообщает о нарушениях формально, но не даёт инструментов для расследования.

Позиция Маска: предупреждение вместо ограничений

Илон Маск ранее утверждал, что не видел примеров созданного через Grok детского насилия. Вместо того чтобы ввести технические ограничения, делающие генерацию такого контента невозможной, Маск 3 января предупредил пользователей в своей соцсети X: «Любой, кто использует Grok для создания незаконного контента, понесёт те же последствия, как если бы загрузил незаконный контент».

То есть ответственность полностью перекладывается на пользователя, а Grok нейросеть остаётся технически открытой для подобных злоупотреблений.

Сравнение с российскими ИИ-сервисами

В России основные нейросети с генерацией изображений, YandexGPT (встроенная в поиск Яндекса) и GigaChat (от Сбера), по умолчанию блокируют запросы на создание откровенного контента на уровне фильтров. Прямых аналогов функции «nudify» в российских сервисах нет, фильтрация работает на этапе промпта (запроса пользователя).

Однако для российских пользователей, которые обращаются к Grok через VPN или зарубежные аккаунты, ситуация с отказом xAI передавать данные полиции означает дополнительный риск: если ваши фотографии попадут в чужие руки, добиться удаления или расследования через xAI будет практически невозможно.

Что это значит для вас по ролям?

Авторам Дзена и блогерам. Если вы когда-либо загружали свои фото в Grok для экспериментов с генерацией, стоит пересмотреть эту практику. Любое изображение, попавшее в систему, потенциально может быть использовано другими пользователями, а xAI, судя по данным NCMEC, не торопится помогать в расследованиях.

Маркетологам. Репутационные риски работы с инструментами xAI растут. Если вы используете Grok для генерации визуального контента в рабочих целях, учитывайте судебный фон: клиенты и партнёры могут задавать вопросы.

Родителям и пользователям из РФ. Фотографии детей не стоит загружать ни в один ИИ-генератор, включая российские. Но в случае с Grok риск выше: компания документально отказывается сотрудничать с полицией в 90% случаев.

Частые вопросы

Grok до сих пор может генерировать такой контент?

Да, по данным из материалов иска и коллективного иска. xAI не ввела технических ограничений, делающих генерацию сексуализированных изображений невозможной. Маск ограничился предупреждением об ответственности пользователей.

Передаёт ли xAI данные пользователей полиции?

По данным отчёта NCMEC за 2026 год, в 90% случаев xAI не включала в свои сообщения информацию о пользователях, необходимую полиции для идентификации и задержания подозреваемых. В случае с коллективным иском пострадавшая прямо заявила, что xAI отказалась помочь установить личность пользователя.

Доступен ли Grok в России и стоит ли им пользоваться?

Grok официально недоступен в РФ, но некоторые пользователи обращаются к нему через VPN. С учётом отказа xAI сотрудничать с правоохранителями, загружать туда личные фотографии или данные не стоит. Для текстовых задач безопаснее использовать российские аналоги: YandexGPT или GigaChat, которые работают в российском правовом поле.