Игорь Градов
Игорь Градов
5 мин
ai

Классификатор OpenAI отличит дипфейк от снимка реального ребёнка: жалоб уже 400 тысяч

OpenAI в понедельник представила в Вашингтоне классификатор, отличающий сгенерированные ИИ снимки насилия над детьми от реальных, на фоне роста таких жалоб в американскую горячую линию с 67 до 400 тысяч за год.

Почему это важно

По словам OpenAI, это первый широко доступный классификатор с отдельной пометкой для сгенерированных ИИ материалов. Следователи смогут быстрее отделять дипфейк с вымышленным ребёнком от снимка, где реальному ребёнку нужна помощь.

Что Когда Кто выпустил Цена
Классификатор изображений насилия над детьми с пометкой «сгенерировано ИИ» Понедельник, брифинг в Вашингтоне (точную дату источник не приводит) OpenAI Бесплатно для проверенных организаций

Классификатор работает как сортировщик на почте: он раскладывает изображения по категориям и откладывает подозрительные для проверки человеком. До сих пор горячие линии получали сплошной поток картинок, в котором снимки реальных жертв смешивались с синтетикой.

О запуске OpenAI объявила на пресс-брифинге в Вашингтоне. Кроме классификатора, компания пообещала рекомендации разработчикам и обучение полиции. Новость вышла в момент, когда законодатели обвиняют OpenAI и других разработчиков в том, что их инструменты помогают причинять вред детям.

Что нового в классификаторе OpenAI?

  • Пометка «сделано ИИ». Система ищет материалы сексуального насилия над детьми (по-английски CSAM) и отдельно отмечает, сгенерировано ли изображение нейросетью.
  • Меньше ложных срабатываний, то есть случаев, когда система поднимает тревогу из-за безобидного снимка. По данным OpenAI, классификатор отмечает на 48% меньше изображений, а среди отмеченных вредный материал встречается вдвое чаще.
  • Широкий охват источников. Классификатор распознаёт картинки из разных инструментов, включая открытые модели и приложения-«раздеватели».
  • Бесплатный доступ для проверенных организаций.
  • Помощь вокруг инструмента. OpenAI даст разработчикам рекомендации по обнаружению такого контента и будет обучать правоохранителей работе с ИИ в расследованиях.
  • Новые меры в ChatGPT. Тот, кто пытается сгенерировать запрещённое изображение, увидит предупреждение, разработанное вместе с экспертами. За первую попытку доступ к ChatGPT закрывают на 24 часа, грозят блокировкой аккаунта и дают контакты служб помощи.

OpenAI заявляет, что сообщает обо всех случаях в Национальный центр по делам пропавших и эксплуатируемых детей США (NCMEC). Его горячая линия CyberTipline собирает и сортирует такие сообщения.

Индустрии важно понимать, на каком изображении может быть вымышленный ребёнок, а на каком реальный. Такая сортировка критически важна в цепочке передачи сообщений правоохранителям. : Джон Бакли, глава направления публичной политики OpenAI по защите детей

Бакли при этом настаивает, что закон должен признавать вред и от сгенерированных материалов. По его словам, они размывают общественные нормы и часто лежат рядом со снимками реальных детей.

Жалоб стало в шесть раз больше за год, прокуроры бьют тревогу

В 2024 году CyberTipline получила 67 тысяч сообщений, связанных с генеративным ИИ, в 2025 году уже 400 тысяч. Исследователи предупреждали, что такой поток может сделать нагрузку на центр «неподъёмной». Правительство США признаёт незаконными и сгенерированные, и реальные материалы, в 48 штатах есть законы против откровенных дипфейков.

Если так пойдёт и дальше, это будет означать, что мы провалим свою миссию. : Джефф Джексон, генеральный прокурор Северной Каролины, сопредседатель рабочей группы по ИИ в альянсе генпрокуроров штатов

Давление на компании растёт. Закон Take It Down Act обязывает соцсети удалять реальные или сгенерированные интимные изображения, опубликованные без согласия, в течение 48 часов. В прошлом месяце восемь штатов подали в суд на OpenAI по отдельному делу о вреде детям.

Деталь, которую легко пропустить: Джексон сам назвал партнёрство с OpenAI «по сути экспериментом». Прокуроры обычно приходят после преступления, здесь они впервые пробуют работать на опережение.

Как получить доступ к классификатору?

  1. Убедитесь, что вы организация, которая работает с такими материалами: горячая линия, следственная группа, служба модерации. Частным авторам инструмент не предназначен.
  2. Пройдите проверку OpenAI. Доступ дают только проверенным организациям, порядок подачи заявки источник не описывает.
  3. Если вы разработчик, изучите рекомендации OpenAI по обнаружению такого контента, когда компания их опубликует.

Есть ли российский аналог?

О похожих классификаторах у доступных в России нейросетей, например YandexGPT и GigaChat, в материале ничего не сказано. Все цифры и примеры OpenAI относятся к американской системе: NCMEC, законы штатов, Take It Down Act.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы генерируете иллюстрации с детьми для статей, пишите промпты (текстовые запросы к нейросети) без двусмысленных формулировок. ChatGPT закрывает доступ на сутки уже за первую попытку.

Маркетологу. Фильтры у платформ ужесточаются: в США интимные изображения без согласия должны исчезать за 48 часов. Проверяйте, что рекламные креативы с детьми не попадают в серую зону.

Предпринимателю из России и СНГ. О доступе для российских организаций OpenAI не сообщила. Если вы ведёте площадку с пользовательским контентом, закладывайте в бюджет модерацию изображений.

Где подвох

Цифры «на 48% меньше» и «вдвое точнее» приводит сама OpenAI, независимой проверки в источнике нет. Классификатор не мешает создавать такие картинки в сторонних открытых моделях, он только помогает быстрее их находить.

Мнение редакции dzen.guru

На мой взгляд, пометка «сделано ИИ» здесь важнее всего: она возвращает следователям время, которое уходило на синтетику. Но инструмент выпустила компания, на которую сейчас подают в суд, и выглядит он ещё и как ответ на давление. Что сделать сегодня: пересмотрите свои промпты для картинок с детьми и уберите всё, что модель может прочитать двояко.

Частые вопросы

Может ли обычный пользователь проверить картинку этим классификатором?

Нет. Доступ получают только проверенные организации, для частных лиц OpenAI ничего не анонсировала.

Защитит ли классификатор от дипфейк порно со взрослыми?

Инструмент создан для материалов с детьми, про взрослых OpenAI ничего не говорила. В США такие изображения подпадают под Take It Down Act и законы штатов о дипфейках.

Что будет, если случайно отправить ChatGPT неудачный запрос?

Мера касается попыток создать запрещённые изображения детей: пауза на 24 часа, предупреждение и контакты служб помощи. Пишите промпты так, чтобы у модели не возникало вопросов, и проблем не будет.

Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

Audible запустил ИИ-обзоры книг: аудиокнигу «ИИ 2041» так выбрать можно только в США
ai

Audible запустил ИИ-обзоры книг: аудиокнигу «ИИ 2041» так выбрать можно только в США

Audible, сервис аудиокниг от Amazon, в понедельник запустил озвученные обзоры книг от искусственного интеллекта на фоне конкуренции со Spotify, который в…

4 мин
Стартап военных роботов с долей Эрика Трампа не выплатил зарплату, но ищет оценку в $3 млрд
ai

Стартап военных роботов с долей Эрика Трампа не выплатил зарплату, но ищет оценку в $3 млрд

Foundation Future Industries, стартап военных человекоподобных роботов с долей Эрика Трампа, не выплатил зарплату сотрудникам и может закрыться, хотя…

4 мин
Рынок сбросил $2,5 трлн, но глава Constellation уверен: дата-центры переживут демократов
ai

Рынок сбросил $2,5 трлн, но глава Constellation уверен: дата-центры переживут демократов

Глава Constellation Energy, крупнейшего ядерного оператора США, на прошлой неделе успокоил инвесторов насчёт победы демократов, хотя после выборов рынок…

5 мин