Meta запустила Content Seal для детекции ИИ-текста, но ни один сторонний сервис её не читает

В марте Oversight Board (наблюдательный совет Meta) потребовал от компании «выполнить публичные обязательства и задействовать собственные инструменты» для борьбы с обманчивым ИИ-контентом. В июле Meta ответила запуском Content Seal, но технологию фактически упомянули вскользь, внутри анонса генеративных инструментов Muse. Журналист The Verge, специализирующийся на системах маркировки ИИ-контента, разобрал, почему новая система пока вызывает больше вопросов, чем доверия. Источник, The Verge.

Что умеет Content Seal и чего пока не умеет?

• Невидимая метка внутри картинки. Content Seal встраивает в изображение скрытый сигнал происхождения (watermark, водяной знак), невидимый глазу. Метка сохраняется после обрезки, сжатия, изменения размера и скриншота.
• Работает только с новейшей моделью Muse. Водяной знак ставится только на изображения, созданные через Muse в приложении Meta AI и на сайте Meta.ai. Картинки, сгенерированные старыми моделями Meta с 2023 года, система не распознаёт.
• Видео пока не поддерживается. Meta обещает добавить поддержку видео «скоро», но дату не назвала.
• Проверка только через отдельный веб-инструмент. В отличие от Google, которая встроила детекцию SynthID прямо в чат-бот Gemini, Meta пока не добавила проверку в свой Meta AI. Представитель компании Фэйт Айшен сообщила The Verge, что Meta «изучает способы приблизить детекцию к тем местам, где люди сталкиваются с ИИ-контентом».
• Есть дневной лимит проверок. Сколько именно раз в день можно проверять изображения, Meta не уточнила. Лимит объяснили защитой от злоупотреблений. У Google SynthID и OpenAI аналогичные ограничения. Стандарт C2PA (Content Credentials, открытая система подтверждения авторства контента) таких лимитов не имеет.
• Сторонние платформы пока не видят метку. Журналист The Verge скормил тестовое изображение из Muse в Gemini и в официальный портал C2PA: ни один инструмент не подтвердил, что картинка создана ИИ.

Почему Meta не взяла готовый стандарт?

Вопрос закономерный: Meta уже входит в руководящий комитет коалиции C2PA наравне с Google. OpenAI ещё раньше приняла SynthID. Оба этих факта говорят о том, что конкуренты готовы делиться технологиями ради общей прозрачности.

Представитель Meta объяснила решение так:

Как и другие компании, мы создали Content Seal под собственные технические спецификации и продукты. Нужны несколько подходов, работающих вместе, чтобы решить эту задачу в масштабе экосистемы, и мы рады внести свой вклад. : Фэйт Айшен, представитель Meta

При этом на вопрос, не будет ли Content Seal конфликтовать с SynthID и C2PA, если все три метки окажутся в одном файле, Meta не дала ответа.

Фрагментация стандартов: при чём тут Россия и СНГ?

Для тех, кто работает с контентом на русскоязычном рынке, ситуация выглядит так: единого мирового стандарта детекции ИИ-изображений нет. Google продвигает SynthID, Adobe и Microsoft поддерживают C2PA, теперь Meta добавила третий формат. В России инструменты YandexGPT и GigaChat генерируют изображения и тексты без публичной системы водяных знаков. Ни один из трёх западных стандартов в российские платформы не интегрирован.

Это значит, что детекция ИИ-текста и изображений для русскоязычной аудитории остаётся задачей, которую каждый решает вручную, сторонними сервисами вроде Originality.ai или «Антиплагиат».

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы используете Meta AI (Muse) для генерации обложек или иллюстраций, знайте: теперь в файл встроен невидимый маркер. Пока он виден только на проверочном сайте Meta, но со временем его смогут читать и другие платформы. Честная маркировка ИИ-иллюстраций в посте остаётся лучшей практикой.

Маркетологу. Три несовместимых стандарта детекции ИИ-контента означают, что автоматическая проверка «эта картинка настоящая или нет» пока ненадёжна. Для брендовых кампаний фиксируйте исходники и метаданные вручную.

Предпринимателю в РФ и СНГ. Российские генеративные сервисы пока не внедрили ни один стандарт водяных знаков. Следите за позицией Яндекса и Сбера: если регулятор потребует маркировку ИИ-контента, адаптироваться придётся быстро, а единого стандарта для адаптации всё ещё нет.

Как проверить изображение через Content Seal?

1. Откройте веб-инструмент проверки Content Seal (Meta анонсировала его в рамках запуска, прямая ссылка доступна на сайте Meta.ai).
2. Загрузите изображение, которое хотите проверить.
3. Система покажет, содержит ли файл водяной знак Content Seal. Учтите дневной лимит проверок и то, что инструмент распознаёт только изображения, созданные моделью Muse.

Частые вопросы

Content Seal работает с текстом или только с картинками?

Пока только с изображениями, созданными моделью Muse. Поддержка видео анонсирована без даты. О маркировке текстов Meta не сообщала. Для детекции ИИ-текста на русском языке по-прежнему нужны отдельные сервисы.

Можно ли обойти водяной знак Content Seal?

Meta утверждает, что метка сохраняется после обрезки, сжатия, изменения размера и скриншота. Дневной лимит проверок введён, по словам компании, именно для защиты от попыток взлома системы. Независимых тестов на устойчивость пока нет.

Зачем мне знать про детекцию ИИ-контента, если я в России?

Российские площадки пока не маркируют ИИ-контент автоматически, но регуляторное давление растёт во всём мире. Если Дзен, ВКонтакте или другие платформы введут обязательную маркировку, авторы, которые уже привыкли указывать происхождение иллюстраций, перестроятся быстрее остальных.

Meta выпустила инструмент, который пока не решает задачу, ради которой создан: контент с водяным знаком не виден за пределами экосистемы Meta, а старые генерации остаются без метки. Три конкурирующих стандарта лучше, чем ни одного, но хуже, чем один рабочий.