Детекция текстов ИИ ненадёжна: разброс оценок на одном абзаце от 5% до 60%

Спор обострился после того, как стартап Pangram привлёк 9 миллионов долларов на свою систему детекции и заключил партнёрство с Substack: теперь читатели платформы видят, использовал ли автор рассылки нейросеть. Одновременно Pangram выпустил отдельный инструмент для распознавания изображений, сгенерированных ИИ. Для авторов в России, где доля ИИ-контента на площадках тоже растёт, вопрос не менее острый: если подобная метка появится на Дзене или VC, как это повлияет на доверие к вашим текстам?

Стартап Pangram позиционирует себя как «слой доверия» для интернета. По данным подкаста Equity (TechCrunch), компания получила 9 миллионов долларов инвестиций и уже интегрирована в Substack. Сооснователь и генеральный директор Pangram Макс Сперо (Max Spero) обсуждал в подкасте как перспективы детекции текстов ИИ, так и проблему границы между «ИИ помог» и «ИИ написал». Эта граница и есть главное поле спора.

Зачем вообще нужна детекция?

Аргументы в пользу таких инструментов весомы:

• Доверие читателя. ИИ-тексты проникают в отзывы на товары, резюме соискателей и даже страховые заявки. Читатель хочет знать, с кем разговаривает: с автором или с моделью.
• Защита авторского труда. Автор, который пишет сам, проигрывает в скорости тому, кто генерирует десятки постов в день. Метка «написано без ИИ» может стать конкурентным преимуществом.
• Порядок на платформе. Площадкам выгодно фильтровать массовый ИИ-контент низкого качества (так называемый AI slop), чтобы удерживать аудиторию.

Почему детекция пока не работает надёжно?

Противоположные аргументы не менее серьёзны:

• Ложные срабатывания. Детекторы регулярно помечают человеческий текст как машинный. Для автора, которого несправедливо «заклеймили», это удар по репутации и заработку.
• Размытая граница. Макс Сперо сам поднимает вопрос: где проходит линия между «ИИ ассистировал» и «ИИ сгенерировал»? Автор, который переписал три абзаца после подсказки нейросети, использует промпт (текстовую команду для модели), но текст остаётся его. Детектор этого не различит.
• Гонка вооружений. Модели совершенствуются, и с каждым поколением их тексты всё ближе к человеческим. Детектор, который работал на текстах GPT-3.5, может пропускать тексты более новых моделей.
• Нет единого стандарта. Каждый сервис считает по-своему, и процент «ИИ-ности» у разных детекторов на один и тот же текст различается кардинально.

Настоящий вопрос не в том, написал ли текст ИИ, а в том, где провести границу между «ИИ помог» и «ИИ сгенерировал». : Макс Сперо, сооснователь и генеральный директор Pangram

Что делать с этим прямо сейчас, по ролям

• Автор Дзена: пишите в редакторе платформы, а не копируйте из ChatGPT. Уникальный голос, личные примеры и экспертиза, вот что детектор не пометит, а читатель оценит.
• Маркетолог: стройте редполитику не вокруг запрета ИИ, а вокруг проверки фактов. Ошибки в цифрах и выдуманные источники убивают доверие быстрее, чем метка «сгенерировано».
• Предприниматель РФ и СНГ: следите за политикой площадок. Если Дзен или VK введут аналог меток Substack, бизнес-аккаунтам с массовым ИИ-контентом придётся менять стратегию за дни, а не за месяцы.

Реалистичный прогноз: детекция текстов ИИ не исчезнет, но и не станет абсолютной. Скорее всего, в ближайший год крупные платформы начнут внедрять не бинарную метку «ИИ / не ИИ», а шкалу прозрачности, где автор сам указывает степень использования нейросети, а площадка проверяет заявление выборочно. Тот, кто уже сейчас строит узнаваемый авторский голос и хранит доказательства своей работы, окажется в выигрыше независимо от того, какой детектор победит.