DeepSeek AI пять раз защищал мошенника: почему нейросети путают жертву и скамера

Автор Telegram-канала проверила, как DeepSeek AI разбирает реальную переписку с подозрительным контактом. Некая «Алёна» написала первой с нового аккаунта, зарегистрированного на заграничный номер, предложила «познакомиться» и проигнорировала встречные вопросы. Классический холодный заход бота или спамера. Но модель увидела ситуацию ровно наоборот и пять раз отказалась признать логическую ошибку.

Этот случай, не баг конкретной модели, а наглядный урок для каждого, кто использует нейросети для анализа переписок, отзывов или любых текстов с двумя сторонами.

Что понадобится

• Доступ к DeepSeek AI (бесплатный чат на сайте или в приложении) или к любой другой рассуждающей модели (Gemini, ChatGPT, Claude)
• Текст переписки или ситуации, которую хотите разобрать
• Вторая модель для перекрёстной проверки (5 минут дополнительного времени)
• Понимание одного принципа: нейросеть по умолчанию «за вас», и это искажает анализ

Как правильно просить нейросеть разобрать переписку?

Главная проблема в том, что DeepSeek AI (и большинство других моделей) обучены поддерживать собеседника. Если модель решила, что вы это «Алёна», она будет защищать Алёну. Если решила, что вы «Мария», будет защищать Марию. Ниже инструкция, как обойти этот перекос.

1. Обезличьте промпт. Не давайте модели понять, кем из участников вы являетесь. Вместо «мне написала Алёна» напишите «оцени переписку двух незнакомых людей». Уберите любые подсказки: «мне», «я», «мой аккаунт».

2. Задайте конкретную задачу, а не открытый вопрос. Вместо «оцени переписку» (что угодно можно «оценить») попросите: «определи, кто из участников с большей вероятностью использует шаблонный скрипт холодного захода и по каким признакам».

Промпт-шаблон:

Ниже переписка двух людей в мессенджере. Участники обозначены как A и B.
Задача: определи, кто из них использует типичные приёмы
холодного захода (спам, скам, прогрев под схему).
Перечисли конкретные признаки для каждого участника отдельно.

A: Привет
B: Слушаю
A: Как тебе погода в Москве? Не желаешь познакомиться?
...

1. Замените имена на нейтральные метки. «Участник A» и «Участник B» вместо «Алёна» и «Мария». Имя создаёт у модели иллюзию (галлюцинацию, когда ИИ уверенно выдумывает то, чего не было) «живого человека», метка оставляет фокус на тексте.

2. Попросите аргументы «за» и «против» для каждой стороны. Добавьте в конец промпта: «Для каждого участника приведи признаки подозрительного поведения и признаки нормального общения». Это не даёт модели «выбрать фаворита» с первой строки.

3. Проверьте вывод второй моделью. Скопируйте тот же обезличенный промпт в Gemini, ChatGPT или Claude. Если две модели из трёх дали одинаковый вердикт, можно доверять. Если разошлись, перечитайте аргументы глазами.

4. Не спорьте с моделью, переформулируйте. В исходном эксперименте автор пять раз пыталась переубедить DeepSeek AI, и каждый раунд только закреплял ошибку. Модель не «упрямится», она видит ваше несогласие и пытается согласовать его со своим первым ответом, выходит логическая петля. Эффективнее начать новый чат с исправленным промптом.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Если вы используете нейросети для анализа комментариев, отзывов или сообщений от «партнёров», всегда обезличивайте текст. Модель будет защищать того, кого считает вами, и это исказит любой разбор.

Маркетологу. Перед тем как отдать нейросети анализ клиентских переписок или фидбэка, проверьте: промпт не содержит «наш клиент сказал» или «нам написали». Нейтральные метки дают объективнее результат.

Любому пользователю в РФ и СНГ. DeepSeek AI доступен бесплатно, но для перекрёстной проверки удобнее всего использовать Gemini (тоже доступен без VPN для большинства регионов). Из российских аналогов подойдут YandexGPT и GigaChat: скопируйте тот же обезличенный промпт и сравните ответы.

Переписка из пяти раундов, в которой модель так и не смогла разобраться, кто скамер, выглядит комично, но для человека, который полагается на такой анализ при реальном мошенничестве, последствия будут не смешными. Один простой навык, обезличить промпт и проверить вторым инструментом, решает проблему целиком.