ИИ и конкуренция: почему нейросеть описывает чужой бизнес вместо вашего

Проблема ИИ и конкуренции выглядит так: исследователи Mallen и коллеги показали, что языковые модели хуже запоминают факты о менее популярных сущностях, и увеличение размера модели помогает только для «головы» распределения, то есть для известных брендов. Longpre и коллеги в работе для конференции EMNLP 2021 измерили, как сильно модели опираются на заученное, а не на поданный им текст: вместо того чтобы воздержаться от ответа, модель уверенно генерирует из того, что сохранилось в весах.

Чем это отличается от обычной галлюцинации?

Галлюцинация (когда ИИ уверенно выдумывает то, чего не было) в привычном смысле случайна: фальшивая ссылка на несуществующую статью, выдуманная статистика. Новые модели действительно генерируют такой мусор реже.

Но подмена, о которой идёт речь, не случайна. Она систематична и предсказуема: если сущность описана скудно, а рядом есть хорошо задокументированный конкурент, модель каждый раз дрейфует в сторону конкурента, потому что градиент задан самим распределением обучающих данных (training data, то есть текстов, на которых модель училась). Именно поэтому утешение «новые модели галлюцинируют меньше» здесь не работает: модели учатся не выдумывать, но не учатся знать о компаниях, про которые мало кто писал.

Реальный пример: статья, которая сама стала частью проблемы

Автор оригинального разбора описывает конкретный случай из июня 2025 года. Вендорская статья предупреждала бренды о том, что ИИ выдумывает характеристики их продуктов. Статья приводила прямую цитату, приписанную Перси Лиангу, директору Стэнфордского центра исследований базовых моделей (Center for Research on Foundation Models). Автор оригинала не смог найти эту цитату ни в одной научной работе, докладе или интервью Лианга.

Та же статья ссылалась на отчёт Nielsen о доверии потребителей, отчёт Gartner о рисках, отчёт IAB и исследование MIT Sloan. Каждое название звучало правдоподобно, каждая ссылка вела на главную страницу организации, но ни одна не вела к конкретному документу.

Стэнфордский индекс ИИ (Stanford HAI AI Index) находится в свободном доступе, а база научных публикаций ACL Anthology полностью открыта и проиндексирована. В ней указанная «таксономия брендовых галлюцинаций», судя по проверке автора, не существует.

Это и есть механизм подмены, вышедший за пределы нейросети: автору статьи нужны были авторитетные подтверждения конкретных тезисов, подтверждений в нужном объёме не существовало, и пробел заполнился объектами, похожими на доказательства: реальные имена учёных, правдоподобные названия отчётов, рабочие ссылки на реальные сайты. Этот текст проиндексирован и станет частью обучающих данных для следующего поколения моделей.

Что понадобится

• Доступ к двум-трём популярным ИИ-чатам: ChatGPT (OpenAI), Claude (Anthropic), из доступных в РФ подойдут YandexGPT или GigaChat
• Список из пяти-десяти ключевых вопросов, которые потенциальный клиент задаёт о вашей категории
• Имена двух-трёх прямых конкурентов
• Блокнот или таблица для фиксации ответов
• Около 40 минут на первый прогон

Пошаговая инструкция

1. Составьте вопросы от лица клиента. Не «расскажи про нашу компанию», а вопросы категории: «какой сервис доставки в Новосибирске работает быстрее всего», «кто производит промышленные фильтры для молочных заводов». Формулируйте так, как спросил бы человек, который ещё не выбрал поставщика.

2. Задайте каждый вопрос в каждый доступный ИИ-чат без упоминания вашей компании. Запишите ответ дословно.

Промпт-пример:
Какие компании в России производят
промышленные мембранные фильтры
для молочной промышленности?
Сравни их по срокам поставки
и гарантийным условиям.

1. Найдите себя в ответе. Если вашей компании нет, зафиксируйте, кто назван вместо вас и какие характеристики им приписаны.

2. Задайте вопрос с прямым упоминанием вашей компании. Сравните ответ с реальностью: что модель знает верно, что выдумала, что взяла от конкурента.

Промпт-пример:
Расскажи о гарантийных условиях
компании [ваше название] на мембранные
фильтры для молочной промышленности.

1. Сопоставьте результаты в таблице: вопрос, что ответила модель, совпадает ли с реальностью, чьи данные подставлены.

2. Определите пробелы. Где модель вас не знает, ищите, чего не хватает в публичном информационном поле: нет подробных страниц с техническими характеристиками, нет упоминаний в отраслевых медиа, нет структурированных данных.

3. Создайте или обновите контент под обнаруженные пробелы. Публикуйте не «для робота», а для отраслевого читателя: подробные страницы продуктов с конкретными параметрами, кейсы с цифрами, экспертные комментарии в профильных изданиях.

Лучшее, что можно сделать прямо сейчас: открыть ChatGPT или YandexGPT, задать пять вопросов, которые задаёт ваш клиент, и посмотреть, кого модель назовёт вместо вас. Сорок минут покажут проблему, которую ни один аудит сайта не обнаружит.