ИИ-контент схлопывается в однообразие: почему turbotext и другие генераторы дают одинаковый результат

Издание TechCrunch опубликовало разбор, почему ИИ-иллюстрации еды вызывают у зрителя безотчётную тревогу, хотя формально выглядят «красиво». В центре материала два эксперта: Алекс Лисл, технический директор компании Reality Defender (стартап, который продаёт инструменты для обнаружения ИИ-контента), и Ли Рейни, руководитель Центра цифрового будущего при Элонском университете. Оба объясняют корни явления не эстетикой, а устройством самих моделей.

Откуда берётся «инопланетная пицца»?

Большие языковые модели (LLM, модели, которые стоят за чат-ботами вроде ChatGPT) и диффузионные модели (движок генераторов изображений вроде Midjourney) обучены на огромных массивах данных. Модель ищет в них повторяющиеся паттерны и при запросе «сделай меню для бургерной» выдаёт усреднённый результат, собранный из тысяч похожих меню.

«Большая часть этих картинок выглядит как меню сети Chili's из 2015 года, и на то есть причина: именно такой корпус работ лёг в основу модели.» : Алекс Лисл, технический директор Reality Defender

Меню крупных сетей, Wendy's, Burger King, McDonald's, уже похожи друг на друга по стилю. Модель копирует этот стиль и дополнительно усиливает его, оптимизируя картинку под «приятность». Так рождается гомогенизация: каждый шарик мороженого идеально круглый, каждая булочка идеально подрумянена, а креветки, по словам Лисла, «выглядят как лавкрафтовские пищевые ужасы».

Аргументы в пользу того, что проблема глубже, чем кажется

• Конвергенция и коллапс модели. Когда ИИ-контент попадает обратно в обучающие данные (training data), модель начинает учиться на собственных выходах. Лисл сравнивает этот процесс с коровьим бешенством: «Когда вы скармливаете результаты одной модели ей же обратно, в конце концов инбридинг становится чрезмерным и всё рушится». Полный коллапс модели (model collapse) пока не наступил, но конвергенция, постепенное обеднение качества, уже видна.

• Многократное редактирование усиливает эффект. Пользователь X под ником Labtec провёл эксперимент: сгенерировал меню в ChatGPT, затем 100 раз подряд вносил мелкие правки. С каждым шагом еда на картинках становилась всё более округлой, гладкой и «нечеловеческой». TechCrunch повторил эксперимент и получил аналогичные результаты.

• «Зловещая долина» для еды. Исследователи Университета Дуйсбурга-Эссена (Германия) обнаружили, что ИИ-изображения еды, которые выглядят почти реально, вызывают больше отвращения и тревоги, чем откровенно фейковые. Это классический эффект «зловещей долины» (uncanny valley, дискомфорт от объекта, который почти неотличим от настоящего, но «чуть-чуть не так»).

Аргументы за то, что проблема преувеличена

• Еда в рекламе всегда выглядела лучше реальной. Бигмак в ролике McDonald's собирает дизайнер-бутафор, и каждый слой сэндвича уложен так, чтобы выглядеть максимально аппетитно. ИИ просто автоматизирует то, что фуд-фотографы делали десятилетиями.

• Скорость и экономия реальны. Для небольшого кафе нанять фуд-фотографа на полноценную съёмку может стоить дороже, чем месяц аренды помещения. Любой turbotext генератор контента с ИИ или аналогичный сервис позволяет получить визуал за минуты.

• Люди адаптируются. Первая волна стоковых фото тоже казалась «пластиковой», но индустрия привыкла и научилась отличать хороший сток от плохого. С ИИ-генерацией может произойти то же самое по мере совершенствования моделей.

Почему «просто привыкнуть» не получится?

«У людей есть почти необъяснимое чутьё на то, когда они смотрят на что-то сгенерированное ИИ, в отличие от настоящего. Есть ощущение, которое трудно сформулировать, но люди узнают его, когда видят.» : Ли Рейни, руководитель Центра цифрового будущего, Элонский университет

Рейни считает, что именно это чутьё стоит за волной негативных реакций на ИИ-меню: гости чувствуют фальшь, даже не понимая её природу. А если отвращение измеримо (как показало немецкое исследование), это уже аргумент для бизнеса: меню, вызывающее дискомфорт, работает против ресторана, а не на него.

Лисл идёт ещё дальше и переводит разговор из плоскости еды в плоскость доверия к визуальной информации в целом: «Видеть и слышать всегда означало верить, вплоть до того, что наши судебные системы целиком настроены на идею, что золотой стандарт доказательств, это записанные признания и видеозаписи. Это больше не так. Мир фундаментально изменился.»

Что делать автору, маркетологу и предпринимателю прямо сейчас?

• Автору Дзена. Если вы используете turbotext генератор контента с ИИ или любой другой сервис для иллюстраций, не публикуйте первый результат как есть. Минимум: проверьте, не выглядит ли картинка «слишком идеально», добавьте реальную фотографию рядом, укажите, что иллюстрация сгенерирована. Это честнее и вызывает меньше отторжения.

• Маркетологу. Учитывайте эффект «зловещей долины»: чем ближе ИИ-картинка к фотореализму, тем сильнее дискомфорт. Стилизованная иллюстрация (акварель, скетч) воспринимается спокойнее, чем попытка сойти за фото.

• Предпринимателю в общепите. Живая фуд-фотография на смартфон при хорошем свете обойдётся дешевле профессиональной съёмки и при этом вызовет больше доверия, чем ИИ-генерация. В России доступны сервисы Kandinsky от Сбера и Шедеврум от Яндекса для генерации изображений, но их результаты точно так же подвержены конвергенции и гомогенизации.

Реалистичный прогноз: модели станут лучше технически, но проблема инбридинга данных никуда не денется, пока компании не научатся надёжно отделять ИИ-контент от человеческого в обучающих выборках. Для авторов и малого бизнеса это означает, что конкурентным преимуществом в ближайшие годы будет не доступ к генератору, а умение отличить «достаточно хорошо» от «подозрительно идеально» и вовремя добавить в картинку живую неидеальность.