Авторитет в AI нельзя построить как кампанию: он копится годами из независимых упоминаний

В чём суть спора?

Дискуссия началась с комментария к статье об устройстве «карты сущностей» в языковых моделях. Автор комментария предложил очевидный следующий шаг: раз есть параметрическая сторона (то, что модель хранит в своих весах, а не подгружает при запросе), значит, нужно её «выиграть».

Фраза «влияйте на параметрическую сторону» (influence the parametric side) быстро разошлась как рабочая задача. Четыре слова, глагол первым, звучит как пункт плана с дедлайном. Проблема в том, что работа, стоящая за этими четырьмя словами, в большинстве случаев была сделана годы назад, по причинам, не связанным с языковыми моделями, и никто тогда не записывал её как расход, потому что категории расхода не существовало.

Это привычная схема: индустрия берёт нечто неуправляемое и даёт ему название, которое звучит управляемо. Прокси-метрика (число, заменяющее параметр, который нельзя измерить напрямую) всегда так работала. Разница в том, что метрику все понимают как замену. А фраза «постройте параметрический авторитет» сжимает годы работы нескольких отделов до одной инструкции и не признаётся, что это упрощение.

Аргументы за: авторитет в AI можно наращивать целенаправленно

• Механизм реален и изучен. Исследование Kandpal и коллег, представленное на конференции ICML, установило причинно-следственную связь: точность модели в ответе на факт прямо зависит от числа релевантных документов, которые модель видела при обучении. Не корреляция, а каузальная зависимость.
• Разнообразие формулировок решает. Allen-Zhu и Li показали, что знание становится извлекаемым, только когда факт встречается в достаточно разнообразных формулировках на этапе предобучения. Без вариативности факт может находиться внутри модели и при этом давать нулевую точность при ответе: он есть, но модель не может его «достать».
• Быстрый набор возможен. Компания, основанная в 2023 году, может оказаться корректно описана текущими моделями, если достаточно много независимых источников упомянули её одновременно. Механизм «вирусности» работает: исключение подчиняется тому же правилу, просто накопление произошло быстро.

Аргументы против: почему «влияние на параметрику» нельзя поставить как задачу

• Годы, а не месяцы. Дело не во времени как таковом, а в том, сколько независимых сторон описали компанию и насколько по-разному каждая из них это сделала. Годы просто отражают, сколько обычно нужно для такого накопления.
• Объём собственных публикаций не заменяет разнообразие. Параметрическое присутствие (parametric standing) формируется, когда достаточно независимых источников описывают компанию достаточно разными словами, и это описание выживает при сжатии в веса модели. Много контента с одного сайта не даёт того, что дают различные формулировки из разных источников.
• Масштабирование модели не спасает. Kandpal и коллеги оценили, что моделям потребуется увеличение на много порядков, чтобы конкурентно отвечать о сущностях с тонким присутствием в обучающих данных (training data, тексты, на которых модель училась). Mallen и коллеги подтвердили: модели хорошо справляются с известными сущностями и плохо с «длинным хвостом» малоизвестных, а масштабирование улучшает отзыв на популярном конце, почти не трогая хвост.
• Никто не владеет «счётом» в корпусе. Elazar и коллеги в проекте «What's In My Big Data» изучили 10 корпусов, используемых для обучения популярных моделей. Один из них, C4 (Colossal Clean Crawled Corpus, публичный набор данных, собранный фильтрацией одного снимка Common Crawl), показал такое разнообразие доменов, что даже самый частый занимает менее пяти сотых процента документов. Ваш собственный сайт, сколько бы вы на нём ни публиковали, составляет исчезающе малую долю.
• Краулер не подчиняется вашим планам. Common Crawl отмечает, что их рейтинг доменов лишь частично отражает реальную значимость: краулер уважает robots.txt и старается не перегружать серверы, так что высокорейтинговые домены могут быть представлены хуже, чем ожидается.

Повторение из одного источника не даёт того, что даёт разнообразие из многих источников, потому что механизм вознаграждает различные формулировки из отдельных источников, а не повторение из одного. : Автор оригинального анализа

Что делать прямо сейчас, по ролям

Автору Дзена. Перестаньте гнаться за объёмом публикаций «для ИИ». Один экспертный комментарий в чужом издании ценнее десяти статей на собственном канале, если цель, чтобы модели вас «знали». Стройте авторитет в AI через разнообразие площадок, а не частоту на одной.

Маркетологу. Пересмотрите KPI: количество уникальных источников, упомянувших бренд, важнее общего числа публикаций. Каждый новый источник с новой формулировкой, это то, что переживает сжатие в веса модели.

Предпринимателю. «Параметрический авторитет» не покупается и не заказывается. Он накапливается, когда ваш продукт достаточно заметен, чтобы о нём заговорили разные люди. Инвестируйте в продукт и отношения с рынком, а не в попытки «засеять» обучающие данные.

Реалистичный прогноз: пока модели обучаются на широких корпусах с миллионами доменов, ни одна компания не сможет контролировать свою «параметрическую долю» напрямую. Авторитет в AI будет оставаться отражением того, насколько разнообразно и независимо рынок говорит о вас, а не того, как громко вы говорите сами.