ИИ hype под микроскопом: математики уличили OpenAI и Anthropic в преувеличениях

Anthropic и OpenAI с конца апреля 2025 года выпустили цепочку заявлений о возможностях своих моделей, от «обнаружения уязвимостей лучше большинства экспертов» до «математических прорывов», и каждое из них при проверке независимыми специалистами оказалось куда скромнее, чем преподносилось в пресс-релизах.

Это не пересказ чужого скепсиса, а разбор конкретных эпизодов, описанных в материале издания, где журналисты собрали реакции математиков, специалистов по кибербезопасности и законодателей. Для авторов и маркетологов в России, где хайп вокруг ИИ копируется почти без фильтра, умение отличать реальный прогресс от корпоративного нарратива это рабочий навык.

Что именно преувеличивают?

• «Прорыв в математике» от OpenAI. Компания заявила, что её чат-бот Astra решил задачи, которые «оставались открытыми и без прогресса по основному результату не менее десяти лет». Математики сначала были впечатлены пресс-релизом, но затем установили, что результаты «не настолько новы, как показалось вначале». Профессор математики Института Куранта (Нью-Йоркский университет) Тристан Бакмастер опубликовал заявление, в котором указал, что OpenAI присвоила чужие результаты и некорректно указала авторство.

• «Прорыв в математике» от Anthropic. Вскоре после OpenAI компания сделала аналогичное заявление. По данным источника, при независимой проверке картина оказалась куда скромнее.

• «Модели-хакеры». После инцидента, связанного с OpenAI и Hugging Face, компании Anthropic и Meta раскрыли похожие случаи. Пресса подала их как «ИИ-агенты (программы, действующие самостоятельно) вышли из-под контроля». Специалисты по кибербезопасности объяснили ситуацию иначе: проблема в халатности OpenAI и отсутствии базовых, давно известных мер защиты, а не в «бунте» программ.

• Нарратив о «сверхразуме». Инженер Anthropic Джейкоб Коксон ушёл из компании и заявил, что Anthropic и OpenAI «мчатся к самосовершенствующемуся сверхинтеллекту и играют нашими жизнями». Авторы материала отмечают, что подобные заявления опираются не на инженерные факты, а на идеологию трансгуманизма и принятие желаемого за действительное.

Зачем компании выбирают именно математику и код?

Источник указывает на две причины. Математика и программирование воспринимаются как вершина интеллектуальных достижений, поэтому успех в них продаёт идею «машины, которая умеет всё». Кроме того, в этих областях ответ, однажды предложенный, можно проверить автоматически, без оплаты труда людей-разметчиков. Это делает подгонку (дообучение, то есть обучение модели на конкретных примерах под узкую задачу) дешевле и проще, но не означает, что модель «понимает» математику.

Сотни математиков подписали открытое заявление: «В настоящее время у технологической индустрии есть мощный коммерческий стимул преувеличивать возможности своих продуктов». Они призвали политиков при принятии решений консультироваться с экспертами, а не полагаться на пресс-релизы.

Как это влияет на регулирование?

Авторы материала подчёркивают: иллюзия скорости и срочности, которую создают компании, это приём, отвлекающий и политиков, и общество. Пример: сенатор Берни Сандерс предложил законопроект о запрете разработки «искусственного сверхинтеллекта», что авторы источника называют «благонамеренной, но ошибочной» инициативой, построенной на маркетинговом нарративе, а не на научных данных.

Когда модели называют «сверхразумными» или «бунтующими», ответственность переносится с компании на продукт. Вместо того чтобы разбираться, почему OpenAI создала вредоносное ПО, взломавшее другую компанию, пресса пишет про «вышедшие из-под контроля модели», как если бы программа действовала сама.

ИИ-индустрия даже назвала массовый протест жителей против дата-центров «отвлечением» от задач по регулированию «страшных сверхчеловеческих машин». Между тем речь идёт о вполне реальных проблемах: рост тарифов на электричество, перенаправление воды на охлаждение серверов, ухудшение качества воздуха для местных жителей.

Что с этого вам?

Авторам Дзена. Когда вы пишете о новой модели, проверяйте первоисточник заявления. Пресс-релиз компании это маркетинг, а не рецензируемое исследование. Подождите два-три дня после громкого анонса: почти каждый «прорыв» из перечисленных был пересмотрен экспертами в течение недели.

Маркетологам. Хайп вокруг ИИ работает как воронка: заголовок продаёт «революцию», а реальный продукт решает узкую задачу. Если вы строите стратегию на «ИИ скоро заменит всех», пересмотрите сроки и обещания клиентам.

Предпринимателям в РФ и СНГ. Российские модели, YandexGPT и GigaChat, тоже анонсируют возможности пресс-релизами. Подход тот же: требуйте демо на своих данных, а не верьте бенчмаркам.

Частые вопросы

Значит, прогресса в ИИ вообще нет?

Прогресс есть: модели лучше справляются с кодом, текстом, суммаризацией. Но конкретные заявления о «прорывах» и «сверхразуме» при проверке экспертами оказываются преувеличенными. Разница между «полезный инструмент» и «зарождающийся сверхинтеллект» (AGI, гипотетический ИИ, способный решать любые интеллектуальные задачи на уровне человека) огромна, и текущие модели ближе к первому.

Как отличить реальное достижение от хайпа?

Три признака маркетингового хайпа из источника: компания сама выбирает формулировки и метрики, пресса повторяет их без проверки, а эксперты из предметной области дают другую оценку через несколько дней. Если через неделю после анонса нет независимого подтверждения, перед вами, скорее всего, реклама.

Зачем компании преувеличивают?

По данным открытого письма математиков, у технологической индустрии «мощный коммерческий стимул преувеличивать возможности продуктов». Кроме того, нарратив об «опасном сверхразуме» переносит ответственность с компании на продукт и позволяет требовать от регуляторов решений в спешке, без консультаций с независимыми экспертами.

Умение видеть маркетинг за «прорывом» и выдерживать паузу перед выводами это не скептицизм ради скептицизма, а профессиональная гигиена для каждого, кто работает с контентом об ИИ.