Latent Space: ИИ правит веса нейросетей без обучения, точность Qwen выросла с 7,9% до 48,1%

Речь о направлении, которое авторы назвали «программированием в пространстве весов» (Weight Space Programming). Рассылка AINews, раздел издания Latent Space, накануне вынесла его в главную тему. Получила волну возражений и в выпуске [AINews] Behind Latent Space: Kill My SaaS, Jev & AI in 2026 | AIEi Shanghai ответила критикам. Редакция признала, что часть заявлений подана в слишком выгодном свете, но опровержения не будет: независимых повторений уже несколько.

Как ИИ переписывает чужую нейросеть без обучения?

Любая нейросеть состоит из огромного числа чисел, их называют весами или параметрами. Это как ручки на пульте звукорежиссёра: от положения каждой зависит, что прозвучит на выходе.

Обычно ручки крутят автоматически, методом обратного распространения ошибки (backprop): модели показывают примеры и миллионы раз чуть поправляют настройки. В новых опытах модель сама читает таблицы чисел и вписывает нужные значения, без такого обучения и без вспомогательных инструментов.

Проверяли на небольших задачах. Модель собирала сеть для старой аркадной игры Breakout, писала классификатор настоящих и поддельных юридических ссылок, правила маленькую языковую модель Qwen, чтобы та лучше решала MATH-500 (набор из 500 математических задач для проверки моделей).

Модели правят чужие сети точечно, но чаще чинят, чем умнеют

Ключевые результаты по отчётам участников:

• Скачок между поколениями. Alex Krentsel повторил эксперимент MIT и увидел резкий рост способностей у новых моделей: их сети для Breakout набирали до 22 раз больше очков, чем базовая сеть, обученная с подкреплением (методом проб и ошибок).
• Открытое повторение. Hugging Face воспроизвёл работу своим открытым инструментом для ИИ-исследований ML Intern и выложил модель и демо.
• Сеть, написанная вручную. Пользователь попросил Fable написать сеть на 100 тыс. параметров, которая отличает настоящие юридические ссылки от выдуманных. По его словам, она обошла обученную версию, результат отметил технический директор Legora.
• Правка Qwen. GPT-6 Astra изменила 131 072 веса в Qwen3.5-0.8B и подняла точность на MATH-500 с 7,9% до 48,1%.
• На ноутбуке. Simon Willison сообщил, что Qwen 3.8 27B повторила чтение весов на его ноутбуке за 45 с лишним минут.

Самое показательное здесь реконструкция правки Qwen по логам, опубликованная на Zhihu. Из 579 исправленных ответов 576 раньше упирались в лимит 32 тыс. токенов (кусочков текста, которыми считает модель), потому что модель зацикливалась.

Astra нашла внутри сети «направление повтора», в основном в 15-м и 19-м слоях, и приглушила его у 64 самых связанных с ним нейронов каждого слоя. На 1 152 отложенных задачах точность выросла с 10,6% до 60,4%. Модель не стала умнее: она перестала ходить по кругу и смогла довести до конца рассуждение, на которое и так была способна.

Есть и разные трактовки механизма. Один исследователь спрашивает, не читают ли модели в основном первый и последний слои, которые напрямую связаны с понятными входами и выходами. Другой считает главным уроком то, как ловко ИИ-агенты (программы, которые сами выполняют цепочку действий) пользуются инструментами интерпретируемости, то есть разбора, что происходит внутри сети.

Сторонники говорят о работающем мета-обучении (когда модель учится улучшать другие модели) и предлагают чередовать обычное обучение с прямыми правками весов.

Что это значит для вас?

Прямо сейчас в работе автора Дзена ничего не меняется: это лабораторные опыты, не функция в чат-боте. Но история с Qwen полезна как урок.

• Автору Дзена. Если нейросеть выдаёт длинный ответ и обрывается или повторяется, проблема часто в зацикливании, а не в «глупости». Попросите короче, по пунктам, разбейте задачу на части. Пересказывая такие новости, проверяйте громкие цифры: 48% на тесте в этой истории означают «починили зацикливание», а не «модель поумнела».
• Маркетологу. Новость пригодится как прививка от заголовков. Рост на тесте в несколько раз почти всегда требует вопроса «за счёт чего».
• Предпринимателю в РФ и СНГ. GPT-6 Astra и Fable из России напрямую обычно недоступны. Опыт Willison показывает, что часть экспериментов идёт на открытой модели прямо на ноутбуке. Из доступных в РФ ассистентов для повседневных задач подойдут YandexGPT и GigaChat.

По данным AINews, раздел рассылки Latent Space