GPT-6 Astra починила нейросеть через веса: почти весь прирост дал конец зацикливания

Обычно поведение нейросети исправляют дообучением: модели показывают ваши примеры, и она подстраивается под узкую задачу. Исследователи MIT CSAIL, лаборатории компьютерных наук и ИИ Массачусетского технологического института, вместе с Омаром Хаттабом предложили другой путь. Они назвали его weight-space programming, то есть программирование прямо в весах модели.

Что измеряли?

Веса можно представить как миллионы ручек на огромном пульте: от их положения зависит, что ответит нейросеть. Модели GPT-6 Astra дали не код и не промпт, а сами эти «ручки» маленькой модели Qwen3.5-0.8B. Astra должна была найти, что сломано, и подкрутить нужное, имея всего 50 пробных прогонов.

Результат проверяли на трёх наборах задач. MATH-500 содержит 500 олимпиадных задач по математике, GSM8K состоит из школьных текстовых задач, IFEval проверяет, выполняет ли модель инструкции. Отдельно считали, сколько ответов упирается в лимит 32 768 токенов (токен, это кусочек слова, которым модель считает текст).

Второй блок опытов прошёл на играх. Astra писала стратегию для игры Breakout с нулевых весов и сравнивалась с PPO, стандартным алгоритмом обучения с подкреплением, где программа учится методом проб и ошибок.

Что обнаружили?

• Диагноз оказался приземлённым: Qwen зацикливался. Направление «повторяй ещё раз» записывали полносвязные части 15-го и 19-го слоёв, и Astra вычла его из 64 выходных столбцов в каждом.
• После правки 131 072 весов результат на MATH-500 вырос с 7,9% до 48,1%, GSM8K с 13,8% до 67,1%, IFEval с 21,0% до 62,3%.
• В Breakout стратегия Astra набрала 517,4 очка. PPO после 100 млн шагов набирал 15,8, после 500 млн 25,3.
• В задаче с машинкой, которая заезжает на горку, Astra поправила 3,5% весов, и успех вырос с 0 из 256 попыток до 1024 из 1024.
• По 17 253 весам четырёх сетей Astra определила, в какую игру играет каждая.
• На Gemma 3 270M результат сдвинулся только с 6,8% до 7,7%: компонента, который можно выключить, не нашлось.

Ровно то, что сделал бы толковый исследователь-человек. : Шон Гёдеке, инженер и автор блога о больших языковых моделях

Опыт уже повторили другие. Нильс Рогге из Hugging Face показал воспроизведение с агентом ML Intern. Саймон Уиллисон запустил на ноутбуке Qwen 3.8 27B без инструментов: модель узнала по весам Pac-Man за 46 минут, Pong за 1 час 5 минут, Breakout за 52 минуты, а на Freeway сдалась. Сам Уиллисон признаёт, что опытный человек с карандашом справился бы тоже.

Что это значит для вас?

Самая полезная для практика мысль из исследования: огромная часть «тупости» маленьких моделей оказалась зацикливанием, а не нехваткой знаний. Когда нейросеть повторяет одно и то же по кругу, проблема чаще в настройке, чем в уме.

Неделя подкинула и пример галлюцинации, то есть ситуации, когда ИИ уверенно выдумывает то, чего не было. Claude Code сочинял имена авторов в коде, и команда добавила в контекст модели email пользователя. Модель стала подставлять этот адрес в запросы к сайтам. Лидия Халли из команды Claude Code извинилась, с версии 2.1.317 такие запросы блокируются по умолчанию.

Автору Дзена. Если нейросеть начала повторяться, просите короче и разбивайте задачу на части. Из доступных в РФ вариантов есть нейросеть Яндекса YandexGPT и GigaChat, а для Claude есть новый риск, о нём ниже.

Маркетологу. Андрей Карпаты собрал сайт HackerTube примерно за два часа в Claude Code. Сам он сделал только ключ Google Cloud API, сервер и домен. Порог входа в небольшие сервисы падает, а вместе с ним растёт поток клонов.

Предпринимателю из РФ и СНГ. С 29 октября русскоязычные пользователи Claude жалуются: сервис просит пройти проверку личности через внешний сервис Persona, а после загрузки российского паспорта аккаунт блокируется. России в списке поддерживаемых стран нет. Не стройте рабочие процессы на сервисе, который может отключить вас вместе с оплаченной подпиской.

По данным исследователей MIT CSAIL