LLM научились управлять мозгом другой LLM без обучения: балл по математике вырос в 6 раз

Исследователи MIT назвали подход «программированием в пространстве весов» (Weight-Space Programming). Автор разбора повторил два эксперимента у себя и пришёл к выводу, что работает это «не так, как звучит в статье». Формула «LLM теперь могут напрямую управлять мозгом другой LLM без обучения. Но не так, как вы думаете» точно передаёт его итог.

Коротко о терминах. Веса, это миллиарды чисел внутри нейросети, от которых зависит её ответ, примерно как коэффициенты в школьном уравнении. Дообучение (подгонка готовой модели под вашу задачу на новых примерах) меняет эти числа приблизительно, и по дороге часто портит что-то ещё.

Что показали в MIT?

В статье модель Astra 6 «прооперировала» небольшую модель Qwen3.5-0.8B (0,8 млрд параметров). Её результат на математическом бенчмарке (стандартном наборе тестовых задач) вырос с 8% до 48%, то есть в 6 раз. Новых примеров для обучения не понадобилось.

Исследователи выделяют три навыка Astra 6:

• по одним весам, без подсказки, определяет, что делает незнакомая модель;
• редактирует отдельные нейроны и веса, чтобы менять умения модели;
• пишет маленькую нейросеть с нуля, прямо матрицей чисел. Так появилась модель, которая играет в Breakout (выбивание кирпичиков шариком) только по описанию правил.

Что понадобится

• Маленькая модель для опытов. Автор взял MobileNetV3-Small, нейросеть для распознавания картинок.
• Размеченный набор данных и отдельный контрольный набор, который «хирург» не видит.
• Доступ к сильной языковой модели. В эксперименте работали Astra 6 и Opus 5.5 от Anthropic.
• Среда, где модель может читать и менять файлы с весами и запускать проверку. Автор запускал работу из десктопных приложений.
• Метрика качества. Автор использовал F1, оценку точности классификации от 0 до 100%.

Пошаговая инструкция

1. Соберите данные. У автора было 3000 картинок размером 16 на 16 пикселей: 1000 кошек, 1000 собак, по 500 оленей и лошадей. Задача: делить их на «кошек», «собак» и «других».
2. Замерьте исходное качество. MobileNetV3-Small справлялась плохо, F1 составлял 45%.
3. Поставьте правила. Обучать нельзя, можно только напрямую менять внутренние числа модели и делать инференс (прогон модели на данных), чтобы посчитать метрику.
4. Ограничьте бюджет. Автор выдал 10 прогонов.
5. Проверьте результат на контрольном наборе, иначе вы не поймёте, правда ли модель стала лучше.
6. Поднимите планку: запретите трогать последний слой. Так вы увидите, умеет ли «хирург» работать в глубине модели.

Пример промпта для старта:

Перед тобой веса модели классификации картинок на 3 класса. Текущий F1: 45%.
Твоя цель: поднять F1. Обучать модель запрещено. Разрешено только
напрямую менять веса и запускать прогон для подсчёта метрики.
Бюджет: 10 прогонов. Последний слой не трогай. После каждого прогона
объясняй, что изменил и почему.

Главным приёмом Opus 5.5 стала заморозка каналов и нейронов. Модель нашла элементы, которые передавали ложные сигналы, и заставила их всегда выдавать среднее значение. Это похоже скорее на отключение шумящих датчиков, чем на вписывание новых знаний.

Именно здесь и прячется ответ на «не так, как вы думаете». Модель умеет находить и чинить проблемные места, но лёгкая победа на последнем слое ещё ничего не доказывает. Подробностей второго эксперимента в доступном тексте разбора нет.

Что делать с этим прямо сейчас, по ролям

Автору Дзена: это сильная тема для объяснительного материала. Сюжет про «операцию на мозге нейросети» понятен без формул, если опираться на цифры: 45%, 74%, 82%.

Маркетологу: следите за развитием. Если приём дорастёт до крупных моделей, подстройка нейросети под бренд или задачу может обходиться без сбора обучающих данных.

Предпринимателю из РФ и СНГ: о доступности Astra 6 в России источник не сообщает. Из доступных в РФ ассистентов есть YandexGPT и GigaChat, но справляются ли они с такой задачей, никто не проверял. Для опытов достаточно открытой модели и одного вечера с данными.

Пока это лабораторный трюк, но очень показательный: нейросети начинают понимать устройство друг друга. Я бы начал следить за этим направлением прямо сейчас, пока о нём знают единицы.