LLM научилась читать и писать веса нейросетей: Weight Space Programming обходит autoresearch
Исследователи с участием Алекса Чжана показали, что большая языковая модель может напрямую читать и править веса другой нейросети, всего через восемь месяцев после волны страхов вокруг autoresearch Карпати.
Подход получил название Weight Space Programming, то есть «программирование в пространстве весов». Веса это миллионы чисел внутри нейросети, в которых хранится всё, чему она научилась. Похоже на положения тысяч ручек на огромном пульте. Обзор AINews назвал находку «монструозной» (в оригинале MONSTER discovery) и отметил, что её, судя по всему, уже повторила независимая группа.
| Показатель | Значение | Источник |
|---|---|---|
| Сколько прошло с выхода autoresearch Карпати | 8 месяцев | AINews |
| Шагов для улучшения сети в заданном направлении | 50 | AINews |
| Попыток на исправление ошибки по записям неудачных запусков | 1 | AINews |
| Проходов на запись весов целой сети с нуля | 1 | AINews |
| Охват обзора AINews за 31 октября и 2 ноября 2026 года | 12 сабреддитов, 544 аккаунта в X | AINews |
Что измеряли?
Отправная точка здесь autoresearch Карпати. Его идея: достаточно умная модель сама ставит серию экспериментов на вычислительном кластере и обучает другую модель без участия человека. Летом эта идея подогрела страхи вокруг рекурсивного самоулучшения (RSI), когда ИИ улучшает ИИ, а тот следующий, уже без людей.
Но путь там окольный. Модель пишет код на PyTorch или Jax (программные библиотеки для обучения нейросетей) и запускает расчёты. Потом она следит за кривыми потерь, то есть графиками, по которым видно, учится ли сеть, читает результаты тестов и подкручивает данные.
Новая работа убирает эту цепочку. Исследователи просто попросили умную модель прочитать и отредактировать веса более простой. AINews сравнивает это с программистом, который не открывает исходный код, а смотрит прямо на нули и единицы маленькой готовой программы и понимает, что она делает.
Подопытные сети были очень маленькими. Название статьи, используемые модели и полный список авторов обзор не приводит.
Что обнаружили?
По пересказу AINews, умная модель справилась с тремя типами задач, а внешняя группа подтвердила результат:
- Понимание. По одним только весам маленькой сети модель определяет, что та делает.
- Ремонт с одной попытки. Получив записи неудачных запусков, модель исправляет ошибку сразу. За 50 шагов она способна улучшить сеть в заданном направлении, хотя AINews сам допускает здесь возможное преувеличение.
- Создание с нуля за один проход. Модель пишет веса целой сети, и некоторые такие сети обходят модели, обученные независимо обычным способом.
- Воспроизведение. По данным AINews, независимая проверка, судя по всему, уже нашла ту же способность.
Работа вышла на мрачном фоне. AINews пишет о медвежьем рынке в ИИ и технологиях: облигациям Anthropic присвоили «мусорный» рейтинг, а новости о привлечении денег OpenAI не сходят с первых полос. Исследовательская часть при этом не замедляется.
По оценке самого AINews, по сути это разновидность механистической интерпретируемости, то есть разбора нейросети «по винтикам», чтобы понять, какие числа за что отвечают. Такой разбор можно делать и вручную. Масштабирование дальше простых игр и политик обучения с подкреплением (сетей, которые учатся действовать методом проб и ошибок) пока маловероятно. Цифру про 50 шагов источник сам помечает как спорную. Опираемся на обзорный пересказ, а не на текст статьи.
Что это значит для вас?
Это лабораторный результат, а не сервис. Попробовать его в браузере нельзя ни в России, ни за рубежом. Польза в другом: понимать, куда смещается разработка, и не попадаться на громкие заголовки.
Автору Дзена. Тема «ИИ правит ИИ» будет обрастать страшилками. Пишите честно: эксперименты шли на крошечных сетях и простых задачах. Хороший ход для статьи: объяснить читателю, что такое веса, через образ пульта с ручками. Это выигрышнее пересказа терминов.
Маркетологу. На экономике кампаний это пока не отражается. Зато стоит запомнить тренд: AINews подчёркивает эффективность метода, а значит, путь «одна модель доводит другую» будут проверять активно. Те инструменты, которыми вы пользуетесь, могут со временем дешеветь и улучшаться быстрее.
Предпринимателю в РФ и СНГ. Делать сейчас ничего не нужно. В рабочих задачах продолжайте опираться на доступные в России YandexGPT и GigaChat. Следите за новостями о независимых проверках метода: если он дойдёт до моделей покрупнее, это станет поводом пересмотреть планы.
На мой взгляд, это самая интересная новость недели при самой скромной практической отдаче. Важен сам переход, который AINews описывает как «от нуля к единице». Ещё вчера модель не умела работать с весами напрямую, сегодня умеет, пусть и на игрушечных сетях. Я бы не пугался и не восторгался. Я бы ждал две вещи: полный текст с цифрами и проверку на сетях хотя бы среднего размера.
Мой совет простой. Когда в ленте появятся заголовки «ИИ научился улучшать сам себя», задайте один вопрос: на каких сетях проверяли? Пока ответ «на очень маленьких», и это знание уже ставит вас впереди большинства читателей.
По данным AINews (раздел Latent Space)
Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».
Читайте также
Import AI 479: лучшая LLM решила лишь 36% задач с низкой задержкой, на паузе до 80%
Исследователи из Техасского университета, NVIDIA и ещё четырёх организаций выпустили тест Realtime-Bench и выяснили, что лучшая модель справляется лишь с 36%…
Около 20 общин США голосуют о запрете дата-центров: правовое регулирование ИИ уходит на места
Избиратели примерно 20 американских общин на промежуточных выборах этой недели решают, запрещать ли или приостанавливать стройку серверных площадок для…
Тест визуального мышления от Elorian: передовые модели ловятся на приманку, точность ниже 50%
Стартап Elorian в этом месяце выпустил свою первую модель визуального мышления Glimpse и вместе с Mercor представил тест DecoyCount, на котором передовые…
Комментарии