Большие языковые модели пробуют учить без роста весов: накопления знаний пока нет

Исследование опубликовано как продолжение более ранней серии опытов. В первой статье автор показывал отдельные эксперименты с небольшой языковой моделью, теперь раскрыл, что всё это часть работы над архитектурой LANN-4. Важная оговорка: самой архитектуры ещё не существует, показаны только шаги к ней и то, что пока не сработало. Источник материала указан в конце текста.

Какую задачу решает LANN-4?

Стандартный путь индустрии больших языковых моделей: наращивать параметры (условные «нейроны»), данные и вычисления. LANN-4 пробует обратное: выжать пользу при жёстко ограниченном размере модели.

Рабочие принципы, которые автор перечисляет:

• Система помнит прошлое между задачами и не начинает каждый раз с чистого листа.
• На каждую задачу тратится ровно столько ресурсов, сколько она «стоит».
• Знания и опыт лежат в отдельной памяти снаружи, а не «вплавлены» в веса самой модели.
• Модель учится новому, не забывая старое (это называют проблемой катастрофического забывания).
• Ответ, догадка и проверенный факт разделены: честное «я не знаю» лучше галлюцинации (когда ИИ уверенно выдумывает то, чего не было).
• Любое самоулучшение сначала проверяется в песочнице и внешним судьёй.

Что показал эксперимент?

Автор взял единый экзамен из 200 задач и прогнал модель через четыре раунда дообучения. Сравнивал три режима:

• «Копим»: каждый раунд дообучения наслаивается на предыдущий.
• «С нуля»: каждый раунд стартует с чистой модели, без накопления.
• Без обучения: модель просто пересдаёт экзамен, чтобы измерить естественный разброс от случайностей.

Результат режима «копим»: доля верных ответов выросла с примерно 53% до 59% после первого раунда, а дальше застряла на 54-57% без дальнейшего роста. Режим «с нуля» вёл себя так же, накопленные знания не давали преимущества перед стартом заново. Режим без обучения даже слегка сползал вниз.

Автор отдельно проверил: старые задачи от дообучения решаться хуже не стали, и независимый пересчёт другим кодом, который писал другой человек, совпал с первым.

Что это значит, а чего не значит?

Один раунд дообучения на проверенных решениях реально добавляет около пяти процентных пунктов точности, и этот прирост держится, не рассыпаясь.

Но автор честно перечисляет, чего результат не доказывает:

• Это не доказательство накопления знаний: за пределами первого раунда накопления нет.
• Это не вывод «модель слишком мала, чтобы учиться»: такого автор не проверял и не заявляет.
• «Помогла память» и «система научилась» это разные вещи.

Главная нерешённая развилка: прирост мог возникнуть от усвоения содержания решений, а мог возникнуть от самого факта дообучения на коде, то есть модель приспособилась к формату, а не к сути. Автор предлагает «плацебо-тест» по аналогии с медициной: сравнить дообучение на правильных парах «задача плюс проверенное решение» с дообучением на нарочно перепутанных парах и просит сообщество найти дыру в этой методике до запуска финального прогона, который займёт около суток работы видеокарты.

Как попробовать самому?

1. Прочитайте полное описание методики и наборов задач в оригинальной публикации (ссылка внизу): автор опубликовал «отпечатки» данных, чтобы результат нельзя было подогнать задним числом.
2. Если у вас есть домашняя видеокарта с достаточным объёмом памяти, попробуйте воспроизвести опыт с небольшой открытой моделью (открытые веса, open weights, то есть параметры модели доступны для скачивания) и сравните режимы «копим» и «с нуля».
3. Автор отдельно просит критику «плацебо-теста»: попробуйте найти методологическую ошибку до финального прогона и напишите об этом в комментариях к оригиналу.

Есть ли что-то подобное в России?

В российском сегменте большие языковые модели от Яндекса (YandexGPT) и Сбера (GigaChat) работают как закрытые сервисы: дообучить их на своих данных можно только через API провайдера и в ограниченном формате. Подход LANN-4, где маленькая модель живёт локально и наращивает внешнюю память, ближе к тому, как энтузиасты в РФ запускают опенсорс-модели (например, семейства Llama или Qwen) на своём железе. Если вы из тех, кто уже пробовал дообучение локальной модели через LoRA или QLoRA, результаты этого исследования полезны как ориентир: первый раунд дообучения даёт заметный прирост, а дальше простое повторение не помогает.

Частые вопросы

LANN-4 можно скачать и попробовать?

Нет. LANN-4 пока не модель, а концепция архитектуры. Автор прямо говорит: «самой этой архитектуры ещё нет, она не выбрана и не построена». Опубликованы только промежуточные опыты на пути к ней.

Правда ли, что маленькая модель может стать умнее без роста весов?

По результатам этого исследования: частично. Один раунд дообучения на проверенных решениях добавил около пяти процентных пунктов точности. Но накопления от последующих раундов не произошло. Автор пока не может разделить, научилась ли модель содержанию или просто привыкла к формату.

Зачем автор просит искать ошибки в методике?

Финальный «плацебо-тест» займёт около суток вычислений. Прежде чем тратить ресурс, автор хочет убедиться, что сама постановка эксперимента не содержит очевидной ошибки, которая обесценит результат. Это стандартная практика в научных исследованиях, и она заслуживает уважения.

Если вы работаете с локальными моделями и дообучаете их, один практический вывод можно применить уже сегодня: не гоняйте дообучение по кругу в надежде на кумулятивный эффект, лучше потратьте время на качество обучающих данных (данных, на которых модель учится) для первого раунда.