Автор встроил процессор RISC-V в веса Qwen 3.5: точность счёта выросла с 48,6% до 100%

Обычная языковая модель на длинной арифметике ошибается, потому что угадывает цифры, а не считает их. Автор оригинальной статьи (материал переведён) решил эту задачу необычно: он не обучал модель заново, а «собрал» внутри неё процессор. В итоге модель сама выполняет арифметику, код на C и MicroPython (облегчённый Python для маленьких устройств) без внешней среды исполнения.

Для русскоязычного читателя есть практический плюс. Qwen 3.5 относится к открытым моделям, её скачивают и запускают на своём компьютере, без подписки на зарубежный сервис.

Как модель получила точную память?

Веса модели, это числа, в которых хранятся её знания. В Qwen 3.5 три из четырёх слоёв внимания работают на механизме Gated DeltaNet, или GDN. Это разновидность рекуррентной сети (RNN, сети, которая несёт «записную книжку» от шага к шагу). Каждая голова такого слоя хранит матрицу состояния, а специальное правило её обновляет.

Автор нашёл настройку, при которой каждая запись меняет ровно одну строку этой матрицы, а каждый запрос возвращает точное значение. Так слои GDN стали оперативной памятью. Ещё одно преимущество: их состояние не растёт с длиной разговора, в отличие от KV-кэша (памяти, которую обычное внимание копит по мере диалога).

Сама идея памяти на таком правиле не новая: автор ссылается на работу Шлага и соавторов 2021 года. Новизну он видит в другом: память стала точной и адресуемой внутри рабочей модели. Штатная Qwen 3.5 точных значений в GDN не хранит.

Процессор собран компилятором, без обучения

Каждый вес выставил компилятор. Процессор описан как длинный список мелких шагов вроде «прочитать регистр» или «сложить два числа», и каждый шаг превращается в кусочек слоя. Выполнение одной инструкции занимает несколько токенов (кусочков текста, которые генерирует модель): адрес, значение и токен завершения.

Ключевые параметры:

• ядро RISC-V (открытой архитектуры процессоров) с набором RV32IM плюс расширение Zba и блок для больших чисел;
• 11 дополнительных слоёв перед 32 слоями самой Qwen;
• проходит официальные тесты riscv-tests, результаты совпадают с эмулятором qemu;
• 18 миллионов инструкций без единой ошибки.

Для практика главное вот что: исходные веса Qwen остались нетронутыми, а «компьютер» добавлен поверх них. По замерам автора, обычный текст модели почти не изменился: расхождение 6e-4 при уровне шума 5e-4.

Что понадобится, чтобы запустить Qwenputer?

• Файлы модели с Hugging Face или ModelScope (две площадки, где выкладывают нейросети).
• Код с GitHub, включая драйвер RvChat.
• Компьютер, способный запустить модель на 4 млрд параметров. Точных требований к железу и времени настройки автор в материале не приводит.

Пошаговая инструкция: от скачивания до первого расчёта

1. Скачайте Qwenputer с Hugging Face или ModelScope.
2. Возьмите код из репозитория на GitHub. Точные команды запуска в статье не приведены, ищите их в описании репозитория.
3. Запустите модель через драйвер RvChat. Он загружает прошивку процессора в состояние GDN и не пускает служебные токены в слои Qwen.
4. Дайте задачу на точный счёт или короткую программу на C или MicroPython.
5. Модель передаст инструкции процессору через формат вызова инструментов, а ответ процессор напишет сам. Внешних вызовов при этом нет.
6. Если хотите, проверьте встроенное файловое хранилище. В нём доступны операции put, append, get, list и delete.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Это готовый сюжет для объяснения, почему чат-бот путается в цифрах. Но расчёты в статьях всё равно перепроверяйте вручную.

Маркетологу. Практической пользы для отчётов пока нет. Зато понятно, куда смотреть: точные расчёты могут переехать внутрь модели, без отдельных сервисов.

Предпринимателю в РФ и СНГ. Модель открытая и запускается локально, данные не уходят наружу. Из доступных в РФ облачных сервисов есть YandexGPT и GigaChat, но это не локальный запуск.

Мой прогноз: процессор внутри модели в ближайшее время не заменит Python, но сам подход, «скомпилировать» навык в веса вместо обучения, точно ещё вернётся в новостях.