Игорь Градов
Игорь Градов
5 мин
ai

Нейросеть для рефакторинга кода: 11 моделей проверили на боевом Python, победила Fable-5

Microsoft, Google, OpenAI и десятки стартапов вкладывают миллиарды в ИИ-инструменты для программистов, но вопрос «какой модели доверить переработку реального кода» до сих пор решался вслепую: автор блога Data Sanity 10 июня 2025 года опубликовал независимое сравнение 11 нейросетей на задаче рефакторинга (переработки запутанного кода в понятную структуру) боевого ИИ-агента на Python.

Нейросеть для рефакторинга кода: 11 моделей проверили на боевом Python, победила Fable-5
Почему это важно

Впервые на одном и том же куске боевого кода, а не на синтетическом бенчмарке, сравнили пять американских и шесть китайских моделей, включая новинки DeepSeek, Qwen и Fable, причём модели сначала предлагали решения, а потом оценивали друг друга.

Исследование провёл автор курса Data Sanity. Он взял реальный граф состояний на LangGraph (фреймворк для построения ИИ-агентов на Python) и обнаружил в нём так называемую god node, единственный узел «plan», куда было упаковано около 350 строк логики. Такой узел, это антипаттерн: граф перестаёт отражать реальную архитектуру системы, код сложно отлаживать, тестировать и менять. Задача: попросить нейросети предложить, как распутать этот узел, и затем тремя независимыми способами определить, чьё предложение лучше.

Как был устроен эксперимент?

Автор пригласил 11 моделей: GPT-5.4, GPT-5.5, DeepSeek-4-pro, Gemini-3.1-pro, GLM-5.1, Kimi-2.6, MiMo-2.5-pro, Opus-4.7, Qwen-3.6-plus, Qwen-3.7-max и Fable-5.

Эксперимент состоял из трёх этапов:

  • Генерация предложений. Каждая модель получала один и тот же промпт (запрос к нейросети) с описанием проблемного узла и предлагала свой вариант разбиения. Модели не видели результатов друг друга.
  • Перекрёстная оценка. Каждая модель читала все 11 предложений и ранжировала их. Чужие оценки при этом были скрыты.
  • Три метода выбора победителя. Автор сопоставлял результаты тремя способами: по сходимости оценок, по сравнению аналитических тезисов и через вычисление «центра мнений» (медоида, наиболее типичной позиции среди всех оценщиков).

Каждый запуск шёл в новой сессии с максимальным reasoning effort (глубиной рассуждений). Все работы проводились в среде OpenCode с плагином Oh My Openagent. Это важная деталь: условия были одинаковы для всех участников, что редкость для подобных сравнений.

Что предложила лучшая нейросеть для рефакторинга кода?

Среди предложений выделилась работа Fable-5. Модель предложила разложить скрытую логику god node по пяти стадиям:

  • tick: начало итерации, счётчик шагов, остановка по условию, первичные вопросы (регион, валюта).
  • prepare: подготовительный слой, декомпозиция задачи, сбор «рецептов» для получения данных.
  • select: детерминированный (без вызова нейросети) выбор следующего шага.
  • decide: если select не нашёл ответа, вызов модели и построение решения.
  • guard: проверка и корректировка решения перед маршрутизацией.

Архитектура стала наблюдаемой: по графу видно, где работает жёсткая логика, где подключается нейросеть, а где решение проходит через слой ограничений. Автор особо отметил находку decision_origin: благодаря ей общий guard понимает, какое именно решение корректирует.

Нейросеть для рефакторинга кода: почему это меняет расклад?

До этого эксперимента выбор модели для работы с кодом строился на синтетических бенчмарках (тестах на искусственных задачах). Здесь же код был боевой, с реальной бизнес-логикой, с зависимостями между модулями, с историей наслоений.

Результат показал разрыв между «генератором» и «оценщиком»: модель, которая лучше предлагает архитектуру, не обязательно лучше оценивает чужие предложения. Это практическое знание для любого, кто строит цепочки из нескольких нейросетей: роль «генератора идей» и роль «критика» стоит отдавать разным моделям.

Ещё одна находка: китайские модели (DeepSeek, Qwen, GLM, Kimi, MiMo, Fable) конкурировали с американскими на равных. Для рынка это означает, что выбор нейросети для рефакторинга кода больше не сводится к «берём Claude или GPT».

Можно ли доверить распутывание кода той же модели, которая, дай только волю, с такой радостью его запутывает? : Автор исследования, Data Sanity

Что делать с этим прямо сейчас?

Разработчикам и техническим авторам Дзена. Если пишете про код или сами используете ИИ-агентов, эксперимент даёт готовый шаблон: берите свой запутанный модуль, прогоняйте через несколько моделей в изолированных сессиях, затем просите те же модели оценить результаты друг друга. Три метода оценки из статьи (сходимость, тезисное сравнение, медоид) можно применять и к нетехническим задачам, например к сравнению вариантов текста.

Маркетологам и контент-менеджерам. Принцип «генератор и оценщик должны быть разными моделями» работает и для текстов: одна нейросеть пишет варианты, другая ранжирует. Это дешевле, чем нанимать второго редактора, и надёжнее, чем полагаться на одну модель.

Предпринимателям в РФ и СНГ. Из 11 моделей эксперимента в России доступны DeepSeek, Qwen и GLM (напрямую или через API). Fable-5 пока менее известна, но уже доступна через API. Из российских аналогов для задач с кодом можно пробовать YandexGPT и GigaChat, хотя в этом конкретном сравнении они не участвовали.

Мнение редакции dzen.guru

Этот эксперимент ценен не столько конкретным победителем, сколько методом. Автор показал, что оценивать нейросеть для рефакторинга кода по маркетинговым таблицам бессмысленно: нужен свой код, свои условия, перекрёстная проверка. Я бы рекомендовал любому, кто тратит деньги на ИИ-подписки, повторить этот подход на своей задаче. Результат почти наверняка удивит: фаворит маркетинговых рейтингов может оказаться худшим именно на вашем материале. Оговорка: эксперимент проведён на одной задаче, обобщать на все виды рефакторинга рано.

Где подвох?

Исследование не раскрывает стоимость каждого прогона, а при 11 моделях и трёх этапах бюджет на API мог быть заметным. Кроме того, версии моделей (GPT-5.4, Opus-4.7 и др.) могут быстро устареть: через месяц расклад сил способен измениться.

Главный вывод для практики: не ищите «лучшую нейросеть для рефакторинга кода» в рейтингах. Возьмите свой самый запутанный модуль, прогоните через три-четыре доступные модели в чистых сессиях, а потом попросите их же оценить результаты друг друга. Двадцать минут работы покажут больше, чем любой бенчмарк.

Поделиться:TelegramVK
Игорь Градов
Игорь Градов

Основатель dzen.guru. Эксперт по монетизации и продвижению на Дзен. Автор курса «Старт на Дзен 2026».

Комментарии

Читайте также

Graph RAG позволил моделям с 2 млрд параметров решить задачу, которую без графа не решила ни одна
ai

Graph RAG позволил моделям с 2 млрд параметров решить задачу, которую без графа не решила ни одна

Graph RAG (граф знаний для поиска по документам, дополняющий генерацию) позволяет даже компактным моделям с 2-8 миллиардами параметров решать сложные…

8 мин
LLM-конвейер молча теряет записи: три бага, которые не видны в сводке
ai

LLM-конвейер молча теряет записи: три бага, которые не видны в сводке

Конвейеры на базе больших языковых моделей (LLM, от англ. Large Language Model) часто теряют записи так, что итоговые проверки показывают успех, а пользователь…

7 мин
ai

Профи.ру встроил LLM поверх Elasticsearch: 150 000 запросов в час без замены движка

Дмитрий, лид отдела семантики в Профи.ру, рассказал, как команда встроила языковую модель в поиск услуг поверх Elasticsearch, не выбрасывая классический…

6 мин