Нейросеть на основе мозга мухи проиграла контрольной модели: 166 700 нейронов не дали преимущества ИИ

Разработчик под ником nftechie выложил в открытый доступ Fly Language Model (FLM), чатбот, в основу которого заложена полная карта нейронных связей мозга самца плодовой мухи дрозофилы, и показал, что мозг как основа нейросети не помогает модели отвечать лучше.

Проект интересен не результатом, а самим экспериментом: впервые кто-то взял все 166 700 нейронов и более 25,5 миллионов связей между ними из публичного датасета MaleCNS v1.0 и подключил их к готовой языковой модели LiquidAI LFM2.5-1.2B-Instruct. Архитектуру назвали GPF (Generative Pre-trained Fly). При этом автор честно указывает, что не претендует на звание первого, кто соединил карту мозга с языковой моделью: до FLM существовал прототип ngxson/fly-hf, использовавший меньшую часть того же датасета.

Как устроена нейросеть на основе мозга мухи?

• Базовая модель заморожена. Языковая модель LFM2.5-1.2B-Instruct с 1,17 миллиарда параметров не дообучается. Она отвечает за владение языком, генерацию текста и понимание контекста.
• Мозг мухи работает как резервуар. Все 166 700 нейронов и 25 582 938 направленных связей из датасета MaleCNS включены в граф (математическую структуру, где каждый нейрон это узел, а каждая связь это ребро). Граф не обучается, он зафиксирован.
• Обучается только крохотная «прослойка». Между графом мозга и моделью стоит так называемый readout, блок чтения, всего с 278 528 параметрами. Это 0,024% от параметров основной модели. Именно он учится переводить активность «мозга мухи» в поправки к ответам модели.
• Механика на каждом токене. Вектор токена (единицы текста) сжимается из 2 048 измерений в 128 каналов. Каждый нейрон графа получает один канал. Граф пересчитывает состояния по формуле с функцией tanh и весами, взятыми из анатомических данных. Результат собирается в 128 групп и через две матрицы превращается в поправку к ответу модели. Поправка ограничена сверху, чтобы не ломать базовые ответы.

Мозг мухи участвует, но не побеждает

Автор провёл тест на 32 диалогах из набора SmolTalk (1 236 целевых токенов) и получил три ключевых результата.

Вариант с мозгом мухи улучшил показатель NLL (отрицательное логарифмическое правдоподобие, мера качества предсказания следующего слова) на 0,0222 ната на токен по сравнению с голой базовой моделью. Перплексия (показатель «растерянности» модели, чем ниже, тем лучше) снизилась с 3,98 до 3,90.

Но контрольный вариант без графа мозга, где те же 128 каналов подаются напрямую в такой же readout, обошёл «мушиный» вариант во всех трёх запусках на 0,000488 ната на токен. Статистический интервал не подтвердил, что топология мозга мухи даёт специфическое преимущество.

Два дополнительных контрольных теста важны для понимания. Когда граф отключили (обнулили веса W), поправка исчезла полностью, значит, граф действительно участвует в вычислениях. Когда перемешали идентификаторы нейронов без переобучения, качество упало до базового, значит, readout «привык» к конкретной раскладке, но это не доказывает, что именно биологическая структура лучше случайной.

Почему «мозг мухи» не запоминает контекст?

Автор математически доказал, что рекуррентная (повторяющаяся) обработка в графе сжимает разницу между начальными состояниями с коэффициентом 0,6 на каждом токене. После 10 токенов влияние начального состояния падает до 0,006, после 20 до 0,00004. Даже 166 700 нейронов не дают долгосрочной памяти. Контекст по-прежнему обеспечивает базовая языковая модель.

Это практический урок: биологическая архитектура мозга, даже полная, не заменяет механизмы памяти, которые есть у трансформеров и подобных моделей.

Как попробовать?

1. Убедитесь, что у вас Python 3.12 и macOS или Linux. Поддерживаются видеокарты с CUDA, чипы Apple (MPS) и обычный процессор. API-ключ не нужен.
2. Склонируйте репозиторий nftechie/flm с GitHub (лицензия MIT, код открыт).
3. Установите зависимости и запустите модель локально по инструкции в репозитории.
4. Учтите ограничение: исследовательские артефакты (промежуточные данные обучения) пока не опубликованы, поэтому независимо воспроизвести результаты на данный момент нельзя.

При чём тут российские модели?

Прямых аналогов FLM в России нет: ни YandexGPT, ни GigaChat не используют биологические графы мозга. Но урок из этого проекта универсален. Если вы работаете с российскими моделями и думаете, что добавление «биологического» компонента или экзотической архитектуры автоматически улучшит результат, FLM показывает: сначала проверьте простой контрольный вариант. Часто он окажется не хуже.

Что это значит для вас?

Авторам Дзена и копирайтерам. Не верьте маркетинговым формулировкам вроде «нейросеть на основе мозга». FLM честно показывает: громкая метафора не равна практическому превосходству. Если видите подобные заявления в новостях, ищите сравнение с контрольным вариантом.

Разработчикам и техническим специалистам. Проект даёт конкретный протокол: замороженная базовая модель плюс минимально обучаемая прослойка плюс контрольный вариант без экзотики. Такой подход позволяет честно измерить вклад любого необычного компонента.

Предпринимателям. Прежде чем инвестировать в «биоинспирированный ИИ», требуйте от разработчиков сравнения с базовым вариантом без биологической архитектуры. FLM показал, что такое сравнение может оказаться не в пользу «мозга».

Частые вопросы

Это действительно мозг мухи внутри чатбота?

Да, но не живой мозг, а его математическая карта. Коннектом (connectome) это полная схема нейронов и связей между ними, оцифрованная учёными. В FLM используется датасет MaleCNS v1.0 со 166 700 нейронами и более 25,5 миллионами связей мозга самца дрозофилы. Карта зафиксирована и не обучается.

Модель отвечает лучше обычного чатбота?

Нет. По данным автора, контрольный вариант без графа мозга показал чуть лучшие результаты во всех трёх запусках. Мозг мухи участвует в вычислениях (это подтверждено), но не улучшает ответы по сравнению с простой прослойкой.

Можно ли запустить FLM на обычном компьютере?

Да, модель работает локально на macOS или Linux с Python 3.12, на процессоре без видеокарты. Код открыт под лицензией MIT, API-ключ не требуется. Но базовая модель содержит 1,17 миллиарда параметров, поэтому для комфортной работы нужен компьютер с достаточным объёмом оперативной памяти.

Проект FLM ценен именно своей честностью: он показал не победу, а границу подхода, и это полезнее десятка рекламных запусков с громкими обещаниями.