Человеческий мозг и ИИ устроены по-разному: почему это порождает галлюцинации нейросетей

Материал опирается на работы Пола Чисека, нейробиолога из Монреальского университета, который годами выстраивает биологическую модель развития мозга и нервной системы. Автор оригинала напоминает: ещё Джон фон Нейман, один из создателей архитектуры современных компьютеров, сомневался, что вычислительная модель способна описать сложность человеческой нервной системы. Тем не менее именно эта упрощённая метафора легла в основу всей индустрии: Демис Хассабис из Google называет мозг «биологическим приближением к машине Тьюринга», а Илон Маск формулирует ещё прямолинейнее: «мозг это просто биологический компьютер».

Две модели мозга: вычислитель против системы обратной связи

• Компьютерная модель (от Алана Тьюринга): мозг получает входные данные, обрабатывает их и выдаёт результат. Именно по этой схеме устроены все современные нейросети.
• Модель обратной связи (Пол Чисек, опирается на идеи философа Джона Дьюи начала XX века): мозг не просто принимает сигналы, а активно действует, чтобы изменить то, что он воспринимает. Движение определяет восприятие так же, как восприятие определяет движение.
• Пример с бейсболом из оригинала: по компьютерной модели, аутфилдер должен подсознательно рассчитать скорость мяча, учесть гравитацию и провести сложные вычисления. По модели обратной связи всё проще: игрок удерживает мяч в одной точке поля зрения и двигается так, чтобы эта точка не смещалась. Никаких вычислений, только непрерывная коррекция.
• Эволюционный аргумент: новые способности мозга появлялись как ответ на изменения среды. Когда вымерли динозавры, ночные существа смогли выходить днём, и это дало толчок к развитию новых навыков. Так появился гиппокамп (область мозга, отвечающая за навигацию и память о событиях). Компьютерная модель не объясняет, почему конкретные структуры мозга устроены именно так.

Почему это объясняет сбои нейросетей?

Автор оригинала называет ИИ «когнитивным фастфудом»: привлекательно в моменте, но разрушительно для систем мышления, которые формировались тысячелетиями. Нейросети имитируют конечный продукт мышления (текст, изображение, код), но не воспроизводят механизм, который его породил.

Человеческий мозг и ИИ расходятся именно в этой точке: мозг действует в мире и корректирует себя через последствия действий. Нейросеть не действует, она генерирует вероятный ответ на основе обучающих данных (массива текстов и изображений, на которых её тренировали). У неё нет обратной связи с реальностью, поэтому она не «знает», когда ошибается.

Компьютерная метафора удобна для инженеров, но, как следует из работ Чисека, она описывает лишь верхний слой работы мозга. Всё, что под ним (эволюционно древние системы контроля, навигации, эмоциональной регуляции), остаётся за бортом. Именно поэтому попытки «масштабировать интеллект» наращиванием параметров модели упираются в потолок: архитектура нейросетей копирует метафору, а не биологию.

Как попробовать разобраться самостоятельно?

1. Прочитайте оригинальный материал на сайте The Convivial Society: он написан доступным языком и содержит наглядные схемы двух моделей мозга.
2. Посмотрите публичные лекции Пола Чисека (Paul Cisek) на YouTube, где он объясняет модель обратной связи на примерах из зоологии и нейробиологии.
3. Проведите собственный эксперимент: задайте одинаковый вопрос о причинах поведения человека любой доступной нейросети и сравните ответ с тем, что подсказывает ваш личный опыт. Обратите внимание, насколько ответ модели «книжный» и лишён контекста действия.

Есть ли аналоги этой дискуссии в российском пространстве?

В России крупные языковые модели, YandexGPT и GigaChat от Сбера, построены на той же компьютерной метафоре: ввод, обработка, вывод. Разработчики не заявляли о попытках внедрить модели обратной связи по Чисеку. Для авторов на Дзене и маркетологов это значит одно: любая нейросеть, российская или западная, генерирует текст без понимания контекста и без проверки на реальность. Результат нужно редактировать и проверять, а не публиковать «как есть».

Что делать с этим прямо сейчас, по ролям

Автору на Дзене. Используйте нейросеть как черновик, но помните: она имитирует форму мышления, а не само мышление. Ваш опыт, ваша обратная связь с аудиторией, это то, чего у модели нет. Именно это делает авторский текст ценнее сгенерированного.

Маркетологу. Если вы строите воронку на основе ИИ-контента, закладывайте этап человеческой проверки фактов. Галлюцинации модели в коммерческом тексте это репутационный риск, а не мелкая ошибка.

Предпринимателю в РФ. Не ждите, что следующее поколение нейросетей «всё исправит». Пока архитектура остаётся вычислительной, сбои будут системными. Инвестируйте в людей, которые умеют работать с ИИ как с инструментом, а не заменяйте людей инструментом.

Частые вопросы

Значит ли это, что нейросети бесполезны?

Нет. Нейросети отлично справляются с задачами, которые действительно сводятся к обработке данных: перевод, суммаризация, генерация черновиков. Проблема возникает, когда от них ждут понимания контекста, здравого смысла или проверки собственных ответов. Человеческий мозг и ИИ решают разные задачи разными способами, и полезнее всего использовать их вместе, а не вместо друг друга.

Может ли новая архитектура нейросетей решить проблему?

Автор оригинала и работы Чисека указывают, что пока индустрия остаётся в рамках компьютерной метафоры «ввод, вычисление, вывод», фундаментальные ограничения сохранятся. Модели обратной связи на практике пока не реализованы ни в одном коммерческом продукте. Это не значит, что это невозможно, но горизонт неясен.

Как это влияет на авторов, которые пишут на русском языке?

Напрямую. Все доступные в России генеративные модели, включая YandexGPT и GigaChat, используют ту же архитектуру. Текст, который они выдают, выглядит гладко, но лишён обратной связи с реальностью. Автор, который проверяет факты, опирается на свой опыт и слушает комментарии читателей, создаёт контент, который нейросеть воспроизвести не способна, и именно поэтому такой контент будет цениться выше.