Chain of thought в transformer: source code ошибок, почему «цепочка рассуждений» ломает ответ

Тема подогрета лавиной публикаций о системных проблемах индустрии ИИ: нехватка энергии для дата-центров, дефицит видеокарт, растущие бюджеты на эксплуатацию уже внедрённых решений и, главное, неудовлетворённость качеством логики и понимания смысла у существующих моделей. Статья «Escaping the chain-of-thought trap: What is next for LLM reasoning» ставит вопрос прямо: промежуточные токены (минимальные единицы текста, которыми оперирует модель) не являются следами рассуждений, и пора перестать их так воспринимать.

Что стоит за техникой CoT и почему она ломается?

Chain-of-Thought, это приём промпт-инжиниринга (prompt engineering, искусство составления запросов к модели), при котором вы просите нейросеть не выдавать ответ сразу, а «думать вслух», разбивая задачу на шаги. В простых случаях это помогает. Но исследования на сложных задачах планирования, таких как среда Blocksworld (классический тест, где нужно переставлять блоки по правилам), показывают: выигрыш от CoT хрупок.

Авторы статьи формулируют проблему так:

CoT не может научить модель общим, повторяемым процедурам. Вместо этого он создаёт очень специфичное для подсказки поведение, которое вызывает серьёзное накопление ошибок по мере того, как цепочки рассуждений становятся длиннее. : Авторы статьи «Escaping the chain-of-thought trap»

Каждый следующий сгенерированный токен зависит от правильности предыдущих. Одно логическое отклонение в начале цепочки, и весь путь обречён. В некоторых задачах за пределами обучающих данных (training data) принудительный CoT даже снижает точность модели по сравнению с прямым коротким ответом.

Вторая проблема, ресурсы. Длинные цепочки рассуждений забивают контекстное окно (объём текста, который модель «видит» одновременно) тем, что авторы статьи прямо называют «бесполезной болтовнёй CoT». Инференс (inference, процесс генерации ответа) замедляется, затраты на вычисления растут.

Что понадобится

• Доступ к любой рассуждающей модели: ChatGPT (o3, o4-mini), Claude 3.5 Sonnet, из российских аналогов подойдут YandexGPT или GigaChat
• 15 минут на эксперимент
• Задача, требующая логики: расчёт, сравнение вариантов, анализ аргументов

Пошаговая инструкция: как использовать CoT грамотно и не попасть в ловушку

1. Сформулируйте задачу без CoT. Сначала задайте вопрос коротко и прямо. Сохраните ответ как базовый.

2. Добавьте инструкцию «думай шаг за шагом». Используйте простой промпт:

Реши задачу шаг за шагом.
Перед каждым шагом проверь, не противоречит ли он предыдущему.
В конце дай финальный ответ отдельной строкой.

1. Сравните оба ответа. Если CoT-версия длиннее, но пришла к тому же выводу, значит, цепочка не добавила ценности, только сожгла токены.

2. Проверьте каждый шаг цепочки вручную. Ищите момент, где модель «соскальзывает»: делает допущение, которое не следует из предыдущего шага. Именно здесь начинается накопление ошибок, о котором предупреждают исследователи.

3. Ограничьте длину цепочки. Для большинства задач автора или маркетолога достаточно 3-5 шагов. Чем длиннее цепочка, тем выше риск ошибки. Если задача требует больше шагов, разбейте её на подзадачи с отдельными промптами.

4. Добавьте внешнюю проверку. Если результат критичен (цифры для статьи, юридический аргумент, финансовый расчёт), не полагайтесь на «рассуждения» модели. Проверяйте факты по первоисточникам. Модель не рассуждает, она генерирует правдоподобный текст.

Выгодно ли автору Дзена с 5000 подписчиков платить за продвижение?

Шаг за шагом рассчитай, при каком CPM и конверсии платное продвижение
на Дзене окупится для автора с 5000 подписчиков и монетизацией
через рекламу в статьях. Проверяй каждый шаг.

Что делать с этим прямо сейчас, по ролям

Автору Дзена. Используйте CoT-промпты для планирования структуры статьи или анализа конкурентов, но не для генерации фактов. Каждый «шаг рассуждения» модели проверяйте так, будто это черновик стажёра.

Маркетологу. Если вы строите автоматизированные цепочки с ИИ-агентами (agent, программа, которая сама выполняет последовательность действий), помните: длинная цепочка рассуждений съедает контекстное окно и замедляет ответ. Разбивайте сложные задачи на короткие шаги с промежуточной проверкой.

Предпринимателю в РФ и СНГ. Исследователи указывают, что гибридные системы, объединяющие нейросети с символьными методами (системами, работающими по формальным правилам логики), не требуют переобучения моделей и огромных затрат на GPU. Они требуют интеллектуальных вложений в создание логических ядер. Для компаний с ограниченным бюджетом на ИИ-инфраструктуру это может оказаться более реалистичным путём, чем гонка за мощностями.

Гибридные системы: куда движется поле?

Статья фиксирует направление, которое пока редко обсуждают за пределами академической среды: создание гибридных коннекционистско-символьных систем, где нейросеть отвечает за работу с языком, а логический вывод обеспечивает отдельный модуль с формальными правилами.

Это не новое поле. Существует большой массив исследований: работы Карнапа по логическому анализу языка, работы Белнапа и Стила, концепция продуктивного мышления Вертгеймера. Из современных, ДСМ-метод Виктора Константиновича Финна (метод автоматизации научных рассуждений). Накоплен опыт построения экспертных систем, которые провалились в своё время, но дали понимание типичных ошибок. Нейронные сети тоже взлетели не с первого раза.

Если вас интересует, как устроен transformer with chain of thought source code на уровне реализации, полезно понимать: в текущих открытых моделях (open-source) CoT реализован не как отдельный логический модуль, а как часть генерации текста. Модель не «думает», она продолжает последовательность токенов. Именно поэтому исследователи настаивают: для настоящих рассуждений нужна архитектура за пределами чистого transformer with chain of thought source code.

Те компании и авторы, которые первыми научатся видеть границу между генерацией текста и настоящим рассуждением, получат преимущество не за счёт мощных GPU, а за счёт собственной головы, и это ресурс, который пока не дорожает по экспоненте.