Спорный подход к промптам: цепочка рассуждений Есть такой популярный подход к созданию промптов Chain-of-Thought (CoT). Он подразумевает, что ты просишь модель «думать» шаг за шагом. Иногда это не работает и даже вредит Проблема в том, что этот подход превозносят везде, без учёта контекста задач, которые надо решить. И на деле оказалось, что в одних случаях он помогает, а в других модель имитирует цепочку рассуждений, подыгрывая пользователю Как работает на самом деле Модель не думает шаг за шагом, а генерирует токены, которые потом становятся частью контекста для следующих токенов. Это как пошаговое решение уравнения в школе, когда ты сразу не можешь ответ предугадать и тебе нужно провести несколько операций, каждая из которых опирается на предыдущую В куче задач модель уже знает ответ на конечный вопрос цепочки и ей не нужны ~~рассуждения~~ промежуточные токены для ответа. И если исходный промпт был составлен по технике CoT, то она имитирует эти рассуждения — пишет их исходя из того, какой ответ дала. Это чистая рационализация ответа, а не рассуждения, которые к нему привели Происходит это потому, что модели «читают» весь промпт сразу. Не по порядку, как его написали, а видят весь запрос целиком одновременно. И решения приходят сразу с учетом всего, что в промпте написано. В данном случае, с учетом финального вопроса, который хотели решить. Это как если бы учитель сказал «Реши пример, а потом скажи ответ 42». Ты будешь решать пример, но ответ у тебя уже в голове и влияет на то, как ты будешь рассуждать Если этого не понимать, начинаешь усложнять промпт, добавлять еще больше этапов «подумай об этом, потом об этом, и об этом и дай ответ». А качество ответа не меняется. Так вот, это нормально — техника CoT подходит не для всех задач Зависимость от модели Часть моделей рассуждают всегда, их не надо просить об этом. Это так называемые reasoning модели, например ChatGPT o3 и o4-mini или DeepSeek R1 Другие сами решают дать ответ сразу или порассуждать, иногда переключаются вручную на режим extended thinking. Это модели, которыми как раз все и пользуются в большинстве случаев: ChatGPT 5.2, Claude Sonnet и Opus 4.5, Grok 4.1. Иногда рассуждение необходимо, но они его могут не активировать (что происходит крайне редко) и вот тогда лучше использовать промпт по технике CoT Когда и как использовать CoT Если задача на логику, математику, планирование с ограничениями, код с зависимостями — CoT в приоритете. Но не обязательно писать развернутый промпт с цепочкой, часто достаточно выбрать reasoning модель и она сама всё сделает Если задача на классификацию информации, перевод, распознавание, генерация простых текстов, знание фактов — CoT не нужен и лучше использовать стандартные модели без CoT промптов Вопрос для самопроверки Если бы ты решал задачу, тебе нужны были бы промежуточные этапы, которые ты просишь от модели и если да, то нужна была бы бумажка для промежуточных записей или ты удержал бы всю информацию в голове? Если да — CoT скорее всего поможет, если нет — он не нужен и даже может навредить, потому что модель способна запутаться в своих же рассуждениях, если они не к месту
Спорный подход к промптам: цепочка рассуждений Есть такой популярный подход к…
Из этого канала
- #1220Контент-маркетинг в B2B без участия фаундера В этом году я много ресурсов…
Контент-маркетинг в B2B без участия фаундера В этом году я много ресурсов вложил в то, чтобы у агентства был регулярный контент и чтобы он выходил без моего…
- #1221Как выбрать лучшую модель нейронки под конкретную задачу У нейронок, как и у…
Как выбрать лучшую модель нейронки под конкретную задачу У нейронок, как и у людей, разные слабые и сильные стороны. И стоимость тоже разная.
- #1222Telegram в РФ не заблокируют, пока «все каналы» не перенесут в MAX Жаль, что…
Telegram в РФ не заблокируют, пока «все каналы» не перенесут в MAX Жаль, что под всеми подразумевают политически-значимые.
- #1217Аксиома: чем больше нейроконтента, тем ценнее становится настоящий Поэтому я…
Аксиома: чем больше нейроконтента, тем ценнее становится настоящий Поэтому я абсолютно не понимаю тренд на «нейрозаводы» по производству контента в соцсети.
- #1216Рубрика «навайбкодил» За два вечера написал коннектор к API сервиса TGBooster,…
Рубрика «навайбкодил» За два вечера написал коннектор к API сервиса TGBooster, который собирает данные по всем кабинетам и кладёт в базу данных Clickhouse…