Техники chain-of-thought prompting: как и когда их применять

Что такое chain-of-thought (CoT) prompting?

Chain-of-thought prompting – это подход, когда к запросу к LLM добавляется инструкция «размышлять вслух». Вместо однострочного ответа модель генерирует последовательность логических шагов, что повышает точность в задачах, требующих рассуждений (математика, логика, планирование).

Основные техники

| Техника | Кратко | Когда использовать | |---|---|---| | Стандартный CoT | Добавляем фразу «Покажи свои рассуждения». | Простейшие задачи с небольшим числом шагов. | | Least‑to‑most prompting | Делим задачу на подзадачи от простого к сложному. | Сложные многошаговые задачи, где порядок важен. | | Self‑consistency | Генерируем несколько цепочек рассуждений и выбираем наиболее частый ответ. | Когда требуется устойчивость к случайным ошибкам модели. | | Zero‑shot CoT | Не меняем запрос, но модель обучена генерировать рассуждения по умолчанию. | При ограничениях на изменение prompt (например, в API‑ограничениях). |

Когда CoT не нужен

• Краткие фактические запросы – добавление рассуждений лишь удлиняет ответ и увеличивает стоимость.
• Скоростные сервисы – генерация цепочек требует больше токенов и времени.
• Сценарии с жёсткими лимитами токенов – длинные цепочки могут превысить лимит.

Практические рекомендации от n8n

1. Тестировать несколько вариантов – иногда простого CoT достаточно, иногда нужен self‑consistency.
2. Оценивать стоимость – каждый дополнительный токен влияет на цену, особенно в больших моделях.
3. Не забывать о пост‑обработке – иногда полезно отфильтровать «мусорные» шаги с помощью regex или небольших скриптов.

Полный текст статьи доступен по ссылке.