快速事实
📍 In One Sentence
思维链提示要求模型在作答前先走完中间推理步骤,能提升多步推理的准确率,代价是消耗更多 token、响应更慢。
💬 In Plain Terms
就是让模型把演算过程写出来。被要求出声思考时,它会在半路揪出自己的错误,而不是脱口给出一个笃定的猜测;这也是它对数学和逻辑有效、对查一个事实毫无帮助的原因。
- 1提出者: Wei et al.(2022),Google Research(Brain Team)— NeurIPS 2022论文
- 2关键结果: 零样本CoT("Let's think step by step")将InstructGPT(text-davinci-002)在MultiArith上的准确率从17.7%提升到78.7%(Kojima et al., 2022)
- 3触发短语: 「让我们逐步思考」(Zero-shot)或工作示例(Few-shot)
- 42026年的演进: 内置推理模式(OpenAI GPT-6 Astra、Claude adaptive thinking)在内部自动完成CoT
- 5成本影响: 提示词级CoT = 更多输出token; 推理模式 = 独立思维token预算
- 6最适合提示词级CoT的模型: 没有内置推理模式的模型(如Llama 4 Scout的instruct版本和许多小型本地模型)
什么是链式思维提示词
链式思维提示词要求模型在给出最终结论前逐步推理。 模型不是直接返回"答案",而是写出中间计算、逻辑步骤或解释。
你可以通过"逐步思考"、"展示你的推理"这样的指令,或提供显式推理的具体例子来触发这种行为。结果是一份可以阅读和核对的书面推理记录,但它并不总能反映模型实际是如何得出答案的(Turpin et al., 2023)。
为什么链式思维提示词很重要
链式思维提示词很重要,因为它在涉及多步推理的任务上提高了模型行为的透明度。 看到每个步骤,你能发现误解、缺失的假设或算术错误。
这在分析、规划和故障排查等领域特别有价值。你获得的不是单一的不透明输出,而是可以检查、纠正或重复使用为文档的推理过程。
🔍 适用于本地模型
链式思维的收益取决于模型规模:Wei et al.(2022)发现,它只对约100B参数及以上的模型有帮助,较小的模型往往写出流畅但不合逻辑的步骤。结果因模型和任务而异,请用Ollama或LM Studio在本地模型上用自己的提示词测试。
链式思维何时有效
链式思维提示词在能自然分解为清晰步骤的任务上最有效,但并非所有提示词都需要它。 当过程本身和结果一样重要时,它表现最佳。
Chain-of-Thought 推理是工具调用型代理在多步骤任务中保持可靠性的关键。要搭建一套让具备 CoT 能力的模型可以查询数据库、编辑文件的本地代理,请参阅使用 MCP 的本地 AI 代理。
适用场景包括:
- 数学和定量推理问题。
- 多步逻辑谜题或决策分析。
- 根本原因分析、事故事后分析和权衡讨论。
- 操作顺序必须明确的计划任务。
链式思维何时不必要
对于简单分类、快速文案或简短事实性答案,链式思维往往只增加冗余而不增加价值。在敏感领域,你可能希望保持推理内部,仅向最终用户展示最终答案。
案例: 有无链式思维的对比
对比直接答案提示词和明确要求推理的提示词时,差异变得清晰。 以下是一个简单的决策例子。
差的提示词
"我们应该在下个季度优先考虑哪个项目?"
好的提示词
"你是产品运营经理。我们有三个下个季度的候选项目。使用链式思维推理来决定优先考虑哪个项目。1) 列出你将使用的决策标准(例如收入影响、风险、战略一致性)。2) 按步骤根据这些标准评估每个项目。3) 做出明确的建议并用3-5个句子说明理由。最后,在单独一行提供一个以"建议:"开头的简短最终答案。"
在"好的"版本中,模型解释了它如何选择标准、每个项目如何评分,然后陈述你可以质疑或接受的建议。
如何编写有效的链式思维提示词
要编写有效的链式思维提示词,你需要定义推理的结构和最终答案的结构。 模糊的要求如"多解释一些"远不如具体指令有效。
一个实用的模式是:
- 告诉模型它的角色(例如"你是高级数据分析师")。
- 指定它应该逐步思考或使用链式思维。
- 定义你期望的推理部分(例如假设、计算、比较、结论)。
- 要求在最后有一个简短的、清楚标记的最终答案,以便你能快速使用它。
实用建议
这将详细的推理与简洁的输出分离,当你将结果集成到其他工具或报告中时很有帮助。
PromptQuorum中的链式思维提示词
PromptQuorum是一个多模型AI调度工具,你可以在不同模型上一致地应用链式思维提示词。 你写一个结构化的链式思维提示词并将其并行发送到多个提供商。
在PromptQuorum中,你可以:
- 结合链式思维指令与TRACE、APE等推理聚焦框架,使思维步骤明确标记。
- 比较不同模型如何处理相同推理任务,并肩并肩检查其逐步推理过程。
- 将链式思维提示词保存为模板,用于重复分析、事故回顾或战略决策。
持续应用
这将链式思维提示词从一次性技巧转变为你决策过程中可重复的部分。
开始使用链式思维(CoT)提示词
- 1对于逻辑、推理或调试任务,要求模型在回答前"逐步思考"。 与其问"bug是什么?",不如问"逐步追踪执行,然后识别bug"。
- 2提供一个显示逐步推理的具体例子。 不仅要描述它——向模型展示逐步推理是什么样子。例如:"首先,我检查函数签名...然后,我用输入X追踪第一个调用..."
- 3使用明确的提示词如"让我们逐步思考"或"首先...然后..." 这些会在模型中触发更深思熟虑的推理。
- 4对于复杂问题,要求模型追踪中间输出。 例如:"用输入5追踪此函数的执行。在每行后显示每个变量的值。"
- 5将CoT与可验证的输出结合:要求模型展示其工作以便你能审计它。 "在每个步骤解释你的推理。如果你犯了错误,我应该能从你展示的工作中发现它。"
数学示例: 收益计算
无CoT时,模型可能给出单一最终答案。有CoT时,模型逐步展示计算。
无CoT:
「一个客户以每单位15美元的价格购买50个单位,但获得10%折扣。客户支付多少?」
模型: 「675美元」
有CoT:
「一个客户以每单位15美元的价格购买50个单位,但获得10%折扣。逐步进行: 1)计算小计。 2)计算折扣金额。 3)从小计中减去折扣得到最终价格。」
模型: 「1)小计 = 50 × 15美元 = 750美元。 2)折扣 = 750美元的10% = 75美元。 3)最终价格 = 750美元 − 75美元 = 675美元。」
两者给出相同答案,但CoT版本展示了数学,你可以发现错误(例如,如果有人计算错了750美元的10%)。
CoT对内置推理模型 (2026)
2026年,具备推理能力的模型 – Claude Opus 5.5、OpenAI的推理模型(例如GPT-6 Astra)、Gemini 3.1 Pro thinking – 具有内置推理模式,可自动内部化链式思维。 你通常不需要在这些模型上添加「逐步思考」指令。
何时使用提示词级CoT: 没有内置推理模式的模型(例如Llama 4 Scout的instruct版本)、本地LLM、思考被关闭或设为低强度的模型,或想避免思考token额外成本时。
何时使用内置推理模式: 前沿模型上的困难任务(内置模式通常优于普通提示词,请在自己的任务上比较两者)、数学密集型任务、复杂分析。Claude和OpenAI把推理(思考)token按输出token计费,因此模型思考越久成本越高。上线前请在Anthropic控制台或OpenAI Playground中测试你的CoT提示词。
方法 | 最适用于 | 成本 | 透明度 | 模型 |
|---|---|---|---|---|
| 提示词级CoT(「逐步思考」) | 小型模型、本地LLM、成本敏感任务 | 增加输出token | 完全: 输出中可见步骤 | Llama 4 Scout instruct、小型本地模型 |
| Claude adaptive thinking(Opus 5.5、Sonnet 5.5) | 复杂分析 | 思考token按输出token计费 | 通过API获取摘要化思考 | Claude Opus 5.5、Claude Sonnet 5.5 |
| OpenAI GPT-6 Astra | 最难问题(数学、编码、竞赛) | 推理token按输出token计费 | 原始推理隐藏;可提供摘要 | OpenAI GPT-6 Astra |
| Gemini 3.1 Pro thinking | Google Cloud集成、Gemini生态 | 思考token按输出token计费 | thinking_level参数(LOW、MEDIUM、HIGH) | Gemini 3.1 Pro |
| DeepSeek-R1 | 开源权重选项、自托管推理 | 输出文本中流式传输的可见推理 | 完全: 输出中的内联CoT | DeepSeek-R1 |
💡 提示
为降低成本,在较小的模型上使用提示词级CoT。若在难题上更看重准确率,可使用GPT-6 Astra或Claude adaptive thinking并让模型内部处理推理。
链式思维变体和扩展
除了基本的「逐步思考」模式,研究人员开发了几种CoT变体,每种都针对不同的问题类型优化。
- 零样本CoT(Kojima et al., 2022): 不给示例,直接加上"Let's think step by step"。主要对较大的模型有帮助,实现最简单。论文中它把InstructGPT(text-davinci-002)在MultiArith上的准确率从17.7%提升到78.7%,在GSM8K上从10.4%提升到40.7%。
- 少样本CoT(Wei et al., 2022): 给出几个推理过程明确的示例,再让模型把同样的模式用于新问题。比零样本更可靠,但需要手写示例。使用八个示例,540B参数的模型在数学基准GSM8K上创下当时的最佳成绩,超过带验证器的微调GPT-3。
- 自动CoT(Zhang et al., 2022): 通过采样多样化的问题并用零样本提示作答,自动生成示例。在使用GPT-3的十个推理基准上,其表现与手写示例相当或更好。
- 自洽性(Wang et al., 2023): 独立生成多条CoT推理路径,再对最终答案多数投票。论文报告相比标准CoT,GSM8K提升+17.9%,SVAMP +11.0%,AQuA +12.2%,StrategyQA +6.4%,ARC-Challenge +3.9%。
- 思维树(Yao et al., 2023): 不再是单一线性链,而是探索多条推理分支并剪掉较差的分支。在24点游戏任务中,使用CoT提示的GPT-4解决了4%的任务,而思维树达到74%。适用于规划、搜索和谜题类问题。
- ReAct(Yao et al., 2023): 将推理与外部操作(调用API、查询数据库、运行代码)交替进行,并把结果带入下一步推理。最适合需要实时数据或验证的真实任务。
模型对比: 2026年模型如何处理CoT提示词
模型 | 提示词级CoT | 内置推理 | 最佳用途 | 成本(约) |
|---|---|---|---|---|
| Claude Opus 5.5 | 通常不需要 | Adaptive thinking | 深度分析 | 更高(输入+输出+思维token) |
| Claude Sonnet 5.5 | 通常不需要 | Adaptive thinking | 平衡成本/精度 | 中等 |
| Claude Haiku 5.5 | 通常不需要 | Adaptive thinking | 快速、经济推理 | 低 |
| OpenAI GPT-6 Astra | 通常不需要 | 努力级别(low、medium、high、xhigh、max) | 竞赛级问题 | 推理token按输出计费(见价目表) |
| GPT-6 Luna | 可选 | 可调推理强度 | 预算意识部署 | 主打高效(见价目表) |
| Gemini 3.1 Pro | 有效 | 思考级别(thinking_level参数) | Google Cloud集成 | 中-高 |
| Gemini Flash | 可选 | 可调思考级别 | 快速响应 | 低 |
| DeepSeek-R1 | 通常不需要 | 输出内的内联推理 | 开源权重、自托管 | MIT许可权重,需承担硬件成本 |
| Llama 4 | 推荐 | 基础instruct版本中无 | 本地部署、隐私 | 自托管(计算依赖) |
常见问题
链式思维在所有模型上都有效吗?
效果并不相同。Wei et al.(2022)发现,链式思维提示只对约100B参数及以上的模型带来提升,较小的模型往往写出流畅但不合逻辑的步骤。结果因模型和任务而异,请用自己的提示词测试小型或本地模型。对于带内置推理的前沿模型(Claude Opus 5.5、GPT-6 Astra),内置模式通常使提示词级CoT变得不必要。
链式思维会增加成本吗?
会。提示词级CoT会增加输出token,因为模型要在最终答案前写出推理过程。内置推理模式(Claude adaptive thinking、OpenAI GPT-6 Astra)同样消耗思考token,Anthropic和OpenAI按输出token计费。请在你的场景中测试两者,比较成本与准确率。
何时使用Few-shot CoT而不是Zero-shot?
首先使用Zero-shot CoT——它是更简单的方法。如果Zero-shot不可靠,或你的领域需要特定推理模式(例如财务分析具有标准化行项目结构),则转为Few-shot(通常为2-5个示例)。
我可以将链式思维与结构化输出(JSON)结合吗?
是的。你可以要求模型首先以纯文本显示推理,然后以JSON对象输出最终答案。组合指令: 「逐步思考。然后以有效JSON输出你的结果。」
链式思维与树思维有什么区别?
链式思维是线性序列: 步骤1 → 步骤2 → ... → 结论。树思维探索多个分支(替代推理路径)并在得出答案前修剪较弱的。树思维在更难的搜索类问题上可能有帮助,但成本更高(需要多个模型调用)。
OpenAI GPT-6 Astra需要链式思维提示词吗?
通常不需要。OpenAI的推理模型(如GPT-6 Astra)具有自动激活的内置推理。你一般不需要添加「逐步思考」指令。只需给GPT-6 Astra问题并设置努力级别(low/medium/high/xhigh/max)以控制要花费多少思维预算。
我可以审计内置推理模型的推理吗?
可以,但取决于模型。Claude可以通过API返回思考块,会依模型和设置而被摘要化。OpenAI不公开原始推理token,而是提供摘要。如需在输出中看到推理过程,请使用提示词级CoT,或像DeepSeek-R1这样输出推理过程的开源模型。书面推理是有用的核对手段,但并不能证明模型实际是如何得出答案的。
链式思维提示词适合实时应用吗?
提示词级CoT增加延迟(更多输出token = 更慢生成)。对于实时用途,使用最少推理的小型模型,或使用流端点在token到达时显示。内置推理模式可能增加更多延迟;基准你的具体使用情况。
链式思维与提示链(Prompt Chaining)有什么区别?
链式思维是在单个提示中让模型逐步推理。提示链则把任务拆成多个独立的提示,每个输出作为下一个提示的输入。两者可以结合:当链中某一步需要多步推理时,在该步骤内使用链式思维。
来源和进一步阅读
- Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B., Xia, F., Chi, E., Le, Q., & Zhou, D. (2022). "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models." NeurIPS 2022. arXiv:2201.11903
- Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). "Large Language Models are Zero-Shot Reasoners." NeurIPS 2022. arXiv:2205.11916
- Wang, X., Wei, J., Schuurmans, D., et al. (2023). "Self-Consistency Improves Chain of Thought Reasoning in Language Models." ICLR 2023. arXiv:2203.11171
- Zhang, Z., Zhang, A., Li, M., & Smola, A. (2022). "Automatic Chain of Thought Prompting in Large Language Models." arXiv preprint. arXiv:2210.03493
- Yao, S., Yu, D., Zhao, J., et al. (2023). "Tree of Thoughts: Deliberate Problem Solving with Large Language Models." NeurIPS 2023. arXiv:2305.10601
- Yao, S., Zhao, J., Yu, D., et al. (2023). "ReAct: Synergizing Reasoning and Acting in Language Models." ICLR 2023. arXiv:2210.03629
- Turpin, M., Michael, J., Perez, E., & Bowman, S. R. (2023). "Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting." NeurIPS 2023. arXiv:2305.04388
- Anthropic. Claude API documentation: Thinking and Extended thinking.
- OpenAI. API documentation: Reasoning models.
