クイックファクト
📍 In One Sentence
思考の連鎖プロンプティングは、回答前に中間ステップを踏ませる手法であり、多段階の推論における正確性を高める一方、トークン消費が増え応答は遅くなります。
💬 In Plain Terms
モデルに途中式を書かせるということです。声に出して考えさせると、自信満々の当てずっぽうを口にする前に、自分の誤りを途中で拾えます。数学や論理で効く一方、事実を調べるだけの用途では何の役にも立ちません。
- 1提唱: Wei et al.（2022）、Google Research（Brain Team）— NeurIPS 2022の論文
- 2重要な結果: Zero-shot CoT（"Let's think step by step"）により、InstructGPT（text-davinci-002）のMultiArith精度が17.7%から78.7%に上昇（Kojima et al., 2022）
- 3トリガーフレーズ: 「ステップバイステップで考えましょう」(Zero-shot)または実例(Few-shot)
- 42026年の進化: 組み込み推論モード（OpenAI GPT-6 Astra、Claude adaptive thinking）がCoTを内部で自動化
- 5コスト影響: プロンプトレベルCoT = より多くの出力トークン; 推論モード = 独立した思考トークン予算
- 6プロンプトレベルCoTに最適: 組み込み推論モードのないモデル（Llama 4 Scoutのinstruct版や多くの小型ローカルモデルなど）
Chain-of-Thoughtプロンプティングとは
Chain-of-Thoughtプロンプティングは、モデルに最終結論を与える前にステップバイステップで推論するよう要求する手法です。 単に「答え」を返すのではなく、モデルは中間の計算、論理的なステップ、または説明を書き出します。
「ステップバイステップで考えて」「あなたの推論を示して」といった指示や、推論が明示的に示された実例を提供することで、この動作を引き出すことができます。その結果、読んで確認できる推論の記録が得られますが、モデルが実際にどのように答えに至ったかを常に反映しているとは限りません（Turpin et al., 2023）。
Chain-of-Thoughtプロンプティングが重要な理由
Chain-of-Thoughtプロンプティングが重要なのは、複数ステップの推論を伴うタスクで、モデルの動作をより透明にするためです。 各ステップを見ることで、誤った解釈、欠落した仮定、または計算エラーを特定できます。
これは分析、計画、トラブルシューティングなどの領域で特に価値があります。単一の不透明な出力ではなく、チェック、修正、またはドキュメントとして再利用できるナラティブが得られます。
🔍 ローカルモデルで動作
Chain-of-Thoughtの効果はモデルの規模に左右されます。Wei et al.（2022）は、約100Bパラメータ以上のモデルでのみ効果があり、小さいモデルは流暢でも非論理的なステップを書くことが多いと報告しています。結果はモデルとタスクで異なるため、OllamaやLM Studioでローカルモデルを自分のプロンプトで試してください。
Chain-of-Thoughtが役立つ場面
Chain-of-Thoughtプロンプティングは、自然に明確なステップに分割されるタスクで最も役立ちますが、すべてのプロンプトに必要なわけではありません。 目的地と同じくらいパスが重要な場所で輝きます。
Chain-of-Thought 推論こそが、ツール呼び出し型エージェントを複数ステップのタスクで安定させる仕組みです。CoT 対応モデルにデータベース照会やファイル編集の能力を与えるローカルエージェント構成については、MCP を使ったローカル AI エージェントを参照してください。
適切なユースケースには次のようなものがあります:
- 数学と量的推論の問題。
- 複数ステップの論理的パズルや意思決定分析。
- 根本原因分析、インシデント事後分析、トレードオフの議論。
- 一連のアクションが明示的である必要がある計画タスク。
Chain-of-Thoughtが役に立たない場面
単純な分類、素早いコピーライティング、または短い事実上の回答に対しては、Chain-of-Thoughtはしばしば余分な冗長性を追加するだけで、余り追加の価値をもたらしません。機密性の高い領域では、推論を内部に保持し、最終的な答えだけをエンドユーザーに示したい場合もあります。
例: Chain-of-Thoughtなしとありの比較
直接的な回答プロンプトと推論を明示的に要求するプロンプトを比較すると、違いが明確になります。 以下は簡単な意思決定の例です。
悪いプロンプト
"次の四半期にどのプロジェクトを優先すべきか?"
良いプロンプト
"あなたは製品オペレーションマネージャーです。次の四半期に向けた3つの候補プロジェクトがあります。Chain-of-Thoughtの推論を使用して、どのプロジェクトを優先するかを決定してください。1) 使用する意思決定基準をリストアップしてください(例えば、収益への影響、リスク、戦略との整合性)。2) これらの基準に対して各プロジェクトを段階的に評価してください。3) 明確な推奨事項を提供し、3〜5文で正当化してください。最後に、別の行の「推奨事項:」で始まる短い最終回答を提供してください。"
「良い」バージョンでは、モデルはどのように基準を選択したか、各プロジェクトがどのようにスコアリングされたか、そして提示する推奨事項を説明します。異議を唱えたり、受け入れたりできます。
効果的なChain-of-Thoughtプロンプトの書き方
効果的なChain-of-Thoughtプロンプトを書くには、推論の構造と最終的な答えの構造を定義する必要があります。 「もっと説明して」のようなあいまいなリクエストは、具体的な指示ほど信頼できません。
実用的なパターンは次のとおりです:
- モデルにそのロール(例えば「あなたはシニアデータアナリストです」)を伝えてください。
- ステップバイステップで考える、またはChain-of-Thoughtを使用すべきことを指定してください。
- 期待される推論のセクション(例えば仮定、計算、比較、結論)を定義してください。
- すばやく使用できるように、短く、明確にマークされた最終的な答えを最後に要求してください。
注意点
これは詳細な推論から簡潔な出力を分離し、結果を他のツールやレポートに統合する場合に有用です。
PromptQuorumでのChain-of-Thoughtプロンプティング
PromptQuorumは、異なるモデル全体でChain-of-Thoughtプロンプティングを一貫して適用できるマルチモデルAIディスパッチツールです。 1つの構造化されたChain-of-Thoughtプロンプトを書き、複数のプロバイダーに並行して送信します。
PromptQuorumでは、以下が可能です:
- Chain-of-Thoughtの指示と、TRACE、APEなどの推論に焦点を当たったフレームワークを組み合わせることで、思考ステップが明示的にラベル付けされます。
- 異なるモデルが同じ推論タスクをどのように処理し、ステップバイステップのトレースを並べて検査するかを比較します。
- Chain-of-Thoughtプロンプトをテンプレートとして保存し、繰り返し分析、インシデント復習、戦略的判断で使用します。
実用的な活用
これにより、Chain-of-Thoughtプロンプティングは一度限りのトリックから、意思決定プロセスの反復可能な部分へと変わります。
Chain-of-Thought (CoT)プロンプティングの始め方
- 1論理、推論、またはデバッグタスクの場合、答える前にモデルに「ステップバイステップで考えて」と要求してください。 「バグは何か?」ではなく、「実行をステップバイステップで追跡してから、バグを特定してください」と尋ねてください。
- 2ステップバイステップの推論を示す実例を提供してください。 説明するだけでなく、ステップバイステップの推論がどのように見えるかをモデルに示してください。例: 「まず、関数シグネチャをチェックします... 次に、最初の呼び出しを入力Xでトレースします...」
- 3「ステップバイステップで考えましょう」または「まず...を特定してから...」などの明示的なプロンプトを使用してください。 これらはモデルでより慎重な推論を引き出します。
- 4複雑な問題については、モデルに中間出力をトレースするよう要求してください。 例: 「この関数を入力5で実行をトレースしてください。各行の後に各変数の値を表示してください。」
- 5CoTを検証可能な出力と組み合わせてください: 監査できるようにモデルに作業を示すよう要求してください。 「各ステップであなたの推論を説明してください。もしあなたが誤りを犯した場合、私はあなたの示した作業からそれを見つけることができるはずです。」
数学の例: 収益計算
CoTなしではモデルは単一の最終回答を与えるかもしれません。CoTではモデルは計算をステップバイステップで表示します。
CoTなし:
「顧客が1単位15ドルで50単位を購入し、10%割引を受け取ります。顧客はいくら支払いますか?」
モデル: 「675ドル」
CoTあり:
「顧客が1単位15ドルで50単位を購入し、10%割引を受け取ります。ステップバイステップで作業してください: 1)小計を計算します。 2)割引額を計算します。 3)小計から割引を引いて最終価格を取得します。」
モデル: 「1)小計 = 50 × 15ドル = 750ドル。 2)割引 = 750ドルの10% = 75ドル。 3)最終価格 = 750ドル − 75ドル = 675ドル。」
どちらも同じ答えを与えますが、CoT版は数学を見せ、エラーを発見できます(例えば、誰かが750ドルの10%を誤って計算した場合)。
CoT対組み込み推論モデル (2026)
2026年、推論機能を備えたモデル – Claude Opus 5.5、OpenAIの推論モデル（たとえばGPT-6 Astra）、Gemini 3.1 Pro thinking – は、Chain-of-Thoughtを自動的に内部化する組み込み推論モードを備えています。 これらのモデルに「ステップバイステップで考えて」という指示を追加する必要は通常ありません。
プロンプトレベルCoTを使う場合: 組み込み推論モードのないモデル（例: Llama 4 Scoutのinstruct版）、ローカルLLM、思考をオフまたは低い負荷に設定したモデル、または思考トークンの追加コストを避けたい場合。
組み込み推論モードを使う場合: フロンティアモデルでの難しいタスク（通常のプロンプトより組み込みモードのほうが精度が高くなる傾向があるため、ご自身のタスクで両方を比較してください）、数学の重いタスク、複雑な分析。ClaudeとOpenAIは推論（思考）トークンを出力トークンとして課金するため、モデルが長く考えるほどコストが増えます。本番導入の前に、Anthropic ConsoleまたはOpenAI PlaygroundでCoTプロンプトをテストしてください。
アプローチ | 最適な用途 | コスト | 透明性 | モデル |
|---|---|---|---|---|
| プロンプトレベルCoT(「ステップバイステップで考えて」) | 小さいモデル、ローカルLLM、コスト感応的なタスク | 出力トークンを増やす | 完全: 出力に表示されるステップ | Llama 4 Scout instruct、小型ローカルモデル |
| Claude adaptive thinking（Opus 5.5、Sonnet 5.5） | 複雑な分析 | 思考トークンは出力トークンとして課金 | API経由で要約された思考 | Claude Opus 5.5、Claude Sonnet 5.5 |
| OpenAI GPT-6 Astra | 最難関問題(数学、コーディング、競技) | 推論トークンは出力トークンとして課金 | 生の推論は非公開、要約は利用可能 | OpenAI GPT-6 Astra |
| Gemini 3.1 Pro thinking | Google Cloud統合、Geminiエコシステム | 思考トークンは出力トークンとして課金 | thinking_levelパラメータ(LOW、MEDIUM、HIGH) | Gemini 3.1 Pro |
| DeepSeek-R1 | オープンウェイトオプション、セルフホスト推論 | 出力テキストにストリーミングされる目に見える推論 | 完全: 出力内のインラインCoT | DeepSeek-R1 |
💡 ヒント
コスト効率のためには、小さいモデルでプロンプトレベルのCoTを使用してください。難しい問題で精度を重視する場合は、GPT-6 AstraまたはClaude adaptive thinkingを使用し、モデルに推論を内部で処理させてください。
Chain-of-Thoughtバリエーションと拡張
基本的な「ステップバイステップで考えて」パターンの先へ、研究者は複数のCoTバリアントを開発し、それぞれが異なる問題タイプに最適化されています。
- Zero-shot CoT（Kojima et al., 2022）: 例なしで "Let's think step by step" を加えます。主に大きなモデルで効果があり、実装が最も簡単です。論文では、InstructGPT（text-davinci-002）の精度がMultiArithで17.7%から78.7%、GSM8Kで10.4%から40.7%に上昇しました。
- Few-shot CoT（Wei et al., 2022）: 推論を明示した実例を数件示し、新しい問題に同じパターンを適用させます。Zero-shotより信頼性が高い一方、実例を手作業で書く必要があります。8件の実例で、540Bパラメータのモデルが数学ベンチマークGSM8Kで当時の最高精度を記録し、検証器付きのファインチューニング済みGPT-3を上回りました。
- Automatic CoT（Zhang et al., 2022）: 多様な質問をサンプリングし、Zero-shotの合図で回答させることで、実例を自動生成します。GPT-3を用いた10件の推論ベンチマークで、手書きの実例と同等かそれ以上でした。
- Self-Consistency（Wang et al., 2023）: 独立したCoT推論パスを複数生成し、最終回答を多数決で決めます。論文は標準CoT比でGSM8K +17.9%、SVAMP +11.0%、AQuA +12.2%、StrategyQA +6.4%、ARC-Challenge +3.9%の向上を報告しています。
- Tree of Thoughts（Yao et al., 2023）: 一本の連鎖の代わりに複数の推論ブランチを探索し、弱いものを剪定します。Game of 24では、CoTプロンプティングのGPT-4が4%のタスクを解いたのに対し、Tree of Thoughtsは74%でした。計画、探索、パズル型の問題に向きます。
- ReAct（Yao et al., 2023）: 推論と外部アクション（API呼び出し、データベース検索、コード実行）を交互に行い、結果を次の推論に取り込みます。ライブデータや検証が必要な実世界のタスクに最適です。
モデル比較: 2026年のCoTプロンプティング対応状況
モデル | プロンプトレベルCoT | 組み込み推論 | ベストユースケース | コスト(約) |
|---|---|---|---|---|
| Claude Opus 5.5 | 多くの場合不要 | Adaptive thinking | 高度な分析 | より高い(入力+出力+思考トークン) |
| Claude Sonnet 5.5 | 多くの場合不要 | Adaptive thinking | バランスの取れたコスト/精度 | 中程度 |
| Claude Haiku 5.5 | 多くの場合不要 | Adaptive thinking | 高速でコスト効率的な推論 | 低い |
| OpenAI GPT-6 Astra | 多くの場合不要 | エフォートレベル(low、medium、high、xhigh、max) | 競技レベルの問題 | 推論トークンは出力として課金(料金表参照) |
| GPT-6 Luna | 任意 | 推論エフォートを調整可能 | 予算意識の高いデプロイメント | 効率重視(料金表参照) |
| Gemini 3.1 Pro | 機能する | 思考レベル (thinking_levelパラメータ) | Google Cloud統合 | 中程度~高い |
| Gemini Flash | 任意 | 思考レベルを調整可能 | 高速応答 | 低い |
| DeepSeek-R1 | 多くの場合不要 | 出力内のインライン推論 | オープンウェイト、セルフホスト | MITライセンスの重み、ハードウェア費用は別 |
| Llama 4 | 推奨 | ベースのinstructリリースにはなし | ローカルデプロイメント、プライバシー | セルフホスト(コンピュート依存) |
よくある質問
Chain-of-Thoughtはすべてのモデルで機能しますか?
同じようには機能しません。Wei et al.（2022）は、Chain-of-Thoughtプロンプティングが効果を示したのは約100Bパラメータ以上のモデルだけで、小さいモデルは流暢でも非論理的なステップを書くことが多いと報告しています。結果はモデルとタスクで異なるため、小型モデルやローカルモデルは自分のプロンプトで試してください。組み込み推論を持つフロンティアモデル（Claude Opus 5.5、GPT-6 Astra）では、組み込みモードによってプロンプトレベルのCoTが不要になることが多いです。
Chain-of-Thoughtはコストを増やしますか?
はい。プロンプトレベルのCoTは、モデルが最終回答の前に推論を書き出すため、出力トークンが増えます。組み込み推論モード（Claude adaptive thinking、OpenAI GPT-6 Astra）も思考トークンを消費し、AnthropicとOpenAIはこれを出力トークンとして課金します。ユースケースで両方を試し、コストと精度を比較してください。
Zero-shotの代わりにFew-shot CoTを使用する場合は?
まずZero-shot CoTを使用します – 最もシンプルな方法です。Zero-shotが信頼できない場合、または領域が特定の推論パターンを必要とする場合は、Few-shot（通常は2–5例）に移動します(例: 標準化された行項目構造で財務分析)。
Chain-of-Thoughtを構造化出力 (JSON) と組み合わせることができますか?
はい。モデルに最初にテキストで推論を表示させ、次にJSONオブジェクトで最終回答を生成させるよう要求できます。指示を組み合わせます: 「ステップバイステップで考えてください。次に、有効なJSONとして結果を出力してください。」
Chain-of-ThoughtとTree-of-Thoughtの違いは何ですか?
Chain-of-Thoughtは線形シーケンス: ステップ1 → ステップ2 → ... → 結論。Tree-of-Thoughtは複数のブランチ(代替推論パス)を探索し、答えに到達する前に弱いものを剪定します。Tree-of-Thoughtは、探索的な難しい問題で役立つことがありますが、コストが高くなります(複数のモデル呼び出しが必要)。
OpenAI GPT-6 AstraはChain-of-Thoughtプロンプティングが必要ですか?
通常は不要です。OpenAIの推論モデル（GPT-6 Astraなど）は、自動的にアクティブになる組み込み推論を備えています。「ステップバイステップで考えて」という指示を追加する必要は通常ありません。GPT-6 Astraに問題を与え、エフォートレベル(low/medium/high/xhigh/max)を設定して、支出する思考予算を制御します。
組み込み推論モデルの推論を監査できますか?
はい。ただしモデルによります。ClaudeはAPI経由で思考ブロックを返すことができ、モデルや設定に応じて要約されます。OpenAIは生の推論トークンを公開せず、要約を提供します。出力で読める推論が必要な場合は、プロンプトレベルのCoTか、DeepSeek-R1のように推論を出力するオープンモデルを使います。書き出された推論は有用な確認手段ですが、モデルが実際にどのように答えに至ったかを証明するものではありません。
Chain-of-Thoughtプロンプティングはリアルタイムアプリケーションに適していますか?
プロンプトレベルのCoTは遅延を追加します(より多くの出力トークン = より遅い生成)。リアルタイムユースケースの場合、最小限の推論で小さいモデルを使用するか、ストリーミングエンドポイントを使用してトークンが到着すると表示します。組み込み推論モードはさらに多くの遅延を追加する可能性があります; 特定のユースケースをベンチマークします。
Chain-of-Thoughtとプロンプトチェーンの違いは何ですか？
Chain-of-Thoughtは、1つのプロンプトの中でモデルに段階的に推論させる手法です。プロンプトチェーンは、タスクを複数の別々のプロンプトに分け、各出力を次のプロンプトに渡します。両者は組み合わせられ、チェーンの1つのステップが多段階の推論を必要とするときに、そのステップ内でChain-of-Thoughtを使います。
ソースと追加参考文献
- Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B., Xia, F., Chi, E., Le, Q., & Zhou, D. (2022). "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models." NeurIPS 2022. arXiv:2201.11903
- Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). "Large Language Models are Zero-Shot Reasoners." NeurIPS 2022. arXiv:2205.11916
- Wang, X., Wei, J., Schuurmans, D., et al. (2023). "Self-Consistency Improves Chain of Thought Reasoning in Language Models." ICLR 2023. arXiv:2203.11171
- Zhang, Z., Zhang, A., Li, M., & Smola, A. (2022). "Automatic Chain of Thought Prompting in Large Language Models." arXiv preprint. arXiv:2210.03493
- Yao, S., Yu, D., Zhao, J., et al. (2023). "Tree of Thoughts: Deliberate Problem Solving with Large Language Models." NeurIPS 2023. arXiv:2305.10601
- Yao, S., Zhao, J., Yu, D., et al. (2023). "ReAct: Synergizing Reasoning and Acting in Language Models." ICLR 2023. arXiv:2210.03629
- Turpin, M., Michael, J., Perez, E., & Bowman, S. R. (2023). "Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting." NeurIPS 2023. arXiv:2305.04388
- Anthropic. Claude API documentation: Thinking and Extended thinking.
- OpenAI. API documentation: Reasoning models.