Tree-of-Thought란 무엇입니까?
📍 In One Sentence
Tree-of-Thought 프롬프팅은 모델이 여러 추론 분기를 탐색하고, 평가하고, 최선을 선택한 후 응답을 완성하도록 지시합니다.
💬 In Plain Terms
단일 방향으로 단계별로 생각하는 대신, 모델에게 3가지 접근법을 생성하고, 비교하고, 최선을 선택한 다음 실행하도록 요청합니다.
Tree-of-Thought(ToT) 프롬프팅은 언어 모델이 여러 가능한 추론 경로 — 의사결정 트리의 분기처럼 — 를 탐색하고, 각각을 평가한 다음 최종 답변을 제공하기 전에 최선의 경로를 선택하도록 지시합니다. 단일 선형 추론 경로를 따르는 chain-of-thought 프롬프팅과 달리, ToT는 대안을 명시적으로 생성하고 비교합니다. 이로 인해 여러 옵션을 탐색하는 것이 더 나은 결과를 이끌어내는 전략, 계획 및 복잡한 의사결정에 유용합니다.
이 용어는 Princeton과 Google DeepMind의 Yao et al.이 작성한 2023년 논문 "Tree of Thoughts: Deliberate Problem Solving with Large Language Models"(NeurIPS 2023)에서 유래했습니다.
간단히 말하면: chain-of-thought는 하나의 길을 걸으며 단계를 설명하는 것입니다. Tree-of-Thought는 교차로를 탐색하고, 두 경로를 비교한 다음, 더 합리적인 쪽을 선택하는 것입니다.
ReAct란 무엇입니까?
📍 In One Sentence
ReAct는 추론하고, 행동을 취하고, 결과를 관찰한 다음, 학습한 내용을 바탕으로 추론을 조정하는 패턴입니다.
💬 In Plain Terms
모델에게 필요한 것을 생각하고, 특정 행동(예: 정보 검색)을 취하고, 발견한 것을 확인한 다음, 결과를 바탕으로 다음에 할 일을 결정하도록 요청합니다.
ReAct(Reason + Act)는 모델이 추론 단계("사고")와 행동(도구 호출, 검색, 조회) 사이를 번갈아 수행하는 프롬프팅 프레임워크입니다. 각 행동 후 모델은 결과를 관찰하고 추론을 업데이트합니다. 이 패턴은 현대 AI 에이전트의 기반입니다 — AI 도구가 웹을 검색하거나, 파일을 읽거나, 코드를 실행할 때마다 ReAct 루프를 실행하는 것입니다.
이 패턴은 Yao et al.의 2023년 논문 "ReAct: Synergizing Reasoning and Acting in Language Models"(ICLR 2023)에서 유래했습니다.
수동 ReAct 형식(교육 또는 명시적 추적용):
```
Thought: 먼저 무엇을 해야 합니까?
Action: 웹 검색, 데이터베이스 조회, 코드 실행 등
Observation: 해당 행동의 결과
Thought: 이 결과를 바탕으로 다음 단계는 무엇입니까?
Action: 다음 행동
... (최종 답변까지 반복)
Final Answer: 종합된 결론
```
차이점
Chain-of-Thought(CoT)는 단일 선형 추론 경로입니다. "단계별로 생각하라"고 말하면 모델은 분기하거나 행동을 취하기 위해 멈추지 않고 처음부터 끝까지 논리를 설명합니다.
Tree-of-Thought(ToT)는 추론을 분기합니다. 모델은 여러 경로를 생성하고, 각각을 평가하고, 최종화하기 전에 최선을 선택합니다.
ReAct는 추론과 외부 행동을 교차합니다. 모델이 추론하고, 구체적인 단계(검색, 조회, 코드 실행)를 취하고, 결과를 관찰하고, 그에 따라 추론을 조정합니다.
사용 사례 요약:
- CoT를 사용할 때: 잘 정의된 문제(수학, 논리, 간단한 설명)에 대해 명확한 추론이 필요한 경우
- ToT를 사용할 때: 전략을 탐색하거나, 계획하거나, 대안 비교가 중요한 고위험 결정을 내리는 경우
- ReAct를 사용할 때: 정보를 검색하거나, 디버깅하거나, 도구 또는 외부 시스템과 상호작용해야 하는 경우
비교표: CoT vs ToT vs ReAct
| 차원 | Chain-of-Thought (CoT) | Tree-of-Thought (ToT) | ReAct |
|---|---|---|---|
| 추론 형태 | 선형(단일 경로) | 분기(여러 경로 → 최선 선택) | 도구 루프가 있는 선형 |
| 핵심 행동 | "단계별로 생각하기" | "3가지 접근법 탐색, 평가, 선택" | "추론 → 행동 → 관찰 → 반복" |
| 외부 도구? | 아니오 | 아니오(내부 추론만) | 예 — 검색, API, 코드 실행 |
| 기준 대비 토큰 비용 | ~1.5-2배 | ~2-5배 | 가변(도구 호출 수에 따라 다름) |
| 최적 용도 | 수학, 논리, 설명 | 전략, 계획, 창의적 탐색 | 연구, 디버깅, 팩트 확인 |
| 2026년 모델 지원 | 모든 모델 | 추론 모델 최적(Opus 4.8, o3) | 도구 사용을 통해 모든 프론티어 모델에 내장 |
| 수동 형식 필요? | 예(비추론 모델) | 예(명시적 분기 구조가 도움됨) | 아니오(네이티브 도구 사용), 오픈 웨이트 제외 |
Tree-of-Thought 프롬프트 작성 방법
- 1문제와 분기 수를 명시적으로 기술하십시오. 예: "문제에 대해 정확히 3가지 접근법을 생성하십시오." 분기 수를 명확히 하면 모델이 체계적으로 탐색하는 데 도움이 됩니다.
- 2모델에게 선택을 요청하기 전에 평가 기준을 명시하십시오. 예: "실행 가능성, 비용, 구현 시간을 기준으로 비교하십시오." 어떤 분기가 다른 것보다 나은지를 정의하십시오.
- 3모델에게 각 분기를 평가하도록 요청하십시오. 접근법을 점수 매기거나 순위를 매기도록 요청하십시오: "각 접근법에 대해 장점, 단점, 위험 요소를 나열하십시오."
- 4선택 지시를 추가하십시오. 예: "기준을 가장 잘 균형 잡는 접근법을 선택하십시오. 선택 이유를 2문장으로 설명하십시오."
- 5선택된 분기로 작업을 완료하십시오. 모델이 경로를 결정하면, 완전한 추론으로 실행하도록 하십시오: "이제 선택된 접근법을 구현하기 위한 단계별 지침을 제공하십시오."
ReAct 프롬프트 작성 방법
명시적 ReAct 추적(교육, 디버깅 또는 각 단계를 보고 싶을 때 유용)을 위해 이 수동 형식을 사용하십시오:
```
Thought: 이 질문에 답하기 위해 어떤 정보가 필요합니까?
Action: X 주제 검색, 데이터베이스에서 Y 조회, Z 명령 실행
Observation: 행동의 결과 — 실제 데이터 또는 출력 붙여넣기
Thought: 이 결과를 바탕으로 다음 단계는 무엇입니까?
Action: 다음 행동
Observation: 결과
... (필요에 따라 반복)
Final Answer: 모든 관찰을 바탕으로 한 종합된 결론
```
네이티브 도구 사용이 가능한 프론티어 모델(GPT-5.6, Claude Opus 4.8/Sonnet 5, Gemini 3.1 Pro)의 경우, 이를 수동으로 형식화할 필요가 없습니다. 원하는 것만 말하면 됩니다: "2026년 AI 모델 현황을 조사하고 GPT-5.6, Claude Opus 4.8, Gemini 3.1 Pro를 비교하십시오." 모델이 자동으로 도구를 호출하고, 결과를 관찰하고, 추론을 계속합니다.
2026년의 ReAct: 프롬프팅 패턴에서 내장 동작으로
원래 ReAct 논문(2023)은 Thought-Action-Observation 루프를 프롬프팅 형식으로 제안했습니다 — 모델이 추론하고 행동하도록 지시하는 방법을 구조화하는 기법입니다. 2023–2024년에는 사용자들이 이를 프롬프트에 수동으로 형식화해야 했습니다.
2026년에는 모든 프론티어 모델이 네이티브 도구 사용 / 함수 호출을 통해 ReAct 루프를 자동으로 구현합니다. GPT-5.6, Claude Opus 4.8, Gemini 3.1 Pro 또는 Claude Sonnet 5에 주제를 조사하거나, 코드를 실행하거나, 무언가를 조회하도록 요청하면 모델이 도구를 언제 호출할지 결정하고, 결과를 받고, 추론을 계속합니다 — `Thought: / Action: / Observation:` 수동 형식이 필요하지 않습니다.
수동 ReAct 형식이 여전히 중요한 경우:
- 네이티브 도구 사용이 없는 오픈 웨이트 모델(예: LLaMA 4, Mistral, 구형 Qwen 변형). 이러한 모델에는 내장 함수 호출이 없으므로 명시적 ReAct 형식이 구조화된 추론을 향상시킬 수 있습니다.
- 교육/디버깅 맥락 — 전체 추론 추적과 모델의 모든 단계를 보고 싶을 때.
- 시뮬레이션 시나리오 — 실제 API가 연결되지 않은 모의 환경을 설정할 때.
에이전트 시스템에서의 Tree-of-Thought와 ReAct
Claude Code / OpenAI Codex / Cursor는 생산화된 ReAct입니다: 에이전트가 작성해야 할 코드를 추론하고 → 코드를 작성하고 → 테스트를 실행하고 → 오류를 관찰하고 → 수정하고 반복합니다.
연구 에이전트(Perplexity, Claude/ChatGPT의 Deep Research 기능)는 ReAct를 사용합니다: 질문 수립 → 웹 검색 → 결과 읽기 → 답변 종합 → 필요 시 재검색.
Claude Managed Agents(2026년 출시)는 안전한 샌드박스, 도구 관리 및 내장 루프 처리가 포함된 완전 관리형 ReAct 하네스입니다.
에이전트 계획에서의 ToT: 일부 고급 에이전트 프레임워크는 계획 단계에서 ToT를 사용합니다 — 여러 고수준 전략을 제안하고, 실행 가능성을 평가한 다음, 각 단계에서 ReAct 루프를 통해 최선을 실행합니다.
MCP(Model Context Protocol)는 도구 연결을 표준화하여 ReAct 스타일 에이전트 루프를 플러그 앤 플레이 방식으로 만듭니다.
프롬프트 예시
❌ 일반적(구조 없음)
고객 유지율을 개선하는 세 가지 방법을 알려 주십시오. 어느 것이 가장 좋습니까?
✅ 명시적 기준이 있는 ToT
고객 유지율을 개선하기 위한 정확히 3가지 전략을 생성하십시오. 각 전략에 대해 (1) 구현 난이도(1-5 척도), (2) 유지율에 예상되는 영향(%, 6개월), (3) 구현 비용을 평가하십시오. 그런 다음 영향과 실행 가능성의 균형이 가장 좋은 전략을 선택하고 선택 이유를 설명하십시오.
❌ 명시적 행동 없음
트랜스포머 스케일링 법칙에 대한 최신 연구는 무엇입니까?
✅ ReAct 구조(검색, 관찰, 종합)
2026년 기준 트랜스포머 스케일링 법칙을 이해해야 합니다. 다음을 수행하십시오: (1) 스케일링 법칙에 관한 최근 논문이나 벤치마크를 검색하십시오, (2) 모델 크기 대 성능 트레이드오프에 대한 데이터를 찾으십시오, (3) 훈련 비용 대 추론 비용 관계에 대한 정보를 찾으십시오. 정보를 수집한 후 주요 발견을 요약하십시오.
토큰 비용
Tree-of-Thought는 선형 chain-of-thought보다 훨씬 더 많은 토큰을 사용합니다 — 모델이 하나를 선택하기 전에 여러 분기를 생성하기 때문입니다. 표준 CoT 프롬프트의 출력 토큰의 2-5배를 예상하십시오.
예시: 간단한 CoT 프롬프트는 출력 토큰 500개를 생성할 수 있습니다. 3개의 분기를 탐색하는 ToT 프롬프트는 3 × 500 = 1,500개의 토큰을 생성하고, 최종 종합에 약 200개 더 생성할 수 있습니다. 합계: 약 1,700개의 출력 토큰.
고용량 사용의 경우, 대안 탐색의 가치가 비용을 정당화하는 전략적이고 고위험 결정에만 ToT를 사용하십시오.
ReAct 비용은 도구 호출 수에 따라 가변적입니다. 각 행동/관찰 라운드가 토큰을 추가하지만, 외부 데이터가 답변을 크게 개선한다면 그 작업은 가치 있습니다.
시작 방법
- 1전략과 계획을 위해 → Tree-of-Thought를 사용하십시오. 고위험 결정(제품 로드맵, 투자, 시스템 아키텍처)을 내리는 경우입니다. 모델에게 3가지 접근법을 생성하고, 기준에 따라 평가하고, 최선을 선택하도록 명시적으로 요청하십시오.
- 2연구, 디버깅 또는 팩트 확인을 위해 → ReAct 또는 네이티브 도구 사용을 사용하십시오. 모델에게 조회하고, 결과를 관찰하고, 종합하도록 요청하십시오. 프론티어 모델(GPT-5.6, Claude Opus 4.8, Gemini 3.1 Pro)에서는 네이티브 도구 사용이 자동으로 ReAct를 처리합니다.
- 3두 기법을 조합하십시오. 계획 단계에서 ToT를 사용하십시오: "X를 위한 3가지 전략을 생성하십시오. 각각에 대해 필요한 단계를 나열하십시오." 그런 다음 선택된 전략 내에서 ReAct를 사용하십시오: "선택된 전략에 대해 다음을 조사하십시오: 질문 1, 질문 2. 결과를 관찰한 다음 실행하십시오."
- 4PromptQuorum에서 두 기법을 사용 사례에 맞게 테스트하십시오. GPT-5.6, Claude Opus 4.8, Gemini 3.1 Pro, Mistral Large가 특정 ToT 또는 ReAct 프롬프트를 어떻게 처리하는지 비교하십시오. 어느 모델의 추론 스타일이 작업에 가장 적합한지 확인할 수 있습니다.
흔한 실수
❌ 단순한 작업에 ToT 사용
Why it hurts: ToT는 2-5배의 토큰 비용을 추가합니다. "이 이메일을 요약하라"는 작업의 경우, 선형 chain-of-thought가 더 빠르고, 저렴하고, 동등하게 정확합니다.
Fix: 먼저 chain-of-thought로 테스트하십시오. 정확도가 90% 이상이라면 ToT로 업그레이드하지 마십시오.
❌ 너무 많은 분기 요청
Why it hurts: "10가지 접근법을 생성하라"는 모델의 의미 있는 평가 능력을 압도합니다. 5개 분기 이상에서는 평가 품질이 저하되고 모델이 채우기용 옵션을 생성하기 시작합니다.
Fix: 3-5개의 분기가 적정 범위입니다. 복잡한 문제에는 3개, 창의적 브레인스토밍에는 5개를 사용하십시오.
❌ 실제 도구 없이 ReAct 사용
Why it hurts: 시뮬레이션된 ReAct(모델이 행동 결과를 상상하는 경우)는 실제 ReAct(모델이 실제 API/도구를 호출하는 경우)보다 약합니다. 시뮬레이션된 행동은 여전히 데이터를 환각합니다.
Fix: 프로덕션 ReAct의 경우, 실제 도구 바인딩이 있는 에이전트 프레임워크(LangChain, CrewAI)를 사용하십시오.
❌ ToT에서 평가 기준 없음
Why it hurts: 기준 없이 "최선의 접근법을 선택하라"는 것은 모델이 임의로 또는 기본 선호도로 선택한다는 의미입니다.
Fix: 3-5개의 평가 기준을 지정하십시오: "각 분기를 실행 가능성(1-5), 비용(1-5), 구현 시간(1-5)으로 평가하십시오. 가장 높은 총점을 선택하십시오."
❌ 모든 문제에 ToT + ReAct 조합
Why it hurts: 조합은 강력하지만 비용이 많이 들고 느립니다. 대부분의 문제는 두 기법이 아닌 하나만 필요합니다.
Fix: "어떤 전략" 문제에는 ToT를 사용하십시오. "정보 찾기와 추론" 문제에는 ReAct를 사용하십시오. 두 가지가 모두 필요할 때만 조합하십시오.
❌ ToT에서 분기 선택 기준 미지정
Why it hurts: 모델은 종종 분기를 생성한 후 하나를 선택하는 이유를 명확히 설명하지 않고 멈춥니다. 암묵적 선택은 약하고 감사하기 어렵습니다.
Fix: 명시적 추론을 요구하십시오: "각 분기를 평가한 후 다음을 기술하십시오: 분기 A는 기준 Y에서 X 점을 받습니다. 이유는 이유입니다. 최종 선택: 분기 Z, 왜냐하면 총점과 근거."
❌ 관찰 루프 없이 ReAct 사용
Why it hurts: 모델이 추론하고, 행동을 취한 다음, 결과를 관찰하기 위해 멈추지 않고 즉시 계속합니다. 이는 실제 피드백의 이점을 잃습니다.
Fix: 루프를 강제하십시오: "각 행동 후 중지하고 다음을 기술하십시오: 관찰: 학습한 것. 업데이트된 추론: 이것이 접근 방식을 어떻게 바꾸는지. 다음 행동: 다르게 할 것."
❌ ToT 분기가 주제를 벗어난 탐색으로 흘러가도록 허용
Why it hurts: 명확한 제약 없이 모델은 원래 문제 해결에 도움이 되지 않는 상상력 있지만 관련 없는 분기를 생성할 수 있습니다.
Fix: 분기 경계를 설정하십시오: "특정 문제에 대한 3가지 접근법을 생성하십시오. 각 접근법은 제약을 직접 다루어야 합니다."
❌ 모든 문제에 동일한 분기 수 사용
Why it hurts: 3개의 분기가 있는 단순한 문제는 하나의 지배적인 옵션을 보여주고 토큰 예산을 낭비할 수 있습니다. 2개의 분기만 있는 복잡한 문제는 중요한 대안을 놓칠 수 있습니다.
Fix: 문제 복잡성에 맞게 분기 수를 조정하십시오: 이진 결정에는 2개, 일반적인 문제에는 3개, 개방형 창의 작업에는 4-5개, 단순 작업에는 1개(CoT만).
PromptQuorum에서 ToT와 ReAct 사용
PromptQuorum은 GPT-5.6, Claude Opus 4.8, Claude Sonnet 5, Gemini 3.1 Pro, Mistral Large, LLaMA 4와 같은 오픈 웨이트 모델에서 Tree-of-Thought와 ReAct 패턴을 나란히 테스트할 수 있게 해줍니다.
ToT 또는 ReAct 프롬프트를 한 번 작성하면 PromptQuorum이 동시에 모든 모델에 전송합니다. 각 모델이 분기 구조 또는 행동-관찰 루프를 어떻게 해석하는지 확인하십시오. 차이를 보면 특정 사용 사례에 맞게 프롬프팅을 개선하는 데 도움이 됩니다.
예시 워크플로:
1. ToT 프롬프트 작성: "데이터베이스 쿼리를 최적화하는 3가지 방법을 생성하십시오. 속도, 복잡성, 유지 관리성으로 평가하십시오."
2. PromptQuorum을 통해 GPT-5.6, Claude Opus 4.8, Gemini 3.1 Pro로 전송하십시오.
3. 결과를 비교하십시오. 어느 모델이 가장 많은 분기를 탐색했습니까? 어느 설명이 가장 명확했습니까? 어느 트레이드오프 분석이 가장 유용했습니까?
4. 다음 반복에서는 팀에 가장 잘 맞는 모델과 톤을 알게 됩니다.
관련 읽기
자주 묻는 질문
Tree-of-Thought 프롬프팅이란 무엇입니까?
Tree-of-Thought(ToT) 프롬프팅은 모델이 여러 추론 경로 — 의사결정 트리의 분기처럼 — 를 탐색하고, 각각을 평가한 다음 최종 답변을 제공하기 전에 최선의 경로를 선택하도록 지시합니다. 선형 chain-of-thought와 달리 ToT는 대안을 명시적으로 생성하고 비교합니다.
ReAct 프롬프팅이란 무엇입니까?
ReAct(Reason + Act)는 모델이 추론 단계("사고")와 행동(도구 호출, 검색, 조회) 사이를 번갈아 수행하는 프롬프팅 프레임워크입니다. 각 행동 후 모델은 결과를 관찰하고 추론을 업데이트합니다. 이 패턴은 현대 AI 에이전트의 기반입니다.
Tree-of-Thought는 chain-of-thought와 어떻게 다릅니까?
Chain-of-thought는 단일 선형 추론 경로를 따릅니다. Tree-of-Thought는 여러 경로로 분기하고, 평가하고, 최선을 선택합니다. CoT를 하나의 길을 걷는 것, ToT를 진행할 방향을 선택하기 전에 교차로를 탐색하는 것으로 생각하십시오.
2026년에도 ReAct를 수동으로 형식화해야 합니까?
네이티브 도구 사용이 가능한 프론티어 모델(GPT-5.6, Claude Opus 4.8, Gemini 3.1 Pro)의 경우 아닙니다. 이러한 모델은 함수 호출 API를 통해 Reason-Act-Observe 루프를 자동으로 구현합니다. 수동 형식은 도구 사용이 없는 오픈 웨이트 모델, 교육 목적 또는 시뮬레이션 시나리오에서 여전히 유용합니다.
Tree-of-Thought와 ReAct를 조합할 수 있습니까?
예. 전략 수준에서 ToT를 사용하여 여러 고수준 접근법을 탐색하고 비교한 다음, 선택된 분기 내에서 ReAct를 사용하여 도구 상호작용이나 데이터 조회가 필요한 단계를 실행하십시오.
어떤 모델이 Tree-of-Thought를 가장 잘 처리합니까?
확장 사고 / 추론 모드가 있는 모델이 ToT를 가장 자연스럽게 처리합니다: Claude Opus 4.8(확장 사고), GPT-5.6(추론 모드), Gemini 3.1 Pro(Deep Think). 이러한 모델은 명시적인 프롬프트 수준의 ToT 형식 없이도 내부적으로 여러 분기를 탐색할 수 있습니다.
ReAct의 실제 응용 사례는 무엇입니까?
모든 현대 AI 에이전트는 ReAct 루프입니다: Claude Code(코드 추론 → 편집 → 테스트 실행 → 관찰 → 반복), 연구 보조자(질문 추론 → 웹 검색 → 결과 읽기 → 종합), 고객 지원 봇(쿼리 추론 → 지식 베이스 조회 → 응답 작성 → 검증). 이 패턴은 단순 조회부터 몇 시간의 자율 세션까지 확장됩니다.
Tree-of-Thought는 토큰 비용에 어떤 영향을 미칩니까?
ToT는 선형 CoT보다 훨씬 더 많은 토큰을 사용합니다 — 모델이 하나를 선택하기 전에 여러 분기를 생성하기 때문입니다. 표준 CoT 프롬프트의 출력 토큰의 2-5배를 예상하십시오. Claude Opus 4.8 기준 $25/1M 출력 토큰에서 5,000개의 토큰을 생성하는 복잡한 ToT 프롬프트는 실행당 약 $0.125의 비용이 듭니다. 고용량 사용에 맞게 예산을 계획하십시오.
출처 및 추가 읽기
- Yao, S., Yu, D., Zhao, J., et al. (2023). "Tree of Thoughts: Deliberate Problem Solving with Large Language Models." NeurIPS 2023. arXiv:2305.10601
- Yao, S., Zhao, J., Yu, D., et al. (2023). "ReAct: Synergizing Reasoning and Acting in Language Models." ICLR 2023. arXiv:2210.03629
- Wei, J., Wang, X., Schuurmans, D., et al. (2022). "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models." NeurIPS 2022. arXiv:2201.11903
- Shinn, N., Cassirer, A., Goyal, A., et al. (2023). "Reflexion: Language Agents with Verbal Reinforcement Learning." arXiv:2303.11366
- Anthropic. (2026). "Tool Use — Claude API Documentation." Retrieved from https://docs.anthropic.com
- OpenAI. (2026). "Function Calling — Responses API." Retrieved from https://platform.openai.com/docs