Was ist Tree-of-Thought?
📍 In One Sentence
Tree-of-Thought Prompting instruiert ein Modell, mehrere Reasoning-Branches zu erkunden, sie zu evaluieren und die beste auszuwählen, bevor eine finale Antwort gegeben wird.
💬 In Plain Terms
Anstatt in einer einzelnen Richtung Schritt-für-Schritt zu denken, fordern Sie das Modell auf, 3 verschiedene Ansätze zu generieren, diese zu vergleichen, die beste auszupicken und dann auszuführen.
Tree-of-Thought (ToT) Prompting instruiert ein Sprachmodell, mehrere mögliche Reasoning-Pfade — wie Branches eines Entscheidungsbaums — zu erkunden, jeden zu evaluieren und dann den besten Pfad auszuwählen, bevor eine endgültige Antwort gegeben wird. Im Gegensatz zu Chain-of-Thought, das einem einzelnen linearen Reasoning-Pfad folgt, generiert ToT explizit und vergleicht Alternativen. Dies macht es nützlich für Strategie, Planung und komplexe Entscheidungsfindung, wo die Exploration mehrerer Optionen zu besseren Ergebnissen führt.
Der Begriff stammt aus dem 2023-Paper von Yao et al. von Princeton und Google DeepMind: "Tree of Thoughts: Deliberate Problem Solving with Large Language Models" (NeurIPS 2023).
Einfach ausgedrückt: Chain-of-Thought ist wie eine einzelne Straße zu gehen und Ihre Schritte zu erklären. Tree-of-Thought ist wie eine Gabelung zu erkunden, beide Pfade zu vergleichen und sich dann für den sinnvolleren zu entscheiden.
🔍 Pro-Tipp
Wenn Sie Tree-of-Thought verwenden, geben Sie immer die Anzahl der Branches an ("Generieren Sie genau 3 Ansätze") und die Evaluierungskriterien ("Vergleichen Sie auf Machbarkeit, Kosten und Implementierungszeit"). Ohne explizite Kriterien neigt das Modell dazu, den ersten generierten Branch auszuwählen.
Was ist ReAct?
📍 In One Sentence
ReAct ist das Muster, Reasoning zu betreiben, eine Aktion zu ergreifen, das Ergebnis zu beobachten und dann Ihr Reasoning basierend auf dem Gelernten anzupassen.
💬 In Plain Terms
Sie fordern das Modell auf, zu überlegen, was es tun muss, eine spezifische Aktion auszuführen (wie Informationen zu suchen), zu sehen, was es gefunden hat, und dann basierend auf den Ergebnissen zu entscheiden, was als nächstes zu tun ist.
ReAct (Reason + Act) ist ein Prompting-Rahmenwerk, bei dem das Modell zwischen Reasoning-Schritten ("Gedanken") und Aktionen (Tool-Aufrufe, Suchen, Lookups) wechselt. Nach jeder Aktion beobachtet das Modell das Ergebnis und aktualisiert sein Reasoning. Dieses Muster ist die Grundlage moderner KI-Agenten — jedes Mal, wenn ein KI-Werkzeug das Web durchsucht, eine Datei liest oder Code ausführt, führt es eine ReAct-Schleife aus.
Das Muster stammt aus dem 2023-Paper von Yao et al.: "ReAct: Synergizing Reasoning and Acting in Language Models" (ICLR 2023).
Manuelles ReAct-Format (für Lernkontexte oder explizites Tracing):
```
Thought: Welche Informationen brauche ich zuerst?
Action: Web durchsuchen, Datenbank abfragen, Code ausführen, etc.
Observation: Ergebnis dieser Aktion — tatsächliche Daten oder Ausgabe einfügen
Thought: Basierend auf diesem Ergebnis, was ist mein nächster Schritt?
Action: nächste Aktion
... (wiederholen bis endgültige Antwort)
Final Answer: synthetisierte Schlussfolgerung basierend auf allen Beobachtungen
```
🔍 Wussten Sie?
Jedes Mal, wenn Claude Code eine Datei bearbeitet, einen Test ausführt und einen Fehler basierend auf der Ausgabe behebt, führt es eine ReAct-Schleife aus. Das Thought-Action-Observation-Muster aus dem 2023-Paper ist jetzt das Rückgrat von autonomen KI-Coding-Tools, die von Millionen von Entwicklern genutzt werden.
Wie unterscheiden sie sich?
Chain-of-Thought (CoT) ist ein einzelner linearer Reasoning-Pfad. Sie sagen "denk Schritt für Schritt", und das Modell erklärt seine Logik von Anfang bis Ende, ohne sich zu verzweigen oder Aktionen auszuführen.
Tree-of-Thought (ToT) verzweigt sich im Reasoning. Das Modell generiert mehrere Pfade, evaluiert jeden und wählt den besten aus, bevor es sich festlegt.
ReAct verschränkt Reasoning mit externen Aktionen. Das Modell führt ein Reasoning durch, ergreift einen konkreten Schritt (Suche, Lookup, Code-Ausführung), beobachtet das Ergebnis und passt sein Reasoning entsprechend an.
Anwendungsfall-Zusammenfassung:
- CoT wenn: Sie klares Reasoning für ein gut definiertes Problem brauchen (Mathe, Logik, einfache Erklärungen)
- ToT wenn: Sie Strategie erkunden, Planung durchführen oder eine wichtige Entscheidung treffen, bei der der Vergleich von Alternativen wichtig ist
- ReAct wenn: Sie Informationen abrufen, debuggen oder mit Tools oder externen Systemen interagieren müssen
Vergleichstabelle: CoT vs ToT vs ReAct
| Dimension | Chain-of-Thought (CoT) | Tree-of-Thought (ToT) | ReAct |
|---|---|---|---|
| Reasoning-Form | Linear (einzelner Pfad) | Verzweigung (mehrere Pfade → beste auswählen) | Linear mit Tool-Schleifen |
| Kernhandlung | "Schritt für Schritt denken" | "3 Ansätze erkunden, evaluieren, auswählen" | "Reason → Act → Observe → Repeat" |
| Externe Tools? | Nein | Nein (nur internes Reasoning) | Ja — Suche, APIs, Code-Ausführung |
| Token-Kosten vs Baseline | ~1,5-2× | ~2-5× | Variable (von Tool-Aufrufen abhängig) |
| Best für | Mathe, Logik, Erklärungen | Strategie, Planung, kreative Exploration | Forschung, Debugging, Fact-Checking |
| 2026 Modell-Support | Alle Modelle | Best mit Reasoning-Modellen (Opus 4,7, o3) | Built-in in allen Frontier-Modellen via Tool Use |
| Manuelle Formatierung nötig? | Ja (auf Non-Reasoning-Modellen) | Ja (explizite Strukturierung hilft) | Nein (native Tool Use), außer Open-Weights |
So schreiben Sie einen Tree-of-Thought-Prompt
- 1Problem und Anzahl der Branches explizit definieren. Beispiel: "Generieren Sie genau 3 Ansätze zu Problem." Die Explizitheit über die Anzahl der Branches hilft dem Modell, systematisch zu erkunden.
- 2Evaluierungskriterien vor der Auswahl spezifizieren. Beispiel: "Vergleichen Sie diese auf Machbarkeit, Kosten und Implementierungszeit." Definieren Sie, was einen Branch besser macht als einen anderen.
- 3Lassen Sie das Modell jeden Branch evaluieren. Fordern Sie es auf, Vor- und Nachteile jedes Ansatzes zu bewerten: "Für jeden Ansatz: listen Sie die Pros, Cons und Risikofaktoren auf."
- 4Fügen Sie eine Auswahlweisung hinzu. Beispiel: "Wählen Sie den Ansatz, der Ihre Kriterien am besten ausbalanciert. Erklären Sie Ihre Wahl in 2 Sätzen."
- 5Führen Sie die Aufgabe mit dem ausgewählten Branch aus. Sobald sich das Modell festlegt, lassen Sie es mit vollständigem Reasoning ausführen: "Geben Sie jetzt Schritt-für-Schritt-Anweisungen zur Implementierung von ausgewählter Ansatz."
So schreiben Sie einen ReAct-Prompt
Für explizites ReAct-Tracing (nützlich für Lernkontexte, Debugging oder wenn Sie jeden Schritt sehen möchten), nutzen Sie dieses manuelle Format:
```
Thought: Welche Informationen brauche ich, um diese Frage zu beantworten?
Action: Web durchsuchen, Y in Datenbank nachschlagen, Z-Befehl ausführen
Observation: Ergebnis der Aktion — tatsächliche Daten oder Ausgabe einfügen
Thought: Basierend auf diesem Ergebnis, was ist mein nächster Schritt?
Action: nächste Aktion
Observation: Ergebnis
... (wiederholen bis nötig)
Final Answer: synthetisierte Schlussfolgerung basierend auf allen Beobachtungen
```
Für Frontier-Modelle mit native Tool Use (GPT-4o, Claude Opus 4,7/Sonnet 4,6, Gemini 3,1 Pro), brauchen Sie dieses Format nicht manuell. Sagen Sie einfach, was Sie wollen: "Recherchieren Sie die 2026 KI-Modell-Landschaft und vergleichen Sie GPT-4o, Claude Opus 4,7 und Gemini 3,1 Pro." Das Modell wird automatisch Tools aufrufen, Ergebnisse beobachten und Reasoning fortsetzen.
ReAct 2026: Von Prompting-Muster zu eingebauter Funktion
Das ursprüngliche ReAct-Paper (2023) schlug die Thought-Action-Observation-Schleife als Prompting-Format vor — eine Technik, um zu strukturieren, wie Sie ein Modell instruieren, zu reasonen und zu handeln. In 2023–2024 mussten Nutzer dieses Format manuell in ihre Prompts schreiben.
In 2026 implementieren alle Frontier-Modelle die ReAct-Schleife automatisch via native Tool Use / Function Calling. Wenn Sie GPT-4o, Claude Opus 4,7, Gemini 3,1 Pro oder Claude Sonnet 4,6 bitten, ein Thema zu recherchieren, Code auszuführen oder etwas nachzuschlagen, entscheidet das Modell, wann ein Tool aufgerufen wird, erhält das Ergebnis und setzt sein Reasoning fort — kein manuelles `Thought: / Action: / Observation:`-Format ist notwendig. Die Schleife läuft im Hintergrund ab.
Wann manuelle ReAct-Formatierung noch wichtig ist:
- Open-Weights-Modelle ohne native Tool Use (z,B. LLaMA 4, Mistral, ältere Qwen-Varianten). Diese Modelle haben kein eingebautes Function Calling, also kann explizites ReAct-Formatting strukturiertes Reasoning verbessern.
- Lernkontexte/Debugging-Kontexte, bei denen Sie die vollständige Reasoning-Spur und jeden Modell-Schritt sehen möchten.
- Simulierte Szenarien, bei denen Sie eine Mock-Umgebung mit keinen echten APIs eingerichtet haben.
Agentic Coding als produktionalisiertes ReAct: Claude Code, OpenAI Codex und Cursor sind großmaßstäbliche ReAct-Schleifen. Der Agent überlegt, welcher Code geschrieben werden muss, bearbeitet eine Datei, führt Tests aus, beobachtet Ergebnisse und behebt Fehler — alles automatisch. Dies ist die ReAct-Schleife bei Produktionsskala.
🔍 Warnung
Tree-of-Thought-Prompts können 3-5× die Output-Token eines Standard-Prompts generieren, weil das Modell mehrere Branches schreibt, bevor es eine auswählt. Bei $25/1M Output-Token (Claude Opus 4,7) kostet ein komplexer ToT-Prompt, der 5.000 Token generiert, ~€0,12 pro Lauf. Budget entsprechend für Hochvolumen-Nutzung.
Tree-of-Thought und ReAct in agentic Systems
Claude Code / OpenAI Codex / Cursor sind produktionalisierte ReAct: Der Agent überlegt, welcher Code geschrieben werden muss → schreibt Code → führt Tests aus → beobachtet Fehler → korrigiert und iteriert. Multi-Stunden autonome Coding-Sitzungen sind erweiterte ReAct-Schleifen im großmaßstab.
Research-Agenten (Perplexity, Deep Research Features in Claude/ChatGPT) nutzen ReAct: Frage formulieren → Web durchsuchen → Ergebnisse lesen → Antwort synthetisieren → erneut durchsuchen wenn nötig.
Claude Managed Agents (2026 gestartet) sind ein vollständig verwalteter ReAct-Rahmen mit sicherer Sandbox, Tool-Management und eingebautem Loop-Handling.
ToT in agentic Planning: Einige erweiterte Agent-Frameworks nutzen ToT in der Planungsphase — schlagen mehrere high-level Strategien vor, evaluieren Durchführbarkeit, führen dann die beste aus via ReAct-Schleifen auf jedem Schritt.
MCP (Model Context Protocol) standardisiert Tool-Verbindungen, macht ReAct-Style Agent-Schleifen plug-and-play. Sie verbinden ein Tool einmal, und jedes ReAct-fähige Modell kann es nutzen.
Prompt-Beispiele
❌ Generisch (keine Struktur)
Komm mir mit drei Wegen, um unsere Kundenretention zu verbessern. Welcher ist am besten?
✅ ToT mit expliziten Kriterien
Generieren Sie genau 3 Strategien zur Verbesserung der Kundenretention. Evaluieren Sie für jede Strategie: (1) Implementierungsschwierigkeit (1-5 Skala), (2) erwarteter Impact auf Retention (%, 6 Monate), (3) Kosten zur Implementierung. Dann wählen Sie die Strategie, die Impact und Machbarkeit am besten ausbalanciert. Erklären Sie Ihre Wahl.
❌ Keine expliziten Aktionen
Was ist die neueste Forschung zu Transformer Scaling Laws?
✅ ReAct-Struktur (Suche, Beobachte, Synthetisiere)
Ich muss Transformer Scaling Laws ab 2026 verstehen. Bitte: (1) Suchen Sie nach aktuellen Papers oder Benchmarks zu Scaling Laws, (2) Suchen Sie nach Daten zu Modellgröße vs Performance Trade-offs, (3) Finden Sie Informationen zu Training Cost vs Inference Cost Verhältnissen. Danach fassen Sie die Schlüsselfunde zusammen.
Token-Kosten
Tree-of-Thought nutzt deutlich mehr Token als lineares Chain-of-Thought, da das Modell mehrere Branches generiert, bevor es eine auswählt. Rechnen Sie mit 2-5× den Output-Token eines Standard-CoT-Prompts.
Beispiel: Ein einfacher CoT-Prompt könnte 500 Output-Token generieren. Ein ToT-Prompt, der 3 Branches erkundet, könnte 3 × 500 = 1.500 Token generieren, plus vielleicht 200 weitere für die endgültige Synthese. Gesamt: ~1.700 Output-Token.
Kosten bei 2026-Preisen (Claude Opus 4,7: €0,025/1M Output-Token oder ca. $25/1M):
- Einfacher CoT: 500 Token × €0,025 / 1M = ca. €0,0125
- Komplexer ToT: 5.000 Token × €0,025 / 1M = ca. €0,125
Für Hochvolumen-Nutzung reservieren Sie ToT für strategische, wichtige Entscheidungen, bei denen die Exploration von Alternativen die Kosten wert ist. Für Routineaufgaben ist lineares CoT oder Single-Pass-Prompting effizienter.
ReAct-Kosten sind variabel basierend auf der Anzahl der Tool-Aufrufe. Jede Action/Observation-Runde fügt Token hinzu, aber die Arbeit kann sich lohnen, wenn die externen Daten die Antwort deutlich verbessern.
Erste Schritte
- 1Für Strategie und Planung → nutzen Sie Tree-of-Thought. Sie treffen eine wichtige Entscheidung (Produkt-Roadmap, Investment, System-Architektur). Fordern Sie das Modell explizit auf, 3 Ansätze zu generieren, sie auf Ihre Kriterien zu evaluieren und den besten auszuwählen. Die zusätzlichen Token sind die strukturierte Überlegung wert.
- 2Für Forschung, Debugging oder Fact-Finding → nutzen Sie ReAct oder native Tool Use. Fordern Sie das Modell auf, Dinge nachzuschlagen, Ergebnisse zu beobachten und zu synthetisieren. Bei Frontier-Modellen (GPT-4o, Claude Opus 4,7, Gemini 3,1 Pro) handhabt native Tool Use ReAct automatisch. Bei Open-Weights können Sie es manuell strukturieren wenn nötig.
- 3Kombinieren Sie beide Techniken. Nutzen Sie ToT in der Planungsphase: "Generieren Sie 3 Strategien für X. Für jede, listen Sie die nötigen Schritte auf." Dann nutzen Sie ReAct innerhalb der ausgewählten Strategie: "Für Strategie ausgewählt, recherchieren Sie folgendes: Frage 1, Frage 2. Beobachten Sie Ergebnisse, führen Sie dann aus."
- 4Testen Sie beide in PromptQuorum auf Ihrem Anwendungsfall. Vergleichen Sie, wie GPT-4o, Claude Opus 4,7, Gemini 3,1 Pro und Mistral Large Ihren spezifischen ToT oder ReAct Prompt handhaben. Sie sehen, welcher Modell-Reasoning-Stil am besten zu Ihrer Aufgabe passt.
Tree-of-Thought und ReAct in PromptQuorum
PromptQuorum lässt Sie Tree-of-Thought und ReAct Patterns nebeneinander über GPT-4o, Claude Opus 4,7, Claude Sonnet 4,6, Gemini 3,1 Pro und Open-Weights-Modelle wie Mistral Large und LLaMA 4 testen.
Schreiben Sie einen ToT oder ReAct Prompt einmal, und PromptQuorum wird ihn gleichzeitig an alle Modelle senden. Beobachten Sie, wie jedes die Branching-Struktur oder die Action-Observation-Schleife interpretiert. Einige Modelle (wie Claude Opus 4,7) stellen natürlicherweise Klärungsfragen beim Reasonen über Branches. Andere (wie GPT-4o) neigen zu mehr Direktheit. Die Unterschiede zu sehen hilft, Ihr Prompting für spezifische Anwendungsfälle zu verfeinern.
Beispiel-Workflow:
1. Schreiben Sie einen ToT-Prompt: "Generieren Sie 3 Wege, um eine Datenbankabfrage zu optimieren. Evaluieren Sie auf Geschwindigkeit, Komplexität und Wartbarkeit."
2. Senden Sie an GPT-4o, Claude Opus 4,7 und Gemini 3,1 Pro via PromptQuorum.
3. Vergleichen Sie Ergebnisse. Welches Modell erkundte die meisten Branches? Welche Erklärung war am klarsten? Welche Trade-off-Analyse war am nützlichsten?
4. Für Ihre nächste Iteration wissen Sie jetzt, welches Modell und welcher Ton am besten für Ihr Team funktioniert.
Weiterführendes Lesen
Häufig gestellte Fragen
Was ist Tree-of-Thought Prompting?
Tree-of-Thought (ToT) Prompting instruiert ein Modell, mehrere Reasoning-Pfade — wie Zweige eines Entscheidungsbaums — zu erkunden, jeden zu evaluieren und dann den besten Pfad auszuwählen, bevor eine endgültige Antwort gegeben wird. Im Gegensatz zu linearem Chain-of-Thought generiert ToT explizit und vergleicht Alternativen.
Was ist ReAct Prompting?
ReAct (Reason + Act) ist ein Prompting-Rahmenwerk, bei dem das Modell zwischen Reasoning-Schritten ("Gedanken") und Aktionen (Tool-Aufrufe, Suchen, Lookups) wechselt. Nach jeder Aktion beobachtet das Modell das Ergebnis und aktualisiert sein Reasoning. Dieses Muster ist die Grundlage moderner KI-Agenten.
Wie unterscheidet sich Tree-of-Thought von Chain-of-Thought?
Chain-of-Thought folgt einem einzelnen linearen Reasoning-Pfad. Tree-of-Thought verzweigt sich in mehrere Pfade, evaluiert diese und wählt den besten aus. Denken Sie an CoT als einen einzelnen Weg gehen vs. ToT als eine Gabelung erkunden, bevor Sie sich entscheiden, welchen Weg zu gehen.
Muss ich ReAct 2026 noch manuell formatieren?
Bei Frontier-Modellen mit native Tool Use (GPT-4o, Claude Opus 4,7, Gemini 3,1 Pro) nicht. Diese Modelle implementieren die Reason-Act-Observe-Schleife automatisch via Function Calling APIs. Manuelle `Thought: / Action: / Observation:`-Formatierung ist noch nützlich für Open-Weights-Modelle ohne Tool Use, für Lernzwecke oder für simulierte Szenarien.
Kann ich Tree-of-Thought und ReAct kombinieren?
Ja. Nutzen Sie ToT auf strategischer Ebene, um mehrere high-level Ansätze zu erkunden und zu vergleichen, dann nutzen Sie ReAct innerhalb des ausgewählten Astes, um Schritte auszuführen, die Tool-Interaktionen oder Daten-Lookups erfordern. Dies ist üblich bei komplexen Planungsaufgaben.
Welche Modelle handhaben Tree-of-Thought am besten?
Modelle mit Extended Thinking / Reasoning Modi handhaben ToT am natürlichsten: Claude Opus 4,7 (extended thinking), GPT-4o (reasoning mode) und Gemini 3,1 Pro (Deep Think). Diese Modelle können intern mehrere Branches erkunden, ohne explizites Prompt-level ToT-Formatting — obwohl explizites ToT-Prompting immer noch Struktur verbessern kann.
Was sind praktische Anwendungen von ReAct?
Jeder moderne KI-Agent ist eine ReAct-Schleife: Claude Code (denk über Code nach → bearbeite → führe Tests aus → beobachte → iteriere), Research-Assistenten (denk über Frage nach → durchsuche Web → lies Ergebnisse → synthetisiere), Customer Support Bots (denk über Anfrage nach → schlag Knowledge Base nach → entwerfe Antwort → verifiziere). Das Muster skaliert von einfachen Lookups bis zu multi-Stunden autonomen Sitzungen.
Wie beeinflusst Tree-of-Thought die Token-Kosten?
ToT nutzt deutlich mehr Token als lineares CoT, da das Modell mehrere Branches generiert, bevor es eine auswählt. Rechnen Sie mit 2-5× den Output-Token eines Standard-CoT-Prompts. Bei €0,025/1M Output-Token (Claude Opus 4,7), kostet ein komplexer ToT-Prompt mit 5.000 Token ~€0,125 pro Lauf. Budget entsprechend für Hochvolumen-Nutzung.
Muss ich bei der Verwendung von ReAct und Tree-of-Thought die DSGVO beachten?
Ja, besonders bei sensiblen Daten. Bei lokalen Modellen (selbstgehostet) erfüllen Sie DSGVO Artikel 28 zur Datenverarbeitung automatisch. ReAct mit externen Tools (APIs) kann Daten offenlegen — nutzen Sie nur DSGVO-konforme APIs oder lokale Inference. Tree-of-Thought selbst ist ein Prompting-Pattern und hat keine direkten Datenschutzimplikationen, aber beachten Sie, welche Daten Sie in den Prompts verwenden.
Sind Tree-of-Thought und ReAct für den deutschen Mittelstand geeignet?
Ja, besonders für KMUs, die Automatisierung brauchen, ohne externe APIs zu nutzen. Setzen Sie lokale Modelle (LLaMA 4 Scout, DeepSeek-R1) mit Tree-of-Thought für strategische Planung und ReAct für Datenabfragen ein. Dies erfüllt auch BSI-Grundschutz-Anforderungen und DSGVO für Compliance-kritische Workflows. PromptQuorum ermöglicht es, Prompts über mehrere Modelle zu testen, ohne Daten zu offenbaren.
Quellen & Weiterführendes Lesen
- Yao, S., Yu, D., Zhao, J., et al. (2023). "Tree of Thoughts: Deliberate Problem Solving with Large Language Models." NeurIPS 2023. arXiv:2305.10601
- Yao, S., Zhao, J., Yu, D., et al. (2023). "ReAct: Synergizing Reasoning and Acting in Language Models." ICLR 2023. arXiv:2210.03629
- Wei, J., Wang, X., Schuurmans, D., et al. (2022). "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models." NeurIPS 2022. arXiv:2201.11903
- Shinn, N., Cassirer, A., Goyal, A., et al. (2023). "Reflexion: Language Agents with Verbal Reinforcement Learning." arXiv:2303.11366
- Anthropic. (2026). "Tool Use — Claude API Documentation." Retrieved from https://docs.anthropic.com
- OpenAI. (2026). "Function Calling — Responses API." Retrieved from https://platform.openai.com/docs