Strukturierte Ausgabe ist eine Methode, Sprachmodelle dazu zu zwingen, Daten in einem vordefinierten Format (wie JSON) zurückzugeben, was zuverlässiges Parsing, Automatisierung und Integration in Softwaresysteme ermöglicht. Sie unterscheidet sich von Freitext durch die Erzwingung strenger Feldnamen, Datentypen und Schemas, die nachgelagerte Tools ohne manuelle Nachbearbeitung verarbeiten können.
Hier ist ein einfaches Beispiel für strukturierte Ausgabe im JSON-Format:
{
"task": "summarize",
"title": "Quick AI Guide",
"summary": "This article explains structured output and JSON mode.",
"key_points": ["JSON enforces format", "Reduces parsing errors", "Enables automation"],
"audience_level": "intermediate",
"confidence": 0.95
}Was strukturierte Ausgabe ist
Strukturierte Ausgabe bedeutet, das Modell aufzufordern, einem festen Schema zu folgen — wie Listen, Tabellen oder JSON — damit nachgelagerte Tools Ergebnisse zuverlässig parsen können. Statt eines losen Absatzes werden Felder, Typen und erlaubte Werte definiert.
Strukturierte Ausgabe kann verschiedene Formen annehmen:
- Aufzählungen mit einer festen Anzahl von Elementen.
- Markdown-Tabellen mit bestimmten Spalten.
- Schlüssel-Wert-Paare für einfache Attribute.
- Vollständige JSON-Objekte oder Arrays mit vordefinierten Schlüsseln.
Das Ziel ist immer dasselbe: eine vage Beschreibung ("einige Notizen zum Meeting") in eine vorhersehbare Form zu überführen ("Titel, Datum, Teilnehmer, Entscheidungen, Risiken").
Was der JSON-Modus ist
Der JSON-Modus ist eine strengere Variante der strukturierten Ausgabe, bei der das Modell angewiesen — oder konfiguriert — wird, ausschließlich valides JSON zurückzugeben. Im JSON-Modus sollte alles, was das Modell ausgibt, als JSON parsebar sein, ohne zusätzliche Nachbearbeitung.
Ein typisches JSON-Schema könnte so aussehen:
{
"title": "string",
"summary": "string",
"tags": ["string"],
"priority": "low | medium | high"
}Dieses Schema wird im Prompt widergespiegelt, dann das Modell aufgefordert, es auszufüllen. Manche Plattformen bieten auch spezielle Einstellungen oder APIs, die JSON-only-Antworten erzwingen und so die Chance auf zusätzliche Kommentare reduzieren.
Warum strukturierte Ausgabe und JSON-Modus wichtig sind
Strukturierte Ausgabe und JSON-Modus sind wichtig, weil sie es ermöglichen, Sprachmodelle in größere Systeme einzubetten — nicht nur als Chat-Helfer. Wenn die Ausgabe vorhersehbar ist, kann man:
- Ergebnisse direkt in Datenbanken, CRMs oder Analytics-Tools einspeisen.
- Automationen basierend auf Feldern wie `priority`, `status` oder `confidence` auslösen.
- UIs erstellen, die Modellergebnisse in Karten, Tabellen oder Dashboards ohne manuelle Formatierung anzeigen.
Sie erleichtern auch das Debugging von Prompts. Wenn die Struktur fehlerhaft ist, weiß man, dass das Problem im Prompt oder Schema liegt, nicht in einer vagen "Qualitätsdimension".
JSON-Modus vs. Function Calling vs. Schema-Prompting
Es gibt drei Methoden, strukturierte Ausgabe von LLMs zu erhalten. Jede hat unterschiedliche Stärken und Schwächen:
- JSON-Modus: Modell gibt nur valides JSON aus. Optimal für: Datenextraktion, Klassifizierung, Zusammenfassung. Einschränkung: auf Ausgabeformat begrenzt, keine Werkzeugausführung.
- Function Calling: Modell wählt, welche Funktion aufgerufen und Argumente als JSON übergeben werden. Optimal für: API-Integration, Werkzeugnutzung, agentische Workflows. Einschränkung: erfordert vordefinierte Funktionsschemata.
- Schema-Prompting: Explizite Anweisungen + Beispiele, die das Modell auffordern, einem Schema zu folgen. Optimal für: Flexibilität, Open-Source-Modelle, benutzerdefinierte Formate. Einschränkung: ~80–85% Zuverlässigkeit, keine API-Garantie.
Beispiel: Freitext vs. Strukturiertes JSON
Der Unterschied wird deutlich, wenn man einen Freitext-Prompt mit einem strukturierten JSON-Prompt für dieselbe Aufgabe vergleicht. Hier klassifizieren und fassen wir eine Kunden-E-Mail zusammen.
Schlechter Prompt
"Lies diese Kunden-E-Mail und fasse zusammen, was sie wollen."
Guter Prompt – JSON-Modus
"Du bist ein Kundensupport-Assistent. Lies die folgende Kunden-E-Mail und extrahiere wichtige Informationen in ein JSON-Objekt. Anforderungen: Gib nur valides JSON mit doppelt angeführten Schlüsseln und String-Werten zurück. Füge keine Erklärungen außerhalb des JSON hinzu. Bei fehlendem Wert leeren String verwenden. JSON-Schema: { "issue_type": "string", "urgency": "low | medium | high", "summary": "string (max. 25 Wörter)", "customer_sentiment": "negative | neutral | positive" } Kunden-E-Mail: E-Mail-Text hier einfügen"
Die "gute" Version definiert Schema, valide Werte und JSON-only-Anforderung, was das Parsen und die Verwendung in anderen Systemen einfach macht.
Best Practices für strukturierte Ausgabe und JSON-Modus
Für zuverlässige strukturierte Ausgaben müssen Prompts explizit, konsistent und strikt sein. Ein paar Praktiken helfen dabei sehr:
- Das genaue erwartete Schema angeben, einschließlich erlaubter Werte für Enums.
- Klar angeben, dass nichts außer JSON (oder der Struktur) zurückgegeben werden soll.
- Kurze, eindeutige Schlüsselnamen verwenden (z. B. `issue_type`, `urgency`, `summary`).
- Beispiele für valide Ausgaben hinzufügen, wenn die Aufgabe komplex oder sensibel ist.
- Bei verschachtelten Strukturen diese schrittweise aufbauen und mit echten Eingaben testen.
- Spezifikationsorientierte Frameworks wie SPECS oder RTF mit Format-Einschränkungen) verwenden, um Schemas direkt in Prompts zu kodieren.
Wenn weiterhin Formatierungsprobleme auftreten, kann die einfache Anweisung "Im Zweifel das Feld als leeren String belassen statt zu raten" hinzugefügt werden. Strukturierte Ausgabe funktioniert am besten in Kombination mit RAG (Retrieval-Augmented Generation)) zur Faktenprüfung extrahierter Daten. Müssen diese extrahierten Daten Ihre Infrastruktur nicht verlassen, funktionieren dieselben JSON-Mode-Muster auch gegen einen On-Premise-Vektor-Store — siehe Lokales RAG für Geschäftsdaten für die DSGVO-konforme Architektur.
Modellvergleich: JSON-Compliance nach Anbieter
Verschiedene Modelle haben unterschiedliche Unterstützung für nativen JSON-Modus. Stand April 2026, hier ist die Rangliste der wichtigsten Anbieter:
| Modell | Nativer JSON-Modus | Nur-Prompt-Compliance | Hinweise |
|---|---|---|---|
| OpenAI GPT-4o | Ja (erzwungen) | Nicht erforderlich | Industriestandard für JSON-Modus; 99%+ Erfolgsrate. |
| Anthropic Claude 3.5 Sonnet | Ja (erzwungen) | Nicht erforderlich | Hervorragende JSON-Compliance; unterstützt komplexe verschachtelte Strukturen. |
| Google Gemini 2.0 | Ja (erzwungen) | Nicht erforderlich | Nativer JSON-Support; schnelle Inferenz. |
| Meta Llama 3.1 (70B) | Teilweise | Sehr empfohlen | Open-Source; funktioniert gut mit detaillierten Prompts und Beispielen. |
| Mistral Large | Teilweise | Empfohlen | Gutes JSON-Verhalten; mit spezifischem Schema testen. |
| Ältere GPT-3.5, Claude 2 | Nein | Erforderlich | Erfordert starkes Prompt Engineering; ~80–85% Erfolgsrate. |
| Kleine Open-Source-Modelle (<13B) | Nein | Erforderlich mit Beispielen | Benötigen detaillierte Schemas und mehrere Beispiele; ~60–70% Erfolgsrate. |
Strukturierte Ausgabe in regulierten Umgebungen
Strukturierte Ausgabe ist besonders wertvoll in regulierten Branchen, da sie konsistente Datenextraktion, Audit-Trails und Compliance-Dokumentation erzwingt. Verschiedene Regionen haben unterschiedliche Anforderungen:
- EU (DSGVO, KI-Gesetz): Strukturierte Ausgabe ermöglicht systematische Datenklassifizierung und Löschverfolgung. Der JSON-Modus ermöglicht das Tagging von Feldern mit personenbezogenen Daten, was DSFA (Datenschutz-Folgenabschätzung) und Compliance-Audits erleichtert.
- Japan (METI KI-Leitlinien, APPI): Strukturierte Extraktion mit klaren Schema-Definitionen unterstützt Transparenz- und Rechenschaftspflichten. Die Dokumentation der Datenverarbeitung wird durch strukturierte Ausgabe mit klaren Audit-Trails unterstützt.
- China (CAC-Vorschriften, Datensicherheitsgesetz): Strukturierte Ausgabe hilft bei Content-Moderation und Data-Residency-Protokollierung. Der JSON-Modus ermöglicht die systematische Klassifizierung sensibler Inhalte (Finanzdaten, personenbezogene Informationen) für CAC-Compliance.
Häufige Fehler
Diese häufigen Fehler bei der Implementierung von strukturierter Ausgabe und JSON-Modus vermeiden:
- Unklare Schemas: "Extrahiere die Kernpunkte" ohne Schema-Definition führt zu inkonsistenter Ausgabe. Immer exakte Feldnamen, Typen und Einschränkungen angeben.
- Fehlende Beispiele: Nur Schema-Beschreibung ohne Beispiele verursacht 20–30% Fehlerrate. Immer 1–3 Beispiele valider Ausgaben zeigen.
- Keine Ausgabe-Validierung: Annahme, das Modell gibt immer valides JSON zurück, führt zu Parsing-Fehlern in der Produktion. Immer validieren und Parse-Fehler graceful behandeln.
- Grenzfälle nicht behandeln: Felder, die fehlen, mehrdeutig oder außerhalb des Bereichs sein könnten, müssen definiertes Fallback-Verhalten haben (null, leerer String oder Standardwert).
- Nur mit einfachen Eingaben testen: Reale Daten sind unstrukturiert. Schema mit Grenzfällen testen: unvollständige E-Mails, Sonderzeichen, gemischte Sprachen, sehr lange Eingaben.
Wann JSON-Modus vs. Alternativen verwenden
JSON-Modus wählen, wenn strenge Schema-Erzwingung und deterministische Ausgabe benötigt werden. Vermeiden, wenn Kreativität und offenes Denken gefragt sind.
- ✓ JSON-Modus verwenden: Striktes Schema erforderlich, Automatisierungs-Pipelines, API-Integration, Datenextraktion, Klassifizierungsaufgaben, deterministische Ausgaben, Produktionssysteme mit Validierung.
- ✗ JSON-Modus vermeiden: Kreatives Schreiben, offenes Denken, Brainstorming, Essays, Code-Generierung (Function Calling ist besser), philosophische Fragen, narrative Inhalte.
- Alternative: Function Calling verwenden, wenn Tool-Integration und agentische Workflows benötigt werden.
- Alternative: Schema-Prompting verwenden, wenn Flexibilität gefragt, mit Open-Source-Modellen gearbeitet wird oder keine API-Garantien benötigt werden.
Wann sollte strukturierte Ausgabe verwendet werden?
Strukturierte Ausgabe glänzt in drei Hauptszenarien. Verwenden, wenn deterministische, maschinenlesbare Ergebnisse benötigt werden:
- APIs und Integrationen: LLM-Ausgabe direkt in nachgelagerte Systeme (Datenbanken, CRMs, Dashboards) einspeisen. Strukturierte Ausgabe verhindert Parsing-Fehler und manuelle Nachbearbeitung.
- Automatisierung und Workflows: Aktionen basierend auf Modell-Ausgabefeldern (Priorität, Dringlichkeit, Kategorie) auslösen. JSON-Modus gewährleistet zuverlässige Feldextraktion für bedingte Logik.
- Daten-Pipelines: Massendaten (Dokumente, E-Mails, Logs) im großen Maßstab verarbeiten. Konsistente Schemas ermöglichen Stapelverarbeitung, Validierung und Fehlerbehandlung.
Wie strukturierte Ausgabe und JSON-Modus verwendet werden
- 1Für Datenextraktion und maschinenlesbare Ausgaben den JSON-Modus (verfügbar in OpenAI GPT-4o, Anthropic Claude, Google Gemini und anderen) verwenden. Dies garantiert, dass das Modell valides JSON zurückgibt. Beispiel: Produktinformationen als JSON mit Schlüsseln extrahieren: name, price, description, rating.
- 2Das JSON-Schema explizit definieren, einschließlich Feldnamen, Datentypen und Einschränkungen. Beispiel: { "name": string, "price": number (≥ 0), "in_stock": boolean, "tags": array of strings }.
- 3Ein Beispiel der genauen gewünschten JSON-Struktur bereitstellen. Beispiel: { "issue": "memory leak", "severity": "critical", "suggested_fix": "...", "code_snippet": "..." }. Beispiele sind effektiver als Schema-Beschreibungen.
- 4Bei verschachtelten Strukturen (Objekte innerhalb von Arrays) die Hierarchie explizit angeben. Ein vollständiges JSON-Beispiel mit verschachtelten Arrays bereitstellen. Siehe Beispiel unten.
- 5JSON-Ausgabe vor der Verwendung in nachgelagerten Systemen validieren. Das zurückgegebene JSON parsen und prüfen: (1) Valide JSON-Syntax, (2) Alle Pflichtfelder vorhanden, (3) Datentypen stimmen mit Erwartungen überein. Parse-Fehler graceful behandeln.
Hier ist ein vollständiges JSON-Beispiel mit verschachtelten Arrays, das die korrekte Hierarchie zeigt:
{
"articles": [
{
"title": "string",
"author": "string",
"citations": [
{
"title": "string",
"year": "number"
}
]
}
]
}Weiterführende Literatur
Erweitere dein Wissen mit diesen verwandten Prompt-Engineering-Themen:
- Constrained Prompting — spezifische Ausgabeformate und Token-Budgets erzwingen.
- SPECS Framework — spezifikationsorientierte Prompts für zuverlässiges Modellverhalten.
- RAG Explained — strukturierte Extraktion mit Echtzeit-Datenabruf kombinieren.
- Chain of Thought — Schritt für Schritt denken, bevor strukturierte Ausgaben zurückgegeben werden.
- Prompt Templates — wiederverwendbare Muster für häufige Aufgaben mit strukturierter Ausgabe.
- Zero-Shot vs Few-Shot — verstehen, wann Beispiele (Few-Shot) die JSON-Compliance verbessern.
Häufig gestellte Fragen
Was ist der Unterschied zwischen strukturierter Ausgabe und JSON-Modus?
Strukturierte Ausgabe ist die übergeordnete Kategorie, bei der Modelle Daten in einem festen Format (Listen, Tabellen, Schlüssel-Wert-Paare oder JSON) zurückgeben sollen. Der JSON-Modus ist eine strengere Variante, die valide JSON-Ausgabe erzwingt, oft mit API-Garantien des Modellanbieters.
Unterstützen alle LLMs den JSON-Modus?
Nein. OpenAI GPT-4o, Anthropic Claude 3.5+ und Google Gemini unterstützen nativen JSON-Modus. Ältere Modelle und Open-Source-LLMs benötigen möglicherweise Prompt-basierte Erzwingung, z. B. das Angeben des Schemas in den Anweisungen und das Bereitstellen von Beispielen.
Wie erzwinge ich JSON-only-Antworten ohne nativen JSON-Modus?
Prompt Engineering nutzen: (1) "Ausgabe nur valides JSON" explizit angeben, (2) detailliertes Schema und Beispiele bereitstellen, (3) Anweisung "Keinen Text außerhalb des JSON einfügen" hinzufügen. Erfolgsraten verbessern sich deutlich mit guten Beispielen.
Was passiert, wenn das Modell ungültiges JSON zurückgibt?
JSON mit einem Parser auf der eigenen Seite validieren. Bei Fehler entweder die Anfrage mit klarerem Prompt wiederholen oder auf manuelle Extraktion zurückfallen. Mit gutem Prompt Engineering und Schema-Beispielen sind Fehlerquoten gering (typisch <5% bei gut gestalteten Prompts).
Kann ich strukturierte Ausgabe für komplexe Dokumente verwenden?
Ja. Komplexe Aufgaben in Schritte aufteilen: zuerst Schlüsselfelder extrahieren, dann validieren, dann optional in nachgelagerte Systeme transformieren. Große Dokumente in Chunks aufzuteilen verbessert oft die Zuverlässigkeit.
Wie gehe ich mit fehlenden oder mehrdeutigen Daten in strukturierten Ausgaben um?
Fallback-Verhalten im Schema definieren: leere Strings, Null-Werte oder einen speziellen Marker wie "unbekannt" verwenden. Explizite Anweisung hinzufügen: "Wenn ein Wert mehrdeutig oder fehlend ist, null statt raten verwenden."
Ist der JSON-Modus von Compliance-Anforderungen (DSGVO, CCPA) betroffen?
Der JSON-Modus selbst ist neutral. Strukturierte Ausgabe ist jedoch vorteilhaft für die Compliance, da sie die systematische Nachverfolgung extrahierter, transformierter und protokollierter Daten ermöglicht — entscheidend für Audit-Trails und regulatorische Berichterstattung.
Wie teste ich JSON-Modus-Prompts?
Mit diversen Eingaben testen: Grenzfälle, mehrdeutige Daten und reale Beispiele. Ausgabe parsen und prüfen: (1) valides JSON, (2) korrektes Schema, (3) erwartete Datentypen. Ziel: ≥95% Erfolgsrate vor dem Produktiveinsatz.
Kann ich strukturierte Ausgabe-Schemas für verschiedene Modelle wiederverwenden?
Ja, mit Vorsicht. Schema einmal definieren und über Modelle testen — bei älteren oder kleineren Modellen können Prompt-Anpassungen nötig sein. Modellspezifische Unterschiede und Erfolgsraten dokumentieren.
Welche Performanzkosten hat der JSON-Modus?
Minimal. Nativer JSON-Modus (OpenAI, Anthropic, Google) hat vernachlässigbare Performanzauswirkungen. Prompt-basierte Erzwingung kann durch Schema-Erklärung 5–10% mehr Latenz verursachen, aber die Sicherheitsgewinne rechtfertigen das.
Quellen
- OpenAI JSON-Modus-Dokumentation — Offizieller Leitfaden zum JSON-Modus in der OpenAI API.
- Anthropic Structured Output Guide — Anthropics Dokumentation für strukturierte Ausgabe in Claude.
- Google Gemini API – Structured Output — Googles nativer JSON-Modus-Support in Gemini 2.0.
- JSON Schema Specification — Standardspezifikation für JSON-Schema-Design und -Validierung.