Von Stanford-Forschung zum Produktions-Framework
Stanford NLP begann die Entwicklung von DSPy im Dezember 2022; das stanfordnlp/dspy-GitHub-Repository beschreibt es als "das Framework zum Programmieren — statt Prompten — von Sprachmodellen". Das Projekt entstand aus akademischer Forschung zum Kompilieren deklarativer LLM-Pipelines, statt Prompt-Strings von Hand zu schreiben.
Das Framework führte früh Signatures und Modules als Kernabstraktionen ein und erweiterte seine Optimierungsalgorithmen im Lauf der Zeit: BootstrapFewShot für die schnelle Auswahl von Few-Shot-Beispielen, gefolgt von MIPROv2, das Instruktionen und Few-Shot-Beispiele gemeinsam per Bayes'scher Optimierung durchsucht, sowie zuletzt GEPA, das laut Dokumentation Prompts anhand von Beispielen und einer Bewertungsfunktion automatisch abstimmt, "bis die Qualität konvergiert".
DSPy wird zum Zeitpunkt dieses Reviews aktiv weiterentwickelt: Das dspy-Paket auf PyPI lag bei Version 3.3.1, veröffentlicht am 21. August 2026. Die Projektseite nennt mehr als 454 Contributor und dokumentiert Produktiveinsatz bei Unternehmen wie Shopify, Databricks und AWS.
Anders als mehrere andere Frameworks dieser Serie wurde DSPy nicht archiviert, ist nicht in einen reinen Wartungsmodus übergegangen und hat kein angekündigtes Nachfolgeprojekt — es ist die aktiv weiterentwickelte, kanonische Umsetzung der Ideen, die es eingeführt hat.
Entwicklung beginnt bei Stanford NLP
- Date:
- 2022-12
- What it means:
- Das Repository stanfordnlp/dspy und die Kernabstraktionen Signature/Module entstehen
Optimizer BootstrapFewShot
- Date:
- Frühe Releases
- What it means:
- Ein schneller Basis-Optimizer erstellt Few-Shot-Beispiele aus einem Trainingsdatensatz
Optimizer MIPROv2
- Date:
- Spätere Releases
- What it means:
- Gemeinsame Instruktions- und Few-Shot-Suche per Bayes'scher Optimierung erscheint
Optimizer GEPA
- Date:
- Aktuelle Releases
- What it means:
- Ein neuerer Optimizer für automatisches Prompt-Tuning gegen eine Bewertungsfunktion
dspy 3.3.1 auf PyPI
- Date:
- 2026-08-21
- What it means:
- Aktuellste verifizierte Version zum Zeitpunkt dieses Reviews — aktive Weiterentwicklung läuft
📌Hinweis: Der PyPI-Paketname von DSPy hat eine erwähnenswerte Geschichte: Der Name dspy war ursprünglich auf PyPI bereits vergeben, weshalb das Projekt in frühen Versionen als dspy-ai auslieferte. Der kanonische Paketname ist heute dspy — für aktuelle Installationen pip install dspy verwenden.
Was ist DSPy?
DSPy ist ein quelloffenes Python-Framework (MIT-Lizenz, aktiv gepflegt, github.com/stanfordnlp/dspy) von Stanford NLP, um Sprachmodell-Aufgaben deklarativ zu programmieren und diese Deklarationen anschließend in optimierte Prompts — und optional optimierte Gewichte — zu kompilieren, statt dass eine Person Prompt-Text manuell iteriert.
- Signature: eine typisierte Definition der Ein- und Ausgaben einer Aufgabe, geschrieben als kurze Klasse oder String (zum Beispiel
"question -> answer"), portabel über verschiedene zugrunde liegende LLMs und Prompt-Strategien hinweg - Module: eine Komponente, die eine Ausführungsstrategie um eine Signature herum implementiert —
Predictfür direkte Vervollständigung,ChainOfThoughtfür schrittweises Schlussfolgern,ReActfür werkzeugnutzende Schlussfolgerungsschleifen und weitere - Optimizer (früher Teleprompter genannt): ein Algorithmus, der die Prompts und Few-Shot-Beispiele innerhalb eines DSPy-Programms automatisch anhand einer Metrik abstimmt, statt von Hand — benannte Optimizer sind unter anderem
BootstrapFewShot,MIPROv2undGEPA - Ein Programm kompilieren: Das Ausführen eines Optimizers über einen Trainingsdatensatz und eine Bewertungsfunktion erzeugt ein kompiliertes Programm mit fest eingebauten, abgestimmten Instruktionen und Beispielen, das anschließend wie jedes andere DSPy-Programm läuft
- Modellagnostisch: DSPy verbindet sich mit dem konfigurierten LLM-Anbieter, statt ein eingebautes Modell mitzubringen, und derselbe Signature-/Module-Code kann für ein anderes zugrunde liegendes Modell neu optimiert werden
- Kein Multi-Agent-Orchestrator: DSPy kennt kein eingebautes Konzept mehrerer kommunizierender Agenten wie CrewAI oder AutoGen — ein DSPy-Programm ist typischerweise eine einzelne Pipeline aus Modules, auch wenn
ReAct-Module Tools in einer Schlussfolgerungsschleife aufrufen können
Programmieren statt Prompten — was der Satz in der Praxis bedeutet
Bei DSPy schreibt man keinen Prompt-String und passt dessen Wortlaut von Hand an. Man beschreibt die Form der Aufgabe mit einer Signature und wählt ein Module, das die Schlussfolgerungsstrategie festlegt; der tatsächliche Prompt-Text, der an das LLM gesendet wird, wird generiert und beim Kompilieren mit einem Optimizer automatisch abgestimmt. Das ist der zentrale Positionierungsunterschied des Frameworks gegenüber Prompt-Bibliotheken und Orchestrierungs-Frameworks, die den Prompt-String selbst als die Einheit behandeln, die man verfasst.
pip install dspy
# Minimalbeispiel: Signature + Module + Optimizer
import dspy
class AnswerQuestion(dspy.Signature):
"""Answer a question factually."""
question: str = dspy.InputField()
answer: str = dspy.OutputField()
qa = dspy.ChainOfThought(AnswerQuestion)
result = qa(question="What is the capital of France?")
print(result.answer)Was kostet DSPy?
DSPy selbst ist unter der MIT-Lizenz kostenlos — es gibt kein Abonnement, keine Bezahlstufe und keinen von Stanford gehosteten Dienst. Bezahlt wird die eigene Rechenleistung sowie eventuelle API-Gebühren des konfigurierten LLM-Anbieters.
- DSPy (das Open-Source-Framework): für immer kostenlos unter der MIT-Lizenz, selbst gehostet, keine Nutzungsobergrenzen, kein Konto zum Ausführen erforderlich
- Kein gehostetes Produkt oder Abonnement: DSPy ist eine Bibliothek, die man importiert und selbst ausführt, kein gemanagter Dienst — es gibt nichts zu abonnieren
- Optionale Kosten: API-Gebühren des konfigurierten LLM-Anbieters (zum Beispiel Pro-Token-Preise eines Cloud-Anbieters), wenn ein Cloud-Modell statt eines lokalen verwendet wird
- Kostenaspekt bei Optimizern: Das Ausführen eines Optimizers wie MIPROv2 verursacht mehrere LLM-Aufrufe bei der Suche nach der besten Prompt-Konfiguration — das Kompilieren eines Programms hat also eigene API-Kosten zusätzlich zum späteren Ausführen des kompilierten Programms
Wie installiert und startet man DSPy?
Installieren Sie DSPy über PyPI mit pip install dspy. Kein Klonen, kein Docker und kein separates CLI-Binary erforderlich — DSPy wird wie ein gewöhnlicher Python-Import genutzt.
- 1Paket installieren:
pip install dspy. - 2Einen LLM-Anbieter konfigurieren — zum Beispiel
dspy.configure(lm=dspy.LM('openai/gpt-4o-mini', api_key='your-key'))für ein gehostetes Modell, oder auf einen lokal bereitgestellten OpenAI-kompatiblen Endpunkt verweisen. - 3Eine Signature definieren, die Ein- und Ausgaben der Aufgabe beschreibt, entweder als kurzer String (
"question -> answer") oder als typisierte Klasse mitdspy.InputField()/dspy.OutputField(). - 4Die Signature in ein Module kapseln —
dspy.Predict(...)für einen direkten Aufruf oderdspy.ChainOfThought(...)für schrittweises Schlussfolgern — und wie eine Funktion aufrufen. - 5Optional: einen kleinen Trainingsdatensatz und eine Bewertungsfunktion zusammenstellen und dann einen Optimizer wie
dspy.BootstrapFewShotoderdspy.MIPROv2ausführen, um eine abgestimmte Version des Programms zu kompilieren. - 6Das vollständige Tutorial-Angebot, einschließlich RAG-Pipelines, Agentenschleifen mit
ReActund Optimizer-Konfiguration, steht in der DSPy-Dokumentation.
Alter Paketname
Ältere Tutorials und manche bestehenden Codebasen referenzieren pip install dspy-ai — das war der ursprüngliche PyPI-Name, bevor das Projekt den kürzeren Namen dspy übernahm. Neue Installationen sollten pip install dspy verwenden.
Braucht man Docker oder eine GPU, um DSPy auszuführen?
Nein. DSPy ist eine Python-Bibliothek, die einen konfigurierten LLM-Anbieter aufruft — Docker oder lokale GPU-Hardware sind nicht erforderlich, außer man betreibt separat einen lokalen Modellserver.
Funktioniert DSPy mit lokalen Modellen?
Ja, sofern das lokale Modell über einen OpenAI-kompatiblen oder anderweitig unterstützten Endpunkt bereitgestellt wird, auf den die LM-Konfiguration von DSPy verweist — DSPy selbst liefert kein eingebautes Modell mit.
Wer sollte DSPy nutzen?
DSPy passt zu Entwicklern, die bereits LLM-Pipelines in Python schreiben und die Prompts darin anhand messbarer Ergebnisse statt manuellem Ausprobieren abstimmen wollen. Für Teams, die primär Multi-Agent-Koordination oder eine No-Code-Oberfläche benötigen, ist es weniger passend.
Nutzen Sie DSPy, wenn
- Sie eine Python-LLM-Pipeline und eine Möglichkeit zur Bewertung ihrer Ausgaben haben — DSPys Optimizer benötigen eine Metrik und einen Trainingsdatensatz zum Suchen
- Sie Prompts und Few-Shot-Beispiele programmatisch, reproduzierbar und beim Modellwechsel neu optimierbar generiert und abgestimmt haben möchten
- Sie es gewohnt sind, Aufgaben als typisierte Signatures zu definieren und Modules im Code zu kombinieren, statt in einem No-Code-Visual-Builder zu arbeiten
- Ihre Aufgabe von strukturierten Schlussfolgerungsstrategien wie
ChainOfThoughtoder werkzeugnutzenden Schleifen wieReActprofitiert und diese Strategien abgestimmt statt von Hand geprompted werden sollen
Vermeiden Sie DSPy, wenn
- Sie Multi-Agent-Orchestrierung benötigen — mehrere LLM-Agenten, die kommunizieren, delegieren und Aufgaben koordinieren — das ist die Kernaufgabe von CrewAI, AutoGen oder LangGraph, nicht von DSPy
- Sie eine No-Code- oder Low-Code-Oberfläche brauchen — DSPy ist eine Python-Bibliothek ohne visuellen Builder, anders als Tools wie Langflow oder Flowise
- Sie keine gelabelten Beispiele oder Bewertungsfunktion für Ihre Aufgabe haben — DSPys Optimizer brauchen etwas, woran sie messen können; ohne das landet man ohnehin wieder beim manuellen Prompt-Schreiben
- Sie das breitest mögliche Ökosystem vorgefertigter Integrationen brauchen (Dokumenten-Loader, Vektordatenbank-Connectoren, Agenten-Tools) — LangChain hat dafür die größere Integrationsfläche
Wann sollten Sie DSPy NICHT nutzen?
Verzichten Sie auf DSPy, wenn es bei Ihrer Aufgabe eigentlich um die Koordination mehrerer Agenten oder das Verdrahten von Drittanbieter-Tool-Integrationen geht, statt um die Optimierung des Prompts innerhalb einer einzelnen Pipeline.
- Ein Team, das einen visuellen No-Code-Workflow-Builder braucht — DSPy ist code-first, ohne Drag-and-drop-Oberfläche
- Ein Projekt, das im Kern Multi-Agent-Koordination ist (Agenten delegieren Teilaufgaben aneinander) — ein dafür gebautes Framework wie CrewAI oder AutoGen passt strukturell besser
- Ein einmaliges Skript, bei dem ein einzelner, von Hand geschriebener Prompt bereits ausreichend gut funktioniert — das Einführen von Signatures, Modules und einer Optimierungsschleife bringt Engineering-Aufwand, der sich nur lohnt, wenn messbare, wiederholbare Prompt-Verbesserung nötig ist
- Eine Aufgabe ohne Möglichkeit, Korrektheit zu bewerten — DSPys Optimizer benötigen eine Metrikfunktion; rein subjektive Aufgaben ohne gelabelte Beispiele profitieren kaum vom Optimierungsschritt
- Nutzen Sie DSPy stattdessen genau dann, wenn Sie eine Pipeline, eine Metrik und einen Trainingsdatensatz haben und den Prompt-Engineering-Schritt automatisiert und reproduzierbar machen wollen
DSPy vs. Alternativen
DSPy belegt eine andere Kategorie als die meisten Agenten-Orchestrierungs-Frameworks: Es optimiert Prompts und Few-Shot-Beispiele innerhalb einer Pipeline, statt mehrere Agenten zu koordinieren. Die nächstliegenden Vergleichspunkte sind andere Python-Frameworks zum Bauen von LLM-Pipelines, auch wenn deren Kernaufgabe sich von der von DSPy unterscheidet.
Tool | Kernaufgabe | Lizenz | Status | Am besten für |
|---|---|---|---|---|
| DSPy | Prompt-/Gewichts-Optimierung | MIT | Aktiv | Prompts anhand einer Metrik abstimmen |
| LangChain | Allgemeiner LLM-Pipeline-Bau | MIT | Aktiv | Breitestes Integrations-Ökosystem |
| LlamaIndex | RAG-fokussiertes Daten-Framework | MIT | Aktiv | Retrieval-Augmented-Pipelines |
| Semantic Kernel | Strukturierte Prompt-/Skill-Komposition | MIT | Aktiv (konvergiert in MAF) | Enterprise .NET/Python/Java-SDK |
Diese Tabelle vergleicht DSPy mit Python-Pipeline-Frameworks mit der nächsten konzeptionellen Überschneidung, nicht mit Multi-Agent-Orchestratoren — DSPy konkurriert nicht direkt mit CrewAI oder AutoGen, die Agentenkoordination statt Prompt-Optimierung lösen.
Häufige Fehler bei der Bewertung von DSPy
Diese Fehler entstehen, wenn DSPy wie ein Multi-Agent-Framework behandelt wird oder der Optimierungsschritt übersprungen wird, der den eigentlichen Sinn des Frameworks ausmacht.
Fehler 1: Erwarten, dass DSPy mehrere Agenten orchestriert
DSPys Modules setzen sich zu einer einzelnen Pipeline zusammen, nicht zu einem Team kommunizierender Agenten. Teams, die Agenten benötigen, die Teilaufgaben aneinander delegieren, sollten stattdessen CrewAI, AutoGen oder LangGraph evaluieren — DSPy kann die Prompts innerhalb eines Schritts einer solchen Pipeline optimieren, ersetzt aber nicht die Orchestrierungsschicht selbst.
Fehler 2: Nie einen Optimizer ausführen
Wer Signatures und Modules schreibt, ohne das Programm jemals mit einem Optimizer wie BootstrapFewShot oder MIPROv2 zu kompilieren, überspringt genau den Teil von DSPy, der tatsächlich Verbesserungen gegenüber handgeschriebenen Prompts bringt — ein Module mit Standard-, nicht optimiertem Prompting kann schlechter abschneiden als ein sorgfältig von Hand abgestimmter Prompt in einem klassischen Workflow.
Fehler 3: dspy-ai und dspy auf PyPI verwechseln
Ältere Tutorials referenzieren pip install dspy-ai, den ursprünglichen PyPI-Paketnamen des Projekts, bevor es den kürzeren Namen dspy übernahm. Aktuelle Installationen sollten pip install dspy verwenden, um das gepflegte, aktuelle Paket zu erhalten.
Häufig gestellte Fragen
Wird DSPy noch gepflegt?
Ja. Das Repository stanfordnlp/dspy wird aktiv weiterentwickelt; das Paket dspy auf PyPI lag zum Zeitpunkt dieses Reviews bei Version 3.3.1, veröffentlicht am 21. August 2026.
Ist DSPy kostenlos nutzbar?
Ja. DSPy ist MIT-lizenziert und für kommerzielle Nutzung, Veränderung und Selbst-Hosting kostenlos. Es gibt kein Abonnement oder gehostetes Produkt zu bezahlen.
Was ist der Unterschied zwischen DSPy und LangChain?
LangChain ist ein allgemeines Framework zum Bau von LLM-Pipelines mit breitem Integrations-Ökosystem; DSPy konzentriert sich speziell auf das Programmieren von Aufgaben mit typisierten Signatures und Modules und optimiert anschließend automatisch die Prompts und Few-Shot-Beispiele anhand einer Metrik. Beide lösen unterschiedliche, sich ergänzende Probleme.
Was sind DSPy Signatures und Modules?
Eine Signature ist eine typisierte Definition der Ein- und Ausgaben einer Aufgabe (zum Beispiel "question -> answer"). Ein Module implementiert eine Ausführungsstrategie um eine Signature herum — Predict für direkte Vervollständigung, ChainOfThought für schrittweises Schlussfolgern, ReAct für werkzeugnutzende Schlussfolgerungsschleifen.
Was sind DSPy-Optimizer?
Optimizer, früher Teleprompter genannt, sind Algorithmen, die die Prompts und Few-Shot-Beispiele innerhalb eines DSPy-Programms automatisch anhand einer Metrik und eines Trainingsdatensatzes abstimmen — benannte Optimizer sind unter anderem BootstrapFewShot, MIPROv2 und GEPA.
Wie installiert man DSPy?
Mit pip install dspy. Das ist der aktuelle, kanonische PyPI-Paketname; ein älteres dspy-ai-Paket ging ihm voraus.
Ersetzt DSPy Multi-Agent-Frameworks wie CrewAI oder AutoGen?
Nein. DSPy optimiert Prompts innerhalb einer Pipeline; es orchestriert keine mehreren kommunizierenden Agenten wie CrewAI oder AutoGen. Beide Kategorien ergänzen sich, statt zu konkurrieren.
Unter welcher Lizenz erscheint DSPy?
MIT, was kostenlose kommerzielle Nutzung, Veränderung und Selbst-Hosting erlaubt.
Wer hat DSPy entwickelt?
DSPy wurde bei Stanford NLP entwickelt, die Arbeit begann im Dezember 2022. Das Projekt nennt mehr als 454 Contributor und dokumentierten Produktiveinsatz bei Unternehmen wie Shopify, Databricks und AWS.
Wie viele GitHub-Stars hat DSPy?
Das Repository stanfordnlp/dspy hat 37.900 GitHub-Stars und 3.300 Forks überschritten, Stand September 2026.