Wichtigste Erkenntnisse
- MIT-Lizenz — kostenlos nutzbar, veränderbar und selbst hostbar, auch kommerziell
- GitHub-Repository stanfordnlp/dspy hat 37.900 Stars und 3.300 Forks überschritten (gestartet bei Stanford NLP im Dezember 2022)
- PyPI-Paket
dspy, aktuelle Version 3.3.1 (21. August 2026) — aktiv gepflegt - Kernabstraktionen: Signatures (typisierte Ein-/Ausgaben), Modules (Predict, ChainOfThought, ReAct), Optimizer (BootstrapFewShot, MIPROv2, GEPA)
- Kategorie: Prompt-/Gewichts-Optimierung für LLM-Programme — kein Multi-Agent-Orchestrierungs-Framework wie LangChain oder CrewAI
- Installation:
pip install dspy, erfordert das Konfigurieren eines LLM-Anbieters vor dem ersten Programmlauf
📍 In einem Satz
DSPy ist ein kostenloses, MIT-lizenziertes Python-Framework von Stanford NLP, mit dem Entwickler LLM-Aufgaben über typisierte Signatures und Modules programmieren und die Prompts sowie Few-Shot-Beispiele anschließend automatisch mit Algorithmen wie MIPROv2 optimieren lassen, statt manuell Prompt Engineering zu betreiben.
💬 In einfachen Worten
Mit DSPy beschreibt man als Code, was ein LLM tun soll — Eingaben, Ausgaben, die Schritte — und das Framework sucht dann selbst den besten tatsächlichen Prompt-Wortlaut, indem es Optionen an Beispielen testet, statt dass man selbst rät und Prompt-Text von Hand anpasst.
📌Hinweis: DSPy löst ein anderes Problem als die meisten Agenten-Frameworks in dieser Serie — es optimiert die Prompts innerhalb einer Pipeline, statt Multi-Agent-Gespräche zu orchestrieren. Im Local LLM Software Directory sehen Sie, wo DSPy unter Agenten- und Pipeline-Frameworks einzuordnen ist.
Von Stanford-Forschung zum Produktions-Framework
Stanford NLP begann die Entwicklung von DSPy im Dezember 2022; das stanfordnlp/dspy-GitHub-Repository beschreibt es als "das Framework zum Programmieren — statt Prompten — von Sprachmodellen". Das Projekt entstand aus akademischer Forschung zum Kompilieren deklarativer LLM-Pipelines, statt Prompt-Strings von Hand zu schreiben.
Das Framework führte früh Signatures und Modules als Kernabstraktionen ein und erweiterte seine Optimierungsalgorithmen im Lauf der Zeit: BootstrapFewShot für die schnelle Auswahl von Few-Shot-Beispielen, gefolgt von MIPROv2, das Instruktionen und Few-Shot-Beispiele gemeinsam per Bayes'scher Optimierung durchsucht, sowie zuletzt GEPA, das laut Dokumentation Prompts anhand von Beispielen und einer Bewertungsfunktion automatisch abstimmt, "bis die Qualität konvergiert".
DSPy wird zum Zeitpunkt dieses Reviews aktiv weiterentwickelt: Das dspy-Paket auf PyPI lag bei Version 3.3.1, veröffentlicht am 21. August 2026. Die Projektseite nennt mehr als 454 Contributor und dokumentiert Produktiveinsatz bei Unternehmen wie Shopify, Databricks und AWS.
Anders als mehrere andere Frameworks dieser Serie wurde DSPy nicht archiviert, ist nicht in einen reinen Wartungsmodus übergegangen und hat kein angekündigtes Nachfolgeprojekt — es ist die aktiv weiterentwickelte, kanonische Umsetzung der Ideen, die es eingeführt hat.
Entwicklung beginnt bei Stanford NLP
- Date:
- 2022-12
- What it means:
- Das Repository stanfordnlp/dspy und die Kernabstraktionen Signature/Module entstehen
Optimizer BootstrapFewShot
- Date:
- Frühe Releases
- What it means:
- Ein schneller Basis-Optimizer erstellt Few-Shot-Beispiele aus einem Trainingsdatensatz
Optimizer MIPROv2
- Date:
- Spätere Releases
- What it means:
- Gemeinsame Instruktions- und Few-Shot-Suche per Bayes'scher Optimierung erscheint
Optimizer GEPA
- Date:
- Aktuelle Releases
- What it means:
- Ein neuerer Optimizer für automatisches Prompt-Tuning gegen eine Bewertungsfunktion
dspy 3.3.1 auf PyPI
- Date:
- 2026-08-21
- What it means:
- Aktuellste verifizierte Version zum Zeitpunkt dieses Reviews — aktive Weiterentwicklung läuft
📌Hinweis: Der PyPI-Paketname von DSPy hat eine erwähnenswerte Geschichte: Der Name dspy war ursprünglich auf PyPI bereits vergeben, weshalb das Projekt in frühen Versionen als dspy-ai auslieferte. Der kanonische Paketname ist heute dspy — für aktuelle Installationen pip install dspy verwenden.
Was ist DSPy?
DSPy ist ein quelloffenes Python-Framework (MIT-Lizenz, aktiv gepflegt, github.com/stanfordnlp/dspy) von Stanford NLP, um Sprachmodell-Aufgaben deklarativ zu programmieren und diese Deklarationen anschließend in optimierte Prompts — und optional optimierte Gewichte — zu kompilieren, statt dass eine Person Prompt-Text manuell iteriert.
- Signature: eine typisierte Definition der Ein- und Ausgaben einer Aufgabe, geschrieben als kurze Klasse oder String (zum Beispiel
"question -> answer"), portabel über verschiedene zugrunde liegende LLMs und Prompt-Strategien hinweg - Module: eine Komponente, die eine Ausführungsstrategie um eine Signature herum implementiert —
Predictfür direkte Vervollständigung,ChainOfThoughtfür schrittweises Schlussfolgern,ReActfür werkzeugnutzende Schlussfolgerungsschleifen und weitere - Optimizer (früher Teleprompter genannt): ein Algorithmus, der die Prompts und Few-Shot-Beispiele innerhalb eines DSPy-Programms automatisch anhand einer Metrik abstimmt, statt von Hand — benannte Optimizer sind unter anderem
BootstrapFewShot,MIPROv2undGEPA - Ein Programm kompilieren: Das Ausführen eines Optimizers über einen Trainingsdatensatz und eine Bewertungsfunktion erzeugt ein kompiliertes Programm mit fest eingebauten, abgestimmten Instruktionen und Beispielen, das anschließend wie jedes andere DSPy-Programm läuft
- Modellagnostisch: DSPy verbindet sich mit dem konfigurierten LLM-Anbieter, statt ein eingebautes Modell mitzubringen, und derselbe Signature-/Module-Code kann für ein anderes zugrunde liegendes Modell neu optimiert werden
- Kein Multi-Agent-Orchestrator: DSPy kennt kein eingebautes Konzept mehrerer kommunizierender Agenten wie CrewAI oder AutoGen — ein DSPy-Programm ist typischerweise eine einzelne Pipeline aus Modules, auch wenn
ReAct-Module Tools in einer Schlussfolgerungsschleife aufrufen können
pip install dspy
# Minimalbeispiel: Signature + Module + Optimizer
import dspy
class AnswerQuestion(dspy.Signature):
"""Answer a question factually."""
question: str = dspy.InputField()
answer: str = dspy.OutputField()
qa = dspy.ChainOfThought(AnswerQuestion)
result = qa(question="What is the capital of France?")
print(result.answer)Was kostet DSPy?
DSPy selbst ist unter der MIT-Lizenz kostenlos — es gibt kein Abonnement, keine Bezahlstufe und keinen von Stanford gehosteten Dienst. Bezahlt wird die eigene Rechenleistung sowie eventuelle API-Gebühren des konfigurierten LLM-Anbieters.
- DSPy (das Open-Source-Framework): für immer kostenlos unter der MIT-Lizenz, selbst gehostet, keine Nutzungsobergrenzen, kein Konto zum Ausführen erforderlich
- Kein gehostetes Produkt oder Abonnement: DSPy ist eine Bibliothek, die man importiert und selbst ausführt, kein gemanagter Dienst — es gibt nichts zu abonnieren
- Optionale Kosten: API-Gebühren des konfigurierten LLM-Anbieters (zum Beispiel Pro-Token-Preise eines Cloud-Anbieters), wenn ein Cloud-Modell statt eines lokalen verwendet wird
- Kostenaspekt bei Optimizern: Das Ausführen eines Optimizers wie MIPROv2 verursacht mehrere LLM-Aufrufe bei der Suche nach der besten Prompt-Konfiguration — das Kompilieren eines Programms hat also eigene API-Kosten zusätzlich zum späteren Ausführen des kompilierten Programms
Wie installiert und startet man DSPy?
Installieren Sie DSPy über PyPI mit pip install dspy. Kein Klonen, kein Docker und kein separates CLI-Binary erforderlich — DSPy wird wie ein gewöhnlicher Python-Import genutzt.
- 1Paket installieren:
pip install dspy. - 2Einen LLM-Anbieter konfigurieren — zum Beispiel
dspy.configure(lm=dspy.LM('openai/gpt-4o-mini', api_key='your-key'))für ein gehostetes Modell, oder auf einen lokal bereitgestellten OpenAI-kompatiblen Endpunkt verweisen. - 3Eine Signature definieren, die Ein- und Ausgaben der Aufgabe beschreibt, entweder als kurzer String (
"question -> answer") oder als typisierte Klasse mitdspy.InputField()/dspy.OutputField(). - 4Die Signature in ein Module kapseln —
dspy.Predict(...)für einen direkten Aufruf oderdspy.ChainOfThought(...)für schrittweises Schlussfolgern — und wie eine Funktion aufrufen. - 5Optional: einen kleinen Trainingsdatensatz und eine Bewertungsfunktion zusammenstellen und dann einen Optimizer wie
dspy.BootstrapFewShotoderdspy.MIPROv2ausführen, um eine abgestimmte Version des Programms zu kompilieren. - 6Das vollständige Tutorial-Angebot, einschließlich RAG-Pipelines, Agentenschleifen mit
ReActund Optimizer-Konfiguration, steht in der DSPy-Dokumentation.
Braucht man Docker oder eine GPU, um DSPy auszuführen?
Nein. DSPy ist eine Python-Bibliothek, die einen konfigurierten LLM-Anbieter aufruft — Docker oder lokale GPU-Hardware sind nicht erforderlich, außer man betreibt separat einen lokalen Modellserver.
Funktioniert DSPy mit lokalen Modellen?
Ja, sofern das lokale Modell über einen OpenAI-kompatiblen oder anderweitig unterstützten Endpunkt bereitgestellt wird, auf den die LM-Konfiguration von DSPy verweist — DSPy selbst liefert kein eingebautes Modell mit.
Wer sollte DSPy nutzen?
DSPy passt zu Entwicklern, die bereits LLM-Pipelines in Python schreiben und die Prompts darin anhand messbarer Ergebnisse statt manuellem Ausprobieren abstimmen wollen. Für Teams, die primär Multi-Agent-Koordination oder eine No-Code-Oberfläche benötigen, ist es weniger passend.
Wann sollten Sie DSPy NICHT nutzen?
Verzichten Sie auf DSPy, wenn es bei Ihrer Aufgabe eigentlich um die Koordination mehrerer Agenten oder das Verdrahten von Drittanbieter-Tool-Integrationen geht, statt um die Optimierung des Prompts innerhalb einer einzelnen Pipeline.
- Ein Team, das einen visuellen No-Code-Workflow-Builder braucht — DSPy ist code-first, ohne Drag-and-drop-Oberfläche
- Ein Projekt, das im Kern Multi-Agent-Koordination ist (Agenten delegieren Teilaufgaben aneinander) — ein dafür gebautes Framework wie CrewAI oder AutoGen passt strukturell besser
- Ein einmaliges Skript, bei dem ein einzelner, von Hand geschriebener Prompt bereits ausreichend gut funktioniert — das Einführen von Signatures, Modules und einer Optimierungsschleife bringt Engineering-Aufwand, der sich nur lohnt, wenn messbare, wiederholbare Prompt-Verbesserung nötig ist
- Eine Aufgabe ohne Möglichkeit, Korrektheit zu bewerten — DSPys Optimizer benötigen eine Metrikfunktion; rein subjektive Aufgaben ohne gelabelte Beispiele profitieren kaum vom Optimierungsschritt
- Nutzen Sie DSPy stattdessen genau dann, wenn Sie eine Pipeline, eine Metrik und einen Trainingsdatensatz haben und den Prompt-Engineering-Schritt automatisiert und reproduzierbar machen wollen
DSPy vs. Alternativen
DSPy belegt eine andere Kategorie als die meisten Agenten-Orchestrierungs-Frameworks: Es optimiert Prompts und Few-Shot-Beispiele innerhalb einer Pipeline, statt mehrere Agenten zu koordinieren. Die nächstliegenden Vergleichspunkte sind andere Python-Frameworks zum Bauen von LLM-Pipelines, auch wenn deren Kernaufgabe sich von der von DSPy unterscheidet.
Tool | Kernaufgabe | Lizenz | Status | Am besten für |
|---|---|---|---|---|
| DSPy | Prompt-/Gewichts-Optimierung | MIT | Aktiv | Prompts anhand einer Metrik abstimmen |
| LangChain | Allgemeiner LLM-Pipeline-Bau | MIT | Aktiv | Breitestes Integrations-Ökosystem |
| LlamaIndex | RAG-fokussiertes Daten-Framework | MIT | Aktiv | Retrieval-Augmented-Pipelines |
| Semantic Kernel | Strukturierte Prompt-/Skill-Komposition | MIT | Aktiv (konvergiert in MAF) | Enterprise .NET/Python/Java-SDK |
Diese Tabelle vergleicht DSPy mit Python-Pipeline-Frameworks mit der nächsten konzeptionellen Überschneidung, nicht mit Multi-Agent-Orchestratoren — DSPy konkurriert nicht direkt mit CrewAI oder AutoGen, die Agentenkoordination statt Prompt-Optimierung lösen.
Häufige Fehler bei der Bewertung von DSPy
Diese Fehler entstehen, wenn DSPy wie ein Multi-Agent-Framework behandelt wird oder der Optimierungsschritt übersprungen wird, der den eigentlichen Sinn des Frameworks ausmacht.
Häufig gestellte Fragen
Wird DSPy noch gepflegt?
Ja. Das Repository stanfordnlp/dspy wird aktiv weiterentwickelt; das Paket dspy auf PyPI lag zum Zeitpunkt dieses Reviews bei Version 3.3.1, veröffentlicht am 21. August 2026.
Ist DSPy kostenlos nutzbar?
Ja. DSPy ist MIT-lizenziert und für kommerzielle Nutzung, Veränderung und Selbst-Hosting kostenlos. Es gibt kein Abonnement oder gehostetes Produkt zu bezahlen.
Was ist der Unterschied zwischen DSPy und LangChain?
LangChain ist ein allgemeines Framework zum Bau von LLM-Pipelines mit breitem Integrations-Ökosystem; DSPy konzentriert sich speziell auf das Programmieren von Aufgaben mit typisierten Signatures und Modules und optimiert anschließend automatisch die Prompts und Few-Shot-Beispiele anhand einer Metrik. Beide lösen unterschiedliche, sich ergänzende Probleme.
Was sind DSPy Signatures und Modules?
Eine Signature ist eine typisierte Definition der Ein- und Ausgaben einer Aufgabe (zum Beispiel "question -> answer"). Ein Module implementiert eine Ausführungsstrategie um eine Signature herum — Predict für direkte Vervollständigung, ChainOfThought für schrittweises Schlussfolgern, ReAct für werkzeugnutzende Schlussfolgerungsschleifen.
Was sind DSPy-Optimizer?
Optimizer, früher Teleprompter genannt, sind Algorithmen, die die Prompts und Few-Shot-Beispiele innerhalb eines DSPy-Programms automatisch anhand einer Metrik und eines Trainingsdatensatzes abstimmen — benannte Optimizer sind unter anderem BootstrapFewShot, MIPROv2 und GEPA.
Wie installiert man DSPy?
Mit pip install dspy. Das ist der aktuelle, kanonische PyPI-Paketname; ein älteres dspy-ai-Paket ging ihm voraus.
Ersetzt DSPy Multi-Agent-Frameworks wie CrewAI oder AutoGen?
Nein. DSPy optimiert Prompts innerhalb einer Pipeline; es orchestriert keine mehreren kommunizierenden Agenten wie CrewAI oder AutoGen. Beide Kategorien ergänzen sich, statt zu konkurrieren.
Unter welcher Lizenz erscheint DSPy?
MIT, was kostenlose kommerzielle Nutzung, Veränderung und Selbst-Hosting erlaubt.
Wer hat DSPy entwickelt?
DSPy wurde bei Stanford NLP entwickelt, die Arbeit begann im Dezember 2022. Das Projekt nennt mehr als 454 Contributor und dokumentierten Produktiveinsatz bei Unternehmen wie Shopify, Databricks und AWS.
Wie viele GitHub-Stars hat DSPy?
Das Repository stanfordnlp/dspy hat 37.900 GitHub-Stars und 3.300 Forks überschritten, Stand September 2026.
