Skip to main content
PromptQuorum
Startseite/Lokale LLMs Pro/Langchain-Chatchat Review 2026: Selbst gehostetes RAG- und Agent-Framework
RAG & Document Chat

Langchain-Chatchat Review 2026: Selbst gehostetes RAG- und Agent-Framework

·11 Min. Lesezeit·Von Hans Kuepper · Gründer von PromptQuorum, Multi-Model-AI-Dispatch-Tool · PromptQuorum
Lesen auf:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Langchain-Chatchat (früher langchain-ChatGLM) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis des LangChain-Frameworks, mit der Sie lokale Wissensdatenbank-Frage-Antwort-Funktionen gegen Modelle wie ChatGLM, Qwen und Llama oder gegen Cloud-APIs ausführen können. Entwickelt von der GitHub-Organisation chatchat-space und lizenziert unter Apache-2.0, gibt es keine kostenpflichtige Stufe — Sie installieren die Anwendung selbst über pip oder Docker und betreiben sie auf Ihrer eigenen Hardware oder Ihrem eigenen Server, wobei Sie wählen, welches Modell-Backend Sie anbinden. Das Projekt hat über 38.600 GitHub-Stars, wobei sich der Release-Takt seit der letzten getaggten Version v0.3.1 im Juli 2024 deutlich verlangsamt hat.

Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis des LangChain-Frameworks, die vor ihrer Umbenennung im August 2023 langchain-ChatGLM hieß. Sie führt lokale Wissensdatenbank-Frage-Antwort-Funktionen mit Modellen wie ChatGLM, Qwen und Llama über austauschbare Backends aus, oder mit Cloud-APIs, und hat über 38.600 GitHub-Stars. Diese Review behandelt, was die App kann, ihre Versionsgeschichte, wie man sie installiert, und wie sie sich im Vergleich zu anderen selbst gehosteten RAG-Tools einordnet.

Wichtigste Erkenntnisse

  • Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis von LangChain — keine herunterladbare Endnutzer-App
  • Früher unter dem Namen langchain-ChatGLM; im August 2023 in Langchain-Chatchat umbenannt, als die Modellunterstützung über ChatGLM hinaus erweitert wurde
  • Unter Apache-2.0 lizenziert, bestätigt über die LICENSE-Datei des GitHub-Repositorys
  • Unterstützt ChatGLM, Qwen, Llama und weitere Modelle über austauschbare Backends — Xinference, Ollama, LocalAI, FastChat, One API — oder Cloud-APIs
  • Über 38.600 GitHub-Stars und 6.200+ Forks, 26 offene Issues, zum Zeitpunkt dieser Review (18.09.2026); das Repository ist nicht archiviert
  • Die neueste getaggte GitHub-Version ist v0.3.1 (12. Juli 2024); der letzte Push ins Repository erfolgte am 10. November 2025 — eine reale Lücke zwischen der jüngsten Commit-Aktivität und dem letzten Versions-Tag

📍 In einem Satz

Langchain-Chatchat ist ein kostenloses, quelloffenes, selbst gehostetes RAG- und Agent-Framework auf Basis von LangChain, früher langchain-ChatGLM genannt, das lokale Wissensdatenbank-Frage-Antwort-Funktionen gegen Modelle wie ChatGLM, Qwen und Llama oder gegen Cloud-APIs ausführt, ohne kostenpflichtige Stufe.

💬 In einfachen Worten

Statt für einen gehosteten Dokument-Chat-Dienst zu bezahlen, können Sie mit Langchain-Chatchat ein kostenloses Tool auf Ihrem eigenen Server installieren, das Ihre Dokumente liest, in durchsuchbare Abschnitte zerlegt und Fragen dazu mithilfe eines von Ihnen gewählten KI-Modells beantwortet — eines, das lokal auf Ihrer eigenen Hardware läuft, oder eine Cloud-API, die Sie mit Ihrem eigenen Schlüssel anbinden.

📌Hinweis: Diese Review ist die begleitende Vertiefung zum Eintrag von Langchain-Chatchat im Local LLM Software Directory — dort sehen Sie auf einen Blick, wie sich das Tool im Vergleich zu Dutzenden anderer lokaler KI-Tools einordnet.

Was ist Langchain-Chatchat?

Langchain-Chatchat ist eine kostenlose, quelloffene, selbst gehostete Anwendung für lokale Wissensdatenbank-Retrieval-Augmented-Generation (RAG) und Agent-Workflows, aufgebaut auf dem LangChain-Framework. Die Beschreibung des GitHub-Repositorys bezeichnet es als RAG- und Agent-Anwendung auf Basis von LangChain und Modellen wie ChatGLM, Qwen und Llama. Ursprünglich wurde es um April 2023 als langchain-ChatGLM veröffentlicht, speziell rund um das Modell ChatGLM-6B aufgebaut, und im August 2023 in Langchain-Chatchat umbenannt, als die Modellunterstützung breiter wurde.

  • Produkttyp: eine selbst gehostete Webanwendung (Streamlit-basierte Oberfläche) plus Python-Paket und Docker-Image — kein herunterladbares Endnutzer-Binary
  • Entwickler: die GitHub-Organisation chatchat-space
  • Repository: github.com/chatchat-space/Langchain-Chatchat, erstellt am 31. März 2023
  • Lizenz: Apache-2.0, bestätigt über die LICENSE-Datei des Repositorys
  • Umfang: über 38.600 GitHub-Stars und 6.200+ Forks, 26 offene Issues, zum Zeitpunkt dieser Review (18.09.2026); das Repository ist nicht archiviert
  • Herkunft: ein Open-Source-Projekt chinesischen Ursprungs mit zweisprachigem (Chinesisch/Englisch) README, ursprünglich rund um die ChatGLM-Modellfamilie aufgebaut und mittlerweile mit Unterstützung für Qwen, Llama und weitere Modelle über austauschbare Backends

Projektgeschichte und Versionsmeilensteine von Langchain-Chatchat

Langchain-Chatchat hat seit seiner ursprünglichen, rein auf ChatGLM-6B ausgelegten Veröffentlichung 2023 mehrere Architekturänderungen durchlaufen, wobei sich der Release-Takt seit Mitte 2024 deutlich verlangsamt hat.

  1. 1
    v0.1.0 — etwa April 2023: Erste Veröffentlichung als langchain-ChatGLM
    Why it matters: Der Ausgangspunkt des Projekts: eine auf ein einzelnes Modell (ChatGLM-6B) zugeschnittene lokale Wissensdatenbank-Frage-Antwort-Anwendung.
  2. 2
    Umbenennung in Langchain-Chatchat — August 2023, mit FastChat-Integration in v0.2.0
    Why it matters: Markierte den Wandel des Projekts von einem reinen ChatGLM-Tool zu einem breiteren Framework mit mehreren Modell-Backends.
  3. 3
    v0.2.5 — Oktober 2023: Agent-Funktionen hinzugefügt
    Why it matters: Führte agentenartige, werkzeugnutzende Workflows neben der ursprünglichen RAG-Frage-Antwort-Pipeline ein.
  4. 4
    v0.2.8 — 1. Dezember 2023
    Why it matters: Inkrementelles getaggtes Release in der v0.2.x-Reihe.
  5. 5
    v0.2.9 — 31. Dezember 2023
    Why it matters: Inkrementelles getaggtes Release zum Abschluss des Jahres 2023.
  6. 6
    v0.2.10 — 25. Januar 2024
    Why it matters: Letztes Release der v0.2.x-Reihe vor der Architekturänderung in v0.3.0.
  7. 7
    v0.3.0 — 20. Juni 2024: Im eigenen Changelog des Projekts als "neue Architektur" bezeichnet
    Why it matters: Eine bedeutende interne Überarbeitung der Anwendungsarchitektur.
  8. 8
    v0.3.1 — 12. Juli 2024: Die neueste, von dieser Review gefundene getaggte GitHub-Version
    Why it matters: Dies ist der neueste Versions-Tag zum Zeitpunkt dieser Review — es wurde kein neueres getaggtes Release gefunden.

Was kann Langchain-Chatchat tatsächlich?

Die Kernfunktion von Langchain-Chatchat ist eine lokale Wissensdatenbank-RAG-Pipeline: Sie zerlegt Ihre Dokumente in Abschnitte, wandelt diese in Vektor-Embeddings um, ruft per Ähnlichkeitssuche die relevantesten Abschnitte für eine gestellte Frage ab und übergibt sie einem LLM zur Antwortgenerierung.

  • Lokale Wissensdatenbank-RAG-Pipeline: Textzerlegung → Vektorisierung → Ähnlichkeitsabgleich → Antwortgenerierung durch das LLM
  • Agent-Unterstützung, besonders optimiert für die Modelle ChatGLM3 und Qwen, für werkzeugnutzende und mehrstufige Workflows
  • Mehrere austauschbare Backends für die Modellbereitstellung: Xinference, Ollama, LocalAI, FastChat sowie die Integration von "One API", sodass Sie wählen können, welcher Inferenz-Server Ihr Modell ausführt
  • Multimodale Unterstützung: Bilddialog und Text-zu-Bild-Funktionen
  • Datenbank-/SQL-Dialog ("Chat mit Ihrer Datenbank") zum Abfragen strukturierter Daten in natürlicher Sprache
  • Mit Streamlit erstellte Weboberfläche, die mehrere gleichzeitige Konversationen unterstützt

Anwendungsbeispiele: Drei Möglichkeiten, Langchain-Chatchat zu nutzen

Dies sind konkrete Workflows, die auf den oben dokumentierten Funktionen von Langchain-Chatchat basieren — keine hypothetischen Anwendungsfälle.

Ist Langchain-Chatchat kostenlos?

Ja — Langchain-Chatchat ist kostenlos und quelloffen, ohne eine separate kostenpflichtige Stufe, die diese Review gefunden hat. Es ist unter Apache-2.0 lizenziert, bestätigt über die LICENSE-Datei des Repositorys, und diese Review fand keine vom Anbieter betriebene gehostete/Cloud-Version des Tools — Sie installieren und betreiben es selbst.

  • Kein Abonnement, keine Lizenzgebühr und kein Nutzungslimit, das von Langchain-Chatchat selbst auferlegt wird
  • Selbst gehostet: Sie stellen Ihren eigenen Server/Ihre eigene Hardware bereit und zahlen nur für diese Infrastruktur, zuzüglich etwaiger Cloud-Modell-API-Kosten, falls Sie sich für ein Cloud-Backend statt eines lokalen Modells entscheiden
  • Die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung, Modifikation und Weitergabe, vorbehaltlich der üblichen Zuschreibungs- und Hinweispflichten der Lizenz

Langchain-Chatchat vs. RAGFlow

Langchain-Chatchat und RAGFlow sind beide selbst gehostete, quelloffene RAG-Anwendungen, verfolgen aber unterschiedliche Ansätze bei der Verarbeitung und Beantwortung von Fragen zu Ihren Dokumenten.

Hauptfokus

Langchain-Chatchat:
Lokale Wissensdatenbank-RAG- und Agent-Workflows, direkt auf dem LangChain-Framework aufgebaut
RAGFlow:
RAG mit Fokus auf Dokumentenverständnis — geprüfte Details in der eigenen RAGFlow-Review

Flexibilität der Modell-Backends

Langchain-Chatchat:
Austauschbare Backends: Xinference, Ollama, LocalAI, FastChat, One API oder Cloud-APIs
RAGFlow:
Backend-Unterstützung siehe RAGFlow-Review

Multimodale Unterstützung

Langchain-Chatchat:
Bilddialog und Text-zu-Bild-Funktionen
RAGFlow:
Details siehe RAGFlow-Review

SQL-/Datenbank-Chat

Langchain-Chatchat:
Ja — dedizierte Chat-mit-Ihrer-Datenbank-Funktion
RAGFlow:
Details siehe RAGFlow-Review

Release-Takt

Langchain-Chatchat:
Neuestes getaggtes Release v0.3.1 (Juli 2024); letzter Repository-Push im November 2025
RAGFlow:
Aktueller Release-Takt siehe RAGFlow-Review

Lizenz

Langchain-Chatchat:
Apache-2.0
RAGFlow:
Lizenz siehe RAGFlow-Review

Diese Tabelle spiegelt die eigenen, geprüften Fakten von Langchain-Chatchat wider; für konkrete Angaben zu RAGFlow lesen Sie die RAGFlow-Review direkt, statt sich allein auf diese Zusammenfassung zu verlassen.

Für wen eignet sich Langchain-Chatchat?

Ob Langchain-Chatchat passt, hängt davon ab, ob Sie ein kostenloses, selbst gehostetes RAG- und Agent-Framework auf Basis von LangChain möchten und ob der zuletzt langsamere Release-Takt für Ihren Anwendungsfall akzeptabel ist.

Wettbewerber und Alternativen

Langchain-Chatchat ordnet sich im Segment selbst gehosteter RAG- und Dokumenten-Chat-Tools neben RAGFlow, LlamaIndex, Haystack und MaxKB ein.

RAGFlow

Best known for:
Selbst gehostetes RAG mit tiefem, layoutbewusstem Dokumentenverständnis
Link:
RAGFlow-Review
Artikel über RAGFlow (4)

Auch erwähnt in:

LlamaIndex

Best known for:
Allzweck-Open-Source-RAG-/Daten-Framework, um LLMs mit eigenen Daten zu verbinden
Link:
LlamaIndex-Review
Artikel über LlamaIndex (10)

+15 weitere nicht angezeigt

Haystack (deepset)

Best known for:
Open-Source-RAG- und Suchpipeline-Framework von deepset
Link:
Haystack-Review

MaxKB

Best known for:
Selbst gehostete Wissensdatenbank-Q&A-Plattform, ebenfalls chinesischen Ursprungs
Link:
MaxKB-Review
Artikel über MaxKB (3)

Auch erwähnt in:

Diese Liste spiegelt Tools wider, die häufig mit Langchain-Chatchat im Segment selbst gehosteter RAG-/Dokumenten-Chat-Tools verglichen werden, nicht ein unabhängiges PromptQuorum-Ranking — siehe das Local LLM Software Directory für den vollständigen Katalog, und prüfen Sie den aktuellen Funktionsumfang und die Lizenz jedes Tools, bevor Sie sich entscheiden.

Häufige Fehler bei der Bewertung von Langchain-Chatchat

Die meiste Verwirrung um Langchain-Chatchat entsteht durch seine Namensgeschichte, Annahmen über seinen Release-Takt oder sein Verhältnis zum LangChain-Framework, auf dem es aufbaut.

Häufig gestellte Fragen

Was ist Langchain-Chatchat?

Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis von LangChain, die vor ihrer Umbenennung im August 2023 langchain-ChatGLM hieß.

Ist Langchain-Chatchat kostenlos?

Ja. Es ist unter Apache-2.0 lizenziert, und diese Review fand keine separate kostenpflichtige Stufe, kein verwaltetes Cloud-Angebot und keinen kommerziellen Support-Plan.

Wie installiere ich Langchain-Chatchat?

Über pip (pip install langchain-chatchat -U, oder `pip install "langchain-chatchat[xinference]" -U für das Xinference-Backend) oder Docker (docker pull chatimage/chatchat`). Die eigene Dokumentation des Projekts empfiehlt für den Produktivbetrieb nachdrücklich eine docker-compose-Bereitstellung.

Welche Lizenz verwendet Langchain-Chatchat?

Apache-2.0, bestätigt über die LICENSE-Datei des GitHub-Repositorys.

Welche Modelle und Backends unterstützt Langchain-Chatchat?

ChatGLM, Qwen, Llama und weitere Modelle über austauschbare Backends — Xinference, Ollama, LocalAI, FastChat und die Integration von "One API" — oder Cloud-APIs.

Wird Langchain-Chatchat aktiv gepflegt?

Diese Review fand eine Lücke von rund 16 Monaten zwischen dem letzten getaggten Release (v0.3.1, 12. Juli 2024) und dem letzten Repository-Push (10. November 2025). Es gibt laufende Commit-Aktivität, aber der Release-Takt hat sich seit Mitte 2024 deutlich verlangsamt — prüfen Sie den aktuellen Status direkt auf GitHub.

Was ist der Unterschied zwischen Langchain-Chatchat und LangChain selbst?

Langchain-Chatchat baut auf dem LangChain-Framework auf, ist aber eine eigenständige RAG- und Agent-Anwendung mit eigenem Repository, eigener Oberfläche und eigenem Funktionsumfang — nicht die allgemeine LangChain-Bibliothek selbst.

Unterstützt Langchain-Chatchat Chinesisch und ChatGLM?

Ja. Das Projekt wurde ursprünglich rund um die ChatGLM-Modellfamilie aufgebaut (unter dem früheren Namen langchain-ChatGLM), hat ein zweisprachiges Chinesisch/Englisch-README und bleibt ein Open-Source-Projekt chinesischen Ursprungs.

Unterstützt Langchain-Chatchat SQL-/Datenbank-Chat?

Ja, es enthält eine dedizierte Chat-mit-Ihrer-Datenbank-Funktion zum Abfragen strukturierter Daten in natürlicher Sprache.

Wer pflegt Langchain-Chatchat?

Die GitHub-Organisation chatchat-space pflegt das kanonische Repository des Projekts.

Quellen

← Zurück zu Lokale LLMs Pro