Zum Hauptinhalt springen
PromptQuorumFür Menschen gemacht. Strukturiert für KI.
Startseite/Lokale LLMs Pro
RAG & Document Chat

Langchain-Chatchat Review: Selbst gehostetes RAG- und Agent-Framework

·11 Min. LesezeitVon Hans Kuepper · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

Langchain-Chatchat (früher langchain-ChatGLM) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis des LangChain-Frameworks, mit der Sie lokale Wissensdatenbank-Frage-Antwort-Funktionen gegen Modelle wie ChatGLM, Qwen und Llama oder gegen Cloud-APIs ausführen können. Entwickelt von der GitHub-Organisation chatchat-space und lizenziert unter Apache-2.0, gibt es keine kostenpflichtige Stufe — Sie installieren die Anwendung selbst über pip oder Docker und betreiben sie auf Ihrer eigenen Hardware oder Ihrem eigenen Server, wobei Sie wählen, welches Modell-Backend Sie anbinden. Das Projekt hat über 38.600 GitHub-Stars, wobei sich der Release-Takt seit der letzten getaggten Version v0.3.1 im Juli 2024 deutlich verlangsamt hat.

Wichtigste Erkenntnisse

  • Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis von LangChain — keine herunterladbare Endnutzer-App
  • Früher unter dem Namen langchain-ChatGLM; im August 2023 in Langchain-Chatchat umbenannt, als die Modellunterstützung über ChatGLM hinaus erweitert wurde
  • Unter Apache-2.0 lizenziert, bestätigt über die LICENSE-Datei des GitHub-Repositorys
  • Unterstützt ChatGLM, Qwen, Llama und weitere Modelle über austauschbare Backends — Xinference, Ollama, LocalAI, FastChat, One API — oder Cloud-APIs
  • Über 38.600 GitHub-Stars und 6.200+ Forks, 26 offene Issues, zum Zeitpunkt dieser Review (18.09.2026); das Repository ist nicht archiviert
  • Die neueste getaggte GitHub-Version ist v0.3.1 (12. Juli 2024); der letzte Push ins Repository erfolgte am 10. November 2025 — eine reale Lücke zwischen der jüngsten Commit-Aktivität und dem letzten Versions-Tag

📍 In einem Satz

Langchain-Chatchat ist ein kostenloses, quelloffenes, selbst gehostetes RAG- und Agent-Framework auf Basis von LangChain, früher langchain-ChatGLM genannt, das lokale Wissensdatenbank-Frage-Antwort-Funktionen gegen Modelle wie ChatGLM, Qwen und Llama oder gegen Cloud-APIs ausführt, ohne kostenpflichtige Stufe.

💬 In einfachen Worten

Statt für einen gehosteten Dokument-Chat-Dienst zu bezahlen, können Sie mit Langchain-Chatchat ein kostenloses Tool auf Ihrem eigenen Server installieren, das Ihre Dokumente liest, in durchsuchbare Abschnitte zerlegt und Fragen dazu mithilfe eines von Ihnen gewählten KI-Modells beantwortet — eines, das lokal auf Ihrer eigenen Hardware läuft, oder eine Cloud-API, die Sie mit Ihrem eigenen Schlüssel anbinden.

📌Hinweis: Diese Review ist die begleitende Vertiefung zum Eintrag von Langchain-Chatchat im Local LLM Software Directory — dort sehen Sie auf einen Blick, wie sich das Tool im Vergleich zu Dutzenden anderer lokaler KI-Tools einordnet.

Lesen auf:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis des LangChain-Frameworks, die vor ihrer Umbenennung im August 2023 langchain-ChatGLM hieß. Sie führt lokale Wissensdatenbank-Frage-Antwort-Funktionen mit Modellen wie ChatGLM, Qwen und Llama über austauschbare Backends aus, oder mit Cloud-APIs, und hat über 38.600 GitHub-Stars. Diese Review behandelt, was die App kann, ihre Versionsgeschichte, wie man sie installiert, und wie sie sich im Vergleich zu anderen selbst gehosteten RAG-Tools einordnet.

Was ist Langchain-Chatchat?

Langchain-Chatchat ist eine kostenlose, quelloffene, selbst gehostete Anwendung für lokale Wissensdatenbank-Retrieval-Augmented-Generation (RAG) und Agent-Workflows, aufgebaut auf dem LangChain-Framework. Die Beschreibung des GitHub-Repositorys bezeichnet es als RAG- und Agent-Anwendung auf Basis von LangChain und Modellen wie ChatGLM, Qwen und Llama. Ursprünglich wurde es um April 2023 als langchain-ChatGLM veröffentlicht, speziell rund um das Modell ChatGLM-6B aufgebaut, und im August 2023 in Langchain-Chatchat umbenannt, als die Modellunterstützung breiter wurde.

  • Produkttyp: eine selbst gehostete Webanwendung (Streamlit-basierte Oberfläche) plus Python-Paket und Docker-Image — kein herunterladbares Endnutzer-Binary
  • Entwickler: die GitHub-Organisation chatchat-space
  • Repository: github.com/chatchat-space/Langchain-Chatchat, erstellt am 31. März 2023
  • Lizenz: Apache-2.0, bestätigt über die LICENSE-Datei des Repositorys
  • Umfang: über 38.600 GitHub-Stars und 6.200+ Forks, 26 offene Issues, zum Zeitpunkt dieser Review (18.09.2026); das Repository ist nicht archiviert
  • Herkunft: ein Open-Source-Projekt chinesischen Ursprungs mit zweisprachigem (Chinesisch/Englisch) README, ursprünglich rund um die ChatGLM-Modellfamilie aufgebaut und mittlerweile mit Unterstützung für Qwen, Llama und weitere Modelle über austauschbare Backends

Projektgeschichte und Versionsmeilensteine von Langchain-Chatchat

Langchain-Chatchat hat seit seiner ursprünglichen, rein auf ChatGLM-6B ausgelegten Veröffentlichung 2023 mehrere Architekturänderungen durchlaufen, wobei sich der Release-Takt seit Mitte 2024 deutlich verlangsamt hat.

  1. 1
    v0.1.0 — etwa April 2023: Erste Veröffentlichung als langchain-ChatGLM
    Why it matters: Der Ausgangspunkt des Projekts: eine auf ein einzelnes Modell (ChatGLM-6B) zugeschnittene lokale Wissensdatenbank-Frage-Antwort-Anwendung.
  2. 2
    Umbenennung in Langchain-Chatchat — August 2023, mit FastChat-Integration in v0.2.0
    Why it matters: Markierte den Wandel des Projekts von einem reinen ChatGLM-Tool zu einem breiteren Framework mit mehreren Modell-Backends.
  3. 3
    v0.2.5 — Oktober 2023: Agent-Funktionen hinzugefügt
    Why it matters: Führte agentenartige, werkzeugnutzende Workflows neben der ursprünglichen RAG-Frage-Antwort-Pipeline ein.
  4. 4
    v0.2.8 — 1. Dezember 2023
    Why it matters: Inkrementelles getaggtes Release in der v0.2.x-Reihe.
  5. 5
    v0.2.9 — 31. Dezember 2023
    Why it matters: Inkrementelles getaggtes Release zum Abschluss des Jahres 2023.
  6. 6
    v0.2.10 — 25. Januar 2024
    Why it matters: Letztes Release der v0.2.x-Reihe vor der Architekturänderung in v0.3.0.
  7. 7
    v0.3.0 — 20. Juni 2024: Im eigenen Changelog des Projekts als "neue Architektur" bezeichnet
    Why it matters: Eine bedeutende interne Überarbeitung der Anwendungsarchitektur.
  8. 8
    v0.3.1 — 12. Juli 2024: Die neueste, von dieser Review gefundene getaggte GitHub-Version
    Why it matters: Dies ist der neueste Versions-Tag zum Zeitpunkt dieser Review — es wurde kein neueres getaggtes Release gefunden.

Was kann Langchain-Chatchat tatsächlich?

Die Kernfunktion von Langchain-Chatchat ist eine lokale Wissensdatenbank-RAG-Pipeline: Sie zerlegt Ihre Dokumente in Abschnitte, wandelt diese in Vektor-Embeddings um, ruft per Ähnlichkeitssuche die relevantesten Abschnitte für eine gestellte Frage ab und übergibt sie einem LLM zur Antwortgenerierung.

  • Lokale Wissensdatenbank-RAG-Pipeline: Textzerlegung → Vektorisierung → Ähnlichkeitsabgleich → Antwortgenerierung durch das LLM
  • Agent-Unterstützung, besonders optimiert für die Modelle ChatGLM3 und Qwen, für werkzeugnutzende und mehrstufige Workflows
  • Mehrere austauschbare Backends für die Modellbereitstellung: Xinference, Ollama, LocalAI, FastChat sowie die Integration von "One API", sodass Sie wählen können, welcher Inferenz-Server Ihr Modell ausführt
  • Multimodale Unterstützung: Bilddialog und Text-zu-Bild-Funktionen
  • Datenbank-/SQL-Dialog ("Chat mit Ihrer Datenbank") zum Abfragen strukturierter Daten in natürlicher Sprache
  • Mit Streamlit erstellte Weboberfläche, die mehrere gleichzeitige Konversationen unterstützt

Anwendungsbeispiele: Drei Möglichkeiten, Langchain-Chatchat zu nutzen

Dies sind konkrete Workflows, die auf den oben dokumentierten Funktionen von Langchain-Chatchat basieren — keine hypothetischen Anwendungsfälle.

Eine lokale Wissensdatenbank aufbauen und abfragen

Laden Sie eine Reihe von Dokumenten (PDFs, Textdateien und Ähnliches) in die Wissensdatenbank-Oberfläche von Langchain-Chatchat hoch. Die Anwendung zerlegt sie in Abschnitte, erstellt Vektor-Embeddings und speichert sie zur Abfrage. Nach der Indizierung können Sie Fragen in natürlicher Sprache stellen, und die Anwendung ruft die relevantesten Abschnitte ab, bevor sie mit Ihrem verbundenen Modell eine Antwort generiert — das selbst gehostete Äquivalent zum Hochladen von Dateien in einen Cloud-Dokument-Chat-Dienst.

Ein lokales Modell-Backend wie Ollama oder Xinference anbinden

Statt eine Cloud-API aufzurufen, verweisen Sie Langchain-Chatchat auf einen lokalen Inferenz-Server wie Ollama oder Xinference, der ChatGLM, Qwen oder Llama ausführt. Die Anwendung leitet ihre RAG- und Agent-Anfragen über dieses Backend, sodass Dokumentinhalte und Prompts auf Hardware bleiben, die Sie selbst kontrollieren.

Die SQL-/Datenbank-Chat-Funktion nutzen

Verbinden Sie Langchain-Chatchat mit einer strukturierten Datenbank und nutzen Sie die Chat-mit-Ihrer-Datenbank-Funktion, um Fragen in natürlicher Sprache zu stellen, statt direkt SQL zu schreiben — nützlich, um einen Datensatz zu erkunden, ohne zu einem separaten Abfragewerkzeug zu wechseln.

Ist Langchain-Chatchat kostenlos?

Ja — Langchain-Chatchat ist kostenlos und quelloffen, ohne eine separate kostenpflichtige Stufe, die diese Review gefunden hat. Es ist unter Apache-2.0 lizenziert, bestätigt über die LICENSE-Datei des Repositorys, und diese Review fand keine vom Anbieter betriebene gehostete/Cloud-Version des Tools — Sie installieren und betreiben es selbst.

  • Kein Abonnement, keine Lizenzgebühr und kein Nutzungslimit, das von Langchain-Chatchat selbst auferlegt wird
  • Selbst gehostet: Sie stellen Ihren eigenen Server/Ihre eigene Hardware bereit und zahlen nur für diese Infrastruktur, zuzüglich etwaiger Cloud-Modell-API-Kosten, falls Sie sich für ein Cloud-Backend statt eines lokalen Modells entscheiden
  • Die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung, Modifikation und Weitergabe, vorbehaltlich der üblichen Zuschreibungs- und Hinweispflichten der Lizenz

Langchain-Chatchat vs. RAGFlow

Langchain-Chatchat und RAGFlow sind beide selbst gehostete, quelloffene RAG-Anwendungen, verfolgen aber unterschiedliche Ansätze bei der Verarbeitung und Beantwortung von Fragen zu Ihren Dokumenten.

Hauptfokus

Langchain-Chatchat:
Lokale Wissensdatenbank-RAG- und Agent-Workflows, direkt auf dem LangChain-Framework aufgebaut
RAGFlow:
RAG mit Fokus auf Dokumentenverständnis — geprüfte Details in der eigenen RAGFlow-Review

Flexibilität der Modell-Backends

Langchain-Chatchat:
Austauschbare Backends: Xinference, Ollama, LocalAI, FastChat, One API oder Cloud-APIs
RAGFlow:
Backend-Unterstützung siehe RAGFlow-Review

Multimodale Unterstützung

Langchain-Chatchat:
Bilddialog und Text-zu-Bild-Funktionen
RAGFlow:
Details siehe RAGFlow-Review

SQL-/Datenbank-Chat

Langchain-Chatchat:
Ja — dedizierte Chat-mit-Ihrer-Datenbank-Funktion
RAGFlow:
Details siehe RAGFlow-Review

Release-Takt

Langchain-Chatchat:
Neuestes getaggtes Release v0.3.1 (Juli 2024); letzter Repository-Push im November 2025
RAGFlow:
Aktueller Release-Takt siehe RAGFlow-Review

Lizenz

Langchain-Chatchat:
Apache-2.0
RAGFlow:
Lizenz siehe RAGFlow-Review

Diese Tabelle spiegelt die eigenen, geprüften Fakten von Langchain-Chatchat wider; für konkrete Angaben zu RAGFlow lesen Sie die RAGFlow-Review direkt, statt sich allein auf diese Zusammenfassung zu verlassen.

Im Verzeichnis vergleichen

Für wen eignet sich Langchain-Chatchat?

Ob Langchain-Chatchat passt, hängt davon ab, ob Sie ein kostenloses, selbst gehostetes RAG- und Agent-Framework auf Basis von LangChain möchten und ob der zuletzt langsamere Release-Takt für Ihren Anwendungsfall akzeptabel ist.

Nutzen Sie Langchain-Chatchat, wenn Sie

  • ein kostenloses, selbst gehostetes RAG- und Agent-Framework direkt auf Basis von LangChain möchten, statt eines gehosteten SaaS-Produkts
  • eine Wissensdatenbank-Q&A-Anwendung für chinesischsprachige oder zweisprachige (Chinesisch/Englisch) Inhalte bauen und ein Tool mit ChatGLM-/Qwen-optimierter Agent-Unterstützung möchten
  • Ihr eigenes Modell-Backend wählen möchten (Xinference, Ollama, LocalAI, FastChat oder eine Cloud-API), statt an eines gebunden zu sein
  • Datenbank-/SQL-Chat zusammen mit Dokumenten-RAG in derselben Anwendung benötigen
  • es gewohnt sind, eine selbst gehostete Python-/Docker-Anwendung samt ihrer Abhängigkeiten selbst bereitzustellen und zu pflegen

Suchen Sie anderswo, wenn Sie

  • ein Projekt mit häufigem, aktuellem Release-Takt möchten — diese Review fand eine Lücke von rund 16 Monaten zwischen dem letzten getaggten Release von Langchain-Chatchat (v0.3.1, Juli 2024) und dem letzten Repository-Push (November 2025)
  • eine herunterladbare Endnutzer-Desktop-App benötigen statt einer selbst gehosteten Webanwendung, die Sie selbst bereitstellen
  • integrierten Enterprise-Support, ein SLA oder eine vom Anbieter verwaltete Cloud-Version möchten — diese Review fand kein solches Angebot
  • ein RAG-Tool benötigen, das speziell auf tiefes, layoutbewusstes Dokumentenverständnis fokussiert ist — Vergleich siehe RAGFlow-Review

Wettbewerber und Alternativen

Langchain-Chatchat ordnet sich im Segment selbst gehosteter RAG- und Dokumenten-Chat-Tools neben RAGFlow, LlamaIndex, Haystack und MaxKB ein.

RAGFlow

Best known for:
Selbst gehostetes RAG mit tiefem, layoutbewusstem Dokumentenverständnis
Link:
RAGFlow-Review
Artikel über RAGFlow (4)

Auch erwähnt in:

Haystack (deepset)

Best known for:
Open-Source-RAG- und Suchpipeline-Framework von deepset
Link:
Haystack-Review

MaxKB

Best known for:
Selbst gehostete Wissensdatenbank-Q&A-Plattform, ebenfalls chinesischen Ursprungs
Link:
MaxKB-Review
Artikel über MaxKB (4)

Diese Liste spiegelt Tools wider, die häufig mit Langchain-Chatchat im Segment selbst gehosteter RAG-/Dokumenten-Chat-Tools verglichen werden, nicht ein unabhängiges PromptQuorum-Ranking — siehe das Local LLM Software Directory für den vollständigen Katalog, und prüfen Sie den aktuellen Funktionsumfang und die Lizenz jedes Tools, bevor Sie sich entscheiden.

Im Verzeichnis vergleichen

Häufige Fehler bei der Bewertung von Langchain-Chatchat

Die meiste Verwirrung um Langchain-Chatchat entsteht durch seine Namensgeschichte, Annahmen über seinen Release-Takt oder sein Verhältnis zum LangChain-Framework, auf dem es aufbaut.

Fehler 1: Annehmen, es sei unter seinem alten Namen noch ChatGLM-only

Das Projekt wurde ursprünglich um April 2023 als langchain-ChatGLM veröffentlicht, speziell rund um das Modell ChatGLM-6B aufgebaut. Im August 2023 wurde es in Langchain-Chatchat umbenannt und unterstützt heute über ChatGLM hinaus mehrere Modell-Backends, darunter Qwen und Llama, über austauschbare Serving-Schichten.

Fehler 2: Häufige aktuelle Releases annehmen

Das neueste getaggte GitHub-Release von Langchain-Chatchat ist v0.3.1, veröffentlicht am 12. Juli 2024. Diese Review fand den letzten Repository-Push vom 10. November 2025 — laufende Commit-Aktivität, jedoch ohne ein entsprechendes aktuelles Versions-Tag. Prüfen Sie den aktuellen Release- und Commit-Status direkt auf GitHub, statt einen schnellen Release-Takt anzunehmen.

Fehler 3: Verwechslung mit dem reinen LangChain

Langchain-Chatchat baut auf dem LangChain-Framework auf, ist aber eine eigenständige Anwendung mit eigenem Repository, eigener Oberfläche und eigenem Agent-/RAG-Funktionsumfang — nicht dasselbe Projekt wie die allgemeine LangChain-Bibliothek selbst.

Fehler 4: Annehmen, es sei entweder rein Cloud- oder rein lokal

Langchain-Chatchat ist hybrid: Es unterstützt lokale Modell-Backends (Xinference, Ollama, LocalAI, FastChat) für vollständig selbst gehostete Inferenz sowie Cloud-API-Verbindungen, je nachdem, wie Sie es konfigurieren — keiner der beiden Modi wird von der Software selbst erzwungen.

Häufig gestellte Fragen

Was ist Langchain-Chatchat?

Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) ist eine kostenlose, quelloffene, selbst gehostete RAG- und Agent-Anwendung auf Basis von LangChain, die vor ihrer Umbenennung im August 2023 langchain-ChatGLM hieß.

Ist Langchain-Chatchat kostenlos?

Ja. Es ist unter Apache-2.0 lizenziert, und diese Review fand keine separate kostenpflichtige Stufe, kein verwaltetes Cloud-Angebot und keinen kommerziellen Support-Plan.

Wie installiere ich Langchain-Chatchat?

Über pip (pip install langchain-chatchat -U, oder `pip install "langchain-chatchat[xinference]" -U für das Xinference-Backend) oder Docker (docker pull chatimage/chatchat`). Die eigene Dokumentation des Projekts empfiehlt für den Produktivbetrieb nachdrücklich eine docker-compose-Bereitstellung.

Welche Lizenz verwendet Langchain-Chatchat?

Apache-2.0, bestätigt über die LICENSE-Datei des GitHub-Repositorys.

Welche Modelle und Backends unterstützt Langchain-Chatchat?

ChatGLM, Qwen, Llama und weitere Modelle über austauschbare Backends — Xinference, Ollama, LocalAI, FastChat und die Integration von "One API" — oder Cloud-APIs.

Wird Langchain-Chatchat aktiv gepflegt?

Diese Review fand eine Lücke von rund 16 Monaten zwischen dem letzten getaggten Release (v0.3.1, 12. Juli 2024) und dem letzten Repository-Push (10. November 2025). Es gibt laufende Commit-Aktivität, aber der Release-Takt hat sich seit Mitte 2024 deutlich verlangsamt — prüfen Sie den aktuellen Status direkt auf GitHub.

Was ist der Unterschied zwischen Langchain-Chatchat und LangChain selbst?

Langchain-Chatchat baut auf dem LangChain-Framework auf, ist aber eine eigenständige RAG- und Agent-Anwendung mit eigenem Repository, eigener Oberfläche und eigenem Funktionsumfang — nicht die allgemeine LangChain-Bibliothek selbst.

Unterstützt Langchain-Chatchat Chinesisch und ChatGLM?

Ja. Das Projekt wurde ursprünglich rund um die ChatGLM-Modellfamilie aufgebaut (unter dem früheren Namen langchain-ChatGLM), hat ein zweisprachiges Chinesisch/Englisch-README und bleibt ein Open-Source-Projekt chinesischen Ursprungs.

Unterstützt Langchain-Chatchat SQL-/Datenbank-Chat?

Ja, es enthält eine dedizierte Chat-mit-Ihrer-Datenbank-Funktion zum Abfragen strukturierter Daten in natürlicher Sprache.

Wer pflegt Langchain-Chatchat?

Die GitHub-Organisation chatchat-space pflegt das kanonische Repository des Projekts.

Quellen

← Zurück zu Lokale LLMs Pro

MCP