Wichtigste Erkenntnisse
- Über 42.000 GitHub-Stars, MIT-Lizenz — kostenlos für privaten und kommerziellen Gebrauch, keine Multi-Tenant-Einschränkung wie bei manchen Wettbewerbern
- Erstellt von Danny Avila; begann 2023 als Hack-Reactor-Coding-Bootcamp-Projekt namens "ChatGPT Clone"
- Unterstützung für lokale LLMs ist eine Kernfunktion, kein nachträglicher Zusatz: jeder OpenAI-API-kompatible Endpunkt lässt sich als Custom Endpoint hinzufügen
- Agenten können über das Model Context Protocol (MCP) Tools aufrufen, einen isolierten Code-Interpreter ausführen und in einem App-internen Agenten-Marktplatz veröffentlicht werden
- RAG-API (separates Repository) lässt Nutzer Dateien hochladen und damit chatten, gestützt auf eine Vektordatenbank
- Multi-User-Auth (E-Mail/Passwort, OAuth2-Anbieter, LDAP) macht es als geteiltes Team-Tool einsetzbar, anders als Einzelnutzer-Desktop-Apps
📍 In einem Satz
LibreChat ist eine kostenlose, MIT-lizenzierte, selbst gehostete Chat-Plattform, die sowohl proprietäre KI-Anbieter als auch lokale/selbst gehostete Inferenzserver (Ollama, LocalAI, LM Studio, vLLM und Ähnliches) über benutzerdefinierte OpenAI-API-kompatible Endpunkte verbindet und zusätzlich Agenten, MCP-Tool-Unterstützung und eine RAG-API bietet.
💬 In einfachen Worten
Statt pro Token für einen gehosteten Chatbot zu zahlen, lässt LibreChat Sie Ihre eigene ChatGPT-artige Oberfläche auf Ihrem eigenen Server betreiben — verbunden mit einem Modell auf Ihrer eigenen Hardware, wenn Sie null API-Kosten und null abfließende Daten wollen.
📌Hinweis: Dieser Test gibt wieder, was das GitHub-Repository, die Dokumentations-Website und das README von LibreChat selbst angeben. PromptQuorum hat die Leistung von LibreChat nicht eigenständig benchmarkt oder die Testsuite selbst ausgeführt — siehe den Abschnitt Tests und CI dafür, was die eigenen CI-Workflows des Projekts abdecken.
Was ist LibreChat?
LibreChat ist eine quelloffene, selbst gehostete Chat-Plattform, die mehrere KI-Anbieter hinter einer Oberfläche vereint. Statt Sie an einen einzigen Anbieter zu binden, lässt sie Sie mehrere KI-Anbieter und lokale Inferenzserver nebeneinander konfigurieren und mitten in einer Unterhaltung zwischen ihnen wechseln. Das Projekt wird von Danny Avila und der LibreChat-Community gepflegt und ist unter github.com/danny-avila/LibreChat gehostet, wo es über 42.000 GitHub-Stars überschritten hat.
- Multi-Provider-Chat: proprietäre KI-Anbieter und selbst gehostete/lokale Modelle als separate Endpunkte in derselben Oberfläche konfiguriert
- Custom Endpoints: jeder OpenAI-API-kompatible Server — einschließlich lokaler Inferenzserver — lässt sich ohne Codeänderung hinzufügen, nur über einen Konfigurationseintrag
- Agenten: No-Code-Assistenten mit Tool-Zugriff, einem Agenten-Marktplatz und Model-Context-Protocol-(MCP)-Unterstützung
- Code-Interpreter: isolierte Ausführung über mehrere Sprachen hinweg, mit Dateiverwaltung
- Artifacts: generiert und rendert React-Komponenten, HTML und Mermaid-Diagramme direkt im Chat
- RAG-API: ein begleitender Dienst (separates Repository) zum Hochladen von Dokumenten und Chatten damit über Retrieval-Augmented Generation
- Multi-User-Unterstützung: E-Mail/Passwort-Login, OAuth2 (Google, GitHub, Discord und Ähnliches) und LDAP, sodass es für ein Team statt für eine Einzelperson eingesetzt werden kann
Geschichte und Gründer: Danny Avila
LibreChat wurde von Danny Avila erstellt, einem autodidaktischen Entwickler, der laut seinem öffentlichen LibreChat-Autorenprofil 2022 mit dem Programmieren begann und zuvor als Buchhalter arbeitete, bevor er in die Softwareentwicklung wechselte. Das Projekt startete unter dem Namen "ChatGPT Clone" als sein Abschlussprojekt für das Hack-Reactor-Coding-Bootcamp, bei dem die Aufgabe war, ein Full-Stack-Projekt in kurzer Zeit von Grund auf zu bauen. Avila veröffentlichte das Projekt 2023 als Open Source auf GitHub, und es wird seither kontinuierlich weiterentwickelt — vom Single-Provider-ChatGPT-Klon zu einer Multi-Provider-Plattform mit Agenten, MCP und einer RAG-API.
Avila bleibt Gründer und Lead Maintainer des Projekts. Das Projekt nimmt außerdem Community-Beiträge auf GitHub an und listet Projekt-Autoren auf der offiziellen Dokumentations-Website.
LibreChat und lokale LLMs
Die Unterstützung lokaler Modelle in LibreChat läuft über die Custom-Endpoints-Funktion: jeder Inferenzserver, der einen OpenAI-API-kompatiblen Chat-Completions-Endpunkt bereitstellt, kann als Anbieter registriert werden — neben oder statt proprietärer KI-Dienste.
- Ollama: LibreChat listet Ollama explizit unter seinen dokumentierten "Lokalen & Remote-KI-Anbietern" — von Haus aus unterstützt
- LocalAI, text-generation-webui (oobabooga), LM Studio, vLLM: alle stellen OpenAI-kompatible Chat-Completions-APIs bereit, auf die die Custom-Endpoint-Konfiguration von LibreChat genauso zeigen kann wie auf jeden anderen Anbieter
- Apple MLX und koboldcpp werden ebenfalls in der dokumentierten Anbieterliste des Projekts für lokale/alternative Inferenz genannt
- Ein vollständig lokales Setup — LibreChat plus lokaler Inferenzserver, ohne konfigurierte proprietäre API-Schlüssel — hält Gesprächsdaten auf Infrastruktur, die Sie kontrollieren, und vermeidet Kosten pro Token
- Mehrere Endpunkte, lokal und remote, lassen sich gleichzeitig konfigurieren — ein Team kann sowohl ein schnelles proprietäres Modell als auch ein privates lokales Modell in derselben LibreChat-Instanz anbieten und je nach Unterhaltung wechseln
📌Hinweis: Ein vollständig offline laufendes Setup braucht trotzdem, dass jede andere konfigurierte Integration (Websuche, MCP-Tools, die externe APIs aufrufen, Bildgenerierung über einen Remote-Anbieter) deaktiviert oder auf lokale Äquivalente umgestellt wird — der Custom Endpoint macht nur die Chat-Completions lokal, nicht automatisch jede Funktion.
Wie LibreChat funktioniert
LibreChat ist eine klassische selbst gehostete Webanwendung: ein Node.js/Express-Backend, ein React-Frontend und MongoDB als primärer Datenspeicher, verteilt als Docker-Compose-Stack, sodass alles mit einem Befehl startet.
- Backend: Node.js mit Express übernimmt API-Anfragen, Provider-/Endpoint-Routing und Auth
- Frontend: eine React-Single-Page-Application stellt die Chat-Oberfläche im Browser bereit
- Datenbank: MongoDB speichert Unterhaltungen, Nutzer und Konfiguration; eine Vektordatenbank stützt die separate RAG-API für Dokument-Embeddings
- Deployment: der offizielle Schnellstart nutzt Docker Compose, um App, Datenbank und unterstützende Dienste gemeinsam hochzufahren
- Konfiguration: Anbieter und Custom Endpoints (einschließlich lokaler Inferenzserver) werden in einer YAML-Konfigurationsdatei (librechat.yaml) plus Umgebungsvariablen deklariert, nicht im Code
Funktionen: Agenten, MCP, RAG, Artifacts
Über den Basis-Chat hinaus konzentriert sich der Funktionsumfang von LibreChat auf vier Bereiche: Agenten, Tool-Zugriff über MCP, Retrieval über eigene Dateien und generierten interaktiven Inhalt.
- Agenten: No-Code-Assistenten, konfigurierbar je Anwendungsfall, einzeln einsetzbar und über einen App-internen Agenten-Marktplatz teilbar
- Model Context Protocol (MCP): Agenten können MCP-kompatible Tools und Datenquellen aufrufen und so über das eigene Training des Modells hinausgehen
- Code-Interpreter: isolierte Ausführung mit Unterstützung mehrerer Sprachen (laut Projektdokumentation unter anderem Python, Node.js), mit Datei-Upload/-Download
- Artifacts: das Modell kann React-Komponenten, HTML-Seiten und Mermaid-Diagramme generieren, die die Oberfläche direkt im Gespräch rendert
- RAG-API: ein separater Begleitdienst für Dokumenten-Upload und Retrieval-Augmented Chat über eigene Dateien
- Bildgenerierung und -bearbeitung: Integrationen für Anbieter wie DALL-E, Stable Diffusion und Flux, plus MCP-basierte Bild-Tools
- Multi-User-Authentifizierung: E-Mail/Passwort, OAuth2 (Google, GitHub, Discord und weitere Anbieter) und LDAP für Unternehmensverzeichnisse
- Gesprächssuche und mehrsprachige Oberfläche, geeignet für den Einsatz als geteiltes, teamorientiertes Deployment statt als Einzelnutzer-Tool
Tests und CI
Das GitHub-Repository von LibreChat führt eigene automatisierte Prüfungen über GitHub Actions aus, sichtbar im Verzeichnis .github/workflows des danny-avila/LibreChat-Repos. PromptQuorum hat die Testsuite von LibreChat nicht selbst ausgeführt; das Folgende gibt wieder, was die eigenen Workflow-Dateien des Repositorys laut Beobachtung auf GitHub zeigen.
- backend-review.yml und frontend-review.yml — automatisierte Code-Review-/Check-Workflows für Backend- und Frontend-Codebasis
- playwright-bombadil.yml und playwright-mock.yml — End-to-End-Test-Workflows mit Playwright, einer davon gegen gemockte Dienste
- agents-integration-tests.yml und cache-integration-tests.yml — Integrationstest-Workflows speziell für die Agenten-Funktion und die Caching-Schicht
- a11y.yml — ein Workflow für Barrierefreiheits-Tests
- static-checks.yml — statische Code-Analyse
- docker-smoke.yml — ein Smoke-Test gegen das gebaute Docker-Image vor der Veröffentlichung
Wie hostet man LibreChat selbst?
Der dokumentierte Schnellstart stellt LibreChat mit Docker Compose bereit, das App, MongoDB und unterstützende Dienste gemeinsam startet.
- 1Docker und Docker Compose installieren, falls noch nicht vorhanden — unter Linux, macOS oder Windows mit WSL2.
- 2Das Repository klonen: git clone https://github.com/danny-avila/LibreChat.git, dann cd LibreChat.
- 3Die Beispiel-Umgebungsdatei kopieren: cp .env.example .env, und Werte für die geplanten Anbieter setzen.
- 4Um ein lokales Modell hinzuzufügen: librechat.yaml erstellen oder bearbeiten und einen Custom Endpoint hinzufügen, der auf die OpenAI-kompatible URL Ihres lokalen Inferenzservers zeigt (zum Beispiel ein Ollama- oder LM-Studio-Server auf demselben Rechner oder im LAN).
- 5Den Stack starten: docker compose up -d. Dies startet Backend, Frontend und MongoDB gemeinsam.
- 6Die App im Browser öffnen (Standard http://localhost:3080), das erste Konto registrieren und den konfigurierten Endpunkt — proprietär oder lokal — auswählen, um mit dem Chatten zu beginnen.
Braucht selbst gehostetes LibreChat eine GPU?
Nein, nicht für LibreChat selbst. LibreChat ist eine Chat-Oberfläche und Orchestrierungsschicht — es ruft den jeweils konfigurierten Endpunkt auf, statt Modellinferenz im eigenen Prozess auszuführen. Eine GPU spielt nur eine Rolle, wenn Sie zusätzlich das lokale Modell selbst hosten, mit dem LibreChat über einen separaten Inferenzserver wie Ollama oder vLLM spricht.
Kann ich LibreChat vollständig offline mit lokalen Modellen betreiben?
Ja, für den Chat-Completion-Pfad: Richten Sie den Custom Endpoint von LibreChat auf einen lokalen OpenAI-API-kompatiblen Server wie Ollama, LocalAI oder vLLM aus und entfernen oder deaktivieren Sie proprietäre Anbieter-Schlüssel. Funktionen, die absichtlich externe Dienste aufrufen — Websuche, Bildgenerierung über einen Remote-Anbieter oder MCP-Tools mit Internetzugriff — müssen deaktiviert oder auf lokale Äquivalente umgestellt werden, damit das gesamte Deployment offline bleibt.
Für wen eignet sich LibreChat?
LibreChat passt zu Teams und Einzelpersonen, die eine Chat-Oberfläche über mehrere KI-Anbieter hinweg wollen, einschließlich lokaler Modelle, mit Raum für Agenten, Tool-Nutzung und Multi-User-Deployment.
LibreChat vs. Open WebUI, SillyTavern, AnythingLLM
LibreChat überschneidet sich am stärksten mit Open WebUI als selbst gehostetes Multi-Modell-Chat-Frontend für lokale und Remote-LLMs — der Unterschied liegt im Schwerpunkt: LibreChat setzt stärker auf Multi-Provider-Chat, Agenten und MCP-Tool-Nutzung; Open WebUI eher auf die Rolle als Standard-Self-Hosted-ChatGPT-Alternative mit eingebautem RAG; SillyTavern und AnythingLLM sind enger spezialisiert.
Tool | Schwerpunkt | Lizenz | Unterstützung lokaler LLMs |
|---|---|---|---|
| LibreChat | Multi-Provider-Chat / Agenten / MCP | MIT | Benutzerdefinierte OpenAI-kompatible Endpunkte |
| Open WebUI | Self-Hosted ChatGPT-Alternative, eingebautes RAG | BSD 3-Clause | Native Ollama + OpenAI-kompatibel |
| SillyTavern | Charakter-Rollenspiel, Lorebooks | AGPL 3.0 | KoboldCpp, text-gen-webui und mehr |
| AnythingLLM | Dokumenten-RAG, Workspaces | MIT | Ollama, LM Studio, LocalAI |
Sternezahlen und Funktionsumfänge ändern sich; prüfen Sie aktuelle Werte auf der jeweiligen GitHub-Seite, bevor Sie sie zitieren. Zum Zeitpunkt dieses Tests hat Open WebUI die größte GitHub-Gefolgschaft in dieser Gruppe, AnythingLLM und LibreChat sind im Umfang für lokalen LLM-Chat plus Extras grob vergleichbar, und SillyTavern ist die kleinste, aber für Rollenspiel am stärksten spezialisierte Option.
Häufige Fehler bei der Bewertung von LibreChat
Diese Fehler entstehen, wenn LibreChat wie eine Einzelnutzer-Desktop-App behandelt wird, oder wenn angenommen wird, dass jede Funktion automatisch offline läuft, sobald ein lokaler Endpunkt hinzugefügt wurde.
Häufig gestellte Fragen
Ist LibreChat kostenlos?
Ja. LibreChat ist vollständig quelloffen unter der MIT-Lizenz, kostenlos für privaten und kommerziellen Self-Hosted-Gebrauch, ohne Multi-Tenant-SaaS-Einschränkung, die vor einem kommerziellen Deployment zu prüfen wäre.
Wer hat LibreChat erstellt?
Danny Avila hat LibreChat erstellt, ursprünglich als Abschlussprojekt (damals "ChatGPT Clone" genannt) für das Hack-Reactor-Coding-Bootcamp 2023. Er bleibt Gründer und Lead Maintainer des Projekts, mit Community-Beitragenden auf GitHub.
Unterstützt LibreChat lokale LLMs wie Ollama?
Ja. LibreChat listet Ollama unter seinen dokumentierten lokalen und Remote-KI-Anbietern, und die Custom-Endpoints-Funktion kann sich mit jedem OpenAI-API-kompatiblen lokalen Server verbinden, einschließlich LocalAI, text-generation-webui, LM Studio und vLLM.
Kann LibreChat vollständig offline laufen?
Der Chat-Completion-Pfad kann vollständig offline laufen, sobald er auf einen lokalen OpenAI-kompatiblen Endpunkt zeigt und proprietäre Anbieter-Schlüssel entfernt sind. Andere Integrationen — Websuche, Remote-Bildgenerierung, internetfähige MCP-Tools — müssen deaktiviert oder lokal umkonfiguriert werden, damit das gesamte Deployment offline ist.
Was nutzt LibreChat als Datenbank?
MongoDB ist der primäre Datenspeicher für Unterhaltungen, Nutzer und Konfiguration. Eine separate Vektordatenbank stützt die begleitende RAG-API für Dokument-Embeddings.
Unterstützt LibreChat Agenten und Tool-Nutzung?
Ja. LibreChat Agents sind No-Code-Assistenten, die über das Model Context Protocol (MCP) Tools aufrufen, einen isolierten Code-Interpreter ausführen und in einem App-internen Agenten-Marktplatz veröffentlicht werden können.
Wie unterscheidet sich LibreChat von Open WebUI?
Beide sind selbst gehostete, MIT-/BSD-lizenzierte Chat-Frontends, die lokale und Remote-LLMs unterstützen. LibreChat setzt stärker auf Multi-Provider-Wechsel, Agenten und MCP-Tool-Nutzung; Open WebUI bringt eingebautes RAG mit und ist zum Zeitpunkt dieses Tests insgesamt die breiter verbreitete Standard-Self-Hosted-ChatGPT-Alternative — prüfen Sie aktuelle Adoptionszahlen, bevor Sie sie zitieren, da sich beide Projekte schnell weiterentwickeln.
Wie unterscheidet sich LibreChat von SillyTavern?
SillyTavern ist gezielt für charaktergetriebenes Rollenspiel mit Lorebooks und Persona-Karten gebaut. LibreChat ist eine allgemeine Multi-Provider-Chat-Plattform mit Agenten und RAG; es ist nicht dafür ausgelegt, SillyTavern für rollenspielspezifische Workflows zu ersetzen.
Braucht LibreChat eine GPU zum Self-Hosting?
Nein, nicht für LibreChat selbst — es ist eine Orchestrierungs- und Chat-Oberflächenschicht. Eine GPU spielt nur eine Rolle, wenn Sie separat das lokale Modell selbst hosten, mit dem LibreChat sich verbindet, etwa über Ollama oder vLLM.
Hat PromptQuorum die Leistung von LibreChat getestet oder die Testsuite ausgeführt?
Nein. Dieser Test gibt wieder, was das GitHub-Repository, die Dokumentation und die öffentlichen Autorenprofile von LibreChat selbst angeben — einschließlich der CI-Workflow-Dateien im Verzeichnis .github/workflows — statt eigenständiger Benchmarks oder Testläufe durch PromptQuorum.
Muss ich bei der Verwendung von LibreChat die DSGVO beachten?
Bei Self-Hosting auf eigener Infrastruktur in der EU/DACH-Region, verbunden mit einem lokalen Modell ohne externe API-Aufrufe, verarbeiten Sie Daten vollständig selbst, was Artikel 28 DSGVO (Auftragsverarbeitung) vereinfacht. Sobald Sie einen proprietären KI-Anbieter als zusätzlichen Endpoint konfigurieren, gelten für dessen Datenverarbeitung dessen eigene AVV- und Serverstandort-Bedingungen — prüfen Sie diese separat. Dies ist keine Rechtsberatung; lassen Sie die konkrete datenschutzrechtliche Einordnung für Ihren Anwendungsfall von einem Datenschutzbeauftragten oder einer Kanzlei prüfen.
Ist LibreChat für den deutschen Mittelstand geeignet?
Für Teams mit Docker- und MongoDB-Erfahrung ist LibreChat eine praktikable, kostenlose Basis für einen selbst gehosteten Team-Chat mit Multi-User-Auth (LDAP passt zu bestehenden Unternehmensverzeichnissen). Für Mittelstandsunternehmen ohne eigene IT-Ressourcen für Docker/MongoDB-Betrieb kann eine Desktop-App wie LM Studio oder ein gemanagter Dienst der einfachere Einstieg sein.