Was war PrivateGPT?
PrivateGPT startete im Mai 2023 als kostenlose, quelloffene, selbst gehostete Anwendung, um Fragen zu den eigenen Dokumenten vollständig offline und privat mithilfe lokaler Sprachmodelle zu stellen. Es wurde von Iván Martínez und Daniel Gallego Vico erstellt und erreichte nach eigenen Angaben schnell über 50.000 GitHub-Stars, als eines der ersten weit verbreiteten "Chat mit deinen Dokumenten"-Tools.
- Ursprüngliche Positionierung: eine selbst gehostete, consumer-artige Anwendung mit integrierter Chat-Oberfläche für Dokumenten-Q&A
- Macher: Iván Martínez (GitHub-Handle imartinez) und Daniel Gallego Vico
- Start: Mai 2023, virales Wachstum auf über 50.000 GitHub-Stars nach Angaben des Projekts selbst
- Kommerzielle Ausgründung: Die Macher gründeten Zylon (Rechtsträger PriBAI Technology Spain S.L., mit Sitz in Madrid), das im Februar 2024 eine Pre-Seed-Runde über 3,2 Mio. $ einsammelte, angeführt von Felicis, mit Beteiligung von LifeX Ventures und Zypsy
Der Wandel 2024–2026, erklärt
PrivateGPT hatte rund zwei Jahre kein öffentliches Open-Source-Release, während die Macher ein kommerzielles Produkt aufbauten, und startete das Open-Source-Projekt dann im Juni 2026 mit einer grundlegend anderen Identität neu: eine API-Schicht statt einer Consumer-App.
- August 2024: das letzte Open-Source-Release vor der Lücke, v0.6.2
- Zwischen August 2024 und Juni 2026: keine öffentlichen Open-Source-Releases; die eigene GitHub-Diskussion des Teams besagt, man habe "unseren privaten Fork geschlossen" und in dieser Zeit am kommerziellen Produkt Zylon gearbeitet
- 3. Juni 2026: "PrivateGPT 1.0" veröffentlicht, vom Team beschrieben als Zusammenführung der kommerziellen Arbeit zurück in die Open-Source-Codebasis, mit der Aussage "Zylon.ai, unser kommerzielles Produkt, läuft nun auf dieser Open-Source-Codebasis" und "wir bauen von hier an öffentlich"
- Neue Identität: PrivateGPT wird im eigenen README nun beschrieben als "die quelloffene API-Schicht, die lokale Modelle in Produktions-KI-Anwendungen verwandelt" — nicht als eigenständige Chat-App mit grafischer Oberfläche als Hauptprodukt
- Eine "Workbench-UI" existiert zwar unter einem
/ui-Pfad, aber PrivateGPTs eigene Dokumentation bezeichnet sie ausdrücklich als "einen Demonstrator, nicht das Kernprodukt"
Was macht PrivateGPT heute?
PrivateGPT ist heute eine API-Schicht, die sich mit einem externen, OpenAI-kompatiblen Inferenzserver (wie Ollama, llama.cpp, vLLM oder LM Studio) verbindet und darauf Retrieval, Tool-Nutzung sowie Claude/OpenAI-kompatible Messaging-Endpunkte aufsetzt.
- Führt Modelle nicht selbst aus: PrivateGPT verbindet sich mit einem separaten lokalen Inferenzserver, statt Modell-Inferenz direkt zu bündeln
- Kompatible Messaging-APIs: Claude- und OpenAI-kompatible Nachrichtenformate, laut eigenem README
- Retrieval-Augmented Generation: Datei- und Artefakt-Ingestion mit zitationsgestütztem Retrieval
- Tool-Nutzung: integrierte und benutzerdefinierte Tools, Datenbankabfragen, CSV-Analyse, Websuche und Inhaltsextraktion, laut eigener Dokumentation
- MCP-Unterstützung: Model-Context-Protocol-Integration, laut eigener Dokumentation
- Strukturierte Ausgaben und Code-Ausführungsfähigkeit, laut eigener Dokumentation
- Eine "Workbench-UI" unter
/ui, von PrivateGPTs eigenen Dokumenten ausdrücklich als Demonstrator statt Kernprodukt beschrieben
Plattform, Preise und Lizenzierung
Selbst gehostet / quelloffen
- Was PrivateGPT angibt:
- Kostenlos, Apache License 2.0, bestätigt über die LICENSE-Datei des Repositorys.
Kommerzielles Produkt (Zylon)
- Was PrivateGPT angibt:
- Zylons eigene Website bewirbt "unbegrenzt, feste Kosten, keine Pro-Token-Preise", veröffentlicht aber keinen konkreten Dollarbetrag — Zugang nur über "Request a Demo"/Vertriebskontakt, laut zylon.ai zum Zeitpunkt dieser Review.
Architektur
- Was PrivateGPT angibt:
- Eine API-Schicht, die sich mit einem externen, OpenAI-kompatiblen Inferenzserver verbindet (Ollama, llama.cpp, vLLM, LM Studio) — führt Modelle nicht selbst aus.
Lizenzierungsorganisation
- Was PrivateGPT angibt:
- Gepflegt unter der zylon-ai-GitHub-Organisation; diese Review konnte nicht vollständig bestätigen, ob das ältere Repository imartinez/privateGPT weiterhin dorthin weiterleitet oder als separates Archiv existiert — prüfen Sie dies direkt, falls Sie ein altes Lesezeichen haben.
Prüfen Sie die aktuelle Dokumentation direkt auf docs.privategpt.dev, bevor Sie von einem bestimmten Dateityp, Embedding-Modell oder Feature ausgehen, da sich das Projekt während seiner Lücke 2024–2026 erheblich verändert hat.
PrivateGPT installieren
PrivateGPT ist kostenlos und quelloffen, installierbar aus dem GitHub-Repository.
Source | Link |
|---|---|
| GitHub-Repository (Quellcode, Apache 2.0) | github.com/zylon-ai/private-gpt |
| Dokumentation | docs.privategpt.dev |
| Zylon (kommerzielles Produkt, gleiche Codebasis) | zylon.ai |
Da PrivateGPT nun als entwicklerorientierte API-Schicht positioniert ist, erwarten Sie einen Einrichtungsprozess, der auf das Verbinden Ihres eigenen Inferenzservers und den Aufbau auf der API abzielt, statt einer Ein-Klick-Consumer-Chat-App.
Für wen eignet sich PrivateGPT heute?
PrivateGPT passt heute zu Entwicklern, die eine KI-Anwendung auf Basis lokaler Modelle bauen, nicht zu Menschen, die eine fertige Dokumenten-Chat-App suchen.
Nutzen Sie PrivateGPT, wenn Sie
- Entwickler sind, die eine KI-Anwendung bauen und eine quelloffene API-Schicht (RAG, Tool-Nutzung, MCP) auf einem bereits laufenden lokalen Inferenzserver möchten
- bereits Ollama, llama.cpp, vLLM oder LM Studio betreiben und Retrieval- sowie Tool-Nutzungs-Endpunkte hinzufügen möchten
- eine unter Apache 2.0 lizenzierte, selbst gehostete Alternative zum eigenen Bau dieser API-Schicht möchten
- offen dafür sind, Zylons kommerzielles Produkt zu prüfen, falls Sie eine unterstützte, gehostete Version derselben Fähigkeit benötigen
Suchen Sie anderswo, wenn Sie
- eine sofort einsatzbereite, consumer-artige App zum Chatten mit Ihren eigenen Dokumenten möchten — PrivateGPTs eigene Dokumentation bezeichnet die UI nun als "einen Demonstrator, nicht das Kernprodukt"; erwägen Sie stattdessen AnythingLLM oder Open WebUI
- sich an PrivateGPT aus 2023–2024 erinnern und genau diese Erfahrung erwarten — das Projekt hat sich während seiner Lücke 2024–2026 erheblich verändert
- ein Projekt mit durchgehender Release-Historie benötigen — PrivateGPT hatte vor seinem Neustart im Juni 2026 rund zwei Jahre kein öffentliches Open-Source-Release
- vor der Bewertung eines Anbieters klare, veröffentlichte kommerzielle Preise benötigen — Zylons Website zeigte für diese Review keinen konkreten Preis, nur einen "Demo anfragen"-Weg
Wofür PrivateGPT nicht gut geeignet ist
PrivateGPT ist keine gute Wahl, wenn Sie eine fertige Dokumenten-Chat-App möchten oder wenn Ihnen eine durchgehende Release-Historie wichtig ist.
- Keine sofort einsatzbereite Consumer-Chat-App mehr — die eigene Dokumentation beschreibt die integrierte UI als Demonstrator, nicht als Kernprodukt
- Kein Projekt mit durchgehender Release-Historie — es hatte rund zwei Jahre (August 2024 bis Juni 2026) kein öffentliches Open-Source-Release
- Kein Tool, das Modelle selbst ausführt — es benötigt einen separaten, bereits laufenden Inferenzserver (Ollama, llama.cpp, vLLM oder LM Studio)
- Auf der kommerziellen Seite nicht transparent bepreist — Zylons Website zeigt keinen konkreten Dollarbetrag, nur einen Demo-Anfrage-/Vertriebskontakt-Weg
- Kein bestätigter, aktueller Umfang unterstützter Dateitypen oder Standard-Embedding-Modelle aus dem, was diese Review einsehen konnte — prüfen Sie dies direkt in der aktuellen Dokumentation
Häufige Fehler bei der Bewertung von PrivateGPT in 2026
Die meiste Verwirrung um PrivateGPT in 2026 entsteht durch Artikel, Tutorials und Vergleiche, die vor dem Neustart im Juni 2026 geschrieben wurden.
Fehler 1: Die Consumer-Chat-App-Erfahrung von 2023 erwarten
PrivateGPT ist nun als API-Schicht für Entwickler positioniert, nicht als fertige Dokumenten-Chat-App. Die eigene Dokumentation bezeichnet die integrierte UI als "einen Demonstrator, nicht das Kernprodukt".
Fehler 2: Annehmen, es sei seit 2023 durchgehend weiterentwickelt worden
Zwischen August 2024 und Juni 2026 gab es keine öffentlichen Open-Source-Releases. Behandeln Sie jedes Tutorial oder jeden Vergleich aus diesem Zeitraum als Beschreibung eines still gewordenen Projekts, nicht eines regelmäßig aktualisierten.
Fehler 3: PrivateGPT mit Zylon verwechseln
Zylon ist das separate kommerzielle Produkt der Macher, das nun auf derselben Open-Source-Codebasis wie PrivateGPT läuft. PrivateGPT selbst bleibt kostenlos und quelloffen (Apache 2.0); Zylon ist das kostenpflichtige, gehostete/Enterprise-Angebot darauf aufbauend.
Fehler 4: Annehmen, der alte imartinez/privateGPT-GitHub-Link führe noch zum aktuellen Projekt
Das kanonische Repository liegt nun unter der zylon-ai-GitHub-Organisation. Diese Review konnte das genaue aktuelle Weiterleitungsverhalten des älteren Repository-Pfads nicht vollständig bestätigen — stellen Sie sicher, dass Sie auf github.com/zylon-ai/private-gpt landen.
Wettbewerber und Alternativen
PrivateGPTs eigene Dokumentation positioniert es als "API-first" gegenüber "app-first"-Tools wie Open WebUI — für eine sofort einsatzbereite Dokumenten-Chat-App sind Alternativen wie AnythingLLM oder Open WebUI heute direkter vergleichbar mit dem, was PrivateGPT ursprünglich war.
Tool | Best known for | Link |
|---|---|---|
| Open WebUI | Sofort einsatzbereite, app-first lokale Chat-Oberfläche mit Dokumenten-RAG | Open WebUI (Details im Verzeichnis von PromptQuorum) |
| AnythingLLM | Consumer-freundliche, selbst gehostete Dokumenten-Chat-App | AnythingLLM (Details im Verzeichnis von PromptQuorum) |
| Khoj | Selbst gehostetes persönliches KI-"zweites Gehirn" mit Dokumentensuche | Khoj Review |
| LlamaIndex | Framework zum Bau von RAG-Anwendungen auf lokalen oder Cloud-Modellen | LlamaIndex Review |
PrivateGPTs eigene Dokumentation nennt Open WebUI direkt als Vergleichspunkt (als "app-first"-Tool gegenüber PrivateGPTs "API-first"-Positionierung) — diese Liste ergänzt zudem Tools, die häufig mit PrivateGPTs ursprünglicher Positionierung vor 2026 verglichen werden, keine unabhängige Rangliste von PromptQuorum.
Häufig gestellte Fragen
Ist PrivateGPT noch eine Dokumenten-Chat-App?
Nein, nicht primär. Seit dem Neustart im Juni 2026 ist PrivateGPT als quelloffene API-Schicht zum Bau von KI-Anwendungen positioniert. Die eigene Dokumentation bezeichnet die integrierte UI als "einen Demonstrator, nicht das Kernprodukt".
Was ist zwischen 2024 und 2026 mit PrivateGPT passiert?
Zwischen dem Release v0.6.2 im August 2024 und dem Neustart "PrivateGPT 1.0" im Juni 2026 gab es keine öffentlichen Open-Source-Releases. Die eigene GitHub-Diskussion des Teams besagt, man habe in dieser Zeit am kommerziellen Produkt Zylon gearbeitet.
Ist PrivateGPT kostenlos?
Ja, die quelloffene, selbst gehostete Version ist kostenlos (Apache 2.0). Das kommerzielle Produkt des Teams, Zylon, veröffentlicht keinen konkreten Preis und erfordert Vertriebskontakt.
Wer hat PrivateGPT erstellt?
Iván Martínez und Daniel Gallego Vico, die auch das kommerzielle Unternehmen Zylon gründeten.
Wie hängt Zylon mit PrivateGPT zusammen?
Zylon ist das kommerzielle Produkt der Macher, das laut eigener GitHub-Diskussion nun auf derselben Open-Source-Codebasis wie PrivateGPT läuft.
Führt PrivateGPT KI-Modelle selbst aus?
Nein, es verbindet sich mit einem separaten, bereits laufenden Inferenzserver wie Ollama, llama.cpp, vLLM oder LM Studio, statt Modelle direkt auszuführen.
Unter welcher Lizenz wird PrivateGPT veröffentlicht?
Apache License 2.0, bestätigt über die LICENSE-Datei des GitHub-Repositorys.
Wird PrivateGPT noch aktiv gepflegt?
Ja, zum Zeitpunkt dieser Review — das aktuellste Release (v1.0.1) erschien am 18. Juni 2026, nach dem Neustart am 3. Juni 2026, nach rund zwei Jahren ohne öffentliches Release.
Was sollte ich stattdessen nutzen, wenn ich eine sofort einsatzbereite Dokumenten-Chat-App möchte?
PrivateGPTs eigene Dokumentation nennt Open WebUI als Vergleichspunkt für "app-first"-Tools. AnythingLLM ist eine weitere häufig verglichene, consumer-freundliche Alternative.
Hat PromptQuorum PrivateGPTs Angaben unabhängig getestet?
Diese Review basiert auf PrivateGPTs eigenem GitHub-Repository, seiner Dokumentation, der eigenen GitHub-Diskussion der Macher und Berichterstattung von tech.eu über Zylons Finanzierung, nicht auf eigenem Hands-on-Benchmarking durch PromptQuorum.