Skip to main content
PromptQuorum
Startseite/Lokale LLMs Pro/PrivateGPT Review: Keine Chat-App mehr
Coding Assistants

PrivateGPT Review: Keine Chat-App mehr

·9 Min. Lesezeit·Von Hans Kuepper · Gründer von PromptQuorum, Multi-Model-AI-Dispatch-Tool · PromptQuorum

PrivateGPT ist nicht mehr die Consumer-artige "Chat mit den eigenen Dokumenten"-App, an die sich viele seit dem viralen Start im Mai 2023 erinnern — nach rund zwei Jahren ohne öffentliche Open-Source-Releases haben die Macher es im Juni 2026 als quelloffene API-Schicht zum Bau von KI-Anwendungen auf Basis lokaler Modelle neu gestartet. Es ist kostenlos und quelloffen (Apache 2.0), entwickelt vom selben Team, das auf derselben Codebasis auch ein kommerzielles Produkt namens Zylon betreibt.

PrivateGPT (github.com/zylon-ai/private-gpt) startete im Mai 2023 als eines der ersten viralen Tools zum privaten Chatten mit den eigenen Dokumenten mithilfe lokaler Modelle. Nach rund zwei Jahren ohne öffentliche Open-Source-Releases haben die Macher es im Juni 2026 als quelloffene API-Schicht zum Bau von KI-Anwendungen neu gestartet — nicht mehr die Consumer-artige Dokumenten-Chat-App, an die sich viele erinnern. Diese Review erklärt diesen Wandel klar und zeigt, was PrivateGPT heute tut.

PrivateGPT Review: Keine Chat-App mehr

Wichtigste Erkenntnisse

  • PrivateGPT (github.com/zylon-ai/private-gpt) startete im Mai 2023 viral, erstellt von Iván Martínez und Daniel Gallego Vico
  • Die Macher gründeten ein kommerzielles Unternehmen, Zylon (Rechtsträger PriBAI Technology Spain S.L.), das im Februar 2024 eine Pre-Seed-Runde über 3,2 Mio. $ unter Führung von Felicis einsammelte
  • Zwischen dem letzten Release v0.6.2 (August 2024) und Juni 2026 gab es keine öffentlichen Open-Source-Releases von PrivateGPT
  • Im Juni 2026 als "PrivateGPT 1.0" neu gestartet: eine quelloffene API-Schicht für RAG, Tool-Nutzung und MCP-Unterstützung, statt einer eigenständigen Consumer-Chat-App
  • Die eigene GitHub-Diskussion des Teams besagt, dass Zylons kommerzielles Produkt nun auf derselben quelloffenen Codebasis läuft und dass man "von hier an öffentlich baut"
  • Über 57.500 GitHub-Stars und 7.600 Forks zum Zeitpunkt dieser Review, mit einem aktuellen Release (v1.0.1, 18. Juni 2026)

📍 In einem Satz

PrivateGPT, erstellt von Iván Martínez und Daniel Gallego Vico und im Mai 2023 viral gestartet als private, lokale Dokumenten-Chat-App, hatte rund zwei Jahre kein öffentliches Open-Source-Release, bevor die Macher es im Juni 2026 als "PrivateGPT 1.0" neu starteten — eine quelloffene (Apache 2.0) API-Schicht zum Bau von KI-Anwendungen, wobei dieselbe Codebasis nun auch dem kommerziellen Produkt des Teams, Zylon, zugrunde liegt.

💬 In einfachen Worten

PrivateGPT war früher eine kostenlose App, die man auf dem eigenen Rechner laufen ließ, um privat mit einem lokalen KI-Modell Fragen zu den eigenen Dokumenten zu stellen. Die Macher wurden rund zwei Jahre lang still um das Open-Source-Projekt, während sie ein kommerzielles Unternehmen namens Zylon aufbauten, und kamen Mitte 2026 mit einer sehr anderen Version zurück: Statt einer fertigen Chat-App ist PrivateGPT jetzt ein Backend/API-Tool, mit dem Entwickler KI-Anwendungen bauen und das sich mit lokalen Modellen wie Ollama verbindet, statt selbst eines zu sein.

📌Hinweis: Diese Review basiert auf PrivateGPTs eigenem GitHub-Repository, seiner offiziellen Dokumentation, der eigenen GitHub-Diskussion der Macher zur Ankündigung des Neustarts sowie Berichterstattung von tech.eu über Zylons Finanzierung. Sie behauptet nicht, dass PromptQuorum eigene Hands-on-Benchmarks von PrivateGPT durchgeführt hat.

Was war PrivateGPT?

PrivateGPT startete im Mai 2023 als kostenlose, quelloffene, selbst gehostete Anwendung, um Fragen zu den eigenen Dokumenten vollständig offline und privat mithilfe lokaler Sprachmodelle zu stellen. Es wurde von Iván Martínez und Daniel Gallego Vico erstellt und erreichte nach eigenen Angaben schnell über 50.000 GitHub-Stars, als eines der ersten weit verbreiteten "Chat mit deinen Dokumenten"-Tools.

  • Ursprüngliche Positionierung: eine selbst gehostete, consumer-artige Anwendung mit integrierter Chat-Oberfläche für Dokumenten-Q&A
  • Macher: Iván Martínez (GitHub-Handle imartinez) und Daniel Gallego Vico
  • Start: Mai 2023, virales Wachstum auf über 50.000 GitHub-Stars nach Angaben des Projekts selbst
  • Kommerzielle Ausgründung: Die Macher gründeten Zylon (Rechtsträger PriBAI Technology Spain S.L., mit Sitz in Madrid), das im Februar 2024 eine Pre-Seed-Runde über 3,2 Mio. $ einsammelte, angeführt von Felicis, mit Beteiligung von LifeX Ventures und Zypsy

Der Wandel 2024–2026, erklärt

PrivateGPT hatte rund zwei Jahre kein öffentliches Open-Source-Release, während die Macher ein kommerzielles Produkt aufbauten, und startete das Open-Source-Projekt dann im Juni 2026 mit einer grundlegend anderen Identität neu: eine API-Schicht statt einer Consumer-App.

  • August 2024: das letzte Open-Source-Release vor der Lücke, v0.6.2
  • Zwischen August 2024 und Juni 2026: keine öffentlichen Open-Source-Releases; die eigene GitHub-Diskussion des Teams besagt, man habe "unseren privaten Fork geschlossen" und in dieser Zeit am kommerziellen Produkt Zylon gearbeitet
  • 3. Juni 2026: "PrivateGPT 1.0" veröffentlicht, vom Team beschrieben als Zusammenführung der kommerziellen Arbeit zurück in die Open-Source-Codebasis, mit der Aussage "Zylon.ai, unser kommerzielles Produkt, läuft nun auf dieser Open-Source-Codebasis" und "wir bauen von hier an öffentlich"
  • Neue Identität: PrivateGPT wird im eigenen README nun beschrieben als "die quelloffene API-Schicht, die lokale Modelle in Produktions-KI-Anwendungen verwandelt" — nicht als eigenständige Chat-App mit grafischer Oberfläche als Hauptprodukt
  • Eine "Workbench-UI" existiert zwar unter einem /ui-Pfad, aber PrivateGPTs eigene Dokumentation bezeichnet sie ausdrücklich als "einen Demonstrator, nicht das Kernprodukt"

Was macht PrivateGPT heute?

PrivateGPT ist heute eine API-Schicht, die sich mit einem externen, OpenAI-kompatiblen Inferenzserver (wie Ollama, llama.cpp, vLLM oder LM Studio) verbindet und darauf Retrieval, Tool-Nutzung sowie Claude/OpenAI-kompatible Messaging-Endpunkte aufsetzt.

  • Führt Modelle nicht selbst aus: PrivateGPT verbindet sich mit einem separaten lokalen Inferenzserver, statt Modell-Inferenz direkt zu bündeln
  • Kompatible Messaging-APIs: Claude- und OpenAI-kompatible Nachrichtenformate, laut eigenem README
  • Retrieval-Augmented Generation: Datei- und Artefakt-Ingestion mit zitationsgestütztem Retrieval
  • Tool-Nutzung: integrierte und benutzerdefinierte Tools, Datenbankabfragen, CSV-Analyse, Websuche und Inhaltsextraktion, laut eigener Dokumentation
  • MCP-Unterstützung: Model-Context-Protocol-Integration, laut eigener Dokumentation
  • Strukturierte Ausgaben und Code-Ausführungsfähigkeit, laut eigener Dokumentation
  • Eine "Workbench-UI" unter /ui, von PrivateGPTs eigenen Dokumenten ausdrücklich als Demonstrator statt Kernprodukt beschrieben

Plattform, Preise und Lizenzierung

Selbst gehostet / quelloffen

Was PrivateGPT angibt:
Kostenlos, Apache License 2.0, bestätigt über die LICENSE-Datei des Repositorys.

Kommerzielles Produkt (Zylon)

Was PrivateGPT angibt:
Zylons eigene Website bewirbt "unbegrenzt, feste Kosten, keine Pro-Token-Preise", veröffentlicht aber keinen konkreten Dollarbetrag — Zugang nur über "Request a Demo"/Vertriebskontakt, laut zylon.ai zum Zeitpunkt dieser Review.

Architektur

Was PrivateGPT angibt:
Eine API-Schicht, die sich mit einem externen, OpenAI-kompatiblen Inferenzserver verbindet (Ollama, llama.cpp, vLLM, LM Studio) — führt Modelle nicht selbst aus.

Lizenzierungsorganisation

Was PrivateGPT angibt:
Gepflegt unter der zylon-ai-GitHub-Organisation; diese Review konnte nicht vollständig bestätigen, ob das ältere Repository imartinez/privateGPT weiterhin dorthin weiterleitet oder als separates Archiv existiert — prüfen Sie dies direkt, falls Sie ein altes Lesezeichen haben.

Prüfen Sie die aktuelle Dokumentation direkt auf docs.privategpt.dev, bevor Sie von einem bestimmten Dateityp, Embedding-Modell oder Feature ausgehen, da sich das Projekt während seiner Lücke 2024–2026 erheblich verändert hat.

Für wen eignet sich PrivateGPT heute?

PrivateGPT passt heute zu Entwicklern, die eine KI-Anwendung auf Basis lokaler Modelle bauen, nicht zu Menschen, die eine fertige Dokumenten-Chat-App suchen.

Wofür PrivateGPT nicht gut geeignet ist

PrivateGPT ist keine gute Wahl, wenn Sie eine fertige Dokumenten-Chat-App möchten oder wenn Ihnen eine durchgehende Release-Historie wichtig ist.

  • Keine sofort einsatzbereite Consumer-Chat-App mehr — die eigene Dokumentation beschreibt die integrierte UI als Demonstrator, nicht als Kernprodukt
  • Kein Projekt mit durchgehender Release-Historie — es hatte rund zwei Jahre (August 2024 bis Juni 2026) kein öffentliches Open-Source-Release
  • Kein Tool, das Modelle selbst ausführt — es benötigt einen separaten, bereits laufenden Inferenzserver (Ollama, llama.cpp, vLLM oder LM Studio)
  • Auf der kommerziellen Seite nicht transparent bepreist — Zylons Website zeigt keinen konkreten Dollarbetrag, nur einen Demo-Anfrage-/Vertriebskontakt-Weg
  • Kein bestätigter, aktueller Umfang unterstützter Dateitypen oder Standard-Embedding-Modelle aus dem, was diese Review einsehen konnte — prüfen Sie dies direkt in der aktuellen Dokumentation

Häufige Fehler bei der Bewertung von PrivateGPT in 2026

Die meiste Verwirrung um PrivateGPT in 2026 entsteht durch Artikel, Tutorials und Vergleiche, die vor dem Neustart im Juni 2026 geschrieben wurden.

Wettbewerber und Alternativen

PrivateGPTs eigene Dokumentation positioniert es als "API-first" gegenüber "app-first"-Tools wie Open WebUI — für eine sofort einsatzbereite Dokumenten-Chat-App sind Alternativen wie AnythingLLM oder Open WebUI heute direkter vergleichbar mit dem, was PrivateGPT ursprünglich war.

Tool
Best known for
Link
Open WebUISofort einsatzbereite, app-first lokale Chat-Oberfläche mit Dokumenten-RAGOpen WebUI (Details im Verzeichnis von PromptQuorum)
AnythingLLMConsumer-freundliche, selbst gehostete Dokumenten-Chat-AppAnythingLLM (Details im Verzeichnis von PromptQuorum)
KhojSelbst gehostetes persönliches KI-"zweites Gehirn" mit DokumentensucheKhoj Review
LlamaIndexFramework zum Bau von RAG-Anwendungen auf lokalen oder Cloud-ModellenLlamaIndex Review

PrivateGPTs eigene Dokumentation nennt Open WebUI direkt als Vergleichspunkt (als "app-first"-Tool gegenüber PrivateGPTs "API-first"-Positionierung) — diese Liste ergänzt zudem Tools, die häufig mit PrivateGPTs ursprünglicher Positionierung vor 2026 verglichen werden, keine unabhängige Rangliste von PromptQuorum.

Häufig gestellte Fragen

Ist PrivateGPT noch eine Dokumenten-Chat-App?

Nein, nicht primär. Seit dem Neustart im Juni 2026 ist PrivateGPT als quelloffene API-Schicht zum Bau von KI-Anwendungen positioniert. Die eigene Dokumentation bezeichnet die integrierte UI als "einen Demonstrator, nicht das Kernprodukt".

Was ist zwischen 2024 und 2026 mit PrivateGPT passiert?

Zwischen dem Release v0.6.2 im August 2024 und dem Neustart "PrivateGPT 1.0" im Juni 2026 gab es keine öffentlichen Open-Source-Releases. Die eigene GitHub-Diskussion des Teams besagt, man habe in dieser Zeit am kommerziellen Produkt Zylon gearbeitet.

Ist PrivateGPT kostenlos?

Ja, die quelloffene, selbst gehostete Version ist kostenlos (Apache 2.0). Das kommerzielle Produkt des Teams, Zylon, veröffentlicht keinen konkreten Preis und erfordert Vertriebskontakt.

Wer hat PrivateGPT erstellt?

Iván Martínez und Daniel Gallego Vico, die auch das kommerzielle Unternehmen Zylon gründeten.

Wie hängt Zylon mit PrivateGPT zusammen?

Zylon ist das kommerzielle Produkt der Macher, das laut eigener GitHub-Diskussion nun auf derselben Open-Source-Codebasis wie PrivateGPT läuft.

Führt PrivateGPT KI-Modelle selbst aus?

Nein, es verbindet sich mit einem separaten, bereits laufenden Inferenzserver wie Ollama, llama.cpp, vLLM oder LM Studio, statt Modelle direkt auszuführen.

Unter welcher Lizenz wird PrivateGPT veröffentlicht?

Apache License 2.0, bestätigt über die LICENSE-Datei des GitHub-Repositorys.

Wird PrivateGPT noch aktiv gepflegt?

Ja, zum Zeitpunkt dieser Review — das aktuellste Release (v1.0.1) erschien am 18. Juni 2026, nach dem Neustart am 3. Juni 2026, nach rund zwei Jahren ohne öffentliches Release.

Was sollte ich stattdessen nutzen, wenn ich eine sofort einsatzbereite Dokumenten-Chat-App möchte?

PrivateGPTs eigene Dokumentation nennt Open WebUI als Vergleichspunkt für "app-first"-Tools. AnythingLLM ist eine weitere häufig verglichene, consumer-freundliche Alternative.

Hat PromptQuorum PrivateGPTs Angaben unabhängig getestet?

Diese Review basiert auf PrivateGPTs eigenem GitHub-Repository, seiner Dokumentation, der eigenen GitHub-Diskussion der Macher und Berichterstattung von tech.eu über Zylons Finanzierung, nicht auf eigenem Hands-on-Benchmarking durch PromptQuorum.

Quellen

← Zurück zu Lokale LLMs Pro