Zum Hauptinhalt springen
PromptQuorumFür Menschen gemacht. Strukturiert für KI.
Startseite/Lokale LLMs Pro
RAG & Document Chat

OpenRAG-Rezension: Quelloffene Plattform für agentisches RAG

·7 Min. LesezeitVon Hans Kuepper · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

OpenRAG (Version 0.8.0, veröffentlicht am 1. Oktober 2026) ist eine kostenlose Plattform unter Apache-2.0, die Langflow, OpenSearch und Docling bündelt, sodass Sie Dokumente hochladen und über eine Weboberfläche mit ihnen chatten können. Sie läuft als Container, die im Terminal gestartet werden, und ist damit ein Entwicklerwerkzeug statt einer App zum Doppelklicken. PromptQuorum hat sie weder installiert noch getestet; alle Aussagen stammen aus der Dokumentation des Projekts.

Wichtigste Erkenntnisse

  • Pflege: v0.8.0 erschien am 1. Oktober 2026, und das Repository wurde am 23. Oktober 2026 erneut geändert; ein Warnhinweis für veraltete Projekte entfällt daher.
  • Lizenz: Apache-2.0, Quellcode auf GitHub in der Organisation langflow-ai.
  • Kosten: Das Paket hat keinen Preis; Kosten entstehen durch Hardware und jede angebundene Modell-API.
  • Windows: wird nur innerhalb des Windows-Subsystems für Linux unterstützt.
  • Gewicht: Es ist containerbasiert und braucht viel Speicherplatz, passt also eher auf einen Entwicklungsrechner oder Server als auf einen schlanken Laptop.

📍 In einem Satz

OpenRAG ist ein Paket unter Apache-2.0, das mit einem einzigen uvx-Befehl einen fertigen RAG-Stack für Ihre Dokumente startet.

💬 In einfachen Worten

Sie starten ein Installationsprogramm im Terminal, es fährt einige Container hoch, und anschließend laden Sie Dateien hoch und stellen im Browser-Chat Fragen.

📌Hinweis: Diese Rezension basiert auf der OpenRAG-Dokumentation, der Website und der GitHub-Release-Seite, geprüft am 23. Oktober 2026. PromptQuorum hat die Software weder installiert noch getestet oder gemessen.

Lesen auf:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

OpenRAG ist ein quelloffenes Paket, das Langflow, OpenSearch und Docling verbindet, damit Sie Dokumente hochladen, durchsuchen und im Browser mit ihnen chatten können. Es wird im Terminal gestartet und läuft als Container, richtet sich also an Entwickler. Diese Rezension gibt Dokumentation, Website und GitHub-Release-Seite wieder, wie am 23. Oktober 2026 geprüft.

OpenRAG-Rezension: Quelloffene Plattform für agentisches RAG

Was ist OpenRAG?

OpenRAG ist eine Plattform für Retrieval-Augmented Generation: Sie legen Dokumente in einer Wissensbasis ab und stellen einem KI-Agenten in einer Chat-Oberfläche Fragen dazu. Das Projekt beschreibt sie als quelloffenes Paket zum Aufbau agentischer RAG-Systeme, das drei bestehende Projekte kombiniert: Langflow für Agenten-Abläufe, OpenSearch für Dokument- und Vektorspeicher und Docling zum Parsen und Zerlegen von Dateien.

Entwickelt wird sie im Repository langflow-ai/openrag mit einem FastAPI-Backend und einem Next.js-Frontend. Die Dokumentation finden Sie unter docs.openr.ag.

Bezugsquelle

OpenRAG ist keine herunterladbare Desktop-App: Sie installieren es im Terminal mit uv, und es startet anschließend eigene Container.

Option
Bezugsquelle
Schnellstart (macOS, Linux)uvx --python 3.13 openrag in einem leeren Ordner ausführen
WindowsDerselbe Befehl, aber nur innerhalb von WSL (siehe Anforderungen)
Python-ProjektAls Abhängigkeit mit uv hinzufügen, laut Installationsoptionen
SelbstverwaltetDocker oder Podman mit eigener .env-Datei, laut Docker-Anleitung
Websiteopenr.ag
Dokumentationdocs.openr.ag
Quellcodegithub.com/langflow-ai/openrag
DatenschutzerklärungKeine eigene Seite gefunden; die Doku verweist auf die Datenschutzerklärung von IBM

Geprüfte Version: v0.8.0, laut GitHub-Release-Seite am 1. Oktober 2026 veröffentlicht; das Repository selbst wurde zuletzt am 23. Oktober 2026 aktualisiert. Das Release enthält nur ein Python-Wheel und ein Quellarchiv, keinen Installer und keinen Desktop-Build – ein Terminal und eine Entwicklungsumgebung sind daher erforderlich.

Anforderungen

Die Dokumentation verlangt eine Container-Laufzeit, 8 GB RAM und mehr als 50 GB freien Speicherplatz.

Punkt
Angabe der Dokumentation
Python und uvPython 3.13 und uv, laut Schnellstart
Container-LaufzeitDocker oder Podman plus Compose-Tool; uvx installiert eines bei Bedarf
RAM8 GB sind das empfohlene Minimum
SpeicherplatzMehr als 50 GB frei für Onboarding und Aufnahme
WindowsNur in WSL; nicht in einer WSL-Distribution innerhalb einer Windows-VM
Lokale Modellegpt-oss:20b über Ollama braucht mindestens 16 GB RAM

Für OpenRAG selbst nennen die geprüften Seiten keine GPU-Anforderung, nur dass Ollama in einem GPU-fähigen Container laufen muss, um eine GPU zu nutzen.

So gelingt der Einstieg

Die Schritte folgen dem Schnellstart des Projekts; PromptQuorum hat sie nicht ausgeführt.

  1. 1
    Arbeitsordner anlegen
    Why it matters: Erstellen Sie ein leeres Verzeichnis wie openrag-workspace und öffnen Sie darin ein Terminal.
  2. 2
    Installer starten
    Why it matters: Führen Sie uvx --python 3.13 openrag aus; das öffnet eine Terminal-Oberfläche.
  3. 3
    Admin-Passwörter festlegen
    Why it matters: Lassen Sie die Admin-Passwörter für OpenSearch und Langflow erzeugen oder geben Sie eigene ein; überspringen Sie die übrigen Abfragen, um die Standardwerte zu behalten.
  4. 4
    Dienste starten
    Why it matters: Antworten Sie auf „Start services now?“ mit Y, warten Sie auf „Services are running“ und öffnen Sie OpenRAG dann im Browser.
  5. 5
    Onboarding abschließen
    Why it matters: Wählen Sie einen Modellanbieter, geben Sie dessen API-Schlüssel ein und klicken Sie auf Complete; der Schnellstart nutzt OpenAI.
  6. 6
    Wissen hinzufügen und chatten
    Why it matters: Laden Sie Dateien oder Ordner hoch und stellen Sie in der Chat-Ansicht Fragen.

Von den Quellen bestätigte Funktionen

Jeder Punkt unten stammt aus der Dokumentation oder der README des Projekts.

  • Anpassbare Abläufe. Eingebaute Agenten-Abläufe lassen sich im integrierten Langflow-Editor anpassen, einschließlich des Austauschs von Modellen oder Komponenten; eigene Langflow-Komponenten und MCP-Server werden unterstützt.
  • Dokumentenaufnahme. Dateien stammen aus Ihrem lokalen Dateisystem oder aus per OAuth autorisierten Cloud-Speicher-Konnektoren; Docling Serve parst und zerlegt sie.
  • Suche. OpenSearch speichert Dokumente und Embeddings und ergänzt hybride Suche und Mandantenfähigkeit.
  • SDKs und API. Offizielle Python- und TypeScript-SDKs erscheinen als openrag-sdk, und die Dokumentation enthält eine API-Referenz.
  • Beobachtbarkeit. Tracing nach Langfuse und der IBM-Instana-Tracer sind optional und standardmäßig ausgeschaltet.

Datenfluss und Zugriff

Laut Dokumentation verarbeitet Docling Serve Ihre Dokumente lokal, und OpenSearch speichert sie in Ihrer eigenen Wissensbasis; Cloud-Quellen werden nur über Konnektoren geladen, die Sie autorisieren. Die Architektur besteht aus Containern: einem Backend, Langflow, Docling Serve, den Konnektoren und einem Frontend.

OpenAI ist der Standard-Modellanbieter; dabei gehen Ihre Prompts und die abgerufenen Dokumentauszüge nach dessen eigener Richtlinie an OpenAI. Die Konfigurationsreferenz nennt außerdem Anthropic, Ollama und IBM watsonx.ai, sodass sich stattdessen auch ein lokaler Ollama-Endpunkt ansprechen lässt. Ist kein Langflow-Superuser-Passwort gesetzt, startet Langflow ohne Authentifizierung – deshalb empfiehlt die Dokumentation, eines festzulegen.

📌Hinweis: Die Aussage zur lokalen Verarbeitung ist die Eigenbeschreibung des Projekts; PromptQuorum hat die Container und ihren Netzwerkverkehr nicht geprüft. Die Update-Prüfung im Terminal fragt die Docker-Hub-API ab, sofern die Image-Registry nicht geändert wird.

Für wen sich die Plattform eignet

  • Entwickler, die einen vorverdrahteten RAG-Stack wollen, statt Langflow, OpenSearch und Docling selbst zusammenzusetzen.
  • Teams, die bereits Container betreiben und hybride Suche mit Mandantenfähigkeit über eigene Dateien möchten.
  • Entwickler, die eine API oder ein SDK brauchen, um einen Dokumentensuch-Agenten aus der eigenen Anwendung aufzurufen.

Was wir nicht überprüfen konnten

  • Praxisqualität. PromptQuorum hat die Software nicht ausgeführt; Antwortqualität, Zitiergenauigkeit, Aufnahmegeschwindigkeit und Stabilität sind nicht bewertet.
  • Telemetrie. Die geprüften Seiten dokumentieren weder Analysefunktionen noch eine Abschaltoption für die Container.
  • Datenschutzerklärung. Es wurde keine OpenRAG-spezifische Erklärung gefunden; die Doku verweist nur auf die allgemeine Datenschutzerklärung von IBM.
  • Rein lokaler Betrieb. Die Dokumentation beschreibt Ollama-Unterstützung, doch der Schnellstart ist nur mit OpenAI dokumentiert; ein vollständig offline betriebenes Setup ist ungetestet.

Wettbewerber und Alternativen

Langflow

Plattformen:
Web
Preis / Lizenz:
Kostenlos / MIT
Hauptunterschied:
Der visuelle Ablauf-Builder, den OpenRAG einbettet – ohne den mitgelieferten Such-Stack
Artikel über Langflow (3)

Auch erwähnt in:

RAGFlow

Plattformen:
Linux, Web
Preis / Lizenz:
Kostenlos / Apache 2.0
Hauptunterschied:
RAG-Engine mit Schwerpunkt auf tiefem Dokumentverständnis und Quellenangaben
Artikel über RAGFlow (5)

Auch erwähnt in:

AnythingLLM

Plattformen:
Windows, macOS, Linux, Web
Preis / Lizenz:
Kostenlos / MIT
Hauptunterschied:
Installierbare Desktop-App mit eingebautem Vektorspeicher, ohne Container
Artikel über AnythingLLM (10)

+31 weitere nicht angezeigt

Dify

Plattformen:
Web, Linux
Preis / Lizenz:
Freemium / modifiziertes Apache 2.0
Hauptunterschied:
Breiterer Builder für KI-Workflows und Agenten, RAG ist nur ein Teil
Artikel über Dify (8)

Auch erwähnt in:

+3 weitere nicht angezeigt

Details der Wettbewerber ändern sich oft; prüfen Sie Preis, Lizenz und Plattformen im jeweiligen Eintrag.

Im Verzeichnis vergleichen

Häufig gestellte Fragen

Welche Ollama-Modelle empfiehlt OpenRAG?

Die Dokumentation schlägt gpt-oss:20b oder mistral-nemo:12b für Sprachmodelle und nomic-embed-text, mxbai-embed-large oder embeddinggemma für Embeddings vor. Chat-Modelle müssen Tool-Calling unterstützen, und die Dokumentation garantiert nicht, dass jedes Ollama-Modell funktioniert.

Welche Ports verwendet es?

Standardmäßig 3000 für das Frontend, 7860 für Langflow, 8000 für das Backend, 9200 für OpenSearch, 5601 für OpenSearch Dashboards und 5001 für Docling. Die Ports von Frontend und Langflow lassen sich in der .env-Datei ändern.

Aus welchem Cloud-Speicher kann es Daten aufnehmen?

Die Konfigurationsreferenz beschreibt Google Drive über Google OAuth, SharePoint und OneDrive über eine Microsoft-Graph-App-Registrierung sowie AWS S3 über Zugriffsschlüssel.

Wie rufe ich es aus eigenem Code auf?

Installieren Sie das Python-SDK mit pip install openrag-sdk oder das TypeScript-SDK mit npm install openrag-sdk. Das ältere eigenständige Paket openrag-mcp ist veraltet.

Fazit

OpenRAG ist ein kostenloser RAG-Stack unter Apache-2.0, der laut Dokumentation Langflow, OpenSearch und Docling bereits verbunden mitliefert und aktiv gepflegt wird – mit einem Release Anfang Oktober 2026 und Änderungen bis zum 23. Oktober. Dagegen ist der Betrieb aufwendig, Windows wird nur über WSL unterstützt, OpenAI ist die Voreinstellung, und PromptQuorum konnte weder Qualität noch Telemetrie noch rein offline Nutzung überprüfen. Es eignet sich für Entwickler, die ein fertiges, anpassbares RAG-Backend wollen; wer eine installierbare App bevorzugt, kann AnythingLLM vergleichen, und wer nur den Ablauf-Builder braucht, schaut sich Langflow an.

Quellen

← Zurück zu Lokale LLMs Pro

MCP