跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
RAG & Document Chat

OpenRAG 评测：开源的智能体 RAG 平台

·阅读约7分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

OpenRAG（版本 0.8.0，2026 年 10 月 1 日发布）是一个免费的 Apache-2.0 平台，整合了 Langflow、OpenSearch 和 Docling，你可以上传文档并通过网页界面与之对话。它以容器方式运行，需在终端中启动，因此是开发者工具，而不是双击即用的应用。PromptQuorum 没有安装或测试过它；本文所有说法均来自项目自己的文档。

关键要点

  • 维护状态：v0.8.0 于 2026 年 10 月 1 日发布，仓库在 2026 年 10 月 23 日仍有更新，因此无需显示项目停更警告。
  • 许可证：Apache-2.0，源代码托管在 GitHub 的 langflow-ai 组织下。
  • 费用：软件包本身没有价格；你的成本是硬件和所接入模型 API 的费用。
  • Windows：仅支持在 Windows Subsystem for Linux 内运行。
  • 体量：基于容器且占用磁盘较大，更适合开发机或服务器，而非轻薄笔记本。

📍 简单一句话

OpenRAG 是一个 Apache-2.0 软件包，只需一条 uvx 命令，就能启动一套现成的文档 RAG 方案。

💬 简单来说

你在终端运行安装程序，它会启动几个容器，之后上传文件，在浏览器聊天里提问即可。

📌注: 本评测基于 2026 年 10 月 23 日核对的 OpenRAG 文档、官网和 GitHub 发布页。PromptQuorum 没有安装、测试或跑分该软件。

选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

OpenRAG 是一个开源软件包，把 Langflow、OpenSearch 和 Docling 连接在一起，让你可以上传文档、检索文档，并在浏览器里与文档对话。它通过终端启动并以容器方式运行，因此面向开发者。本评测基于 2026 年 10 月 23 日核对的文档、官网和 GitHub 发布页。

OpenRAG 评测：开源的智能体 RAG 平台

OpenRAG 是什么？

OpenRAG 是一个检索增强生成平台：你把文档加入知识库，然后在聊天界面里向 AI 智能体提问。项目把它描述为用于构建智能体 RAG 系统的开源软件包，组合了三个现有项目：用 Langflow 做智能体流程，用 OpenSearch 存储文档和向量，用 Docling 解析并切分文件。

它在 langflow-ai/openrag 仓库中开发，后端是 FastAPI，前端是 Next.js。文档位于 docs.openr.ag。

获取方式

OpenRAG 不是可下载的桌面应用：你在终端里用 uv 安装，它随后会启动自己的容器。

方式
获取方式
快速入门（macOS、Linux）在空文件夹中运行 uvx --python 3.13 openrag
Windows同一条命令，但仅限在 WSL 内运行（见运行要求）
Python 项目按安装选项，用 uv 作为依赖添加
自行管理按 Docker 指南，用 Docker 或 Podman 和你自己的 .env 文件
官网openr.ag
文档docs.openr.ag
源代码github.com/langflow-ai/openrag
隐私政策未找到 OpenRAG 专属页面；文档的同意设置引用 IBM 隐私声明

评测版本：v0.8.0，据 GitHub 发布页于 2026 年 10 月 1 日发布；仓库本身最近一次更新在 2026 年 10 月 23 日。该版本只提供 Python wheel 包和源码压缩包，没有安装程序或桌面版，因此需要终端和开发环境。

运行要求

文档要求有容器运行环境、8 GB 内存和超过 50 GB 的可用磁盘空间。

项目
文档说明
Python 与 uv快速入门要求 Python 3.13 和 uv
容器运行环境Docker 或 Podman 加 compose 工具；缺失时 uvx 会安装一个
内存8 GB 为建议的最低配置
磁盘初始设置和导入需超过 50 GB 空闲空间
Windows仅限 WSL 内；不支持 Windows 虚拟机里的 WSL 发行版
本地模型通过 Ollama 运行 gpt-oss:20b 至少需要 16 GB 内存

所查页面没有给出 OpenRAG 本身的 GPU 要求，只说明要使用 GPU，Ollama 必须在支持 GPU 的容器中运行。

上手步骤

以下步骤依据项目的快速入门；PromptQuorum 没有实际运行过。

  1. 1
    创建工作文件夹
    Why it matters: 新建一个空目录，例如 openrag-workspace，并在其中打开终端。
  2. 2
    启动安装程序
    Why it matters: 运行 uvx --python 3.13 openrag，会打开一个终端界面。
  3. 3
    设置管理员密码
    Why it matters: 为 OpenSearch 和 Langflow 自动生成或手动输入管理员密码；其余提示可跳过以保留默认值。
  4. 4
    启动服务
    Why it matters: 对 “Start services now?” 回答 Y，等待出现 “Services are running”，再在浏览器中打开 OpenRAG。
  5. 5
    完成初始引导
    Why it matters: 选择模型提供商，输入其 API 密钥并点击 Complete；快速入门使用的是 OpenAI。
  6. 6
    添加知识并开始聊天
    Why it matters: 上传文件或文件夹，然后在聊天视图中提问。

来源已证实的功能

以下每一项都来自项目的文档或 README。

  • 可编辑的流程。内置的智能体流程可在嵌入式 Langflow 编辑器中定制，包括更换模型或组件；也支持自定义 Langflow 组件和 MCP 服务器。
  • 文档导入。文件来自本地文件系统，或经 OAuth 授权的云存储连接器；由 Docling Serve 解析并切分。
  • 搜索。OpenSearch 存储文档和嵌入向量，并提供混合搜索与多租户支持。
  • SDK 与 API。官方 Python 和 TypeScript SDK 以 openrag-sdk 发布，文档中还有 API 参考。
  • 可观测性。向 Langfuse 的追踪和 IBM Instana 追踪器均为可选，默认关闭。

数据流向与访问控制

按文档所述，Docling Serve 在本地处理你的文档，OpenSearch 把它们存入你自己的知识库；云端数据只通过你授权的连接器加载。整体架构由容器组成：后端、Langflow、Docling Serve、连接器和前端。

默认的模型提供商是 OpenAI，使用它时，你的提示词和检索到的文档片段会按 OpenAI 自身的政策发往 OpenAI。配置参考还列出了 Anthropic、Ollama 和 IBM watsonx.ai，因此也可以改为指向本地的 Ollama 端点。如果没有设置 Langflow 超级用户密码，Langflow 会在无身份验证的状态下启动，这正是文档建议设置密码的原因。

📌注: 关于本地处理的说法是项目自己的描述；PromptQuorum 没有审计容器及其网络流量。除非更改镜像仓库，终端的升级检查会查询 Docker Hub API。

适合哪些人

  • 想要现成 RAG 套件的开发者，不必自己拼装 Langflow、OpenSearch 和 Docling。
  • 已在运行容器的团队，希望对自己的文件使用带多租户的混合搜索。
  • 需要 API 或 SDK 的开发者，想在自己的应用里调用文档检索智能体。

我们未能核实的内容

  • 实际表现。PromptQuorum 没有运行该软件，因此回答质量、引用准确度、导入速度和稳定性均未评估。
  • 遥测。所查页面没有记录容器的数据分析情况，也没有关闭选项。
  • 隐私政策。没有找到 OpenRAG 专属的隐私政策页面；文档只引用了 IBM 的通用隐私声明。
  • 纯本地运行。文档介绍了对 Ollama 的支持，但快速入门只以 OpenAI 为例，完全离线的配置尚未测试。

竞品与替代方案

Langflow

平台:
Web
价格 / 许可证:
免费 / MIT
主要区别:
OpenRAG 所嵌入的可视化流程构建器，不含配套的搜索套件
关于Langflow的文章（3篇）

其他提及：

RAGFlow

平台:
Linux、Web
价格 / 许可证:
免费 / Apache 2.0
主要区别:
以深度文档理解和引用为核心的 RAG 引擎
关于RAGFlow的文章（5篇）

其他提及：

竞品信息变化较快；请在各应用自己的页面上确认当前价格、许可证和平台。

在目录中比较

常见问题

OpenRAG 推荐哪些 Ollama 模型？

文档建议语言模型用 gpt-oss:20b 或 mistral-nemo:12b，嵌入模型用 nomic-embed-text、mxbai-embed-large 或 embeddinggemma。聊天模型必须支持工具调用，文档也不保证每个 Ollama 模型都能正常工作。

它使用哪些端口？

默认情况下，前端 3000，Langflow 7860，后端 8000，OpenSearch 9200，OpenSearch Dashboards 5601，Docling 5001。前端和 Langflow 的端口可以在 .env 文件中修改。

它能从哪些云存储导入数据？

配置参考介绍了经 Google OAuth 的 Google Drive、经 Microsoft Graph 应用注册的 SharePoint 与 OneDrive，以及使用访问密钥的 AWS S3。

如何在自己的代码里调用它？

用 pip install openrag-sdk 安装 Python SDK，或用 npm install openrag-sdk 安装 TypeScript SDK。较早的独立包 openrag-mcp 已被弃用。

结论

OpenRAG 是一套免费的 Apache-2.0 RAG 方案，按其文档，Langflow、OpenSearch 和 Docling 已预先连通，并且维护活跃：2026 年 10 月初有新版本发布，10 月 23 日仍有更新。另一方面，它运行较重，Windows 只能通过 WSL，默认使用 OpenAI，PromptQuorum 也无法核实它的质量、遥测情况和完全离线使用。它适合想要现成、可深度修改的 RAG 后端的开发者；偏好可安装应用的读者可以对比 AnythingLLM，只需要流程构建器的读者可以看看 Langflow。

来源

← 返回 本地LLM进阶

MCP