关键要点
- 41款工具,五种类型:RAG框架与流水线(13款)、文档与PDF对话应用(13款)、笔记应用集成(10款)、本地搜索与研究工具(7款)以及向量数据库(4款)。Onyx、Karakeep和Surf等若干工具属于不止一种类型,并在每种类型中都会出现。
- 表格生成自每款工具的记录,并对照其官方README或网站核对;破折号表示“文档中未说明”,绝不表示“没有”。
- 在撰写本文时,GitHub将Flowise和h2oGPT仓库标记为已归档(只读);在基于它们进行构建之前,请查看它们的评测了解当前状态。
- 表格中的每个工具名称都链接到其自己的PromptQuorum评测,安装步骤与局限均在评测中介绍。
📍 简单一句话
让本地模型处理你自己文档的工具有五种不同类型——RAG框架、文档对话应用、向量数据库、笔记集成和本地搜索——因此PromptQuorum目录中的41款工具按类型分别比较,所用表格与每款工具各自的评测生成自同一份工具数据。
💬 简单来说
有些工具是面向开发者的构建模块,有些是与你的文件对话的现成应用,有些负责存储让搜索得以运作的向量,还有些则接入你已在使用的笔记应用。把数据库与笔记插件放在同样的功能上比较毫无意义,所以本指南只在同类之间比较。
我们如何对比
每款工具的事实——价格、许可证、平台、硬件需求以及特定类别的属性——只在该工具的目录记录中存储一次。下方的对比表生成自这些记录,而该工具自己的评测也依据同一份记录,因此两者不会给出不同的数值。
特定类别的属性(例如本地LLM支持或混合搜索)取自各项目的官方README或网站,并对照其中的确切措辞核对。当文档没有提及时,表格显示破折号而不是猜测;当某项说法带有限定条件(仅在路线图中、企业版、配套项目或付费层级)时,该属性不会列入表格,而是在该工具的评测中说明。
只有拥有自己PromptQuorum评测的工具才会出现在表格中。该对比列出的是运行在你自己硬件上或由你自托管的工具;它不做排名,因为合适的选择取决于你的限制条件。
对比表
请先在下方选择一种工具类型,然后横向阅读一行。点击工具名称即可打开其完整的PromptQuorum评测。
| 工具 | 价格 | 许可证 | 平台 | 运行方式 | 硬件 | 版本 | 可视化 / 拖拽式构建器 | 支持本地 LLM | 支持智能体 | 支持多种向量库 | Docker / 自托管 | 本地API服务器 | 评测 | 产品链接 · 已披露 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| cognee | 免费 | Apache-2.0 | — | 混合 | CPU即可 | — | — | 是 | — | — | 是 | 是 | 阅读评测 → | cognee |
| Dify | 免费增值 | Modified Apache 2.0 | Web, Linux | 混合 | CPU即可 | — | 是 | 是 | 是 | — | 是 | 是 | 阅读评测 → | Dify |
| Flowise | 免费增值 | Apache-2.0 | Web | 混合 | — | — | 是 | — | 是 | 是 | 是 | 是 | 阅读评测 → | Flowise |
| Haystack | 免费 | Apache-2.0 | macOS, Windows, Linux | 混合 | — | — | — | 是 | 是 | — | 是 | — | 阅读评测 → | Haystack |
| Langchain-Chatchat | 免费 | Apache-2.0 | Linux, macOS, Windows | 混合 | 因模型而异 | v0.3.1 | — | 是 | 是 | 是 | 是 | 是 | 阅读评测 → | Langchain-Chatchat |
| Langflow | 免费 | MIT | Web | 混合 | CPU即可 | — | 是 | — | 是 | 是 | 是 | 是 | 阅读评测 → | Langflow |
| LlamaIndex | 免费 | MIT | macOS, Windows, Linux | 混合 | — | — | — | 是 | 是 | 是 | — | — | 阅读评测 → | LlamaIndex |
| LongMemory | 免费 | Apache-2.0 | macOS, Windows, Linux | 混合 | CPU即可 | v1.2.3 | — | — | 是 | — | 是 | 是 | 阅读评测 → | LongMemory |
| MaxKB | 免费增值 | GPL-3.0 | Web, Linux | 混合 | CPU即可 | — | — | 是 | 是 | — | 是 | — | 阅读评测 → | MaxKB |
| Onyx | 免费增值 | MIT (core) + Enterprise Edition proprietary … | Web, Linux | 混合 | — | — | — | 是 | 是 | — | 是 | 是 | 阅读评测 → | Onyx |
| Self-hosted AI Starter Kit | 免费 | Apache-2.0 | — | 本地 | 因模型而异 | — | 是 | 是 | 是 | — | 是 | — | 阅读评测 → | Self-hosted AI Starter Kit |
| txtai | 免费 | Apache-2.0 | macOS, Windows, Linux | 本地 | CPU即可 | — | — | 是 | 是 | — | 是 | 是 | 阅读评测 → | txtai |
| Vane (formerly Perplexica) | 免费 | MIT | macOS, Windows, Linux | 混合 | CPU即可 | — | — | 是 | — | — | 是 | 是 | 阅读评测 → | Vane (formerly Perplexica) |
“—”表示该项目自己的文档未说明,并不代表该功能不存在。数值取自各项目的官方README或网站,并在更新该工具评测时重新核对。
RAG框架:差异所在
- 可视化构建器。Dify、Flowise、Langflow和Self-hosted AI Starter Kit记载了可视化或拖拽式工作流构建器。
- 本地LLM。cognee、Haystack、Langchain-Chatchat、LlamaIndex、MaxKB、Onyx、Self-hosted AI Starter Kit、txtai和Vane(原名Perplexica)记载了对本地LLM的支持。
- 智能体。Dify、Flowise、Haystack、Langchain-Chatchat、Langflow、LlamaIndex、LongMemory、MaxKB、Onyx、Self-hosted AI Starter Kit和txtai记载了对智能体的支持。
- 多种向量存储。Flowise、Langchain-Chatchat、Langflow和LlamaIndex记载了与多种向量存储的集成。
- Docker与自托管。cognee、Dify、Flowise、Haystack、Langchain-Chatchat、Langflow、LongMemory、MaxKB、Onyx、Self-hosted AI Starter Kit、txtai和Vane(原名Perplexica)记载了Docker或自托管部署。
- API。cognee、Dify、Flowise、Langchain-Chatchat、Langflow、LongMemory、Onyx、txtai和Vane(原名Perplexica)记载了HTTP或REST API。
文档与PDF对话:差异所在
- 本地LLM。AnythingLLM、h2oGPT、Khoj、Langchain-Chatchat、PrivateGPT、Quivr、Sidekick和Surf记载了对本地LLM的支持。
- 文档格式。AnythingLLM、h2oGPT、Khoj、PrivateGPT、Quivr和RAGFlow记载了对多种文件格式的支持。
- 引用来源。AnythingLLM、PrivateGPT、RAGFlow、Sidekick和Surf记载了在回答中引用来源。
- 桌面应用。AnythingLLM、Khoj和Surf记载了可安装的桌面应用。
- Docker与自托管。AnythingLLM、h2oGPT、Langchain-Chatchat、PrivateGPT和RAGFlow记载了Docker或自托管部署。
- API。AnythingLLM、h2oGPT、Langchain-Chatchat、PrivateGPT、RAGFlow和ToolNeuron记载了API。
向量数据库:差异所在
- 混合搜索。Milvus、Qdrant和Weaviate记载了关键词与向量的混合搜索。
- 元数据过滤。Chroma、Milvus、Qdrant和Weaviate记载了按元数据过滤。
- 分布式部署。Milvus、Qdrant和Weaviate记载了分布式或集群部署。
- Docker与自托管。Milvus、Qdrant和Weaviate记载了Docker或自托管部署。
- 托管云。Chroma、Milvus、Qdrant和Weaviate除自托管外还记载了托管云服务。
- 许可证。Chroma、Milvus和Qdrant采用Apache-2.0,Weaviate的核心采用BSD-3-Clause,部分受限功能采用其自有的Weaviate License——详情请参阅各工具的评测。
笔记集成:差异所在
- 所支持的笔记应用。BMO Chatbot、Copilot for Obsidian、Smart Connections和Text Generator适用于Obsidian;logseq-copilot适用于Logseq;Joplin AI适用于Joplin;Blinko、SiYuan和Surf是内置AI的独立笔记应用。
- 本地LLM。BMO Chatbot、Copilot for Obsidian、Joplin AI、Karakeep、logseq-copilot和Surf记载了对本地LLM的支持。
- 语义搜索。Karakeep和Smart Connections记载了对笔记的语义搜索。
- 与你的笔记对话。BMO Chatbot和Joplin AI记载了与你的笔记对话。
本地搜索与研究:差异所在
- 本地LLM。Farfalle、Karakeep、Local Deep Research、Onyx和Vane(原名Perplexica)记载了对本地LLM的支持。
- 网络搜索。Farfalle、Local Deep Research、Onyx和Vane(原名Perplexica)记载了搜索网络。
- 你自己的文件。Local Deep Research、Onyx和Smart Connections记载了搜索你自己的文件或笔记。
- 引用来源。Local Deep Research和Vane(原名Perplexica)记载了引用来源。
本对比无法告诉你的事
- 它比较的是文档中记载的功能,而不是质量。它无法说明回答有多准确、索引速度有多快,或者某款工具的扩展性如何——PromptQuorum并未对所列工具测量过这些方面。
- 破折号表示我们所查阅文档中的空白,而不是否定的结论。有些工具可能支持某项功能,只是其README没有提及。
- 项目状态很重要:在撰写本文时,GitHub将Flowise和h2oGPT仓库标记为已归档(只读),这意味着那里不再有进一步的开发。在为新项目选用某款工具之前,请查看它的评测。
- 工具变化很快。每款工具的评测都会说明其核对所依据的版本,而本指南会在评测更新时随之刷新。
常见问题
RAG框架、文档对话应用和向量数据库有什么区别?
RAG框架是用于构建检索增强流水线的开发者工具包。文档对话应用是用于就你的文件提问的现成应用。向量数据库存储让相似度搜索得以运作的数值嵌入,通常是前两者内部的一个组件。它们承担不同的工作,因此分别进行比较。
对比表中的破折号是什么意思?
它表示项目自己的文档没有说明该属性。这并不表示缺少该功能;请查看该工具的评测或其代码仓库。
为什么有的工具会出现不止一次?
有些工具承担不止一种工作——例如同时也能接入笔记应用的搜索工具——因此它们会列在所属的每个类型下,并附上适用于该类型的属性。
这些工具有联盟链接吗?
没有。在撰写本文时,PromptQuorum与本对比中的任何工具都没有联盟关系,这里的任何链接也都不会带来佣金。
这份对比多久更新一次?
每年更新两次,并且每当所列工具之一的评测更新时也会更新,因为表格与这些评测生成自同一份数据。
资料来源
- 每款工具的官方README或网站,列于该工具的PromptQuorum评测中(可从对比表链接进入)。
- PromptQuorum本地AI应用目录——表格每一行所生成自的记录。
- 所列每个项目的GitHub仓库状态(已归档或活跃),在撰写本指南时核对。