关键要点
- 66款工具,五种类型:桌面聊天应用(17款)、手机聊天应用(26款)、网页与CLI聊天客户端(13款)、个人助手(13款)以及角色扮演与陪伴应用(4款)。同时提供多种设备版本的工具(如Enchanted)会出现在它所属的每一种类型中。
- 该表由每款工具的记录生成,并对照其官方README或网站核对;破折号表示“文档中未说明”,绝不表示“没有”。手机应用主要依靠应用商店页面来说明,因此它们的单元格最为稀疏。
- 表中的每个工具名称都链接到它自己的PromptQuorum评测,安装步骤和局限都在那里介绍。
📍 简单一句话
本地聊天应用其实是五种不同类型的产品——桌面应用、手机应用、自托管网页界面、个人助手和角色扮演工具——因此PromptQuorum目录中的66款工具按类型分别比较,所用表格与各工具自己的评测出自同一份工具数据生成。
💬 简单来说
有些应用安装在电脑上,有些安装在手机上,有些需要你自己托管并在浏览器中打开,有些是替你做事的助手,还有些专为角色扮演而设计。把手机应用和服务器端的网页界面放在同一组功能上比较没有意义,所以本指南只在同类之间比较。
我们如何比较
每款工具的事实——价格、许可证、平台、硬件需求以及特定类别的属性——只在该工具的目录记录中存储一次。下方的对比表由这些记录生成,该工具自己的评测也取自同一条记录,因此两者不会给出不同的数值。
特定类别的属性(例如MCP支持或离线使用)取自各项目的官方README或网站,并对照其中的确切措辞核对。文档没有说明的地方,表格显示破折号而不是猜测;某项声明带有限定条件(仅在路线图中、付费方案,或需要单独的服务器等前提)时,该属性不放入表格,而在该工具的评测中介绍。
只有拥有自己PromptQuorum评测的工具才会出现在表中。对于少数应用(AI On Device、Chatty Mini和LocalAI ApexCreator),目录中没有可供核对的官方页面,因此它们的单元格为破折号。这份对比不对工具排名,因为合适的工具取决于你的限制条件。
对比表
先在下方选择一种工具类型,再横向阅读某一行。点击工具名称即可打开它完整的PromptQuorum评测。
| 工具 | 价格 | 许可证 | 平台 | 运行方式 | 硬件 | 版本 | 自带模型运行引擎 | 可连接 Ollama | 兼容 OpenAI 的端点 | 支持 MCP | 与文件对话 | 语音输入 / 输出 | 评测 | 产品链接 · 已披露 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| AnythingLLM | 免费 | MIT | macOS, Windows, Linux, Web | 混合 | CPU即可 | — | 是 | 是 | 是 | 是 | 是 | 是 | 阅读评测 → | AnythingLLM |
| BoBe | 免费 | Open source | macOS | 本地 | 因模型而异 | — | — | — | — | — | — | — | 阅读评测 → | BoBe |
| BoltAI | 免费增值 | Proprietary | macOS | 混合 | 因模型而异 | — | — | 是 | — | 是 | 是 | 是 | 阅读评测 → | BoltAI |
| Cherry Studio | 免费 | AGPL-3.0 | macOS, Windows, Linux | 混合 | — | — | — | 是 | — | 是 | — | — | 阅读评测 → | Cherry Studio |
| Ekorbia | 免费 | MIT | macOS, Windows, Linux | 本地 | 因模型而异 | — | 是 | 是 | 是 | — | 是 | 是 | 阅读评测 → | Ekorbia |
| Enchanted | 免费 | Apache-2.0 | macOS, iOS | 本地 | — | v1.8.2 | 否 | 是 | — | — | — | 是 | 阅读评测 → | Enchanted |
| GPT4All | 免费 | MIT | macOS, Windows, Linux | 本地 | CPU即可 | — | 是 | — | — | — | 是 | — | 阅读评测 → | GPT4All |
| Hanoki | 免费增值 | MIT | macOS | 混合 | — | — | — | 是 | 是 | — | — | — | 阅读评测 → | Hanoki |
| Jan | 免费 | Apache 2.0 (variant) | macOS, Windows, Linux | 本地 | CPU即可 | — | 是 | — | — | 是 | — | — | 阅读评测 → | Jan |
| LM Studio | 免费 | Proprietary (free for personal and business use) … | macOS, Windows, Linux | 本地 | 因模型而异 | — | 是 | — | — | — | — | 是 | 阅读评测 → | LM Studio |
| Locally Uncensored | 付费 | AGPL-3.0 | Windows | 本地 | 因模型而异 | — | — | 是 | — | 是 | 是 | — | 阅读评测 → | Locally Uncensored |
| Msty | 免费增值 | Proprietary | macOS, Windows, Linux | 混合 | — | — | — | — | — | — | — | — | 阅读评测 → | Msty |
| Odysseus | 免费 | AGPL-3.0 | macOS, Windows, Linux | 混合 | 因模型而异 | — | — | — | — | 是 | — | — | 阅读评测 → | Odysseus |
| Off Grid AI | 免费增值 | MIT | iOS, Android, macOS, Windows | 本地 | 因模型而异 | — | 是 | 是 | — | — | 是 | 是 | 阅读评测 → | Off Grid AI |
| On Device AI | 免费增值 | Proprietary | iOS, macOS | 本地 | CPU即可 | — | 是 | 是 | — | — | 是 | 是 | 阅读评测 → | On Device AI |
| Osaurus | 免费 | MIT | macOS | 本地 | 因模型而异 | — | 是 | 是 | — | 是 | 是 | 是 | 阅读评测 → | Osaurus |
| Sidekick | 免费 | MIT | macOS | 本地 | 因模型而异 | — | 是 | — | 是 | — | 是 | — | 阅读评测 → | Sidekick |
“—”表示该项目自己的文档未说明,并不代表该功能不存在。数值取自各项目的官方README或网站,并在更新该工具评测时重新核对。
桌面聊天应用:差异所在
- 自行运行模型。 AnythingLLM、Ekorbia、GPT4All、Jan、LM Studio、Off Grid AI、On Device AI、Osaurus和Sidekick均在文档中说明可自行运行模型,无需单独的服务器。
- Ollama。 AnythingLLM、BoltAI、Cherry Studio、Ekorbia、Enchanted、Hanoki、Off Grid AI、On Device AI和Osaurus均在文档中说明可连接Ollama。
- 兼容OpenAI的端点。 AnythingLLM、Ekorbia、Hanoki和Sidekick均在文档中说明可连接兼容OpenAI的端点。
- MCP。 AnythingLLM、BoltAI、Cherry Studio、Jan、Locally Uncensored、Odysseus和Osaurus均在文档中说明支持MCP。
- 与文件对话。 AnythingLLM、BoltAI、Ekorbia、GPT4All、Locally Uncensored、Off Grid AI、On Device AI、Osaurus和Sidekick均在文档中说明可与你自己的文件对话。
- 语音。 AnythingLLM、BoltAI、Ekorbia、Enchanted、LM Studio、Off Grid AI、On Device AI和Osaurus均在文档中说明支持语音输入或输出。
- 价格。 在17款桌面应用中,11款免费,5款为免费增值(freemium),1款付费。请查看各自的评测,了解付费方案增加了什么。
手机聊天应用:差异所在
- 完全离线。 Arbiter、Enclave AI、Google AI Edge Gallery、Layla、Locally AI、Loci AI、Maid、Noema、Off Grid AI、On Device AI、Pocket AI、PocketPal AI、Private LLM、Solair AI和ToolNeuron均在文档中说明可在设备上完全离线运行。
- 导入自己的模型。 Arbiter、Google AI Edge Gallery、Maid、On Device AI、PocketPal AI和ToolNeuron均在文档中说明可导入你自己的模型文件。
- 应用内下载模型。 Arbiter、Enclave AI、Google AI Edge Gallery、Liquid Apollo、Locally AI、Loci AI、Maid、On Device AI、Pocket AI、PocketPal AI和Private LLM均在文档中说明可在应用内下载模型。
- 图像输入。 Arbiter、Enchanted、Google AI Edge Gallery、Locally AI、Off Grid AI、On Device AI、RikkaHub、Solair AI和ToolNeuron均在文档中说明支持图像输入。
- 语音。 Enchanted、Enclave AI、Google AI Edge Gallery、Locally AI、Off Grid AI、On Device AI、PocketPal AI、Solair AI和ToolNeuron均在文档中说明支持语音输入或输出。
- 价格。 在26款手机应用中,16款免费,6款为免费增值(freemium),4款付费。
- 文档。 大多数手机应用仅有应用商店页面或官网作为文档,其说明远少于README,因此这张表中的破折号比其他表更多。
网页与CLI客户端:差异所在
- Docker与自托管。 AnythingLLM、Big-AGI、KoboldCpp、LibreChat、LobeChat、NextChat、Odysseus和Open WebUI均在文档中说明支持Docker或自托管部署。
- 多用户。 LibreChat和Open WebUI均在文档中说明支持多用户。
- Ollama。 aichat、AnythingLLM、Big-AGI、Chatbox、LibreChat、Open WebUI和Page Assist均在文档中说明可连接Ollama。
- 兼容OpenAI的端点。 aichat、AnythingLLM、Big-AGI、LibreChat、NextChat、Open WebUI和Page Assist均在文档中说明可连接兼容OpenAI的端点。
- 与文件对话。 aichat、AnythingLLM、Chatbox、KoboldCpp、LibreChat和Open WebUI均在文档中说明可与你自己的文件对话。
- MCP。 aichat、AnythingLLM、Chatbox、KoboldCpp、LibreChat、LobeChat、NextChat、Odysseus和Open WebUI均在文档中说明支持MCP。
个人助手:差异所在
- 本地LLM。 Jarvis、Khoj、Meetily、nanobot、NVIDIA Project G-Assist、Odysseus、Parlor和Second Me均在文档中说明可配合本地LLM使用。
- 语音。 Jarvis、Khoj、NVIDIA Project G-Assist、Parlor和Voxa均在文档中说明支持语音输入或输出。
- 持久记忆。 Aori、nanobot、Odysseus、Second Me和Voxa均在文档中说明支持持久记忆。
- 工具调用与操作。 Agentic Inbox、Aori、Atomic Bot、Jarvis、Khoj、nanobot、NVIDIA Project G-Assist、Odysseus、Parlor和Voxa均在文档中说明支持工具调用或操作。
角色扮演与陪伴应用:差异所在
- Lorebook。 Agnai、Backyard AI和RisuAI均在文档中说明支持lorebook或世界设定(world info)。
- 群聊。 Agnai和RisuAI均在文档中说明支持群聊。
- 覆盖范围。 这一组只有四款工具,而且若干角色扮演功能(例如角色卡)在不同项目中的描述方式各不相同,因此这些内容放在各工具的评测中介绍,而不放入表格。
这份对比无法告诉你的事
- 它比较的是文档中记载的能力,而不是质量。它无法说明回答有多好、模型在你的设备上跑得多快,或界面有多精致——PromptQuorum没有对所列工具测量过这些内容。
- 破折号是我们查阅的文档中的空白,不是否定性结论。有些工具可能支持某项功能,只是其README或应用商店页面没有提及。
- 手机应用变化频繁,主要依靠应用商店页面来说明,因此安装前请查看当前的商店页面和该工具的评测。
- 工具更新很快。每款工具的评测都注明了核对时所依据的版本,评测更新时本指南也会随之更新。
常见问题
为什么桌面、手机和自托管聊天应用要分开比较?
它们是不同的产品,面临不同的限制:手机应用在设备上运行小型模型,桌面应用可以运行更大的模型,而自托管网页界面是你为自己或团队运行的服务器。大多数属性只在同一类型内才有意义,如果放进同一张表,大部分单元格会是空的或没有意义。
对比表中的破折号是什么意思?
它表示该项目自己的文档没有说明这一属性,并不表示该功能缺失;请查看该工具的评测或其代码仓库。
为什么同一款工具会出现在多张表中?
有些工具提供多种设备的版本——例如桌面版和手机版——因此它们会列在所属的每一种类型下,并附上适用于该类型的属性。
这些工具中有带联盟链接(affiliate link)的吗?
没有。在撰写本文时,PromptQuorum与这份对比中的任何工具都没有联盟关系,这里的任何链接也不会带来佣金。
这份对比多久更新一次?
每年更新两次,并且每当所列工具之一的评测更新时也会更新,因为该表与这些评测出自同一份数据生成。
资料来源
- 每款工具的官方README、网站或应用商店页面,列在该工具的PromptQuorum评测中(可从对比表链接进入)。
- PromptQuorum本地AI应用目录——该表每一行所依据的记录。