Skip to main content
PromptQuorum
主页/本地LLM进阶/AnythingLLM Mobile评测（2026）：设备端聊天+RAG
Mobile & Edge LLMs

AnythingLLM Mobile评测（2026）：设备端聊天+RAG

·阅读约11分钟·Hans Kuepper 作者 · PromptQuorum创始人，多模型AI调度工具 · PromptQuorum
选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

**AnythingLLM Mobile是一款免费、MIT许可的Android应用，支持两种工作方式：独立模式下，在设备上完整运行一个经过挑选的小型语言模型和本地向量数据库，实现离线文档聊天和RAG；连接模式下，通过局域网扫描二维码配对，将聊天记录、工作区和文档与自托管的AnythingLLM Desktop或AnythingLLM Cloud实例同步。** 开发方是Mintplex Labs，即桌面版/服务器版AnythingLLM开源项目的开发公司，代码发布在GitHub，采用MIT许可证。截至本评测时，该应用仅通过Google Play提供Android版本；尚无iOS版App Store上架。

AnythingLLM Mobile是Mintplex Labs开发的免费、MIT许可的Android应用，可直接在手机上运行小型语言模型和本地向量数据库，实现离线文档聊天。它还可以通过局域网与自托管的AnythingLLM Desktop或AnythingLLM Cloud实例配对，使用桌面版的完整功能。本评测将准确说明设备端独立模式与连接模式的区别、各平台的真实可用性（Android已上线，iOS尚未支持）、该应用与单独计价的AnythingLLM Cloud服务之间的价格差异，以及它适合谁、不适合谁。

AnythingLLM Mobile评测（2026）：设备端聊天+RAG

关键要点

  • 免费开源（MIT许可）；移动端应用源代码公开发布在GitHub。
  • 双模式：设备端独立推理（Cactus Compute引擎、内置GGUF模型、本地向量数据库），或通过二维码与自托管的桌面/云端实例配对的连接模式。
  • 截至本评测时仅支持Android——可通过Google Play或直接下载APK获取；尚无iOS版App Store上架。
  • 由Mintplex Labs开发，这是一家Y Combinator出身的公司，同时也负责桌面版/服务器版AnythingLLM项目。
  • 移动端应用本身没有订阅费；部分用户配对使用的独立托管服务AnythingLLM Cloud起价为每月50美元。

📍 简单一句话

AnythingLLM Mobile是Mintplex Labs开发的免费、MIT许可的Android应用，可在设备端运行小型语言模型以实现离线文档聊天，也可以连接自托管的AnythingLLM Desktop或Cloud实例。

💬 简单来说

它既不只是服务器的远程遥控应用，也不是完全独立的桌面版替代品——它同时具备两种属性：一台手机上的独立离线AI，以及一个可选的、面向已在运行的桌面或云端实例的移动端窗口，具体使用哪种模式由用户根据任务自行选择。

📌注: 本评测基于公开的AnythingLLM Mobile GitHub仓库、官方移动端文档、Google Play应用页面以及anythingllm.com，核实时间为2026年9月。PromptQuorum并未针对本评测对AnythingLLM Mobile进行独立的实测基准测试——以下性能数据是本地LLM的一般硬件参考指标，而非针对该应用的实际测量结果。

AnythingLLM Mobile是什么？

**AnythingLLM Mobile是一款采用MIT许可证发布的Android应用，让手机无需依赖云端API即可与语言模型和上传的文档进行对话。** 它是与桌面版/服务器版AnythingLLM项目独立的代码库，专为React Native构建，不过两个项目来自同一家公司，共享AnythingLLM这一名称及工作区概念。

理解这款应用的最佳方式，是将其视为"二合一"产品：一是无需任何设置、无需账号即可使用的独立设备端AI助手；二是面向已经在使用桌面应用、Docker容器或AnythingLLM Cloud订阅服务的用户，让他们在手机上获得相同的工作区、聊天记录和文档的移动端前端。

谁开发了AnythingLLM Mobile？

**AnythingLLM Mobile由Mintplex Labs开发，该公司由Timothy Carambat创立，也是最初开发桌面版和服务器版AnythingLLM的公司。** Mintplex Labs成立于2022年，总部位于美国加利福尼亚州尔湾市，曾参加Y Combinator 2022年夏季批次，天使轮投资方包括Y Combinator、Goodwater Capital、UpHonest Capital和Orange DAO。

桌面版/服务器版AnythingLLM旗舰项目——一款开源、可自托管、用于文档聊天和构建自定义智能体的"一体化AI应用程序"——比移动端应用早出现数年，在GitHub上拥有庞大的社区，PromptQuorum的AnythingLLM对比PrivateGPT对比Open WebUI文章对其有详细介绍。AnythingLLM Mobile则是一个更新、独立的React Native代码库，将相同的工作区和RAG理念延伸到了手机上。

AnythingLLM Mobile是在设备端运行还是连接服务器？

AnythingLLM Mobile同时支持设备端独立模式和连接到单独托管的AnythingLLM实例的连接模式——也就是说它并非只属于其中一种，当前激活的模式决定了应用能做什么。 混淆这两种模式很重要：期望完全离线、无需设置的AI体验的用户可以在独立模式下获得这种体验；而期望获得桌面版完整功能（自定义智能体工具、更大的文档工作区）的用户，则需要连接模式以及一个正在运行、可供配对的桌面、Docker或Cloud实例。

在独立模式下，根据Mintplex Labs官方的移动端文档以及该应用的GitHub仓库，手机会下载一个经过挑选的小型GGUF语言模型，并通过Cactus Compute（一款专为React Native打造的基于llama.cpp的推理引擎）在本地运行。同时，一个小型嵌入模型和本地向量数据库也会在设备端运行，使上传的文档能够完全离线地被分块、生成嵌入并检索，用于RAG。模型下载完成后，聊天无需账号、API密钥或互联网连接。

在连接模式下，手机本身不会为该工作区执行推理——而是通过扫描该实例Settings > Tools > AnythingLLM Mobile面板中显示的二维码，通过局域网（若是Cloud则通过互联网）与AnythingLLM Desktop应用、自托管的Docker实例或AnythingLLM Cloud订阅服务配对。桌面端实例需要在Settings > Admin > General中开启"启用网络发现"选项，局域网配对才能正常工作。配对完成后，聊天记录、工作区、话题以及自定义智能体工具会在手机与所连接的实例之间同步，而LLM、嵌入和RAG的实际工作是在该实例运行的地方完成的，而不是在手机上。

应该使用哪种模式？

以下情况使用本地LLM：

  • •你希望AI聊天和文档RAG完全离线运行，无需账号、无需服务器、无需设置。
  • •在投入更多之前，你想先测试设备端AI在你这台具体的Android设备上是否足够快。
  • •你没有运行——也不打算运行——AnythingLLM的桌面或服务器实例。

以下情况使用云端模型：

  • •你已经在使用AnythingLLM Desktop、Docker或AnythingLLM Cloud，并希望在手机上获得相同的工作区和聊天记录。
  • •你需要自定义智能体工具、更大的文档库，或者一个手机实际无法承载的更强大的模型。
  • •你希望多台设备（手机和桌面）通过一个共享工作区保持同步。

快速决策：

  • →如果不确定，先从独立模式开始——它不需要其他任何服务在运行。
  • →只有在你已经拥有可供配对的桌面、Docker或Cloud实例时，才切换到连接模式。

如何开始使用AnythingLLM Mobile

**根据该应用自己的移动端文档，设置方式取决于你想使用哪种模式。** 独立模式除了安装应用外无需其他操作；连接模式则需要一个已经存在的AnythingLLM Desktop、Docker或Cloud实例来配对。

  1. 1
    安装应用
    Why it matters: 从[Google Play](https://play.google.com/store/apps/details?id=com.anythingllm)下载AnythingLLM Mobile，或从[anythingllm.com/mobile](https://anythingllm.com/mobile)直接下载APK。打开应用无需账号或邮箱注册。
  2. 2
    选择独立模式进行离线使用
    Why it matters: 首次启动时，应用会提供经过挑选的设备端模型供下载。根据设备的RAM选择合适的模型（参见下方硬件部分），即可开始聊天——基础聊天和文档上传无需其他设置。
  3. 3
    或与自托管实例配对以使用连接模式
    Why it matters: 如果你已经在使用AnythingLLM Desktop、Docker或Cloud，请在该实例的Settings > Admin > General中启用"网络发现"，然后在桌面端界面打开Settings > Tools > AnythingLLM Mobile以显示配对二维码。
  4. 4
    在移动端应用中扫描二维码
    Why it matters: 在AnythingLLM Mobile中，使用配对/扫描选项连接到桌面或Cloud实例。配对完成后，该实例的工作区、聊天记录和话题将在移动端应用中可用，并在设备之间同步更新。

手机上的文档聊天与RAG是如何工作的？

独立模式（设备端）

推理运行位置:
在手机上，通过Cactus Compute（专为React Native打造的基于llama.cpp的引擎）
RAG／文档处理方式:
本地嵌入模型+设备端向量数据库；文档完全离线地被分块、生成嵌入并检索

连接模式（配对实例）

推理运行位置:
在配对的AnythingLLM Desktop、Docker主机或Cloud实例上
RAG／文档处理方式:
使用该实例已配置的向量数据库和嵌入模型——与桌面应用相同的RAG流程，同步至移动端

在一种模式下创建的工作区不会自动变成另一种模式的工作区——上传到独立设备端工作区的文档会保留在该手机本地，除非你切换到与桌面/Cloud实例配对的连接工作区。

AnythingLLM Mobile支持iPhone吗？

Android

可用性:
可通过Google Play获取，也可直接下载APK
备注:
截至本评测时，这是唯一已上线的移动平台。

iPhone / iPad（iOS）

可用性:
尚未发布——截至本评测时，未找到AnythingLLM Mobile的App Store上架页面
备注:
iOS支持已在该项目的GitHub问题跟踪页上公开讨论过，但PromptQuorum未找到任何官方App Store发布记录，也未找到Mintplex Labs确认发布日期的公告。不要仅凭其他网站的报道就假定iOS版已可用——在期待之前，请直接在App Store上核实。

Mac / Windows / Linux

可用性:
不适用——这些平台使用的是单独的AnythingLLM Desktop应用或Docker容器，而非移动端应用
备注:
想立即使用AnythingLLM的iPhone用户，应在Mac上使用桌面应用，或改用其他移动端应用，如PocketPal AI或Private LLM。

AnythingLLM Mobile的价格是多少？

根据公开文档和应用在Play Store上的介绍，AnythingLLM Mobile本身在独立设备端模式下下载和使用都是免费的，没有订阅费，也没有应用内购买项目。 移动端应用的源代码采用MIT许可证开源，公开发布在GitHub上。

费用只会因连接模式所配对的对象而产生。自行运行AnythingLLM Desktop应用或Docker容器来进行配对，和移动端应用一样是免费开源的。如果不想自行搭建，Mintplex Labs还提供独立托管服务AnythingLLM Cloud：Basic套餐每月50美元，含私有实例和自定义子域名；Pro套餐每月99美元，在此基础上增加72小时支持SLA，面向更大规模的团队；以及需要单独报价的Enterprise套餐，包含本地部署、SSO和RBAC。两个付费Cloud套餐都要求用户自行提供LLM API密钥，模型使用费用不包含在内。

  • 移动端应用（独立模式）： 免费，MIT许可证开源，未发现任何订阅费。
  • 移动端应用（连接模式）： 配对功能本身免费；费用完全取决于配对的对象。
  • 用于配对的自托管桌面/Docker实例： 与移动端应用一样，免费且开源。
  • AnythingLLM Cloud Basic： 每月50美元——私有实例、自定义子域名，需自行提供LLM API密钥。
  • AnythingLLM Cloud Pro： 每月99美元——增加72小时支持SLA，面向更大规模的团队。
  • AnythingLLM Cloud Enterprise： 单独报价——本地部署、SSO、RBAC、定制集成。

AnythingLLM Mobile有哪些功能？

功能的可用性取决于当前激活的模式——根据该项目自身的移动端文档，部分功能仅在连接模式下才可用。 具体包括：

  • 设备端聊天。 与本地下载的模型进行对话，首次下载完成后无需互联网连接。
  • 离线文档RAG。 将文档上传到独立工作区，利用设备端的嵌入模型和向量数据库，获得带引用的回答。
  • 工作区同步（仅限连接模式）。 在配对的桌面、Docker或Cloud实例上创建的聊天记录、话题和工作区会与手机双向同步。
  • 自定义智能体工具（仅限连接模式）。 在桌面端实例上配置的工具调用功能，在配对后会同步到移动端；设备端独立模式不支持自定义工具配置。
  • 二维码配对。 与自托管实例的连接使用该实例设置界面中显示的二维码，而不是手动输入服务器地址和凭据。
  • 独立使用无需账号。 独立模式下的聊天和文档RAG无需创建Mintplex Labs账号。

运行AnythingLLM Mobile需要什么样的硬件？

设备端独立模式依赖手机自身的RAM和CPU/NPU，这与其他任何基于GGUF的移动端聊天应用一样——Mintplex Labs并未公布独立模式所选模型的确切RAM需求，因此适用本地LLM的一般规模参考标准。 作为手机上量化GGUF模型的一般经验法则，参数量在10亿到30亿之间的小型模型大约需要2-3 GB的空闲RAM，超过这一规模的模型则需要按比例增加更多RAM。

连接模式对手机硬件几乎没有推理相关的要求，因为语言模型是在配对的桌面、Docker主机或Cloud实例上运行的——手机只需要足够的资源来运行应用界面并同步数据，真正的硬件需求转移到了托管所连接AnythingLLM实例的那台机器上。

  • 独立模式：为最小的内置模型预留2-3 GB以上的空闲RAM；更大的设备端模型需要更多。
  • 存储：每个下载的设备端模型需要几百兆字节到几吉字节不等的空闲存储空间。
  • 连接模式：手机硬件不是瓶颈——请改为参考运行你的桌面、Docker或Cloud实例的那台机器的硬件建议。
  • 网络：独立模式在模型下载完成后完全离线运行；连接模式需要共享的局域网（若是Cloud则需要互联网连接）才能访问配对的实例。

谁适合使用AnythingLLM Mobile

  • 希望获得真正免费、离线运行的AI聊天和文档RAG应用的Android用户。 独立模式无需账号、服务器或订阅，适合希望以最少设置获得私密设备端AI体验的用户。
  • 希望在手机上获得相同工作区的现有AnythingLLM Desktop、Docker或Cloud用户。 对于已经投入桌面版/服务器版AnythingLLM生态系统的用户来说，连接模式的同步能力是明显的优势。
  • 能够接受在两种不同模式之间做出选择的用户。 要充分发挥这款应用的价值，就需要理解何时使用独立模式、何时使用连接模式，这更适合技术上有好奇心的用户，而非只想要单一固定行为的用户。
  • 希望在不自行搭建的情况下获得移动端前端的团队。 将Android手机与付费的AnythingLLM Cloud实例配对，可以在不自行运营任何基础设施的情况下，通过移动端访问共享工作区。

谁不适合使用AnythingLLM Mobile

  • iPhone和iPad用户。 截至本评测时尚无iOS版本；Apple设备用户应改用Private LLM或PocketPal AI。
  • 希望使用单一简单模式、无需做任何决策的用户。 独立模式与连接模式的划分是一个需要理解的真实设计选择；更喜欢单一、有引导性体验，使用精选模型列表且不涉及服务器配对概念的用户，可能更适合PocketPal AI或Loci。
  • 希望在不使用任何服务器的情况下获得完整自定义智能体工具的用户。 在这款应用当前的设计中，自定义智能体工具的配置与连接模式绑定——希望今天就完全在设备端实现该功能的用户应考虑其他方案。
  • 需要免费企业级支持的用户。 社区支持是免费的，但支持SLA需要付费的AnythingLLM Cloud Pro或Enterprise订阅，仅靠移动端应用无法获得。
  • 希望使用尽可能大的设备端模型的用户。 独立模式围绕适合手机RAM的小型精选模型设计；需要更大模型的用户，应使用连接模式配合一台性能足够的桌面实例，或者直接使用桌面/工作站配置。

AnythingLLM Mobile与其他替代方案对比

AnythingLLM Mobile

设备端 vs. 客户端:
两者兼具——设备端独立推理，或作为客户端连接自托管实例
平台:
仅限Android
许可证／费用:
免费，开源（MIT）；配对使用的Cloud服务起价每月50美元
关于AnythingLLM Mobile的文章（1篇）

其他提及：

AnythingLLM Desktop/Server

设备端 vs. 客户端:
自行运行LLM和RAG流程，可本地运行或通过API调用
平台:
Mac、Windows、Linux、Docker
许可证／费用:
免费，开源（MIT）；Cloud托管起价每月50美元

PocketPal AI

设备端 vs. 客户端:
仅设备端——无服务器/客户端模式
平台:
iPhone/iPad、Android
许可证／费用:
免费，开源（MIT）

Private LLM

设备端 vs. 客户端:
仅设备端——无服务器/客户端模式
平台:
iPhone/iPad/Mac（仅限Apple）
许可证／费用:
付费，一次性购买；闭源

LLM Farm

设备端 vs. 客户端:
仅设备端，通过llama.cpp
平台:
iPhone/iPad
许可证／费用:
免费，开源；曾在其发展历程中一度从App Store下架——安装前请核实当前可用性
关于LLM Farm的文章（4篇）

其他提及：

Layla

设备端 vs. 客户端:
仅设备端，另可选配远程API提供商
平台:
Android、iPhone/iPad
许可证／费用:
免费层级加付费层级；闭源
关于Layla的文章（3篇）

其他提及：

Maid

设备端 vs. 客户端:
仅设备端，通过llama.cpp；也支持兼容Ollama/OpenAI的远程端点
平台:
Android、iPhone/iPad
许可证／费用:
免费，开源（MIT）
关于Maid的文章（4篇）

其他提及：

RikkaHub

设备端 vs. 客户端:
两者兼具——通过LiteRT提供商实现本地设备端推理，另加多提供商云端客户端
平台:
Android
许可证／费用:
免费，开源
关于RikkaHub的文章（1篇）

其他提及：

AnythingLLM Mobile和RikkaHub是本表中唯二真正采用设备端/客户端双重设计的应用；其余各行要么严格在设备端运行，要么严格作为客户端运行，这是仅凭单一功能列表就决定安装前需要核实的关键区别。安装本表中任何应用前，请直接核实最新的App Store/Play Store页面，因为可用性可能会发生变化。

常见问题

AnythingLLM Mobile是在手机本身上运行AI模型吗？

是的，在独立模式下是这样。该应用会下载一个经过挑选的小型GGUF语言模型，并通过Cactus Compute（一款专为React Native打造的基于llama.cpp的推理引擎）在设备端运行，同时配合本地嵌入模型和向量数据库用于离线文档RAG。此外，该应用还支持与自托管的AnythingLLM Desktop或Cloud实例配对的连接模式，在该模式下推理发生在配对的实例上，而不是手机上。

AnythingLLM Mobile支持iPhone吗？

不支持。截至本评测时，AnythingLLM Mobile没有App Store上架页面，仅通过Google Play或直接下载APK提供Android版本。iOS支持已在该项目的GitHub问题跟踪页上被讨论过，但Mintplex Labs并未官方公布确认的发布日期。

AnythingLLM Mobile是免费的吗？

是的，移动端应用本身免费，且采用MIT许可证开源，独立设备端使用无需订阅。如果你使用连接模式与托管的AnythingLLM Cloud实例配对，而不是自行搭建，那么这项独立的Cloud服务提供起价每月50美元的付费套餐——但移动端应用本身以及桌面/Docker自托管选项仍然免费。

AnythingLLM Mobile是谁开发的？

AnythingLLM Mobile由Mintplex Labs开发，该公司于2022年由Timothy Carambat创立，总部位于美国加利福尼亚州尔湾市。Mintplex Labs曾参加Y Combinator 2022年夏季批次，同时也开发桌面版/服务器版AnythingLLM应用程序。

AnythingLLM Mobile采用什么许可证发布？

AnythingLLM Mobile采用MIT许可证发布，这是一种宽松的开源许可证，其源代码公开发布在GitHub上。该应用可以连接的桌面版/服务器版AnythingLLM项目同样采用MIT许可证。

如何将AnythingLLM Mobile连接到我的桌面实例？

在你的AnythingLLM Desktop、Docker或Cloud实例中，前往Settings > Admin > General启用"网络发现"，然后打开Settings > Tools > AnythingLLM Mobile以显示配对二维码。在AnythingLLM Mobile应用内扫描该二维码即可连接。配对完成后，工作区、聊天记录和话题会在手机与所连接的实例之间同步。

AnythingLLM Mobile需要互联网连接吗？

独立模式在初次下载模型后不需要——推理和文档RAG完全在设备端运行。连接模式则需要共享的局域网才能访问自托管的桌面或Docker实例，或需要互联网连接才能访问托管的AnythingLLM Cloud实例。

AnythingLLM Mobile能与我的文档对话吗？

可以，两种模式都支持。在独立模式下，文档会通过设备端的嵌入模型和本地向量数据库完全离线地被分块、生成嵌入并检索。在连接模式下，配对的桌面、Docker或Cloud实例会使用其自身配置的向量数据库和嵌入模型来处理文档RAG，方式与桌面应用相同。

AnythingLLM Mobile与桌面版AnythingLLM应用有什么区别？

AnythingLLM Mobile是专为手机构建的独立Android应用，除了可以连接桌面实例外，还拥有自己独立的设备端推理模式。PromptQuorum的AnythingLLM对比PrivateGPT对比Open WebUI一文中介绍的桌面版/服务器版AnythingLLM应用程序，运行在Mac、Windows、Linux或Docker上，支持比移动端应用独立模式更广泛的LLM提供商、向量数据库和智能体配置。

AnythingLLM Mobile与PocketPal AI或Private LLM相比如何？

PocketPal AI和Private LLM是纯设备端的移动聊天应用，没有服务器连接模式；而AnythingLLM Mobile是本对比中唯一采用真正双重设计的应用——既有设备端独立推理，又有可选的连接模式，可连接自托管或云端的AnythingLLM实例。如果你需要这种灵活性，或者已经在桌面上使用AnythingLLM，就选择AnythingLLM Mobile；如果你专门需要一款iPhone应用，由于AnythingLLM Mobile仅支持Android，请选择PocketPal AI（免费，iPhone/Android）或Private LLM（付费，仅限Apple）。

结论

AnythingLLM Mobile的双重设计——真正的设备端独立模式与可选的连接模式并存——在这一品类中并不常见，因为大多数移动端AI应用都会完全押注于其中一种架构。这种灵活性同时也是初次使用者面临的最大障碍：要弄清楚当前激活的是哪种模式、每种模式能做什么不能做什么，需要比PocketPal AI或Private LLM这类单一用途应用花费更多的前期精力。目前更大的限制在于平台：AnythingLLM Mobile仅支持Android，没有App Store发布记录，也没有确认的iOS发布日期。如果你使用Android，并且要么想要设置为零的免费离线AI，要么已经在使用AnythingLLM Desktop、Docker或Cloud并希望在手机上获得相同的工作区，那么AnythingLLM Mobile值得选择。如果你需要一款iPhone应用，请改选Private LLM或PocketPal AI；如果你根本不需要移动端客户端，直接使用桌面版AnythingLLM应用程序即可。

参考来源

← 返回 本地LLM进阶