Skip to main content
PromptQuorum
主页/本地LLM进阶/Maid 评测(2026):Android 开源本地 LLM 聊天应用
Mobile & Edge LLMs

Maid 评测(2026):Android 开源本地 LLM 聊天应用

·阅读约10分钟·Hans Kuepper 作者 · PromptQuorum创始人，多模型AI调度工具 · PromptQuorum
选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Maid 是一款免费开源(MIT 许可证)的 Android 应用,可通过 llama.cpp 在本地运行 GGUF 语言模型,还能使用你自己的 API 密钥连接 Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita 和 OrcaRouter 等远程提供商。开发方是由 Dane Madsen 创立的 Mobile-Artificial-Intelligence GitHub 组织,他于 2023 年 10 月启动了该项目。该应用最初使用 Flutter 构建,并在 2.0.7 版(2025 年 4 月)之前一直面向 Android、iOS(侧载)、Windows、macOS 和 Linux 发布;3.0.0 版(2026 年 3 月)将应用重写为 React Native,并将分发范围收窄至仅限 Android——目前没有 iOS、Windows、macOS 或 Linux 版本。该项目仍在积极开发中,截至 2026 年 9 月仍有提交(commit)和已合并的拉取请求(pull request)。

Maid 是一款免费开源(MIT 许可证)的聊天应用,可通过 llama.cpp 在本地运行 GGUF 格式的语言模型,也可以使用你自己的 API 密钥连接 Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita 和 OrcaRouter 等远程提供商。该项目由澳大利亚开发者 Dane Madsen 于 2023 年以跨平台 Flutter 应用的形式启动,但在 3.0.0 版(2026 年 3 月)中代码被重写为 React Native,如今只面向 Android 分发——旧版 Flutter 中存在的桌面版和 iOS 版已不再是当前版本的一部分。本评测将说明 Maid 目前能做什么、重写后发生了哪些变化、其真实的平台与硬件要求、定价情况(免费,无付费档位),以及相较商业替代品,它适合谁——不适合谁。

Maid 评测(2026):Android 开源本地 LLM 聊天应用

关键要点

  • 免费开源(MIT 许可证);源代码和 issue 跟踪均公开于 GitHub。
  • 由 Dane Madsen 于 2023 年 10 月创立,最初为跨平台 Flutter 应用;如今由 Mobile-Artificial-Intelligence 组织维护。
  • 可通过 llama.cpp 在设备上完全运行 GGUF 模型,或使用自己的 API 密钥连接 Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita 和 OrcaRouter。
  • 3.0.0 版(2026 年 3 月)将应用重写为 React Native,并限制为仅支持 Android——旧版 Flutter 还面向 iOS(侧载)、Windows、macOS 和 Linux 发布,但这些版本已不再是当前应用的一部分。
  • 可在 Google Play 获取,也可从 GitHub Releases 直接下载 APK/AAB。
  • 评测时在应用或其文档中未发现任何付费档位;基础应用及其本地聊天功能均为免费。

📍 简单一句话

Maid 是一款免费、基于 MIT 许可证的开源 Android 应用,可通过 llama.cpp 在本地运行 GGUF 语言模型,或使用你自己的 API 密钥连接远程 AI 提供商,由开发者 Dane Madsen 创立的 Mobile-Artificial-Intelligence GitHub 组织维护。

💬 简单来说

这是一款你安装在 Android 手机上、用来与 AI 模型聊天的应用——该模型要么运行在你自己的设备上,要么通过你在 OpenAI 或 Anthropic 等提供商处已有的账户运行。代码在 GitHub 上公开,应用本身免费。它以前也能在 iPhone、Windows、Mac 和 Linux 上运行,但当前版本取消了这些平台。

📌注: 本评测基于公开的 GitHub 仓库、其 README、发布历史以及 Google Play 页面,核查时间为 2026 年 9 月。PromptQuorum 并未针对本评测对 Maid 进行独立的实机基准测试——以下性能数据是本地 LLM 的一般硬件参考,而非针对该应用的具体实测。

Maid 是什么?

**Maid 是一款 Android 应用,既可以通过 llama.cpp 下载并在设备本地运行 GGUF 格式的开放权重语言模型,也可以使用你自行提供的 API 密钥,将聊天请求发送给远程提供商。**该应用采用 MIT 许可证,意味着完整源代码是公开的,可以自由查看、fork 或修改。

这种双模式是该应用的核心特征:它并非只是一个本地推理客户端。同一个界面既可以完全离线运行一个 GGUF 文件,也可以通过你自己的账户,将对话转发到 OpenAI 或 Anthropic 等云端提供商,或转发到你自己网络中自托管的 Ollama 服务器。根据其 README,该项目将自身描述为"与 Huggingface、Meta(Facebook)、MistralAi、OpenAI、Google、Microsoft 或任何其他提供与本应用兼容模型的公司均无关联"。

Maid 是谁开发的?重写后发生了什么变化?

Maid 由 Dane Madsen 创建,他于 2023 年 10 月启动该项目,作为一款用于运行 GGUF 和 llama.cpp 模型的跨平台 Flutter 应用。该项目目前托管在 Mobile-Artificial-Intelligence GitHub 组织下,而非 Madsen 的个人账户下;他最初的仓库 danemadsen/maid 目前在 GitHub 上被列为该组织仓库的一个 fork,其描述仍写着"跨平台 Flutter 应用",尽管这已不再与当前代码相符。

版本历史显示出明显的分界。截至 v2.0.7(2025 年 4 月)的各版本均以 Flutter 构建,并提供可安装包,涵盖 Android(APK/AAB)、iOS(可侧载的 .ipa 文件,未在 App Store 上架)、Linux(.zip/.AppImage)、macOS(适用于 Intel 与 Apple 芯片的 .dmg)、Windows(.zip),甚至还有一个 Web 版本。3.0.0 版(发布于 2026 年 3 月 10 日)是一次使用 React Native 的全面重写,该版本发布内容中只包含 Android 安装包(APK 和 AAB 两种变体)——没有任何 iOS、Windows、macOS 或 Linux 文件。该版本的更新日志列出了视觉模型支持、系统级文本转语音、系统级语音识别、推理模型支持、Markdown 渲染,以及一项被发行说明描述为 Google Play 要求的点赞/点踩举报功能。

重写之后开发仍在继续:该仓库显示出截至 2026 年 9 月初的已合并拉取请求和提交,其中包括对聊天系统的一处修复,以及新增 OrcaRouter 作为远程提供商。评测时,该仓库拥有约 2,700 颗星标、283 次 fork 以及 10 个未解决的 issue——这证明该项目正被积极使用和维护,不过它是由单一组织维护的开源项目,而非拥有支持团队的资金雄厚企业。

  • 创始人:Dane Madsen(GitHub:danemadsen),于 2023 年 10 月启动该项目。
  • 目前维护方:GitHub 组织 Mobile-Artificial-Intelligence;Madsen 的个人仓库如今是该组织仓库的一个 fork。
  • 许可证:MIT——宽松的开源许可证,可自由使用、fork 和修改。
  • 重大架构变化:Flutter(跨平台,截至 v2.0.7,2025 年 4 月)→ React Native,仅限 Android(自 v3.0.0 起,2026 年 3 月)。
  • 评测时 GitHub 星标约 2,700,fork 283 次,未解决 issue 10 个,提交和已合并拉取请求持续到 2026 年 9 月。

如何开始使用 Maid

安装当前的 Android 版本后,只需几个步骤即可在 Maid 中开始聊天。设备本地聊天不需要强制注册账户;可选的登录仅用于应用的云备份功能。

  1. 1
    在 Android 上安装应用
    Why it matters: 从 [Google Play](https://play.google.com/store/apps/details?id=com.danemadsen.maid) 下载 Maid,如果你更倾向于侧载,也可以直接从 [GitHub Releases 页面](https://github.com/Mobile-Artificial-Intelligence/maid/releases) 安装 APK。目前没有 iOS、Windows、macOS 或 Linux 版本可用。
  2. 2
    选择本地模式或远程模式
    Why it matters: 决定是要下载一个 GGUF 模型并通过 llama.cpp 在设备上完全运行,还是使用你已有的 API 密钥或服务器地址,将应用连接到远程提供商(Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita 或 OrcaRouter)。
  3. 3
    下载或导入模型(本地模式)
    Why it matters: 对于设备端聊天,下载一个与手机内存容量相匹配的 GGUF 模型(参见下方硬件部分),或从本地存储或 [Hugging Face](https://huggingface.co) 加载自定义 GGUF 文件。
  4. 4
    开始聊天
    Why it matters: 加载本地模型或配置好远程提供商后,即可开始对话。聊天记录可以在应用内创建、重命名、删除,并以 JSON 文件的形式导出或导入。

Maid 支持哪些模型?

本地(设备端)

连接对象:
通过 llama.cpp 加载的任意 GGUF 格式模型
备注:
没有固定的精选模型列表——应用会运行你下载或导入的任何 GGUF 文件,包括来自 Hugging Face 的文件。

远程提供商

连接对象:
Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita、OrcaRouter
备注:
需要你自己的账户和 API 密钥(对于 Ollama 则需要你自己的服务器地址);Maid 本身不打包或转售对这些提供商的访问权限。

由于 Maid 可以加载任意 GGUF 文件,其实际的模型支持范围取决于与 llama.cpp 的兼容性,而不是应用精选的候选列表——这与 PocketPal AI 或 Private LLM 等应用不同,后者在支持自定义文件的同时,还提供特定的快速下载目录。

Maid 支持 iPhone、Windows 或 Mac 吗?

Android

当前可用性:
现已支持
备注:
通过 Google Play 分发,也可从 GitHub Releases 直接获取 APK/AAB。这是当前 3.0.0 版唯一支持的平台。

iPhone / iPad

当前可用性:
目前不支持
备注:
旧版 Flutter 版本(截至 v2.0.7,2025 年 4 月)曾提供可侧载的 .ipa 文件,但从未在 App Store 上架,当前 v3.0.0 版本也未附带任何 iOS 文件。

Windows / macOS / Linux

当前可用性:
目前不支持
备注:
基于 Flutter 的版本(截至 v2.0.7)曾提供桌面版安装包(.zip、.AppImage、.dmg),但 React Native 重写版(v3.0.0)不再提供桌面版安装包。寻求本地 GGUF 聊天客户端的桌面用户应改为考虑 Ollama、LM Studio 或 Jan AI。

Maid 的价格是多少?

Maid 下载和使用均免费,无论是设备端本地聊天还是通过远程提供商聊天,其源代码在 MIT 许可证下公开。评测时,在该应用的仓库、发行说明或 Google Play 页面中均未发现任何应用内购买、订阅或付费档位。

Maid 用户实际承担的成本是间接的:下载的 GGUF 模型文件所占用的设备存储空间(通常每个文件占用数 GB),以及在使用远程提供商模式时,Anthropic、OpenAI、Mistral、DeepSeek、Novita、Ollama 或 OrcaRouter 各自针对你在其账户下的 API 使用单独收取的费用——Maid 本身不会在这些提供商成本之上加收任何加价或订阅费。

  • 基础应用: 免费,无需订阅,基于 MIT 许可证的开源软件。
  • 本地聊天(设备端 GGUF 模型): 免费——由于推理运行在你自己的设备上,不按消息或 token 计费。
  • 远程提供商聊天: 通过 Maid 使用本身免费,但你需要按照自己账户和 API 密钥下的提供商(OpenAI、Anthropic 等)收费标准付费。
  • 可选云备份: 应用支持注册或登录,以便通过 Supabase 备份设置和聊天记录;本评测未发现该功能有单独收费。
  • 存储成本: 并非货币成本,但真实存在——每个下载的 GGUF 模型通常会占用设备数 GB 的存储空间。

Maid 有哪些功能?

除了本地/远程聊天这一基本区分外,Maid 的 README 和发行说明还描述了一系列在版本迭代过程中添加的功能。其中包括:

  • 一个应用同时支持本地与远程推理。 可以在通过 llama.cpp 完全离线运行的 GGUF 聊天,与使用你自己凭证的云端提供商(Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita、OrcaRouter)之间切换。
  • 对话管理。 可以创建、重命名、删除聊天记录,并以 JSON 文件形式导出和导入。
  • 自定义系统提示词。 可设置全局系统提示词,以调整助手的行为和语气。
  • 可调节的生成参数。 可按会话调整 temperature、top-p、top-k 和上下文长度等设置。
  • 通过配套应用实现语音输出。 Maid 可与 Maise 配合使用——后者是同一 GitHub 组织开发的一款独立的开源 Android 语音合成引擎——用于朗读回复内容。
  • 可选云备份。 用户可以注册或登录,通过 Supabase 同步设置和聊天记录;此为可选功能,并非使用该应用的必需条件。
  • Material You 主题设计。 浅色和深色主题会跟随 Android 系统偏好设置切换。
  • 无遥测(telemetry)、无广告, 这是项目自身 README 中的说明。

运行 Maid 需要什么硬件?

决定本地聊天真实硬件门槛的是你所选择的 GGUF 模型,而非应用本身——作为手机上运行 GGUF 模型的一般参考,经过量化的 2-4B 参数模型大约需要 3-4 GB 的可用内存,而 7-8B 参数模型则需要 6-8 GB 或更多。这是本地 LLM 的通用规格参考,而非针对 Maid 的专门基准测试;PromptQuorum 并未独立测量 Maid 针对每个模型的确切内存占用。

由于 Maid 通过 llama.cpp 执行本地推理,因此适用于 Android 上 llama.cpp 的一般性能参考:内存更大、芯片更新的新款设备,在加载和运行较大模型时会比内存或存储受限的旧款手机更加顺畅。如果你使用远程提供商模式而非本地推理,那么设备端硬件要求极低——模型运行在提供商的服务器上,你的手机只需要一个能正常工作的互联网连接即可。

  • 小型模型(2-4B 参数,经过量化):在大多数配备 4 GB 以上可用内存的近期 Android 手机上可用。
  • 中型模型(7-8B 参数,经过量化):建议设备内存达到 8 GB 或以上,以获得可接受的响应速度。
  • 存储空间:每个下载的 GGUF 模型文件应预留数 GB 的可用存储空间。
  • 远程提供商模式:除了需要一个能正常工作的互联网连接外,几乎没有值得一提的本地硬件要求,因为推理运行在提供商的基础设施上。

Maid 适合谁使用

  • 希望在一款免费应用中同时使用本地聊天和云端聊天的 Android 用户。能够在一个开源客户端中,于完全离线的 GGUF 推理与你在 OpenAI、Anthropic 等提供商处的自有账户之间切换,是 Maid 最明显的差异化优势。
  • 希望运行不受限制的 GGUF 文件、而非精选模型列表的用户。由于该应用是通过 llama.cpp 加载任意 GGUF 模型,而不是提供固定目录,因此适合那些已经心中有明确模型选择的用户。
  • 熟悉开源项目、愿意接受相应体验的开发者和技术爱好者。公开的 GitHub 仓库、issue 跟踪系统以及活跃的发布历史,适合那些愿意阅读发行说明或提交 issue、而不是期待专属客户支持的用户。
  • 希望自行检查或修改代码的用户。MIT 许可证允许 fork 和修改,这对于希望在信任该应用处理私密对话或提供商 API 密钥之前、准确了解其行为的用户来说非常重要。

Maid 不适合谁使用

  • iPhone、iPad、Windows、macOS 或 Linux 用户。当前 3.0.0 版仅支持 Android;既没有 App Store 上架,也没有受支持的桌面版本。这些平台的用户应改为考虑 Private LLM 或 PocketPal AI(Apple 平台),或 Ollama、LM Studio、Jan AI(桌面平台)。
  • 希望获得完全引导式、无需配置体验的用户。在本地模式与远程模式之间选择、为自己的设备选择合适的模型大小、管理 API 密钥,都是使用流程的一部分;如果更希望由应用来做这些决定,可能更适合 Loci 或 Enclave AI 这类更加精心策划的应用。
  • 希望在本地运行最苛刻模型(700 亿参数以上)的用户。即便是旗舰级 Android 设备,其硬件也无法实际在设备端运行这种规模的模型——无论使用哪款移动应用,这类工作负载都需要台式机、工作站或云端 API/远程提供商。
  • 期待专属商业支持的用户。Maid 由一个开源 GitHub 组织维护,而非拥有支持团队的资金雄厚企业;需要有保障的响应时间或企业级支持协议的用户,应寻求有商业支持的替代方案。
  • 需要旧版跨平台构建的用户。任何依赖 Maid 此前基于 Flutter 的 v2.x 版本所提供的 iOS、Windows、macOS 或 Linux 支持的用户,都应了解这些平台并不属于当前积极维护的版本。

Maid 与其他替代应用对比

Maid

许可证 / 费用:
免费,开源(MIT)
支持平台:
仅限 Android(自 v3.0.0 起)
模型灵活性:
通过 llama.cpp 运行任意 GGUF 文件,或使用自己的 API 密钥连接远程提供商(Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita、OrcaRouter)
关于Maid的文章（4篇）

其他提及：

PocketPal AI

许可证 / 费用:
免费,开源(MIT)
支持平台:
iPhone/iPad、Android
模型灵活性:
快速下载列表,外加来自 Hugging Face 的任意 GGUF 文件

Private LLM

许可证 / 费用:
付费,一次性购买;闭源
支持平台:
iPhone/iPad/Mac(仅限 Apple)
模型灵活性:
140 多种模型,支持 OmniQuant 和 GPTQ 量化格式

Enclave AI

许可证 / 费用:
免费+付费档位;闭源
支持平台:
iPhone/iPad/Mac(仅限 Apple)
模型灵活性:
精选的设备端模型列表;集成 Siri 和 Shortcuts

ChatterUI

许可证 / 费用:
免费,开源(AGPL-3.0)
支持平台:
Android(需从源码构建)
模型灵活性:
通过 llama.cpp 在设备端运行 GGUF 文件,或连接远程 API;支持 Character Card v2

RikkaHub

许可证 / 费用:
免费,开源
支持平台:
Android
模型灵活性:
多提供商客户端(兼容 OpenAI/Google/Anthropic 的 API);Material You 设计
关于RikkaHub的文章（1篇）

其他提及：

AnythingLLM Mobile

许可证 / 费用:
免费,开源
支持平台:
iPhone/iPad、Android
模型灵活性:
设备端推理、连接自托管的 AnythingLLM 实例,或任意兼容 OpenAI 的提供商
关于AnythingLLM Mobile的文章（1篇）

其他提及：

LLM Farm 曾是一款颇受欢迎的开源 iOS GGUF 聊天应用,但在评测时已从 App Store 下架,并在其自身的 GitHub 仓库中被标记为"暂时不可用"——因此上文的活跃推荐中未将其列入。另一款设备端助手应用 Layla,据报道其免费的"Layla Lite"档位已从 Google Play 下架;在假定其可安装之前,请直接前往 layla-network.ai 核实当前的可用性。

常见问题

Maid 免费吗?

是的。无论是设备端本地聊天还是通过远程提供商聊天,Maid 的下载和使用都是免费的,该应用基于 MIT 许可证开源。评测时,在该应用或其文档中均未发现付费档位或应用内购买;远程提供商模式仍会通过你在该提供商处的自有账户计费。

Maid 是谁开发的?

Maid 由 Dane Madsen 创建,他于 2023 年 10 月启动该项目,最初为跨平台 Flutter 应用。目前它由 GitHub 组织 Mobile-Artificial-Intelligence 维护,而非作为个人项目。

Maid 是开源的吗?

是的,完整源代码发布在 GitHub 上,采用 MIT 许可证——一种允许自由使用、修改和再分发的宽松许可证。

Maid 能在 iPhone、Windows 或 Mac 上运行吗?

不能。自 3.0.0 版(2026 年 3 月)起,Maid 仅支持 Android。此前基于 Flutter 的版本(截至 v2.0.7,2025 年 4 月)曾提供 iOS(仅侧载,未在 App Store 上架)、Windows、macOS 和 Linux 版本,但这些平台不再受当前积极维护的版本支持。

Maid 能运行哪些模型?

对于本地聊天,Maid 可以通过 llama.cpp 运行任意 GGUF 格式的模型——没有固定的精选列表。它还可以连接远程提供商,包括 Anthropic、OpenAI、Ollama、Mistral、DeepSeek、Novita 和 OrcaRouter,使用你自行提供的 API 密钥或服务器地址。

Maid 运行本地模型需要多少内存?

这取决于你选择的 GGUF 模型,而不是应用的固定要求。作为一般参考,经过量化的 2-4B 参数模型通常需要 3-4 GB 的可用内存,7-8B 参数模型通常需要 8 GB 或以上。内存更大的设备可以在本地运行更大、能力更强的模型。

Maid 需要联网吗?

GGUF 模型下载完成后,本地聊天不需要联网——推理完全通过 llama.cpp 在设备端进行。首次下载模型、使用远程提供商模式,以及使用可选的基于 Supabase 的云备份功能时,均需要联网。

Maid 目前仍在积极维护吗?

截至评测时是的:GitHub 仓库显示出截至 2026 年 9 月初的提交和已合并拉取请求,其中包括对聊天系统的一处修复,以及新增 OrcaRouter 作为远程提供商。它由一个开源 GitHub 组织维护,而非资金雄厚的企业,因此在将其用于任何时间敏感的用途之前,请自行核实仓库的最新活动情况。

Maid 的 iOS、Windows 和 Mac 支持发生了什么?

Maid 最初是一款跨平台 Flutter 应用;截至 v2.0.7(2025 年 4 月)的版本,除 Android 外,还提供可安装的 iOS(侧载)、Windows、macOS 和 Linux 版本。3.0.0 版(2026 年 3 月)将应用重写为 React Native,并将项目范围收窄至仅限 Android——桌面版和 iOS 版已不再是当前发布系列的一部分。

Maid 与 PocketPal AI 或 Private LLM 相比如何?

Maid 免费、开源、仅支持 Android,并且不同寻常地在一款应用中同时支持完全本地的 GGUF 推理和远程云端提供商。PocketPal AI 同样免费开源,但仅通过纯本地 GGUF 推理覆盖 iPhone/iPad 和 Android。Private LLM 是一款付费、闭源、仅限 Apple 的应用,内置更大的模型目录。如果你使用 Android,并希望在一个客户端中同时拥有本地和云端选项,请选择 Maid;如果需要类似的免费开源本地模型且支持 iOS,请选择 PocketPal AI;如果更看重付费、更精致、仅限 Apple 的体验,请选择 Private LLM。详情请参见上方的对比表格。

结论

Maid 是一款真正免费、真正开源的 Android 应用,在这一品类中具有一种不常见的组合:它通过 llama.cpp 运行本地 GGUF 模型,同时又能让你在同一个客户端中连接 OpenAI 或 Anthropic 等远程提供商。这种灵活性伴随着一些真实的取舍,值得在安装前了解清楚。该应用在 2026 年经历了一次重大的架构变更——从跨平台 Flutter 重写为仅支持 Android 的 React Native——取消了旧版本所具备的 iOS、Windows、macOS 和 Linux 支持。它由一个开源 GitHub 组织维护,而非一家公司,评测时开发活动活跃,但无法保证未来会以特定节奏持续下去。如果你是 Android 用户,希望获得一款免费、开放、支持本地与远程双模式的聊天客户端,并且能接受一个由社区维护的项目,那么 Maid 值得选择。如果你需要 Maid 当前版本未覆盖的平台,请选择其他应用——Apple 设备可选择 PocketPal AI 或 Private LLM,桌面平台可选择 Ollama、LM Studio 或 Jan AI。

资料来源

← 返回 本地LLM进阶