跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Mobile & Edge LLMs

On Device LLM 评测：适用于 Android 的免费离线聊天应用

·阅读约6分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

On Device LLM 是一款免费、闭源的 Android 应用，称其在手机上运行 Llama 3.2 等开放权重模型，无需账号。 该项目全新上线，因此其说法依据的是一份页面描述和一份政策，尚无人独立测试过。

关键要点

  • 开发者：印度的一名个人开发者，在 Google Play 上列为 Raushan kumar Pandey；应用商店页面还显示署名“Feather AI”。
  • 上线时间与影响范围：首个版本为 1.0，最后更新于 2026 年 9 月 11 日，Google Play 显示下载量 100+，因此尚无历史记录可循。
  • 平台：仅通过 Google Play 提供，需要 64 位设备上的 Android 7.0 或更高版本；未发现 iPhone、桌面或网页版本。
  • 维护情况：截至 2026 年 10 月 26 日，最后一次更新是 45 天前，因此不适用过期警告。

📍 简单一句话

On Device LLM 是一款闭源的 Android 应用，据其开发者称，它在手机上运行开放权重语言模型，无需账号、没有广告、也没有服务器。

💬 简单来说

你从 Google Play 安装后，下载七个模型之一（或粘贴指向你自己的 GGUF 文件的链接）即可与它聊天；开发者没有说明运行这些模型的是哪款软件。

📌注: 本评测基于 Google Play 页面以及开发者网站和隐私政策，核实日期为 2026 年 10 月 26 日。未进行实际使用、基准测试或网络流量检查。

选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

On Device LLM 是一款适用于 Android 的免费聊天应用。根据其 Google Play 页面和隐私政策，它在手机上运行开放权重语言模型，无需账号。Google Play 上的标题是“Local LLM”；它与 iPhone 和 Mac 应用 On Device AI 及 AI on Device 是不同的应用。本评测反映其应用商店页面以及开发者网站和隐私政策在 2026 年 10 月 26 日的情况。

On Device LLM 评测：适用于 Android 的免费离线聊天应用

On Device LLM 是什么？

On Device LLM 是一款 Android 聊天应用，根据其 Google Play 页面，它用在手机上运行的开放权重模型回答提示，而不是调用云服务。 该页面的标题是“Local LLM”，而开发者网站和隐私政策称之为“local LLM”，并将其描述为适用于 Android 的设备端 AI 聊天；本评测使用“On Device LLM”这一名称，以区别于 iPhone 和 Mac 应用 On Device AI 和 AI on Device，后两者的开发者、平台和包名都不同。

页面注明开发者为印度的 Raushan kumar Pandey；Android 包名为 com.ondevicellm。该应用仅在 Google Play 上架。

获取方式

On Device LLM 与其他 Android 应用一样从 Google Play 安装，无需终端或账号。 首次模型下载为 369 MB 或更大，因此首次运行需要网络连接和可用存储空间。

平台
获取方式
AndroidGoogle Play（免费安装，需要 64 位 Android 7.0 或更高版本）
网站on-device-llm-ff80d.web.app（仅含法律页面的开发者网站）
隐私政策隐私政策（最后更新于 2026 年 8 月 24 日）

所评测版本：1.0，Google Play 显示其最后更新于 2026 年 9 月 11 日；更新说明称其为首个版本。页面未列出任何源代码仓库。

来源已确认的功能

以下每一项均来自 Google Play 描述或隐私政策。

  • 七个内置模型。 SmolLM2 360M、Qwen2.5 0.5B、TinyLlama 1.1B、Llama 3.2 1B、Qwen2.5 1.5B、Gemma 2 2B 和 Llama 3.2 3B，下载前会显示各自的下载大小；无需离开聊天界面即可切换模型。
  • 你自己的模型。 你可以粘贴任意 GGUF 文件的直接链接。
  • 保存的聊天。 对话存储在设备上的数据库中，标题由模型生成，Markdown 和代码块可渲染并支持一键复制，也可一次性清除所有聊天。
  • 可选的本地 API。 端口 11434 上的 OpenAI 兼容 HTTP 端点，让 curl、Python SDK 或你自己的脚本可以通过 Wi-Fi 或 USB 使用手机上的模型，并支持流式输出。它默认关闭，启用时会显示通知。
  • 运行要求。 页面称根据模型不同，大约需要 1 至 3 GB 的可用内存，并称在较旧的手机上，较大的模型明显更慢。

隐私与网络使用

根据隐私政策，消息和回复保存在设备上的私有数据库中，任何提示都不会发送到服务器。 无需账号，页面称没有广告。Google Play 的数据安全（Data safety）部分写明“未收集数据”和“未与第三方共享数据”。

政策比该说明卡更详细。它称应用使用 Google Firebase Analytics 记录匿名事件：事件名称、模型名称、消息长度（以字符数计，而非文本本身）、时长、匿名的应用实例 ID 和标准设备信息。政策还列出了从你所选主机（默认为 huggingface.co）下载模型，以及启动时一次只读的 Google Cloud Firestore 请求，用于获取模型目录和检查更新。两处说法在数据分析上存在差异，因此政策是更完整的来源。

可选的本地 API 没有身份验证：政策称，网络中任何能访问该手机的设备都可以发送提示并读取回复，并建议只在你信任的网络上启用它。

📌注: 该应用为闭源，因此这些说法均无法通过代码核查，PromptQuorum 也未审计其网络流量。处理机密材料的人应先在自己的设备上核实其行为。

适合哪些人使用

  • 想要一款可自选模型的免费离线聊天应用的 Android 用户。 通过链接导入 GGUF 是尝试它的主要理由。
  • 希望在可信网络上使用手机作为端点的开发者。 本地 API 是另一个理由。

我们无法核实的内容

  • 实际使用表现。 速度、耗电和回答质量均未测试，这里也没有人确认过聊天能否在飞行模式下工作。
  • 运行时。 页面称模型是 GGUF 文件，但没有说明所用的推理引擎。
  • 许可证与源代码。 未发现公开的代码仓库，因此该应用按闭源对待；每个模型还带有其发布者各自的许可证。
  • 应用内购买。 安装免费，描述中也没有提到任何购买项目或广告，但数据安全说明卡没有说明商业模式。
  • 开发者联系方式。 隐私政策中显示的是占位联系邮箱（SUPPORT@EXAMPLE.COM）；支持邮箱见 Google Play 页面。

竞品与替代方案

Private Mind

平台:
iOS、Android
价格 / 许可证:
免费 / MIT
主要区别:
开源离线聊天，支持设备端文档问答和基准测试
关于Private Mind的文章（2篇）

其他提及：

另有9篇未显示

ToolNeuron

平台:
Android
价格 / 许可证:
免费 / MIT
主要区别:
适用于 Android 的开源加密设备端 AI 应用
关于ToolNeuron的文章（4篇）

其他提及：

竞品信息变化频繁；请在各应用自己的页面上确认其当前价格、许可证和平台。

在目录中比较

常见问题

On Device LLM 与 On Device AI 或 AI on Device 是同一个应用吗？

不是。那两款是其他开发者的独立 iPhone 和 Mac 应用；这一款是包名为 com.ondevicellm 的 Android 应用。

我可以使用列表之外的模型吗？

页面称你可以粘贴任意 GGUF 模型的直接链接。某个模型能否流畅运行取决于你手机的内存，其许可证则由发布者决定。

它能在 iPhone 或桌面上使用吗？

未发现这样的版本；开发者网站将其描述为适用于 Android 的设备端 AI 聊天。

结论

On Device LLM 是一款免费的 Android 聊天应用，离线卖点明确，支持通过链接导入 GGUF 并提供本地 API，但它刚发布不久、闭源、下载量仅 100+，其离线和隐私说法均未经测试。它适合想试用小型、无需账号的助手并接受这些风险的读者；想要开源、成熟客户端的读者，应比较 PocketPal AI 或 Private Mind。

来源

← 返回 本地LLM进阶

MCP