跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Mobile & Edge LLMs

PocketLLM Lite 评测：Android 本地优先 AI 聊天应用

·阅读约6分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

PocketLLM Lite（版本 1.0.40，2026 年 10 月 15 日发布）是一款免费开源的 Android 聊天应用，可在手机上或你掌控的服务器上运行模型。 设备端推理只加载 Cactus 格式的模型包，不支持 GGUF 文件，项目自己也把 APK 称为使用调试证书签名的工程构建。

关键要点

  • 维护：仓库最近一次推送是 2026 年 10 月 15 日，8 月以来已发布多个版本，因此不适用“项目停滞”警告。
  • 费用：免费、无需账号，据 README 也没有广告或分析 SDK。
  • 运行环境：设备端 Cactus 模型包、Ollama 服务器或任何兼容 OpenAI 的端点。
  • 签名：发布版 APK 使用调试证书签名，维护者称其为工程构建。
  • 开发者：未公布开发者姓名，项目由一个 GitHub 组织运营。

📍 简单一句话

PocketLLM Lite 是采用 MIT 许可的 Android 应用，可与运行在手机上或你自己的 Ollama、兼容 OpenAI 的服务器上的模型聊天。

💬 简单来说

你从 GitHub 安装 APK，把一个小模型下载进应用，或让它指向家中的服务器，然后无需账号即可聊天，或就自己的文档提问。

📌注: 本评测基于项目网站、GitHub 发布版 v1.0.40 和仓库文档，核查日期为 2026 年 10 月 24 日。PromptQuorum 未安装也未测试该应用，因此速度、回答质量和稳定性均未评估。

选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

PocketLLM Lite 是一款免费、采用 MIT 许可的 Android 聊天应用，可在手机上运行兼容模型，或连接你自己的 Ollama 或兼容 OpenAI 的服务器。项目未公布开发者姓名，代码位于 GitHub 组织 PocketLLM，产品另有专属网站 pocketllm-lite.vercel.app。本评测基于该网站、GitHub 发布版 v1.0.40 和仓库文档，核查日期为 2026 年 10 月 24 日；PromptQuorum 未安装也未测试该应用。

PocketLLM Lite 评测：Android 本地优先 AI 聊天应用

PocketLLM Lite 是什么？

PocketLLM Lite 是一个用 Flutter 构建的 Android 本地优先 AI 工作空间，并配有网页版。 项目将其描述为让聊天、文档、记忆和模型保持在用户掌控之中的应用；GitHub 仓库创建于 2025 年 12 月 9 日。

它把应用与推理后端分开，提供三条路径：通过 Cactus 运行时在设备上运行模型、使用回环或可信局域网上的 Ollama 服务器，以及任何可配置的兼容 OpenAI 的端点。

获取方式

PocketLLM Lite 通过 GitHub Releases 分发 APK 文件，另有浏览器版；未链接任何应用商店页面，也没有 iOS 应用。

选项
获取方式
Android，多数手机arm64-v8a APK，约 60 MB，含设备端运行时
Android，旧机型或 x86armeabi-v7a 与 x86_64 APK；仅支持服务器、OCR 和文档
网页版打开网页应用；需要你自己的 Ollama 或兼容 OpenAI 的端点
官方网站pocketllm-lite.vercel.app
源代码GitHub 仓库，MIT 许可

评测版本：1.0.40，2026 年 10 月 15 日发布，附 SHA256SUMS 文件；需要 Android 7.0（API 24）或更高版本。APK 使用调试证书签名，因此 Android 不显示已验证的发布者，安装时需允许未知来源。据 README，1B 参数的模型在 Q4 下约占 0.7 至 1 GB。

上手步骤

以下步骤依据项目自己的五分钟快速入门；PromptQuorum 未实际运行。

  1. 1
    安装 APK
    Why it matters: 从发布页下载 arm64-v8a 文件，与 SHA256SUMS.txt 核对后安装。
  2. 2
    完成首次引导
    Why it matters: 选择网络权限；更新检查和在线浏览模型都是可选的。
  3. 3
    选择运行方式
    Why it matters: 下载目录中的小模型供设备端使用，或在设置中填入 Ollama 或兼容 OpenAI 的服务器地址。
  4. 4
    聊天或导入文档
    Why it matters: 据 README，每条回答都由所选模型生成，缺少前提条件时应用会明确提示，而不是伪造回复。

来源已证实的功能

以下每一项都来自 README 或发布说明，未经独立测试。

  • 聊天工作区。 流式聊天，含历史记录、分支、标签、人设、提示词、技能和每个聊天独立的系统提示词。
  • 文档与记忆。 导入 PDF、TXT、Markdown 和 CSV 并给出来源引用；语义检索需要安装嵌入模型，本地记忆可查看、置顶和停用。
  • 语音与 OCR。 经校验和验证安装模型后可在设备端用 Whisper 转写，另有文字转语音和针对拉丁文字的 Android OCR。
  • 工具。 经校验的 JSON 工具调用，如计算、笔记、提醒、剪贴板和受策略控制的网络搜索；会改变状态的操作会先征求确认。
  • 开发者功能。 Prompt Lab、模型并排对比、设备端基准测试，以及应用内带认证的兼容 OpenAI 的服务器，默认仅绑定回环地址。

数据流向与隐私

README 称，聊天、文档、索引和记忆都保存在应用沙盒内，设备端推理不向外发送任何内容，也不含广告、分析或追踪 SDK。 据称仓库中有一项回归测试，一旦出现此类 SDK 就会让构建失败。

网络使用被设计为明确可见：模型发现与下载、更新检查、使用你自己密钥的 Tavily 网络搜索，以及你配置的远程运行环境，都会连接所显示的目的地。Strict Offline 模式会阻止应用的非回环流量，审计日志列出目的地，备份使用由密码派生的密钥以 AES-256-GCM 加密。发送给 Ollama 或兼容 OpenAI 的服务器的提示词会离开手机，前往该服务器。

📌注: Strict Offline 是应用层面的边界，不是设备防火墙；项目的安全说明称，应用内可选的 API 服务器没有 TLS 和 CORS 允许列表，因此应只在回环或可信网络中使用。这些是项目自己的说法，PromptQuorum 未检查网络流量。

适合哪些人

  • 已经在运行 Ollama 的 Android 用户，想要带文档检索和审计日志的手机客户端。
  • 想要 MIT 许可代码库的技术爱好者，可以阅读、用 Flutter 构建并改造。
  • 对设备端模型感兴趣的人，能接受侧载的调试签名构建和尚未验证的运行时。

我们未能核实的内容

  • 设备端推理。 发布说明称，token 生成未在真机上验证，模型加载仅在模拟器上验证，因此速度、内存适配和稳定性均未知。
  • 网站与仓库不一致。 网站写的是“On-device GGUF”，而 README 称 GGUF 文件无法在手机上运行；仓库简介还提到 iOS，但 README 只涉及 Android。本评测以 README 为准。
  • 签名与发布者。 调试签名的 APK 不提供发布者身份，也未公布开发者姓名。
  • 运行时维护。 已知限制文件称 Cactus 的 Flutter 包截至 2026 年 7 月已在上游归档，并将其列为维护风险。
  • 隐私与质量。 未检查“无追踪”的说法、审计日志和备份加密，也未评估回答质量。

竞品与替代方案

Maid

平台:
Android、iOS
价格 / 许可证:
免费 / MIT
主要区别:
开源 Flutter 应用，也支持 Ollama 和兼容 OpenAI 的 API
关于Maid的文章（5篇）

其他提及：

这些是 PromptQuorum 上最接近的移动聊天应用评测；请在各应用自己的页面确认当前价格、许可证和平台。

在目录中比较

常见问题

网页版有什么用？

它是基于 Next.js 的浏览器版本，数据保存在 IndexedDB，与你自己掌控的 Ollama 或兼容 OpenAI 的端点通信；据 README，它不含 Android 设备端运行时。

应该下载哪个 APK？

2017 年以后的多数手机请用 arm64-v8a。armeabi-v7a 和 x86_64 构建无法运行设备端模型，因为运行时库只为 arm64-v8a 打包。

没有网络能用吗？

据项目所述，安装模型后设备端聊天不需要网络，Strict Offline 模式可阻止应用自身的非回环流量；首次下载模型和网络搜索则需要联网。

有其他语言版本吗？

没有。README 称界面目前只有英文；六种语言的翻译文件虽然存在，但只有 15 条文本，且尚未接入。

结论

PocketLLM Lite 是一个更新活跃、采用 MIT 许可的选择，可把文档完备的本地优先聊天与文档工作区装进 Android 手机，并能在设备端模型和你自己的服务器之间做出清晰选择。另一方面，它没有公布开发者姓名，发布的是调试签名的工程构建，依赖一个项目自己列为已归档的上游运行时包，作者也表示设备端生成尚未在真机上验证。它适合能侧载安装、阅读仓库并自行测试的技术型 Android 用户；需要已签名、通过应用商店分发且性能经过验证的应用的人，应等这些条件具备后再考虑。

来源

← 返回 本地LLM进阶

MCP