Skip to main content
PromptQuorum
主页/本地LLM进阶/PocketPal AI 测评（2026）：免费开源的本地设备端聊天应用
Mobile & Edge LLMs

PocketPal AI 测评（2026）：免费开源的本地设备端聊天应用

·阅读约10分钟·Hans Kuepper 作者 · PromptQuorum创始人，多模型AI调度工具 · PromptQuorum
选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

PocketPal AI 是一款免费开源（MIT 许可证）应用，可完全在你的 iPhone、iPad 或 Android 设备上运行 GGUF 语言模型，聊天时不依赖云端。 由开发者 Asghar Ghorbani 打造，托管在 GitHub（测评时星标数超过 8,000），支持一键下载 Gemma 2、Qwen、Phi、Danube 3 等模型，也可加载从 Hugging Face 获取的任何其他 GGUF 文件。基础应用完全免费；一个名为 PalsHub 的可选应用内市场出售高级助手预设，但与已下载模型聊天本身是免费的。

PocketPal AI 是一款面向 iPhone、iPad 和 Android 的免费、MIT 许可证开源应用，可直接在设备上运行 GGUF 格式的语言模型，聊天时无需服务器往返，也无需账号。开发者 Asghar Ghorbani 最初将其作为个人项目启动，随后将代码发布在 GitHub 上开源。本测评介绍该应用目前的功能、内置的模型、真实的硬件需求、真实的价格（基础应用免费；一个名为 PalsHub 的可选社区市场出售高级预设），以及它适合谁——不适合谁。

PocketPal AI 测评（2026）：免费开源的本地设备端聊天应用

关键要点

  • 免费开源（MIT 许可证）；源代码和问题跟踪均公开在 GitHub 上。
  • 由 Asghar Ghorbani 作为个人项目起步，获得关注后开源发布。
  • 通过 llama.cpp 完全在设备上运行 GGUF 模型——聊天无需账号，也无需服务器往返。
  • 支持一键下载 Gemma 2、Qwen、Phi 和 Danube 3；来自 Hugging Face 的其他任何 GGUF 模型均可手动加载。
  • 可在 App Store（iPhone/iPad）和 Google Play（Android）下载；没有 Mac、Windows 或 Linux 版本。
  • 基础应用没有订阅费；一个名为 PalsHub 的可选市场通过应用内购买出售高级助手预设。

📍 简单一句话

PocketPal AI 是一款面向 iPhone、iPad 和 Android 的免费、MIT 开源应用，可直接在设备上下载并运行 GGUF 语言模型，由开发者 Asghar Ghorbani 创建和维护。

💬 简单来说

这是一款安装后可与运行在你自己手机上、而非公司服务器上的 AI 聊天的应用——代码在 GitHub 上公开，应用本身完全免费，你可以自行选择要下载的模型，而不必被单一供应商绑定。

📌注: 本测评基于公开的 GitHub 仓库、项目内文档以及 App Store 和 Google Play 的页面信息，核实时间为 2026 年 9 月。PromptQuorum 并未针对本测评对 PocketPal AI 进行独立的实机基准测试——以下性能数据是本地 LLM 的通用硬件参考，而非针对该应用的具体实测。

PocketPal AI 是什么？

**PocketPal AI 是一款移动应用，下载 GGUF 格式的开放权重语言模型，并使用 llama.cpp 作为推理引擎，在 iPhone、iPad 或 Android 设备上本地运行。** 应用本身基于 React Native 构建，并以 MIT 许可证发布，这意味着完整源代码是公开的，可自由查看、分叉或修改。

与将用户限制在固定精选模型列表中的应用不同，PocketPal AI 允许从可一键获取的模型中选择，或者从 Hugging Face 导入任何 GGUF 文件——包括在同意其许可条款后可访问的受限模型。这种灵活性正是该应用的核心特征：它更像是配有聊天界面的通用 GGUF 运行时，而不是单一厂商的产品。

PocketPal AI 是谁开发的？

PocketPal AI 由 Asghar Ghorbani 创建，他最初将其作为个人副业项目，用于在自己的手机上运行小型语言模型，在引起外界关注后将其开源。 Ghorbani 在一篇 Medium 文章《PocketPal AI: Tiny LLMs in the Pocket》中讲述了项目的起源和动机，将目标描述为把小型语言模型的能力直接装进口袋。

该项目在开发者的业余时间维护，而非由受资助的公司或专职团队负责——仓库自身的入门文档也直接说明了这一点，在期待企业级支持响应速度之前值得了解这一点。截至本测评时，GitHub 仓库（a-ghorbani/pocketpal-ai）已累计获得超过 8,000 个星标和超过 850 次分叉，并持续收到常规更新，包括新模型支持、界面改动以及互联网搜索、聊天置顶、导出为 Markdown 等新功能。

  • 开发者：Asghar Ghorbani（GitHub：a-ghorbani），以个人身份独立开发，而非以公司名义。
  • 起初是在设备上运行小型语言模型的个人项目；获得公众关注后开源发布。
  • 许可证：MIT——宽松许可，可自由使用、修改和再分发。
  • 截至本测评时，GitHub 星标数超过 8,000，分叉数超过 850，问题跟踪活跃，拉取请求历史丰富。
  • 开发节奏：频繁发布小版本更新，涵盖运行时更新、新界面功能以及不断扩展的语言支持，均以志愿方式维护。

如何开始使用 PocketPal AI

**根据项目自身的入门文档，安装应用后只需四个步骤即可开始本地聊天。** 无需创建账号或登录——整个流程都在设备上完成。

  1. 1
    安装应用
    Why it matters: 在 iPhone/iPad 上从 [App Store](https://apps.apple.com/us/app/pocketpal-ai/id6502579498) 下载 PocketPal AI，在 Android 上从 [Google Play](https://play.google.com/store/apps/details?id=com.pocketpalai) 下载。打开应用无需账号或邮箱注册。
  2. 2
    打开“模型”页面
    Why it matters: 从应用菜单进入“模型”标签页，查看可一键下载的模型列表（如 Gemma 2、Qwen、Phi 和 Danube 3），以及导入自定义 GGUF 文件的选项。
  3. 3
    下载模型
    Why it matters: 选择一个与你设备内存匹配的模型（参见下方硬件部分）并下载。更大、更强的模型下载时间更长，占用的设备存储空间也更多。
  4. 4
    加载模型并开始聊天
    Why it matters: 点击“Load”将下载好的模型载入内存，然后切换到聊天页面。加载完成后，所有推理都在设备上进行——PocketPal AI 的“Auto Offload/Load”功能可在应用切换到后台时自动卸载模型以节省内存，并在你返回时重新加载。

PocketPal AI 支持哪些模型？

Gemma 2

获取方式:
应用内一键下载
典型用途:
通用聊天；Google 的开放权重模型系列

Qwen

获取方式:
应用内一键下载
典型用途:
通用聊天与推理；阿里巴巴的开放权重模型系列

Phi

获取方式:
应用内一键下载
典型用途:
紧凑型推理；Microsoft 的小型模型系列

Danube 3

获取方式:
应用内一键下载
典型用途:
轻量聊天；H2O.ai 的小型模型系列

其他任意 GGUF 模型

获取方式:
通过应用内 Hugging Face Hub 搜索手动导入，包括同意许可条款后的受限模型
典型用途:
不在一键下载列表中的自定义或小众模型

PocketPal AI 是否支持 iPhone 和 Android？

iPhone / iPad

可用性:
可在 App Store 下载
备注:
默认使用 Apple 的 Metal GPU API 进行加速；如在特定设备上导致不稳定，可在应用内关闭。

Android

可用性:
可在 Google Play 下载
备注:
近期版本为兼容芯片恢复了高通 Hexagon NPU 加速后端，此外还支持标准 CPU 推理。

Mac / Windows / Linux

可用性:
截至本测评时未发现桌面版本
备注:
PocketPal AI 是一款仅限移动端的应用。若需要本地 GGUF 聊天桌面客户端，应考虑 Ollama、LM Studio 或 Jan AI。

PocketPal AI 收费吗？

PocketPal AI 免费下载，与本地下载的模型聊天也完全免费——没有订阅费，源代码基于 MIT 许可证公开。 应用中唯一发现的付费组成部分是 PalsHub，一个应用内市场，社区成员可在其中发布并出售高级“Pals”（可自定义的助手预设）；PalsHub 的应用内购买在 iOS 和 Android 上均可用，具体取决于所在地区。

由于应用及其模型运行功能是开源且免费的，用户唯一持续产生的成本是下载 GGUF 模型文件所需的存储空间和带宽——一个 30 亿到 40 亿参数的量化模型通常有几个 GB，更大的模型体积也相应更大。

  • 基础应用： 免费，无订阅，MIT 许可证开源软件。
  • 与已下载模型聊天： 免费——由于推理在你自己的设备上运行，不按消息或按 token 收费。
  • PalsHub 市场： 针对社区制作的高级助手预设的可选应用内购买；基础聊天功能不需要它。
  • 存储成本： 并非金钱成本，但确实存在——每个下载的 GGUF 模型都会占用设备存储，通常每个模型占用数 GB。

PocketPal AI 有哪些功能？

除了基本的本地聊天，PocketPal AI 在版本迭代中逐步增加了更成熟的本地 AI 应用中常见的一系列功能。 主要包括：

  • Pals 与 PalsHub。“Pals”是将系统提示词、模型和行为打包在一起的可自定义助手预设；PalsHub 是一个市场，用户可在其中分享或出售自己的 Pals。
  • Talents（工具调用）。 该应用支持类似智能体（agent）的流程，模型可以在对话中途调用预定义工具，而不仅仅是生成纯文本。
  • 聊天内互联网搜索。 近期版本允许聊天使用用户自行提供的 API 密钥（来自 Brave、Tavily 或 Exa 等提供商）在网络上进行搜索——这是可选功能，需要用户自己的密钥，而非内置搜索服务。
  • 文本转语音输出。 该应用可以朗读回复内容，近期版本支持的语言数量也在扩展。
  • 聊天置顶与 Markdown 导出。 对话可以置顶以便快速访问，也可以导出为 Markdown 文件。
  • 推测解码（实验性功能）。 可将较小的“草稿”模型与较大模型配对以加速生成——项目本身将其标记为实验性功能，而非稳定保证。
  • 基准测试工具。 应用内置了在当前设备上对模型性能进行基准测试的方法，便于比较不同量化级别在你特定手机上的表现。

运行 PocketPal AI 需要什么样的硬件？

决定真实硬件下限的是你选择的模型，而不是应用本身——作为手机上 GGUF 模型的一般经验法则，量化后的 20 亿到 40 亿参数模型大约需要 3-4GB 的空闲内存，而 70 亿到 80 亿参数模型则需要 6-8GB 或更多。 这是本地 LLM 的通用规格参考，并非 PocketPal 专属的基准测试；PromptQuorum 并未独立测量 PocketPal AI 针对各模型的确切内存占用。

在 iPhone 和 iPad 上，该应用默认使用 Apple 的 Metal GPU API，与仅使用 CPU 相比，通常能在搭载 Apple 芯片的设备上提升推理速度。在 Android 上，近期版本为兼容芯片增加了高通 Hexagon NPU 加速后端的支持；不支持 NPU 的设备会回退到 CPU 推理，运行大型模型时速度会明显变慢。

  • 小型模型（20-40 亿参数，量化）：在近几年推出、空闲内存 4GB 以上的大多数手机上可用。
  • 中型模型（70-80 亿参数，量化）：为获得可接受的响应速度，建议设备内存达到 8GB 或以上。
  • 存储：为每个下载的模型文件预留数 GB 的空闲存储空间。
  • 更快的推理速度：搭载 Apple 芯片的 iPhone/iPad（Metal 加速）或搭载兼容高通 Hexagon NPU 的较新 Android 设备，在仅使用 CPU 运行时会优于较旧或入门级硬件。

PocketPal AI 适合谁

  • 希望订阅成本为零的注重隐私的用户。 如果目标是在没有持续费用、无需账号的情况下运行开放权重模型，PocketPal AI 基于 MIT 许可证的免费基础应用可以直接满足需求。
  • 希望尝试固定列表之外模型的用户。 由于该应用可以加载 Hugging Face 上任意的 GGUF 文件，而不仅限于其一键下载列表，因此适合已经心有特定模型的用户。
  • 熟悉开源项目、有技术好奇心的开发者和用户。 公开的 GitHub 仓库、问题跟踪系统和频繁的更新，适合那些愿意阅读发布说明或提交问题反馈、而非期待专属客户支持的用户。
  • 希望自行检查或修改代码的用户。 MIT 许可证允许分叉和修改，这对任何想在把私密对话交给应用之前、准确审查其行为的人来说都很重要。

PocketPal AI 不适合谁

  • 希望完全无需配置、全程引导的用户。 为设备选择合适的模型大小并自行管理下载是使用流程的一部分；更希望由应用替自己决定的用户，可能更适合 Loci 这类更精心策划的应用。
  • 需要 Mac、Windows 或 Linux 支持的用户。 PocketPal AI 仅支持移动端（iPhone/iPad 和 Android）；桌面用户应考虑 Ollama、LM Studio 或 Jan AI。
  • 想要运行最苛刻模型（700 亿参数以上）的用户。 即使是当前的旗舰机型，手机硬件也无法实际支撑该规模的模型本地运行——无论使用哪款移动应用，这类工作负载都需要台式机、工作站或云端 API。
  • 期待专属商业支持的用户。 根据项目自身文档，PocketPal AI 由一名开发者利用业余时间维护；需要有保障响应时间或企业级支持协议的用户，应寻找具有商业支持的替代方案。
  • 希望在设备间内置云同步的用户。 由于推理和聊天记录按设计保留在各设备本地，PocketPal AI 不像有云端支持的聊天应用那样，在 iPhone 和 Android 设备之间提供内置的基于账号的同步功能。

PocketPal AI 与其他替代方案对比

PocketPal AI

许可证／费用:
免费，开源（MIT）
平台:
iPhone/iPad、Android
模型灵活性:
一键下载列表（Gemma 2、Qwen、Phi、Danube 3），外加 Hugging Face 上任意 GGUF 文件
关于PocketPal AI的文章（10篇）

另有6篇未显示

Loci

许可证／费用:
免费层级加付费层级；闭源
平台:
iPhone/iPad/Android/Mac/Windows（5 个平台）
模型灵活性:
精选模型库（约 10 个模型）；无法导入自定义 GGUF 文件

Private LLM

许可证／费用:
付费，一次性购买；闭源
平台:
iPhone/iPad/Mac（仅 Apple）
模型灵活性:
140 多个模型，支持 OmniQuant 和 GPTQ 量化格式
关于Private LLM的文章（10篇）

另有4篇未显示

Enclave AI

许可证／费用:
免费加付费层级；闭源
平台:
iPhone/iPad/Mac（仅 Apple）
模型灵活性:
设备端精选模型列表；集成 Siri 和 Shortcuts

Locally AI

许可证／费用:
免费；闭源
平台:
iPhone/iPad
模型灵活性:
精选模型列表，据其 App Store 页面信息

ChatterUI

许可证／费用:
免费，开源（AGPL-3.0）
平台:
Android（需从源代码构建）
模型灵活性:
通过 llama.cpp 在设备上运行 GGUF 文件，或连接远程 API；支持 Character Card v2

RikkaHub

许可证／费用:
免费，开源
平台:
Android
模型灵活性:
多提供商客户端；通过 LiteRT 提供商在设备上本地推理 Gemma、Qwen 等模型
关于RikkaHub的文章（1篇）

其他提及：

MLC Chat（MLC-LLM）

许可证／费用:
免费，开源（Apache 2.0）
平台:
iPhone/iPad、Android
模型灵活性:
运行为 MLC 运行时编译的模型，而非原始 GGUF 文件

曾经颇受欢迎的开源 iOS GGUF 聊天应用 LLM Farm，截至本测评时已从 App Store 下架，并在其自身的 GitHub 仓库中被标记为“暂时不可用”——因此上文的现行推荐中未包含该应用。另一款设备端 AI 助手应用 Layla，据报道其免费版“Layla Lite”已从 Google Play 下架；在假设其可安装之前，请直接前往 layla-network.ai 确认当前的可用情况。

常见问题

PocketPal AI 是免费的吗？

是的。PocketPal AI 免费下载，与已下载模型聊天也完全免费，该应用基于 MIT 许可证开源。一个可选的应用内市场 PalsHub 会出售社区制作的高级助手预设，但核心聊天功能没有订阅费或付费门槛。

PocketPal AI 是谁开发的？

PocketPal AI 由 Asghar Ghorbani 创建，他最初将其作为个人项目，用于在自己的手机上运行小型语言模型，在引起外界关注后将代码开源。该项目由个人独立维护，而非公司运营。

PocketPal AI 是开源的吗？

是的，完整源代码基于 MIT 许可证发布在 GitHub 上，这是一种允许自由使用、修改和再分发的宽松许可证。

PocketPal AI 可以运行哪些模型？

PocketPal AI 支持一键下载 Gemma 2、Qwen、Phi 和 Danube 3，此外还可以加载在 Hugging Face 上找到的任何其他 GGUF 格式模型，包括在同意其许可条款后可访问的受限模型。

PocketPal AI 支持 iPhone 和 Android 吗？

是的。PocketPal AI 可在 App Store 上供 iPhone 和 iPad 下载，也可在 Google Play 上供 Android 下载。目前没有 Mac、Windows 或 Linux 版本。

PocketPal AI 需要多少内存？

这取决于你选择的模型，而非应用的固定要求。作为手机上量化 GGUF 模型的一般参考，20 亿到 40 亿参数模型通常需要 3-4GB 空闲内存，70 亿到 80 亿参数模型通常需要 8GB 或以上。内存更大的设备可以运行更大、更强的模型。

PocketPal AI 需要联网吗？

下载模型后，聊天无需联网——推理完全通过 llama.cpp 在设备上进行。初次下载模型需要联网，若要使用应用的互联网搜索功能（需要用户自行提供来自 Brave、Tavily 或 Exa 等提供商的 API 密钥）也需要联网，但这是可选功能。

PocketPal AI 用于私密对话安全吗？

由于推理在本地进行，且源代码基于 MIT 许可证公开、可供审计，PocketPal AI 无需将聊天内容发送到服务器即可运行。本测评并未对该应用进行独立的安全审计；需要这种保障级别的用户应自行查看公开仓库及其问题跟踪记录。

PocketPal AI 与 Private LLM 或 Loci 相比如何？

PocketPal AI 免费开源，可不受限制地加载 GGUF 模型；而 Private LLM 是一款付费、闭源、仅限 Apple 设备的应用，内置更大的模型目录（140 多个模型）；Loci 则是一款跨五个平台的闭源应用，拥有更小、更精选的模型库。如果费用和开放性最重要，选择 PocketPal AI；如果比起免费或开源，你更看重跨更多平台、更有引导性且更打磨的体验，选择 Private LLM 或 Loci。详情参见上方对比表。

我可以在 PocketPal AI 上运行 700 亿参数这样的大模型吗？

不可以。即使是当前的旗舰机型，手机硬件也没有足够的内存来实际支撑该规模模型的本地运行。PocketPal AI 是为中小型模型（大约最多 80 亿参数）设计的；需要更大模型的用户应改用台式工作站或云端 API。

结论

PocketPal AI 之所以能在移动端本地 AI 应用中占有一席之地，是因为它真正免费、真正开源，并且在可运行模型的选择上真正灵活——这三点在这一类别中各自都很罕见，同时具备则更加少见。它并非该领域打磨得最精致的应用：用户需要自行管理模型下载，界面在灵活性与引导性之间有所取舍，项目由一名开发者利用业余时间维护，而非由拥有支持团队的公司运营。如果你想在自己的手机上运行开放权重模型，不想要订阅、也不想被供应商绑定，并且愿意自己选择适合设备的模型，那么 PocketPal AI 是合适的选择。如果你更愿意用一些费用和开放性来换取更有引导性的设置流程以及跨更多平台的专属支持，那么应改选 Private LLM 或 Loci 这类付费精选应用。

资料来源

← 返回 本地LLM进阶