从这里开始:先装这三款应用
时间紧?从这三款中装一款,下载一个与你iPhone内存相符的模型,并在飞行模式下测试一次。 这些推荐来自本指南的各章和评测,而非基准测试;指南的其余部分会解释每个选择。
其他不错的起点: 12 GB的iPhone可以试试Noema或Google AI Edge Gallery搭配Gemma 4模型;4 GB的iPhone请使用Reins或Enchanted(在维护章节中被标为更新缓慢)连接家中服务器,因为这一档低于设备端聊天的实际下限。
📍 简单一句话
新手可以从PocketPal AI开始,进阶用户用Locally AI和Apple自带的模型,开发者用Foundation Models框架或MLX Swift;无论哪种情况,模型大小都取决于iPhone的内存。
💬 简单来说
一款应用,一个与内存相符的模型,一次飞行模式测试。
新手
- 安装或使用:
- PocketPal AI
- 第一个模型:
- 6 GB选1-2B;8 GB选3-4B
- 为何这样选:
- 免费且开源,本指南的首次运行演示就用它。
进阶
- 安装或使用:
- Locally AI
- 第一个模型:
- 8 GB选3-4B,或Apple自带模型(无需下载)
- 为何这样选:
- 适合在8 GB的iPhone上配合Siri和Shortcuts使用,在支持Apple Intelligence的iPhone上还能使用Apple的设备端模型。
开发者
- 安装或使用:
- Foundation Models框架或MLX Swift
- 第一个模型:
- Apple的设备端模型,或你自己的模型
- 为何这样选:
- Foundation Models是Apple原生的Swift API,需要支持Apple Intelligence的硬件;MLX Swift运行你自己的模型。其余内容见“开发者路径”一章。
安装前的六个快速解答
这是读者最先问的六个问题;每个解答都指向解释它的章节。
📍 简单一句话
内存决定模型大小,3-5 GB的可用存储能放下第一个模型,飞行模式测试能看出应用是否可离线使用。
💬 简单来说
内存定模型,存储放模型,飞行模式来验证。
- 该下载哪个模型? 按内存来选:6 GB选1-2B,8 GB选3-4B,12 GB余量更大,但7-8B模型依然很慢。4 GB的iPhone低于实际下限。参见“手机档位、应用与模型大小一览”。
- 需要多少存储空间? 先腾出3-5 GB,因为一个模型文件有1-4 GB;一次只装一款应用,因为重复的模型文件会很快占满存储。参见“15分钟跑起你的第一个本地模型”。
- 运行速度如何? PromptQuorum没有为本指南在任何iPhone上测过速度,我们iPhone汇总文章中的参考速度也不是新的测量结果。模型越小,响应越快;请在最初几个测试问题上记下速度,并查看应用设置里是否显示每秒token数。
- 哪款应用是私密的? 不能仅凭App Store标签就认定某款应用私密,因为“在你的设备上运行”和“什么都不发送”是两种不同的说法。请阅读隐私标签和政策,做一次飞行模式测试,之后再查看设置 > 隐私与安全性 > App隐私报告;像PocketPal AI这样的开源应用可供检查。参见“隐私与遥测的真实情况”。
- 没有网络能做什么? 根据本指南的能力图谱,较新的iPhone在模型下载完成后,可以离线处理聊天、相机提问、听写与转录、文档聊天和翻译;30B以上的模型、前沿水平的推理和常驻的后台智能体则做不到。参见“能力图谱”。
- 接下来读什么? 先看“15分钟跑起你的第一个本地模型”,如果有具体任务,再用“决策路径”。
快速事实
- 范围: 以iPhone为主,同样的应用能运行的iPad也包括在内。安卓部分见姊妹指南安卓本地AI指南。
- 支持Apple Intelligence的iPhone(Apple的名单): iPhone 15 Pro和15 Pro Max,包括16e在内的iPhone 16系列,包括17e和Air在内的iPhone 17系列,以及2026年的iPhone 18 Pro、18 Pro Max和iPhone Duo。iPhone 15和更早的非Pro机型不在名单上。
- 本指南使用的内存档位(为报道所称,并非Apple公布): 4 GB(iPhone 12、13、SE),6 GB(iPhone 13 Pro、14、14 Pro、15),8 GB(iPhone 15 Pro、16系列、16e、17),12 GB(iPhone 17 Pro和Pro Max)。
- 能放得下的模型大小: 1.7B模型在4比特下约1.1 GB,3-4B模型约2.5-3.7 GB;参考速度来自我们的iPhone应用盘点,并非新的测量结果。
- iPhone应用内的引擎: llama.cpp(GGUF)、Apple MLX、MLC LLM、Google LiteRT-LM、ExecuTorch、Core ML、Apple Foundation Models;少数应用同时整合了多种。
- 本指南链接的应用: 我们目录中有PromptQuorum评测的iOS和iPadOS应用,以及自托管工具的iPhone配套应用。
- PromptQuorum没有做的事: 本指南没有重新测试这些应用。信息来自我们的评测、应用商店页面、开发者网站和Apple文档,每篇评测都会说明它测试了什么。
能力图谱:iPhone本地AI能做什么
iPhone本地AI能覆盖大多数日常语言任务和若干媒体任务,但并非云端助手能做的一切。 下表把每项能力归入“可用”“部分可用”或“暂不可用”,后面的章节会点名对应的应用。“可用”指某款已点评的iPhone应用在手机上用设备端模型完成该任务;“部分可用”指能做到,但在大小、速度、准确度或硬件上有限制;“暂不可用”指没有已点评的iPhone应用能在设备上完成。
📍 简单一句话
iPhone本地AI可以在设备上完成聊天、起草、摘要、翻译、听写、文档问答和小型图像任务,照片搜索、图像生成和智能体只能部分做到,目前还无法运行大模型或取代Siri。
💬 简单来说
可以把iPhone想象成一个装着小而私密的大脑的口袋助手。它能回答简单问题、改写文字、转录语音、描述照片,而不必把任何内容发送出去;但它不知道更大的云端模型所掌握的一些事实,长回答会变慢,而且会发热。遇到难题时,很多人会把手机和家里的电脑或云端应用搭配使用。
能力 | 在iPhone上 | 典型配置 | 章节 |
|---|---|---|---|
| 聊天、起草、摘要 | 可用 | 1-4B模型,GGUF或MLX | 聊天助手 |
| 就照片或截图提问 | 可用 | 小型视觉模型或OCR | 视觉与相机 |
| 听写与转录 | 可用 | Whisper或Parakeet | 语音 |
| 朗读(文字转语音) | 可用 | 系统语音或设备端TTS | 语音 |
| 搭配Siri的免提助手 | 部分可用 | Shortcuts,不能取代Siri | 语音 |
| 与你的PDF和笔记对话 | 可用 | 小模型加本地索引 | 文档与RAG |
| 翻译 | 可用 | 针对翻译调优的小模型 | 翻译 |
| 图像生成 | 部分可用 | 小型扩散模型,速度慢 | 图像生成 |
| 照片编辑(抠图、修图) | 可用 | Core ML分割模型 | 图像生成 |
| 相册中的AI搜索 | 部分可用 | 设备端索引或自有服务器 | 照片与图库 |
| 带AI的笔记和书签 | 部分可用 | AI往往运行在服务器上 | 笔记与知识库 |
| 健康数据提问 | 部分可用 | Apple Intelligence,非医疗用途 | 健康与身心状态 |
| 角色扮演与陪伴 | 可用 | 小型聊天模型,也有云端版本 | 角色扮演与陪伴 |
| 智能家居控制 | 部分可用 | 由家中服务器完成工作 | 智能家居与智能体 |
| 常驻的自主智能体 | 暂不可用 | iOS限制后台运行 | 做不到的事 |
| 运行30B以上模型 | 暂不可用 | 远程使用家中服务器 | 远程模式 |
| 在手机上微调模型 | 暂不可用 | 在Mac或GPU上训练 | 开发者路径 |
芯片与内存的现实:哪款iPhone能运行哪种模型
内存决定iPhone能容纳的最大模型,芯片决定它回答得有多快。 语言模型在生成时必须驻留在内存中,所以一个4比特的3B模型(磁盘上约2-2.7 GB)除了iOS和其他应用占用的部分外,大约还需要同样多的可用内存。当应用申请的内存过多时,iOS会将其关闭;而Apple不公布iPhone的内存,因此下面的数字是广泛流传的规格(也用于我们的2026年iPhone最佳本地AI应用),而不是Apple的官方说法。
iPhone档位 | 内存(报道所称) | 现实的模型大小 | 结论 |
|---|---|---|---|
| iPhone 12、13、SE | 4 GB | 1B以下,甚至不行 | 改用远程模式 |
| iPhone 13 Pro、14、14 Pro、15 | 6 GB | 1-2B(文件约1.1 GB) | 基础聊天和起草 |
| iPhone 15 Pro、16、16e、17 | 8 GB | 3-4B(约2.5-3.7 GB) | 典型的3-4B档 |
| iPhone 17 Pro、17 Pro Max | 12 GB | 4B从容,7-8B低比特 | 最高内存档 |
| iPhone 18 Pro、Pro Max、Duo | 未公布 | 在得到确认前按12 GB对待 | PromptQuorum没有相关数据 |
⚠️警告: 名义上放得下的模型,在你切换应用时仍可能被iOS终止。在6 GB的iPhone上,即使3-4B的文件能顺利下载,也请坚持使用1-2B模型;Apple自己的iPhone页面没有给出内存数字,因此这张档位表只是参考,而非保证。
Neural Engine、GPU与CPU:究竟是谁在运行模型
iPhone有三个地方可以运行模型,具体用哪一个取决于应用的引擎,而不是手机。 CPU灵活但慢;GPU(通过Apple的Metal图形API调用)负责大多数聊天应用所依赖的大规模矩阵运算;Neural Engine是固定功能的加速器,Apple的Core ML和较新的Core AI框架可以调用它。Apple将Core AI描述为专为Apple芯片打造,利用统一内存和Neural Engine;它是iOS 27这一代新推出的,因此本指南中的大多数应用尚未使用。
- llama.cpp应用(GGUF文件): PocketPal AI、Pocket AI和LLM Farm在GPU上使用Metal。支持任意GGUF文件,因此来自Hugging Face的模型可以使用。
- Apple MLX应用: Locally AI、fullmoon和MLXHub使用Apple的MLX数组框架,该框架是为Apple芯片上的统一内存而设计的。
- 多格式应用: Noema在一个应用里支持GGUF、MLX、ExecuTorch、Core ML和Apple Foundation Models,因此它的硬件使用方式会随模型格式而变化(评测中的开发者说法)。
- 编译型模型应用: MLC Chat运行由MLC LLM工具链编译的模型;Google AI Edge Gallery使用Google的LiteRT-LM运行时。
- Apple自己的模型: Apple Intelligence通过系统框架运行Apple的模型。Compass - Local AI和Pajdo等应用直接调用它,而不是自带模型。
- 实际后果: 在同一台iPhone上运行相同大小模型的两个应用,在速度、内存占用和发热上可能不同。在删除已下载的模型之前,请先在两个应用里运行同一条提示词。
手机档位、应用与模型大小一览
先按内存档位选,再按需求选。 下表根据我们的评测和盘点给出一个起点,并非基准测试。模型更新很快,当前的小模型推荐请查看最佳移动端LLM模型:Phi-4 Mini、Gemma与SmolLM对比。
手机档位 | 从这里开始 | 模型大小 | 备注 |
|---|---|---|---|
| 4 GB iPhone | 连接家中服务器的远程客户端 | 手机上无 | Reins、Enchanted、OpenClient |
| 6 GB iPhone | PocketPal AI或Locally AI | 1-2B(约1.1 GB) | 最小的模型 |
| 8 GB iPhone | PocketPal AI、Private LLM、Gallery | 3-4B(2.5-3.7 GB) | 中档 |
| 12 GB iPhone | Noema或Locally AI | 4B,或7-8B(较慢) | 可容纳更长的上下文 |
| 支持Apple Intelligence的手机 | Compass或Locally AI | Apple模型,无需下载 | 有语言限制 |
| 任何手机,听写 | Whisper Notes或Aiko | Whisper级,小型 | 一次性付费 |
| 任何手机,文档 | Private Mind或MemoryAI | 小型聊天模型加索引 | 留意文件限制 |
15分钟跑起你的第一个本地模型
你可以在大约15分钟内验证iPhone上的整条离线链路:安装一个应用,在Wi-Fi下下载一个小模型,开启飞行模式,然后提一个问题。 这些步骤以PocketPal AI为例,因为它免费且开源,但后面章节里的任何聊天应用用法都一样。时间估计取决于你的网络和手机。
- 1第0-2分钟:确认你的iPhone档位
Why it matters: 在上面的内存表里查找你的机型。6 GB意味着1-2B模型,8 GB意味着3-4B,12 GB则有余量。先腾出3-5 GB存储空间,因为一个模型文件有1-4 GB。 - 2第2-4分钟:安装一个应用
Why it matters: 从App Store安装一个应用,例如PocketPal AI、Locally AI或Google AI Edge Gallery。不要装三个应用、各配三个模型;重复的模型文件会很快占满存储。 - 3第4-9分钟:在Wi-Fi下下载一个模型
Why it matters: 按你的档位选择大小,例如6 GB机型选Qwen3 1.7B级别的模型,8 GB机型选Phi-4 Mini或Gemma 4 E2B(见按档位选模型)。下载是唯一需要联网的步骤。下载完成前请保持应用打开、屏幕常亮。 - 4第9-10分钟:开启飞行模式
Why it matters: 打开飞行模式并保持Wi-Fi关闭。这能证明模型在手机上运行,也能看出应用是否试图连接互联网。 - 5第10-13分钟:提三个测试问题
Why it matters: 让它为你粘贴的一段文字写三条要点摘要,用另一种语气改写一封邮件,再问一个你知道答案的事实性问题。留意速度,以及手机是否发热。 - 6第13-15分钟:检查设置并清理
Why it matters: 如果应用有基准测试或设置页面,打开看看,记下每秒token数,然后稍后到设置 > 隐私与安全性 > App隐私报告中查看该应用联系过哪些域名。删除你不会再用的模型。
💡提示: 如果应用在第一次回答时崩溃或重启,说明模型对这台手机来说太大了。请删除它,换成再小一档的模型,而不是去调低其他设置。
Apple Intelligence与Foundation Models框架
Apple Intelligence为每台受支持的iPhone提供一个无需下载的内置语言模型,而Foundation Models框架让第三方应用可以使用它。 Apple的开发者页面把该框架描述为原生Swift API,可以直接访问驱动Apple Intelligence的同一个设备端模型。它只能在Apple Intelligence支持的设备和语言上使用。
📍 简单一句话
Apple Intelligence在iPhone 15 Pro及更新机型上运行Apple自己的设备端模型,Foundation Models框架让Locally AI、Compass和Pajdo等第三方应用无需自带模型就能使用它。
💬 简单来说
Apple已经在iPhone里放了一个小型语言模型。你不需要下载它,但也无法把它换成别的模型。应用可以借用它在设备上回答问题,这就是为什么好几款新应用需要较新的iPhone和较新的iOS,而不是下载一个大模型。
- 设备名单(Apple的Apple Intelligence页面): iPhone 15 Pro和Pro Max(A17 Pro),iPhone 16、16 Plus、16e和16 Pro系列(A18和A18 Pro),iPhone 17、17e、17 Pro、17 Pro Max和Air(A19和A19 Pro),以及iPhone Duo、18 Pro和18 Pro Max(A20 Pro)。
- 语言: Apple Intelligence要求Siri和设备语言设置为受支持的语言。Apple的名单包括中文(简体和繁体)、丹麦语、荷兰语、英语、法语、德语、意大利语、日语、韩语、挪威语、葡萄牙语、西班牙语、瑞典语、土耳其语和越南语。Apple补充说,部分功能可能并非在所有地区或语言中都可用。
- Siri AI(iOS 27测试版): Apple列出的起步语言为英语、法语、日语、韩语、葡萄牙语和西班牙语,并表示在iOS上初期不会在欧盟提供,还表示部分服务器端功能设有每日使用上限。它与本指南中的设备端聊天应用是两回事。
- 框架提供什么(Apple,iOS 27指南): 可访问Apple Foundation Models,并通过Language Model协议访问Claude和Gemini等云端模型或任何符合该协议的提供方;可同时传入图像和文字的多模态提示;模型可在设备上调用的Vision工具,如OCR和条码识别;以及用于在同一会话中切换模型、工具和指令的Dynamic Profiles。
- iOS 26基线(本次更新未重新核实): 该框架最早随iOS 26发布。在围绕它做设计之前,请查阅Apple当前的文档,了解上下文限制和支持的功能。
- Private Cloud Compute: Apple Intelligence可以把较大的请求交给Apple的服务器处理。Apple表示数据不会被存储,仅用于你的请求。这不是设备端处理,因此请把“Apple Intelligence”和“离线”视为两种不同的说法。
- 本指南中使用Apple模型的应用: Locally AI(聊天前端)、Compass - Local AI(聊天和截图OCR)、Pajdo(Apple健康问题)、LocalMindAI(Apple的模型或下载的模型)、Noema和Reins(Apple Foundation Models作为其中一个后端)、Hillnote(笔记),以及AI on Device——它自带一个3B模型,但要求设备兼容Apple Intelligence。
💡提示: 如果你只想要改写、通知摘要,以及邮件、信息和备忘录里的写作工具,就不需要聊天应用。如果你想要聊天窗口、模型选择或文档问答,请安装本指南中的某个应用;关于Apple模型与开放模型的取舍,见Apple设备端AI与本地LLM对比。
影响iPhone本地AI的App Store规则
App Store解释了iPhone与桌面本地AI之间的大部分差异。 Apple的App审核准则适用于每一款应用,其中有四条在这里很重要:自包含应用、功耗、后台服务和数据共享。本章引用规则文本并给出我们的解读;这不是法律意见,而且Apple可能更改规则。
- 不得下载会改变应用的代码(准则2.5.2)。 Apple的原文大意是:应用“不得下载、安装或执行会引入或更改应用功能的代码”。本地AI应用把引擎打包在应用内、只下载属于数据的模型权重,从而遵守这条规则。这是我们的解读,不是Apple的声明。
- 手机上没有Ollama服务器。 Ollama没有提供iPhone应用,而App Store的沙盒也让人几乎没有可行的办法去运行Ollama服务器或Docker容器。存在一些沙盒化的shell应用,但它们无法提供本地模型服务器。
- 只能使用公开API(准则2.5.1)。 应用只能使用公开API,这就是为什么Foundation Models、Core ML、Metal和MLX是可用的路径,而私有的Neural Engine访问则不可用。
- 功耗与发热(准则2.4.2)。 Apple表示(译文)应用“不应快速耗电、产生过多热量或对设备资源造成不必要的负担”。持续生成正好考验这条线,这也是应用会降速或中止长时间运行的原因。
- 后台使用受限(准则2.5.4)。 多任务应用只能出于音频播放、位置、任务完成和本地通知等预期用途使用后台服务。一旦你离开应用,模型就无法无限期地继续生成或充当智能体;Reins指出后台生成需要iOS 26。
- 内存限制。 iOS会限制前台应用可使用的内存量。Apple发布了开发者可申请的增加内存限制权限(com.apple.developer.kernel.increased-memory-limit);我们没有给出确切的额度。你无法看出某个应用是否拥有该权限,因此在依赖某个模型之前,请先用应用自带的基准测试试一试。
- JIT与运行时编译。 桌面引擎常常在运行时编译代码;iOS应用则改为提前编译好引擎再发布。这是一般的平台行为,若干引擎项目都提到过,也是iPhone引擎在功能上落后于桌面引擎的原因之一。
- 数据共享(准则5.1.1和5.1.2)。 应用必须链接隐私政策、说明收集了哪些数据,并在与第三方共享个人数据(“包括与第三方AI共享”,译文)之前获得许可,且未经同意不得挪作他用。App Store的隐私标签由开发者填写,隐私一章会再谈到这一点。
- 侧载与替代应用市场。 在欧盟,依据《数字市场法》存在替代应用市场,但每位开发者自行决定在哪里发布。本指南中没有应用需要它;LLM Farm是例外,目前必须在Xcode中从源码构建。
- TestFlight测试版。 一些开发者提供TestFlight版本(例如提供免费试用的Aiko和提供较新构建的fullmoon)。TestFlight版本有时间限制且尚未完成;请用于测试,而不要用于你不能丢失的数据。
iPhone与安卓相比的优势与不足
iPhone更容易上手,但扩展受限更多;安卓则相反。 iPhone的配置种类少且已知,自带Apple的模型,所有应用都通过同一个商店安装。安卓手机在内存和芯片上差异大得多,允许终端应用和侧载,并有自己的设备端模型体系。这是一份基于公开信息的平台对比;逐款硬件的数据请见Galaxy与iPhone设备端AI对比和姊妹篇安卓本地AI指南。
主题 | iPhone | 安卓 |
|---|---|---|
| 安装难度 | App Store,一键安装 | Play商店或APK |
| 内置模型 | Apple Foundation Models | 厂商和Google的模型 |
| 在手机上运行Ollama | iPhone没有Ollama应用 | 可通过Termux实现(见指南) |
| 内存上限 | Pro机型约12 GB | 各不相同;请逐款查看 |
| 模型格式 | GGUF、MLX、Core ML、LiteRT | GGUF、LiteRT、MLC等 |
| 快捷操作与自动化 | Shortcuts、App Intents | Tasker和intents |
| 应用数量 | 开源选择较少 | 开源选择更多 |
| 后台运行 | 严格受限 | 较宽松,但仍受限 |
💡提示: 本指南中的许多应用也能在安卓上运行(PocketPal AI、MLC Chat、KernelAI、LLM Hub),所以两种平台并用的家庭常常可以在各自手机上使用同一个应用。安卓方面的细节请对照2026年安卓最佳本地AI应用。
聊天助手:主要的设备端应用
要在iPhone上进行通用聊天,请先从我们的iPhone盘点所比较的五款应用中选一款,再去看下面较新的应用。 每一行都写明了应用的功能和它的真实局限。详细信息来自所链接的PromptQuorum评测、应用商店页面和开发者页面;除非评测说明它测试过该应用,否则请把速度和质量视为未经测量。排名推荐和参考速度见2026年iPhone最佳本地AI应用,整个聊天类别见聊天助手对比。
📍 简单一句话
PocketPal AI是免费的默认之选,Private LLM是付费的Siri与Shortcuts方案,Locally AI是带Apple Foundation Models的免费MLX应用,Google AI Edge Gallery是适用于iPhone的免费Gemma 4应用。
💬 简单来说
选一个聊天应用,下载一个适合你iPhone的模型,把本指南中的其余应用留给文档、语音或家中服务器等特殊用途。价格来自所链接的评测和应用商店页面,可能会变;购买前请查看应用商店。
- PocketPal AI:免费、开源(MIT),可运行来自Hugging Face的任意GGUF模型,并内置基准测试。局限:独立的聊天应用,未提及Shortcuts或Siri操作;高级预设有可选的应用内购买。
- Private LLM:iPhone、iPad和Mac通用,一次性付费$4.99,140多个模型,无需账户。开发者称它可接入Siri和Shortcuts。局限:闭源且模型列表经过精选,因此无法加载任意文件。
- Locally AI:免费,出自LM Studio团队,基于Apple MLX构建,带Shortcuts操作,可选用Apple Foundation Models聊天,还可选择连接Mac上的LM Studio。局限:不能导入任意GGUF,闭源,需要iOS 18.1或更新版本。
- Google AI Edge Gallery:Google的免费Gemma 4应用,带思考模式、智能体技能以及图像和音频输入。局限:仅支持LiteRT-LM模型,标注为实验性测试版,其App Store隐私标签显示会收集一些设备诊断信息。
- Noema:免费,在一个应用中运行GGUF、MLX、ExecuTorch、Core ML和Apple Foundation Models,带设备端文档对话。局限:闭源,未公布最低内存要求,需要iOS或iPadOS 18或更新版本。
- Off Grid AI:免费、开源(MIT)应用,在设备上提供GGUF聊天、Stable Diffusion图像模型和Whisper语音转文字,支持iOS、Android、macOS和Windows。局限:一个应用承担多种任务,意味着更多存储和更多设置。
- Pocket AI:免费,采用带Metal的llama.cpp,涵盖Qwen、Gemma、Llama、Mistral、Phi和DeepSeek系列的28个模型(据开发者称),需要iPhone 12或更新机型。局限:设备端Whisper语音输入需要付费的Pro解锁。
- KernelAI:免费,53个可下载的开放模型,大小从112 MB到3.11 GB,据其页面介绍带文档、视觉和Shortcuts功能。局限:闭源,且我们的评测依据公开资料,而非亲手实测。
- On Device AI:200多个可下载的GGUF和MLX模型,外加转录、文档和RSS导入、设备端文字转语音以及自动化接口。局限:闭源应用中功能列表很广;请阅读其隐私部分。
- Enclave AI:免费,含应用内购买,据其页面介绍可在iPhone、iPad和Mac上离线使用,无需账户,据我们的盘点带文档交互和Shortcuts。局限:闭源且有付费档位。
聊天助手:较新、小众和混合型应用
这些应用满足的是更窄的需求:一次性付费的聊天、仅使用Apple模型的聊天、人设、开源隐私项目,以及混合设备端与云端的混合型应用。 请特别留意混合型应用的警告,因为只有停留在其设备端模式时,混合型应用才算本地运行。
- Cloak: Local AI:一次性付费(美国商店$1.99),下载一个推荐模型,在iPhone上增加语音备忘录,以及由照片、位置和语音备忘录生成的每周回顾。局限:没有模型选择器,且模型名称未公布。
- Compass - Local AI:免费,在设备上用Apple Intelligence作答,并用设备端OCR读取截图;需要iOS或iPadOS 26。局限:网页搜索为可选项,开启后会把你的查询发送给DuckDuckGo或Brave。
- AI on Device:一次性付费$4.99,一个量化到2比特的3B模型,需要iOS 26和兼容Apple Intelligence的设备。局限:自2025年10月13日起没有更新,因此应视为久未更新。
- Haplo AI:下载Qwen和Phi等开放模型,用于聊天、图像输入和图像生成,无需账户。局限:付费应用;我们的评测依据公开资料。
- Oscilla:免费,40多个开放模型,实时语音、内置记忆、网页搜索以及文件和图像分析;带Apple的“未收集数据”标签。局限:需要iOS 26或更新版本,闭源,自2026年5月21日起没有更新。
- Frankly AI:可下载的设备端模型,带任务型人设,无需账户;每日免费额度有限,Pro解锁其余功能。局限:免费档有使用上限。
- LLM Studio Go:免费且含广告,提供聊天、语音、图像、音乐和语音功能,使用GGUF和MLX模型,需要iOS或iPadOS 18。局限:有广告,而且据评测,它与LM Studio没有关联,尽管名字相似。
- Local AI Chat - pocket:免费增值的离线聊天,据其标语带图像生成和Shortcuts,需要iOS或iPadOS 18.6或更新版本。局限:自2026年5月27日起没有更新,且应用内购买为订阅式。
- Loci AI:在iPhone、iPad、Android、Mac和Windows上免费,会自动选择适合硬件的模型。局限:开发者关于模型能力的说法未经PromptQuorum验证。
- Ensu:免费、开源(AGPL),出自Ente Labs,带图像输入和本地语音听写。局限:开发者自己表示它还不如ChatGPT或Claude Code强大,且版本仍是0.x。
- MemoryAI:免费的离线聊天,带文档问答、可编辑的记忆和PIN锁定的儿童模式;iOS 16.4+和4 GB+内存。局限:其隐私政策列出了使用事件和崩溃报告;闭源。
- Secret AI:离线聊天,带角色、Skills和MCP工具,使用GGUF、MNN和MLX模型。局限:据其隐私政策,MCP工具调用和可选的远程服务器可能把数据发送到设备之外,而该政策早于这些功能。
- LocalMindAI:iPhone和iPad上的聊天、记忆、语音识别和文档阅读,使用Apple的模型或下载的模型;iOS 26。局限:评测时才发布几天,且我们的评测依据公开资料。
- Solair AI:本地优先的助手,带可选的自带密钥云端备用;iOS 26。局限:备用方案是云端,因此请确认是哪种模式在作答。
- Liquid Apollo:免费,离线运行Liquid AI的LFM2模型(350M到2.6B),带可选的OpenRouter模式和自定义后端;iOS 18。局限:并非仅限本地;OpenRouter模式需要你自己的密钥和互联网。
- Kai 9000:带持久记忆和工具的开源助手。局限:据其评测,它默认把消息发送到云服务;只有下载设备端模型后才在本地运行。
- CompactifAI APP:Multiverse Computing推出的免费应用,提供压缩模型。局限:当前商店文字只描述了API模型,因此手机上实际运行什么尚未核实。
- Atomic Chat:免费、开源(Apache 2.0)应用,支持macOS、Windows、Linux、iOS和Android,带GGUF、MLX和ONNX模型以及本地的OpenAI兼容API。局限:这是一个多平台项目,请阅读评测了解iPhone版本包含什么。
- LLM Hub:Android和iPhone套件,带支持MCP的智能体、图像和音乐生成、翻译、Whisper和语音聊天,另有付费的Premium档。局限:其许可证是PolyForm Noncommercial,并非通常意义上的开源许可证。
- Llamatik:免费,MIT,一款离线聊天机器人,其自身页面称之为开发者Kotlin SDK的实验性展示。局限:其隐私政策和商店标签列出了Firebase分析和崩溃报告。
- Layla:Android和iOS一次性付费$19.99,GGUF模型,带人设驱动的陪伴角色、语音和图像生成。局限:安卓优先,另有可选的Layla Cloud模式。
久未更新、过时或不在App Store上的应用
超过三个月没有更新的应用可能已无人维护;依赖它之前请先核实。 下面的日期来自PromptQuorum目录的条目和各篇评测。久未更新的应用仍可能正常使用,但你得不到修复、新模型,也看不出开发者是否会回归。
- MLC Chat:来自MLC LLM项目、由Metal加速的参考应用。据我们的评测,自2024年9月27日起App Store没有更新。其背后的引擎MLC LLM仍然活跃。
- LLM Farm:最后一个版本1.4.3发布于2025年1月,最后一次代码提交为2026年1月30日。无法从App Store或TestFlight安装(其README称暂时不可用);如果需要它的采样控制,请在Xcode中从源码构建。
- fullmoon:免费、MIT,在Apple MLX上运行小模型,自2025年1月28日起没有发布新版本,自2025年5月5日起没有代码变更。
- Maid:安卓优先的开源聊天应用;它的iOS版本需要侧载,而我们的评测把iOS版本的发布时间定为2025年4月的2.0.7版,因此它不是App Store上的选项。
- Aiko:仍在销售,对转录很有用,但它最后一次更新是2026年6月27日,已超过三个月。
- 本指南中标记为久未更新的其他应用:Atomic Bot(2026年5月26日)、Chapper(2026年8月6日)、Enchanted(2026年7月7日)、AI CutoutWerk(2026年2月16日)和pcAI Photo Retouch(2026年2月20日)。
⚠️警告: “久未更新”是依据目录条目日期给出的标记,并不是对质量的评判。在为本列表中的应用付费之前,请先打开它的App Store页面,自己查看版本历史。
视觉与相机:就照片和截图提问
好几款iPhone应用允许在提问时附带一张图片并在设备上作答,但小型视觉模型比云端模型更容易出错。 有两条路线:下载视觉语言模型(由模型自己读图),以及系统OCR加文本模型(手机先提取文字,再由模型作答)。Apple的iOS 27开发者指南称,Foundation Models框架现在可以接受图文输入,并允许模型在设备上调用OCR和条码识别等Vision工具。
- Google AI Edge Gallery:用Gemma 4模型实现Ask Image和Audio Scribe。局限:仅支持LiteRT-LM模型;Google给出的是厂商的内存数据,而不是PromptQuorum的测量结果。
- Compass - Local AI:用设备端OCR读取附加的截图,并用Apple Intelligence作答。局限:OCR读取的是文字,不会描述场景;需要iOS或iPadOS 26。
- Oscilla:据其页面介绍,用MiniCPM-V等支持视觉的模型进行文件和图像分析。局限:需要iOS 26或更新版本,自2026年5月21日起没有更新。
- Haplo AI:在一个应用里同时提供图像输入和图像生成。局限:我们的评测依据公开资料,因此模型质量未经测量。
- Ensu:用下载的模型处理图像输入,免费且开源。局限:版本为0.x;开发者表示它还不能与大型云端工具相提并论。
- KernelAI:把视觉列入功能,提供53个可下载模型。局限:哪些模型接受图像因模型而异。
- MemoryAI:下载模型后用视觉模型理解图像。局限:你必须自己选择支持视觉的模型。
- Reins:把图像、PDF和CSV附件发送给你自己服务器上的模型,或本地的MLX模型。局限:质量取决于你选择的服务器模型。
⚠️警告: 凡是读错会付出代价的场合,例如药品标签、法律文件,或为了食用而识别植物或蘑菇,都不要使用小型设备端视觉模型。请把答案当作起点,并核对原始来源。
语音:听写、转录、朗读、离线助手与Siri
语音转文字是设备端最成熟的任务之一;开发者称Whisper级模型可以在较新的手机上运行,而且有几款应用是一次性收费,而不是按分钟计费。 文字转语音和免提助手则参差不齐。想自己搭建完整流程,见在手机上搭建本地语音助手,类别对比见语音与音频应用对比,引擎对比见本地Whisper语音转文字对比。
- Whisper Notes:一次性付费$7.99,在iPhone、iPad和Apple芯片Mac上运行Whisper、Parakeet和SenseVoice,带说话人标注;隐私政策称音频和转录文本不会离开设备。局限:闭源;评测基于公开资料,而非亲手实测。
- Aiko:适用于Mac、iPhone和Vision Pro的设备端Whisper转录,100种语言,支持Shortcuts,一次购买所有平台通用。局限:最后一次更新为2026年6月27日,因此久未更新。
- Lyonesse:适用于iPhone、iPad和Mac的离线转录、会议笔记和文档对话;其Apple Watch应用可独立录音并传到iPhone,由iPhone完成转录。局限:开发者关于处理方式的说法未经独立验证。
- OpenWhispr:MIT许可的听写和会议笔记,使用本地Whisper或Parakeet模型,或你选择的云端提供方。局限:你的语音是否留在设备上,取决于你选哪个模型。
- AquaVoice:把语音听写直接输入到当前应用。局限:据评测它是云服务,列在这里是为了避免你把它误认为本地听写。
- Ensu和MemoryAI:分别在聊天应用中提供本地语音听写(Ensu)以及带设备端语音输入和朗读的免提语音(MemoryAI)。局限:语音质量取决于背后的小型聊天模型。
- Oscilla、LLM Studio Go和Pocket AI:分别提供实时语音、带语音的语音聊天,以及设备端Whisper输入(付费Pro)。局限:语音会在聊天模型之外增加内存和电池负担。
- Castmates:与角色进行语音通话,据开发者称在手机上运行。局限:闭源,因此该说法依赖开发者。
- Cloak: Local AI:把语音备忘录转成笔记或聊天。局限:只有一个固定模型。
- Home Assistant Assist:Home Assistant内的语音助手,据其评测可用Whisper、Piper和Wyoming在本地运行;不是独立的iPhone应用。局限:需要Home Assistant服务器,以及一个部分处于实验阶段的可选LLM智能体。
- Murmur:在设备上为照片、视频和游戏创作器乐,需一次性购买Pro解锁。局限:没有人声。
💡提示: Siri与Shortcuts:Private LLM列出了Siri和Shortcuts集成,Locally AI和Aiko提供Shortcuts操作,我们的iPhone盘点还介绍了Shortcuts的“使用模型”操作,它可以把提示词路由到Apple的设备端模型。这些都不能取代Siri本身;你是让Siri去运行一个调用该应用的Shortcut。
手机上的文档、PDF与检索
在iPhone上与少量PDF或笔记对话是可行的,但整个文库应放在家中服务器上。 设备端文档对话会把文件切成片段,用小型嵌入模型建立索引,再把最相关的片段交给聊天模型。小模型的上下文窗口很短,因此回答可能遗漏内容,也可能出现捏造的引用。需要文库级搜索时,见知识与检索应用对比。
- Private Mind:Software Mansion出品的开源(MIT)聊天应用,用设备端检索回答关于你的PDF和文本文件的问题并附来源引用,使用React Native ExecuTorch。局限:1.3.0版新增了会抓取网页的可选Web开关,因此默认离线,但该功能开启时就不再离线。
- MemoryAI:文档问答和可编辑的Agent Memory。局限:闭源,且使用事件会离开手机。
- LocalMindAI:用Apple的模型或下载的模型在设备上读取你的文档。局限:需要iOS 26,且评测时非常新。
- Noema:在其五种模型格式上提供设备端文档对话。局限:闭源;未公布内存数据。
- Lyonesse:在转录文本旁与你自己的文档对话。局限:重点在Apple Watch和会议功能。
- Arbiter:把上传的文档保留在设备上,用于在iPhone 13 Pro或更新机型(约6 GB或更多内存)上生成摘要,并可连接LM Studio、Ollama或Arbiter for Mac配套应用以使用更大的模型。局限:更大模型的回答会离开手机,前往你的电脑。
- KernelAI和Enclave AI:二者都在通用聊天应用中列出了文档功能。局限:在依赖它之前,请先在应用里查看文件大小和格式限制。
- Reins:把PDF、CSV和文本附件发送给你自己服务器上的模型。局限:处理发生在服务器上,而不是手机上。
- AnythingLLM Mobile:安卓版有独立的设备端模式,也可与AnythingLLM Desktop配对;我们的评测指出iOS应用尚未发布。局限:在iOS版发布之前,请用浏览器访问你自己的AnythingLLM服务器。
设备端翻译
翻译很适合小型设备端模型,因为任务范围窄,而且有几款应用自带针对翻译调优的模型。 PromptQuorum没有在iPhone上对翻译质量做过基准测试。对于冷门语言、习语和长文档,质量很可能下降,而且每个设备端引擎都需要按模型或语言分别下载。
- On-Device AI Translator:在iPhone上用可下载的Hy-MT2、TranslateGemma和Qwen模型进行翻译,并提供Apple内置翻译作为免费引擎;需要iOS 18.4或更新版本。局限:AI模型需要应用内购买,其价格在资料中查不到,且隐私政策早于该应用。
- LLM Hub:在其Android和iPhone套件中包含翻译。局限:翻译只是众多功能之一,且许可证为非商业用途。
- PocketPal AI或Locally AI等通用聊天应用,只要加载Qwen或Gemma系列等多语言模型,也可以翻译。局限:没有术语表、不保留文档版式,也不保证每种语言的质量。
- Apple自己的翻译应用和系统翻译独立于上述应用,本指南没有核实;请在“翻译”应用中确认你的语言对能否下载供离线使用。
💡提示: 对于整本书或长文档,走桌面端路线更实用;见用LLM翻译书籍。Apple Intelligence的语言支持是另一份名单,在Apple Intelligence一章中有介绍。
图像生成与照片编辑
iPhone可以用小型扩散模型生成图像,用分割模型编辑照片,但生成速度慢、占用存储多,还会让手机发热。 模型文件是数GB的下载,而且PromptQuorum没有任何iPhone图像应用的速度数据。云端与本地的取舍见本地AI图像生成与云端对比,类别对比见图像与视频应用对比。
- Draw Things:在macOS、iOS、iPadOS和visionOS上用Stable Diffusion、SDXL、Flux等扩散模型生成图像,本地生成无需账户,需要iOS 15.4或更新版本。局限:并非100%本地,因为它还提供可选的云端模式;更大的模型需要更多内存。
- Genva:iPhone和iPad应用,在一次性下载模型后,可在设备上把文字提示词和照片变成图像,并带放大功能。局限:于2026年10月14日以1.0.0版发布,因此没有过往记录。
- Haplo AI、Off Grid AI和LLM Studio Go:同样能在设备上生成图像的聊天应用(Haplo AI;使用Stable Diffusion模型的Off Grid AI;还带音乐和语音的LLM Studio Go)。局限:图像质量和速度不如专门的应用。
- Local AI Chat - pocket和Layla:带图像生成的离线聊天,Layla还带语音和人设。局限:Local AI Chat - pocket自2026年5月27日起久未更新;Layla以安卓为先。
- Tina:通过你自己托管的服务器上的ComfyUI生成图像,也可以在设备上运行模型。局限:图像这一步需要你自己的服务器。
- AI CutoutWerk:适用于iPhone、iPad和Mac的离线背景移除与抠图合成工具,使用Core ML分割模型。局限:自2026年2月16日起没有更新。
- pcAI Photo Retouch:修复老照片并应用艺术风格,开发者称所用AI完全在设备上运行。局限:未说明模型名称,源代码未公开,自2026年2月20日起没有更新。
相册与图库搜索
iPhone上的AI照片搜索通常是一个相册库的客户端,索引工作在别处完成:要么通过手机上的可选功能,要么在你自己运行的服务器上。 下面三个相册库采取不同的做法,而且都没有加入聊天模型。人脸识别会处理生物识别数据,因此在开启之前,请查看你所在地以及照片中人物所在地的规定。
- Ente Photos:开源的照片备份应用,据Ente称是端到端加密的;人脸识别和自然语言“魔法搜索”在你的设备上运行,开启之前保持关闭。局限:照片以加密形式存储在Ente的云端,首次建立索引会消耗电量。
- Immich:自托管的照片和视频备份,带iPhone和Android应用;智能搜索和人脸识别运行在你托管的机器学习容器上,用Docker安装。局限:需要服务器,数据库只保存元数据,因此文件需要另行备份,而且没有聊天或LLM功能。
- Mylio Photos:照片、视频和文档库,带SmartTag搜索、人脸和文字识别,Mylio称这些都在你自己的设备上运行;可免费下载,有订阅方案。局限:Mylio没有说明其应用内帮助聊天机器人在哪里运行。
- 你可以在iPhone浏览器或配套应用中打开的自托管网页图库,例如PhotoPrism评测、Photoview评测和Home Gallery评测,在别处单独评测;请阅读各篇评测,了解什么在哪里运行。
笔记、知识库与书签
大多数笔记和书签工具把AI放在服务器或你选择的模型提供方上,iPhone应用只是采集和阅读的客户端。 只要服务器是你自己的、模型是本地的,这仍然可以完全私密,但它不是设备端推理。每篇评测都会说明什么在哪里运行。
- Hillnote:本地优先的Markdown笔记工作区,适用于Mac、Windows、iPhone和Android,通过Ollama和Apple Intelligence实现设备端AI,另有可选的云端模型和同步。局限:Ollama运行在电脑上,而不是手机上,云端模型是可选的,但不是本地的。
- Logseq:开源、本地优先的大纲笔记;数据库版本2.0.2是测试版,其README警告可能丢失数据。局限:AI通过可选的MCP服务器提供,而不是内置模型。
- SiYuan:自托管的AGPL知识工作区,支持Windows、macOS、Linux、Android、iOS和HarmonyOS,带可选的AI功能,连接你选择的模型提供方。局限:云端同步需要订阅或一次性购买PRO。
- Karakeep:自托管的书签和笔记应用,带原生iOS和Android应用,通过OpenAI或本地Ollama端点进行AI标签。局限:你需要用Docker运行服务器,且只有选择Ollama时标签才是本地的。
- Linkwarden:为你保存的每个页面存档一份副本,并可用你配置的AI模型给链接打标签,可自托管,也可使用付费的Cloud版。局限:iPhone应用只是客户端;AI这一步在服务器上运行。
- Lyonesse和Cloak: Local AI:分别把录音转成笔记(Lyonesse)或由照片、位置和语音备忘录生成每周回顾(Cloak)。局限:二者都是闭源的。
健康与身心状态问题
有一款已点评的iPhone应用用设备上的Apple Intelligence回答关于你的Apple健康数据的问题,它也是我们的iPhone应用中唯一的健康类应用。 健康数据是敏感的个人数据,而小型语言模型不是临床医生。
- Pajdo:免费的iPhone、iPad和Apple Watch应用,把Apple健康数据转化为八种心情之一,并据其网站称,用设备上的Apple Intelligence回答你关于这些数据的问题。免费方案每周包含5个问题;Pro取消限制,并增加锻炼计划和就诊报告。局限:闭源,需要iOS 26或更新版本,设备端运行的说法依赖开发者的一面之词。
- 聊天章节中的通用聊天应用可以笼统地讨论睡眠、训练或营养。局限:除非应用请求权限,否则它们无法访问你的健康数据,而且小模型可能言之凿凿地给出错误事实。
⚠️警告: 设备端的回答不是医疗建议,也不能取代医生。不要用它们来解读症状、心率提醒或用药问题;在授予访问Apple健康的权限之前,请阅读应用的隐私政策。
角色扮演与陪伴类应用(附内容安全提示)
角色扮演和陪伴聊天在iPhone本地AI应用市场中占很大比重,这些应用在模型是否在手机上运行、允许哪些内容以及如何对待未成年人方面差别很大。 本地不等于有审核,云端也不等于更安全。在你或家中任何人安装之前,请先阅读年龄分级和成人内容设置。桌面端前端见SillyTavern、Agnai与RisuAI角色扮演对比。
- Castmates:免费的iPhone应用,带35个现成角色、自定义角色,无需账户;开发者称下载约1.9 GB后,通过llama.cpp运行Impish Llama 3B(Q4_K_M)。Pro方案取消每日消息上限,并解锁可选的仅限成人的Mature模式。局限:闭源,因此设备端运行的说法依赖开发者。
- Frankly AI:带任务型人设的设备端模型,无需账户;每日免费额度有限。局限:人设以任务为导向,Pro解锁应用的其余部分。
- Layla:人设驱动的AI陪伴应用,带角色扮演角色、语音和设备端图像生成;一次性付费$19.99。局限:另有可选的、需单独启用的Layla Cloud模式。
- Secret AI:基于GGUF、MNN和MLX模型的自定义角色;开发者称聊天、角色和照片保持私密。局限:据其隐私政策,MCP工具和远程服务器可能把数据发送到设备之外。
- HiWaifu:带长期记忆、设定集和群聊的角色扮演,分级为18+。局限:它似乎是一项云服务,其页面也没有说明模型在哪里运行。
- Swerve:带社区角色和分支剧情的故事与角色聊天。局限:据其页面,它是在线服务,而不是设备端AI。
⚠️警告: 用通俗的话说,安全提示如下。第一,年龄:其中好几款应用的App Store分级为18+或设有仅限成人的模式,而设备端模型没有可以依赖的服务器端过滤。第二,隐私:云端角色扮演应用会把你的对话发送到某项服务,即使本地应用也可能发送分析数据。第三,情感依赖:陪伴式聊天会让人感觉很亲近,但那是一种设计特性,并不是一段关系。第四,真实数据:切勿在角色扮演聊天中输入你的住址、健康细节或他人的私人信息。对于孩子的iPhone,请使用Apple的屏幕使用时间内容和应用分级限制,而不是相信应用自己的设置。
智能家居与智能体
在iPhone上,智能家居AI和智能体几乎总是运行在家中服务器上的软件的客户端,因为iOS不会让模型或智能体在后台持续运行。 手机是麦克风、屏幕和遥控器;长时间运行的工作由家中服务器完成。想坦率了解自主本地智能体是否实用,见自主本地智能体真的管用吗?。
- Home Assistant Assist:Home Assistant内的语音助手,用Whisper、Piper和Wyoming完全本地运行,另有可选的云端和Ollama LLM智能体。局限:不是独立应用;完整的本地流程需要Home Assistant OS。
- Scrypted:开源的摄像头和NVR平台,把摄像头串流到HomeKit、Google Home和Home Assistant,并可通过llama.cpp提供可选的本地LLM摘要。局限:运行在你自己的服务器上,而且拍摄他人的摄像头画面在许多地方会带来法律义务。
- Nekoni:运行在你自己电脑上的自托管个人智能体(Ollama、文档、定时技能),你可以通过直连的加密链路,从iPhone或浏览器与它聊天。局限:需要一台始终开机的Mac或Linux机器。
- Kai 9000和LLM Hub:分别是带持久记忆的助手和支持MCP的智能体。局限:工具调用和网页搜索会增加网络请求,因此它们不属于离线功能。
- Atomic Bot:把开源的OpenClaw评测智能体框架打包用于桌面和移动端,可在本地或云端运行。局限:本指南将其标记为久未更新(最后一次更新为2026年5月26日)。
远程模式:把iPhone当作自己服务器的瘦客户端
如果你的iPhone对你想要的模型来说太小,就在家里的Mac或PC上运行模型,把iPhone当作屏幕。 这是在iPhone上使用7B-70B模型的常见路线。Ollama的下载页面列出的是macOS、Windows和Linux,没有iPhone应用,所以服务器在别处(我们的iPhone盘点记录了这一点)。服务器端见Apple芯片本地LLM指南、Mac上的MLX、Ollama与llama.cpp对比以及运行与服务工具对比。
应用 | 连接到 | 是否也能在手机上运行模型 |
|---|---|---|
| Reins | Ollama、LM Studio、OpenAI兼容接口 | 能,MLX模型 |
| Enchanted | 仅Ollama | 不能 |
| OpenClient | Ollama、LiteLLM、OpenAI兼容接口 | 不能 |
| Chapper | LM Studio、Ollama、llama.cpp服务器 | 能,$4.99附加包 |
| Tina | Ollama、llama.cpp、ComfyUI | 能 |
| LM Mini | LM Studio、Ollama、Jan AI、oMLX | 能 |
| Arbiter | LM Studio、Ollama、Arbiter for Mac | 能 |
| LocalMind | Ollama、LM Studio、OpenRouter | 能 |
| Liquid Apollo | LM Studio、Ollama、OpenRouter | 能,LFM2 |
| Locally AI | Mac上的LM Studio(LM Link) | 能 |
| MLXHub | 在你的Wi-Fi上提供模型服务(Plus) | 能 |
| Nekoni | 你自己电脑上的智能体 | 不能 |
⚠️警告: 离开家后,你需要一条通往服务器的安全通道。Tailscale这类私有网状VPN是常见的选择,因为Ollama默认不要求身份验证,不应通过路由器端口暴露到公共互联网。在连接之前,请查看各客户端的评测和设置,了解是否支持HTTPS和API密钥。
💡提示: 上面有几款客户端也表示可以在手机上加载模型,这让它们成为很好的单一应用:离线用小模型,在家用大模型。防火墙和离线环境的搭建请阅读防火墙后与离线的本地AI。
开发者路径:Core ML、Core AI、MLX Swift、llama.cpp、MLC、ExecuTorch与Foundation Models
构建iPhone AI功能的开发者,需要在Apple自己的模型、用于自有模型的Apple运行时和跨平台引擎之间做选择。 这个选择决定了适用的手机、语言和商店规则。本章只做导览;在动手构建之前,请阅读各个项目的文档。
- Foundation Models框架: Apple用于设备端模型的原生Swift API,支持图像、Vision工具、Dynamic Profiles,并可通过Language Model协议接入云端提供方(Apple,WWDC26 iOS指南)。需要支持Apple Intelligence的硬件。文档:Foundation Models。
- Core ML: Apple用于在CPU、GPU和Neural Engine上运行转换后模型的框架;长期以来用于视觉、音频和小型模型的路线。AI CutoutWerk内置了一个Core ML分割模型。文档:Core ML。
- Core AI: Apple随iOS 27推出的新框架,用于在设备上引入你自己的模型,利用统一内存和Neural Engine,并采用提前编译。对本指南中的大多数应用来说还太新;见WWDC26 iOS指南。
- MLX Swift: Apple面向Swift的MLX数组框架,支撑着Locally AI、fullmoon和MLXHub。mlx-swift。Python方面见MLX-LM详解。
- llama.cpp: 带Metal、运行GGUF文件的C/C++引擎,支撑着PocketPal AI和Pocket AI。llama.cpp。
- MLC LLM: 基于编译器的运行时,带iOS部署文档和参考应用MLC Chat。见MLC LLM和MLC iOS文档。
- ExecuTorch: PyTorch的设备端运行时,通过React Native ExecuTorch用于Private Mind,并受到Noema支持。ExecuTorch。
- LiteRT-LM: Google的运行时,支撑着Google AI Edge Gallery(LiteRT-LM)。
- SDK: RunAnywhere(LLM、语音转文字、文字转语音和语音活动检测;自定义许可证,含商业条款)、Llamatik(Kotlin Multiplatform,MIT)和SwiftLM(面向Apple芯片Mac的Swift MLX服务器,配有SwiftBuddy iOS配套应用)。
- TestFlight测试版: 向测试人员分发早期构建的免费方式;构建会过期,请提前规划。Apple的App审核规则仍然适用于正式发布的版本。
隐私与遥测的真实情况
“在你的设备上运行”和“什么都不发送”是两种不同的说法,只有后者才是隐私保证。 Apple的App Store隐私标签由开发者填写,因此它们描述的是开发者所说的应用行为。设备端模型仍然可能存在于会发送崩溃报告、使用事件、可选网页搜索或模型下载请求的应用之中。此处所有应用层面的隐私说法,均取自各应用的隐私政策、App Store标签或开发者页面,并经所链接的评测概括,没有经过网络分析核实。更深入的清单见本地LLM安全与隐私清单。
- “零遥测”可能的含义: 应用中没有分析SDK。它并不涵盖模型下载(托管方能看到你的请求)、App Store、可选的网页搜索、你连接的远程服务器,或包含应用数据的备份。
- 我们评测中的标签: Oscilla带有Apple的“未收集数据”标签;Google AI Edge Gallery的标签显示会收集一些设备诊断信息;MemoryAI和Llamatik据其政策会发送使用事件或分析数据以及崩溃报告,但不含聊天内容。
- 会破坏“离线”的可选功能: Compass - Local AI中的网页搜索(DuckDuckGo或Brave)、Private Mind中的Web开关、Secret AI中的MCP工具,以及Liquid Apollo中的OpenRouter模式。
- 默认使用云端: 据其评测,Kai 9000默认把消息发送到云服务,只有下载设备端模型后才在本地运行;Swerve被记录为在线服务,HiWaifu似乎也是(其页面没有说明模型在哪里运行);AquaVoice是云端听写。
- 政策与版本脱节: 据其隐私政策,LM Mini有一个日期为2025年8月的版本,只描述了它与LM Studio的连接;Secret AI的政策最后更新于2025年5月,早于它新增工具的时间。请把日期与应用版本对照。
- 自己检查,分三步: (1)在Wi-Fi下下载模型,然后开启飞行模式并测试应用。(2)正常使用手机一周,然后打开设置 > 隐私与安全性 > App隐私报告,Apple表示它会显示应用如何使用权限及其网络活动。(3)阅读隐私标签和政策,查看是否有分析功能;如果想审查代码,请优先选择开源应用。
💡提示: PromptQuorum的评测会说明各应用的来源怎么说,以及我们是否测试过它;凡是评测写明“未亲手实测”的地方,隐私说法是开发者的,而不是我们的。本指南没有对任何应用进行网络抓包。
电池、发热与内存限制
生成文字会让芯片持续忙碌,所以模型运行时请预期会有明显的发热和耗电;偶尔使用的代价很小。 PromptQuorum没有测量过任何iPhone的功耗或电池使用情况,我们也没有找到可以引用的已发布数据。
- 发热: 持续生成可能让iOS降低时钟频率,每秒token数随之下降。具体情况因手机、保护壳、充电和室温而异,我们没有测量过。
- 准则2.4.2: Apple要求开发者的应用不应快速耗电或产生过多热量,因此表现良好的应用会限制生成长度或暂停长时间运行。
- 内存: 模型加载后驻留在内存中。如果iOS需要把内存留给另一个应用,它可能会关闭聊天应用,对话状态可能丢失;加载模型前请关闭其他占用较大的应用。
- 边充电边生成会增加发热;如果手机感觉很烫,请暂停,并避免阳光直射或放在高温的车里。
- 存储: 一个3-4B模型约为2.5-3.7 GB,所以三个应用各带三个模型大约会占用10 GB。请只保留一个应用和一两个模型。
- 低电量模式可能会降低生成速度,因为iOS会降低性能以节省电量;进行长时间使用时请将其关闭。
只能部分做到的事
“部分可用”意味着该功能在iPhone上存在,但有一些限制,在你养成习惯之前最好先了解。
- 搭配Siri的免提语音: Shortcuts可以调用应用,但Siri还是Siri;你无法让本地模型成为系统助手。Apple的Siri AI是单独的iOS 27测试版,初期不会在欧盟提供。
- 图像生成: 可以用小型扩散模型实现,但速度慢、占用存储多且发热;Draw Things还提供可选的云端模式。
- 照片搜索: AI这一步要么在手机上选择性开启(Ente Photos),要么运行在你托管的服务器上(Immich)。
- 笔记和书签: iPhone应用是客户端;模型工作发生在服务器或你选择的提供方上。
- 智能体: 简短的前台任务可行;长时间运行或定时的智能体需要家中服务器(Nekoni)。
- 健康问题: 可以用Apple的设备端模型实现(Pajdo),但不能替代医疗建议。
- 长文档: 小模型的上下文窗口小,所以大型PDF需要分块处理或使用服务器。
iPhone上做不到或暂时做不到的事
这些是人们最常对iPhone本地AI提出、而目前没有已点评的iPhone应用能够实现的愿望。 有些是硬件或App Store规则的硬性限制;另一些则是随着Apple和应用开发者推出Core AI等新框架,可能会逐步补上的空白。
愿望 | 状态 | 原因 | 替代方案 |
|---|---|---|---|
| 在手机上运行30B-70B模型 | 不可行 | 需要的内存远超iPhone所有 | 远程模式连接家中服务器 |
| 云端级别的推理和代码 | 暂不可用 | 小模型在多步任务上会失败 | 难题交给云端应用 |
| 在手机上运行Ollama或Docker | 不可行 | iPhone上没有Ollama或Docker应用;沙盒限制 | 在Mac或PC上运行 |
| 用你的模型取代Siri | 不可行 | Siri由系统控制 | 用Shortcuts调用应用 |
| 常驻的后台智能体 | 不可行 | 后台服务受限(2.5.4) | 在家中服务器上运行智能体 |
| 在手机上微调模型 | 不现实 | 内存、发热、没有应用工具 | 在Mac或GPU上训练 |
| 把聊天同步到Mac和iPad | 基本不行 | 多数应用的历史记录按设备保存 | 服务器网页界面,如Open WebUI |
| iPhone上的AnythingLLM Mobile | 暂不可用 | 据评测iOS应用尚未发布 | 用浏览器访问你的服务器 |
| iPhone 14上的Apple Intelligence | 不可行 | 不在Apple的设备名单上 | 第三方模型应用 |
| 带人声的音乐生成 | 暂不可用 | Murmur只生成器乐 | 桌面工具 |
| 证明某个应用是私密的 | 无法仅凭标签 | 标签由开发者自行声明 | 飞行模式和App隐私报告 |
决策路径:我有这款iPhone,想要这个功能
按手机档位和目标找到你的那一行,然后打开链接的章节。 这些推荐是基于我们评测的起点,不是排名;只有在没有更合适的选择时,才会提到在维护章节中被标为久未更新的应用。
如果你有 | 并且想要 | 从这里开始 |
|---|---|---|
| 4 GB iPhone(12、13、SE) | 通用聊天 | Reins或Enchanted,配合家中服务器 |
| 6 GB iPhone(14、15) | 免费离线聊天 | PocketPal AI,使用1-2B模型 |
| 8 GB iPhone(16、17) | 免费离线聊天 | PocketPal AI或Locally AI |
| 8 GB iPhone | Siri和Shortcuts | Private LLM或Locally AI |
| 12 GB iPhone(17 Pro) | 手机上最大的模型 | Noema或带Gemma 4的Gallery |
| 支持Apple Intelligence的手机 | 无需下载模型 | Compass或Locally AI(Apple模型) |
| 任何iPhone | 会议转录 | Whisper Notes或Lyonesse |
| 任何iPhone | 与少量PDF对话 | Private Mind或MemoryAI |
| 任何iPhone | 翻译 | On-Device AI Translator |
| 8 GB以上的iPhone | 文字生成图像 | Draw Things |
| 任何iPhone | 照片搜索,自有服务器 | Immich |
| 任何iPhone,家中有电脑 | 7B-70B模型 | Reins、OpenClient或LM Mini |
| 任何iPhone | 智能家居语音 | Home Assistant Assist |
| 青少年使用的iPhone | 安全聊天 | 先设置屏幕使用时间限制,再阅读安全提示 |
常见错误
- 按文件大小而不是内存档位来选模型。 能下载下来的文件仍可能被iOS关闭;请按档位表匹配大小,并用应用自带的基准测试试一试。
- 期待云端质量。 小模型用于起草、摘要、翻译和快速问答,难题的推理则交给云端或家中服务器上的模型。
- 把“Apple Intelligence”当作“离线”。 Apple Intelligence可能使用Private Cloud Compute;请确认是什么在处理请求。
- 不经测试就相信隐私标签。 请完成隐私一章中的飞行模式和App隐私报告检查。
- 把每个应用都装一遍。 每个应用都会保存自己的数GB模型文件;一项任务选一个应用。
- 购买久未更新的应用。 请查看版本历史,尤其是维护章节中的那些应用。
- 把家中服务器暴露到互联网。 请使用私有VPN网络;Ollama默认不要求身份验证。
- 让角色扮演应用在共用手机或孩子的手机上不经审查。 请先阅读年龄分级和成人内容设置。
来源
- Apple Intelligence的设备、语言、Siri AI和Private Cloud Compute:Apple Intelligence(2026年11月13日查阅)。
- App审核准则2.4.2、2.5.1、2.5.2、2.5.4、5.1.1和5.1.2:App Store审核准则(2026年11月13日查阅)。
- App隐私报告的路径和内容:Apple支持。
- 引擎:MLX Swift、llama.cpp、ExecuTorch、MLC iOS文档、Core ML、LiteRT-LM。
- iPhone内存数据和参考速度沿用自2026年iPhone最佳本地AI应用;Apple不公布iPhone内存。
- 各应用的信息(价格、平台、版本、开发者说法)来自所链接的PromptQuorum评测和目录条目;被标为久未更新的应用的最后更新日期来自这些条目。
常见问题
iPhone能完全离线运行AI吗?
可以,据这些应用的页面和评测所述。在Wi-Fi下一次性下载模型之后,PocketPal AI、Private LLM和Locally AI等应用无需联网即可作答。Apple Intelligence也在设备上运行模型,但较大的请求可能使用Private Cloud Compute,因此不能保证离线。请在飞行模式下测试任何应用。
本地AI需要哪款iPhone?
运行1-2B小模型需要6 GB或更多内存的iPhone,运行3-4B模型需要8 GB或更多。Apple不公布内存,所以请参考本指南中报道所称的档位。要使用Apple Intelligence,你需要Apple设备名单上的iPhone 15 Pro或更新机型。
iPhone上的本地AI真的私密吗?
聊天可以保留在设备上,但隐私取决于具体应用。标签由开发者自行声明,而且好几款已点评的应用会发送崩溃报告、使用事件或可选的网络请求。请用飞行模式和设置 > 隐私与安全性 > App隐私报告来验证。
我能在iPhone上运行Ollama吗?
不能。Ollama提供macOS、Windows和Linux下载,iPhone上没有Ollama或Docker服务器。请在电脑上运行Ollama,再通过Reins、Enchanted或OpenClient等iPhone客户端连接。
iPhone能运行多大的模型?
8 GB的手机在4比特下约为3-4B参数,7-8B的低比特模型只能在12 GB的手机上运行,而且很慢。6 GB的手机最好使用1-2B模型。更大的模型请使用连接家中服务器的远程模式。
本地AI会耗电吗?
生成时会:持续生成会让处理器保持忙碌,耗电比空闲时快得多,手机也可能发热。PromptQuorum没有测量过确切的耗电量。偶尔提问的代价很小,已加载但空闲的模型耗电很少。
iPhone上最好的免费本地AI应用是什么?
在我们的盘点中,PocketPal AI是免费的开源默认之选,Locally AI和Google AI Edge Gallery是免费的备选。合适的应用取决于你的任务;请使用本指南中的决策路径。
Apple Intelligence与这些应用有什么不同?
Apple Intelligence是Apple为系统功能以及使用Foundation Models框架的应用内置的模型;你无法更换它的模型。本指南中的应用让你自己选择并下载模型,其中一些(如Locally AI)还可以作为Apple模型的前端。
我能在iPhone上离线与PDF对话吗?
少量文件可以,据这些应用的页面和评测所述,可使用Private Mind、MemoryAI、Noema或LocalMindAI等应用。小模型的上下文窗口很短,因此长文档的摘要可能不完整。大型文库请使用家中服务器。
我能在家外使用自己的家中服务器吗?
可以,通过Tailscale等私有VPN网络或其他安全隧道,并使用支持你的服务器的客户端应用。不要把Ollama开放到公共互联网;它默认不要求身份验证。
iPhone能离线生成图像吗?
可以,据这些应用的页面和评测所述,使用Draw Things、Genva和Haplo AI等应用,下载数GB的模型之后即可。生成速度比桌面GPU慢,还会让手机发热;Draw Things还提供可选的云端模式。
角色扮演和陪伴类应用对青少年安全吗?
默认并不安全。好几款应用分级为18+或设有仅限成人的模式,一些是会保存对话的云服务,而设备端模型没有服务器端过滤。请使用Apple屏幕使用时间和应用分级限制,并阅读本指南中的安全提示。
本地AI能在iPad上用吗?
大多可以。本指南中的许多应用列出了对iPad的支持,同样适用内存规则。iPad方面的具体建议见如何在平板上运行AI。
iPhone与安卓在本地AI上相比如何?
iPhone上手更简单,但限制更多;安卓允许终端应用,开源选择更多,但因手机而异。对比请见安卓本地AI指南和Galaxy与iPhone设备端AI对比。
应用会在较旧的iPhone上使用Apple的模型吗?
不会。Apple Intelligence仅限于Apple名单上的设备,从iPhone 15 Pro起。在较旧的iPhone上,请使用自带模型的应用,并遵守内存限制。
