跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Mobile & Edge LLMs

iPhone本地AI 2026:能做什么、不能做什么,以及我们收录的iPhone应用

·阅读约45分钟 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

较新的iPhone在一次性下载模型后,可以离线运行小型语言模型(在6-8 GB内存上约10亿-40亿参数),覆盖聊天、摘要、翻译、听写、文档问答和小型图像任务;它无法运行30B以上的模型、无法取代Siri,也无法运行后台智能体。 Apple Intelligence在iPhone 15 Pro及更新机型上提供内置模型,而iPhone上没有Ollama或Docker服务器。

关键要点

  • 较新的iPhone在模型下载完成后,无需联网即可运行实用的语言模型。 现实的上限是6-8 GB内存上的1B-4B参数模型;7B-8B的低比特模型只能放进12 GB的iPhone,而且速度依然很慢。可以期待不错的起草、摘要、翻译和问答,但推理、代码和世界知识会弱于ChatGPT级别的云端模型。
  • 决定模型大小的是内存,而不是芯片名称。 Apple不公布iPhone的内存;本指南中的数字是广泛流传的规格。4 GB的iPhone低于实际可用的下限,6 GB意味着1-2B模型,8 GB意味着3-4B,12 GB则有更多余量。
  • Apple Intelligence与Foundation Models框架是另一条独立的路线。 Apple自家的设备端模型已经内置在手机里(iPhone 15 Pro及更新机型),无需下载,第三方应用也可以调用。它本身并不是通用聊天应用,而且有语言和地区限制。
  • App Store设有硬性限制。 手机上不能用Docker,也不能运行Ollama;应用不得下载会改变其功能的代码(Apple准则2.5.2),所以每个引擎都打包在应用内,只有模型文件需要下载。这就是为什么iPhone本地AI意味着安装一个应用,而不是搭建一套技术栈。
  • iPhone用户想要的大部分功能,在我们的目录里都有已点评的应用: 聊天、相机提问、听写与转录、文档对话、翻译、图像生成、照片搜索、笔记、健康问题、角色扮演、智能家居控制,以及远程访问家中服务器。本指南把我们目录中的大多数iPhone应用与其适合的能力对应了起来。
  • 有几件事做不到,或只能部分做到: 30B以上的模型、前沿水平的推理、常驻的后台智能体、用自己的模型取代Siri、在手机上微调,以及仅凭App Store标签就能保证隐私。
  • “零遥测”需要核实,而不是轻信。 一些声称把聊天保留在设备上的应用,仍会发送崩溃报告、使用事件或可选的网络请求;隐私一章介绍了如何用飞行模式和App隐私报告来验证。
  • 从小处开始: 安装一个应用,在Wi-Fi下下载一个1-2 GB的模型,切换到飞行模式再提一个问题。如果可行,你就在15分钟内验证了整条离线链路。

较新的iPhone在模型下载完成后可以离线运行实用的语言模型,但只能是小模型:在6-8 GB内存上约为10亿-40亿参数。本指南梳理了iPhone本地AI能做什么、哪些只能部分做到、哪些完全做不到,解释了Apple Intelligence、Foundation Models框架和App Store规则,并把PromptQuorum目录中我们收录的iPhone应用与各自适合的用途对应起来。应用信息来自PromptQuorum的评测,这些评测基于公开资料,除非评测中注明为亲手实测;本指南未重新测试任何应用。

iPhone本地AI 2026:能做什么、不能做什么,以及我们收录的iPhone应用

从这里开始:先装这三款应用

时间紧?从这三款中装一款,下载一个与你iPhone内存相符的模型,并在飞行模式下测试一次。 这些推荐来自本指南的各章和评测,而非基准测试;指南的其余部分会解释每个选择。

其他不错的起点: 12 GB的iPhone可以试试Noema或Google AI Edge Gallery搭配Gemma 4模型;4 GB的iPhone请使用Reins或Enchanted(在维护章节中被标为更新缓慢)连接家中服务器,因为这一档低于设备端聊天的实际下限。

📍 简单一句话

新手可以从PocketPal AI开始,进阶用户用Locally AI和Apple自带的模型,开发者用Foundation Models框架或MLX Swift;无论哪种情况,模型大小都取决于iPhone的内存。

💬 简单来说

一款应用,一个与内存相符的模型,一次飞行模式测试。

新手

安装或使用:
PocketPal AI
第一个模型:
6 GB选1-2B;8 GB选3-4B
为何这样选:
免费且开源,本指南的首次运行演示就用它。

进阶

安装或使用:
Locally AI
第一个模型:
8 GB选3-4B,或Apple自带模型(无需下载)
为何这样选:
适合在8 GB的iPhone上配合Siri和Shortcuts使用,在支持Apple Intelligence的iPhone上还能使用Apple的设备端模型。

开发者

安装或使用:
Foundation Models框架或MLX Swift
第一个模型:
Apple的设备端模型,或你自己的模型
为何这样选:
Foundation Models是Apple原生的Swift API,需要支持Apple Intelligence的硬件;MLX Swift运行你自己的模型。其余内容见“开发者路径”一章。

安装前的六个快速解答

这是读者最先问的六个问题;每个解答都指向解释它的章节。

📍 简单一句话

内存决定模型大小,3-5 GB的可用存储能放下第一个模型,飞行模式测试能看出应用是否可离线使用。

💬 简单来说

内存定模型,存储放模型,飞行模式来验证。

  • 该下载哪个模型? 按内存来选:6 GB选1-2B,8 GB选3-4B,12 GB余量更大,但7-8B模型依然很慢。4 GB的iPhone低于实际下限。参见“手机档位、应用与模型大小一览”。
  • 需要多少存储空间? 先腾出3-5 GB,因为一个模型文件有1-4 GB;一次只装一款应用,因为重复的模型文件会很快占满存储。参见“15分钟跑起你的第一个本地模型”。
  • 运行速度如何? PromptQuorum没有为本指南在任何iPhone上测过速度,我们iPhone汇总文章中的参考速度也不是新的测量结果。模型越小,响应越快;请在最初几个测试问题上记下速度,并查看应用设置里是否显示每秒token数。
  • 哪款应用是私密的? 不能仅凭App Store标签就认定某款应用私密,因为“在你的设备上运行”和“什么都不发送”是两种不同的说法。请阅读隐私标签和政策,做一次飞行模式测试,之后再查看设置 > 隐私与安全性 > App隐私报告;像PocketPal AI这样的开源应用可供检查。参见“隐私与遥测的真实情况”。
  • 没有网络能做什么? 根据本指南的能力图谱,较新的iPhone在模型下载完成后,可以离线处理聊天、相机提问、听写与转录、文档聊天和翻译;30B以上的模型、前沿水平的推理和常驻的后台智能体则做不到。参见“能力图谱”。
  • 接下来读什么? 先看“15分钟跑起你的第一个本地模型”,如果有具体任务,再用“决策路径”。

快速事实

  • 范围: 以iPhone为主,同样的应用能运行的iPad也包括在内。安卓部分见姊妹指南安卓本地AI指南。
  • 支持Apple Intelligence的iPhone(Apple的名单): iPhone 15 Pro和15 Pro Max,包括16e在内的iPhone 16系列,包括17e和Air在内的iPhone 17系列,以及2026年的iPhone 18 Pro、18 Pro Max和iPhone Duo。iPhone 15和更早的非Pro机型不在名单上。
  • 本指南使用的内存档位(为报道所称,并非Apple公布): 4 GB(iPhone 12、13、SE),6 GB(iPhone 13 Pro、14、14 Pro、15),8 GB(iPhone 15 Pro、16系列、16e、17),12 GB(iPhone 17 Pro和Pro Max)。
  • 能放得下的模型大小: 1.7B模型在4比特下约1.1 GB,3-4B模型约2.5-3.7 GB;参考速度来自我们的iPhone应用盘点,并非新的测量结果。
  • iPhone应用内的引擎: llama.cpp(GGUF)、Apple MLX、MLC LLM、Google LiteRT-LM、ExecuTorch、Core ML、Apple Foundation Models;少数应用同时整合了多种。
  • 本指南链接的应用: 我们目录中有PromptQuorum评测的iOS和iPadOS应用,以及自托管工具的iPhone配套应用。
  • PromptQuorum没有做的事: 本指南没有重新测试这些应用。信息来自我们的评测、应用商店页面、开发者网站和Apple文档,每篇评测都会说明它测试了什么。

能力图谱:iPhone本地AI能做什么

iPhone本地AI能覆盖大多数日常语言任务和若干媒体任务,但并非云端助手能做的一切。 下表把每项能力归入“可用”“部分可用”或“暂不可用”,后面的章节会点名对应的应用。“可用”指某款已点评的iPhone应用在手机上用设备端模型完成该任务;“部分可用”指能做到,但在大小、速度、准确度或硬件上有限制;“暂不可用”指没有已点评的iPhone应用能在设备上完成。

📍 简单一句话

iPhone本地AI可以在设备上完成聊天、起草、摘要、翻译、听写、文档问答和小型图像任务,照片搜索、图像生成和智能体只能部分做到,目前还无法运行大模型或取代Siri。

💬 简单来说

可以把iPhone想象成一个装着小而私密的大脑的口袋助手。它能回答简单问题、改写文字、转录语音、描述照片,而不必把任何内容发送出去;但它不知道更大的云端模型所掌握的一些事实,长回答会变慢,而且会发热。遇到难题时,很多人会把手机和家里的电脑或云端应用搭配使用。

能力
在iPhone上
典型配置
章节
聊天、起草、摘要可用1-4B模型,GGUF或MLX聊天助手
就照片或截图提问可用小型视觉模型或OCR视觉与相机
听写与转录可用Whisper或Parakeet语音
朗读(文字转语音)可用系统语音或设备端TTS语音
搭配Siri的免提助手部分可用Shortcuts,不能取代Siri语音
与你的PDF和笔记对话可用小模型加本地索引文档与RAG
翻译可用针对翻译调优的小模型翻译
图像生成部分可用小型扩散模型,速度慢图像生成
照片编辑(抠图、修图)可用Core ML分割模型图像生成
相册中的AI搜索部分可用设备端索引或自有服务器照片与图库
带AI的笔记和书签部分可用AI往往运行在服务器上笔记与知识库
健康数据提问部分可用Apple Intelligence,非医疗用途健康与身心状态
角色扮演与陪伴可用小型聊天模型,也有云端版本角色扮演与陪伴
智能家居控制部分可用由家中服务器完成工作智能家居与智能体
常驻的自主智能体暂不可用iOS限制后台运行做不到的事
运行30B以上模型暂不可用远程使用家中服务器远程模式
在手机上微调模型暂不可用在Mac或GPU上训练开发者路径

芯片与内存的现实:哪款iPhone能运行哪种模型

内存决定iPhone能容纳的最大模型,芯片决定它回答得有多快。 语言模型在生成时必须驻留在内存中,所以一个4比特的3B模型(磁盘上约2-2.7 GB)除了iOS和其他应用占用的部分外,大约还需要同样多的可用内存。当应用申请的内存过多时,iOS会将其关闭;而Apple不公布iPhone的内存,因此下面的数字是广泛流传的规格(也用于我们的2026年iPhone最佳本地AI应用),而不是Apple的官方说法。

iPhone档位
内存(报道所称)
现实的模型大小
结论
iPhone 12、13、SE4 GB1B以下,甚至不行改用远程模式
iPhone 13 Pro、14、14 Pro、156 GB1-2B(文件约1.1 GB)基础聊天和起草
iPhone 15 Pro、16、16e、178 GB3-4B(约2.5-3.7 GB)典型的3-4B档
iPhone 17 Pro、17 Pro Max12 GB4B从容,7-8B低比特最高内存档
iPhone 18 Pro、Pro Max、Duo未公布在得到确认前按12 GB对待PromptQuorum没有相关数据

⚠️警告: 名义上放得下的模型,在你切换应用时仍可能被iOS终止。在6 GB的iPhone上,即使3-4B的文件能顺利下载,也请坚持使用1-2B模型;Apple自己的iPhone页面没有给出内存数字,因此这张档位表只是参考,而非保证。

Neural Engine、GPU与CPU:究竟是谁在运行模型

iPhone有三个地方可以运行模型,具体用哪一个取决于应用的引擎,而不是手机。 CPU灵活但慢;GPU(通过Apple的Metal图形API调用)负责大多数聊天应用所依赖的大规模矩阵运算;Neural Engine是固定功能的加速器,Apple的Core ML和较新的Core AI框架可以调用它。Apple将Core AI描述为专为Apple芯片打造,利用统一内存和Neural Engine;它是iOS 27这一代新推出的,因此本指南中的大多数应用尚未使用。

  • llama.cpp应用(GGUF文件): PocketPal AI、Pocket AI和LLM Farm在GPU上使用Metal。支持任意GGUF文件,因此来自Hugging Face的模型可以使用。
  • Apple MLX应用: Locally AI、fullmoon和MLXHub使用Apple的MLX数组框架,该框架是为Apple芯片上的统一内存而设计的。
  • 多格式应用: Noema在一个应用里支持GGUF、MLX、ExecuTorch、Core ML和Apple Foundation Models,因此它的硬件使用方式会随模型格式而变化(评测中的开发者说法)。
  • 编译型模型应用: MLC Chat运行由MLC LLM工具链编译的模型;Google AI Edge Gallery使用Google的LiteRT-LM运行时。
  • Apple自己的模型: Apple Intelligence通过系统框架运行Apple的模型。Compass - Local AI和Pajdo等应用直接调用它,而不是自带模型。
  • 实际后果: 在同一台iPhone上运行相同大小模型的两个应用,在速度、内存占用和发热上可能不同。在删除已下载的模型之前,请先在两个应用里运行同一条提示词。

手机档位、应用与模型大小一览

先按内存档位选,再按需求选。 下表根据我们的评测和盘点给出一个起点,并非基准测试。模型更新很快,当前的小模型推荐请查看最佳移动端LLM模型:Phi-4 Mini、Gemma与SmolLM对比。

手机档位
从这里开始
模型大小
备注
4 GB iPhone连接家中服务器的远程客户端手机上无Reins、Enchanted、OpenClient
6 GB iPhonePocketPal AI或Locally AI1-2B(约1.1 GB)最小的模型
8 GB iPhonePocketPal AI、Private LLM、Gallery3-4B(2.5-3.7 GB)中档
12 GB iPhoneNoema或Locally AI4B,或7-8B(较慢)可容纳更长的上下文
支持Apple Intelligence的手机Compass或Locally AIApple模型,无需下载有语言限制
任何手机,听写Whisper Notes或AikoWhisper级,小型一次性付费
任何手机,文档Private Mind或MemoryAI小型聊天模型加索引留意文件限制

15分钟跑起你的第一个本地模型

你可以在大约15分钟内验证iPhone上的整条离线链路:安装一个应用,在Wi-Fi下下载一个小模型,开启飞行模式,然后提一个问题。 这些步骤以PocketPal AI为例,因为它免费且开源,但后面章节里的任何聊天应用用法都一样。时间估计取决于你的网络和手机。

  1. 1
    第0-2分钟:确认你的iPhone档位
    Why it matters: 在上面的内存表里查找你的机型。6 GB意味着1-2B模型,8 GB意味着3-4B,12 GB则有余量。先腾出3-5 GB存储空间,因为一个模型文件有1-4 GB。
  2. 2
    第2-4分钟:安装一个应用
    Why it matters: 从App Store安装一个应用,例如PocketPal AI、Locally AI或Google AI Edge Gallery。不要装三个应用、各配三个模型;重复的模型文件会很快占满存储。
  3. 3
    第4-9分钟:在Wi-Fi下下载一个模型
    Why it matters: 按你的档位选择大小,例如6 GB机型选Qwen3 1.7B级别的模型,8 GB机型选Phi-4 Mini或Gemma 4 E2B(见按档位选模型)。下载是唯一需要联网的步骤。下载完成前请保持应用打开、屏幕常亮。
  4. 4
    第9-10分钟:开启飞行模式
    Why it matters: 打开飞行模式并保持Wi-Fi关闭。这能证明模型在手机上运行,也能看出应用是否试图连接互联网。
  5. 5
    第10-13分钟:提三个测试问题
    Why it matters: 让它为你粘贴的一段文字写三条要点摘要,用另一种语气改写一封邮件,再问一个你知道答案的事实性问题。留意速度,以及手机是否发热。
  6. 6
    第13-15分钟:检查设置并清理
    Why it matters: 如果应用有基准测试或设置页面,打开看看,记下每秒token数,然后稍后到设置 > 隐私与安全性 > App隐私报告中查看该应用联系过哪些域名。删除你不会再用的模型。

💡提示: 如果应用在第一次回答时崩溃或重启,说明模型对这台手机来说太大了。请删除它,换成再小一档的模型,而不是去调低其他设置。

Apple Intelligence与Foundation Models框架

Apple Intelligence为每台受支持的iPhone提供一个无需下载的内置语言模型,而Foundation Models框架让第三方应用可以使用它。 Apple的开发者页面把该框架描述为原生Swift API,可以直接访问驱动Apple Intelligence的同一个设备端模型。它只能在Apple Intelligence支持的设备和语言上使用。

📍 简单一句话

Apple Intelligence在iPhone 15 Pro及更新机型上运行Apple自己的设备端模型,Foundation Models框架让Locally AI、Compass和Pajdo等第三方应用无需自带模型就能使用它。

💬 简单来说

Apple已经在iPhone里放了一个小型语言模型。你不需要下载它,但也无法把它换成别的模型。应用可以借用它在设备上回答问题,这就是为什么好几款新应用需要较新的iPhone和较新的iOS,而不是下载一个大模型。

  • 设备名单(Apple的Apple Intelligence页面): iPhone 15 Pro和Pro Max(A17 Pro),iPhone 16、16 Plus、16e和16 Pro系列(A18和A18 Pro),iPhone 17、17e、17 Pro、17 Pro Max和Air(A19和A19 Pro),以及iPhone Duo、18 Pro和18 Pro Max(A20 Pro)。
  • 语言: Apple Intelligence要求Siri和设备语言设置为受支持的语言。Apple的名单包括中文(简体和繁体)、丹麦语、荷兰语、英语、法语、德语、意大利语、日语、韩语、挪威语、葡萄牙语、西班牙语、瑞典语、土耳其语和越南语。Apple补充说,部分功能可能并非在所有地区或语言中都可用。
  • Siri AI(iOS 27测试版): Apple列出的起步语言为英语、法语、日语、韩语、葡萄牙语和西班牙语,并表示在iOS上初期不会在欧盟提供,还表示部分服务器端功能设有每日使用上限。它与本指南中的设备端聊天应用是两回事。
  • 框架提供什么(Apple,iOS 27指南): 可访问Apple Foundation Models,并通过Language Model协议访问Claude和Gemini等云端模型或任何符合该协议的提供方;可同时传入图像和文字的多模态提示;模型可在设备上调用的Vision工具,如OCR和条码识别;以及用于在同一会话中切换模型、工具和指令的Dynamic Profiles。
  • iOS 26基线(本次更新未重新核实): 该框架最早随iOS 26发布。在围绕它做设计之前,请查阅Apple当前的文档,了解上下文限制和支持的功能。
  • Private Cloud Compute: Apple Intelligence可以把较大的请求交给Apple的服务器处理。Apple表示数据不会被存储,仅用于你的请求。这不是设备端处理,因此请把“Apple Intelligence”和“离线”视为两种不同的说法。
  • 本指南中使用Apple模型的应用: Locally AI(聊天前端)、Compass - Local AI(聊天和截图OCR)、Pajdo(Apple健康问题)、LocalMindAI(Apple的模型或下载的模型)、Noema和Reins(Apple Foundation Models作为其中一个后端)、Hillnote(笔记),以及AI on Device——它自带一个3B模型,但要求设备兼容Apple Intelligence。

💡提示: 如果你只想要改写、通知摘要,以及邮件、信息和备忘录里的写作工具,就不需要聊天应用。如果你想要聊天窗口、模型选择或文档问答,请安装本指南中的某个应用;关于Apple模型与开放模型的取舍,见Apple设备端AI与本地LLM对比。

影响iPhone本地AI的App Store规则

App Store解释了iPhone与桌面本地AI之间的大部分差异。 Apple的App审核准则适用于每一款应用,其中有四条在这里很重要:自包含应用、功耗、后台服务和数据共享。本章引用规则文本并给出我们的解读;这不是法律意见,而且Apple可能更改规则。

  • 不得下载会改变应用的代码(准则2.5.2)。 Apple的原文大意是:应用“不得下载、安装或执行会引入或更改应用功能的代码”。本地AI应用把引擎打包在应用内、只下载属于数据的模型权重,从而遵守这条规则。这是我们的解读,不是Apple的声明。
  • 手机上没有Ollama服务器。 Ollama没有提供iPhone应用,而App Store的沙盒也让人几乎没有可行的办法去运行Ollama服务器或Docker容器。存在一些沙盒化的shell应用,但它们无法提供本地模型服务器。
  • 只能使用公开API(准则2.5.1)。 应用只能使用公开API,这就是为什么Foundation Models、Core ML、Metal和MLX是可用的路径,而私有的Neural Engine访问则不可用。
  • 功耗与发热(准则2.4.2)。 Apple表示(译文)应用“不应快速耗电、产生过多热量或对设备资源造成不必要的负担”。持续生成正好考验这条线,这也是应用会降速或中止长时间运行的原因。
  • 后台使用受限(准则2.5.4)。 多任务应用只能出于音频播放、位置、任务完成和本地通知等预期用途使用后台服务。一旦你离开应用,模型就无法无限期地继续生成或充当智能体;Reins指出后台生成需要iOS 26。
  • 内存限制。 iOS会限制前台应用可使用的内存量。Apple发布了开发者可申请的增加内存限制权限(com.apple.developer.kernel.increased-memory-limit);我们没有给出确切的额度。你无法看出某个应用是否拥有该权限,因此在依赖某个模型之前,请先用应用自带的基准测试试一试。
  • JIT与运行时编译。 桌面引擎常常在运行时编译代码;iOS应用则改为提前编译好引擎再发布。这是一般的平台行为,若干引擎项目都提到过,也是iPhone引擎在功能上落后于桌面引擎的原因之一。
  • 数据共享(准则5.1.1和5.1.2)。 应用必须链接隐私政策、说明收集了哪些数据,并在与第三方共享个人数据(“包括与第三方AI共享”,译文)之前获得许可,且未经同意不得挪作他用。App Store的隐私标签由开发者填写,隐私一章会再谈到这一点。
  • 侧载与替代应用市场。 在欧盟,依据《数字市场法》存在替代应用市场,但每位开发者自行决定在哪里发布。本指南中没有应用需要它;LLM Farm是例外,目前必须在Xcode中从源码构建。
  • TestFlight测试版。 一些开发者提供TestFlight版本(例如提供免费试用的Aiko和提供较新构建的fullmoon)。TestFlight版本有时间限制且尚未完成;请用于测试,而不要用于你不能丢失的数据。

iPhone与安卓相比的优势与不足

iPhone更容易上手,但扩展受限更多;安卓则相反。 iPhone的配置种类少且已知,自带Apple的模型,所有应用都通过同一个商店安装。安卓手机在内存和芯片上差异大得多,允许终端应用和侧载,并有自己的设备端模型体系。这是一份基于公开信息的平台对比;逐款硬件的数据请见Galaxy与iPhone设备端AI对比和姊妹篇安卓本地AI指南。

主题
iPhone
安卓
安装难度App Store,一键安装Play商店或APK
内置模型Apple Foundation Models厂商和Google的模型
在手机上运行OllamaiPhone没有Ollama应用可通过Termux实现(见指南)
内存上限Pro机型约12 GB各不相同;请逐款查看
模型格式GGUF、MLX、Core ML、LiteRTGGUF、LiteRT、MLC等
快捷操作与自动化Shortcuts、App IntentsTasker和intents
应用数量开源选择较少开源选择更多
后台运行严格受限较宽松,但仍受限

💡提示: 本指南中的许多应用也能在安卓上运行(PocketPal AI、MLC Chat、KernelAI、LLM Hub),所以两种平台并用的家庭常常可以在各自手机上使用同一个应用。安卓方面的细节请对照2026年安卓最佳本地AI应用。

聊天助手:主要的设备端应用

要在iPhone上进行通用聊天,请先从我们的iPhone盘点所比较的五款应用中选一款,再去看下面较新的应用。 每一行都写明了应用的功能和它的真实局限。详细信息来自所链接的PromptQuorum评测、应用商店页面和开发者页面;除非评测说明它测试过该应用,否则请把速度和质量视为未经测量。排名推荐和参考速度见2026年iPhone最佳本地AI应用,整个聊天类别见聊天助手对比。

📍 简单一句话

PocketPal AI是免费的默认之选,Private LLM是付费的Siri与Shortcuts方案,Locally AI是带Apple Foundation Models的免费MLX应用,Google AI Edge Gallery是适用于iPhone的免费Gemma 4应用。

💬 简单来说

选一个聊天应用,下载一个适合你iPhone的模型,把本指南中的其余应用留给文档、语音或家中服务器等特殊用途。价格来自所链接的评测和应用商店页面,可能会变;购买前请查看应用商店。

  • PocketPal AI:免费、开源(MIT),可运行来自Hugging Face的任意GGUF模型,并内置基准测试。局限:独立的聊天应用,未提及Shortcuts或Siri操作;高级预设有可选的应用内购买。
  • Private LLM:iPhone、iPad和Mac通用,一次性付费$4.99,140多个模型,无需账户。开发者称它可接入Siri和Shortcuts。局限:闭源且模型列表经过精选,因此无法加载任意文件。
  • Locally AI:免费,出自LM Studio团队,基于Apple MLX构建,带Shortcuts操作,可选用Apple Foundation Models聊天,还可选择连接Mac上的LM Studio。局限:不能导入任意GGUF,闭源,需要iOS 18.1或更新版本。
  • Google AI Edge Gallery:Google的免费Gemma 4应用,带思考模式、智能体技能以及图像和音频输入。局限:仅支持LiteRT-LM模型,标注为实验性测试版,其App Store隐私标签显示会收集一些设备诊断信息。
  • Noema:免费,在一个应用中运行GGUF、MLX、ExecuTorch、Core ML和Apple Foundation Models,带设备端文档对话。局限:闭源,未公布最低内存要求,需要iOS或iPadOS 18或更新版本。
  • Off Grid AI:免费、开源(MIT)应用,在设备上提供GGUF聊天、Stable Diffusion图像模型和Whisper语音转文字,支持iOS、Android、macOS和Windows。局限:一个应用承担多种任务,意味着更多存储和更多设置。
  • Pocket AI:免费,采用带Metal的llama.cpp,涵盖Qwen、Gemma、Llama、Mistral、Phi和DeepSeek系列的28个模型(据开发者称),需要iPhone 12或更新机型。局限:设备端Whisper语音输入需要付费的Pro解锁。
  • KernelAI:免费,53个可下载的开放模型,大小从112 MB到3.11 GB,据其页面介绍带文档、视觉和Shortcuts功能。局限:闭源,且我们的评测依据公开资料,而非亲手实测。
  • On Device AI:200多个可下载的GGUF和MLX模型,外加转录、文档和RSS导入、设备端文字转语音以及自动化接口。局限:闭源应用中功能列表很广;请阅读其隐私部分。
  • Enclave AI:免费,含应用内购买,据其页面介绍可在iPhone、iPad和Mac上离线使用,无需账户,据我们的盘点带文档交互和Shortcuts。局限:闭源且有付费档位。

聊天助手:较新、小众和混合型应用

这些应用满足的是更窄的需求:一次性付费的聊天、仅使用Apple模型的聊天、人设、开源隐私项目,以及混合设备端与云端的混合型应用。 请特别留意混合型应用的警告,因为只有停留在其设备端模式时,混合型应用才算本地运行。

  • Cloak: Local AI:一次性付费(美国商店$1.99),下载一个推荐模型,在iPhone上增加语音备忘录,以及由照片、位置和语音备忘录生成的每周回顾。局限:没有模型选择器,且模型名称未公布。
  • Compass - Local AI:免费,在设备上用Apple Intelligence作答,并用设备端OCR读取截图;需要iOS或iPadOS 26。局限:网页搜索为可选项,开启后会把你的查询发送给DuckDuckGo或Brave。
  • AI on Device:一次性付费$4.99,一个量化到2比特的3B模型,需要iOS 26和兼容Apple Intelligence的设备。局限:自2025年10月13日起没有更新,因此应视为久未更新。
  • Haplo AI:下载Qwen和Phi等开放模型,用于聊天、图像输入和图像生成,无需账户。局限:付费应用;我们的评测依据公开资料。
  • Oscilla:免费,40多个开放模型,实时语音、内置记忆、网页搜索以及文件和图像分析;带Apple的“未收集数据”标签。局限:需要iOS 26或更新版本,闭源,自2026年5月21日起没有更新。
  • Frankly AI:可下载的设备端模型,带任务型人设,无需账户;每日免费额度有限,Pro解锁其余功能。局限:免费档有使用上限。
  • LLM Studio Go:免费且含广告,提供聊天、语音、图像、音乐和语音功能,使用GGUF和MLX模型,需要iOS或iPadOS 18。局限:有广告,而且据评测,它与LM Studio没有关联,尽管名字相似。
  • Local AI Chat - pocket:免费增值的离线聊天,据其标语带图像生成和Shortcuts,需要iOS或iPadOS 18.6或更新版本。局限:自2026年5月27日起没有更新,且应用内购买为订阅式。
  • Loci AI:在iPhone、iPad、Android、Mac和Windows上免费,会自动选择适合硬件的模型。局限:开发者关于模型能力的说法未经PromptQuorum验证。
  • Ensu:免费、开源(AGPL),出自Ente Labs,带图像输入和本地语音听写。局限:开发者自己表示它还不如ChatGPT或Claude Code强大,且版本仍是0.x。
  • MemoryAI:免费的离线聊天,带文档问答、可编辑的记忆和PIN锁定的儿童模式;iOS 16.4+和4 GB+内存。局限:其隐私政策列出了使用事件和崩溃报告;闭源。
  • Secret AI:离线聊天,带角色、Skills和MCP工具,使用GGUF、MNN和MLX模型。局限:据其隐私政策,MCP工具调用和可选的远程服务器可能把数据发送到设备之外,而该政策早于这些功能。
  • LocalMindAI:iPhone和iPad上的聊天、记忆、语音识别和文档阅读,使用Apple的模型或下载的模型;iOS 26。局限:评测时才发布几天,且我们的评测依据公开资料。
  • Solair AI:本地优先的助手,带可选的自带密钥云端备用;iOS 26。局限:备用方案是云端,因此请确认是哪种模式在作答。
  • Liquid Apollo:免费,离线运行Liquid AI的LFM2模型(350M到2.6B),带可选的OpenRouter模式和自定义后端;iOS 18。局限:并非仅限本地;OpenRouter模式需要你自己的密钥和互联网。
  • Kai 9000:带持久记忆和工具的开源助手。局限:据其评测,它默认把消息发送到云服务;只有下载设备端模型后才在本地运行。
  • CompactifAI APP:Multiverse Computing推出的免费应用,提供压缩模型。局限:当前商店文字只描述了API模型,因此手机上实际运行什么尚未核实。
  • Atomic Chat:免费、开源(Apache 2.0)应用,支持macOS、Windows、Linux、iOS和Android,带GGUF、MLX和ONNX模型以及本地的OpenAI兼容API。局限:这是一个多平台项目,请阅读评测了解iPhone版本包含什么。
  • LLM Hub:Android和iPhone套件,带支持MCP的智能体、图像和音乐生成、翻译、Whisper和语音聊天,另有付费的Premium档。局限:其许可证是PolyForm Noncommercial,并非通常意义上的开源许可证。
  • Llamatik:免费,MIT,一款离线聊天机器人,其自身页面称之为开发者Kotlin SDK的实验性展示。局限:其隐私政策和商店标签列出了Firebase分析和崩溃报告。
  • Layla:Android和iOS一次性付费$19.99,GGUF模型,带人设驱动的陪伴角色、语音和图像生成。局限:安卓优先,另有可选的Layla Cloud模式。

久未更新、过时或不在App Store上的应用

超过三个月没有更新的应用可能已无人维护;依赖它之前请先核实。 下面的日期来自PromptQuorum目录的条目和各篇评测。久未更新的应用仍可能正常使用,但你得不到修复、新模型,也看不出开发者是否会回归。

  • MLC Chat:来自MLC LLM项目、由Metal加速的参考应用。据我们的评测,自2024年9月27日起App Store没有更新。其背后的引擎MLC LLM仍然活跃。
  • LLM Farm:最后一个版本1.4.3发布于2025年1月,最后一次代码提交为2026年1月30日。无法从App Store或TestFlight安装(其README称暂时不可用);如果需要它的采样控制,请在Xcode中从源码构建。
  • fullmoon:免费、MIT,在Apple MLX上运行小模型,自2025年1月28日起没有发布新版本,自2025年5月5日起没有代码变更。
  • Maid:安卓优先的开源聊天应用;它的iOS版本需要侧载,而我们的评测把iOS版本的发布时间定为2025年4月的2.0.7版,因此它不是App Store上的选项。
  • Aiko:仍在销售,对转录很有用,但它最后一次更新是2026年6月27日,已超过三个月。
  • 本指南中标记为久未更新的其他应用:Atomic Bot(2026年5月26日)、Chapper(2026年8月6日)、Enchanted(2026年7月7日)、AI CutoutWerk(2026年2月16日)和pcAI Photo Retouch(2026年2月20日)。

⚠️警告: “久未更新”是依据目录条目日期给出的标记,并不是对质量的评判。在为本列表中的应用付费之前,请先打开它的App Store页面,自己查看版本历史。

视觉与相机:就照片和截图提问

好几款iPhone应用允许在提问时附带一张图片并在设备上作答,但小型视觉模型比云端模型更容易出错。 有两条路线:下载视觉语言模型(由模型自己读图),以及系统OCR加文本模型(手机先提取文字,再由模型作答)。Apple的iOS 27开发者指南称,Foundation Models框架现在可以接受图文输入,并允许模型在设备上调用OCR和条码识别等Vision工具。

  • Google AI Edge Gallery:用Gemma 4模型实现Ask Image和Audio Scribe。局限:仅支持LiteRT-LM模型;Google给出的是厂商的内存数据,而不是PromptQuorum的测量结果。
  • Compass - Local AI:用设备端OCR读取附加的截图,并用Apple Intelligence作答。局限:OCR读取的是文字,不会描述场景;需要iOS或iPadOS 26。
  • Oscilla:据其页面介绍,用MiniCPM-V等支持视觉的模型进行文件和图像分析。局限:需要iOS 26或更新版本,自2026年5月21日起没有更新。
  • Haplo AI:在一个应用里同时提供图像输入和图像生成。局限:我们的评测依据公开资料,因此模型质量未经测量。
  • Ensu:用下载的模型处理图像输入,免费且开源。局限:版本为0.x;开发者表示它还不能与大型云端工具相提并论。
  • KernelAI:把视觉列入功能,提供53个可下载模型。局限:哪些模型接受图像因模型而异。
  • MemoryAI:下载模型后用视觉模型理解图像。局限:你必须自己选择支持视觉的模型。
  • Reins:把图像、PDF和CSV附件发送给你自己服务器上的模型,或本地的MLX模型。局限:质量取决于你选择的服务器模型。

⚠️警告: 凡是读错会付出代价的场合,例如药品标签、法律文件,或为了食用而识别植物或蘑菇,都不要使用小型设备端视觉模型。请把答案当作起点,并核对原始来源。

语音:听写、转录、朗读、离线助手与Siri

语音转文字是设备端最成熟的任务之一;开发者称Whisper级模型可以在较新的手机上运行,而且有几款应用是一次性收费,而不是按分钟计费。 文字转语音和免提助手则参差不齐。想自己搭建完整流程,见在手机上搭建本地语音助手,类别对比见语音与音频应用对比,引擎对比见本地Whisper语音转文字对比。

  • Whisper Notes:一次性付费$7.99,在iPhone、iPad和Apple芯片Mac上运行Whisper、Parakeet和SenseVoice,带说话人标注;隐私政策称音频和转录文本不会离开设备。局限:闭源;评测基于公开资料,而非亲手实测。
  • Aiko:适用于Mac、iPhone和Vision Pro的设备端Whisper转录,100种语言,支持Shortcuts,一次购买所有平台通用。局限:最后一次更新为2026年6月27日,因此久未更新。
  • Lyonesse:适用于iPhone、iPad和Mac的离线转录、会议笔记和文档对话;其Apple Watch应用可独立录音并传到iPhone,由iPhone完成转录。局限:开发者关于处理方式的说法未经独立验证。
  • OpenWhispr:MIT许可的听写和会议笔记,使用本地Whisper或Parakeet模型,或你选择的云端提供方。局限:你的语音是否留在设备上,取决于你选哪个模型。
  • AquaVoice:把语音听写直接输入到当前应用。局限:据评测它是云服务,列在这里是为了避免你把它误认为本地听写。
  • Ensu和MemoryAI:分别在聊天应用中提供本地语音听写(Ensu)以及带设备端语音输入和朗读的免提语音(MemoryAI)。局限:语音质量取决于背后的小型聊天模型。
  • Oscilla、LLM Studio Go和Pocket AI:分别提供实时语音、带语音的语音聊天,以及设备端Whisper输入(付费Pro)。局限:语音会在聊天模型之外增加内存和电池负担。
  • Castmates:与角色进行语音通话,据开发者称在手机上运行。局限:闭源,因此该说法依赖开发者。
  • Cloak: Local AI:把语音备忘录转成笔记或聊天。局限:只有一个固定模型。
  • Home Assistant Assist:Home Assistant内的语音助手,据其评测可用Whisper、Piper和Wyoming在本地运行;不是独立的iPhone应用。局限:需要Home Assistant服务器,以及一个部分处于实验阶段的可选LLM智能体。
  • Murmur:在设备上为照片、视频和游戏创作器乐,需一次性购买Pro解锁。局限:没有人声。

💡提示: Siri与Shortcuts:Private LLM列出了Siri和Shortcuts集成,Locally AI和Aiko提供Shortcuts操作,我们的iPhone盘点还介绍了Shortcuts的“使用模型”操作,它可以把提示词路由到Apple的设备端模型。这些都不能取代Siri本身;你是让Siri去运行一个调用该应用的Shortcut。

手机上的文档、PDF与检索

在iPhone上与少量PDF或笔记对话是可行的,但整个文库应放在家中服务器上。 设备端文档对话会把文件切成片段,用小型嵌入模型建立索引,再把最相关的片段交给聊天模型。小模型的上下文窗口很短,因此回答可能遗漏内容,也可能出现捏造的引用。需要文库级搜索时,见知识与检索应用对比。

  • Private Mind:Software Mansion出品的开源(MIT)聊天应用,用设备端检索回答关于你的PDF和文本文件的问题并附来源引用,使用React Native ExecuTorch。局限:1.3.0版新增了会抓取网页的可选Web开关,因此默认离线,但该功能开启时就不再离线。
  • MemoryAI:文档问答和可编辑的Agent Memory。局限:闭源,且使用事件会离开手机。
  • LocalMindAI:用Apple的模型或下载的模型在设备上读取你的文档。局限:需要iOS 26,且评测时非常新。
  • Noema:在其五种模型格式上提供设备端文档对话。局限:闭源;未公布内存数据。
  • Lyonesse:在转录文本旁与你自己的文档对话。局限:重点在Apple Watch和会议功能。
  • Arbiter:把上传的文档保留在设备上,用于在iPhone 13 Pro或更新机型(约6 GB或更多内存)上生成摘要,并可连接LM Studio、Ollama或Arbiter for Mac配套应用以使用更大的模型。局限:更大模型的回答会离开手机,前往你的电脑。
  • KernelAI和Enclave AI:二者都在通用聊天应用中列出了文档功能。局限:在依赖它之前,请先在应用里查看文件大小和格式限制。
  • Reins:把PDF、CSV和文本附件发送给你自己服务器上的模型。局限:处理发生在服务器上,而不是手机上。
  • AnythingLLM Mobile:安卓版有独立的设备端模式,也可与AnythingLLM Desktop配对;我们的评测指出iOS应用尚未发布。局限:在iOS版发布之前,请用浏览器访问你自己的AnythingLLM服务器。

设备端翻译

翻译很适合小型设备端模型,因为任务范围窄,而且有几款应用自带针对翻译调优的模型。 PromptQuorum没有在iPhone上对翻译质量做过基准测试。对于冷门语言、习语和长文档,质量很可能下降,而且每个设备端引擎都需要按模型或语言分别下载。

  • On-Device AI Translator:在iPhone上用可下载的Hy-MT2、TranslateGemma和Qwen模型进行翻译,并提供Apple内置翻译作为免费引擎;需要iOS 18.4或更新版本。局限:AI模型需要应用内购买,其价格在资料中查不到,且隐私政策早于该应用。
  • LLM Hub:在其Android和iPhone套件中包含翻译。局限:翻译只是众多功能之一,且许可证为非商业用途。
  • PocketPal AI或Locally AI等通用聊天应用,只要加载Qwen或Gemma系列等多语言模型,也可以翻译。局限:没有术语表、不保留文档版式,也不保证每种语言的质量。
  • Apple自己的翻译应用和系统翻译独立于上述应用,本指南没有核实;请在“翻译”应用中确认你的语言对能否下载供离线使用。

💡提示: 对于整本书或长文档,走桌面端路线更实用;见用LLM翻译书籍。Apple Intelligence的语言支持是另一份名单,在Apple Intelligence一章中有介绍。

图像生成与照片编辑

iPhone可以用小型扩散模型生成图像,用分割模型编辑照片,但生成速度慢、占用存储多,还会让手机发热。 模型文件是数GB的下载,而且PromptQuorum没有任何iPhone图像应用的速度数据。云端与本地的取舍见本地AI图像生成与云端对比,类别对比见图像与视频应用对比。

  • Draw Things:在macOS、iOS、iPadOS和visionOS上用Stable Diffusion、SDXL、Flux等扩散模型生成图像,本地生成无需账户,需要iOS 15.4或更新版本。局限:并非100%本地,因为它还提供可选的云端模式;更大的模型需要更多内存。
  • Genva:iPhone和iPad应用,在一次性下载模型后,可在设备上把文字提示词和照片变成图像,并带放大功能。局限:于2026年10月14日以1.0.0版发布,因此没有过往记录。
  • Haplo AI、Off Grid AI和LLM Studio Go:同样能在设备上生成图像的聊天应用(Haplo AI;使用Stable Diffusion模型的Off Grid AI;还带音乐和语音的LLM Studio Go)。局限:图像质量和速度不如专门的应用。
  • Local AI Chat - pocket和Layla:带图像生成的离线聊天,Layla还带语音和人设。局限:Local AI Chat - pocket自2026年5月27日起久未更新;Layla以安卓为先。
  • Tina:通过你自己托管的服务器上的ComfyUI生成图像,也可以在设备上运行模型。局限:图像这一步需要你自己的服务器。
  • AI CutoutWerk:适用于iPhone、iPad和Mac的离线背景移除与抠图合成工具,使用Core ML分割模型。局限:自2026年2月16日起没有更新。
  • pcAI Photo Retouch:修复老照片并应用艺术风格,开发者称所用AI完全在设备上运行。局限:未说明模型名称,源代码未公开,自2026年2月20日起没有更新。

笔记、知识库与书签

大多数笔记和书签工具把AI放在服务器或你选择的模型提供方上,iPhone应用只是采集和阅读的客户端。 只要服务器是你自己的、模型是本地的,这仍然可以完全私密,但它不是设备端推理。每篇评测都会说明什么在哪里运行。

  • Hillnote:本地优先的Markdown笔记工作区,适用于Mac、Windows、iPhone和Android,通过Ollama和Apple Intelligence实现设备端AI,另有可选的云端模型和同步。局限:Ollama运行在电脑上,而不是手机上,云端模型是可选的,但不是本地的。
  • Logseq:开源、本地优先的大纲笔记;数据库版本2.0.2是测试版,其README警告可能丢失数据。局限:AI通过可选的MCP服务器提供,而不是内置模型。
  • SiYuan:自托管的AGPL知识工作区,支持Windows、macOS、Linux、Android、iOS和HarmonyOS,带可选的AI功能,连接你选择的模型提供方。局限:云端同步需要订阅或一次性购买PRO。
  • Karakeep:自托管的书签和笔记应用,带原生iOS和Android应用,通过OpenAI或本地Ollama端点进行AI标签。局限:你需要用Docker运行服务器,且只有选择Ollama时标签才是本地的。
  • Linkwarden:为你保存的每个页面存档一份副本,并可用你配置的AI模型给链接打标签,可自托管,也可使用付费的Cloud版。局限:iPhone应用只是客户端;AI这一步在服务器上运行。
  • Lyonesse和Cloak: Local AI:分别把录音转成笔记(Lyonesse)或由照片、位置和语音备忘录生成每周回顾(Cloak)。局限:二者都是闭源的。

健康与身心状态问题

有一款已点评的iPhone应用用设备上的Apple Intelligence回答关于你的Apple健康数据的问题,它也是我们的iPhone应用中唯一的健康类应用。 健康数据是敏感的个人数据,而小型语言模型不是临床医生。

  • Pajdo:免费的iPhone、iPad和Apple Watch应用,把Apple健康数据转化为八种心情之一,并据其网站称,用设备上的Apple Intelligence回答你关于这些数据的问题。免费方案每周包含5个问题;Pro取消限制,并增加锻炼计划和就诊报告。局限:闭源,需要iOS 26或更新版本,设备端运行的说法依赖开发者的一面之词。
  • 聊天章节中的通用聊天应用可以笼统地讨论睡眠、训练或营养。局限:除非应用请求权限,否则它们无法访问你的健康数据,而且小模型可能言之凿凿地给出错误事实。

⚠️警告: 设备端的回答不是医疗建议,也不能取代医生。不要用它们来解读症状、心率提醒或用药问题;在授予访问Apple健康的权限之前,请阅读应用的隐私政策。

角色扮演与陪伴类应用(附内容安全提示)

角色扮演和陪伴聊天在iPhone本地AI应用市场中占很大比重,这些应用在模型是否在手机上运行、允许哪些内容以及如何对待未成年人方面差别很大。 本地不等于有审核,云端也不等于更安全。在你或家中任何人安装之前,请先阅读年龄分级和成人内容设置。桌面端前端见SillyTavern、Agnai与RisuAI角色扮演对比。

  • Castmates:免费的iPhone应用,带35个现成角色、自定义角色,无需账户;开发者称下载约1.9 GB后,通过llama.cpp运行Impish Llama 3B(Q4_K_M)。Pro方案取消每日消息上限,并解锁可选的仅限成人的Mature模式。局限:闭源,因此设备端运行的说法依赖开发者。
  • Frankly AI:带任务型人设的设备端模型,无需账户;每日免费额度有限。局限:人设以任务为导向,Pro解锁应用的其余部分。
  • Layla:人设驱动的AI陪伴应用,带角色扮演角色、语音和设备端图像生成;一次性付费$19.99。局限:另有可选的、需单独启用的Layla Cloud模式。
  • Secret AI:基于GGUF、MNN和MLX模型的自定义角色;开发者称聊天、角色和照片保持私密。局限:据其隐私政策,MCP工具和远程服务器可能把数据发送到设备之外。
  • HiWaifu:带长期记忆、设定集和群聊的角色扮演,分级为18+。局限:它似乎是一项云服务,其页面也没有说明模型在哪里运行。
  • Swerve:带社区角色和分支剧情的故事与角色聊天。局限:据其页面,它是在线服务,而不是设备端AI。

⚠️警告: 用通俗的话说,安全提示如下。第一,年龄:其中好几款应用的App Store分级为18+或设有仅限成人的模式,而设备端模型没有可以依赖的服务器端过滤。第二,隐私:云端角色扮演应用会把你的对话发送到某项服务,即使本地应用也可能发送分析数据。第三,情感依赖:陪伴式聊天会让人感觉很亲近,但那是一种设计特性,并不是一段关系。第四,真实数据:切勿在角色扮演聊天中输入你的住址、健康细节或他人的私人信息。对于孩子的iPhone,请使用Apple的屏幕使用时间内容和应用分级限制,而不是相信应用自己的设置。

智能家居与智能体

在iPhone上,智能家居AI和智能体几乎总是运行在家中服务器上的软件的客户端,因为iOS不会让模型或智能体在后台持续运行。 手机是麦克风、屏幕和遥控器;长时间运行的工作由家中服务器完成。想坦率了解自主本地智能体是否实用,见自主本地智能体真的管用吗?。

  • Home Assistant Assist:Home Assistant内的语音助手,用Whisper、Piper和Wyoming完全本地运行,另有可选的云端和Ollama LLM智能体。局限:不是独立应用;完整的本地流程需要Home Assistant OS。
  • Scrypted:开源的摄像头和NVR平台,把摄像头串流到HomeKit、Google Home和Home Assistant,并可通过llama.cpp提供可选的本地LLM摘要。局限:运行在你自己的服务器上,而且拍摄他人的摄像头画面在许多地方会带来法律义务。
  • Nekoni:运行在你自己电脑上的自托管个人智能体(Ollama、文档、定时技能),你可以通过直连的加密链路,从iPhone或浏览器与它聊天。局限:需要一台始终开机的Mac或Linux机器。
  • Kai 9000和LLM Hub:分别是带持久记忆的助手和支持MCP的智能体。局限:工具调用和网页搜索会增加网络请求,因此它们不属于离线功能。
  • Atomic Bot:把开源的OpenClaw评测智能体框架打包用于桌面和移动端,可在本地或云端运行。局限:本指南将其标记为久未更新(最后一次更新为2026年5月26日)。

远程模式:把iPhone当作自己服务器的瘦客户端

如果你的iPhone对你想要的模型来说太小,就在家里的Mac或PC上运行模型,把iPhone当作屏幕。 这是在iPhone上使用7B-70B模型的常见路线。Ollama的下载页面列出的是macOS、Windows和Linux,没有iPhone应用,所以服务器在别处(我们的iPhone盘点记录了这一点)。服务器端见Apple芯片本地LLM指南、Mac上的MLX、Ollama与llama.cpp对比以及运行与服务工具对比。

应用
连接到
是否也能在手机上运行模型
ReinsOllama、LM Studio、OpenAI兼容接口能,MLX模型
Enchanted仅Ollama不能
OpenClientOllama、LiteLLM、OpenAI兼容接口不能
ChapperLM Studio、Ollama、llama.cpp服务器能,$4.99附加包
TinaOllama、llama.cpp、ComfyUI能
LM MiniLM Studio、Ollama、Jan AI、oMLX能
ArbiterLM Studio、Ollama、Arbiter for Mac能
LocalMindOllama、LM Studio、OpenRouter能
Liquid ApolloLM Studio、Ollama、OpenRouter能,LFM2
Locally AIMac上的LM Studio(LM Link)能
MLXHub在你的Wi-Fi上提供模型服务(Plus)能
Nekoni你自己电脑上的智能体不能

⚠️警告: 离开家后,你需要一条通往服务器的安全通道。Tailscale这类私有网状VPN是常见的选择,因为Ollama默认不要求身份验证,不应通过路由器端口暴露到公共互联网。在连接之前,请查看各客户端的评测和设置,了解是否支持HTTPS和API密钥。

💡提示: 上面有几款客户端也表示可以在手机上加载模型,这让它们成为很好的单一应用:离线用小模型,在家用大模型。防火墙和离线环境的搭建请阅读防火墙后与离线的本地AI。

开发者路径:Core ML、Core AI、MLX Swift、llama.cpp、MLC、ExecuTorch与Foundation Models

构建iPhone AI功能的开发者,需要在Apple自己的模型、用于自有模型的Apple运行时和跨平台引擎之间做选择。 这个选择决定了适用的手机、语言和商店规则。本章只做导览;在动手构建之前,请阅读各个项目的文档。

  • Foundation Models框架: Apple用于设备端模型的原生Swift API,支持图像、Vision工具、Dynamic Profiles,并可通过Language Model协议接入云端提供方(Apple,WWDC26 iOS指南)。需要支持Apple Intelligence的硬件。文档:Foundation Models。
  • Core ML: Apple用于在CPU、GPU和Neural Engine上运行转换后模型的框架;长期以来用于视觉、音频和小型模型的路线。AI CutoutWerk内置了一个Core ML分割模型。文档:Core ML。
  • Core AI: Apple随iOS 27推出的新框架,用于在设备上引入你自己的模型,利用统一内存和Neural Engine,并采用提前编译。对本指南中的大多数应用来说还太新;见WWDC26 iOS指南。
  • MLX Swift: Apple面向Swift的MLX数组框架,支撑着Locally AI、fullmoon和MLXHub。mlx-swift。Python方面见MLX-LM详解。
  • llama.cpp: 带Metal、运行GGUF文件的C/C++引擎,支撑着PocketPal AI和Pocket AI。llama.cpp。
  • MLC LLM: 基于编译器的运行时,带iOS部署文档和参考应用MLC Chat。见MLC LLM和MLC iOS文档。
  • ExecuTorch: PyTorch的设备端运行时,通过React Native ExecuTorch用于Private Mind,并受到Noema支持。ExecuTorch。
  • LiteRT-LM: Google的运行时,支撑着Google AI Edge Gallery(LiteRT-LM)。
  • SDK: RunAnywhere(LLM、语音转文字、文字转语音和语音活动检测;自定义许可证,含商业条款)、Llamatik(Kotlin Multiplatform,MIT)和SwiftLM(面向Apple芯片Mac的Swift MLX服务器,配有SwiftBuddy iOS配套应用)。
  • TestFlight测试版: 向测试人员分发早期构建的免费方式;构建会过期,请提前规划。Apple的App审核规则仍然适用于正式发布的版本。

隐私与遥测的真实情况

“在你的设备上运行”和“什么都不发送”是两种不同的说法,只有后者才是隐私保证。 Apple的App Store隐私标签由开发者填写,因此它们描述的是开发者所说的应用行为。设备端模型仍然可能存在于会发送崩溃报告、使用事件、可选网页搜索或模型下载请求的应用之中。此处所有应用层面的隐私说法,均取自各应用的隐私政策、App Store标签或开发者页面,并经所链接的评测概括,没有经过网络分析核实。更深入的清单见本地LLM安全与隐私清单。

  • “零遥测”可能的含义: 应用中没有分析SDK。它并不涵盖模型下载(托管方能看到你的请求)、App Store、可选的网页搜索、你连接的远程服务器,或包含应用数据的备份。
  • 我们评测中的标签: Oscilla带有Apple的“未收集数据”标签;Google AI Edge Gallery的标签显示会收集一些设备诊断信息;MemoryAI和Llamatik据其政策会发送使用事件或分析数据以及崩溃报告,但不含聊天内容。
  • 会破坏“离线”的可选功能: Compass - Local AI中的网页搜索(DuckDuckGo或Brave)、Private Mind中的Web开关、Secret AI中的MCP工具,以及Liquid Apollo中的OpenRouter模式。
  • 默认使用云端: 据其评测,Kai 9000默认把消息发送到云服务,只有下载设备端模型后才在本地运行;Swerve被记录为在线服务,HiWaifu似乎也是(其页面没有说明模型在哪里运行);AquaVoice是云端听写。
  • 政策与版本脱节: 据其隐私政策,LM Mini有一个日期为2025年8月的版本,只描述了它与LM Studio的连接;Secret AI的政策最后更新于2025年5月,早于它新增工具的时间。请把日期与应用版本对照。
  • 自己检查,分三步: (1)在Wi-Fi下下载模型,然后开启飞行模式并测试应用。(2)正常使用手机一周,然后打开设置 > 隐私与安全性 > App隐私报告,Apple表示它会显示应用如何使用权限及其网络活动。(3)阅读隐私标签和政策,查看是否有分析功能;如果想审查代码,请优先选择开源应用。

💡提示: PromptQuorum的评测会说明各应用的来源怎么说,以及我们是否测试过它;凡是评测写明“未亲手实测”的地方,隐私说法是开发者的,而不是我们的。本指南没有对任何应用进行网络抓包。

电池、发热与内存限制

生成文字会让芯片持续忙碌,所以模型运行时请预期会有明显的发热和耗电;偶尔使用的代价很小。 PromptQuorum没有测量过任何iPhone的功耗或电池使用情况,我们也没有找到可以引用的已发布数据。

  • 发热: 持续生成可能让iOS降低时钟频率,每秒token数随之下降。具体情况因手机、保护壳、充电和室温而异,我们没有测量过。
  • 准则2.4.2: Apple要求开发者的应用不应快速耗电或产生过多热量,因此表现良好的应用会限制生成长度或暂停长时间运行。
  • 内存: 模型加载后驻留在内存中。如果iOS需要把内存留给另一个应用,它可能会关闭聊天应用,对话状态可能丢失;加载模型前请关闭其他占用较大的应用。
  • 边充电边生成会增加发热;如果手机感觉很烫,请暂停,并避免阳光直射或放在高温的车里。
  • 存储: 一个3-4B模型约为2.5-3.7 GB,所以三个应用各带三个模型大约会占用10 GB。请只保留一个应用和一两个模型。
  • 低电量模式可能会降低生成速度,因为iOS会降低性能以节省电量;进行长时间使用时请将其关闭。

只能部分做到的事

“部分可用”意味着该功能在iPhone上存在,但有一些限制,在你养成习惯之前最好先了解。

  • 搭配Siri的免提语音: Shortcuts可以调用应用,但Siri还是Siri;你无法让本地模型成为系统助手。Apple的Siri AI是单独的iOS 27测试版,初期不会在欧盟提供。
  • 图像生成: 可以用小型扩散模型实现,但速度慢、占用存储多且发热;Draw Things还提供可选的云端模式。
  • 照片搜索: AI这一步要么在手机上选择性开启(Ente Photos),要么运行在你托管的服务器上(Immich)。
  • 笔记和书签: iPhone应用是客户端;模型工作发生在服务器或你选择的提供方上。
  • 智能体: 简短的前台任务可行;长时间运行或定时的智能体需要家中服务器(Nekoni)。
  • 健康问题: 可以用Apple的设备端模型实现(Pajdo),但不能替代医疗建议。
  • 长文档: 小模型的上下文窗口小,所以大型PDF需要分块处理或使用服务器。

iPhone上做不到或暂时做不到的事

这些是人们最常对iPhone本地AI提出、而目前没有已点评的iPhone应用能够实现的愿望。 有些是硬件或App Store规则的硬性限制;另一些则是随着Apple和应用开发者推出Core AI等新框架,可能会逐步补上的空白。

愿望
状态
原因
替代方案
在手机上运行30B-70B模型不可行需要的内存远超iPhone所有远程模式连接家中服务器
云端级别的推理和代码暂不可用小模型在多步任务上会失败难题交给云端应用
在手机上运行Ollama或Docker不可行iPhone上没有Ollama或Docker应用;沙盒限制在Mac或PC上运行
用你的模型取代Siri不可行Siri由系统控制用Shortcuts调用应用
常驻的后台智能体不可行后台服务受限(2.5.4)在家中服务器上运行智能体
在手机上微调模型不现实内存、发热、没有应用工具在Mac或GPU上训练
把聊天同步到Mac和iPad基本不行多数应用的历史记录按设备保存服务器网页界面,如Open WebUI
iPhone上的AnythingLLM Mobile暂不可用据评测iOS应用尚未发布用浏览器访问你的服务器
iPhone 14上的Apple Intelligence不可行不在Apple的设备名单上第三方模型应用
带人声的音乐生成暂不可用Murmur只生成器乐桌面工具
证明某个应用是私密的无法仅凭标签标签由开发者自行声明飞行模式和App隐私报告

决策路径:我有这款iPhone,想要这个功能

按手机档位和目标找到你的那一行,然后打开链接的章节。 这些推荐是基于我们评测的起点,不是排名;只有在没有更合适的选择时,才会提到在维护章节中被标为久未更新的应用。

如果你有
并且想要
从这里开始
4 GB iPhone(12、13、SE)通用聊天Reins或Enchanted,配合家中服务器
6 GB iPhone(14、15)免费离线聊天PocketPal AI,使用1-2B模型
8 GB iPhone(16、17)免费离线聊天PocketPal AI或Locally AI
8 GB iPhoneSiri和ShortcutsPrivate LLM或Locally AI
12 GB iPhone(17 Pro)手机上最大的模型Noema或带Gemma 4的Gallery
支持Apple Intelligence的手机无需下载模型Compass或Locally AI(Apple模型)
任何iPhone会议转录Whisper Notes或Lyonesse
任何iPhone与少量PDF对话Private Mind或MemoryAI
任何iPhone翻译On-Device AI Translator
8 GB以上的iPhone文字生成图像Draw Things
任何iPhone照片搜索,自有服务器Immich
任何iPhone,家中有电脑7B-70B模型Reins、OpenClient或LM Mini
任何iPhone智能家居语音Home Assistant Assist
青少年使用的iPhone安全聊天先设置屏幕使用时间限制,再阅读安全提示

常见错误

  • 按文件大小而不是内存档位来选模型。 能下载下来的文件仍可能被iOS关闭;请按档位表匹配大小,并用应用自带的基准测试试一试。
  • 期待云端质量。 小模型用于起草、摘要、翻译和快速问答,难题的推理则交给云端或家中服务器上的模型。
  • 把“Apple Intelligence”当作“离线”。 Apple Intelligence可能使用Private Cloud Compute;请确认是什么在处理请求。
  • 不经测试就相信隐私标签。 请完成隐私一章中的飞行模式和App隐私报告检查。
  • 把每个应用都装一遍。 每个应用都会保存自己的数GB模型文件;一项任务选一个应用。
  • 购买久未更新的应用。 请查看版本历史,尤其是维护章节中的那些应用。
  • 把家中服务器暴露到互联网。 请使用私有VPN网络;Ollama默认不要求身份验证。
  • 让角色扮演应用在共用手机或孩子的手机上不经审查。 请先阅读年龄分级和成人内容设置。

来源

常见问题

iPhone能完全离线运行AI吗?

可以,据这些应用的页面和评测所述。在Wi-Fi下一次性下载模型之后,PocketPal AI、Private LLM和Locally AI等应用无需联网即可作答。Apple Intelligence也在设备上运行模型,但较大的请求可能使用Private Cloud Compute,因此不能保证离线。请在飞行模式下测试任何应用。

本地AI需要哪款iPhone?

运行1-2B小模型需要6 GB或更多内存的iPhone,运行3-4B模型需要8 GB或更多。Apple不公布内存,所以请参考本指南中报道所称的档位。要使用Apple Intelligence,你需要Apple设备名单上的iPhone 15 Pro或更新机型。

iPhone上的本地AI真的私密吗?

聊天可以保留在设备上,但隐私取决于具体应用。标签由开发者自行声明,而且好几款已点评的应用会发送崩溃报告、使用事件或可选的网络请求。请用飞行模式和设置 > 隐私与安全性 > App隐私报告来验证。

我能在iPhone上运行Ollama吗?

不能。Ollama提供macOS、Windows和Linux下载,iPhone上没有Ollama或Docker服务器。请在电脑上运行Ollama,再通过Reins、Enchanted或OpenClient等iPhone客户端连接。

iPhone能运行多大的模型?

8 GB的手机在4比特下约为3-4B参数,7-8B的低比特模型只能在12 GB的手机上运行,而且很慢。6 GB的手机最好使用1-2B模型。更大的模型请使用连接家中服务器的远程模式。

本地AI会耗电吗?

生成时会:持续生成会让处理器保持忙碌,耗电比空闲时快得多,手机也可能发热。PromptQuorum没有测量过确切的耗电量。偶尔提问的代价很小,已加载但空闲的模型耗电很少。

iPhone上最好的免费本地AI应用是什么?

在我们的盘点中,PocketPal AI是免费的开源默认之选,Locally AI和Google AI Edge Gallery是免费的备选。合适的应用取决于你的任务;请使用本指南中的决策路径。

Apple Intelligence与这些应用有什么不同?

Apple Intelligence是Apple为系统功能以及使用Foundation Models框架的应用内置的模型;你无法更换它的模型。本指南中的应用让你自己选择并下载模型,其中一些(如Locally AI)还可以作为Apple模型的前端。

我能在iPhone上离线与PDF对话吗?

少量文件可以,据这些应用的页面和评测所述,可使用Private Mind、MemoryAI、Noema或LocalMindAI等应用。小模型的上下文窗口很短,因此长文档的摘要可能不完整。大型文库请使用家中服务器。

我能在家外使用自己的家中服务器吗?

可以,通过Tailscale等私有VPN网络或其他安全隧道,并使用支持你的服务器的客户端应用。不要把Ollama开放到公共互联网;它默认不要求身份验证。

iPhone能离线生成图像吗?

可以,据这些应用的页面和评测所述,使用Draw Things、Genva和Haplo AI等应用,下载数GB的模型之后即可。生成速度比桌面GPU慢,还会让手机发热;Draw Things还提供可选的云端模式。

角色扮演和陪伴类应用对青少年安全吗?

默认并不安全。好几款应用分级为18+或设有仅限成人的模式,一些是会保存对话的云服务,而设备端模型没有服务器端过滤。请使用Apple屏幕使用时间和应用分级限制,并阅读本指南中的安全提示。

本地AI能在iPad上用吗?

大多可以。本指南中的许多应用列出了对iPad的支持,同样适用内存规则。iPad方面的具体建议见如何在平板上运行AI。

iPhone与安卓在本地AI上相比如何?

iPhone上手更简单,但限制更多;安卓允许终端应用,开源选择更多,但因手机而异。对比请见安卓本地AI指南和Galaxy与iPhone设备端AI对比。

应用会在较旧的iPhone上使用Apple的模型吗?

不会。Apple Intelligence仅限于Apple名单上的设备,从iPhone 15 Pro起。在较旧的iPhone上,请使用自带模型的应用,并遵守内存限制。

← 返回 本地LLM进阶

MCP