跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Mobile & Edge LLMs

2026年最佳iPhone本地AI应用(无需WiFi运行LLM)

·阅读约12分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

对大多数iPhone用户,2026年建议安装免费的PocketPal AI,并下载Phi-4 Mini这类小型模型(约2.7 GB)。Private LLM($4.99)支持Siri和快捷指令;Locally AI与Google AI Edge Gallery是免费替代方案。

关键要点

  • PocketPal AI是推荐的免费默认选择。 开源(MIT)、App Store安装,支持Hugging Face上任意GGUF模型。本地对话无需账号(README);高级Pals和“PocketPal Plus”为可选的应用内购买。在iPhone 16 Pro上以约10–15 tokens/秒运行Phi-4 Mini。适合大多数iPhone用户的推荐起点。
  • Private LLM是付费选项($4.99买断,无需订阅)。 一次购买即可覆盖iPhone、iPad和Mac,家庭共享最多可供六人使用。精选模型库;据开发者称,它可接入Siri和快捷指令。
  • Locally AI是免费的MLX替代方案,由LM Studio团队开发。 基于Apple MLX运行Llama、Gemma(含Gemma 4)、Qwen和DeepSeek模型,支持iOS快捷指令,还能将苹果自家的设备端基础模型变为可对话的界面。
  • Google AI Edge Gallery是谷歌面向iPhone的免费Gemma 4应用。 提供思考模式、智能体技能以及图像/音频输入;模型采用LiteRT-LM格式,而非GGUF。谷歌仍称该应用处于积极开发中。
  • MemoryAI 是一款免费的离线聊天应用,带可编辑的记忆和 PIN 锁定的儿童模式(在主要对比之后加入)。 它支持文档问答、免提语音和从 Hugging Face 导入 GGUF;闭源,App Store 列出的版本为 1.0.60,PromptQuorum 没有它的速度数据。
  • MLC Chat采用Metal加速,但iPhone版已停更。 其App Store版本自2024年9月27日的v1.6起未再更新,模型库停留在Phi-4 Mini和Gemma 3之前。MLC LLM引擎本身在GitHub上仍然活跃。
  • LLM Farm目前不在App Store或TestFlight上。 项目自己的README称其“暂时不可用”。它仍保持开源,可通过Xcode从源码编译,但最后一个发布版本是2025年1月的1.4.3,最后一次代码提交是2026年1月30日。
  • Apple Intelligence在设备端运行,但非独立应用。 苹果约3B的基础模型为写作工具、智能回复、通知摘要等系统功能提供支持。自iOS 26起,第三方应用可通过Foundation Models框架调用它,快捷指令也可通过“使用模型”动作向它发送提示。
  • iPhone 16 Pro / 17 Pro推荐模型:Phi-4 Mini(3.8B Q4_K_M,约2.7 GB)。 Gemma 4 E2B/E4B和Qwen3.5 4B是较新的备选,PromptQuorum暂无它们的速度数据。6 GB内存的旧款iPhone(iPhone 14 Pro):推荐Qwen3 1.7B或SmolLM 2 1.7B。

2026年,六款iPhone方案可在设备端运行真实LLM(Apple Intelligence也可能将部分请求交给苹果的Private Cloud Compute):PocketPal AI、Private LLM、Locally AI(LM Studio出品)、Google AI Edge Gallery、MLC Chat,以及系统集成的Apple Intelligence。模型下载完成后,对话无需WiFi即可使用。本指南从费用、模型库、iOS集成、隐私和维护状态几个维度逐一对比,给出iPhone 16 Pro和iPhone 17 Pro上的参考速度,以及已涵盖iPhone 18 Pro的内存选型指南,并说明LLM Farm为何退出榜单。MemoryAI 是在主要对比之后加入的,未做实测。

2026年最佳iPhone本地AI应用(无需WiFi运行LLM)

快速概览

  • 对比应用: PocketPal AI、Private LLM、Locally AI(LM Studio出品)、Google AI Edge Gallery、MLC Chat、Apple Intelligence(系统)——以及目前不在App Store上的LLM Farm(README:“暂时不可用”)。
  • 应用最近一次上游更新(2026-10-23核实): PocketPal AI v1.20.1(2026年10月19日)· Locally AI v1.66.0(2026年10月15日)· Google AI Edge Gallery v1.0.13(2026年10月8日)· Private LLM v1.9.16(2026年9月14日)· MLC Chat iPhone版v1.6(2024年9月27日——已过时)· LLM Farm发布版本1.4.3(2025年1月27日),最后一次代码提交2026年1月30日——已过时。
  • 速度参考设备: iPhone 16 Pro(A18 Pro,8 GB内存)和iPhone 17 Pro(A19 Pro,12 GB内存)。速度数字为粗略的参考区间,并非PromptQuorum的测量结果。iPhone 18 Pro、18 Pro Max和iPhone Duo(A20 Pro)在此没有速度数据。
  • 推理引擎: llama.cpp(PocketPal AI、LLM Farm),Apple MLX(Locally AI),Metal加速的MLC LLM(MLC Chat),谷歌LiteRT-LM(Google AI Edge Gallery),私有设备端运行时(Private LLM、Apple Intelligence)。
  • 运行3B以上模型的最低iPhone要求: iPhone 14 Pro(A16,6 GB内存)可运行1.7B;任意8 GB以上iPhone(15 Pro、16系列、16e、17系列、18 Pro)可运行3B–4B。
  • 推荐的免费应用: PocketPal AI——App Store、开源、模型灵活性(支持多种模型)。
  • 付费选项: Private LLM——$4.99买断(覆盖iPhone + iPad + Mac),支持快捷指令 + Siri。
  • 离线使用: 模型下载后,六款方案的设备端对话均无需WiFi即可使用;需要获取实时数据的功能(例如Google AI Edge Gallery的维基百科和地图技能,或Locally AI可选的LM Link)需要联网。据PocketPal AI、Private LLM、Locally AI和Google AI Edge Gallery的README或商店页面,设备端对话不调用云端(MLC Chat和LLM Farm未核实);Apple Intelligence可能使用Private Cloud Compute。

首先应该安装哪款iPhone应用?

对大多数用户:在App Store安装PocketPal AI,然后下载Phi-4 Mini(3.8B Q4_K_M),或Gemma 4 E2B/E4B、Qwen3.5 4B等较新的小模型。 这个组合支持iPhone 15 Pro及更新机型(8 GB以上内存);在6 GB内存的iPhone(如iPhone 14 Pro)上,请改为下载Qwen3 1.7B这类1.7B模型(见“按iPhone档次推荐模型”)。对话免费,能够胜任日常对话、摘要和快速起草。只有在有它无法满足的特定需求时,再考虑其他应用。

📍 简单一句话

2026年大多数iPhone用户:安装PocketPal AI(免费,App Store)并下载Phi-4 Mini或Gemma 4 E2B等较新的小模型——可处理日常对话、摘要和写作任务;8 GB以上内存的iPhone用3B–4B模型,6 GB内存的iPhone用1.7B模型。

💬 简单来说

2026年有六种方案可让AI在iPhone上运行;对话类应用在模型下载后将对话保留在设备端,Apple Intelligence处理较大请求时也可能使用苹果的Private Cloud Compute。PocketPal AI是推荐的免费起点——安装后一次性下载约2.7 GB的模型文件,即可获得一个无需WiFi、在地铁上也能使用的私密AI助手。Private LLM是希望Siri与本地模型对话的付费选择。Locally AI由LM Studio团队出品,是支持快捷指令的免费现代替代方案,Google AI Edge Gallery则是谷歌面向Gemma 4模型的免费应用。MLC Chat的iPhone版已不再更新。Apple Intelligence内置于iOS,但不是对话应用。PocketPal AI适合大多数使用场景。

决策:选择哪款iPhone本地AI应用?

以下情况使用本地LLM:

  • •想要免费的离线AI对话助手 → PocketPal AI
  • •想让Siri与本地模型对话 → Private LLM
  • •想要支持快捷指令且可访问Apple Foundation Models的免费MLX应用 → Locally AI
  • •想要谷歌自家的Gemma 4,带思考模式和智能体技能 → Google AI Edge Gallery
  • •想体验MLC LLM工具链,并接受自2024年9月起未再更新的iPhone版本 → MLC Chat
  • •只需要在邮件/信息/备忘录中获得写作辅助 → Apple Intelligence(系统内置)
  • •你想要带文档问答、可编辑记忆或 PIN 锁定儿童模式的离线聊天 → MemoryAI

以下情况使用云端模型:

  • •需要70B以上模型质量(Llama 3.3 70B、GPT-5.5水平)→ 使用云端或远程连接家用机器
  • •需要访问GPT-5.5、Claude Opus或Gemini → 云端应用(本地无法运行这些模型)
  • •需要实时视觉或文字以外的多模态输出 → 云端(2026年设备端多模态能力有限)

快速决策:

  • →免费 + 适合大多数用户:PocketPal AI
  • →付费 + iOS原生集成:Private LLM
  • →免费 + LM Studio生态:Locally AI
  • →免费 + 谷歌Gemma 4:Google AI Edge Gallery
  • →免费 + 文档、记忆、儿童模式:MemoryAI
iPhone 本地 AI 应用怎么选:从免费的 PocketPal AI 到支持 Siri 的 Private LLM 的决策表
iPhone 本地 AI 应用怎么选:从免费的 PocketPal AI 到支持 Siri 的 Private LLM 的决策表

💡提示: 即使计划购买Private LLM,也建议先安装PocketPal AI。用它测试您的iPhone档次上的设备端推理速度是否满足需求。如果满意,再判断Private LLM的快捷指令和Siri集成是否值$4.99。如果不满意,您就在付费前省下了这笔钱。PocketPal AI还内置基准测试,可在您自己的iPhone上报告tokens/秒和内存占用——请以它为准,而不是轻信任何表格,包括下面这张。

iPhone应用对比表

六种方案的差异主要体现在三个对大多数用户重要的维度:费用、模型灵活性和与iOS的集成。 速度差异存在,但小于其中任何一款应用与云端LLM之间的差距。价格和版本号读取自2026-10-23的美国App Store页面和项目主页。

📍 简单一句话

PocketPal AI是推荐的免费默认选择,Private LLM是付费选项,Locally AI是LM Studio团队的免费MLX之选,Google AI Edge Gallery是谷歌免费的Gemma 4应用,MLC Chat的iPhone版已停更,Apple Intelligence为系统集成。

💬 简单来说

选择通常取决于三点:是否愿意为Siri集成付费(Private LLM),是否想免费获得带快捷指令的LM Studio生态(Locally AI),还是想要谷歌自家带思考模式的Gemma 4(Google AI Edge Gallery)。其余情况下,PocketPal AI是默认选择。表中的速度数字是Q4_K_M量化(2026年移动端推理的标准)下的参考区间,并非PromptQuorum的测量结果。

应用
费用
Phi-4 Mini tok/s(16 Pro)
隐私
适合人群
PocketPal AI免费(MIT)+ 可选应用内购买约10–15设备端对话,无需账号(README)大多数用户的免费默认选择
Private LLM$4.99买断无数据设备端;无账号、无追踪(开发者称)快捷指令 + Siri集成
Locally AI免费(LM Studio团队)无数据——MLX目录(无Phi-4)设备端;不收集数据(商店页面)MLX + 快捷指令,LM Studio联动
Google AI Edge Gallery免费(谷歌)无数据——LiteRT-LM,Gemma 4模型下载后在设备端运行(商店页面)Gemma 4、思考模式、智能体技能
MLC Chat免费(开源)无数据——模型库早于Phi-4本地推理(项目文档;未核实)MLC LLM工具链用户(iOS版已停更)
LLM Farm免费(从源码编译)无数据本地推理(项目文档;未核实)开发者(不在App Store,已过时)
Apple Intelligence免费(iOS内置)不适用(系统功能)本地 + Private Cloud Compute(苹果)邮件、信息、备忘录辅助
MemoryAI免费;无广告、无应用内购买无数据下载后在设备端运行;会发送使用事件和崩溃报告文档、可编辑记忆、儿童模式
fullmoon免费(MIT)无数据据开发者在设备端运行;政策自相矛盾简单离线聊天;2025 年 1 月后无新版本
Cloak: Local AI一次性付费(美国商店 $1.99);无订阅无数据下载模型后在设备端运行;可选问卷和需手动开启的使用计数免设置聊天、语音备忘录、Recap

关于Apple神经网络引擎(ANE)、Metal与MLX的说明: PocketPal AI和LLM Farm使用llama.cpp配合Metal Performance Shaders进行推理,运行在GPU上。MLC Chat使用MLC LLM及更深入的Metal优化,MLC LLM项目称其在同一硬件上快于基于llama.cpp的应用(项目自述;PromptQuorum未对此进行测量)。Locally AI使用苹果自家开源的数组框架Apple MLX,在Apple芯片上可达到相近的GPU效率。Google AI Edge Gallery通过谷歌的LiteRT-LM运行时运行Gemma 4。Apple Intelligence专门使用ANE运行系统约3B模型,能效更高,但灵活性不如基于Metal的推理。自iOS 26起,第三方应用可通过Foundation Models框架调用该系统模型——Locally AI正是这样做的——但自定义的GGUF/MLX模型仍无法直接使用ANE。苹果称iPhone 18 Pro的A20 Pro配备双16核神经网络引擎,算力是此前的两倍;这是苹果的说法,PromptQuorum并未测量它对这些应用意味着什么。

iPhone 本地 LLM 应用对比:PocketPal AI、Private LLM 等的费用、速度与集成能力
iPhone 本地 LLM 应用对比:PocketPal AI、Private LLM 等的费用、速度与集成能力

💡提示: tokens/秒数字是针对近期iPhone上Q4_K_M模型的粗略参考区间,并非PromptQuorum的测量结果,也未对应具体的应用版本或测试日期。它们假设采用Q4_K_M量化(2026年移动端推理的标准),且iPhone处于空闲状态、没有其他重负载应用在运行。后台应用会明显拉低吞吐,iPhone 17 Pro通常比iPhone 16 Pro更快。请用PocketPal AI内置的基准测试测量您自己的手机。

PocketPal AI:免费开源首选

PocketPal AI是2026年大多数iPhone用户的推荐起点。 它可免费使用、开源(MIT;GitHub:a-ghorbani/pocketpal-ai),可在App Store安装,支持Hugging Face上的任意GGUF模型。应用底层使用llama.cpp,并针对苹果芯片做了优化。完整评测:PocketPal AI评测。

  • 简介: 一款在iOS/iPadOS和Android上使用llama.cpp本地运行GGUF模型的应用,发布方为Gooya UG。README称提示词、回复和文档不会上传到外部服务器;对话无需账号。
  • 版本与最近更新: v1.20.1,2026年10月19日发布(GitHub发布页);App Store页面显示相同版本。近期版本:v1.19.0(10月4日)、v1.20.0(10月14日)、v1.20.1(2026年10月19日)——无过时警告。
  • 安装: App Store → “PocketPal AI”。免费下载,含可选的应用内购买(高级Pals和“PocketPal Plus”)。需要iOS/iPadOS 15.1或更高版本;决定可用模型大小的是内存,而不是iOS版本。自v1.20.0起,应用还提供可选的“通过Apple登录”和账号删除功能。
  • 添加模型: 在应用中点击Models → “Add from Hugging Face” → 搜索(如“phi-4-mini-instruct-Q4_K_M”)→ 点击下载。模型保存在应用的本地存储中(Phi-4 Mini Q4约2.7 GB)。
  • 生成速度(iPhone 16 Pro,参考值): Phi-4 Mini约10–15 tok/秒,Llama 3.2 3B约12–18 tok/秒,Gemma 3 4B约7–10 tok/秒,Qwen3 1.7B约18–24 tok/秒。这些只是粗略的参考区间,并非PromptQuorum的测量结果——请使用内置基准测试,它会在您自己的iPhone上报告tokens/秒和内存占用。
  • 其他功能: Pals(自定义助手)、设备端文本转语音、Talents(为能力足够的模型提供计算器和日期/时间工具),以及支持用访问令牌下载受限模型的Hugging Face模型浏览器。
  • 适合人群: 想要一款可从App Store安装、无需账号、支持任何社区发布GGUF模型的免费对话应用的用户。

💡提示: PocketPal AI的模型选择器带有“Recommended”筛选,据该应用的文档,它会显示适合您设备内存的模型。请对照您自己的手机核实——过大的模型可能导致iOS在回复中途关闭应用。

Private LLM:付费版iOS深度集成

Private LLM是本指南中的iPhone付费选项($4.99买断,无订阅)。 它仅在App Store提供,内置经过优化的精选模型库。其差异化在于iOS集成:开发者称它可直接接入Siri和快捷指令应用。完整评测:Private LLM评测。

  • 简介: 一款带精选模型库和深度iOS集成的付费iOS应用。使用针对苹果芯片优化的私有设备端运行时。
  • 安装: App Store → “Private LLM - Local AI Chat”(Numen Technologies Limited)。一次性购买$4.99(无订阅;商店页面未列出应用内购买)。需要iOS/iPadOS 17.0或更高版本,以及A12 Bionic或更新的芯片。
  • 版本与最近更新: v1.9.16,2026年9月14日发布(App Store版本历史);上一版本1.9.15发布于2026年7月9日。每两到三个月发布一次——未超过三个月线,因此无过时警告。
  • 精选模型库: privatellm.app宣称在iPhone、iPad和Mac上共有140多个本地模型,并列出Llama、Qwen3、Gemma 3和Phi 4等系列;适合iPhone的只是其中一部分。灵活性不如PocketPal AI,但这些模型已针对应用运行时预先优化。
  • 快捷指令: 据开发者称,Private LLM可接入快捷指令应用,并可将回复传给支持x-callback-url规范的其他应用。适合通过主屏幕按钮或NFC标签触发本地AI。
  • Siri集成: 开发者列出了Siri集成;发送给设备端模型的提示在没有网络时也可运行(仅首次下载模型需要联网)。

💡提示: 据privatellm.app,一次$4.99的购买即可覆盖iPhone、iPad和Mac,App Store页面称通过家庭共享最多可供六位家庭成员使用。页面未列出订阅和应用内购买——所标价格即是总费用。开发者称不设账号、追踪或日志。

Locally AI:LM Studio出品的免费MLX应用

Locally AI是由LM Studio团队开发(上架主体为Element Labs Inc)的免费对话应用(其商店页面称不收集数据),基于苹果自家的MLX框架而非llama.cpp构建。 它是本文中唯一将苹果设备端基础模型作为对话界面开放的应用。完整评测:Locally AI评测。

  • 简介: 一款使用Apple MLX推理的iOS/iPadOS/macOS应用,由桌面版LM Studio的开发团队出品。
  • 安装: App Store → “Locally AI”。免费,未列出应用内购买,无需账号(据商店页面),可离线运行。
  • 版本与最近更新: v1.66.0,2026年10月15日发布(App Store版本历史);2026年大约每月发布一次——无过时警告。
  • 模型库: Llama 3.2、Gemma 2/3/4、Qwen 3和3.5、DeepSeek、LFM 2.5、Bonsai、Ministral 3以及Apple Foundation Models——目录比MLC Chat更广、更新。
  • iOS快捷指令: 提供快捷指令动作,以零成本匹配Private LLM的自动化支持。
  • LM Link: 一项可选功能,通过LM Studio所称的端到端加密链路连接运行在Mac上的LM Studio,让iPhone应用在需要时转交给家用机器上更大的模型。
  • 系统要求: iOS/iPadOS 18.1或更高版本(Mac版需macOS 26.0或更高版本)。苹果芯片级的效率在iPhone 15 Pro及更新机型上受益最大。

💡提示: Locally AI是本指南中唯一能把苹果自家设备端基础模型放到普通对话窗口后面的应用——如果想测试Apple Intelligence的模型能做什么,又不想在写作工具菜单里翻找,它很有用。若要第三方GGUF式的灵活性,PocketPal AI的模型目录仍更大。

MLC Chat:苹果芯片专项优化

过时警告:MLC Chat的iPhone应用自2024年9月27日的1.6版本以来未再更新(已超过两年),可能已无人维护——使用前请自行核实。 MLC LLM引擎仓库本身在GitHub上仍然活跃(最近活动为2026年10月6日)。MLC Chat免费、开源,运行的是由MLC LLM工具链编译的模型而非标准GGUF,且它的目录没有跟上PocketPal AI或Locally AI。完整评测:MLC Chat评测。

  • 简介: MLC LLM项目的iOS参考应用,用于演示MLC LLM在苹果芯片上的Metal加速推理。
  • 安装: App Store → “MLC Chat”。免费。需要iOS/iPadOS 17.0或更高版本。
  • 版本与最近更新: v1.6,2024年9月27日发布(App Store版本历史;新增Llama 3.2 3B)。此前:1.5新增Gemma 2 2B(2024年8月),1.4新增Phi-3、Mistral v3和Qwen2(2024年6月)。iPhone版最近一次更新已超过两年——已开启过时警告。
  • 速度(项目自述,未经本站测量): MLC LLM项目称其Metal加速引擎在同一部iPhone上快于基于llama.cpp的应用——但应用自带的模型列表早于Phi-4 Mini和Gemma 3等当前推荐,因此在没有自行编译版本的情况下,无法在2026年的推荐模型上验证这一优势。
  • 模型库: 仅限MLC LLM项目在应用停更前编译的模型——Llama 3.2 3B、Gemma 2 2B、Phi-3、Mistral v3、Qwen2以及类似的2024年代版本。并非所有Hugging Face上的GGUF都能运行,App Store版本中也没有任何当代小模型。
  • 适合人群: 已深度使用MLC LLM工具链、愿意自行编译模型的开发者,或者明确需要它已内置的某个2025年前模型的用户。

⚠️警告: 由于MLC Chat的App Store版本自2024年9月27日起未再更新,请不要指望Phi-4 Mini、Qwen3或Gemma 3出现在它的选择器里。如果现在就想要具备Metal级GPU效率的当代模型,Locally AI(Apple MLX)、PocketPal AI(llama.cpp + Metal Performance Shaders)或Google AI Edge Gallery(Gemma 4)是仍在积极维护的替代方案。

LLM Farm:不在App Store上,源码仍可获取

过时警告:LLM Farm最后一个发布版本(1.4.3)是2025年1月27日,最后一次代码提交是2026年1月30日——近九个月没有更新——因此可能已无人维护。 PromptQuorum对该项目的评测将其从App Store下架的时间定为2025年8月;其GitHub README称该应用在App Store和TestFlight均“暂时不可用”。项目(GitHub:guinmoon/LLMFarm)仍然开源,GitHub上到2026年10月仍有issue活动,但新用户已无法从App Store安装;必须通过Xcode从源码编译(README:macOS 13+和iOS 16+)。完整评测:LLM Farm评测。

  • 简介: 项目维护者推出的一款iOS应用,提供丰富的配置选项来运行GGUF模型,此前通过App Store分发。
  • 当前可用性: 截至本次更新,无法从App Store或TestFlight安装。源码仍然公开,可自行编译。
  • 从源码编译: 克隆仓库,在Xcode中打开,并使用免费或付费的Apple开发者账号编译到设备上——这是任何未在App Store上架的开源iOS应用的标准侧载流程。
  • 开放的配置项(编译后): temperature、top-p、top-k、mirostat采样、重复惩罚、每个模型的系统提示词、对话模板选择、上下文窗口长度。
  • 适合人群: 熟悉在Xcode中从源码编译应用、且明确需要mirostat采样控制的开发者。其他人应使用PocketPal AI或Locally AI,二者均可直接从App Store安装且免费。

⚠️警告: 不要指望LLM Farm的App Store链接能用——在其他地方看到的此类链接均应视为过时。从源码编译需要Xcode以及对iOS代码签名的基本了解。如果觉得这超出了您想投入的配置工作,PocketPal AI无需离开App Store,就能满足同样的“灵活免费对话应用”需求。

Apple Intelligence:系统级内置AI

Apple Intelligence在iPhone 15 Pro及更新机型(即iPhone 15 Pro这一代,据报道为8 GB内存;苹果未公布内存)上,于设备端运行苹果自家约3B的基础模型。 它默认不是对话应用——而是为邮件(智能回复)、信息(写作工具)、备忘录(摘要)和通知摘要等系统功能提供支持。自iOS 26起,苹果的Foundation Models框架允许第三方开发者直接调用同一个设备端模型,Locally AI等应用现已借此在其上提供真正的对话界面。iOS 27进一步扩展了该框架:苹果的开发者指南称,应用可以使用任何符合其语言模型协议的语言模型,包括苹果自家模型和云端模型。

  • 所在位置: 集成于iOS 18+(Foundation Models框架自iOS 26加入)。在“设置 → Apple智能与Siri”中启用。
  • 硬件要求: iPhone 15 Pro / 15 Pro Max、iPhone 16系列、iPhone 16e、iPhone 17系列,以及2026年的iPhone 18 Pro、18 Pro Max和iPhone Duo(A20 Pro)。更早的iPhone(14及以下)不支持Apple Intelligence。购买前请查看苹果针对iOS 27的最新兼容列表。
  • Siri AI(iOS 27): 苹果称Siri AI在iOS 27中以测试版提供,先推出英语,iOS上初期不在欧盟提供,部分服务器端功能设有每日使用上限。它与本指南中的设备端对话应用是两回事。
  • 设备端功能: 任意文本框内的写作工具(改写、摘要、校对)、邮件和信息中的智能回复、通知摘要、Genmoji生成。
  • Foundation Models框架(iOS 26+): 一个原生Swift API,只需几行代码即可让开发者直接访问同一设备端模型——Locally AI正是以此提供对话选项,快捷指令的“使用模型”动作也能将提示路由到它、Private Cloud Compute或ChatGPT。
  • Private Cloud Compute: 对于超出设备端模型能力的任务,Apple Intelligence可能会将请求发送到Private Cloud Compute(PCC)——由苹果运营、运行更大模型的服务器,苹果称这些服务器不会保留用户数据。可用的设置请参阅苹果关于Apple Intelligence与隐私的最新文档。
  • 与对话应用的关系: Apple Intelligence是补充而非替代。其系统功能负责iOS应用内的文本改写和摘要;PocketPal AI、Private LLM、Locally AI和MLC Chat则提供可回答任意问题的专用对话界面——而Locally AI现在也能把苹果自家模型放到同类界面之后。

💡提示: 如果您只需要Apple Intelligence(改写邮件、总结通知),就不需要另装对话应用。如果想向模型提问,例如“用简单的话解释量子隧穿”或“为X起草一份项目计划”,请安装一款对话应用——可以是PocketPal AI这类专用应用,也可以是能在对话窗口里调用苹果自家设备端模型的Locally AI。

MemoryAI:带可编辑记忆的离线聊天(未实测)

MemoryAI 是一款面向 iPhone 的免费离线聊天应用,支持文档问答、可在设备上编辑的记忆,以及带 PIN 锁的儿童模式。 它是在主要对比之后加入的,因此不在对比表中,也不属于我们的测试范围。

  • 模型库: 模型在应用内下载(每个 0.3–4 GB),也可以从 Hugging Face 导入自定义 GGUF 文件。它使用两种推理引擎:llama.cpp 和 Google 的 LiteRT。
  • 功能: 文档问答、可打开、编辑和删除的智能体记忆、免提语音(设备端语音输入和朗读)、借助视觉模型的图像理解,以及锁在家长 PIN 之后的儿童模式。
  • 要求与价格: iOS 16.4 及以上,至少 4 GB 内存。免费,无广告、无订阅、无应用内购买。
  • 隐私与许可: 模型下载完成后,聊天、文档和记忆都留在设备上。应用会发送使用事件和崩溃报告(据开发者称不含聊天内容),并且是闭源的。
  • 安装方式: App Store。2026 年 3 月 30 日首次发布,所以还是一款较新的应用。App Store 列出的版本为 1.0.60。

💡提示: 以上信息来自应用商店页面、隐私政策以及审阅过我们文章的开发者;我们没有在自己的测试手机上对 MemoryAI 计时。完整说明见MemoryAI 评测。

fullmoon:基于 Apple MLX 的免费开源聊天应用(2025 年初以来无新版本)

fullmoon 是一款免费的 MIT 许可离线聊天应用,适用于 iPhone、iPad 和 Mac,借助苹果的 MLX 运行小型模型,但自 2025 年 1 月 28 日起未再发布新版本,自 2025 年 5 月 5 日起代码也无更改,可能已无人维护。 它是在主要对比之后加入的,因此未纳入我们的测试。

  • 模型: 据官网,有 Llama 3.2 1B 和 3B,以及两个 DeepSeek-R1-Distill-Qwen-1.5B 版本(各 0.7–1.9 GB)。
  • 功能: 可编辑的系统提示词、主题和字体,以及一个快捷指令动作;聊天记录保存在本地(README)。
  • 要求与价格: iOS 17.6 及以上,下载模型前为 31.6 MB。可免费下载。
  • 隐私与许可证: 政策称不收集任何信息,却又列出所收集信息的用途,前后矛盾。源代码以 MIT 许可证公开。
  • 获取方式: App Store(1.2.0 版);官网还提供 TestFlight 链接以体验较新的构建。

💡提示: 以上信息来自开发者官网、App Store 页面、隐私政策和公开代码仓库;我们没有在测试手机上运行过 fullmoon。详细说明:fullmoon 评测。

Cloak: Local AI:一次性付费的离线聊天(未实测)

Cloak: Local AI 是一款适用于 iPhone 和 iPad 的一次性付费离线聊天应用,带有语音备忘录和每周 Recap。 它是在主要对比之后加入的,因此不在速度数据之内,也没有参与我们的测试。

  • 模型库: 应用在设置时从 Hugging Face 下载一个推荐模型;没有模型选择器,模型名称和大小均未公布。
  • 功能: 多个保存在本地的聊天线程、可自定义的系统提示词、可转为笔记或聊天的语音备忘录,以及用照片、位置和语音备忘录生成过去七天回顾的 Recap。单独的 Mac 版 Cloak: Local AI Chat 只有聊天功能。
  • 系统要求与价格: iOS 或 iPadOS 18.0+。在美国商店为一次性购买 $1.99,没有订阅,也未列出应用内购买。
  • 隐私与许可: 政策称下载模型后对话留在设备上。iPhone 版会发送一份可选的设置问卷答案,仅在开启后才发送每日功能使用计数;它是闭源的。
  • 安装方式: App Store。2026年6月25日首次发布;App Store 列出的版本为 2026年10月27日发布的 1.2.9。

💡提示: 以上内容来自 App Store 页面、Polyaura 官网及其隐私政策;我们没有联系开发者,也没有在测试手机上对 Cloak 测速。完整说明见 Cloak: Local AI 评测。

Reins:面向自建 Ollama 或 LM Studio 服务器的聊天客户端(未实测)

Reins 是一款免费的 iPhone 和 iPad 聊天应用,可连接你自己的 Ollama、LM Studio 或兼容 OpenAI 的服务器,自第 2 版起还能在设备上运行 MLX 模型。它是在主对比之后加入的,因此不在对比表中,也不属于我们的测试范围。

  • 模型库:设备端 MLX 模型在应用内从 Hugging Face 下载,也可搜索并下载任意 MLX 模型;同时支持 Apple Foundation Models。
  • 功能:工具调用、无需 API 密钥的内置网页搜索、图片/PDF/CSV/文本附件、对话分支、思考模式和临时对话。
  • 要求与价格:iOS 17.0 及以上(后台生成需要 iOS 26)。免费下载,Reins Pro 为月付、年付或买断的应用内购买;资料没有列出 Pro 解锁什么。
  • 隐私与许可:开发者称无需登录、无分析、不收集数据。第 2 版闭源;公开仓库只包含截至 1.3.4 版的代码。
  • 安装途径:App Store。App Store 列出的版本为 2.3.3,发布于 2026 年 10 月 21 日。

💡提示: 以上内容来自 App Store 页面、开发者官网和政策文件;我们没有在测试手机上实测 Reins。完整说明:Reins 评测。

按iPhone档次推荐模型

决定模型大小上限的是iPhone的内存,而不是芯片代际。 6 GB内存的iPhone(14 Pro、15)可流畅运行1.7B模型;8 GB以上的iPhone(15 Pro、16系列、16e、17系列)可流畅运行3B–4B模型,运行7B模型则较慢。除Phi-4 Mini外值得一试的较新小模型有:Gemma 4 E2B和E4B(谷歌,2026年4月;LiteRT-LM文件分别约2.58 GB和3.65 GB),以及Qwen3.5小模型系列(阿里巴巴,2026年3月;0.8B、2B、4B和9B,据Artificial Analysis摘要为Apache 2.0)。PromptQuorum没有它们的速度数据;Locally AI和Google AI Edge Gallery直接内置了它们。关于覆盖所有硬件(不限移动端)的模型全景,请参阅2026年最佳本地LLM。

iPhone档次(年份,内存)
推荐模型
下载大小
速度参考(粗略)
iPhone 18 Pro / Pro Max(2026,据报道约12 GB)参照17 Pro起步;苹果未公布内存约2.5–3.7 GB无数据
iPhone 17 Pro / 17 Pro Max(2025,12 GB)Phi-4 Mini / Llama 3.2 3B / Gemma 4 E4B约2.5–3.7 GB约13–20 tok/秒(Phi-4 Mini)
iPhone 16系列 / 16e / 17(2024–2025,8 GB)Phi-4 Mini(3.8B Q4_K_M)或Gemma 4 E2B约2.6–2.7 GB约10–15 tok/秒(Phi-4 Mini)
iPhone 15 Pro / Pro Max(2023,8 GB)Phi-4 Mini(3.8B Q4_K_M)约2.7 GB约8–12 tok/秒
iPhone 13 Pro / 14 Pro / Pro Max(6 GB)Qwen3 1.7B或SmolLM 2 1.7B(Q4_K_M)约1.1 GB约15–20 tok/秒
iPhone 14 / 14 Plus / 15 / 15 Plus(6 GB)Qwen3 1.7B或SmolLM 2 1.7B(Q4_K_M)约1.1 GB约12–18 tok/秒
iPhone 13 / 12 / SE / 更早机型(4 GB)不推荐运行设备端LLM——
按 iPhone 内存档位推荐的本地 LLM 模型:从 4 GB 机型到 12 GB 的 iPhone 17 Pro
按 iPhone 内存档位推荐的本地 LLM 模型:从 4 GB 机型到 12 GB 的 iPhone 17 Pro

💡提示: 对于较旧的6 GB iPhone,Qwen3 1.7B或SmolLM 2 1.7B(HuggingFace)是2026年的合理选择;Qwen3.5 2B和Gemma 4 E2B是同一体量下较新的选项。这么小的模型能给出连贯的短回复(1–3段),但不擅长多步推理。请勿在6 GB iPhone上安装Phi-4 Mini——它名义上放得下,但只要有其他内存压力,iOS就会终止该应用。表中速度是针对Phi-4 Mini、Llama 3.2 3B和Qwen3 1.7B的取整参考区间,并未对应具体的应用版本或测试日期;Gemma 4和Qwen3.5在此没有数据。苹果的产品页面并未标明iPhone内存:此处的内存数字为广泛流传的规格,iPhone 18 Pro的约12 GB来自媒体报道。

电池消耗与过热问题

iPhone上的设备端LLM推理对CPU/GPU负载很高,并会产生热量。 作为粗略参考(粗略参考,并非PromptQuorum的测量结果),推理期间功耗约3–5 W;持续生成会使芯片降频,在iPhone 16 Pro上每小时可能消耗约20–30%的电量。

  • 电池消耗(持续对话,参考值): iPhone 16 Pro运行Phi-4 Mini时每小时约20–30%。
  • 持续生成可能触发热降频。 芯片发热时,iOS会降低时钟频率,tokens/秒随之下降。何时开始、速度损失多少,取决于手机、保护壳、是否在充电以及室温;PromptQuorum并未测量过这一点。让手机降温即可恢复速度。
  • 缓解办法: 长时间推理时,请将iPhone屏幕朝上放在硬质表面上(不要拿在手里或放在口袋里)以利散热。被动散热片手机壳有帮助,但对短时间使用很少有必要。
  • 后台“幽灵耗电”: 如果生成结束后让对话应用留在后台,内存仍被占用但并无推理在运行——对电池的影响很小。彻底关闭应用即可回收约3 GB内存。
  • 推理时使用MagSafe充电: 充电的同时生成内容,都可能使机身发热;如果手机变热,请暂停充电或生成,或者事后再充电。
iPhone 本地 LLM 耗电与散热指南:功耗、热降频以及降温建议
iPhone 本地 LLM 耗电与散热指南:功耗、热降频以及降温建议

⚠️警告: 请勿在阳光直射或高温车内的iPhone上运行设备端LLM推理。在阳光直射或高温车内,芯片可能更早达到热限制,从而触发降频和苹果的“iPhone需要降温”提示。通常是生成速度变慢,而不是应用被关闭。

iOS快捷指令、Siri与侧载

各应用的iOS集成程度差异很大。 Private LLM和Locally AI都支持快捷指令;PocketPal AI、Google AI Edge Gallery和MLC Chat是独立的对话应用,其README或App Store页面均未提及快捷指令或Siri集成。

Private LLM快捷指令:总结选中文本

“1. 动作:“获取所选文本”(iOS共享表单输入)。 2. 动作:Private LLM文本生成(来自Private LLM应用的快捷指令动作)→ 提示词:“用三个要点总结以下文本:[所选文本]” → 选择应用中已安装的模型。 3. 动作:“显示结果”或“拷贝到剪贴板”。 添加到共享表单后,即可在任意应用中对任意选中文本运行,且无需WiFi。动作名称依据开发者的说明,可能因应用版本而异。”

Apple Intelligence快捷指令:调整语气改写

“1. 动作:“获取剪贴板”。 2. 动作:“使用模型” → 模型:设备端 → 提示词:“用专业、简洁的语气改写这段文字:[剪贴板]”。 3. 动作:“拷贝到剪贴板”。 分配给锁屏小组件,即可一键改写您复制的任何内容。”
  • Private LLM据开发者称可接入快捷指令和Siri,并可将回复交给支持x-callback-url的应用。是这里iOS集成最原生的对话应用。
  • Locally AI免费提供快捷指令动作,并可通过其Foundation Models框架集成,将快捷指令路由到苹果自家的设备端基础模型——没有Siri语音触发,但无需付费即可使用快捷指令自动化。
  • PocketPal AI是独立对话应用——其README未提及快捷指令动作,也没有Siri集成。您只需打开应用聊天。
  • Google AI Edge Gallery是独立的对话与演示应用——其App Store页面未提及快捷指令动作或Siri集成。
  • MLC Chat是MLC LLM项目的参考应用——iOS集成极少,且自2024年9月起iPhone版未再更新。没有快捷指令动作。
  • LLM Farm目前不在App Store上,从源码编译后也没有快捷指令动作。
  • Apple Intelligence通过“使用模型”动作与iOS快捷指令集成(iOS 18.4+,随iOS 26的Foundation Models框架扩展)。它可将提示路由到设备端模型、Private Cloud Compute或ChatGPT(可配置)。设备端输出可串联到其他快捷指令动作中。
  • 侧载: PocketPal AI、Private LLM、Locally AI、Google AI Edge Gallery和MLC Chat均在App Store上架,无需侧载或越狱;Apple Intelligence内置于iOS。LLM Farm是例外——现在安装它需要在Xcode中从源码编译。在欧盟,依据DMA存在替代应用商店,但它们提供哪些应用由各开发者自行决定,因此请从开发者的官方渠道安装;这些应用都不需要替代应用商店。
iPhone 本地 LLM 应用的 iOS 集成:是否支持 Shortcuts、Siri、开源与 App Store 安装
iPhone 本地 LLM 应用的 iOS 集成:是否支持 Shortcuts、Siri、开源与 App Store 安装

💡提示: 开车或做饭时需要免提使用,Private LLM的Siri集成是本指南中唯一由开发者列出Siri集成的对话应用,因此无需触碰手机即可使用。Apple Intelligence通过Siri支持语音,但仅限系统任务(写作、摘要、应用操作)——它不像对话应用那样提供通用问答。

常见错误

  • 安装超出iPhone内存承载能力的模型。 8 GB的iPhone运行7B模型往往慢到不适合对话,且在iOS为其他应用回收内存时可能被系统关闭;请先用PocketPal AI内置的基准测试实测。请遵循您所属iPhone档次的推荐模型(8 GB设备用3B–4B,6 GB设备用1.7B)。
  • 期待设备端模型有云端AI的质量。 Phi-4 Mini(3.8B)就其体量而言令人印象深刻,但不是GPT-5.5。请将它用于对话、摘要、起草和快速问答——而不是多步推理、复杂代码生成或细腻的创意写作。
  • 在阳光直射或高温车内运行推理。 热降频可能很快触发,生成速度会变慢,您还可能看到“iPhone需要降温”的提示。请在室温下运行推理。
  • 同时装着3个以上对话应用,每个都存3 GB模型。 重复的模型会白白占用约10 GB存储空间。请选定一个应用和一个模型;在确认需要之前,先卸载其他的。
  • 以为Apple Intelligence完全没有对话界面。 到iOS 18为止确实如此,但自iOS 26起,Locally AI等应用可通过Foundation Models框架,为苹果设备端模型提供真正的对话窗口。不过系统功能(写作工具、智能回复)本身仍不是对话界面。
  • 到App Store里找LLM Farm。 它目前不在App Store上(PromptQuorum的LLM Farm评测将下架时间定为2025年8月)。在App Store搜索它只是浪费时间;同样的免费/灵活需求请用PocketPal AI,或者如果确实需要它开放的mirostat控制,就在Xcode中从源码编译LLM Farm。
  • 以为“免费”就是没有任何购买项。 PocketPal AI本地对话免费,但销售可选的高级内容(Pals和“PocketPal Plus”),而Locally AI和Google AI Edge Gallery未列出应用内购买。安装前请查看商店页面的应用内购买部分(PocketPal AI的美国App Store页面在2026-10-23显示年龄分级为18+)。
  • 只凭速度表来评判模型。 本指南中的tokens/秒区间只是参考值,Gemma 4和Qwen3.5等较新模型也不在其中。在删除已下载的模型之前,请先在PocketPal AI的基准测试中用同一提示词跑一下两个模型。

参考资料

常见问题

iPhone真的能运行7B模型吗?

技术上可以,iPhone 15 Pro及更新机型(8 GB内存)能跑,但速度不实用。iPhone 16 Pro上7B Q4模型用于对话往往太慢(参考判断)。当其他应用需要内存时,iOS也倾向于终止该应用。日常设备端对话请使用3B–4B模型(Phi-4 Mini、Llama 3.2 3B、Gemma 3 4B)。若需要7B以上的质量,请远程连接家里运行Ollama的Mac或PC。

本地AI会消耗iPhone的电量吗?

会——持续运行推理时功耗通常约3–5 W,作为粗略的参考值,在iPhone 16 Pro上每小时可能耗电约20–30%。偶尔聊几句(几条提示)影响很小。持续使用(长对话、多个摘要任务)时电量消耗较快;生成时充电可能增加发热,手机变热时请暂停生成。模型仅驻留在内存中而不进行推理时,对电池的影响可以忽略。

使用本地AI时iPhone会发烫吗?

会,尤其是在长时间连续生成时。芯片发热时,iOS会降低时钟频率,从而降低tokens/秒;何时开始、降低多少因手机、保护壳、是否在充电和室温而异,PromptQuorum并未测量过。减轻的办法:长时间使用时让iPhone屏幕朝上放在硬质表面上(不要拿在手里),并避开阳光直射。短时间交互通常不会引起明显发热。

能用Siri调用本地模型吗?

可以,使用Private LLM($4.99买断)。开发者称它可直接接入Siri和快捷指令,因此提示可在没有网络的情况下路由到设备端模型。PocketPal AI、Locally AI、Google AI Edge Gallery和MLC Chat均未提及Siri语音集成,不过Locally AI确实支持快捷指令自动化。Apple Intelligence与Siri集成,但仅限系统任务(写作、摘要、应用操作),而非通用问答;Siri AI是iOS 27中单独的测试版功能,先推出英语,初期不在欧盟提供。

这些应用能在iPhone SE或更旧的iPhone上使用吗?

有限。iPhone SE以及iPhone 13 / 12(4 GB内存)低于2026年设备端LLM的实用门槛。iPhone 14 / 15(非Pro,6 GB内存)可运行1.7B模型(Qwen3 1.7B、SmolLM 2 1.7B),但不能运行3B以上。iPhone 13 Pro和14 Pro(6 GB内存)同样停留在1.7B;iPhone 15 Pro(8 GB内存)可以大约8–12 tokens/秒(参考值)运行Phi-4 Mini这类3B模型。对于较旧的iPhone,更好的做法是远程连接家里的Mac或PC。

能在iPhone和Mac之间同步聊天记录吗?

PocketPal AI、Private LLM、Google AI Edge Gallery和MLC Chat都不行——聊天记录按设备本地保存,没有iCloud同步。Private LLM和Locally AI也都有可在Mac上原生运行的版本,但iPhone和Mac两份副本之间的聊天记录仍不会同步。若要跨设备同步聊天记录,实用的办法是在家里的Mac上运行Open WebUI,然后用iPhone和Mac的浏览器访问——Open WebUI把聊天记录保存在服务器端。

这些应用能在App Store之外获取吗?

PocketPal AI是开源的,可通过Xcode从源码编译,但App Store版本是标准分发方式。LLM Farm是现在必须从源码编译的例外——它目前不在App Store或TestFlight上(README称“暂时不可用”)。Private LLM、Locally AI、Google AI Edge Gallery和MLC Chat仅在App Store提供。在欧盟,依据DMA存在替代应用商店,但它们提供哪些应用由各开发者自行决定,因此请从开发者的官方渠道安装;这些应用都不需要替代应用商店。

其中有哪些需要越狱吗?

没有。PocketPal AI、Private LLM、Locally AI、Google AI Edge Gallery、MLC Chat和Apple Intelligence都可在原版iOS上运行。在Xcode中从源码编译LLM Farm同样不需要越狱——它使用的是标准的开发者侧载,而不是越狱漏洞。这些应用都不需要越狱,也不建议越狱。

能在iOS快捷指令中使用本地AI吗?

可以,通过Private LLM(其快捷指令动作)、Locally AI(免费的快捷指令动作)或Apple Intelligence(“使用模型”动作,iOS 18.4+,iOS 26起扩展)实现。PocketPal AI、Google AI Edge Gallery和MLC Chat未提及快捷指令动作。在本文对比的应用中,Locally AI是唯一同时列出快捷指令支持和苹果设备端模型访问的免费选项。

本地AI与iPhone上的ChatGPT应用相比如何?

设备端模型(Phi-4 Mini、Llama 3.2 3B)在复杂推理、广博世界知识和多模态任务上仍明显逊于前沿云端模型,但在简单问题上更快(无网络延迟),且按各应用的文档说明,对话内容保留在设备上。客观来说:本地AI适合日常和私密任务;偶尔遇到高难度问题时可用ChatGPT等云端应用。2026年很多用户两者都装着,按需选择。

LLM Farm不在App Store上架后还安全吗?

其源码在GitHub上公开,到2026年仍有issue活动,但最后一个发布版本(1.4.3)是2025年1月27日,最后一次代码提交是2026年1月30日,因此可能已无人维护。从源码编译并侧载后,它也不再经过苹果的App Store审核流程。如果不是特别需要mirostat采样控制,PocketPal AI能覆盖同样免费、灵活、开源的使用场景,并保留在经过苹果标准审核的App Store中。

这些iPhone应用中哪些是免费的?

PocketPal AI免费(MIT许可证),高级Pals和“PocketPal Plus”为可选的应用内购买。Locally AI和Google AI Edge Gallery免费,未列出应用内购买。MLC Chat免费。LLM Farm免费,但必须从源码编译。Private LLM为$4.99买断,未列出应用内购买。Apple Intelligence内置于iOS。价格读取自2026-10-23的美国App Store,各国可能不同。

iPhone Duo或iPhone 18 Pro能离线运行本地LLM吗?

原则上可以:两者都使用苹果的A20 Pro芯片,本指南中的应用可在任何满足其iOS最低版本要求的iPhone上运行。决定模型大小的是内存,而苹果的iPhone 18 Pro和iPhone Duo页面均未标明内存;媒体报道称iPhone 18 Pro为12 GB,尚未得到证实。PromptQuorum没有这两款手机的实测速度。请安装PocketPal AI并运行其内置基准测试,看看您的手机实际表现如何。

这些应用能在iPad上使用吗?

大多数可以。PocketPal AI(iPadOS 15.1+,其README称完整支持iPad)、Private LLM(iPadOS 17.0+)和Locally AI(iPadOS 18.1+)都列出了iPad支持。Google AI Edge Gallery的商店页面要求iOS 17.0或更高版本;请查看其页面确认您的iPad是否适用。与iPhone一样,由内存决定能放下哪些模型。iPad方面的专门建议请参阅平板上运行AI:iPad与Android。

LLM Farm为什么从App Store消失了?

项目README写道:“The app is temporarily unavailable in TestFlight and Appstore.”(该应用在TestFlight和App Store暂时不可用。)PromptQuorum没有找到下架的公开原因,因此您在其他地方读到的任何解释都未经证实(参见LLM Farm评测)。源码仍然公开,但最后一个发布版本是2025年1月27日的1.4.3。若想要可从App Store安装的免费替代品,请使用PocketPal AI或Locally AI。

iPhone上有Ollama应用吗?

Ollama的下载页面列出了macOS、Windows和Linux,没有iPhone应用。要在iPhone上使用Ollama或LM Studio的模型,请在Mac或PC上运行服务器,再从客户端应用连接;Locally AI提供LM Link,即LM Studio所称的连接到Mac上LM Studio的加密链路。若要模型完全在手机上运行,请使用本指南中的应用。

应该下载Gemma 4还是Phi-4 Mini?

PromptQuorum没有两者在iPhone上的直接对比基准。有帮助的事实:Gemma 4 E2B和E4B是谷歌面向手机的模型(在Google AI Edge Gallery中作为LiteRT-LM文件分别约2.58 GB和3.65 GB;Locally AI也列出了Gemma 4),而Phi-4 Mini(3.8B Q4_K_M,约2.7 GB)是本指南速度数据所使用的模型。在8 GB内存的iPhone上,请用您自己的提示词两者都试试,并在PocketPal AI的基准测试中比较tokens/秒;在6 GB内存的iPhone上请坚持使用1.7B级别的模型。

← 返回 本地LLM进阶

MCP