关键要点
- Phi-4 Mini（3.8B）是2026年最智能的小型模型。 最适合RAM 8GB以上的旗舰手机——iPhone 17 Pro约13–18 tokens/sec，iPhone 16 Pro约10–15。在4B以下所有模型中，每参数推理能力最强。
- SmolLM 2 1.7B在所有测试设备上tokens/sec最快。 iPhone 17 Pro约26–32 tok/sec，Galaxy S25 Ultra约20–28。当响应速度比回答深度更重要时（快速聊天、自动补全类任务）是最佳选择。
- Qwen 3 1.5B是最强的多语言移动模型。 在35+种语言（包括中文、日文、阿拉伯文、德文）上训练，具有母语级输出质量。翻译、非英语写作和旅行使用的首选。
- Gemma 3 4B是均衡的默认选择。 在相同硬件上比Phi-4 Mini略慢，但在聊天和摘要上质量相当。当应用中Phi-4 Mini不可用或偏好Google训练数据组合时的最佳选择。
- Gemma 3 1B是旧机型的轻量选择。 适合RAM 4GB（iPhone SE第3代、旧款Android）。多步推理有限，但在弱硬件上比其他任何模型都更快地生成连贯的1–2段回答。
- Llama 3.2 3B是测试最充分的3B全能模型。 六款模型中tool calling支持最佳、应用兼容性最广、社区微调生态最丰富。在原始质量上略逊于Phi-4 Mini，但在边缘情况下更可靠。
- Q4_K_M是2026年移动LLM推理的标准量化。 以四分之一的文件大小保留约95%的原始质量。仅在RAM 12GB以上手机（iPhone 17 Pro Max）上且应用支持时使用Q5_K_M或Q6_K。
快速事实
- 测试模型： Phi-4 Mini 3.8B、Gemma 3 4B、Gemma 3 1B、SmolLM 2 1.7B、Qwen 3 1.5B、Llama 3.2 3B（均为Q4_K_M GGUF）。
- 测试设备： iPhone 17 Pro（A19 Pro）、iPhone 16 Pro（A18 Pro，8GB）、Galaxy S25 Ultra（Snapdragon 8 Elite）、Pixel 9 Pro（Tensor G5）、OnePlus 13（Snapdragon 8 Elite）。
- 推理引擎： PocketPal AI / LLM Farm的llama.cpp（默认）、MLC Chat的MLC LLM（iPhone上Metal加速）、Termux的Ollama（Android）。
- 内存占用（Q4_K_M）： Phi-4 Mini约2.7 GB、Gemma 3 4B约2.9 GB、Llama 3.2 3B约2.2 GB、Qwen 3 1.5B约1.0 GB、SmolLM 2 1.7B约1.1 GB、Gemma 3 1B约720 MB。
- 最低RAM（运行时）： 1.5B–1.7B模型需6GB设备；3B–4B模型需8GB设备；仅Gemma 3 1B可在4GB设备上运行。
- iPhone 17 Pro最快tokens/sec： Gemma 3 1B约35–45、SmolLM 2约26–32、Qwen 3约24–32、Llama 3.2 3B约16–22、Phi-4 Mini约13–18、Gemma 3 4B约10–13。
- 量化来源： 六款模型均可在Hugging Face以及PocketPal AI / MLC Chat / LM Studio上获取Q4_K_M GGUF格式。
如何选择移动端模型？
对于大多数旗舰手机（iPhone 16 Pro / 17 Pro、Galaxy S25 Ultra、OnePlus 13），选择Phi-4 Mini（3.8B Q4_K_M）。 它是4B以下最智能的模型，以可用的对话速度运行。仅在有特定需求时选择其他模型——速度（SmolLM 2）、多语言（Qwen 3）或旧机型兼容（Gemma 3 1B）。
📍 简单一句话
旗舰机（RAM 8GB以上）选Phi-4 Mini（最智能），速度优先选SmolLM 2 1.7B，多语言选Qwen 3 1.5B，4GB旧机选Gemma 3 1B，tool calling选Llama 3.2 3B，Phi-4 Mini不可用时的均衡默认选Gemma 3 4B。
💬 简单来说
没有单一的最佳移动模型——正确的选择取决于你的设备和使用场景。如果手机是近两年的机型且有8GB以上RAM，安装Phi-4 Mini。如果主要用非英语聊天，安装Qwen 3。如果想要最快的回复速度哪怕牺牲一些质量，安装SmolLM 2。如果手机较旧或只有4GB RAM，安装Gemma 3 1B。六款模型的差异真实存在，但足够小，任何一款都能给出连贯的回答——没有一款达到云端质量。
如何选择移动端模型
Use a local LLM if:
- •RAM 8GB以上旗舰机（iPhone 16 Pro/17 Pro、Galaxy S25 Ultra、OnePlus 13）→ Phi-4 Mini 3.8B
- •需要在任何设备上最快的tokens/sec → SmolLM 2 1.7B
- •非英语使用（翻译、多语言聊天）→ Qwen 3 1.5B
- •需要广泛应用兼容性、tool calling或RAG → Llama 3.2 3B
- •RAM 4GB的旧机型 → Gemma 3 1B
- •Phi-4 Mini在你的应用中不可用，需要4B级质量 → Gemma 3 4B
Use a cloud model if:
- •多步推理、复杂代码生成或长文档分析 → 使用云端或远程连接到运行70B以上模型的本地机器
- •视觉语言任务（图像输入、OCR）→ 云端应用（2026年移动端视觉模型有限且速度慢）
- •需要3000+token连贯性的长篇创意写作 → 云端或桌面端8B以上模型
Quick decision:
- →大多数用户的默认选择：Phi-4 Mini 3.8B
- →所有设备上最快：SmolLM 2 1.7B
- →最佳多语言：Qwen 3 1.5B
💡Tip: 如果不确定，在旗舰机上先用Phi-4 Mini，在中端机上先用SmolLM 2 1.7B——两款都能在快速连接下5分钟内下载完成且可随时切换。用你真正关心的任务测试（一封需要摘要的真实邮件、一个真正想得到答案的问题）。如果质量可以接受，就定下来。如果不满意，通过PocketPal AI或LM Studio在30秒内切换到其他模型。
移动端模型对比表
下方四列表格是快速筛选层——按机型档次或使用场景选择对应行。 Tokens/sec数据基于iPhone 17 Pro上使用PocketPal AI（llama.cpp）的Q4_K_M量化。iPhone 16 Pro上数据约低15–25%，Galaxy S25 Ultra上使用MLC Chat或Termux+Ollama约低10–20%。
📍 简单一句话
Phi-4 Mini最智能、SmolLM 2 1.7B最快、Qwen 3 1.5B多语言最强、Gemma 3 1B最小可用、Llama 3.2 3B最强3B全能、Gemma 3 4B均衡默认。
💬 简单来说
按大小从上到下阅读此表，或直接跳到与你机型档次对应的行。"适用场景"列显示该模型的优化方向——选择对你最重要的优势对应的行，忽略其他行。
| 模型 | 参数量 | tokens/sec（17 Pro） | 适用场景 |
|---|---|---|---|
| Phi-4 Mini | 3.8B | 约13–18 | 最智能小型模型——旗舰机默认 |
| Gemma 3 4B | 4B | 约10–13 | Phi-4 Mini不可用时的均衡默认 |
| Gemma 3 1B | 1B | 约35–45 | 旧机型（RAM 4GB） |
| SmolLM 2 | 1.7B | 约26–32 | 最快tokens/sec，高响应聊天 |
| Qwen 3 | 1.5B | 约24–32 | 最佳多语言（35+种语言） |
| Llama 3.2 | 3B | 约16–22 | 最强3B选项、tool calling、RAG |
速度与质量权衡说明： 在同一芯片上，tokens/sec与参数量成反比——1B模型在相同硬件上比3.8B模型快约3–4倍。质量随参数量提升但非线性：得益于微软的训练数据组合，Phi-4 Mini（3.8B）的推理质量更接近7B模型而非1.7B模型。用此表做权衡：模型越快=回复越快，模型越智能=难题回答越好。
💡Tip: iPhone 16 Pro的tokens/sec比此表中iPhone 17 Pro的数据约低15–25%——A18 Pro与A19 Pro Neural Engine的差距。Galaxy S25 Ultra（Snapdragon 8 Elite）在相同Q4_K_M GGUF下比iPhone 17 Pro约低10–20%，主要因为Termux+Ollama在Android上还未能像MLC Chat利用Apple Metal那样充分利用Snapdragon Hexagon NPU。
Phi-4 Mini：最智能的小型模型
Phi-4 Mini（3.8B参数，微软，2024年12月）凭借针对推理优化的训练数据组合，成为2026年4B以下最智能的模型。 尽管体量相似，在chain-of-thought任务上超越Gemma 3 4B和Llama 3.2 3B。在任何RAM 8GB以上手机上将其作为默认模型使用。
- 参数与训练： 3.8B参数；在微软精心策划的高质量网络文本、合成推理链和学术内容混合数据上训练。架构为带grouped-query attention的Transformer。
- 内存占用： Q4_K_M约2.7 GB，Q5_K_M约3.5 GB。在iPhone 16 Pro / 17 Pro（8 GB）和Galaxy S25 Ultra（12 GB）上留有足够系统空间。
- 速度（tokens/sec）： iPhone 17 Pro约13–18，iPhone 16 Pro约10–15，Galaxy S25 Ultra约10–15（Termux+Ollama），iPhone 14 Pro约6–10（慢但可用）。
- 质量优势： chain-of-thought推理、摘要、事实问答、基础代码生成。在MMLU、GSM8K等标准基准测试中超越同等大小的开源模型。
- 质量短板： 世界知识不如Llama 3.2 3B（Common Crawl数据较少）；创意写作不如Gemma 3 4B自然；英语以外的多语言不如Qwen 3 1.5B。
- 最适合： 希望在英语聊天、摘要和推理上使用最智能单一默认模型的旗舰机用户。
💡Tip: Phi-4 Mini从明确调用逐步推理的系统提示词中受益（"在回答之前请仔细思考"）。训练数据中推理链丰富，因此这种风格的提示词始终产生比简短指令更好的回答。对于快速聊天，不需要系统提示词；默认行为已经是对话式的。
Gemma 3 4B：均衡默认选择
当应用中Phi-4 Mini不可用或偏好Google训练数据组合时，Gemma 3 4B（Google DeepMind，2025年）是均衡的默认选择。 在相同硬件上比Phi-4 Mini略慢，但在聊天和摘要上质量相当，自然语言覆盖更广。
- 参数与训练： 4B参数；在Google精心策划的网络文本、代码和多语言数据混合上训练。与Gemma 2同一架构系列，支持更长上下文。
- 内存占用： Q4_K_M约2.9 GB，Q5_K_M约3.7 GB。适合8GB以上手机；6GB手机上较紧张（改用Phi-4 Mini或更小模型）。
- 速度（tokens/sec）： iPhone 17 Pro约10–13，iPhone 16 Pro约7–10，Galaxy S25 Ultra约7–10（架构差异导致尽管大小相近，但比Phi-4 Mini略慢）。
- 质量优势： 自然的对话语气、强大的摘要能力、比Phi-4 Mini更广的世界知识（Common Crawl数据）、不错的多语言能力。
- 质量短板： chain-of-thought推理弱于Phi-4 Mini；相同硬件上tokens/sec更慢；不总是移动应用中最先支持的模型。
- 最适合： 希望以Phi-4 Mini替代选择使用Google训练模型的旗舰机用户，特别适合日常聊天、摘要和短文写作。
💡Tip: Gemma 3 4B使用与Phi-4 Mini不同的chat template——确认你的应用使用正确的Gemma模板（带<start_of_turn>标记）。错误的模板会产生混乱或重复的输出。PocketPal AI、MLC Chat和LM Studio会自动检测；LLM Farm需要在模型设置中手动选择Gemma模板。
Gemma 3 1B：旧机型轻量选择
Gemma 3 1B（Google DeepMind，2025年）是2026年最小的可用移动模型——Q4_K_M约720 MB，可在4GB RAM设备上运行。 质量限于短篇连贯回答（1–2段），但它是1 GB以下能在弱硬件上产生可用输出的唯一选择。
- 参数与训练： 1B参数；与4B模型相同的Gemma 3家族架构，但训练计算量更少。为边缘设备高效推理而训练。
- 内存占用： Q4_K_M约720 MB，Q5_K_M约900 MB。可在iPhone SE第3代、iPhone 12/13、旧款Android（最低4GB RAM）上运行。
- 速度（tokens/sec）： iPhone 17 Pro约35–45，iPhone 16 Pro约28–38，iPhone 14约20–28，旧款Android（4GB）约10–15。此列表中所有设备上最快的模型。
- 质量优势： 速度快、内存占用低、短篇回答连贯、耗电少。
- 质量短板： 多步推理弱、偏僻主题频繁出现事实错误、长篇生成（500+ tokens）重复、对话深度浅。
- 最适合： 拥有低于6GB RAM门槛设备但仍想使用端侧AI的用户，或在长途飞行或低电量场景下优化续航的用户。
💡Tip: 将Gemma 3 1B用于短小精准的任务——单句摘要、一段式草稿、快速释义、主要语言对之间的简单翻译。避免要求它进行多段解释、多步推理或对偏僻事实精确度有要求的任务。提示词中加"简洁"二字能发挥它的优势。
SmolLM 2 1.7B：tokens/sec最快
SmolLM 2 1.7B（Hugging Face，2024年）是此列表中所有测试设备上tokens/sec最快的移动模型。 iPhone 17 Pro约26–32 tok/sec，Galaxy S25 Ultra约20–28。当响应速度比回答深度更重要时是最佳选择。
- 参数与训练： 1.7B参数；在Hugging Face精心策划的针对小模型效率优化的混合数据上训练。架构专为消费级硬件低延迟推理调优。
- 内存占用： Q4_K_M约1.1 GB。在任何6GB以上RAM设备上运行，为系统留出充足空间。
- 速度（tokens/sec）： iPhone 17 Pro约26–32，iPhone 16 Pro约22–28，Galaxy S25 Ultra约20–28，iPhone 14 Pro约15–22。在同一芯片上比Phi-4 Mini快约2倍。
- 质量优势： 快速对话回复、简单问答、自动补全风格的续写、英文写作。
- 质量短板： 推理弱于Phi-4 Mini，世界知识不如Llama 3.2 3B，多语言弱于Qwen 3 1.5B，事实查询偶有幻觉。
- 最适合： 延迟敏感的中端设备（文本输入自动补全、语音助手轮换、实时聊天），或大型模型体验迟缓的旧旗舰机。
💡Tip: SmolLM 2 1.7B是手机端离线语音助手的最佳搭档——Whisper + LLM + TTS完整流程请参考在手机上构建本地语音助手。高tokens/sec让语音对话响应保持在约1.5秒的感知门槛以下，即便在中端硬件上也如此。
Qwen 3 1.5B：最强多语言移动模型
Qwen 3 1.5B（阿里巴巴，2024年）是2026年最强的多语言移动模型——在35+种语言上训练，包括中文、日文、韩文、阿拉伯文、德文、法文、西班牙文和俄文。 翻译、非英语聊天和对话途中切换语言的旅行场景的最佳选择。
- 参数与训练： 1.5B参数；在阿里巴巴多语言语料库上训练，CJK语言、阿拉伯语和主要欧洲语言占比高。架构针对多语言推理优化。
- 内存占用： Q4_K_M约1.0 GB。适合任何6GB以上RAM设备。
- 速度（tokens/sec）： iPhone 17 Pro约24–32，iPhone 16 Pro约20–28，Galaxy S25 Ultra约18–26，iPhone 14 Pro约14–20。速度与SmolLM 2相当。
- 质量优势： 35+种语言母语级输出（大多数小模型以英语为中心，多语言回退质量差）、主要语言对之间翻译能力强、Phi-4 Mini和Llama 3.2产生乱码的CJK输出连贯。
- 质量短板： 纯英语推理略弱于Phi-4 Mini，创意写作不如Gemma 3 4B自然，tool calling弱于Llama 3.2 3B。
- 最适合： 非英语用户（尤其是中文、日文、德文、西班牙文、法文使用者）、需要离线翻译的旅行者、构建多语言移动功能的开发者。
💡Tip: 对于两种特定语言之间的单次翻译，Qwen 3 1.5B通常优于以翻译作为次要任务运行的更大英语优先模型。对于用中文聊天的中文用户，Qwen 3尽管小60%，但产生的输出比Phi-4 Mini自然得多。基本规则：选择针对你主要语言训练的模型，而非参数最多的模型。
Llama 3.2 3B：可靠的3B全能模型
Llama 3.2 3B（Meta，2024年）是2026年测试最充分的3B模型——应用兼容性最广、六款模型中tool calling支持最强、社区微调生态最丰富。 在原始质量上略逊于Phi-4 Mini，但在边缘情况下更可靠，移动应用支持更好。
- 参数与训练： 3B参数；在Meta大规模预训练语料库上训练，并经过聊天和工具使用的instruction-tuning。与8B和70B版本相同的Llama 3架构。
- 内存占用： Q4_K_M约2.2 GB，Q5_K_M约2.8 GB。在8GB以上手机上运行留有系统空间；关闭其他应用后可在紧张的6GB手机上工作。
- 速度（tokens/sec）： iPhone 17 Pro约16–22，iPhone 16 Pro约12–18，Galaxy S25 Ultra约12–18，iPhone 14 Pro约7–11。
- 质量优势： 广泛的世界知识、强大的tool calling和function calling支持（4B以下模型中同类最强）、稳定的聊天行为、特定任务（医疗、法律、编程）微调的成熟生态。
- 质量短板： chain-of-thought推理弱于Phi-4 Mini，相似大小下MMLU分数略低，对话语气不如Gemma 3 4B自然。
- 最适合： 需要tool calling或function calling的移动应用（本地文档RAG、端侧Agent工作流），或希望使用社区微调库最丰富模型的用户。
💡Tip: Llama 3.2 3B是此列表中唯一tool calling支持足够可靠，能用于端侧Agent工作流的模型——参考本地AI Agent与MCP 2026。Phi-4 Mini和SmolLM 2在技术上可以进行tool call，但Llama 3.2 3B是2026年唯一达到生产可用水平的。
移动端量化：Q4_K_M是默认标准
Q4_K_M是2026年移动LLM推理的标准量化——以四分之一的文件大小保留约95%的原始模型质量。 仅在RAM 12GB以上手机（iPhone 17 Pro Max、Galaxy S25 Ultra）上有真正可用的额外内存时才使用Q5_K_M或Q6_K。
📍 简单一句话
Q4_K_M是移动端默认——四分之一大小保留约95%质量。Q5_K_M / Q6_K仅在RAM 12GB以上手机上值得使用。
💬 简单来说
Hugging Face上的模型以全精度发布（每个参数以16位数存储）。在手机上下载量化版本，每个参数压缩到4位——文件缩小四倍，推理速度约快四倍，质量损失轻微。Q4_K_M是2026年社区公认的手机端最佳平衡方案。Q数字越高（Q5、Q6、Q8）压缩越少、质量越高，但文件越大；Q4是手机限制下的最优解。
- Q4_K_M（推荐默认）： 带K-quants和"M"混合精度的4位量化。约95%原始质量。2026年移动标准。六款模型均在Hugging Face上提供此格式。
- Q5_K_M（RAM 12GB以上设备）： 5位量化。约98%原始质量。文件约大25%。在iPhone 17 Pro Max（12 GB）或Galaxy S25 Ultra（12 GB）上对Phi-4 Mini和Llama 3.2 3B值得使用；8GB手机上RAM代价不值得。
- Q6_K（很少需要）： 6位量化。约99%原始质量。文件约大50%。仅适合内存充裕且对模型质量要求极高的手机（如长篇写作每个百分点都重要的场景）。
- Q8_0（移动端避免使用）： 8位量化。约99.5%原始质量。约为Q4_K_M的2倍大小。手机上RAM代价不值得；留给桌面端/笔记本使用。
- Q3_K_M / Q2_K（仅极度受限设备）： 3位和2位量化。质量降至约85–90%。仅在Q4_K_M的Gemma 3 1B仍然无法运行时使用（2026年罕见）。
⚠️Warning: 不要以"测试哪个更好"为由下载同一模型的多个量化版本。Q4_K_M和Q5_K_M之间的质量差异真实存在但很小，却会消耗256GB手机5GB以上的冗余存储。选择Q4_K_M，使用一周，只有在有具体证据证明质量不足时才升级到Q5_K_M。
档次判断：旗舰 vs 中端 vs 入门
手机档次决定模型上限——芯片代次和RAM比品牌更重要。 旗舰手机（RAM 8GB以上，A18 Pro / A19 Pro / Snapdragon 8 Elite）可轻松运行3.8B–4B模型；中端手机（6–8GB RAM，旧旗舰芯片）运行1.7B–3B；入门或旧款手机（4–6GB RAM）运行1B–1.5B。
📍 简单一句话
旗舰机（8GB以上）→ Phi-4 Mini 3.8B；中端机（6–8GB）→ SmolLM 2 1.7B或Llama 3.2 3B；入门或旧款（4–6GB）→ Gemma 3 1B或Qwen 3 1.5B。
💬 简单来说
让模型匹配你的设备，而非你的期望。6GB手机上的3.8B模型在其他应用需要内存时会产生令人沮丧的3秒停顿和崩溃。旗舰机上的1B模型浪费了硬件能力。选择在系统和至少另一个应用同时打开的情况下能舒适运行的最大模型。
| 手机档次 | 代表机型 | 推荐模型 | 原因 |
|---|---|---|---|
| 旗舰（RAM 8–12GB） | iPhone 17 Pro / Pro Max、iPhone 16 Pro、Galaxy S25 Ultra、OnePlus 13 | Phi-4 Mini（3.8B Q4_K_M） | 芯片以可用速度支持的最智能模型 |
| 旧款旗舰（RAM 8GB） | iPhone 15 Pro、Galaxy S24 Ultra、Pixel 9 Pro | Llama 3.2 3B或Phi-4 Mini | tool calling用Llama 3.2 3B；原始质量用Phi-4 Mini |
| 中端（RAM 6–8GB） | iPhone 14 Pro、Pixel 9、Snapdragon 8 Gen 2手机 | SmolLM 2 1.7B或Qwen 3 1.5B | 速度响应快；为系统留有余量 |
| 入门/旧款（RAM 4–6GB） | iPhone 14、Snapdragon 7系列中端、旧款Android | Gemma 3 1B或Qwen 3 1.5B | 仍能产生连贯输出的最小可用模型 |
| 非常旧（RAM 4GB） | iPhone SE第3代、旧款4GB Android | Gemma 3 1B | 唯一能放下的模型；推理有限但tokens/sec快 |
| 不支持（<4GB） | iPhone SE第2代、旧款Android | 改为远程连接到本地机器 | 端侧LLM不实际；将平板/手机作为家用Ollama服务器的UI使用 |
💡Tip: 关于应用侧，请查阅iPhone和Android姐妹指南——它们介绍了哪些应用实际上在每个平台上支持这些模型。应用可用性有时滞后于模型可用性：Gemma 3 4B在PocketPal AI添加一键下载器的六个月前就已上线Hugging Face。如果模型不在应用的精选列表中，通常可以从Hugging Face以GGUF格式旁加载。
常见误区
- 选择超出手机RAM限制的更大模型。 6GB手机上的Phi-4 Mini以3–5 tok/sec运行，当iOS / Android为其他应用回收内存时会崩溃。按档次表匹配模型和设备。
- 下载同一模型的多个量化版本。 选择Q4_K_M就停手。256GB手机上5GB以上的冗余Q5/Q6版本是浪费空间，日常聊天中质量差异根本感知不到。
- 用SmolLM 2 1.7B进行多步推理。 它是最快的模型，但不是最智能的。对于chain-of-thought任务（数学、规划、复杂推理），即使较慢的tokens/sec让人沮丧也要使用Phi-4 Mini。没有质量的速度只是更快地给出错误答案。
- 不加多语言提示前缀就让Phi-4 Mini输出非英语内容。 Phi-4 Mini能勉强处理常见欧洲语言，但在CJK或阿拉伯语上输出参差不齐。多语言使用时，在Phi-4 Mini旁边安装Qwen 3 1.5B，按语言切换。
- 期望这些模型达到云端AI质量。 六款模型都是1B–4B，在聊天任务上大约是GPT-5.5能力的60–80%，复杂推理上差距更大。将它们用于擅长的场景（私人聊天、摘要、写作、翻译），需要70B以上模型的任务使用云端或远程连接。
- 将Phi-4 Mini（3.8B）与旧款Phi-3 Mini（3.8B）混淆。 两者参数量相同，但Phi-4 Mini的训练数据和chat template不同。始终确认GGUF文件名中的模型标识符——是
phi-4-mini-instruct而非phi-3-mini-4k-instruct。
参考来源
- Phi-4 Mini技术报告 — Microsoft Research（2024年12月）。
- Gemma 3技术报告 — Google DeepMind（2025年）。
- SmolLM 2模型卡 — Hugging Face（2024年）。
- Qwen 3技术报告 — Alibaba Cloud（2024年）。
- Llama 3.2模型卡 — Meta AI（2024年）。
- Q4_K_M量化参考 — llama.cpp文档。
常见问题
iPhone上哪款移动模型最快？
Gemma 3 1B在iPhone 17 Pro上约35–45 tokens/sec，绝对最快，但是此列表中最小的模型。在1.5B–1.7B模型（速度与质量平衡）中，SmolLM 2 1.7B以约26–32 tokens/sec最快。在产生旗舰级输出质量的模型中，Phi-4 Mini约13–18 tokens/sec是最快的"智能"选项。按使用场景选择：如果响应速度比深度更重要，选SmolLM 2；如果深度更重要，选Phi-4 Mini。
Phi-4 Mini真的能在手机上超越7B模型吗？
它在MMLU和推理任务等标准基准测试上超越旧款7B模型（Llama 3.3 7B、Mistral Small v0.1），尽管只有一半大小。它不能超越当前7B模型（Llama 3.3 7B、Mistral Small v0.3）的原始能力——后者在广泛知识和复杂推理上仍然领先。Phi-4 Mini能超重发挥的原因是微软的训练数据组合（富含合成推理链和高质量文本）。在手机上，7B模型通常太慢而不实用，所以Phi-4 Mini默认胜出。
SmolLM 2能在4年前的手机上运行吗？
可以，在大多数4年前的旗舰机上可以。SmolLM 2 1.7B在Q4_K_M下需要约1.1 GB RAM用于模型加约500 MB推理开销——适合iPhone 13（6 GB）、iPhone 12 Pro Max（6 GB）和同等Android（6 GB以上）。在2021年的4GB设备（iPhone 12、基础款Android）上技术上能加载，但在其他内存压力下不稳定；改用Gemma 3 1B。
手机上翻译哪款模型最好？
涉及中文、日文、韩文、阿拉伯文、德文、法文、西班牙文或俄文的语言对选Qwen 3 1.5B。它以强大的多语言表示训练，在英语优先模型（Phi-4 Mini、Llama 3.2 3B）产生生硬或混乱结果的地方提供母语级质量。仅欧洲语言对可以考虑Gemma 3 4B作为次选。英语与特定语言之间的一次性翻译，安装的翻译应用（Google翻译、DeepL）通常优于任何本地LLM——本地模型在同一对话中需要将翻译与聊天或摘要结合时才真正发光。
使用这些模型需要旗舰手机吗？
不需要，只有最大的模型（Phi-4 Mini 3.8B、Gemma 3 4B、Llama 3.2 3B）才需要。6–8GB RAM的中端手机以全速（约20–28 tokens/sec）运行SmolLM 2 1.7B和Qwen 3 1.5B。4–6GB RAM的入门手机以约15–25 tokens/sec运行Gemma 3 1B。诚实的回答：如果还没有旗舰机，不要为了本地AI去买——现有手机上的小型模型对大多数使用场景已经足够。
哪款模型耗电最少？
Gemma 3 1B遥遥领先——最小的模型意味着每个token计算最少，CPU/GPU负载更低，功耗更低。SmolLM 2 1.7B和Qwen 3 1.5B次之。3B–4B模型（Phi-4 Mini、Llama 3.2 3B、Gemma 3 4B）每次回答耗电约多2–3倍。在电量最为重要的长途飞行或长时间离网使用中，尽管有质量代价，Gemma 3 1B是正确选择。
移动模型能处理多轮对话吗？
短对话（5–10轮）可以，之后质量下降。六款模型的上下文窗口均为4,000–8,000 tokens；更长的对话超出窗口后模型会丢失早期轮次。对于需要跨会话记忆的持续聊天，实用的做法是：定期摘要对话，保存摘要，然后作为上下文输入回去。大多数移动应用（PocketPal AI、Private LLM）会自动完成此操作；LLM Farm需要手动配置。
这些模型支持语音输入吗？
支持，与Whisper语音转文字层结合使用。2026年移动端标准离线语音方案是：Whisper（small或tiny模型）语音转文字 → Phi-4 Mini或SmolLM 2生成回答 → Apple TTS或Android TTS语音合成。SmolLM 2 1.7B是语音的最佳LLM选择，因为高tokens/sec使语音对话响应保持在约1.5秒感知门槛以下——完整流程请参考在手机上构建本地语音助手。
旅行离线使用哪款最好？
需要切换语言和翻译的旅行：Qwen 3 1.5B。主要需要英语参考（问问题、摘要旅行文件、起草邮件）的旅行：旗舰机用Phi-4 Mini，中端机用SmolLM 2 1.7B。旅行是本地AI最强的整体使用场景——无需漫游数据、无云端API费用，也不用担心网络差的地区云依赖失效。旅行前下载模型；适度使用可以在单次充电下撑过整段旅程。
移动端模型在2027年还有用吗？
有用，但具体型号名称会变化。移动小型LLM前沿大约每6–9个月移动一次——到2026年Q4可能出现超越Phi-4 Mini的新~3B模型，到2027年中期1B–2B类可能达到今天3B–4B模型的水平。这个类别不会过时；具体推荐会更新。查阅此文章（下次更新预计：2026-11-08）了解下一代阵容。