在平板上本地运行AI：iPad Pro M5、Galaxy Tab S10、OnePlus Pad 2（2026）

快速概览

• iPad应用： PocketPal AI（免费，MIT）、Locally AI（免费+付费选项，MLX）、Google AI Edge Gallery（免费，Apache 2.0）。LLM Farm（免费，MIT，仅iOS）已于2025年8月从App Store下架，现在只能从源码构建。
• 安卓方案： PocketPal AI或Google AI Edge Gallery（应用，无需终端），或Termux + Ollama（命令行）。
• 远程连接： 任意平板浏览器 → 家用机器局域网IP上的Open WebUI或简单聊天界面。由于Ollama没有原生iPadOS版本，iPad用户也是通过这种方式运行Ollama。
• 本地推理最低配置： 3B至4B模型需iPad Air M4（12 GB）；7B至8B模型需iPad Pro M5（12 GB / 16 GB）。
• 安卓本地推理最低配置： 8 GB RAM（Samsung Galaxy Tab S10+、OnePlus Pad 2）。
• 最佳本地模型： 大多数平板选Phi-4 Mini（3.8B，2.7 GB）；内存极度受限选Qwen3 1.7B。
• 远程连接速度： 取决于Wi-Fi质量和家用机器的生成速度，与平板硬件无关。

两种模式：本地推理 vs 远程连接

iPad：本地推理

• PocketPal AI（免费，开源MIT，iOS + 安卓）：通过llama.cpp运行GGUF模型，可在应用内从Hugging Face下载模型或导入文件，并内置基准测试，方便您测量自己平板的每秒词元数。最近一次上游更新：2026-10-19。参见PocketPal AI评测。
• Locally AI（免费含付费选项，闭源，iPhone/iPad/Mac）：通过苹果的MLX框架运行开源模型，专为Apple Silicon打造。最近一次App Store更新：2026-10-15。参见Locally AI评测。
• Google AI Edge Gallery（免费，Apache 2.0，iOS + 安卓）：Google面向Gemma模型的本地推理应用，基于LiteRT-LM运行时。最近一次上游更新：2026-10-23。参见Google AI Edge Gallery评测。它还能运行 Gemma 4（E2B 和 E4B），即谷歌目前的小尺寸设备端模型。
• LLM Farm（免费，MIT，仅iOS）：苹果于2025年8月下架了其App Store页面，项目README也将App Store和TestFlight均列为"暂时不可用"——唯一途径是在Xcode中从源码构建。最近一次上游更新：2026-01-30，距今已超过180天，可能已无人维护；依赖前请先查看代码仓库。参见LLM Farm评测。
• 导入模型： 在PocketPal AI中，可在应用内从Hugging Face下载GGUF模型，或导入通过苹果文件应用传输的GGUF文件。模型存储在应用本地存储中——不使用iCloud。
• iPad内存管理： iOS会主动管理后台应用内存。在12 GB iPad上运行7B模型前关闭所有其他应用——iOS可能会在其他应用需要内存时清除模型。在16 GB iPad Pro M5（1 TB/2 TB版）上此问题很少出现。
• 生成速度估算（近似值，并非PromptQuorum基准测试——请使用PocketPal AI内置基准测试测量您自己的设备）： iPad Pro M5（12 GB / 16 GB）：Phi-4 Mini约25词元/秒，Llama 3.2 3B约38词元/秒，Gemma 3 4B约23词元/秒——较上一代M4快约25%至30%，与内存带宽提升幅度一致。iPad Air M4（12 GB）：3B至4B模型约15至20词元/秒；7B模型约7至10词元/秒（实时对话速度仍偏慢）。
• 入门级iPad和RAM不超过8 GB的iPad： 使用Q4量化的1B至3B模型，或将iPad仅作为远程连接的显示终端。如果模型放不进可用内存，iPadOS会直接关闭应用，而不是平稳降速。

安卓：本地推理

• 比Termux更简单的替代方案： PocketPal AI（Google Play，免费，MIT；最近一次上游更新2026-10-19）和Google AI Edge Gallery（免费，Apache 2.0；最近一次上游更新2026-10-23）无需终端即可运行本地模型。除非特别需要Ollama，否则建议先从它们入手。参见PocketPal AI评测。
• 支持3B以上模型的设备： 最少需要8 GB RAM（Samsung Galaxy Tab S10+、OnePlus Pad 2、小米Pad 7 Pro）。6 GB设备只能运行Qwen3 1.7B。
• 不推荐Pixel Tablet本地推理： Pixel Tablet（2023款，8 GB Tensor G2）被排除在推荐本地推理设备之外——Tensor G2在LLM推理方面明显慢于骁龙8 Gen 3 / 天玑9300，Phi-4 Mini只能达到4至7词元/秒（对话速度过慢）。Pixel Tablet用户应使用远程连接到家用机器。
• 骁龙8 Gen 3和天玑9300是2026年安卓本地推理最快的芯片。生成速度：1.7B模型约15至25词元/秒；3B模型约8至12词元/秒。
• 模型存储： 安卓没有统一内存——大多数Termux配置下模型在系统RAM中运行，无GPU加速。GPU加速需要Termux:NVIDIA或特定Vulkan构建版本，设置更复杂。
• 替代应用： MNN LLM（阿里巴巴，免费，安卓应用，支持精选模型的本地推理）设置更简便，但模型选择比Ollama有限。AI Runner和llamafile也有支持程度不同的安卓版本。LLM Farm没有安卓版本——它仅为iOS应用；PocketPal AI是最接近的安卓替代方案。
• 其他品牌（华为MatePad、小米Pad、Galaxy Tab A系列）： 决定因素是内存和芯片，而非品牌。请在设置中查看平板的内存：低于6 GB时，请坚持使用1B至1.7B模型或改用远程连接；8 GB或以上时，请参照模型表中8 GB一行。
• 有关日本专用Xperia硬件兼容性表格和设置指南，请参阅<a href="/zh/prompt-bites/run-local-llm-on-xperia-japan" class="text-primary hover:underline">在日本Xperia手机上运行本地LLM的方法</a>。

1. 1
   从F-Droid安装Termux（不要使用Play Store版本——Play Store版本已过时，缺少所需软件包）。
2. 2
   在Termux中执行：pkg update && pkg upgrade
3. 3
   从Termux软件包仓库安装Ollama：pkg install ollama（旧教程使用Go从源码构建Ollama，现在已不再需要）。
4. 4
   拉取模型：ollama pull phi4-mini 或 ollama pull qwen3:1.7b。
5. 5
   启动服务：ollama serve（在Termux会话中保持运行）。
6. 6
   通过Termux对话：ollama run phi4-mini——或打开浏览器访问http://localhost:11434获取API。安装支持本地Ollama端点的安卓聊天应用可获得图形界面。

远程连接到家用机器

1. 1
   在家用机器上： 安装Ollama（macOS执行brew install ollama，Windows从ollama.com下载）。拉取模型：ollama pull llama3.3:70b（或任意模型）。绑定网络启动Ollama：OLLAMA_HOST=0.0.0.0:11434 ollama serve。
2. 2
   安装Open WebUI（最适合平板的聊天界面）：docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name open-webui ghcr.io/open-webui/open-webui:main。Open WebUI现在可通过`http://[您的机器IP]:3000`访问。
3. 3
   查找家用机器的局域网IP： macOS：系统设置 → 网络 → 当前网络 → IP地址。Windows：命令提示符运行ipconfig，查找IPv4地址。记录IP（通常为192.168.x.x）。
4. 4
   在平板上： 打开Safari（iPad）或Chrome（安卓）。访问`http://[您的机器IP]:3000`。在Open WebUI中创建账号（仅限本地，无云端）。从下拉菜单选择模型。开始对话。
5. 5
   安全注意： 此设置仅限局域网访问。不要在未添加Open WebUI身份验证的情况下将端口3000暴露至公网（内置管理员账号系统）。连接为普通HTTP——不要在公共Wi-Fi上发送敏感信息。

各设备型号推荐

平板AI前端界面

• Open WebUI（浏览器）： 最佳移动端响应式通用聊天Web界面。在Safari或Chrome中通过任意本地IP:端口访问。适配平板屏幕比例效果良好。推荐用于远程连接设置。
• PocketPal AI（iPad和安卓应用）： 免费开源，可导入GGUF模型并内置基准测试。两个平台上最灵活的本地推理选项。
• Locally AI（iPad应用）： 基于MLX的简洁苹果风格界面；对非技术用户而言是iPad上最简单的首次使用体验。
• Google AI Edge Gallery（iPad和安卓应用）： Google以Gemma为主的应用；在设备上试用Google小型模型的最简便方式。
• RisuAI（浏览器，移动端响应式）： 角色扮演和角色卡创作的最佳移动端体验。可连接远程Ollama实例。在iPad Safari中提供接近原生应用的界面。
• SillyTavern（浏览器）： 在连接远程Ollama实例的iPad Safari上可用。未针对移动端优化，但功能正常。部分扩展功能在移动端Safari中无法使用。
• Termux命令行（安卓）： 仅限命令行。适合脚本任务；没有配套应用的情况下不适合对话使用。

常见错误

• 在App Store中搜索LLM Farm。 苹果已于2025年8月将其下架。请改用PocketPal AI或Locally AI，或从源码构建LLM Farm。
• 在8 GB平板上运行7B模型。 每秒5至8词元对实时对话来说太慢。8 GB设备本地对话请使用3B模型；7B以上质量请使用远程连接。
• 在安卓上使用Play Store版Termux。 Play Store版Termux已过时，缺少Ollama所需软件包。务必从F-Droid安装Termux。
• 在未启用身份验证的情况下将Open WebUI暴露至公网。 Open WebUI默认无密码保护。如果将其暴露到家庭网络之外，任何找到该URL的人都可以访问您的模型。启用管理员账号系统并使用防火墙。
• 在8 GB iPad上运行本地推理前未关闭其他应用。 iOS会从内存中清除后台应用。8 GB iPad上3B模型占用约3.5 GB；如果iOS为其他应用回收该内存，模型会崩溃。运行推理前关闭所有其他应用。
• 在移动端浏览器上期待桌面级UI质量。 SillyTavern等部分前端以桌面端为主。在浏览器中的移动端体验可用但不精致。移动端优先UX请选择RisuAI或Open WebUI。
• 在浏览器中输入 ipad.local。 Safari 中要填的是家中主机的 IP 或主机名（例如 192.168.1.20:3000 或 my-mac.local:3000），而不是平板自己的名字。ipad.local 这类名称指向平板，而不是运行 Ollama 的那台机器。

来源

• LLM Farm（iOS）文档和GitHub — github.com/guinmoon
• PocketPal AI — github.com/a-ghorbani/pocketpal-ai
• Locally AI — App Store页面
• Google AI Edge Gallery — github.com/google-ai-edge/gallery
• Termux的Ollama软件包 — Termux（请从F-Droid安装Termux）
• Termux版Ollama ARM构建 — Ollama文档
• Open WebUI文档 — docs.openwebui.com
• Apple M5芯片iPad Pro规格、内存版本和内存带宽 — Apple Newsroom，2025年10月
• Apple M4芯片iPad Air规格和内存 — Apple Newsroom，2026年3月
• Gemma 4 模型概览与内存需求 — Google AI for Developers
• Samsung Galaxy Tab S11 Ultra 芯片与内存配置 — GSMArena

常见问题

延伸阅读

• PocketPal AI评测 — 上文推荐的免费开源iOS和安卓应用，适合平板本地推理。
• Locally AI评测 — 面向iPad和iPhone的基于MLX的本地聊天应用。
• Google AI Edge Gallery评测 — Google面向iOS和安卓的本地Gemma应用。
• LLM Farm评测 — 该应用为何不再上架App Store，以及从源码构建需要做什么。
• 2026年iPhone最佳本地LLM应用 — 专注于iPhone特定应用选择和设置的姊妹指南。
• 2026年安卓最佳本地LLM应用 — Termux + Ollama之外安卓应用选择的姊妹指南。
• 2026年最佳移动LLM模型：Phi-4 Mini vs Gemma 3 vs SmolLM — 模型层伴读：各任务选哪款移动模型。
• 在手机上构建本地语音助手 — 离线移动语音助手构建指南。
• Windows、Mac和Linux最易用的本地AI应用 — Mac或PC上设置本地AI用户的桌面端对应指南。
• 低配PC最佳本地AI应用 — 内存有限的低配设备推荐。
• SillyTavern vs Agnai vs RisuAI：最佳本地角色扮演前端 — 平板角色卡角色扮演移动端UI对比。
• 最佳本地LLM笔记本电脑 — 配合平板远程连接使用的家用机器硬件配置指南。
• 2026年最佳本地LLM — 涵盖所有硬件层级（包括非移动端）的更广泛模型概览。
• 本地AI代理与MCP 2026 — 将平板连接到家用机器上启用MCP的本地代理设置。

中国数据合规背景：本地AI的适用场景

• 《数据安全法》（2021）： 规范数据处理活动，要求对"重要数据"进行安全评估。向境外传输数据前需完成安全评估或标准合同备案。将数据发送至境外云端AI API（OpenAI、Anthropic、Google）可能触发跨境数据传输义务——具体取决于数据分类。
• 《个人信息保护法》（PIPL，2021）： 中国的综合个人信息保护框架，对个人信息境外传输设有明确限制（需通过国家互联网信息办公室安全评估或经认证机构认证）。通过本地推理在设备上处理个人信息，避免跨境传输合规问题。
• 国家互联网信息办公室（CAC）监管： 网信办监管互联网信息服务和算法推荐，并发布了生成式AI服务提供商相关规定。境外提供的生成式AI服务适用不同监管框架。在本地机器上运行开源模型（Qwen、Llama等）处于企业自用场景，目前通常不需要独立备案。
• 实际指导： 对于处理内部业务数据、客户信息或内容的企业，本地推理提供了清晰的数据边界——数据不离开设备或公司网络。建议企业用户在具体合规决策前咨询熟悉《数据安全法》和PIPL的法律顾问；本内容仅供参考，不构成法律建议。
• 开源模型的选择： Qwen系列（通义千问，阿里巴巴云）是本地运行开源模型的重要选项，包括针对移动端优化的Qwen3 1.7B。在平板上本地运行Qwen3 1.7B结合Termux + Ollama，为内存受限的安卓设备提供了切实可行的数据本地化解决方案。