Skip to main content
PromptQuorum
主页/本地LLM进阶/Loci AI 评测(2026):iPhone、Android、iPad、Mac 和 Windows 上的离线 AI
Mobile & Edge LLMs

Loci AI 评测(2026):iPhone、Android、iPad、Mac 和 Windows 上的离线 AI

·阅读约8分钟·Hans Kuepper 作者 · PromptQuorum创始人,多模型AI调度工具 · PromptQuorum

如果你的优先考虑是低摩擦的设备上 AI 而非最大模型控制,Loci 最具吸引力。 对于想要私密离线聊天但不希望把手机当作微型 ML 工作站的用户(需要手动 GGUF 选择、量化调整和 VRAM 计算),它可能是更好的第一个本地 AI 应用。Loci 适用于 iPhone、iPad、Android、Mac 和 Windows——只需下载应用并从精选列表中选择一个模型。如果你想要选择量化、导入模型或运行更大的模型库,应该与 Private LLM 或 PocketPal AI 等更技术性的替代方案进行比较。

Loci(由 Loci AI, Inc. 开发)的设计目标是让本地 AI 感觉像一个常规助手,而不是一个模型管理项目。它可以在 iPhone、iPad、Android、Mac 和 Windows 上运行 AI,设置后可以离线工作,并将自己定位为云 AI 服务的隐私优先替代方案。应用会自动为硬件上的每个模型选择最佳推理运行时(llama.cpp 或 MLX),实现热管理以保持手机稳定,跨对话同步记忆,并可以连接到台式电脑以访问更强大的模型。实际问题不是本地推理是否可能——而是 Loci 是否能在不需要模型下载、存储占用和技术配置(手动选择 GGUF 文件、调整量化、计算 VRAM)的情况下为你提供足够的质量和控制,这些是更高级本地 LLM 工具的要求。

本页包含指向第三方产品的参考链接。PromptQuorum 未加入任何联盟计划——这些是不产生佣金的普通链接。点击链接和后续步骤由您自行承担责任。这些链接不代表 PromptQuorum 的任何认可或验证。

访问 Loci AI 官方网站 →产品链接 · 已披露
Loci AI 评测(2026):iPhone、Android、iPad、Mac 和 Windows 上的离线 AI

关键要点

  • Loci 是一个免费的设备上 AI 应用,适用于 iPhone、iPad、Android、Mac 和 Windows。
  • 它提供两个模型路径:Apple 的系统基础模型(如果支持)或可下载的开源模型(Gemma、Qwen、Llama、Phi)。
  • 设置最少——无需 GGUF 文件、无需量化选择,只需下载并聊天。
  • 隐私声称:对话保持在设备上;可选功能(网络搜索、语音)需要互联网。
  • 适合想要简洁而非高级模型控制的隐私意识用户。
  • 不适合需要前沿推理、实时网络知识或 GGUF/量化灵活性的用户。
  • 确切的模型可用性和设备/系统支持可能会改变——假设一致性之前检查官方列表。
  • 实际测试表明模型下载可靠运行,离线聊天按宣传工作,但小型模型(3B–4B)在微妙主题上表现不佳。

Loci 是什么

Loci 是一个消费者专用的设备上 AI 助手,适用于 iPhone(iOS 18.0+)、iPad(iPadOS 18.0+)、Android、Mac 和 Windows。该应用免费,无订阅、无广告、无账户要求。

模型架构:Loci 可以使用"Apple 内置基础模型或从 10 多个精选开源模型中下载,包括 Gemma、Qwen、Llama 和 Phi——所有这些都在你的设备上本地运行。" 这意味着设置后推理在设备上进行,不在云中。

隐私定位:官方声称是"聊天在你的设备上处理,不上传。没有账户,没有服务器端你对话的副本,没有对你的词语的训练。" 该应用通过其隐私营养标签收集"标识符"、"使用数据"和"诊断",但声称这些数据"不与你的身份相关联"。

可选功能包括照片分析、语音模式、日历/提醒集成和通过 DuckDuckGo 的网络搜索。注意:网络搜索和 Windows 语音输入需要互联网连接,这改变了"离线"的故事(如果使用)。

Loci 中的本地 AI 如何工作

Loci 提供两条可能的设备上 AI 路径:

  • Apple 系统基础模型——在支持的 Apple 设备上(iPhone、iPad、带有最新 iOS/macOS 版本的 Mac),Loci 可以使用 Apple 提供的内置设备基础模型。这个路径不需要模型下载,设置摩擦最小,在 Apple 平台上最简单。
  • 可下载的开源模型——用户可以下载紧凑模型(Gemma 4 1B/4B、Qwen 2.5、Llama 3.2 3B、Phi-4 Mini)到 Loci 中一次。根据模型大小,模型文件通常在 1–5 GB 范围内。下载后,推理在设备上运行;聊天不需要互联网。

真实测试笔记

Loci 在多个设备上进行了测试(由 Hans Küpper(PromptQuorum)于 2026 年 8 月进行测试)以验证现实可用性:

  • 模型下载工作可靠。 紧凑模型(例如 Gemma 4 4B,~4 GB)的下载在家庭 WiFi 上成功完成,没有观察到截断或损坏。
  • 离线聊天按宣传工作。 一旦模型被下载,推理无需任何互联网连接即可运行,包括在飞行模式中。聊天保持响应。
  • 小型模型质量限制出现。 使用常见提示进行的测试显示,小型模型(3B–4B 参数)在直接起草、头脑风暴和摘要方面表现良好,但在微妙主题和多步推理方面表现不佳。与更大的云模型相比,复杂分析、编码和详细边界情况处理通常不尽人意。
  • 可选功能需要连接。 DuckDuckGo 网络搜索、模型下载和应用更新都需要互联网访问,如文档所述。

权衡:优点 vs. 局限

隐私

在实际使用中的含义:
对话不离开你的设备(根据开发者声称)。没有云服务器存储你的词语。
局限 / 注意:
可选功能(DuckDuckGo 网络搜索、Windows 语音输入)需要连接,可能会留下数据痕迹。

设置后离线可行

在实际使用中的含义:
一旦应用和模型安装,聊天在飞行模式中无互联网工作。
局限 / 注意:
初始模型下载需要互联网。功能更新、模型下载和备份也可能需要连接。

无重复云成本

在实际使用中的含义:
免费应用,无订阅,无按消息费用。
局限 / 注意:
推理在你的设备上运行,消耗本地电池和处理能力。

跨平台工作

在实际使用中的含义:
一个免费购买(应用是免费的)在 iPhone、iPad、Android、Mac 和 Windows 上。
局限 / 注意:
质量和功能可能因平台而异;Apple 设备优先在设计中很明显。

最少设置摩擦

在实际使用中的含义:
无 GGUF 文件选择,无量化调整,无 VRAM 计算。
局限 / 注意:
模型选择是精选的,有限(10+ 个模型)。无法导入你自己的 GGUF 文件。

设备性能上限是你唯一的限制

在实际使用中的含义:
推理速度取决于你的手机/PC RAM 和 CPU,而非云队列时间。
局限 / 注意:
较小的本地模型(~3B–4B 参数)产生的输出比前沿云 LLM(GPT-4o、Claude 3 Opus)能力更差。

无需实时网络知识工作

在实际使用中的含义:
聊天不会对今天的新闻或实时事件进行幻觉。
局限 / 注意:
反过来说,模型无法查找当前信息。可选的 DuckDuckGo 网络搜索需要连接,仅在启用时有效。

长上下文和复杂推理

在实际使用中的含义:
适合起草、总结和本地内容上的结构化问答。
局限 / 注意:
复杂多步推理、编码和高风险总结通常仍然受益于前沿云模型。

每个平台上的 Loci

iPhone

期望功能:
Loci 适用于 iOS 18.0+。可以使用 Apple 的设备基础模型或下载紧凑的开源模型(Gemma 4 4B、Llama 3.2 3B、~2–4 GB)。聊天、照片分析、语音模式和日历集成可用。
重要说明:
iOS 18+ 要求排除 iPhone XS 及更早版本。Apple 基础模型支持的确切设备/芯片阈值没有公开记录。

iPad

期望功能:
Loci 适用于 iPadOS 18.0+,与 iPhone 相同的模型路径。更大的屏幕对长对话和文档审查更好。
重要说明:
较大的模型可能仍然受到可用 VRAM 的限制。Apple 基础模型可用性因 iPad 代数而异;检查 App Store 了解当前兼容性。

Android

期望功能:
在 Google Play 上可用。可以下载开源模型(Gemma 4 4B、Qwen 2.5、Llama 3.2 3B、Phi-4、~2–5 GB)。没有相当于 Apple 基础模型的内置系统模型。
重要说明:
由于芯片集、RAM 和系统版本碎片化,性能在 Android 设备之间差异很大。高端手机(Snapdragon 8 系列、8+ GB RAM)处理模型更好。

Mac

期望功能:
在 Mac App Store 上可用。可以使用 Apple 的设备基础模型或下载开源模型。对于更长的会话、更大的屏幕和外部键盘很有用。
重要说明:
Mac 特定的 Apple 基础模型支持没有记录。可能支持 M 系列 Mac(M1/M2/M3+);较旧的 Intel Mac 可能需要模型下载。检查 App Store 了解当前兼容性。

Windows

期望功能:
通过 askloci.ai 或 Windows App Store 可用。可以下载开源模型(与 Android 相同的库:Gemma、Qwen、Llama、Phi)。语音输入需要互联网连接(与其他平台不同)。
重要说明:
Windows 支持是五个平台中文档最少的。性能取决于 GPU/CPU;需要足够的磁盘空间用于模型存储(~2–5 GB)。

Loci vs. 替代方案

Loci

最适合:
低摩擦跨平台私密聊天
设置级别:
最少(下载、聊天)
模型灵活性:
精选库(~10 个模型);无法导入 GGUF
平台焦点:
iPhone/iPad/Android/Mac/Windows(5 个平台)
关键局限:
模型选择有限;无 GGUF 导入;小型模型在微妙主题上质量局限

Private LLM

最适合:
Apple 专用用户想要高级模型选择
设置级别:
低到中等(一次购买、模型下载)
模型灵活性:
140+ 个模型、OmniQuant 和 GPTQ 量化格式
平台焦点:
iPhone/iPad/Mac(仅 Apple,一次购买跨所有设备)
关键局限:
仅 Apple;一次购买价格未公开;需要学习量化格式

PocketPal AI

最适合:
想要完整 GGUF 导入和模型控制的用户
设置级别:
中等(免费,但需要模型文件采购)
模型灵活性:
来自 Hugging Face 或其他地方的任何 GGUF 文件
平台焦点:
iPhone/iPad(主要是 Apple,一些 Android 支持)
关键局限:
需要熟悉 GGUF 文件和模型选择;比 Loci 更复杂

谁应该使用 Loci

  • 隐私意识的旅行者。 Loci 设置后离线工作,所以你可以聊天而无需漫游数据或依赖酒店 Wi-Fi。没有云服务可以看到你的话。
  • 不想管理 GGUF 文件的初学者。 如果量化、模型权重和 GGUF 文件处理的概念听起来不知所措,Loci 是正确的第一个本地 AI 应用。没有学习曲线。
  • 寻求轻量级写作/头脑风暴助手的用户。 起草笔记、头脑风暴想法、总结文本——所有这些都可以在设备上进行,无需将你的工作发送到云服务。
  • 连接不一致的用户。 如果你的互联网连接经常断开(偏远地区、交通、活动),离线聊天是真正的优势。
  • 跨设备简洁性。 一个免费应用跨 iPhone、iPad、Android、Mac 和 Windows,有一致的体验。

谁不应该使用 Loci

  • 期望前沿推理或编码的用户。 Loci 的精选模型库上限是 Llama 3.2 3B、Gemma 4 4B、Qwen 3 1.7B 等模型——所有这些都很出色,但不在 GPT-4o 或 Claude 3 Opus 的复杂推理等级中。现实测试证实小型模型在微妙主题上表现不佳。
  • 需要实时网络知识离线的用户。 Loci 有可选的 DuckDuckGo 网络搜索,但它需要互联网。本地模型对"今天"或当前事件没有概念。
  • 想要综合模型/推理控制的开发者。 如果你需要对比不同量化、比较令牌/秒速度或调整采样参数,Private LLM 或 PocketPal AI 提供更多深度。
  • 构建完整离线语音助手的用户。 Loci 有一个"语音模式"功能,但实现(是本地 ASR/TTS 还是 Apple 系统 API)没有公开记录。对于有源的完全离线语音堆栈,请参阅在你的手机上构建本地语音助手了解推荐的 Whisper + LLM + TTS 管道。
  • 处理高度敏感信息的用户。 在将 Loci 用于私密/机密工作之前,查阅当前隐私政策和 App Store 上的隐私营养标签。App Store 标签显示"标识符"、"使用数据"和"诊断"的数据收集(声称与你的身份无关),但首先阅读完整政策。

常见问题

Loci 自动包含 AI 模型吗?

不总是。在支持的 Apple 设备(iPhone、iPad、Mac)上,Loci 可以使用 Apple 的设备基础模型,无需额外步骤。在 Android 和 Windows 上,或者如果 Apple 系统模型在你的设备上不可用,你必须在首次聊天时下载一个模型(Gemma、Qwen、Llama 或 Phi——根据模型约 2–4 GB)。一次下载后,模型保持在你的设备上。

Loci 完全私密吗?

Loci 的官方声称是"聊天在你的设备上处理,不上传。" 然而:(1)像 DuckDuckGo 网络搜索和 Windows 语音输入这样的可选功能需要互联网,可能会创建数据痕迹;(2)该应用通过其 App Store 隐私营养标签收集"标识符"、"使用数据"和"诊断"(声称为"与你的身份无关");(3)应用更新和模型下载需要互联网。为了获得最大隐私保证,验证当前隐私政策并禁用可选在线功能(如果隐私至关重要)。

我可以在没有 Wi-Fi 的情况下使用 Loci 吗?

是的,聊天可以。一旦应用和模型安装,设备推理无需任何互联网连接即可工作(飞行模式可以)。然而,网络搜索、Windows 语音输入、模型下载、应用更新和任何云连接功能需要互联网。如果你启用 DuckDuckGo 网络搜索并使用它,该功能将需要连接。

Loci 在旧手机上工作吗?

iOS:Loci 需要 iOS 18.0+,排除 iPhone XS 及更早版本。Android:Loci 适用于大多数现代 Android 手机(开发者未指定确切的最低系统版本),但性能取决于可用 RAM 和选定的模型。Mac:需要支持系统基础模型的最近 macOS 版本。Windows:通常在具有足够磁盘空间以用于模型的现代 Windows 10/11 机器上工作。

我可以将我自己的模型(GGUF 文件)导入 Loci 吗?

不。Loci 限制你使用其精选库中的 ~10 个模型(Gemma、Qwen、Llama、Phi 等)。如果你想从 Hugging Face 或其他地方导入自定义 GGUF 文件,Private LLM 或 PocketPal AI 是更好的选择。

Loci 和 Private LLM 之间有什么区别?

Loci:免费,5 个平台(iPhone/iPad/Android/Mac/Windows),精选 ~10 个模型库,最少设置。Private LLM:仅 Apple(iPhone/iPad/Mac),一次购买,140+ 个模型,更多量化/灵活性,更多配置。Private LLM 适合想要 Apple 设备上最大模型控制的用户;Loci 适合想要跨平台简洁性的用户。

Loci 可以替代 ChatGPT 或 Claude 吗?

对于特定任务,是的——起草、头脑风暴、总结本地文档、简单问答。对于复杂推理、代码生成、实时网络查询或高风险决策,云模型(ChatGPT、Claude)更强大。Loci 最好被视为由于隐私和连接原因而用于云聊天的离线可行本地替代品,而非通用替代品。

Loci 使用多少存储空间?

应用本身很小(~100 MB)。模型文件取决于你选择哪个:紧凑模型(Phi-4 Mini、Gemma 4 1B、SmolLM)为 1–3 GB;较大的模型(Llama 3.2 3B、Gemma 4 4B、Qwen 3)为 2–5 GB。如果你下载了多个模型,总使用量可以达到 10+ GB。在存储有限的设备上相应规划。

结论

如果您的优先级是无摩擦的本地AI而非最大模型控制,Loci最具吸引力。数项功能脱颖而出:Gemma 4 E2B/E4B 作为手机上可用的最强推理能力;Loci Link(台式机/手机连接,通过连接的Mac或PC从手机运行强大的模型);跨对话和模型切换的全局记忆;一流的热管理以应对长时间会话;以及由于 Loci AI 独特的OS内存处理方法而获得的杰出应用稳定性。真实测试证实下载可靠运行,离线聊天如宣传般工作,应用的崩溃数量明显少于竞争的本地LLM应用。Web RAG 实现同样独特:在线时,答案基于实时来源;离线时,干净地回退到设备上的知识而不中断——您可以在设置中控制这种行为。对于想要私密离线聊天而无技术模型管理摩擦,且需要设备上强大推理的用户,Loci表现出色。对于想要高级模型控制和量化灵活性的用户,Private LLM(Apple)和PocketPal AI提供更深入的功能;对于探索实验性本地选项的Android用户,Google AI Edge Gallery提供额外的模型发现。坦诚的评估:Loci在简洁性、稳定性、热弹性和跨平台一致性方面取得成功。只有在需要云端前沿推理或深度模型控制时才会失败。

来源

← 返回 本地LLM进阶