LLM Farm 评测(2026):开源 GGUF 应用,已从 App Store 下架

LLM Farm 是什么?

谁开发了 LLM Farm?

• 开发者:Artem Savkin(GitHub:guinmoon),独立开发,而非公司运营。
• App Store 上线时间:2023 年 12 月 13 日。GitHub 仓库创建时间:2023 年 6 月 14 日。
• 许可证:MIT——宽松的开源许可证,可自由使用、复刻和修改。根据 LICENSE 文件,版权持有人为 Artem Savkin,2023 年。
• 截至本评测时,GitHub 星标数超过 2,000,复刻数超过 180,问题追踪器活跃但未清空(46 个未解决 issue)。
• 开发节奏:自 2025 年以来时断时续——更新 llama.cpp 依赖和文档的提交一直持续到 2026 年初,但自 2025 年 1 月发布 1.4.3 版本以来,再未发布过新的打标签版本。

LLM Farm 还在 App Store 上吗?

• App Store 状态:根据项目的提交和发布历史,大约自 2025 年 8 月起下架。
• TestFlight 状态:根据当前的 GitHub README,截至本评测时已关闭。
• 下架原因:开发者和苹果均未在 PromptQuorum 能够找到的任何来源中说明。
• 目前唯一确认可行的安装途径:通过公开的 GitHub 仓库,使用 Xcode 从源代码构建。

今天如何获取 LLM Farm

1. 1
   安装 Xcode 和苹果开发者账号
   Why it matters: 你需要一台安装了 Xcode 的 Mac,以及一个免费或付费的苹果开发者账号,才能为自己的设备编译并签名这款应用。这是非开发者面临的主要障碍。
2. 2
   递归克隆仓库
   Why it matters: 运行 `git clone --recurse-submodules https://github.com/guinmoon/LLMFarm`——需要加上 `--recurse-submodules` 参数,因为底层的推理库 `llmfarm_core` 已被移到一个单独的仓库,并作为子模块引入。
3. 3
   在 Xcode 中打开项目并为你的设备构建
   Why it matters: 打开 Xcode 项目文件,选择你的设备或 Mac 目标,设置你自己的开发者签名团队,然后进行构建。这样就能得到一个可以在你自己硬件上运行的应用,但不能通过 App Store 分发给其他人。
4. 4
   下载 GGUF 模型并加载它
   Why it matters: 应用运行起来后,添加一个 GGUF 模型文件(来自 Hugging Face 或其他来源),并从应用的模型管理界面加载它,然后就可以开始完全在设备端进行的聊天。

LLM Farm 支持哪些模型?

LLM Farm 支持 iPhone、iPad 和 Mac 吗?

LLM Farm 收费吗?

• 应用本身: 免费,基于 MIT 许可证的开源软件——未发现其代码或功能有购买价格。
• 应用内购买: 在本文查阅的资料中未发现任何应用内购买项目。
• 构建工具: Xcode 免费,但需要一台 Mac;免费的 Apple ID 可以用一个大约每七天需要续签一次的证书为个人使用签署构建版本,而付费的 Apple Developer Program 会员资格可以避免这一续签周期。
• 存储成本: 非货币性,但确实存在——每个下载的 GGUF 模型文件都会占用存储空间,通常每个模型需要几个 GB。

LLM Farm 有哪些功能?

• 广泛的架构支持。 支持 16 种以上模型架构,其中包括 Starcoder、Falcon、MPT、Bloom、RWKV、GPTNeoX 等其他移动端本地 AI 应用通常不支持的架构。
• 多模态(视觉语言)模型。 根据 README,对 LLaVA、BakLLaVA、Obsidian、ShareGPT4V、MobileVLM、Yi-VL 和 Moondream 的支持让应用能够处理图片加文本的提示。
• 多种采样方法。 Temperature、Tail-Free Sampling(TFS)、Locally Typical Sampling、Mirostat、Greedy 以及语法约束采样都在支持的选项之列。
• 语法约束输出。 语法采样可以将模型的输出限制为定义好的结构(如有效的 JSON),对结构化输出的使用场景很有用。
• 模型设置模板与上下文恢复。 可以为每个模型保存配置,并能够恢复对话的上下文状态,而不必从头重新处理。
• 苹果快捷指令集成。 根据 README,该应用可以从苹果的快捷指令自动化应用中触发。
• 基础的检索增强生成(RAG)。 README 中列出了 RAG 能力,但在本文查阅的资料中,项目文档并未详细说明其具体的检索方法或支持的文档格式。

设备端 LoRA 微调与合并

• 加载一个或多个 LoRA 适配器,每个都可单独配置比例参数。
• 通过 Settings > FineTune 在设备端对基础模型进行微调——根据 Wiki,在 iOS 上实际上限于最低设置下约 30 亿参数规模的模型。
• 将训练好的 LoRA 适配器与其基础模型合并,并通过 Settings > Merge Lora 导出。
• 权衡取舍:Wiki 指出,连接 LoRA 适配器时无法使用内存映射文件加载(mmap),这会比单独运行基础模型消耗更多的 RAM。

运行 LLM Farm 需要什么样的硬件?

• 小型模型(20 亿至 40 亿参数,量化):在大多数近年的 iPhone 和 Mac 上,只要有 4 GB 以上的空闲 RAM 即可使用。
• 中型模型(70 亿至 80 亿参数,量化):建议设备 RAM 达到 8 GB 或更多,以获得可接受的响应速度。
• 专门针对 LoRA 微调:根据项目 Wiki,由于设备端计算和内存的限制,在 iOS 上实际仅限于最低设置下约 30 亿参数规模的模型。
• 最低系统版本:根据 GitHub README,为 iOS 16 或 macOS 13。
• 存储空间:每个下载的 GGUF 模型文件应预留数 GB 的空闲空间。

谁适合使用 LLM Farm

• 愿意在 Xcode 中从源代码构建应用的开发者。 由于 App Store 和 TestFlight 目前都已关闭,这是一项硬性要求,而不是可有可无的加分项。
• 特别希望在设备端进行 LoRA 微调或适配器合并的用户。 大多数竞争的移动端本地 AI 应用完全不提供这套功能。
• 希望在移动设备上获得最广泛支持模型架构范围的用户。 支持超过十六种架构,其中包括 RWKV、Mamba、GPTNeoX 等小众架构,对一款手机应用来说异常广泛。
• 希望自己检查或修改代码的用户。 MIT 许可证允许复刻和修改,这个代码库是理解基于 Swift 的 llama.cpp/ggml 封装层的有用参考。

谁不适合使用 LLM Farm

• 任何无法或不愿意从源代码构建 iOS/macOS 应用的人。 这是目前应避开 LLM Farm 的最主要原因:截至本评测时,既没有 App Store 安装途径,也没有确认可用的 TestFlight 访问。
• 需要 Android、Windows 或 Linux 支持的用户。 LLM Farm 只支持苹果平台;Android 用户应考虑 RikkaHub、ChatterUI 或 Maid,没有 Mac 的桌面用户应考虑 Ollama、LM Studio 或 Jan AI。
• 希望今天就能确保可以安装应用的用户。 PocketPal AI 和 Private LLM 都可以立即从 App Store 安装,无需自行构建任何东西。
• 期望频繁、有版本号发布的用户。 该项目最后一个打标签的版本发布于 2025 年 1 月;虽然此后提交断断续续地持续着,但截至本评测时,已经一年多没有发布新的打包版本。
• 需要有保障的支持或明确路线图的用户。 根据仓库历史记录,LLM Farm 由一名开发者独立维护,并没有明确承诺会恢复其在 App Store 的上架状态。

LLM Farm 与替代方案对比

常见问题

结论

资料来源

• LLM Farm 的 GitHub 页面——本评测中引用的源代码、许可证(MIT)、README、提交历史以及星标/复刻数量。
• LLM Farm 的 LICENSE 文件——MIT 许可证文本及版权持有人(Artem Savkin,2023 年)。
• LLM Farm Wiki:FAQ——安装说明及支持的文件格式详情。
• LLM Farm Wiki:LoRA——关于 LoRA 加载、微调和合并的文档。
• llmfarm_core.swift 的 GitHub 页面——本评测中提到的底层推理库。
• guinmoon/LLMFarm 的 GitHub 发布历史——本评测中提到的最后一个打标签版本(1.4.3,2025 年 1 月)。

相关阅读

• Best Local LLM Apps for iPhone in 2026——iOS 应用汇总,比较了 LLM Farm 的可安装替代方案。
• PocketPal AI 评测——一款面向 iPhone、iPad 和 Android 的免费、开源、可直接安装的替代方案。
• Private LLM 评测——一款仅限苹果平台的付费闭源替代方案,拥有庞大的精选模型目录。
• Enclave AI 评测——一款仅限苹果平台的替代方案,具备 Siri 和快捷指令自动化功能。
• Loci AI Review: Offline AI for iPhone, Android, iPad, Mac and Windows——一款覆盖五个平台的付费闭源替代方案,拥有精选模型库。