Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
主页/本地LLM进阶
Easiest Desktop Apps

Llama 应用评测：适用于 Mac 和 Windows 的 llama.cpp 桌面应用

·阅读约6分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

Llama（llama.app）是一款适用于 Mac 和 Windows 11 的小型应用，通过 llama.cpp 在你自己的电脑上运行开源模型，提供一键安装模型、浏览器内置聊天，以及位于 localhost:9931 的本地 API。 它免费且开源。PromptQuorum 未安装也未测试该应用；本文所有表述均来自 llama.app、项目的 GitHub 仓库和 Hugging Face 的公告。

关键要点

  • 维护情况：仓库最近一次活动在 2026 年 10 月 22 日，因此不适用停更项目警告。
  • 费用：MIT 许可证，免费且无需账号；登录 Hugging Face 为可选，仅访问受限模型时才需要。
  • 平台：macOS 15 及以上的 Apple 芯片 Mac，以及 x64 或 ARM64 的 Windows 11。
  • 模型：推荐会随内存而变；网站建议 Mac 内存 16 GB 及以上用 Gemma 4，24 GB 及以上用 GPT-OSS，32 GB 及以上用 Qwen 3.8。
  • 成熟度：两款应用都是 0.x 版本，Mac 版在 9 月 2 日至 10 月 18 日之间发布了四个版本。

📍 简单一句话

Llama 是 llama.cpp 团队与 Hugging Face 推出的免费开源应用，适用于 Mac 和 Windows 11，在本地运行开源模型并提供给你的其他应用使用。

💬 简单来说

像普通应用一样安装，在菜单中选择推荐模型，即可在浏览器里聊天，或让编辑器和脚本连接本地 API。

📌注: 本评测基于 llama.app、两个 GitHub 仓库、Homebrew cask 数据和 Hugging Face 的公告，核查日期为 2026 年 10 月 24 日。PromptQuorum 未安装、测试或跑分该应用。

选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Llama（llama.app）是 llama.cpp 团队与 Hugging Face 推出的免费应用，采用 MIT 许可证，在 Mac 上常驻菜单栏，在 Windows 11 上常驻系统托盘。它负责安装和管理 llama.cpp，按你的设备推荐合适的模型，并启动本地 OpenAI 兼容服务器。两款应用都是刚发布的 0.x 版本，因此本评测仅依据 llama.app、两个 GitHub 仓库和 Hugging Face 的公告，核查日期为 2026 年 10 月 24 日。

Llama 应用评测：适用于 Mac 和 Windows 的 llama.cpp 桌面应用

Llama 是什么

Llama 在 Mac 上是菜单栏应用，在 Windows 上是系统托盘应用，负责下载开源模型、按你的设备配置并在本地提供服务。 在菜单中点击“Open chat”即可在浏览器里与模型对话，也可让编程智能体、编辑器和你自己的代码连接本地 OpenAI 兼容 API。文档称它是基于 llama.cpp 的极简桌面应用。

它不是 PromptQuorum 另行介绍的 llama.cpp 引擎本身，也不是 Meta 的 Llama 模型系列。Windows 版是 Mac 版的 WinUI 3 移植版，由 Hugging Face 于 2026 年 10 月 13 日发布，原生支持 Windows on Arm。

获取方式

Llama 在 Mac 和 Windows 11 上可正常下载安装；Linux 用户只能获得命令行工具。

项目
详情
MacLlama.dmg：拖入“应用程序”
Mac（Homebrew）brew install --cask llama-app
Windows 11适用于 x64 和 ARM64 的 .msixbundle 安装包
Linuxllama CLI 安装脚本，无应用
价格免费，MIT 许可证
官网llama.app
源代码Llama-macOS 和 Llama-Windows
隐私政策llama.app 未发布专页（2026 年 10 月 24 日核查）

核查的版本：Mac 0.45.0 / Windows 0.13.0。据 Mac 和 Windows 的发布页，它们分别于 2026 年 10 月 18 日和 20 日发布；仓库最近一次活动在 10 月 22 日。Windows 0.13.0 的发布说明称现在会自动向 Microsoft Store 提交版本，认证完成后商店页面才会上线，但 PromptQuorum 未找到已上线的商店页面。网站上的 Linux 命令会把下载的脚本直接交给 shell 执行。

系统要求

Llama 需要 macOS 15 及以上的 Apple 芯片 Mac 或 Windows 11 电脑，以及所选模型所需的磁盘空间和内存。

项目
信息来源的说法
MacApple 芯片，macOS 15 及以上（Homebrew cask）
WindowsWindows 11，x64 或 ARM64
应用大小Mac 安装后 4 MB；Windows 约 86 MB
模型大小4.59 GB（gemma-4 E4B）至 19.0 GB（Qwen3.8 27B）
内存建议（Mac）16 GB 及以上：Gemma 4；24 GB 及以上：GPT-OSS；32 GB 及以上：Qwen 3.8

网站只给出 Mac 的内存建议，未公布 Windows 的内存或 GPU 要求；Windows 0.13.0 新增了根据你电脑内存计算的“能否装下”标记。

上手步骤

以下步骤依据 llama.app 和 README，PromptQuorum 未实际执行。

  1. 1
    安装应用
    Why it matters: 打开 Llama.dmg 并把 Llama 拖入“应用程序”；在 Windows 11 上打开 .msixbundle 文件并点击安装。
  2. 2
    在菜单栏或托盘中找到它
    Why it matters: Llama 没有窗口；点击 Mac 菜单栏或 Windows 系统托盘中的图标（隐藏图标在 ^ 箭头后面）。
  3. 3
    选择模型
    Why it matters: 从为你的电脑推荐的模型中选择，或浏览 Hugging Face 目录，让 Llama 来安装。
  4. 4
    打开聊天
    Why it matters: 点击菜单中的“Open chat”，即可在浏览器里与模型对话。
  5. 5
    连接其他应用
    Why it matters: 让 OpenAI SDK、编辑器或编程智能体指向 `http://localhost:9931/v1`；据网站介绍，无需 API 密钥，也没有按量计费。
  6. 6
    按需调整设置
    Why it matters: 在 Mac 上，把覆盖项写入 `~/.config/llama/models.user.ini`，应用会把它合并到自己生成的配置中。

信息来源确认的功能

以下各项均来自 llama.app、README 或发布说明。

  • 自动配置。 Llama 为每个模型设置量化、上下文长度、图像输入和推测解码，llama.cpp 的所有设置仍可在纯文本文件中编辑。
  • 按需加载。 据网站介绍，模型在被请求时加载，空闲五分钟后卸载。
  • 共享存储。 模型存放在与 llama.cpp 共享的 Hugging Face 缓存中，已通过 llama.cpp 安装的模型会出现在应用里。
  • API。 兼容 OpenAI 和 Anthropic 的端点，支持流式输出、工具调用、结构化输出和视觉，并可通过 Tailscale 从其他设备远程访问。
  • 近期新增。 Mac 0.45.0 通过 /v1/embeddings 加入了嵌入模型；Windows 提供 Alt+空格聊天浮层，其 0.13.0 版新增适配标记、自有模型文件夹和 Share to Llama。

数据流向与网络使用

维护者称提示词和推理都留在你的电脑上：Mac 版 README 称该应用“100% 本地”，Windows 版 README 称它不发送遥测、事件、分析数据或安装 ID。

Windows 版 README 列出了出站流量：模型下载、新版本检查和对本地服务器的调用，每次只带有包含应用版本、Windows 版本号和处理器架构的 User-Agent。Mac 版 README 没有列出其网络使用，Homebrew cask 将该应用标为可自动更新。Mac 0.45.0 新增了访问受限模型用的可选 Hugging Face 登录，网站还介绍了通过 Tailscale 的远程访问，这是需要你自己开启的网络通道。

📌注: 以上是维护者自己的说法；PromptQuorum 未审计这些应用的网络流量。

适合谁用

  • 刚接触本地模型的 Mac 和 Windows 11 用户，想要一款能为自己电脑选择合理设置的免费应用。
  • 需要本地 OpenAI 兼容端点的开发者，用于编辑器、智能体和脚本，又不想手动管理 llama.cpp。
  • llama.cpp 用户，希望与菜单栏或托盘前端共享模型缓存。

我们未能核实的内容

  • 实际体验质量。 PromptQuorum 未运行这两款应用，因此未评估速度、内存占用和模型质量。
  • 安全与网络行为。 应用的流量未经审计，所查阅的来源也未说明 Mac 版的签名或公证情况。
  • Windows 要求。 来源只提到 Windows 11，没有给出内存、GPU 或驱动的下限。
  • 路线图。 两款应用都是变化很快的 0.x 版本，来源没有给出计划。

竞品与替代方案

Ollama

平台:
Mac、Windows、Linux
价格 / 许可:
免费 / MIT
主要区别:
以命令行为主的运行时，自带模型库
关于Ollama的文章（10篇）

另有313篇未显示

Jan

平台:
Mac、Windows、Linux
价格 / 许可:
免费 / Apache 2.0（变体）
主要区别:
开源桌面聊天应用，带模型库
关于Jan的文章（10篇）

另有36篇未显示

GPT4All

平台:
Mac、Windows、Linux
价格 / 许可:
免费 / MIT
主要区别:
在本地运行模型的桌面聊天应用
关于GPT4All的文章（10篇）

另有18篇未显示

竞品信息变化频繁；请在各应用自己的页面上确认当前价格、许可证和平台。

在目录中比较

常见问题

有 Linux 应用吗？

据 llama.app，没有：Linux 用户通过安装脚本获得命令行工具 llama，文档还列出了包管理器、预编译二进制、Docker 和源码构建。

能使用我已有的模型吗？

Mac 版 README 称，通过 llama.cpp 安装的模型会出现在应用里；Windows 版共用同一个 Hugging Face 缓存，Windows 0.13.0 还支持添加自己的模型文件夹。来源没有说明是否会识别 Ollama 等其他工具的模型。

本地服务器提供哪些接口？

文档列出了 /v1 下的 OpenAI 兼容端点、兼容 Anthropic 的 /v1/messages 端点，以及端口 9931 上 llama.cpp 自带的端点；只有在启动服务器时设置了密钥，才需要 API 密钥。

结论

Llama（llama.app）让 Mac 和 Windows 11 用户无需终端，就能免费、在 MIT 许可证下通过 llama.cpp 运行开源模型，并提供按硬件推荐的模型和供其他应用使用的本地 API。不足之处是：两款应用都是变化很快的 0.x 版本，没有 Linux 应用，PromptQuorum 也未测试过任何一款。它适合想把 llama.cpp 放在小巧前端之后的新手和开发者；想要功能更全的模型浏览器的读者可对比 LM Studio 或 Jan，偏好命令行的读者可看 Ollama。

信息来源

← 返回 本地LLM进阶

MCP