跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Easiest Desktop Apps

Osaurus 评测:Mac 免费本地 AI 应用

·阅读约9分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

Osaurus 是一款面向 macOS 15.5 及以上版本 Apple Silicon Mac 的免费开源(MIT 许可)原生 Swift 应用,可完全在设备本地运行开源 AI 模型——厂商表示默认情况下没有任何数据离开你的 Mac。它支持 Ollama、MLX 和 LM Studio 后端,包含智能体功能(文件读取、工具执行、自主任务管理、跨模型共享记忆),如果你选择配置,也可以选配连接 OpenAI、Anthropic、Google Gemini 等云服务商。无需账户、订阅或使用上限。

关键要点

  • 免费且 MIT 许可开源,无需账户或订阅
  • 平台:仅限 macOS,需要 Apple Silicon(M1 或更新)及 macOS 15.5 及以上版本
  • 后端:用于本地推理的 Ollama、MLX 和 LM Studio
  • 可选云服务商:如果配置 API 密钥,可使用 OpenAI、Anthropic 和 Google Gemini
  • 智能体功能:文件读取、工具执行、自主任务管理,以及跨多个模型的共享记忆
  • 厂商隐私声明:本地运行模型时数据不会离开你的 Mac,且无需账户
  • 专为 Apple Silicon 打造的原生 Swift 应用,而非跨平台的 Electron 封装应用

📍 简单一句话

Osaurus 是一款免费、MIT 许可的原生 Swift 应用,可完全在 Apple Silicon Mac 上运行开源 AI 模型,无需账户、无需订阅,厂商在隐私声明中表示默认情况下数据不会离开设备。

💬 简单来说

与通过将你的消息发送到公司服务器的网站聊天不同,Osaurus 会将 AI 模型直接加载到你的 Mac 上并在本地运行,因此对话不必离开你的设备——而且这款应用本身是免费的。

📌注: 本评测基于 Osaurus 官方网站(osaurus.ai)和公开的产品信息,并非独立的实机基准测试。文中未包含具体的速度或准确性数据,因为本文未对其进行独立测量。

Osaurus 是一款免费、MIT 许可的原生 Swift 应用,可直接在 Apple Silicon Mac 上运行开源 AI 模型——无需账户、无需订阅,默认情况下不会外传数据。它支持 Ollama、MLX 和 LM Studio 后端,如果你选择配置,也可以选配连接 OpenAI、Anthropic 和 Google Gemini 等云服务商。

Osaurus 评测:Mac 免费本地 AI 应用

Osaurus 免费吗?

是的——Osaurus 没有订阅等级,没有付费墙,本地使用也没有上限。这款应用可免费下载和使用,且采用 MIT 许可,这意味着源代码是公开的,而非封闭的二进制文件。

  • 核心聊天与智能体功能无需订阅或应用内购买
  • 由于本地推理运行在自己的 Mac 上,而非按量计费的云端 API,因此没有使用上限
  • 开始使用该应用无需账户、邮箱或注册流程
  • MIT 许可允许在许可条款范围内免费使用、修改和再分发

Osaurus 是什么?

Osaurus 是一款在 osaurus.ai 发布的免费、MIT 许可的原生 Swift 应用,可直接在 Apple Silicon Mac 上运行开源 AI 模型。与基于 Electron 等框架构建的跨平台应用不同,Osaurus 使用 Apple 原生应用语言 Swift 专门为 macOS 编写。

  • 默认情况下,用于与直接在你的 Mac 上运行(而非远程服务器)的 AI 模型对话的聊天与智能体界面
  • 专为 Apple Silicon 打造的原生 Swift 代码,而非跨平台封装应用
  • 连接到 Ollama、MLX 和 LM Studio 等本地推理后端,而不是自带独立的推理引擎
  • 如果你选择配置,也可以选配连接 OpenAI、Anthropic、Google Gemini 等云 AI 服务商
  • 智能体功能:文件读取、工具执行、自主任务管理,以及跨多个模型的共享记忆
  • MIT 许可开源

Osaurus 的系统要求和支持的后端有哪些?

Osaurus 仅在 Apple Silicon Mac 上运行,并连接三种本地推理后端之一,相比跨平台应用平台范围更窄,但可以实现原生的、专为 Mac 打造的构建。

macOS 版本

详情:
Osaurus 需要 macOS 15.5 或更高版本。不支持更早的 macOS 版本,下载前请在"关于本机"中确认系统版本。

硬件

详情:
Osaurus 需要 Apple Silicon——M1 或更新的芯片。它不支持 Intel 芯片的 Mac,因为它是为了充分利用 Apple Silicon 架构而构建的,而非同时兼顾两种芯片系列。

Ollama 后端

详情:
Osaurus 可以连接由广泛使用的本地推理工具 Ollama 提供的模型。如果你已经通过 Ollama 运行模型,Osaurus 可以作为该现有配置的聊天与智能体前端。

MLX 后端

详情:
Osaurus 支持 MLX,这是 Apple 自家针对 Apple Silicon 优化的机器学习框架。为 MLX 构建的模型旨在充分利用 M 系列芯片的统一内存架构。

LM Studio 后端

详情:
Osaurus 还可以连接由 LM Studio 暴露的本地服务器,让你在使用 Osaurus 聊天与智能体界面的同时,也能使用 LM Studio 的模型管理功能。

可选云服务商

详情:
除三种本地后端外,如果你配置了 API 访问权限,Osaurus 还支持连接 OpenAI、Anthropic 和 Google Gemini 等云 AI 服务商。这是可选功能:Osaurus 的运行不需要云服务商,使用云服务商则意味着该服务商自身的数据处理条款将适用于该部分流量,而非本地设备路径。

"数据不离开你的 Mac"是什么意思?

这是 Osaurus 自己声明的隐私立场:当你通过 Ollama、MLX 或 LM Studio 在本地运行模型时,推理完全在你的 Mac 上进行,厂商声明在此模式下没有任何数据离开你的设备。

  • 无需账户:在与本地模型聊天之前,应用不会要求登录或创建个人资料
  • 本地模型可离线使用:本地模型加载完成后,无需互联网连接即可继续聊天
  • 云连接是可选功能:只有在你选择配置时,OpenAI、Anthropic 和 Google Gemini 才可用,默认情况下不启用
  • MIT 开源:代码是公开可查看的,而非封闭的二进制文件

📌注: 本地推理在结构上消除了一个常见的隐私风险——本地托管的模型作出响应,无需将你的对话文本传输到第三方服务器。这一架构事实与是否照字面接受厂商"数据不离开你的 Mac"这一具体说法无关。

Osaurus 包含哪些智能体功能?

Osaurus 在简单聊天框之外集成了面向智能体的功能,旨在让本地运行的模型完成多步骤工作,而不仅是逐条回答问题。

文件读取

Osaurus 可以在对话或智能体任务中读取文件,让本地运行的模型处理 Mac 上已有的文档,而无需手动将内容粘贴到聊天窗口中。

工具执行

该应用支持工具执行,模型可以调用已定义的工具来执行操作,而不仅仅是生成文本回复。这类功能(通常称为"函数调用"或"工具使用")常见于面向智能体的 AI 应用。

自主任务管理

Osaurus 支持自主的多步骤任务管理,让模型可以规划并执行一系列操作,而不是每条消息只回复一次。本文没有关于每个工作流在实际使用中到底有多自主的独立验证细节,因此应将其视为需要用自己的任务测试的功能,而非已经过基准测试的能力。

跨多个模型的共享记忆

Osaurus 支持跨多个模型的共享记忆,这意味着即使在应用内切换不同的本地或云端模型,上下文也能延续,而不会在每次切换回答模型时重置。

如何开始使用 Osaurus?

启动 Osaurus 只需几个步骤,都不需要账户或付款——但你需要一个至少提供一个可用模型的本地后端(Ollama、MLX 或 LM Studio)。

  1. 1
    确认你的 Mac 满足要求:Apple Silicon(M1 或更新)以及 macOS 15.5 或更高版本。
  2. 2
    访问 osaurus.ai 下载适用于 macOS 的 Osaurus。
  3. 3
    安装并打开应用——不应有账户或注册界面阻止你继续操作。
  4. 4
    如果尚未设置,请配置至少一个本地后端:安装 Ollama 并拉取一个模型,或安装 LM Studio,或根据偏好直接使用 MLX。
  5. 5
    在 Osaurus 中连接到你选择的后端,并选择一个已下载的模型开始聊天。
  6. 6
    可选:如果你想在本地模型之外同时使用云端模型,可以在应用设置中添加 OpenAI、Anthropic 或 Google Gemini 的 API 密钥——此步骤并非使用 Osaurus 所必需。

我需要同时安装 Ollama、MLX 和 LM Studio 吗?

不需要——你只需要一个至少提供一个可用模型的本地后端。Osaurus 会连接到你已配置的后端。

我可以在没有互联网连接的情况下使用 Osaurus 吗?

可以,通过 Ollama、MLX 或 LM Studio 加载本地模型后,由于推理在你的 Mac 上进行而非远程服务器,聊天可以离线继续。

哪些人适合使用 Osaurus?

Osaurus 适合已经拥有 Apple Silicon 硬件、希望以原生、无需账户的方式与本地运行的模型聊天并围绕它们构建智能体工作流的 Mac 用户。

以下情况请使用 Osaurus

  • 你拥有搭载 macOS 15.5 或更高版本的 Apple Silicon Mac(M1 或更新),并希望使用原生应用而非跨平台封装应用
  • 你已经在使用,或愿意配置 Ollama、MLX 或 LM Studio 作为本地模型后端
  • 你希望智能体功能——文件读取、工具执行、自主任务、跨模型共享记忆——直接集成在聊天应用中,而不是自行拼装
  • 你希望以后可以自由添加云服务商(OpenAI、Anthropic、Google Gemini),而不是从一开始就被强制使用某一个
  • 你重视应用是 MIT 许可的开源软件,原则上可以被检查,而不必作为封闭二进制文件被盲目信任

以下情况请避免使用 Osaurus

  • 你使用 Intel 芯片 Mac 或非 Apple 平台(Windows、Linux、移动设备)——Osaurus 仅支持 Apple Silicon
  • 你希望使用一个自带推理引擎、完全自包含的应用,因为 Osaurus 依赖单独安装和配置的后端(Ollama、MLX 或 LM Studio)
  • 你在选择应用前需要厂商发布并经独立验证的基准数据——本评测和厂商截至发布时的自有资料均未提供经第三方审计的性能数据
  • 你需要面向受监管行业的企业支持合同、SLA 或合规认证——请在为此用途采用前直接与厂商核实这些要求

Osaurus 与其他替代品对比

与 Osaurus 最接近的对比对象是其他同样强调无需账户的免费 Mac 本地 AI 应用,不过大多数替代品都自带推理引擎,而不是依赖单独的后端。

应用
平台
自带推理引擎
需要账户
费用
OsaurusmacOS(仅 Apple Silicon)否——需要 Ollama/MLX/LM Studio否免费
LM StudioMac/Win/Linux是否免费
OllamaMac/Win/Linux是否免费
Jan AIMac/Win/Linux是否免费

主要的结构性区别在于架构:Osaurus 是一个聊天与智能体前端,依赖 Ollama、MLX 或 LM Studio 来实际运行模型,而不像 LM Studio、Ollama 和 Jan AI 那样自带推理引擎。这使它成为叠加在现有本地 AI 环境之上的一层,而非一个独立的替代品。本文没有对这些应用的响应速度或输出质量进行独立基准测试,也不声称其中某一个在技术上更优——上述对比仅涵盖已记录的平台、架构和访问模式事实。

在目录中比较

本评测未涵盖哪些内容?

本评测总结了 Osaurus 公开记录的功能以及厂商自身的声明。这不是一份实机基准测试报告,坦诚说明这一局限,比看起来面面俱到更重要。

  • 没有独立测量的每秒生成词元数或延迟数据——本文未对其进行测量,因此未包含在内
  • 没有对"数据不离开你的 Mac"这一声明进行独立安全审计——此处仅作为厂商自身表明的立场复述,而非经过验证的结论
  • 没有与 LM Studio、Ollama 或 Jan AI 进行输出质量的并排对比——响应质量的差异很大程度上取决于所使用的具体模型和后端,而不仅仅是所用的前端应用
  • 没有关于自主任务管理或共享记忆功能在长或复杂工作流中实际表现的独立验证细节
  • 未涵盖企业支持条款、SLA 或合规认证——如果这些对你的用例很重要,请直接联系厂商

试用 Osaurus 时的常见错误

Osaurus 的大多数使用摩擦源于它是一个连接单独后端的前端,而不是一个自包含的推理引擎——这一误解导致了大多数设置困惑。

错误1:以为 Osaurus 无需安装其他软件即可运行模型

Osaurus 不自带推理引擎。在 Osaurus 有可连接的对象之前,你需要先安装 Ollama、MLX 或 LM Studio,并至少下载一个模型。

错误2:以为"数据不离开你的 Mac"也适用于云模型的使用

"数据不离开你的 Mac"这一声明适用于通过 Ollama、MLX 或 LM Studio 进行的本地推理。如果你改为在 Osaurus 中配置 OpenAI、Anthropic 或 Google Gemini 等云服务商,该流量将适用该服务商自身的数据处理条款——仅限本地的隐私立场专门针对本地后端。

错误3:试图在 Intel 芯片 Mac 或非 Apple 设备上安装

Osaurus 需要 Apple Silicon(M1 或更新)以及 macOS 15.5 或更高版本。它不支持 Intel 芯片的 Mac、Windows、Linux 或移动平台。

常见问题

Osaurus 免费吗?

是的。Osaurus 没有订阅、没有付费墙,本地使用也没有上限。它可免费下载和使用,是一款 MIT 许可的开源软件。

使用 Osaurus 需要创建账户吗?

不需要。开始与本地连接的模型聊天,无需账户、邮箱或注册。

Osaurus 支持哪些平台?

仅支持 macOS,具体是搭载 macOS 15.5 或更高版本的 Apple Silicon Mac(M1 或更新)。不支持 Intel 芯片的 Mac、Windows、Linux 或移动平台。

Osaurus 支持哪些后端?

Osaurus 连接三种本地推理后端——Ollama、MLX 和 LM Studio——如果配置了相关设置,也可以选配连接 OpenAI、Anthropic 和 Google Gemini 等云服务商。

Osaurus 有自己的推理引擎吗?

没有。Osaurus 是一个聊天与智能体前端,依赖单独的后端——Ollama、MLX 或 LM Studio——来实际运行模型,而不是自带引擎。

Osaurus 会把我的数据发送到别处吗?

厂商声明,当你通过 Ollama、MLX 或 LM Studio 在本地运行模型时,没有任何数据会离开你的 Mac。这专门适用于本地推理——如果你配置了可选的云服务商,该流量将适用该服务商自身的数据处理条款。这是厂商自身的声明,而非经独立审计的结论。

Osaurus 能在没有互联网连接的情况下运行吗?

可以,只要通过 Ollama、MLX 或 LM Studio 加载了本地模型即可。本地推理生成响应不需要互联网连接。

Osaurus 是开源的吗?

是的。Osaurus 在 MIT 许可下发布,这意味着源代码是公开的。

Osaurus 包含哪些智能体功能?

Osaurus 包含文件读取、工具执行、自主任务管理,以及跨多个模型的共享记忆,旨在支持多步骤智能体工作流,而不仅仅是单轮聊天。

我可以在 Osaurus 中使用云 AI 服务商代替本地模型吗?

可以,这是可选功能。如果你配置了 API 访问权限,Osaurus 支持连接 OpenAI、Anthropic 和 Google Gemini,但这不是必需的——该应用仅使用本地后端也能正常运行。

资料来源

← 返回 本地LLM进阶

MCP