跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Easiest Desktop Apps

2026年Mac最佳本地LLM应用:LM Studio、Ollama、Jan等8款对比

·阅读约9分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

对大多数Mac用户来说,先安装LM Studio(免费图形应用,Apple Silicon,macOS 14及以上)并下载一个小模型;想用命令行和本地API就选Ollama,想要开源聊天应用就选Jan。 AnythingLLM、Open WebUI、Msty、oMLX和Chatbox分别覆盖文档、浏览器访问、多模型聊天、Apple MLX和轻量客户端。

关键要点

  • 在Mac上,LM Studio是最容易上手的选择。 免费图形应用,内置模型浏览器;需要Apple Silicon的Mac和macOS 14或更高版本(LM Studio文档)。
  • Ollama是终端用户和开发者的标准选择。 MIT许可证,macOS 14及以上,使用Apple M系列芯片的GPU(Intel Mac仅CPU),可通过磁盘映像或brew install ollama安装。
  • Jan是开源聊天应用。 免费桌面应用,在本地运行模型;其README列出macOS 13.6或更高版本。
  • AnythingLLM适合处理自己的文档。 MIT许可证,提供Apple Silicon和Intel Mac的桌面安装包,内置文档聊天。
  • Open WebUI是浏览器界面,不是模型运行器。 它连接Ollama等后端;用Docker或pip安装。
  • Msty和Chatbox是多服务商聊天客户端。 两者都能使用本地模型和云服务商;如果在意隐私,请检查服务商设置。
  • oMLX面向Apple原生速度。 面向Apple Silicon的Apache-2.0 MLX推理服务器,附Mac应用;需要macOS 15或更高版本。
  • 决定模型大小的是内存,不是应用。 Jan的README列出3B模型约需8 GB内存、7B模型约需16 GB;本列表中的任何应用都受同样的限制。

2026年在Mac上运行LLM的方式,基本可以由八款应用覆盖:LM Studio、Ollama、Jan、Msty、AnythingLLM、Open WebUI、oMLX和Chatbox。本文对比它们的费用、许可证、Mac系统要求和各自擅长的场景,每款应用的最新版本均取自官方来源。

2026年Mac最佳本地LLM应用:LM Studio、Ollama、Jan等8款对比

快速事实

  • 对比的应用: LM Studio、Ollama、Jan、Msty、AnythingLLM、Open WebUI、oMLX、Chatbox。
  • 最新上游版本(2026年10月31日核对): LM Studio 0.4.28(2026年10月31日)· Ollama v0.40.13(10月28日)· Jan v0.8.8(10月28日)· Open WebUI v0.12.5(10月29日)· oMLX v0.7.3rc1(10月27日)· AnythingLLM v1.19.0(10月26日)· Msty Studio 3.0.0 Beta 15(10月7日)· Chatbox v1.23.5(2026年9月24日)。没有应用超过3个月未更新,因此无需显示停更警告。
  • 仅限Apple Silicon: LM Studio和oMLX。Intel Mac仍可运行Ollama(仅CPU)和AnythingLLM。
  • 设计上完全本地: LM Studio、Ollama、Jan、oMLX。也能使用云服务商: Msty、Chatbox、Open WebUI、AnythingLLM。
  • 没有基准测试: PromptQuorum没有测量这些应用在Mac上的每秒token数;本文对比的是官方来源中的事实。

应该先安装哪款Mac应用?

想要窗口、模型浏览器又不想用终端,就从LM Studio开始;习惯命令行,或需要给其他工具提供本地API,就从Ollama开始。 两者都免费,模型都在你的Mac上运行。之后如果想在同一批模型上加浏览器界面或文档聊天,再添加Open WebUI或AnythingLLM。

📍 简单一句话

2026年对大多数Mac用户来说,先装LM Studio(免费,Apple Silicon,macOS 14及以上)并下载小模型;偏好终端或需要本地API时用Ollama。

💬 简单来说

LM Studio是带按钮的普通Mac应用。Ollama是后台服务,通过终端或其他应用来操作。选择适合你工作方式的即可,两个也可以都装。

Mac应用对比表

这八款应用在三个方面不同:使用方式(窗口、终端还是浏览器)、能否连接云端模型,以及支持哪些Mac。 版本和许可证条款于2026年10月31日取自各项目官方页面。

应用
费用/许可证
Mac要求
界面
最适合
LM Studio免费(闭源)Apple Silicon,macOS 14+桌面应用最容易的首次安装
Ollama免费(MIT)macOS 14+;Intel仅CPU命令行、API、应用开发者、本地API
Jan免费(开源)macOS 13.6+(README)桌面应用开源聊天
Msty免费增值(闭源)未公布(见msty.ai)桌面应用多模型聊天
AnythingLLM免费(MIT)Apple Silicon和Intel安装包桌面应用、网页与文档聊天
Open WebUI免费(修改版BSD)浏览器即可,任何Mac浏览器(Docker/pip)浏览器聊天界面
oMLX免费(Apache-2.0)Apple Silicon,macOS 15+Mac应用、服务器MLX推理
Chatbox免费(GPL-3.0)macOS应用(见chatboxai.app)桌面应用、网页轻量客户端

Mac要求来自各项目自己的文档。项目未公布要求时,表中如实注明,不作猜测。

LM Studio:最简单的图形应用

LM Studio是在Mac上用普通应用窗口运行模型的最简单方式。 它包含模型浏览器、聊天视图和本地服务器模式。完整评测:LM Studio评测。

  • 简介: 面向本地模型的免费图形应用;LM Studio官网称其运行时底层使用MLX和llama.cpp。它是闭源软件,目录记录显示个人和商业使用均免费。
  • 最新版本(2026年10月31日核对): 0.4.28,2026年10月31日(来源)。
  • Mac要求: 据LM Studio系统要求页面,需要Apple Silicon(列出M1至M4)和macOS 14或更高版本。不支持Intel Mac。
  • 最适合: 想在不使用终端的情况下浏览、下载和聊天的新手。

Ollama:命令行、API与桌面应用

Ollama是终端用户和一切需要本地模型API场景的默认选择。 它以后台服务运行,提供命令行、HTTP API和桌面应用。完整评测:Ollama评测。安装指南:在Mac上使用Ollama。

  • 简介: MIT许可证的运行时。可挂载磁盘映像安装,或用Homebrew安装(brew install ollama;Homebrew中有该formula)。
  • 最新版本(2026年10月31日核对): v0.40.13,2026年10月28日(来源)。
  • Mac要求: macOS Sonoma(14)或更高版本;Apple M系列芯片支持CPU和GPU,Intel Mac仅使用CPU(Ollama的macOS文档)。
  • 最适合: 开发者、脚本,以及作为Open WebUI等聊天应用的后端。

Jan:开源聊天应用

Jan是免费的开源桌面聊天应用,在本地运行模型。 它像聊天助手一样使用,并为你下载模型。完整评测:Jan评测。

  • 简介: 开源桌面应用(目录记录的许可证为Apache 2.0变体),提供macOS通用版下载。
  • 最新版本(2026年10月31日核对): v0.8.8,2026年10月28日(来源)。
  • Mac要求: 其README列出macOS 13.6或更高版本,3B模型约需8 GB内存,7B模型约需16 GB。
  • 最适合: 想要托管聊天助手的开源替代品的用户。

Msty:多模型聊天

Msty是一款精致的聊天应用,可在同一窗口中与本地模型和云服务商对话。 它是闭源软件,有免费版。完整评测:Msty评测。

  • 简介: CloudStack, LLC开发的桌面聊天客户端,更新日志发布在msty.ai。目录将其列为免费增值、闭源。
  • 最新版本(2026年10月31日核对): Msty Studio 3.0.0 Beta 15,2026年10月7日(来源)。
  • Mac要求: PromptQuorum查看的页面均未公布;安装前请到msty.ai确认。
  • 最适合: 想用一个界面连接多个服务商和模型的人。

AnythingLLM:与你的文档聊天

想就自己的文件提问时,AnythingLLM是合适的选择。 它自带向量库和文档聊天。完整评测:AnythingLLM评测。

  • 简介: MIT许可证的应用,有桌面版和Docker版;可使用本地模型或云服务商。
  • 最新版本(2026年10月31日核对): v1.19.0,2026年10月26日(来源)。
  • Mac要求: 官方macOS安装页面分别提供Apple Silicon和Intel Mac的安装包。
  • 最适合: 在笔记本电脑上进行私密的文档问答。

Open WebUI:浏览器聊天界面

Open WebUI为本地模型提供类似ChatGPT的网页界面,但本身不运行模型。 请与Ollama搭配使用。完整评测:Open WebUI评测。替代方案:最佳本地LLM前端。

  • 简介: 自托管网页应用,用Docker或pip安装。自v0.6.6起采用带品牌条款的修改版BSD-3-Clause许可证,项目自己说明它不是OSI批准的许可证;仍可免费运行。
  • 最新版本(2026年10月31日核对): v0.12.5,2026年10月29日(来源)。
  • Mac要求: 除Docker或Python外没有其他要求;任何有浏览器的Mac都能打开,模型在你连接的后端中运行。
  • 最适合: 在Ollama之上为一人或多人提供浏览器界面。

oMLX:面向Apple Silicon的MLX推理服务器

oMLX面向想把Apple的MLX框架放在本地服务器和Mac应用背后的用户。 完整评测:oMLX评测。背景:Mac上的MLX、Ollama与llama.cpp对比。

  • 简介: Apache-2.0的MLX推理服务器,macOS应用会安装一个小型命令行垫片。
  • 最新版本(2026年10月31日核对): v0.7.3rc1,2026年10月27日(来源)。
  • Mac要求: Apple Silicon(M1至M5)和macOS 15.0或更高版本(项目README)。GitHub上最新的标签v0.7.3rc1是候选版本。
  • 最适合: Apple原生推理和本地编程智能体。

Chatbox:轻量客户端

Chatbox是一款小巧的跨平台聊天客户端,可用于本地和云端模型。 完整评测:Chatbox评测。

  • 简介: 桌面和网页客户端;社区版以GPL-3.0开源。
  • 最新版本(2026年10月31日核对): v1.23.5,2026年9月24日(来源)。
  • Mac要求: 项目提供macOS下载;最新要求请见chatboxai.app。
  • 最适合: 连接Ollama或LM Studio服务器的轻量客户端。

你的Mac需要多少内存?

无论选哪款应用,限制都来自统一内存。 应用改变的是界面,而不是模型所需的内存。

常见错误

  • 在Intel Mac上安装LM Studio或oMLX。 两者都需要Apple Silicon。请改用Ollama(Intel上仅CPU)或AnythingLLM。
  • 以为Open WebUI会运行模型。 它只是界面;请先安装Ollama或其他后端。
  • 以为每个聊天应用都完全在本地运行。 Msty、Chatbox、Open WebUI和AnythingLLM也可以连接云服务商;发送私密文本前请检查服务商设置。
  • 下载比内存还大的模型。 应用会安装它,但响应会很慢或失败。先从小模型开始,再逐步升级。
  • 安装五款应用,各自有独立的模型文件夹。 每款应用可能各存一份相同的模型;保留一两款即可节省磁盘空间。

来源

常见问题

Mac上最好的本地AI应用是什么?

LM Studio是最容易上手的第一款应用(免费,Apple Silicon,macOS 14及以上)。Ollama最适合终端用户和开发者。Jan是不错的开源聊天应用。最佳选择取决于你想要窗口、命令行还是浏览器界面。

Mac上有哪些LM Studio的替代品?

Ollama(命令行和API)、Jan(开源聊天应用)、Msty(多模型聊天)、AnythingLLM(文档聊天)和Chatbox(轻量客户端)。Open WebUI是与Ollama搭配的浏览器界面,并非直接替代品。

可以用Homebrew安装Ollama吗?

可以。Homebrew有ollama的formula,所以brew install ollama可用。你也可以挂载官方磁盘映像,把Ollama拖到“应用程序”文件夹。

这些应用能在Intel Mac上运行吗?

部分可以。LM Studio和oMLX需要Apple Silicon。Ollama在Intel Mac上以仅CPU模式运行,AnythingLLM提供Intel安装包。Open WebUI在浏览器中运行,但所连接的后端仍需在某处运行。

这些应用免费吗?

LM Studio、Ollama、Jan、AnythingLLM、Open WebUI、oMLX和Chatbox可免费下载;Msty有免费版和付费选项。许可证各不相同:Ollama和AnythingLLM为MIT,oMLX为Apache-2.0,Chatbox社区版为GPL-3.0,LM Studio和Msty为闭源。

想与自己的文档聊天,应选哪款应用?

AnythingLLM正是为此设计:带内置向量库的文档聊天功能。Open WebUI连接Ollama等后端后也支持文档聊天。

已经在用Ollama,还需要Open WebUI吗?

不需要。Ollama可在终端和自带桌面应用中使用。Open WebUI在Ollama之上增加浏览器界面、多用户和更多功能。

Mac上的本地LLM能离线使用吗?

已下载的模型可以。LM Studio、Ollama、Jan和oMLX在你的Mac上运行模型。Msty、Chatbox、Open WebUI和AnythingLLM中调用云服务商或网页搜索的功能需要联网。

我需要多少内存?

取决于模型,而不是应用。Jan的README建议3B模型约8 GB内存,7B模型约16 GB。更大的模型需要更多;请查看各模型卡。

← 返回 本地LLM进阶

MCP