跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Easiest Desktop Apps

Sidekick评测:一款免费的原生macOS本地AI聊天应用

·阅读约10分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

Sidekick是一款免费、开源、原生的macOS应用,让您可以与本地LLM对话,该模型能够使用您自己的文件、文件夹和网站中的信息作答,无需安装任何其他软件。 由开发者John Bean(johnbean393)创建,采用MIT许可证发布,Sidekick通过内置的llama.cpp引擎完全运行在Apple Silicon Mac上,同时也可以通过API连接OpenAI、Anthropic、Google AI Studio、DeepSeek和Groq等云端服务商。

关键要点

  • Sidekick(github.com/johnbean393/Sidekick)是一款免费、开源的原生macOS应用——不是跨平台的Electron应用
  • 由开发者John Bean(GitHub账号johnbean393)创建
  • 采用MIT许可证,已通过仓库自身的LICENSE文件确认
  • 需要一台Apple Silicon(M系列)Mac——本评测未发现Intel Mac、Windows或Linux版本
  • 通过内置的llama.cpp引擎运行本地模型,并可通过可自定义的"Experts"功能针对您自己的文件、文件夹和网站进行检索增强生成
  • 可选择通过兼容OpenAI的API连接方式接入云端服务商——OpenAI、Anthropic、Google AI Studio、DeepSeek、Groq
  • 截至本评测时,根据GitHub API,GitHub星标数超过3,300

📍 简单一句话

Sidekick是一款免费、开源(MIT)的原生macOS应用,专为Apple Silicon Mac设计,通过内置的llama.cpp引擎与本地LLM对话,并能使用您自己的文件、文件夹和网站中的信息回答问题,GitHub星标数超过3,300。

💬 简单来说

Sidekick是一款下载、安装后即可运行的Mac应用,无需终端或Python环境配置。它会将AI模型下载到您自己的电脑上,让您指定特定的文件夹、文件或网页,使其能够回答相关问题——不需要云端账号或订阅,不过您也可以之后选择性地添加云端API密钥。

📌注: 本评测是本地LLM软件目录中Sidekick条目的深度补充——该页面提供了Sidekick与数十款其他本地AI工具的快速对比。本评测基于Sidekick自身的GitHub仓库、README和安装指南,并非PromptQuorum的实测基准测试。

选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Sidekick(github.com/johnbean393/Sidekick)是一款免费、开源、原生的macOS应用程序,可与本地LLM对话,并能从您自己的文件、文件夹和网站中提取信息,无需安装其他任何软件。它基于llama.cpp构建以实现本地推理,专为Apple Silicon Mac设计,GitHub星标数超过3,300。本评测介绍Sidekick实际能做什么、如何安装,以及适合哪些人使用。

Sidekick是什么?

Sidekick是一款原生macOS聊天应用,可在您自己的Mac上运行本地LLM,并能将您自己的文件、文件夹和网站中的相关信息提取到回答中,无需安装任何其他软件。 其GitHub简介称,它让用户能够"与本地LLM对话,该模型可以使用Mac上文件、文件夹和网站中的信息作答"。

  • 产品类型:一款原生macOS桌面应用,不是浏览器应用、CLI工具或IDE扩展
  • 创建者:开发者John Bean,GitHub账号johnbean393
  • 仓库地址:github.com/johnbean393/Sidekick
  • 许可证:MIT,已通过仓库自身的LICENSE文件确认
  • 平台:根据项目自身的安装指南,仅支持Apple Silicon(M系列)Mac——本评测未发现Intel Mac、Windows或Linux版本
  • 规模:截至本评测时,根据GitHub API,GitHub星标数超过3,300

Sidekick实际能做什么?

Sidekick在您的Mac上运行本地LLM,并在此基础上叠加了检索增强生成、工具调用等多项功能,全部内置于一款原生应用中。

  • 本地优先聊天 — 通过内置的llama.cpp引擎在本地运行GGUF模型,模型下载完成后对话可完全离线进行
  • "Experts"(检索增强生成) — 将Sidekick指向特定的文件、文件夹或网站,它会将相关内容片段提取到回答中,全部在本地设备上完成
  • 云端服务商连接 — 可选择添加您自己的OpenAI、Anthropic、Google AI Studio、DeepSeek、Groq或其他兼容OpenAI的API密钥,在本地模型之外使用云端模型
  • 函数调用 — 根据Sidekick自身文档,支持顺序工具执行,让模型可以在回答过程中调用函数来执行计算或操作
  • 深度研究 — 一个多步骤研究代理,根据Sidekick自身的项目介绍,单次查询可综合多达50–80个网页的信息
  • 记忆功能 — 根据项目自身的功能列表,可在不同对话之间保留有关用户的信息
  • 画布编辑器 — 一个内置编辑器,用于创建和有选择性地编辑网站与代码,而不仅仅是在聊天中接收代码
  • 图像生成 — 根据项目文档,在macOS 15.2及更高版本上,可通过CoreML自动检测并生成图像

使用示例:三种使用Sidekick的方式

以下是基于上述Sidekick已记录功能构建的具体工作流程——并非假设性的用例。

完全离线与本地模型对话

安装Sidekick,下载一个适合您Mac内存大小的GGUF模型(根据Sidekick自身文档,支持Qwen系列等现代模型),然后开始对话。模型下载完成后,您可以完全断开互联网连接——对话通过Sidekick内置的llama.cpp引擎运行,不会有任何内容离开您的Mac。

为一个文档文件夹创建"Expert"

将Sidekick的检索增强生成功能指向特定文件夹——例如一组PDF文件或笔记——然后询问其内容相关的问题。Sidekick会在本地设备上检索相关内容片段,并将其纳入模型的回答中,而不会将文档上传到任何地方。

为更复杂的任务添加云端API密钥

在Sidekick的设置中,添加您自己的OpenAI、Anthropic、Google AI Studio、DeepSeek或Groq API密钥。这样就能在同一款应用中同时使用云端模型和本地模型,让您无需离开Sidekick即可切换到更大的云端模型来处理更复杂的任务。

平台、价格与许可

平台

Sidekick的官方说明:
根据项目自身的安装指南,仅为Apple Silicon(M系列)Mac提供的原生macOS应用——没有Intel Mac、Windows或Linux版本。

费用

Sidekick的官方说明:
免费且开源。云端服务商连接是可选的——如果您添加API密钥,费用直接向该服务商支付;Sidekick本身没有付费套餐。

许可

Sidekick的官方说明:
MIT许可证,已通过仓库自身的LICENSE文件确认。

系统要求

Sidekick的官方说明:
根据项目文档,需要至少8GB内存的Apple Silicon Mac;图像生成功能另需macOS 15.2或更高版本。

在依据本表做出合规或购买决策之前,请直接在github.com/johnbean393/Sidekick上核实当前的系统要求和许可信息。

Sidekick适合哪些人?

Sidekick适合使用Apple Silicon的Mac用户,他们希望以原生、无需终端的方式与本地模型对话并使用自己的文件,而不需要安装其他任何软件。

适合您,如果您

  • 拥有一台Apple Silicon Mac,并希望使用原生应用而不是跨平台的Electron应用
  • 希望通过自己的文件、文件夹或网站与本地模型对话,而不将其上传到任何地方
  • 相比基于终端或Python的配置,更偏好一步式的Homebrew或直接下载安装
  • 希望之后可以选择添加云端服务商API密钥,而无需切换应用
  • 对内置的额外功能感兴趣,例如画布编辑器、函数调用或多步骤研究代理,而不只是基础聊天

如果您符合以下情况,请考虑其他工具

  • 使用Intel Mac、Windows或Linux设备——Sidekick没有任何一种系统的版本
  • 需要移动应用——本评测未发现Sidekick的iOS或Android版本
  • 希望由拥有专职支持团队的公司提供支持的工具,而不是独立开发者的项目
  • 需要团队账号、集中管理控制或SLA等企业级功能

Sidekick不适合哪些场景

如果您不使用Apple Silicon,或需要移动应用与企业级支持,Sidekick并不适合。

  • 不支持Intel Mac、Windows或Linux——本评测未发现除Apple Silicon macOS以外任何平台的版本
  • 不是移动应用——仓库中没有记录iOS或Android版本
  • 本评测无法核实其背后有公司支持——请将Sidekick视为一个独立维护、由社区支持的项目,而不是有长期路线图保障的、有风险投资背景的产品
  • 如果您添加云端服务商,费用并非固定——连接OpenAI、Anthropic或其他API密钥意味着您的费用会随该服务商自身的定价变化,与Sidekick本身无关
  • 并非为企业部署设计——本评测未发现团队账号、集中管理或SLA服务

评估Sidekick时的常见误区

关于Sidekick的大多数误解,都源于将其与同名的无关项目混淆,或错误地假设它支持某些它并不支持的硬件。

误区一:将Sidekick与同名的无关项目混淆

"Sidekick"是一个常见的开源项目名称。安装前请务必确认您查看的是github.com/johnbean393/Sidekick这一特定仓库,而不是其他若干个无关的"sidekick"仓库之一。

误区二:假设Sidekick可在Intel Mac或其他操作系统上运行

根据其自身的安装指南,Sidekick专为Apple Silicon(M系列)Mac构建。本评测未发现Intel Mac、Windows或Linux版本——在假设与您的硬件兼容之前,请前往GitHub核实当前的系统要求。

误区三:假设所有功能都需要云端连接

核心聊天功能和检索增强的"Experts"功能完全通过内置的llama.cpp引擎在本地设备上运行。云端服务商连接是可选功能,适用于您需要比Mac本地运行能力更大的模型时。

误区四:假设Sidekick背后有获得融资的公司支持

本评测未发现Sidekick背后存在融资轮次或商业公司的证据——除非您找到具体、有日期标注的相反来源,否则应将其视为开发者John Bean独立维护的开源项目。

竞品与替代方案

在原生、本地优先的Mac聊天应用中,Sidekick与Enchanted和BoltAI最具可比性,此外Msty是一款跨平台的替代选择,Khoj则是采用类似检索增强方式的文档处理类竞品。

Enchanted

主要特点:
开源的原生macOS和iOS聊天客户端,通过Ollama使用本地模型
链接:
Enchanted评测
关于Enchanted的文章（4篇）

其他提及：

另有7篇未显示

BoltAI

主要特点:
原生macOS AI聊天应用,支持系统级快捷键和多服务商接入
链接:
BoltAI评测
关于BoltAI的文章（2篇）

其他提及：

这并非本地聊天应用的完整列表——请参阅本地LLM软件目录获取完整的、定期更新的目录,其中也包含Sidekick自己的目录条目。

在目录中比较

常见问题

Sidekick是什么?

Sidekick(github.com/johnbean393/Sidekick)是一款免费、开源(MIT)的原生macOS应用,可与本地LLM对话,并能使用您自己的文件、文件夹和网站中的信息回答问题。

Sidekick是免费的吗?

是的,Sidekick本身采用MIT许可证,免费且开源。连接可选的云端服务商(OpenAI、Anthropic等)需要支付该服务商直接向您收取的费用;Sidekick不会额外加收费用。

如何安装Sidekick?

根据项目自身文档,可以通过Homebrew运行brew install --cask arcadi4/tap/sidekick,或使用Sidekick GitHub仓库中提供的直接下载链接。两种方式均需要一台Apple Silicon Mac。

Sidekick可以在Intel Mac、Windows或Linux上运行吗?

不可以。本评测未发现Intel Mac、Windows或Linux版本——Sidekick专为Apple Silicon(M系列)Mac构建。

Sidekick需要联网吗?

核心聊天和文件/文件夹检索功能不需要——模型下载完成后,Sidekick通过内置的llama.cpp引擎完全在本地设备上运行。只有在添加可选的云端服务商API密钥时才需要联网。

Sidekick支持哪些本地模型?

根据项目自身文档,Sidekick通过内置的llama.cpp引擎运行GGUF模型,包括Qwen系列等现代模型家族。请查看GitHub仓库获取当前的已测试模型列表。

谁创建了Sidekick?

开发者John Bean(GitHub账号johnbean393)创建并维护Sidekick,这是一个独立的开源项目。

Sidekick可以回答关于我自己文件的问题吗?

可以,通过其"Experts"功能——针对您指定的文件、文件夹或网站进行检索增强生成,全部在本地设备上处理。

Sidekick的最低硬件要求是什么?

根据项目自身的安装指南,需要一台至少配备8GB内存的Apple Silicon(M系列)Mac。具体哪些本地模型能流畅运行,取决于该模型自身的大小与您Mac内存的关系。

PromptQuorum是否独立测试过Sidekick的功能说法?

本评测基于Sidekick自身的GitHub仓库、README和安装指南,而非PromptQuorum的实测基准测试。

参考来源

← 返回 本地LLM进阶

MCP