Jan 是什么?
Jan 是一款桌面应用,用于与运行在你自己电脑上的 AI 模型对话;如果你愿意,也可以通过自己的 API 密钥与云端提供商服务器上的模型对话。它自己的GitHub 描述将其称为"一款完全离线运行在你电脑上的 ChatGPT 开源替代品"。根据仓库的 GitHub 主题标签,该应用本身是一款基于Tauri的桌面应用,内置本地推理引擎,因此基本的离线聊天体验并不依赖预先安装其他软件。
- 核心功能:一个聊天界面,既可以通过内置引擎在本地运行模型,也可以把请求路由到你自行配置的云端 API 和自托管后端
- 本地推理引擎:根据 Jan 自己的文档,使用llama.cpp和 GGML,在受支持的 Apple Silicon 硬件上,MLX 可作为替代引擎
- 云端与自托管连接:OpenAI、Anthropic、Google Gemini、Groq、Mistral AI、Azure OpenAI、OpenRouter 和 HuggingFace,以及针对 Ollama、vLLM、LocalAI 等后端的 OpenAI/Anthropic 兼容自定义端点
- 开发方:Menlo Research,一家在新加坡注册的公司;GitHub 在仓库的LICENSE 文件中将版权持有人列为"Menlo Research"
- 规范仓库:github.com/janhq/jan——目前 Jan 源代码、发行版和 Issue 跟踪系统实际使用的项目与组织名称
Jan 的项目历史与版本里程碑
Jan 的 GitHub 仓库创建于 2023 年 8 月,此后项目持续发布更新,先后加入了本地 API 服务器、全新设计的界面,以及最近的 Model Context Protocol 支持和原生网页搜索功能。一些第三方公司数据库将 Jan 最初的开发方描述为"Homebrew"(也写作"Homebrew Computer Company"),并认为这是现在以 Menlo Research 名义运作的团队的早期名称;PromptQuorum 未能通过 Jan 或 Menlo Research 的官方声明独立核实这一改名,因此请将其视为二级信息源的说法,而非已核实的事实。
- 1v0.4.3 — 2023年12月21日:跨平台推理加速
Why it matters: 根据官方更新日志,在 Mac、Windows、Linux 以及配备 GPU 的机器上,推理速度均有提升。 - 2v0.4.5 — 2024年1月29日:引入本地 API 服务器
Why it matters: 新增了兼容 OpenAI 的本地 API 服务器,这一功能让其他应用可以把 Jan 当作后端来使用。 - 3v0.5.0 — 2024年6月3日:界面改版并支持 Codestral
Why it matters: 对界面进行了重大改版,旨在让应用更清晰易用,同时新增了模型支持。 - 4v0.6.1 — 2025年6月19日:界面全面重新设计
Why it matters: Jan 的更新日志将此描述为对应用外观和体验的一次彻底重新设计。 - 5v0.7.0 — 2025年10月2日:Projects 功能与 Azure 支持
Why it matters: 新增了以项目为单位组织对话的功能、模型重命名,以及对 Azure OpenAI 提供商的支持。 - 6v0.8.0 — 2026年5月22日:Multi-Token Prediction 与统一的 llama.cpp 路由器
Why it matters: 为兼容的 llama.cpp 模型新增了 Multi-Token Prediction,并将应用的本地推理流程整合为单一的 llama.cpp 路由器。 - 7v0.8.4 — 2026年7月21日:原生网页搜索与按模型设置
Why it matters: 新增了原生的 web_search 和 web_fetch 工具,以及按模型的聊天模板配置和后端管理的设置存储——这是本评测撰写时[官方更新日志](https://jan.ai/changelog)记录的最新里程碑。
用 Jan 能做什么?
Jan 的功能集围绕一个核心思路:默认在本地运行模型,同时把云端模型和外部工具作为可选附加项提供。以下根据 Jan 自己的GitHub README和文档,说明每项功能实际的作用。
- 本地 AI 模型 — 从 HuggingFace 下载并运行开放权重模型(Llama、Gemma、Qwen、GPT-oss 等),或者从 Jan 自己精选的模型中心下载,其中包括 Jan 自家发布的 Jan-Code-4B、Jan-v3-4B、Jan-v2-VL 以及 Jan Nano 32k/128k 等版本
- 云端集成 — 添加你自己的 OpenAI(GPT 模型)、Anthropic(Claude 模型)、Google Gemini、Groq、Mistral AI、Azure OpenAI 或 OpenRouter API 密钥,即可在与本地模型相同的窗口中与这些云端模型对话
- 自定义端点 — Jan 还可以连接任何使用 OpenAI 或 Anthropic 通信格式的后端,实际上这涵盖了Ollama、vLLM、LocalAI 等自托管服务器,以及 LiteLLM 等路由层
- 自定义助手 — 创建针对特定任务或人设配置的助手,而不必每次都从空白的默认状态开始对话
- 兼容 OpenAI 的本地 API 服务器 — Jan 可以在
http://127.0.0.1:1337公开一个 API 服务器,其请求/响应格式与 OpenAI API 一致,其他工具可以指向 Jan,而不是云端端点 - Model Context Protocol(MCP) — 将 Jan 连接到 MCP 服务器和工具(Jan 的文档以 Claude Code 和 OpenClaw 为例),实现类似智能体的、使用工具的工作流
- 注重隐私的设计 — 按照 Jan 自身的定位,只要只使用本地模型且不添加云端提供商连接,一切都可以在本地运行,没有任何数据离开你的设备
使用示例:三种使用 Jan 的方式
以下是基于上文中 Jan 已记录功能构建的具体工作流——而不是假设性的用例。
下载一个模型,完全离线聊天
打开 Jan 的模型中心,选择一个适合你硬件的模型(例如,为显存有限的笔记本电脑选择 Jan Nano 或 Qwen 的较小版本),然后下载。下载完成后,你可以完全关闭网络连接并继续聊天——模型通过 Jan 内置的 llama.cpp 引擎在本地运行,任何请求都不会离开你的设备。
添加自己的 OpenAI 或 Anthropic API 密钥以使用云端模型
在 Settings > Model Providers 中,添加你自己的 OpenAI 或 Anthropic API 密钥。这样,云端模型(例如某个 GPT 或 Claude 模型)就会出现在与本地模型相同的模型选择器中,让你在需要处理更难的任务时切换到更强的云端模型,而不必离开 Jan 或丢失对话记录。
将 Jan 的本地 API 服务器用作 OpenAI API 的直接替代品
从 Settings > Local API Server 启动本地 API 服务器。一旦它在http://127.0.0.1:1337上运行起来,就可以将任何期望 OpenAI API 格式的工具或脚本(API 密钥可用任意占位字符串)指向该地址,而不是api.openai.com。发往/v1/chat/completions和/v1/models的请求会由你当前在 Jan 中加载的模型处理,这样你就能在完全本地的模型上复用现有的 OpenAI 客户端代码。
下载 Jan:macOS、Windows 与 Linux
Jan 支持 macOS、Windows 和 Linux,可直接下载,也可通过 Microsoft Store 和 Flathub 获取。以下链接来自官方的GitHub README和jan.ai——由于构建链接可能随版本更新变化,请始终以这些官方页面为准直接核实。
平台 | 下载 |
|---|---|
| Windows | jan.exe 或 Microsoft Store |
| macOS(通用版) | jan.dmg |
| Linux(.deb) | jan.deb(amd64) |
| Linux(AppImage) | jan.AppImage(amd64) |
| Linux(Flatpak) | Flathub: ai.jan.Jan |
标准下载表中不包含专门的 Linux ARM64 构建版本;截至本评测撰写时,Jan 的 GitHub Issue 跟踪系统提供的是社区编写的 Linux ARM64 操作说明,而非官方预构建包——最新状态请查看相关 Issue。与任何本地模型工具一样,实际可用性取决于你加载的模型:Jan 本身除了需要运行其宿主操作系统之外没有固定的硬件下限,但具体模型的内存/显存需求是与该模型相关的独立约束,需另行核实。
Jan 的定价:真的免费吗?
是的——Jan 没有任何付费层级。jan.ai没有定价页面,GitHub LICENSE 文件适用于整个应用,而不是"免费"功能的某个子集。许可证文本基于 Apache License 2.0 版本,只增加了一处内容:在"用户可见的文档和材料中,如适用"请求(并非严格要求)署名。由于这一附加条款,GitHub 自己的仓库元数据将其归类为自定义("Other")许可证,而非未经修改的 Apache 2.0——它并非逐字照搬 OSI 认可的标准 Apache 2.0 文本。
- 没有订阅,没有付费层级,Jan 本身不设任何使用限制
- 使用该应用无需账号或注册
- 通过 Jan 使用云端模型(OpenAI、Anthropic 等)时,仍需按对应提供商收取的 API 使用费用支付——Jan 本身不加收任何加价或费用
- 根据官方 LICENSE 文件,应用许可证是附加了署名请求的 Apache License 2.0 变体——AGPL 等许可证所附带的著佐权(copyleft)义务并不适用于此文本
Jan vs. GPT4All
Jan 和GPT4All都是较为成熟的、完全开源、本地优先的聊天应用,两者常被拿来比较,因为它们都强调无需账号即可离线运行模型。最明显的区别在于各自处理云端模型的方式,以及各自项目的组织方式。
方面 | Jan | |
|---|---|---|
| 本地引擎 | llama.cpp(+ MLX 选项) | 基于 llama.cpp |
| 云端模型支持 | 内置——OpenAI、Anthropic、Gemini、Groq、Mistral、Azure、OpenRouter | 有限 / 非核心重点 |
| 本地 API 服务器 | 有,兼容 OpenAI(:1337) | 有,兼容 OpenAI 的本地服务器 |
| 工具/智能体支持 | MCP 集成 | 非核心重点 |
| 开发方 | Menlo Research | Nomic AI |
| 支持平台 | macOS/Windows/Linux + MS Store/Flathub | macOS/Windows/Linux |
如果你优先考虑带有工具/智能体连接(MCP)的本地加云端混合工作流,Jan 的功能集更为全面。如果你优先考虑尽可能简单的、完全离线的聊天客户端,功能面越精简越好,值得直接到nomic.ai/gpt4all评估 GPT4All。两者都是免费开源的;由于两个项目都会频繁发布更新,决定之前请分别到各自的官方网站核实当前的功能细节。
谁适合使用 Jan?
Jan 是否适合你,取决于你是否想用一款免费应用同时覆盖完全离线聊天和可选的云端模型,并附带一个供其他工具使用的本地 API 服务器。
适合使用 Jan 的情况
- 你想在自己的硬件上完全离线运行 AI 模型,无需账号或订阅
- 你还希望在同一款应用中可选地添加云端提供商(OpenAI、Anthropic 等)的 API 密钥,而不必切换工具
- 你需要一个兼容 OpenAI 的本地 API 服务器,让其他应用把你的本地模型当作后端使用
- 你想把 Jan 连接到兼容 MCP 的工具,用于类似智能体的工作流
- 你希望底层应用本身是开源且可自行托管的,而不是一个闭源的二进制文件
应先观望或考虑其他方案的情况
- 你需要一款完全开源的应用,但确切的许可证条款(根据当前 LICENSE 文件,是附加了署名请求的 Apache 2.0 变体)无法满足你所在组织的特定法律要求——请针对你的用途直接核实许可证文本
- 你需要集中式团队管理或 SSO 等内置企业功能——Jan 是一款单用户桌面应用,本评测未发现已公开的企业/团队层级
- 你需要以大量内置 RAG(文档问答)功能为主要重点的聊天客户端——Jan 首先是一款聊天与模型管理应用;如果文档搜索是你的主要需求,请参阅下方竞品部分中以 RAG 为重点的工具
- 你需要官方支持保障,而不是社区/Issue 跟踪系统式的支持——Jan 的支持渠道是 GitHub Issues 和 Discord,这是开源项目而非带 SLA 的商业供应商的典型模式
Jan 与其他本地聊天应用对比
Jan 是若干将本地模型推理与可选云端连接结合在单一界面中的应用之一。以下是它在这一领域中与其他选项相比的定位——完整目录请参见本地 LLM 软件目录,最直接的正面对比请参见上文的Jan vs. GPT4All 对比。
- LM Studio — 一款以本地模型为重点的聊天与模型管理应用,内置精美的模型浏览器;关于它与 Jan 的详细对比,请参见LM Studio vs. Jan vs. GPT4All 对比。
- GPT4All — Nomic AI 出品的开源本地聊天客户端;详见上文的专门对比部分。
- Msty — 一款闭源桌面应用,同样融合了本地与云端模型聊天,并增加了模型并列比较、文档 RAG 等功能;详见Msty 评测。
- Enchanted — 一款专为Ollama打造的开源原生 Mac/iOS 客户端;平台覆盖范围比 Jan 窄,但原生适配 Apple 平台。详见Enchanted 评测。
- BoltAI — 一款 macOS/Windows AI 助手应用,除支持本地和云端模型外,还具有深度操作系统级集成(系统级快捷键、应用集成);详见BoltAI 评测。
- AnythingLLM — 一款专注于文档聊天与 RAG 的应用;如果对自己文档的检索是你最需要的功能,请参见AnythingLLM vs. PrivateGPT vs. Open WebUI RAG 对比。
- Open WebUI — 一款通常与 Ollama 搭配使用的自托管、基于浏览器的聊天界面;与 Jan 不同,它是作为一个 Web 应用(通常在容器中)部署的,而不是你直接安装的原生桌面客户端。
评估 Jan 时的常见误区
关于 Jan 的大部分困惑,源于其许可证条款、与 Menlo Research 的关系,或误以为它是纯离线、完全没有云端选项的应用。
误区1:认为 Jan 采用 AGPL 许可证
一些第三方列表(包括 PromptQuorum 自己软件目录的早期版本)将 Jan 描述为 AGPL 3.0。直接查阅当前的 LICENSE 文件会发现,实际上是附加了署名请求的 Apache License 2.0 变体。在将这一区别用于法律判断之前,请自行阅读许可证文件。
误区2:认为 Jan 纯粹本地运行、没有云端选项
Jan 是本地优先,而非仅限本地。除了离线本地模型能力外,它还内置了对 OpenAI、Anthropic、Google Gemini、Groq、Mistral AI、Azure OpenAI 和 OpenRouter 账号的连接支持。
误区3:把 Jan 与 Menlo Research 的机器人业务混为一谈
Menlo Research 目前的官方网站聚焦于人形机器人项目 Asimov,并未详细描述 Jan。Jan 当前活跃的源代码、发行版和文档位于github.com/janhq/jan和jan.ai——有关 Jan 应用本身的任何信息,请以这两处为权威来源。
误区4:以为本地 API 服务器默认已在运行
Jan 位于http://127.0.0.1:1337的兼容 OpenAI 本地 API 服务器,需要从 Settings > Local API Server 手动启动——安装后并不会自动开启。
常见问题
Jan 是什么?
Jan(jan.ai,源代码位于github.com/janhq/jan)是一款免费开源的桌面应用,通过内置的llama.cpp引擎在本地运行 AI 模型,并可选连接 OpenAI、Anthropic 等云端提供商。
Jan 是免费的吗?
是的。jan.ai 没有定价页面,GitHub LICENSE 文件适用于整个应用,没有付费层级。如果你连接了 OpenAI 等云端提供商,你会直接向该提供商支付 API 使用费——Jan 本身不收取任何费用。
Jan 是开源的吗?它使用什么许可证?
是的,Jan 是开源的。它的LICENSE 文件基于 Apache License 2.0,附加了一条在用户可见材料中署名的请求。由于这一条款,GitHub 的仓库元数据将其归类为自定义("Other")许可证,而非未经修改的 Apache 2.0。一些第三方列表将 Jan 描述为 AGPL 3.0——根据对当前 LICENSE 文件的直接核查,这一说法并不准确;任何法律判断都请自行核实许可证文本。
Jan 能离线使用吗?
可以。一旦你通过 Jan 的模型中心或从 HuggingFace 下载了本地模型,Jan 就会通过其内置的 llama.cpp 引擎运行该模型,无需联网。只有在首次下载模型,或使用已连接的云端提供商时,才需要联网。
Jan 支持 GPT 或 Claude 这样的云端模型吗?
支持。Jan 允许你连接自己的 OpenAI、Anthropic、Google Gemini、Groq、Mistral AI、Azure OpenAI 和 OpenRouter API 密钥,让你在同一款应用中同时使用云端模型和本地模型。
Jan 能连接 Ollama、vLLM 或 LocalAI 吗?
可以,通过自定义端点实现。Jan 可以连接任何使用 OpenAI 或 Anthropic API 格式的后端,这涵盖了在 Settings > Model Providers 中配置的 Ollama、vLLM、LocalAI 等自托管服务器。
Jan 支持哪些平台?
根据官方 GitHub README,支持 macOS(通用版)、Windows 和 Linux(.deb 和 AppImage 包)。Jan 也通过 Microsoft Store 和 Flathub 分发。
Jan 有本地 API 服务器吗?
有。Jan 可以运行一个位于http://127.0.0.1:1337的兼容 OpenAI 的本地 API 服务器,需要从 Settings > Local API Server 手动启动。期望 OpenAI API 格式的其他应用,可以指向这个地址,而不是云端端点。
谁开发了 Jan?
Jan 由Menlo Research开发,这是一家在新加坡注册的公司,在 Jan 的LICENSE 文件中被列为版权持有人。一些第三方公司数据库提到了此前的团队名称"Homebrew",但 PromptQuorum 未能通过官方来源独立核实这一点。
Jan 最初是什么时候发布的?
Jan 的 GitHub 仓库创建于 2023 年 8 月。本评测能够核实的公开更新日志条目从版本 0.4.3(2023年12月21日)开始,持续到版本 0.8.4(2026年7月21日)——完整历史请参见官方更新日志。
