Skip to main content
PromptQuorum
主页/本地LLM进阶/Jan 评测 2026:开源离线版 ChatGPT 替代方案
Easiest Desktop Apps

Jan 评测 2026:开源离线版 ChatGPT 替代方案

·阅读约11分钟·Hans Kuepper 作者 · PromptQuorum创始人,多模型AI调度工具 · PromptQuorum

**Jan 是一款免费开源的桌面应用(jan.ai,源代码位于github.com/janhq/jan),通过内置的llama.cpp引擎在你自己的电脑上完整运行 AI 模型,并可选择连接 OpenAI、Anthropic 等云端提供商。**它没有任何付费层级:GitHub 仓库的LICENSE 文件是 Apache License 2.0 的一个变体,附加了一条署名请求条款,jan.ai 网站也没有定价页面。Jan 可在 macOS、Windows 和 Linux 上运行,提供精选模型中心与直接从 HuggingFace 下载模型的功能、一个兼容 OpenAI 的本地 API 服务器,以及用于连接外部工具的 Model Context Protocol(MCP)支持。

Jan(jan.ai,源代码位于github.com/janhq/jan)是一款免费、开源的桌面应用,可以在你自己的电脑上运行 AI 模型,同时也可以按需接入 OpenAI、Anthropic 等云端提供商。它基于llama.cpp构建——这也是许多其他本地 AI 工具背后使用的同一款开源推理引擎,安装为单个文件,无需账号、订阅或使用限制。本评测将说明 Jan 究竟能做什么、它从何而来、如何下载,以及它在众多本地优先聊天应用中的定位。

Jan 评测 2026:开源离线版 ChatGPT 替代方案

关键要点

  • Jan 免费开源;官方 GitHub LICENSE 是 Apache License 2.0 的一个变体,附加了署名请求条款,jan.ai 没有定价页面
  • 通过内置的llama.cpp引擎运行本地模型(在受支持的 Apple Silicon 系统上,MLX 可作为替代引擎)
  • 可连接云端提供商——OpenAI、Anthropic、Google Gemini、Groq、Mistral AI、Azure OpenAI、OpenRouter——也可通过 OpenAI/Anthropic 兼容的自定义端点连接 Ollama、vLLM、LocalAI 等自托管后端
  • 提供精选模型中心(包括 Jan 自家发布的 Jan Nano 与 Jan-v3 系列),以及从 HuggingFace 直接下载模型的功能
  • 内置一个位于http://127.0.0.1:1337的兼容 OpenAI 的本地 API 服务器,让其他应用把 Jan 当作后端使用
  • 支持 Model Context Protocol(MCP),用于连接外部工具和类似智能体的工作流
  • 支持 macOS、Windows 和 Linux,也可通过 Microsoft Store 和 Flathub 获取
  • 由总部位于新加坡的Menlo Research开发;托管代码的 GitHub 组织为janhq

📍 简单一句话

Jan 是一款免费开源的桌面应用,通过内置的 llama.cpp 引擎离线运行 AI 模型,可选连接云端提供商,且没有任何付费层级。

💬 简单来说

与为类 ChatGPT 订阅付费不同,Jan 让你把模型下载到自己的电脑上,在本地与之对话——无需账号,模型下载完成后也不需要联网,也没有账单。如果需要,你还可以在同一个应用里添加自己的 OpenAI 或 Anthropic API 密钥来使用云端模型。

📌: 本评测是本地 LLM 软件目录中 Jan 条目的深度解读——如需快速了解 Jan 与其他数十款本地 AI 工具的对比,请查看该页面。

Jan 是什么?

Jan 是一款桌面应用,用于与运行在你自己电脑上的 AI 模型对话;如果你愿意,也可以通过自己的 API 密钥与云端提供商服务器上的模型对话。它自己的GitHub 描述将其称为"一款完全离线运行在你电脑上的 ChatGPT 开源替代品"。根据仓库的 GitHub 主题标签,该应用本身是一款基于Tauri的桌面应用,内置本地推理引擎,因此基本的离线聊天体验并不依赖预先安装其他软件。

  • 核心功能:一个聊天界面,既可以通过内置引擎在本地运行模型,也可以把请求路由到你自行配置的云端 API 和自托管后端
  • 本地推理引擎:根据 Jan 自己的文档,使用llama.cpp和 GGML,在受支持的 Apple Silicon 硬件上,MLX 可作为替代引擎
  • 云端与自托管连接:OpenAI、Anthropic、Google Gemini、Groq、Mistral AI、Azure OpenAI、OpenRouter 和 HuggingFace,以及针对 Ollama、vLLM、LocalAI 等后端的 OpenAI/Anthropic 兼容自定义端点
  • 开发方:Menlo Research,一家在新加坡注册的公司;GitHub 在仓库的LICENSE 文件中将版权持有人列为"Menlo Research"
  • 规范仓库:github.com/janhq/jan——目前 Jan 源代码、发行版和 Issue 跟踪系统实际使用的项目与组织名称

Jan 的项目历史与版本里程碑

Jan 的 GitHub 仓库创建于 2023 年 8 月,此后项目持续发布更新,先后加入了本地 API 服务器、全新设计的界面,以及最近的 Model Context Protocol 支持和原生网页搜索功能。一些第三方公司数据库将 Jan 最初的开发方描述为"Homebrew"(也写作"Homebrew Computer Company"),并认为这是现在以 Menlo Research 名义运作的团队的早期名称;PromptQuorum 未能通过 Jan 或 Menlo Research 的官方声明独立核实这一改名,因此请将其视为二级信息源的说法,而非已核实的事实。

  1. 1
    v0.4.3 — 2023年12月21日:跨平台推理加速
    Why it matters: 根据官方更新日志,在 Mac、Windows、Linux 以及配备 GPU 的机器上,推理速度均有提升。
  2. 2
    v0.4.5 — 2024年1月29日:引入本地 API 服务器
    Why it matters: 新增了兼容 OpenAI 的本地 API 服务器,这一功能让其他应用可以把 Jan 当作后端来使用。
  3. 3
    v0.5.0 — 2024年6月3日:界面改版并支持 Codestral
    Why it matters: 对界面进行了重大改版,旨在让应用更清晰易用,同时新增了模型支持。
  4. 4
    v0.6.1 — 2025年6月19日:界面全面重新设计
    Why it matters: Jan 的更新日志将此描述为对应用外观和体验的一次彻底重新设计。
  5. 5
    v0.7.0 — 2025年10月2日:Projects 功能与 Azure 支持
    Why it matters: 新增了以项目为单位组织对话的功能、模型重命名,以及对 Azure OpenAI 提供商的支持。
  6. 6
    v0.8.0 — 2026年5月22日:Multi-Token Prediction 与统一的 llama.cpp 路由器
    Why it matters: 为兼容的 llama.cpp 模型新增了 Multi-Token Prediction,并将应用的本地推理流程整合为单一的 llama.cpp 路由器。
  7. 7
    v0.8.4 — 2026年7月21日:原生网页搜索与按模型设置
    Why it matters: 新增了原生的 web_search 和 web_fetch 工具,以及按模型的聊天模板配置和后端管理的设置存储——这是本评测撰写时[官方更新日志](https://jan.ai/changelog)记录的最新里程碑。

用 Jan 能做什么?

Jan 的功能集围绕一个核心思路:默认在本地运行模型,同时把云端模型和外部工具作为可选附加项提供。以下根据 Jan 自己的GitHub README文档,说明每项功能实际的作用。

  • 本地 AI 模型 — 从 HuggingFace 下载并运行开放权重模型(Llama、Gemma、Qwen、GPT-oss 等),或者从 Jan 自己精选的模型中心下载,其中包括 Jan 自家发布的 Jan-Code-4B、Jan-v3-4B、Jan-v2-VL 以及 Jan Nano 32k/128k 等版本
  • 云端集成 — 添加你自己的 OpenAI(GPT 模型)、Anthropic(Claude 模型)、Google Gemini、Groq、Mistral AI、Azure OpenAI 或 OpenRouter API 密钥,即可在与本地模型相同的窗口中与这些云端模型对话
  • 自定义端点 — Jan 还可以连接任何使用 OpenAI 或 Anthropic 通信格式的后端,实际上这涵盖了Ollama、vLLM、LocalAI 等自托管服务器,以及 LiteLLM 等路由层
  • 自定义助手 — 创建针对特定任务或人设配置的助手,而不必每次都从空白的默认状态开始对话
  • 兼容 OpenAI 的本地 API 服务器 — Jan 可以在http://127.0.0.1:1337公开一个 API 服务器,其请求/响应格式与 OpenAI API 一致,其他工具可以指向 Jan,而不是云端端点
  • Model Context Protocol(MCP) — 将 Jan 连接到 MCP 服务器和工具(Jan 的文档以 Claude Code 和 OpenClaw 为例),实现类似智能体的、使用工具的工作流
  • 注重隐私的设计 — 按照 Jan 自身的定位,只要只使用本地模型且不添加云端提供商连接,一切都可以在本地运行,没有任何数据离开你的设备

使用示例:三种使用 Jan 的方式

以下是基于上文中 Jan 已记录功能构建的具体工作流——而不是假设性的用例。

Jan 的定价:真的免费吗?

是的——Jan 没有任何付费层级。jan.ai没有定价页面,GitHub LICENSE 文件适用于整个应用,而不是"免费"功能的某个子集。许可证文本基于 Apache License 2.0 版本,只增加了一处内容:在"用户可见的文档和材料中,如适用"请求(并非严格要求)署名。由于这一附加条款,GitHub 自己的仓库元数据将其归类为自定义("Other")许可证,而非未经修改的 Apache 2.0——它并非逐字照搬 OSI 认可的标准 Apache 2.0 文本。

  • 没有订阅,没有付费层级,Jan 本身不设任何使用限制
  • 使用该应用无需账号或注册
  • 通过 Jan 使用云端模型(OpenAI、Anthropic 等)时,仍需按对应提供商收取的 API 使用费用支付——Jan 本身不加收任何加价或费用
  • 根据官方 LICENSE 文件,应用许可证是附加了署名请求的 Apache License 2.0 变体——AGPL 等许可证所附带的著佐权(copyleft)义务并不适用于此文本

Jan vs. GPT4All

**Jan 和GPT4All都是较为成熟的、完全开源、本地优先的聊天应用**,两者常被拿来比较,因为它们都强调无需账号即可离线运行模型。最明显的区别在于各自处理云端模型的方式,以及各自项目的组织方式。

方面
Jan
GPT4All
本地引擎llama.cpp(+ MLX 选项)基于 llama.cpp
云端模型支持内置——OpenAI、Anthropic、Gemini、Groq、Mistral、Azure、OpenRouter有限 / 非核心重点
本地 API 服务器有,兼容 OpenAI(:1337有,兼容 OpenAI 的本地服务器
工具/智能体支持MCP 集成非核心重点
开发方Menlo ResearchNomic AI
支持平台macOS/Windows/Linux + MS Store/FlathubmacOS/Windows/Linux

如果你优先考虑带有工具/智能体连接(MCP)的本地加云端混合工作流,Jan 的功能集更为全面。如果你优先考虑尽可能简单的、完全离线的聊天客户端,功能面越精简越好,值得直接到nomic.ai/gpt4all评估 GPT4All。两者都是免费开源的;由于两个项目都会频繁发布更新,决定之前请分别到各自的官方网站核实当前的功能细节。

谁适合使用 Jan?

Jan 是否适合你,取决于你是否想用一款免费应用同时覆盖完全离线聊天和可选的云端模型,并附带一个供其他工具使用的本地 API 服务器。

Jan 与其他本地聊天应用对比

Jan 是若干将本地模型推理与可选云端连接结合在单一界面中的应用之一。以下是它在这一领域中与其他选项相比的定位——完整目录请参见本地 LLM 软件目录,最直接的正面对比请参见上文的Jan vs. GPT4All 对比

  • LM Studio** — 一款以本地模型为重点的聊天与模型管理应用,内置精美的模型浏览器;关于它与 Jan 的详细对比,请参见LM Studio vs. Jan vs. GPT4All 对比
  • GPT4All** — Nomic AI 出品的开源本地聊天客户端;详见上文的专门对比部分。
  • Msty** — 一款闭源桌面应用,同样融合了本地与云端模型聊天,并增加了模型并列比较、文档 RAG 等功能;详见Msty 评测
  • Enchanted** — 一款专为Ollama打造的开源原生 Mac/iOS 客户端;平台覆盖范围比 Jan 窄,但原生适配 Apple 平台。详见Enchanted 评测
  • BoltAI** — 一款 macOS/Windows AI 助手应用,除支持本地和云端模型外,还具有深度操作系统级集成(系统级快捷键、应用集成);详见BoltAI 评测
  • AnythingLLM** — 一款专注于文档聊天与 RAG 的应用;如果对自己文档的检索是你最需要的功能,请参见AnythingLLM vs. PrivateGPT vs. Open WebUI RAG 对比
  • Open WebUI** — 一款通常与 Ollama 搭配使用的自托管、基于浏览器的聊天界面;与 Jan 不同,它是作为一个 Web 应用(通常在容器中)部署的,而不是你直接安装的原生桌面客户端。

评估 Jan 时的常见误区

关于 Jan 的大部分困惑,源于其许可证条款、与 Menlo Research 的关系,或误以为它是纯离线、完全没有云端选项的应用。

常见问题

Jan 是什么?

Jan(jan.ai,源代码位于github.com/janhq/jan)是一款免费开源的桌面应用,通过内置的llama.cpp引擎在本地运行 AI 模型,并可选连接 OpenAI、Anthropic 等云端提供商。

Jan 是免费的吗?

是的。jan.ai 没有定价页面,GitHub LICENSE 文件适用于整个应用,没有付费层级。如果你连接了 OpenAI 等云端提供商,你会直接向该提供商支付 API 使用费——Jan 本身不收取任何费用。

Jan 是开源的吗?它使用什么许可证?

是的,Jan 是开源的。它的LICENSE 文件基于 Apache License 2.0,附加了一条在用户可见材料中署名的请求。由于这一条款,GitHub 的仓库元数据将其归类为自定义("Other")许可证,而非未经修改的 Apache 2.0。一些第三方列表将 Jan 描述为 AGPL 3.0——根据对当前 LICENSE 文件的直接核查,这一说法并不准确;任何法律判断都请自行核实许可证文本。

Jan 能离线使用吗?

可以。一旦你通过 Jan 的模型中心或从 HuggingFace 下载了本地模型,Jan 就会通过其内置的 llama.cpp 引擎运行该模型,无需联网。只有在首次下载模型,或使用已连接的云端提供商时,才需要联网。

Jan 支持 GPT 或 Claude 这样的云端模型吗?

支持。Jan 允许你连接自己的 OpenAI、Anthropic、Google Gemini、Groq、Mistral AI、Azure OpenAI 和 OpenRouter API 密钥,让你在同一款应用中同时使用云端模型和本地模型。

Jan 能连接 Ollama、vLLM 或 LocalAI 吗?

可以,通过自定义端点实现。Jan 可以连接任何使用 OpenAI 或 Anthropic API 格式的后端,这涵盖了在 Settings > Model Providers 中配置的 Ollama、vLLM、LocalAI 等自托管服务器。

Jan 支持哪些平台?

根据官方 GitHub README,支持 macOS(通用版)、Windows 和 Linux(.deb 和 AppImage 包)。Jan 也通过 Microsoft Store 和 Flathub 分发。

Jan 有本地 API 服务器吗?

有。Jan 可以运行一个位于http://127.0.0.1:1337的兼容 OpenAI 的本地 API 服务器,需要从 Settings > Local API Server 手动启动。期望 OpenAI API 格式的其他应用,可以指向这个地址,而不是云端端点。

谁开发了 Jan?

Jan 由Menlo Research开发,这是一家在新加坡注册的公司,在 Jan 的LICENSE 文件中被列为版权持有人。一些第三方公司数据库提到了此前的团队名称"Homebrew",但 PromptQuorum 未能通过官方来源独立核实这一点。

Jan 最初是什么时候发布的?

Jan 的 GitHub 仓库创建于 2023 年 8 月。本评测能够核实的公开更新日志条目从版本 0.4.3(2023年12月21日)开始,持续到版本 0.8.4(2026年7月21日)——完整历史请参见官方更新日志

资料来源

← 返回 本地LLM进阶