LibreChat 是什么？
LibreChat 是一款开源、可自托管的聊天平台，旨在将多个 AI 提供商统一到一个界面之下。它不会把你锁定在单一供应商上，而是让你并行配置多个 AI 提供商和本地推理服务器，并可在对话中途切换。该项目由 Danny Avila 和 LibreChat 社区维护，托管在 github.com/danny-avila/LibreChat，GitHub 星标数已超过 42,000。
- 多提供商聊天：将专有 AI 提供商与自托管/本地模型配置为同一界面中的独立端点
- 自定义端点：任何兼容 OpenAI API 的服务器 —— 包括本地推理服务器 —— 无需修改代码即可添加，只需一条配置
- 智能体：具备工具访问能力的无代码自定义助手，配有智能体市场和 Model Context Protocol（MCP）支持
- 代码解释器：跨多种语言的沙箱化执行，支持文件处理
- Artifacts：直接在聊天中生成并渲染 React 组件、HTML 和 Mermaid 图表
- RAG API：一个配套服务（独立仓库），用于上传文档并通过检索增强生成与之对话
- 多用户支持：邮箱/密码登录、OAuth2（Google、GitHub、Discord 等）以及 LDAP，使其可面向团队而非单个用户部署
历史与创始人：Danny Avila
LibreChat 由 Danny Avila 创建，根据其公开的 LibreChat 作者简介，他是一名自学成才的开发者，2022 年开始编程，此前曾从事会计工作，后转向软件工程。该项目最初以 "ChatGPT Clone" 之名，作为他在 Hack Reactor 编程训练营的毕业项目启动，任务要求是在很短时间内从零构建一个全栈项目。Avila 于 2023 年在 GitHub 上将该项目开源，此后持续开发，从单一提供商的 ChatGPT 克隆成长为具备智能体、MCP 和 RAG API 的多提供商平台。
Avila 目前仍是该项目的创始人兼主要维护者。该项目也在 GitHub 上接受社区贡献，并在官方文档网站上列出了项目作者。
LibreChat 与本地 LLM
LibreChat 中的本地模型支持通过其自定义端点功能实现：任何暴露兼容 OpenAI API 的聊天补全端点的推理服务器，都可以注册为提供商，与专有 AI 服务并存 —— 或取而代之。
- Ollama：LibreChat 在其文档中的"本地与远程 AI 提供商"列表中明确列出 Ollama，使其成为开箱即用的受支持目标
- LocalAI、text-generation-webui（oobabooga）、LM Studio、vLLM：这些都提供兼容 OpenAI 的聊天补全 API，LibreChat 的自定义端点配置可以像指向其他任何提供商一样指向它们
- Apple MLX 和 koboldcpp 也出现在该项目文档记录的本地/替代推理提供商列表中
- 完全本地化的部署 —— LibreChat 加本地推理服务器，且未配置任何专有 API 密钥 —— 可将对话数据保留在你自己掌控的基础设施上，并避免按 token 计费的 API 成本
- 可同时配置多个本地和远程端点 —— 团队可以在同一个 LibreChat 实例中同时提供快速的专有模型和私有的本地模型，并按对话切换
📌注: 要实现完全离线的部署，仍需禁用或将其他所有已配置的集成（网络搜索、调用外部 API 的 MCP 工具、通过远程提供商实现的图像生成）指向本地替代方案 —— 自定义端点只会让聊天补全实现本地化，而不会默认让所有功能都本地化。
LibreChat 的工作原理
LibreChat 是一个标准的自托管 Web 应用程序：Node.js/Express 后端、React 前端，以及作为主要数据存储的 MongoDB，以 Docker Compose 栈的形式分发，因此整套系统只需一条命令即可启动。
- 后端：Node.js 搭配 Express 处理 API 请求、提供商/端点路由和认证
- 前端：一个 React 单页应用在浏览器中提供聊天界面
- 数据库：MongoDB 存储对话、用户和配置；一个向量数据库为独立的 RAG API 提供文档嵌入支持
- 部署：官方快速入门使用 Docker Compose 一并启动应用、数据库和配套服务
- 配置：提供商和自定义端点（包括本地推理服务器）在 YAML 配置文件（librechat.yaml）以及环境变量中声明，而非写在代码里
功能：智能体、MCP、RAG、Artifacts
超越基础聊天之外，LibreChat 的功能集中在四个方面：智能体、通过 MCP 实现的工具访问、对你自己文件的检索，以及生成的交互式内容。
- 智能体：可按用例配置的无代码自定义助手，可单独部署，并可通过应用内的智能体市场共享
- Model Context Protocol（MCP）：智能体可以调用兼容 MCP 的工具和数据源，将其能力扩展到模型自身训练之外
- 代码解释器：支持多种语言（根据项目文档，包括 Python、Node.js 等）的沙箱化执行，支持文件上传/下载
- Artifacts：模型可以生成、界面可以在对话内直接渲染 React 组件、HTML 页面和 Mermaid 图表
- RAG API：一个独立的配套服务，用于上传文档并针对你自己的文件进行检索增强聊天
- 图像生成与编辑：与 DALL-E、Stable Diffusion、Flux 等提供商的集成，以及基于 MCP 的图像工具
- 多用户认证：邮箱/密码、OAuth2（Google、GitHub、Discord 及其他提供商），以及面向企业目录的 LDAP
- 会话搜索与多语言界面，支持将其作为共享的、面向团队的部署使用，而非单用户工具
测试与 CI
LibreChat 的 GitHub 仓库通过 GitHub Actions 运行自己的自动化检查，可在 danny-avila/LibreChat 仓库的 .github/workflows 目录中查看。PromptQuorum 并未自行运行 LibreChat 的测试套件；以下内容反映的是在 GitHub 上观察到的该仓库自身工作流文件所显示的信息。
- backend-review.yml 和 frontend-review.yml —— 分别针对后端和前端代码库的自动化代码审查/检查工作流
- playwright-bombadil.yml 和 playwright-mock.yml —— 使用 Playwright 的端到端测试工作流，其中一个针对模拟服务运行
- agents-integration-tests.yml 和 cache-integration-tests.yml —— 分别针对智能体功能和缓存层的集成测试工作流
- a11y.yml —— 一个无障碍性测试工作流
- static-checks.yml —— 静态代码分析
- docker-smoke.yml —— 在发布前对构建好的 Docker 镜像进行的冒烟测试
如何自托管 LibreChat？
官方文档记录的快速入门使用 Docker Compose 部署 LibreChat，一并启动应用、MongoDB 和配套服务。
- 1如果尚未安装，请在 Linux、macOS 或带 WSL2 的 Windows 上安装 Docker 和 Docker Compose。
- 2克隆仓库：git clone https://github.com/danny-avila/LibreChat.git，然后 cd LibreChat。
- 3复制示例环境文件：cp .env.example .env，并为你计划使用的提供商设置相应的值。
- 4要添加本地模型，创建或编辑 librechat.yaml，添加一个指向你本地推理服务器兼容 OpenAI 的 URL 的自定义端点（例如运行在同一台机器或局域网中的 Ollama 或 LM Studio 服务器）。
- 5启动整套服务：docker compose up -d。这会一并启动后端、前端和 MongoDB。
- 6在浏览器中打开该应用（默认为 http://localhost:3080），注册第一个账户，并选择你已配置的端点（专有或本地）以开始聊天。
自托管 LibreChat 需要 GPU 吗？
LibreChat 本身不需要。LibreChat 是一个聊天界面和编排层 —— 它调用你所配置的任何端点，而不是在进程内运行模型推理。只有当你还在通过 Ollama 或 vLLM 这类独立的推理服务器，自行托管 LibreChat 所连接的本地模型时，GPU 才会起作用。
我能只用本地模型让 LibreChat 完全离线运行吗？
对于聊天补全这条路径而言，可以：将 LibreChat 的自定义端点指向本地兼容 OpenAI API 的服务器，例如 Ollama、LocalAI 或 vLLM，并移除或禁用任何专有提供商的密钥。而那些按设计需要调用外部服务的功能 —— 网络搜索、通过远程提供商实现的图像生成，或可访问互联网的 MCP 工具 —— 需要被禁用或重新配置为本地等效方案，才能让整套部署保持离线。
LibreChat 适合谁使用
LibreChat 适合那些想要用一个聊天界面覆盖多个 AI 提供商（包括本地模型）、并留有余地向智能体、工具使用和多用户部署演进的团队和个人。
适合使用 LibreChat 的情况
- 你想在一个聊天界面中并行运行专有 AI 提供商和本地/自托管模型，并按对话切换
- 你需要具备真实认证（OAuth2、LDAP）的多用户访问，而不是单用户桌面应用
- 你想要具备 MCP 工具调用能力的智能体、代码解释器以及对文件的 RAG，而不想为每一项分别拼凑独立工具
- 你能接受通过 Docker Compose 自托管，并维护一个由 MongoDB 支撑的服务
- MIT 许可对你很重要 —— 在商业部署前无需检查多租户 SaaS 限制
应避免使用 LibreChat 的情况
- 你想要一个零服务器配置的单用户桌面应用 —— 像 LM Studio 或 Jan 这样的工具能让你更快开始第一次聊天
- 你的主要用例是带 lorebook 和角色卡的角色扮演聊天 —— SillyTavern 是为此专门打造的，LibreChat 不是
- 你需要一个以文档 RAG 为核心、配置极简的工作流 —— 一个专用的 RAG 应用可能比拼装 LibreChat 独立的 RAG API 更省事
- 你不想自行运维 MongoDB 和 Docker Compose 栈，也对托管替代方案不感兴趣
LibreChat 对比 Open WebUI、SillyTavern、AnythingLLM
作为面向本地和远程 LLM 的自托管多模型聊天前端，LibreChat 与 Open WebUI 的重合度最高 —— 区别在于侧重点：LibreChat 更偏向多提供商聊天、智能体和 MCP 工具使用；Open WebUI 更偏向成为默认的、带内置 RAG 的自托管 ChatGPT 替代方案；SillyTavern 和 AnythingLLM 则各自专注于更窄的领域。
工具 | 侧重点 | 许可证 | 本地 LLM 支持 |
|---|---|---|---|
| LibreChat | 多提供商聊天 / 智能体 / MCP | MIT | 自定义兼容 OpenAI 端点 |
| Open WebUI | 自托管 ChatGPT 替代方案，内置 RAG | BSD 3-Clause | 原生 Ollama ＋ 兼容 OpenAI |
| SillyTavern | 角色扮演聊天，lorebook | AGPL 3.0 | KoboldCpp、text-gen-webui 等 |
| AnythingLLM | 文档 RAG，工作区 | MIT | Ollama、LM Studio、LocalAI |
星标数和功能集会发生变化；引用前请在各项目的 GitHub 页面核实最新数字。截至本评测撰写时，Open WebUI 在这一组中拥有最多的 GitHub 关注者，AnythingLLM 与 LibreChat 在本地 LLM 聊天加附加功能的范围上大致相当，SillyTavern 规模最小，但在角色扮演方面最为专精。
评估 LibreChat 时的常见错误
这些错误源于把 LibreChat 当作单用户桌面应用来对待，或误以为添加了本地端点之后所有功能都会默认离线运行。
错误1：以为添加本地自定义端点就能让整套部署离线
将本地推理服务器添加为自定义端点，只会让聊天补全实现本地化。网络搜索、调用外部 API 的 MCP 工具，以及通过远程提供商实现的图像生成都是独立的集成，除非你禁用它们或将其指向本地替代方案，否则它们会持续访问互联网。
错误2：忽略 MongoDB 的规划
LibreChat 依赖 MongoDB 作为其主要数据存储。把自托管当成"启动一个容器就行"、不为数据库制定备份方案，或将其运行在易失性存储上，都有丢失对话历史和配置的风险。
错误3：在角色扮演功能上把 LibreChat 与 SillyTavern 相比较
LibreChat 并不像 SillyTavern 那样围绕 lorebook、角色卡或以人设驱动的角色扮演来构建。在这一特定用例上拿它与 SillyTavern 比较，等于让它去打一场原本就不是为赢而设计的比较战 —— 对 LibreChat 而言更合适的比较对象是 Open WebUI 或 AnythingLLM。
常见问题
LibreChat 免费吗？
是的。LibreChat 在 MIT 许可下完全开源，个人和商业自托管使用均免费，商业部署前也无需检查多租户 SaaS 限制。
谁创建了 LibreChat？
Danny Avila 创建了 LibreChat，最初是他在 2023 年 Hack Reactor 编程训练营的毕业项目（当时名为 "ChatGPT Clone"）。他至今仍是该项目的创始人兼主要维护者，GitHub 上也有社区贡献者参与。
LibreChat 支持 Ollama 之类的本地 LLM 吗？
支持。LibreChat 在其文档记录的本地与远程 AI 提供商列表中列出了 Ollama，其自定义端点功能可以连接任何兼容 OpenAI API 的本地服务器，包括 LocalAI、text-generation-webui、LM Studio 和 vLLM。
LibreChat 能完全离线运行吗？
一旦指向本地兼容 OpenAI 的端点并移除专有提供商密钥，聊天补全这条路径就可以完全离线运行。其他集成 —— 网络搜索、远程图像生成、可访问互联网的 MCP 工具 —— 需要被禁用或本地重新配置，整套部署才能实现离线。
LibreChat 用什么作为数据库？
MongoDB 是对话、用户和配置的主要数据存储。一个独立的向量数据库为配套的 RAG API 提供文档嵌入支持。
LibreChat 支持智能体和工具使用吗？
支持。LibreChat Agents 是无代码的自定义助手，可以通过 Model Context Protocol（MCP）调用工具，运行沙箱化的代码解释器，并发布到应用内的智能体市场。
LibreChat 与 Open WebUI 有什么不同？
两者都是自托管、MIT/BSD 许可的聊天前端，支持本地和远程 LLM。LibreChat 更偏重多提供商切换、智能体和 MCP 工具使用；Open WebUI 内置 RAG，截至本评测撰写时总体上是采用更广泛的默认自托管 ChatGPT 替代方案 —— 由于两个项目都在快速演进，引用前请核实最新的采用数据。
LibreChat 与 SillyTavern 有什么不同？
SillyTavern 是专为带 lorebook 和角色卡的角色驱动型角色扮演打造的。LibreChat 是一个带智能体和 RAG 的通用多提供商聊天平台；它的设计目的并非在角色扮演专属工作流上取代 SillyTavern。
自托管 LibreChat 需要 GPU 吗？
LibreChat 本身不需要 —— 它是一个编排和聊天界面层。只有当你通过 Ollama 或 vLLM 之类的工具，另行自托管 LibreChat 所连接的本地模型时，GPU 才会起作用。
PromptQuorum 测试过 LibreChat 的性能或运行过其测试套件吗？
没有。本评测所述内容来自 LibreChat 自身的 GitHub 仓库、文档和公开的作者简介 —— 包括其 .github/workflows 目录中可见的 CI 工作流文件 —— 而非 PromptQuorum 独立进行的基准测试或测试运行。