关键要点
- text-generation-webui（github.com/oobabooga/textgen）以AGPL 3.0许可免费开源，GitHub星标数超过47,600。
- 它由开发者"oobabooga"于2022年12月创建，灵感来自AUTOMATIC1111的Stable Diffusion WebUI。
- 2026年4月（4.5.2版本），该项目更名为"TextGen"并迁移到新仓库；旧名称和URL仍会重定向到新地址。
- 目前支持的后端有llama.cpp、ik_llama.cpp、Transformers、ExLlamaV3和TensorRT-LLM——AutoGPTQ和ExLlamaV2等旧加载器已被移除。
- 2026年5月的更新新增了原生Electron桌面应用，大幅缩小了与LM Studio等开箱即用工具在设置复杂度上的差距。
📍 简单一句话
text-generation-webui是一款免费、开源（AGPL 3.0）的本地LLM界面，由开发者"oobabooga"于2022年12月创建，可通过llama.cpp、ExLlamaV3、Transformers或TensorRT-LLM直接运行模型，并于2026年4月更名为"TextGen"，同时推出了原生桌面应用。
💬 简单来说
与Open WebUI不同，text-generation-webui不只是与模型服务器通信——它本身就是在你的机器上加载和运行模型的引擎，并提供大量参数来精确调节文本生成方式。
快速概览：text-generation-webui（TextGen）
- 许可协议： AGPL 3.0（完全开源）
- 平台： Windows、Linux、macOS（便携式Electron构建或完整Python/Conda安装）
- 网站/GitHub： github.com/oobabooga/textgen（原为github.com/oobabooga/text-generation-webui）
- 数据统计： 47,600+星标，约6,000次fork，约380-395位贡献者
- 费用： 免费，无公司运营，无付费层级
- 核心功能： 直接运行本地模型（llama.cpp、ExLlamaV3、Transformers、TensorRT-LLM），提供可配置的聊天界面、LoRA训练和工具调用API
什么是text-generation-webui？
text-generation-webui是一款免费开源应用，既加载并运行本地语言模型，又为其提供聊天界面——与Open WebUI这类面向服务器的前端工具不同，它本身就是推理引擎，而不仅仅是一个客户端。它支持多种不同的后端引擎，因此你可以根据模型的分发格式来选择：通过llama.cpp运行GGUF、通过ExLlamaV3运行EXL3、通过Transformers运行全精度模型，或通过TensorRT-LLM实现优化推理。
它既可以以便携式桌面构建版发布（解压后双击即可运行，可选原生Electron窗口），也可以完整Python安装形式发布，供还想使用LoRA微调和图像生成（需要更大依赖集）的用户使用。
自2022年以来，它的核心特质一直是控制深度：采样参数、提示词模板、扩展插件，以及内置的兼容OpenAI/Anthropic的工具调用API，代价是比单一用途的消费级应用有更陡峭的学习曲线。
历史沿革：从oobabooga的业余项目到"TextGen"
该仓库创建于2022年12月21日，创建者仅以其GitHub昵称"oobabooga"为人所知。在我们能核实的任何来源中，其真实姓名从未被公开披露——尽管项目声名显赫，维护者始终对自己的身份保密。项目自己的文档称，该项目是本着与AUTOMATIC1111的Stable Diffusion WebUI（图像生成领域的对应工具，出现得更早）相同的精神、使用相同的Gradio框架构建的。
2023年8月，维护者获得了风险投资公司Andreessen Horowitz（a16z）的一笔开源资助，以支持其持续的独立全职开发——这是风投公司直接资助个人开源维护者（而非公司）的较早案例之一。（我们无法从a16z的一手来源独立核实确切的资助金额；请将该细节视为未经证实。）
该项目在2026年迎来了最大的变化，并非UI上的小调整，而是一次彻底的品牌重塑：4.5.2版本于2026年4月15日发布，将项目从"text-generation-webui"更名为"TextGen"，并将GitHub仓库迁移到了`github.com/oobabooga/textgen`（旧URL会自动重定向）。随后是一连串密集发布：4.6.2版本（4月23日）新增了工具调用确认功能和stdio MCP服务器支持；4.7.3版本（5月3日）推出了原生Electron桌面应用——这是该项目历史上最大的一次可用性变革，把一个浏览器标签页工具变成了真正的双击式应用——同时还提供了DGX Spark aarch64构建版和llama.cpp张量并行支持；4.8版本（5月7日）重新设计了聊天输入框；4.9版本（5月20日）新增了MTP推测解码和实时每秒生成token数显示。
伴随品牌重塑，受支持的后端列表也发生了实质性变化：AutoGPTQ、AutoAWQ以及最初的ExLlama/ExLlamaV2加载器已不再出现在当前的README中，取而代之的是llama.cpp、ik_llama.cpp、Transformers、ExLlamaV3和TensorRT-LLM这一现行阵容。
text-generation-webui到底能做什么？
- 用适合你硬件的后端运行模型。为GGUF量化模型选择llama.cpp，为NVIDIA GPU上的EXL3量化选择ExLlamaV3，为全精度选择Transformers，或为优化的NVIDIA推理选择TensorRT-LLM——所有这些都在同一个界面中完成。
- 用LoRA微调模型。Training标签页支持在聊天格式或原始文本数据集上进行LoRA微调，训练过程可暂停和恢复——这是大多数开箱即用聊天应用完全不具备的功能。
- 通过工具调用API实现自动化。一个兼容OpenAI和Anthropic的API服务器支持自定义Python函数和MCP（Model Context Protocol）服务器，让外部脚本和智能体可以通过你正在对话的同一个模型来调用工具。
- 根据任务切换聊天模式。Instruct模式用于直接问答，Chat模式用于基于人设的对话，Chat-Instruct作为混合模式，Notebook模式用于对话格式之外的原始自由文本补全。
- 附加图像和文档。具备视觉能力的模型可以处理附加的图像，PDF/DOCX文件也可以直接上传到对话中。
- 在同一个应用中生成图像。内置的图像生成标签页支持基于diffusers的图像模型（例如Z-Image-Turbo），可与你的文本模型并用。
谁适合使用text-generation-webui？
text-generation-webui是为那些希望查看并控制每一项影响本地模型文本生成的设置的人打造的——而不是为想要一个替他们做好所有选择的应用的人打造的。
- ✅ 你想用LoRA微调模型，且不想搭建独立的训练流程 → 内置的Training标签页可以直接处理这一需求。
- ✅ 你想按模型选择不同的后端引擎 → llama.cpp、ExLlamaV3、Transformers和TensorRT-LLM都在同一个应用中可用。
- ✅ 你想针对本地工具调用API构建智能体或脚本 → 兼容OpenAI/Anthropic且支持MCP的API无需第三方桥接即可满足这一需求。
- ✅ 你现在就想要一个真正的桌面应用，而不只是浏览器标签页 → 2026年的Electron重构带来了双击启动体验。
- ❌ 你想要最简单的一键式聊天体验，不想理解任何设置 → 请改用LM Studio。
- ❌ 你需要角色卡、世界书和角色扮演专用工具 → 将SillyTavern作为前端，把text-generation-webui作为其可能的后端之一。
- 如果不确定：先下载适合你操作系统和GPU的便携版，双击运行，并通过llama.cpp加载一个小型GGUF模型——之后再探索LoRA训练和API功能。
什么情况下不该使用text-generation-webui？
控制深度正是text-generation-webui的全部意义所在，但在少数场景下，这恰恰也是它不适用的原因。
- 如果你想要零配置：即便有了2026年的Electron应用，它暴露的设置项（采样参数、后端选择、提示词模板）仍比单一用途的消费级聊天应用要多。
- 如果你需要内置的多用户账户或团队访问控制：它没有登录系统或基于角色的访问权限——它是一款单用户本地应用。如果需要这些功能，请使用Open WebUI。
- 如果以角色卡和世界书为主要用途的角色扮演是你的核心场景：text-generation-webui没有专门的角色扮演工具；请改用SillyTavern作为前端来配合它。
- 如果你需要有保障的支持合同：它是由单一开发者维护的社区项目，没有商业支持层级或SLA。
- 如果你只想使用云端模型：它是围绕在自己硬件上本地运行模型而构建的；它不是像LibreChat那样用于管理云服务商API密钥的客户端。
如何安装text-generation-webui？
根据你是否需要训练和图像生成功能，有两条受支持的安装路径：
- 1. 便携版构建（推荐大多数用户使用）。从github.com/oobabooga/textgen/releases下载与你的操作系统和GPU匹配的压缩包——CUDA、Vulkan、ROCm和仅CPU版本各有独立构建。解压后双击`textgen`可执行文件；默认会打开原生Electron窗口（传入`--no-electron`可使用经典的浏览器标签页界面，地址为`http://127.0.0.1:7860`）。
- 2. 完整安装（LoRA训练和图像生成所必需）。克隆仓库并运行`start_windows.bat`、`start_linux.sh`或`start_macos.sh`，脚本会自动配置Conda环境并安装依赖（大约需要10 GB磁盘空间）。
- 3. Docker。针对不同厂商（NVIDIA、AMD、Intel、CPU）提供了独立的Dockerfile；在对应目录下运行`docker compose up --build`即可。
- 4. 下载模型。使用内置的Model标签页直接从Hugging Face拉取模型，或手动将GGUF文件放入`models/`文件夹，然后选择匹配的后端。
- 5. 选择聊天模式。根据你的使用场景，在Parameters标签页下选择Instruct、Chat、Chat-Instruct或Notebook模式。
- 完整文档维护于项目wiki。
定价：免费开源
没有需要比较的定价层级——text-generation-webui一直都是完全免费的。
- 永远免费，人人可用。该软件以AGPL 3.0许可发布，没有付费版本、没有订阅，也没有公司在销售它。
- 没有托管版本。它被设计为在你自己的硬件上运行；没有官方的云托管"TextGen即服务"产品。
- 资助历史。维护者在2023年获得过一次性的Andreessen Horowitz开源资助以支持全职开发——这笔资助支持的是开发者的时间投入，而非商业产品，也没有改变许可协议或引入付费层级。
- 你唯一的真实成本是硬件。由于它在本地运行模型，实际成本就是你已经拥有的GPU或CPU——软件本身没有按token或按消息收费。
text-generation-webui vs KoboldCpp vs LM Studio vs Open WebUI：该选哪个？
这四款工具解决的问题有所重叠但又各不相同——其中三款直接运行模型，一款是面向独立后端的前端。
工具 | 链接 | 最适合 | 直接运行模型 | LoRA训练 | 多用户 | 许可协议 |
|---|---|---|---|---|---|---|
| text-generation-webui（TextGen） | github.com/oobabooga/textgen | 深度可配置性：多种后端、LoRA训练、工具调用API | 是（llama.cpp、ExLlamaV3、Transformers、TensorRT-LLM） | 是 | 否 | AGPL 3.0 |
| KoboldCpp | github.com/LostRuins/koboldcpp | 轻量级、对创意写作/角色扮演友好的后端，易于与SillyTavern搭配 | 是（基于llama.cpp） | 否 | 否 | AGPL 3.0 |
| LM Studio | lmstudio.ai | 下载和运行GGUF模型最简单的开箱即用图形界面 | 是（原生） | 否 | 否 | 免费（闭源） |
| Open WebUI | openwebui.com | 为独立运行的后端提供的自托管多用户前端 | 否（需要Ollama/vLLM/API） | 否 | 是，支持角色权限 | Open WebUI License |
若需要能以text-generation-webui作为后端的角色/角色扮演聊天体验，请参见SillyTavern。若需要更广泛的后端与服务引擎对比，请参见text-generation-webui vs vLLM vs llama.cpp。
text-generation-webui常见错误
- 用错误的后端加载GGUF文件。要将后端与模型格式匹配：GGUF用llama.cpp，EXL3用ExLlamaV3，全精度safetensors用Transformers。
- 在GitHub上搜索"text-generation-webui"，因为顶部结果变成了"TextGen"就误以为项目已被废弃。自2026年4月起，这只是同一个持续维护的项目更换了新名称和仓库URL——旧URL只是自动重定向而已。
- 使用引用了AutoGPTQ或最初ExLlama的过时指南。这些加载器已不再是当前后端阵容的一部分；请改用llama.cpp或ExLlamaV3。
- 期望有内置的多用户登录功能。它没有账户系统——如果多人需要独立访问权限，需要使用像Open WebUI这样架设在共享后端之前的不同工具。
- 试图将其用作带角色卡的角色扮演前端。它没有世界书或角色卡系统；如需该工作流程，请改用SillyTavern搭配它使用。
关于text-generation-webui的常见问题
text-generation-webui和TextGen是同一个东西吗？
是的。在4.5.2版本（2026年4月15日）中，该项目从"text-generation-webui"更名为"TextGen"，并将其GitHub仓库迁移到了github.com/oobabooga/textgen。项目由同一位开发者维护，沿用了相同的星标数和提交历史；旧仓库URL会自动重定向到新地址。
是谁创建了text-generation-webui？
一位使用"oobabooga"这一昵称的开发者创建了该项目，首次提交日期为2022年12月21日。在我们能核实的任何来源中，其真实姓名从未被公开披露过。
text-generation-webui是免费的吗？
是的，完全免费。它以AGPL 3.0许可发布，背后没有公司运营，也没有付费层级。维护者在2023年获得过一次性的Andreessen Horowitz开源资助以支持全职开发，但这并未催生出商业产品。
text-generation-webui支持哪些后端？
截至2026年，支持的后端包括llama.cpp、ik_llama.cpp、Transformers、ExLlamaV3和TensorRT-LLM。早期版本中的旧后端——AutoGPTQ、AutoAWQ以及最初的ExLlama/ExLlamaV2——在当前代码库中已不再被列为受支持。
text-generation-webui支持LoRA微调吗？
是的。Training标签页支持在多轮聊天数据集或原始文本上进行LoRA微调，训练过程可以暂停和恢复。
text-generation-webui有API吗？
有。它同时暴露了兼容OpenAI和兼容Anthropic的API（涵盖Chat、Completions和Messages风格的端点），通过自定义Python函数或MCP服务器支持工具调用，并可选启用--api-key/--admin-key身份验证。
text-generation-webui适合角色扮演吗？
得益于其详细的采样参数控制，它可以用于角色扮演，但它并非以角色扮演为核心设计的软件——没有角色卡、世界书或群聊功能。若需要专为角色扮演设计的前端，可参考SillyTavern，它能够将text-generation-webui作为其后端之一。
text-generation-webui现在还需要浏览器吗？
不一定需要。自4.7.3版本（2026年5月）起，便携版默认以原生Electron桌面窗口方式打开。如果你更喜欢经典的浏览器标签页界面，可传入--no-electron参数，在http://127.0.0.1:7860访问。
text-generation-webui与KoboldCpp有何不同？
KoboldCpp专为创意写作和角色扮演打造，常被用作SillyTavern的轻量级即插即用后端。text-generation-webui则更为广泛和可配置，拥有更多后端引擎、LoRA训练和更完整的API，代价是需要理解更多设置项。
text-generation-webui与Open WebUI有何不同？
Open WebUI是基于服务器的多用户前端，通常架设在Ollama或其他后端之前。text-generation-webui则是单用户桌面/本地应用，它本身就是推理引擎的宿主——它直接运行模型，而不是连接到另外单独管理的模型服务。
资料来源
- text-generation-webui / TextGen 源代码、README及发布记录 — github.com/oobabooga/textgen
- GitHub API仓库数据（创建日期、许可协议、星标数）
- 项目wiki及文档 — github.com/oobabooga/textgen/wiki