关键要点
- H2O.ai于2026年2月26日将github.com/h2oai/h2ogpt归档——该仓库为只读状态,不再合并新提交或拉取请求
- Apache 2.0许可证,归档时约有12,000个GitHub星标和1,300个分叉
- 支持对PDF、Word、Excel、图像、视频帧和音频进行RAG,向量存储可选Chroma、Weaviate或内存中的FAISS
- 50多种有文档记录的推理后端:Ollama、Hugging Face TGI、vLLM、llama.cpp/GGML、ExLLaMa,以及面向API模型的OpenAI、Azure OpenAI、Anthropic、Google、MistralAI和Groq
- 内置视觉(LLaVa及API视觉模型)、图像生成(Stable Diffusion系列、Flux)和语音(Whisper语音转文字、支持声音克隆的文字转语音)
- H2O.ai积极维护的继任产品是h2oGPTe(Enterprise h2oGPT)——如果需要持续更新和厂商支持,应评估这款产品
📍 简单一句话
h2oGPT是H2O.ai推出的Apache 2.0许可自托管RAG与文档聊天平台,H2O.ai已于2026年2月26日将其归档(设为只读)——它仍可运行和分叉,但不再收到官方更新。
💬 简单来说
这是一款私有、可离线运行的聊天工具,可以上传文档、图像和音频,通过本地或连接API的LLM就这些内容提问——但项目本身如今是一个被冻结的快照,而非持续开发的工具。
⚠️Warning: 不要基于对未来更新的期待围绕开源h2oGPT仓库规划生产部署——它已被归档。如果需要积极维护并获得支持的方案,请评估h2oGPTe。
h2oGPT是什么?
h2oGPT是H2O.ai推出的开源应用程序,用于私有聊天和文档问答:你将其连接到本地或基于API的LLM,上传文件,然后基于这些内容而非模型的通用训练知识提问。该项目托管在github.com/h2oai/h2ogpt,在H2O.ai将其归档前已积累约12,000个GitHub星标。
- 文档RAG:将PDF、Word、Excel、图像、视频帧、YouTube链接、音频、代码和Markdown导入可检索的知识库
- 向量存储:Chroma、Weaviate或内存中的FAISS索引,配合语义分块和HYDE(假设文档嵌入)以提升检索质量
- 模型后端:通过Hugging Face transformers、llama.cpp/GGML、GPT4All、Ollama、vLLM、Hugging Face TGI和ExLLaMa本地连接,或连接托管API(OpenAI、Azure OpenAI、Anthropic、Google、MistralAI、Groq、Replicate、Together.ai)
- 多模态功能:视觉模型(LLaVa以及GPT-4-Vision、Claude、Gemini-Pro-Vision等API视觉模型)、图像生成(Stable Diffusion系列、PlaygroundAI、Flux)以及语音(Whisper流式语音转文字、支持声音克隆的文字转语音)
- API与集成:兼容OpenAI的代理服务器,支持聊天和文本补全、函数/工具调用、JSON模式以及网络搜索集成
- 多用户支持:原生用户名/密码认证加Google OAuth,配合基于角色的访问控制
h2oGPT还在维护吗?
不再维护。H2O.ai已于2026年2月26日将github.com/h2oai/h2ogpt仓库归档。GitHub将其标记为"archived by the owner"且只读:主分支不再接收新提交,issue和拉取请求也不再被积极处理或合并。
归档状态并不会移除代码。Apache 2.0允许任何人无限期地分叉、运行、修改和再分发它——你今天仍然可以克隆该仓库,并完全按照文档运行。改变的是,H2O.ai不再为这个特定代码库修复漏洞、更新依赖或添加功能。
- 仍然可行的事:在Apache 2.0许可下克隆、运行和修改现有代码库——许可证和代码本身都没有失效
- 停止的事:H2O.ai团队对该仓库的新官方提交、依赖更新、安全补丁和issue处理
- H2O.ai转而引导用户前往的产品:h2oGPTe(Enterprise h2oGPT),一款2026年全年持续发布新版本的商业产品
- 这对你意味着什么:应将开源h2oGPT代码视为一个被冻结的参考实现,而不是可以指望H2O.ai持续打补丁的工具
⚠️Warning: 如果你的评估标准包括"厂商积极维护",那么截至目前h2oGPT(开源仓库)不符合这一标准,而h2oGPTe符合。
功能:RAG、后端与多模态支持
在积极开发期间,h2oGPT的独特之处在于它把文档RAG、广泛的推理后端和多模态支持全部整合进一个代码库,而无需为每一层单独配备工具。
- RAG流程:文件上传或数据源连接、文本提取与清洗、通过DocTR对扫描文档进行OCR、语义分块、嵌入,并索引至Chroma、Weaviate或FAISS
- 后端灵活性:同一界面可调用完全本地的模型(llama.cpp GGUF、Hugging Face模型或通过Ollama提供的模型),也可调用托管API,从而按需在隐私与速度、模型选择之间权衡
- 视觉与图像生成:文档图像和照片可通过LLaVa或API视觉模型解读,工具还可通过Stable Diffusion系列或Flux生成图像
- 语音:通过Whisper实现流式语音转文字,以及使用Microsoft SpeechT5等MPL2许可模型的文字转语音(含声音克隆)
- 微调:有文档支持基于自有数据的微调;H2O.ai还维护着一个独立的配套项目H2O LLM Studio,专门用于无代码微调工作流
- 积极开发时期的测试与可靠性:该项目曾附带1,000多个单元测试和集成测试
如何自托管h2oGPT?
以下步骤遵循该项目自身文档记录的Docker和基于pip的安装路径。由于仓库已被归档,你使用的是一个被冻结的快照——如果某个依赖项日后破坏了兼容性,将不会再有官方修复。
- 1克隆仓库:git clone https://github.com/h2oai/h2ogpt.git,然后cd h2ogpt。你克隆的是一个只读的已归档快照,而非持续更新的项目。
- 2在Python虚拟环境中通过requirements.txt安装依赖,或使用项目文档记录的Docker Compose配置,获得更完整、预先配置好的环境。
- 3选择一个模型后端:若需完全离线使用,将h2oGPT指向本地推理引擎(Ollama,或通过llama.cpp运行的GGUF模型);若离线运行并非必需,则为托管服务商配置API密钥。
- 4使用项目的generate.py入口点启动应用程序,或启动Docker Compose技术栈,即可打开本地网页界面。
- 5通过网页界面上传文档以构建私有知识库,或为更大的文档集合连接持久化向量存储(Chroma或Weaviate)。
- 6由于该项目不再收到安全补丁,在超出个人评估范围依赖它之前,请自行锁定依赖版本并审查代码。
h2oGPT需要GPU吗?
h2oGPT应用程序本身不需要。GPU是否重要取决于你选择的后端——GPU加速推理(Hugging Face transformers、GPU上的GGML模型)速度快得多,但纯CPU后端如llama.cpp的CPU构建版和GPT4All同样受支持。
h2oGPT能完全离线运行吗?
可以。h2oGPT可以配置为仅使用本地推理后端(llama.cpp、本地运行的Hugging Face模型或Ollama),不调用任何外部API服务商——这符合该项目最初以隐私为先的设计目标。
h2oGPT vs. h2oGPTe(企业版)
H2O.ai在如今已归档的开源h2oGPT之外,还销售一款商业产品h2oGPTe(Enterprise h2oGPT)。两者名称和起源相同,但如今需要评估的并非同一套代码库。
h2oGPT(开源)
- 状态:
- 2026年2月26日已归档(只读)
- 托管方式:
- 仅限自托管
- 费用:
- 免费(Apache 2.0)
- 最适合:
- 分叉或学习一个被冻结的RAG代码库
h2oGPTe(企业版)
- 状态:
- 积极开发中,2026年全年持续发布新版本
- 托管方式:
- 自托管、VPC或由H2O.ai托管
- 费用:
- 定制报价——联系H2O.ai
- 最适合:
- 需要持续更新和厂商支持的生产部署
如果你需要一款有支持、有路线图的产品,请直接在h2ogpte.genai.h2o.ai评估h2oGPTe,而不是假设开源h2oGPT仓库会获得同等关注。
h2oGPT适合谁使用?
开源h2oGPT仓库仍有其正当用途——只是这些用途比"部署到生产环境并期待厂商持续更新"要窄得多。
h2oGPT vs. Open WebUI、LibreChat、AnythingLLM、PrivateGPT、Dify
h2oGPT在某些功能上与这些工具各有重叠,但如今真正的区别在于维护状态——大多数替代方案仍在积极开发中,而h2oGPT没有。
| 工具 | 界面 | 许可证 | 维护状态 | 最适合 |
|---|---|---|---|---|
| h2oGPT | 网页聊天 + RAG界面 | Apache 2.0 | 2026年2月已归档 | 分叉一个被冻结的RAG代码库 |
| Open WebUI | 网页聊天界面 | BSD-3 | 积极维护 | 基于Ollama的聊天前端 |
| LibreChat | 网页聊天界面 | MIT | 积极维护 | 多模型ChatGPT替代方案 |
| AnythingLLM | 桌面 + 网页RAG | MIT | 积极维护 | 团队RAG工作区 |
| PrivateGPT | API + 网页界面 | Apache 2.0 | 积极维护 | 气隙隔离的离线RAG |
| Dify | 可视化 + RAG + 智能体 | 修改版Apache 2.0 | 积极维护 | 一体化LLMOps平台 |
许可证和维护状态可能会变化——在最终决定前,请在各项目仓库中重新核实。
历史与创始人
H2O.ai由Sri Ambati(CEO)和Cliff Click于2012年创立,此前Ambati曾共同创办大数据分析公司Platfora,该公司后来被Workday收购。
H2O.ai于2023年5月11日推出h2oGPT及配套的微调框架H2O LLM Studio,将两者定位为面向希望自行掌控LLM、而非将数据发送给第三方API的组织的工具。Sri Ambati在发布时表示:"Every company needs its own GPT. H2OGPT and H2O LLM Studio will empower all our customers and communities to make their own GPT."他还这样描述项目背后的理念:"Open source is about freedom, not just free. LLMs are far too important to be owned by a few large tech giants."
H2O.ai在一篇学术论文《h2oGPT: Democratizing Large Language Models》(arXiv:2306.08161)中记录了该项目的设计与评估。该仓库增长至约12,000个GitHub星标和1,300个分叉后,H2O.ai于2026年2月26日将其归档,此时公司的开发投入已明显转向h2oGPTe(Enterprise h2oGPT)。
评估h2oGPT时的常见误区
这些误区源于把h2oGPT当作仍在积极开发的项目对待,或将其与H2O.ai的商业产品混淆。
常见问题
h2oGPT还在维护吗?
不再维护。H2O.ai已于2026年2月26日将github.com/h2oai/h2ogpt仓库归档(设为只读)。代码仍可运行,并可在Apache 2.0下分叉,但不再收到官方提交、补丁或issue处理。
h2oGPT是免费的吗?
是的。h2oGPT采用Apache 2.0许可,即便仓库现已归档,仍可免费用于使用、修改和再分发,包括商业用途。
h2oGPT使用什么许可证?
未经修改的Apache License 2.0——较为宽松的开源许可证之一,允许商业使用、修改和再分发。
h2oGPT支持RAG吗?
支持。h2oGPT可将PDF、Word、Excel、图像、视频帧、音频和代码导入可检索的知识库,使用Chroma、Weaviate或内存中的FAISS索引,并配合语义分块和HYDE以提升检索效果。
h2oGPT需要GPU吗?
不一定。GPU加速能加快基于GPU的后端推理速度,但纯CPU选项如llama.cpp的CPU构建版和GPT4All同样受支持。
h2oGPT能完全离线运行吗?
可以,只需配置为仅使用本地推理后端(llama.cpp、本地运行的Hugging Face模型或Ollama)而非托管API——这种离线优先的设计正是该项目最初的目标。
h2oGPTe是什么,与h2oGPT有何不同?
h2oGPTe(Enterprise h2oGPT)是H2O.ai的商业产品,与已归档的开源h2oGPT分开销售和支持。h2oGPTe在2026年全年持续发布新版本,而开源仓库自归档以来未获得任何更新。
h2oGPT支持视觉和多模态模型吗?
支持。h2oGPT有文档记录支持视觉模型,包括LLaVa以及GPT-4-Vision、Claude、Gemini-Pro-Vision等API视觉模型,另外还支持通过Stable Diffusion系列和Flux进行图像生成,以及通过Whisper实现语音转文字和文字转语音。
h2oGPT有多少GitHub星标?
截至2026年2月归档时,github.com/h2oai/h2ogpt约有12,000个星标和1,300个分叉。由于已归档的仓库仍可能因新的关注者而增加星标数,请直接在仓库中核实最新数字。
h2oGPT与Open WebUI、AnythingLLM或PrivateGPT有何不同?
就功能而言,h2oGPT覆盖了与它们类似的RAG和多后端范围,还额外提供了一些其他方案未必包含的多模态功能(视觉、语音、图像生成)。如今实际的区别在于维护状态:Open WebUI、AnythingLLM和PrivateGPT都在积极开发中,而h2oGPT已被归档。
