Skip to main content
PromptQuorum
主页/本地LLM进阶/h2oGPT评测2026:功能、部署方式与项目被归档的原因
RAG & Document Chat

h2oGPT评测2026:功能、部署方式与项目被归档的原因

·阅读约11分钟·Hans Kuepper 作者 · PromptQuorum创始人,多模型AI调度工具 · PromptQuorum

h2oGPT(github.com/h2oai/h2ogpt)是一款免费、Apache 2.0许可的私有自托管文档聊天与RAG工具,拥有约12,000个GitHub星标——但H2O.ai已于2026年2月26日将该仓库归档(设为只读),因此它不再接收提交、issue或拉取请求。H2O.ai面向生产环境积极开发的继任产品是h2oGPTe(Enterprise h2oGPT)。

h2oGPT是一款自托管的聊天与文档问答工具,将检索增强生成(RAG)、视觉和语音功能整合进一个Apache 2.0代码库中,由H2O.ai开发。在基于它构建之前,你需要知道:H2O.ai已于2026年2月26日将该GitHub仓库归档,这个开源项目不再接收更新。

h2oGPT评测2026:功能、部署方式与项目被归档的原因

关键要点

  • H2O.ai于2026年2月26日将github.com/h2oai/h2ogpt归档——该仓库为只读状态,不再合并新提交或拉取请求
  • Apache 2.0许可证,归档时约有12,000个GitHub星标和1,300个分叉
  • 支持对PDF、Word、Excel、图像、视频帧和音频进行RAG,向量存储可选Chroma、Weaviate或内存中的FAISS
  • 50多种有文档记录的推理后端:Ollama、Hugging Face TGI、vLLM、llama.cpp/GGML、ExLLaMa,以及面向API模型的OpenAI、Azure OpenAI、Anthropic、Google、MistralAI和Groq
  • 内置视觉(LLaVa及API视觉模型)、图像生成(Stable Diffusion系列、Flux)和语音(Whisper语音转文字、支持声音克隆的文字转语音)
  • H2O.ai积极维护的继任产品是h2oGPTe(Enterprise h2oGPT)——如果需要持续更新和厂商支持,应评估这款产品

📍 简单一句话

h2oGPT是H2O.ai推出的Apache 2.0许可自托管RAG与文档聊天平台,H2O.ai已于2026年2月26日将其归档(设为只读)——它仍可运行和分叉,但不再收到官方更新。

💬 简单来说

这是一款私有、可离线运行的聊天工具,可以上传文档、图像和音频,通过本地或连接API的LLM就这些内容提问——但项目本身如今是一个被冻结的快照,而非持续开发的工具。

⚠️Warning: 不要基于对未来更新的期待围绕开源h2oGPT仓库规划生产部署——它已被归档。如果需要积极维护并获得支持的方案,请评估h2oGPTe。

h2oGPT是什么?

h2oGPT是H2O.ai推出的开源应用程序,用于私有聊天和文档问答:你将其连接到本地或基于API的LLM,上传文件,然后基于这些内容而非模型的通用训练知识提问。该项目托管在github.com/h2oai/h2ogpt,在H2O.ai将其归档前已积累约12,000个GitHub星标。

  • 文档RAG:将PDF、Word、Excel、图像、视频帧、YouTube链接、音频、代码和Markdown导入可检索的知识库
  • 向量存储:Chroma、Weaviate或内存中的FAISS索引,配合语义分块和HYDE(假设文档嵌入)以提升检索质量
  • 模型后端:通过Hugging Face transformers、llama.cpp/GGML、GPT4All、Ollama、vLLM、Hugging Face TGI和ExLLaMa本地连接,或连接托管API(OpenAI、Azure OpenAI、Anthropic、Google、MistralAI、Groq、Replicate、Together.ai)
  • 多模态功能:视觉模型(LLaVa以及GPT-4-Vision、Claude、Gemini-Pro-Vision等API视觉模型)、图像生成(Stable Diffusion系列、PlaygroundAI、Flux)以及语音(Whisper流式语音转文字、支持声音克隆的文字转语音)
  • API与集成:兼容OpenAI的代理服务器,支持聊天和文本补全、函数/工具调用、JSON模式以及网络搜索集成
  • 多用户支持:原生用户名/密码认证加Google OAuth,配合基于角色的访问控制

h2oGPT还在维护吗?

不再维护。H2O.ai已于2026年2月26日将github.com/h2oai/h2ogpt仓库归档。GitHub将其标记为"archived by the owner"且只读:主分支不再接收新提交,issue和拉取请求也不再被积极处理或合并。

归档状态并不会移除代码。Apache 2.0允许任何人无限期地分叉、运行、修改和再分发它——你今天仍然可以克隆该仓库,并完全按照文档运行。改变的是,H2O.ai不再为这个特定代码库修复漏洞、更新依赖或添加功能。

  • 仍然可行的事:在Apache 2.0许可下克隆、运行和修改现有代码库——许可证和代码本身都没有失效
  • 停止的事:H2O.ai团队对该仓库的新官方提交、依赖更新、安全补丁和issue处理
  • H2O.ai转而引导用户前往的产品:h2oGPTe(Enterprise h2oGPT),一款2026年全年持续发布新版本的商业产品
  • 这对你意味着什么:应将开源h2oGPT代码视为一个被冻结的参考实现,而不是可以指望H2O.ai持续打补丁的工具

⚠️Warning: 如果你的评估标准包括"厂商积极维护",那么截至目前h2oGPT(开源仓库)不符合这一标准,而h2oGPTe符合。

功能:RAG、后端与多模态支持

在积极开发期间,h2oGPT的独特之处在于它把文档RAG、广泛的推理后端和多模态支持全部整合进一个代码库,而无需为每一层单独配备工具。

  • RAG流程:文件上传或数据源连接、文本提取与清洗、通过DocTR对扫描文档进行OCR、语义分块、嵌入,并索引至Chroma、Weaviate或FAISS
  • 后端灵活性:同一界面可调用完全本地的模型(llama.cpp GGUF、Hugging Face模型或通过Ollama提供的模型),也可调用托管API,从而按需在隐私与速度、模型选择之间权衡
  • 视觉与图像生成:文档图像和照片可通过LLaVa或API视觉模型解读,工具还可通过Stable Diffusion系列或Flux生成图像
  • 语音:通过Whisper实现流式语音转文字,以及使用Microsoft SpeechT5等MPL2许可模型的文字转语音(含声音克隆)
  • 微调:有文档支持基于自有数据的微调;H2O.ai还维护着一个独立的配套项目H2O LLM Studio,专门用于无代码微调工作流
  • 积极开发时期的测试与可靠性:该项目曾附带1,000多个单元测试和集成测试

如何自托管h2oGPT?

以下步骤遵循该项目自身文档记录的Docker和基于pip的安装路径。由于仓库已被归档,你使用的是一个被冻结的快照——如果某个依赖项日后破坏了兼容性,将不会再有官方修复。

  1. 1
    克隆仓库:git clone https://github.com/h2oai/h2ogpt.git,然后cd h2ogpt。你克隆的是一个只读的已归档快照,而非持续更新的项目。
  2. 2
    在Python虚拟环境中通过requirements.txt安装依赖,或使用项目文档记录的Docker Compose配置,获得更完整、预先配置好的环境。
  3. 3
    选择一个模型后端:若需完全离线使用,将h2oGPT指向本地推理引擎(Ollama,或通过llama.cpp运行的GGUF模型);若离线运行并非必需,则为托管服务商配置API密钥。
  4. 4
    使用项目的generate.py入口点启动应用程序,或启动Docker Compose技术栈,即可打开本地网页界面。
  5. 5
    通过网页界面上传文档以构建私有知识库,或为更大的文档集合连接持久化向量存储(Chroma或Weaviate)。
  6. 6
    由于该项目不再收到安全补丁,在超出个人评估范围依赖它之前,请自行锁定依赖版本并审查代码。

h2oGPT需要GPU吗?

h2oGPT应用程序本身不需要。GPU是否重要取决于你选择的后端——GPU加速推理(Hugging Face transformers、GPU上的GGML模型)速度快得多,但纯CPU后端如llama.cpp的CPU构建版和GPT4All同样受支持。

h2oGPT能完全离线运行吗?

可以。h2oGPT可以配置为仅使用本地推理后端(llama.cpp、本地运行的Hugging Face模型或Ollama),不调用任何外部API服务商——这符合该项目最初以隐私为先的设计目标。

h2oGPT vs. h2oGPTe(企业版)

H2O.ai在如今已归档的开源h2oGPT之外,还销售一款商业产品h2oGPTe(Enterprise h2oGPT)。两者名称和起源相同,但如今需要评估的并非同一套代码库。

h2oGPT(开源)

状态:
2026年2月26日已归档(只读)
托管方式:
仅限自托管
费用:
免费(Apache 2.0)
最适合:
分叉或学习一个被冻结的RAG代码库

h2oGPTe(企业版)

状态:
积极开发中,2026年全年持续发布新版本
托管方式:
自托管、VPC或由H2O.ai托管
费用:
定制报价——联系H2O.ai
最适合:
需要持续更新和厂商支持的生产部署

如果你需要一款有支持、有路线图的产品,请直接在h2ogpte.genai.h2o.ai评估h2oGPTe,而不是假设开源h2oGPT仓库会获得同等关注。

h2oGPT适合谁使用?

开源h2oGPT仓库仍有其正当用途——只是这些用途比"部署到生产环境并期待厂商持续更新"要窄得多。

h2oGPT vs. Open WebUI、LibreChat、AnythingLLM、PrivateGPT、Dify

h2oGPT在某些功能上与这些工具各有重叠,但如今真正的区别在于维护状态——大多数替代方案仍在积极开发中,而h2oGPT没有。

工具界面许可证维护状态最适合
h2oGPT网页聊天 + RAG界面Apache 2.02026年2月已归档分叉一个被冻结的RAG代码库
Open WebUI网页聊天界面BSD-3积极维护基于Ollama的聊天前端
LibreChat网页聊天界面MIT积极维护多模型ChatGPT替代方案
AnythingLLM桌面 + 网页RAGMIT积极维护团队RAG工作区
PrivateGPTAPI + 网页界面Apache 2.0积极维护气隙隔离的离线RAG
Dify可视化 + RAG + 智能体修改版Apache 2.0积极维护一体化LLMOps平台

许可证和维护状态可能会变化——在最终决定前,请在各项目仓库中重新核实。

历史与创始人

H2O.ai由Sri Ambati(CEO)和Cliff Click于2012年创立,此前Ambati曾共同创办大数据分析公司Platfora,该公司后来被Workday收购。

H2O.ai于2023年5月11日推出h2oGPT及配套的微调框架H2O LLM Studio,将两者定位为面向希望自行掌控LLM、而非将数据发送给第三方API的组织的工具。Sri Ambati在发布时表示:"Every company needs its own GPT. H2OGPT and H2O LLM Studio will empower all our customers and communities to make their own GPT."他还这样描述项目背后的理念:"Open source is about freedom, not just free. LLMs are far too important to be owned by a few large tech giants."

H2O.ai在一篇学术论文《h2oGPT: Democratizing Large Language Models》(arXiv:2306.08161)中记录了该项目的设计与评估。该仓库增长至约12,000个GitHub星标和1,300个分叉后,H2O.ai于2026年2月26日将其归档,此时公司的开发投入已明显转向h2oGPTe(Enterprise h2oGPT)。

评估h2oGPT时的常见误区

这些误区源于把h2oGPT当作仍在积极开发的项目对待,或将其与H2O.ai的商业产品混淆。

常见问题

h2oGPT还在维护吗?

不再维护。H2O.ai已于2026年2月26日将github.com/h2oai/h2ogpt仓库归档(设为只读)。代码仍可运行,并可在Apache 2.0下分叉,但不再收到官方提交、补丁或issue处理。

h2oGPT是免费的吗?

是的。h2oGPT采用Apache 2.0许可,即便仓库现已归档,仍可免费用于使用、修改和再分发,包括商业用途。

h2oGPT使用什么许可证?

未经修改的Apache License 2.0——较为宽松的开源许可证之一,允许商业使用、修改和再分发。

h2oGPT支持RAG吗?

支持。h2oGPT可将PDF、Word、Excel、图像、视频帧、音频和代码导入可检索的知识库,使用Chroma、Weaviate或内存中的FAISS索引,并配合语义分块和HYDE以提升检索效果。

h2oGPT需要GPU吗?

不一定。GPU加速能加快基于GPU的后端推理速度,但纯CPU选项如llama.cpp的CPU构建版和GPT4All同样受支持。

h2oGPT能完全离线运行吗?

可以,只需配置为仅使用本地推理后端(llama.cpp、本地运行的Hugging Face模型或Ollama)而非托管API——这种离线优先的设计正是该项目最初的目标。

h2oGPTe是什么,与h2oGPT有何不同?

h2oGPTe(Enterprise h2oGPT)是H2O.ai的商业产品,与已归档的开源h2oGPT分开销售和支持。h2oGPTe在2026年全年持续发布新版本,而开源仓库自归档以来未获得任何更新。

h2oGPT支持视觉和多模态模型吗?

支持。h2oGPT有文档记录支持视觉模型,包括LLaVa以及GPT-4-Vision、Claude、Gemini-Pro-Vision等API视觉模型,另外还支持通过Stable Diffusion系列和Flux进行图像生成,以及通过Whisper实现语音转文字和文字转语音。

h2oGPT有多少GitHub星标?

截至2026年2月归档时,github.com/h2oai/h2ogpt约有12,000个星标和1,300个分叉。由于已归档的仓库仍可能因新的关注者而增加星标数,请直接在仓库中核实最新数字。

h2oGPT与Open WebUI、AnythingLLM或PrivateGPT有何不同?

就功能而言,h2oGPT覆盖了与它们类似的RAG和多后端范围,还额外提供了一些其他方案未必包含的多模态功能(视觉、语音、图像生成)。如今实际的区别在于维护状态:Open WebUI、AnythingLLM和PrivateGPT都在积极开发中,而h2oGPT已被归档。

来源

← 返回 本地LLM进阶