Skip to main content
PromptQuorum
Startseite/Lokale LLMs Pro/h2oGPT im Test 2026: Funktionen, Setup und warum das Projekt archiviert ist
RAG & Document Chat

h2oGPT im Test 2026: Funktionen, Setup und warum das Projekt archiviert ist

·12 Min. Lesezeit·Von Hans Kuepper · Gründer von PromptQuorum, Multi-Model-AI-Dispatch-Tool · PromptQuorum

h2oGPT (github.com/h2oai/h2ogpt) ist ein kostenloses, Apache-2.0-lizenziertes Tool für privaten, selbst gehosteten Dokumenten-Chat und RAG mit rund 12.000 GitHub-Stars — aber H2O.ai hat das Repository am 26. Februar 2026 archiviert (nur lesbar gemacht), es erhält also keine Commits, Issues oder Pull Requests mehr. H2O.ais aktiv entwickelter Nachfolger für den Produktivbetrieb ist h2oGPTe (Enterprise h2oGPT).

h2oGPT ist ein selbst gehostetes Chat- und Dokumenten-Q&A-Tool, das Retrieval-Augmented Generation (RAG), Vision und Sprache in einer Apache-2.0-Codebasis von H2O.ai bündelt. Bevor Sie darauf aufbauen, sollten Sie wissen: H2O.ai hat das GitHub-Repository am 26. Februar 2026 archiviert, das Open-Source-Projekt erhält also keine Updates mehr.

h2oGPT im Test 2026: Funktionen, Setup und warum das Projekt archiviert ist

Wichtigste Erkenntnisse

  • H2O.ai hat github.com/h2oai/h2ogpt am 26. Februar 2026 archiviert — das Repository ist nur lesbar, keine neuen Commits oder Pull Requests werden gemergt
  • Apache-2.0-Lizenz, rund 12.000 GitHub-Stars und 1.300 Forks zum Zeitpunkt der Archivierung
  • RAG über PDFs, Word, Excel, Bilder, Video-Frames und Audio, mit Chroma, Weaviate oder In-Memory-FAISS als Vektorspeicher
  • Über 50 dokumentierte Inferenz-Backends: Ollama, Hugging Face TGI, vLLM, llama.cpp/GGML, ExLLaMa, plus OpenAI, Azure OpenAI, Anthropic, Google, MistralAI und Groq für API-basierte Modelle
  • Vision (LLaVa und API-Vision-Modelle), Bildgenerierung (Stable-Diffusion-Varianten, Flux) und Sprache (Whisper Speech-to-Text, Text-to-Speech mit Stimmklonen) sind integriert
  • H2O.ais aktiv gepflegter Nachfolger ist h2oGPTe (Enterprise h2oGPT) — das Produkt, das Sie prüfen sollten, wenn Sie laufende Updates und Hersteller-Support benötigen

📍 In einem Satz

h2oGPT ist eine Apache-2.0-lizenzierte, selbst gehostete RAG- und Dokumenten-Chat-Plattform von H2O.ai, die H2O.ai am 26. Februar 2026 archiviert (nur lesbar gemacht) hat — sie läuft weiterhin und kann geforkt werden, erhält aber keine offiziellen Updates mehr.

💬 In einfachen Worten

Es ist ein privates, offline-fähiges Chat-Tool, mit dem Sie Dokumente, Bilder und Audio hochladen und mit einem lokalen oder API-verbundenen LLM Fragen dazu stellen können — das Projekt selbst ist inzwischen aber eine eingefrorene Momentaufnahme statt eines aktiv entwickelten Tools.

⚠️Warning: Planen Sie keinen Produktivbetrieb rund um das Open-Source-Repository h2oGPT in der Erwartung künftiger Updates — es ist archiviert. Prüfen Sie h2oGPTe, wenn Sie eine aktiv gepflegte, unterstützte Option benötigen.

Was ist h2oGPT?

h2oGPT ist eine Open-Source-Anwendung von H2O.ai für privaten Chat und Dokumenten-Frage-Antwort: Sie verbinden es mit einem lokalen oder API-basierten LLM, laden Dateien hoch und stellen Fragen, die auf diesem Inhalt basieren statt auf dem allgemeinen Trainingswissen des Modells. Das Projekt liegt unter github.com/h2oai/h2ogpt und erreichte rund 12.000 GitHub-Stars, bevor H2O.ai es archivierte.

  • Dokumenten-RAG: nimmt PDFs, Word, Excel, Bilder, Video-Frames, YouTube-Links, Audio, Code und Markdown in eine durchsuchbare Wissensdatenbank auf
  • Vektorspeicher: Chroma, Weaviate oder ein In-Memory-FAISS-Index, mit semantischem Chunking und HYDE (Hypothetical Document Embeddings) zur Verbesserung der Retrieval-Qualität
  • Modell-Backends: verbindet sich lokal über Hugging-Face-Transformers, llama.cpp/GGML, GPT4All, Ollama, vLLM, Hugging Face TGI und ExLLaMa, oder mit gehosteten APIs (OpenAI, Azure OpenAI, Anthropic, Google, MistralAI, Groq, Replicate, Together.ai)
  • Multimodale Funktionen: Vision-Modelle (LLaVa plus API-Vision-Modelle wie GPT-4-Vision, Claude und Gemini-Pro-Vision), Bildgenerierung (Stable-Diffusion-Varianten, PlaygroundAI, Flux) und Sprache (Whisper-Streaming-Speech-to-Text, Text-to-Speech mit Stimmklonen)
  • API und Integration: ein OpenAI-kompatibler Proxy-Server mit Chat- und Text-Completions, Funktions-/Tool-Aufrufen, JSON-Modus und Websuche-Integration
  • Multi-User-Unterstützung: native Benutzername-/Passwort-Authentifizierung plus Google OAuth, mit rollenbasierter Zugriffskontrolle

Wird h2oGPT noch gepflegt?

Nein. H2O.ai hat das Repository github.com/h2oai/h2ogpt am 26. Februar 2026 archiviert. GitHub markiert es als "archived by the owner" und nur lesbar: Es landen keine neuen Commits mehr auf dem Main-Branch, und Issues sowie Pull Requests werden nicht mehr aktiv bearbeitet oder gemergt.

Der archivierte Zustand entfernt den Code nicht. Apache 2.0 erlaubt jedem, ihn unbegrenzt zu forken, auszuführen, zu ändern und weiterzuverteilen — Sie können das Repository heute noch genau wie dokumentiert klonen und ausführen. Was sich ändert: H2O.ai behebt keine Fehler mehr, aktualisiert keine Abhängigkeiten mehr und fügt dieser konkreten Codebasis keine Funktionen mehr hinzu.

  • Was weiterhin funktioniert: Klonen, Ausführen und Ändern der bestehenden Codebasis unter Apache 2.0 — an der Lizenz oder am Code selbst hat sich nichts geändert
  • Was aufhört: neue offizielle Commits, Abhängigkeits-Updates, Sicherheitspatches und Issue-Bearbeitung durch das H2O.ai-Team auf diesem Repository
  • Worauf H2O.ai stattdessen verweist: h2oGPTe (Enterprise h2oGPT), ein kommerzielles Produkt, das auch 2026 weiter Releases veröffentlichte
  • Was das für Sie bedeutet: Behandeln Sie den Open-Source-Code von h2oGPT als eingefrorene Referenzimplementierung, nicht als Tool, bei dem Sie sich auf laufende Patches von H2O.ai verlassen können

⚠️Warning: Wenn zu Ihren Bewertungskriterien "aktiv vom Hersteller gepflegt" gehört, erfüllt h2oGPT (das Open-Source-Repository) diese Anforderung derzeit nicht. h2oGPTe schon.

Funktionen: RAG, Backends und Multimodalität

Was h2oGPT während der aktiven Entwicklung auszeichnete, war der Funktionsumfang in einer einzigen Codebasis: Dokumenten-RAG, eine breite Palette an Inferenz-Backends und Multimodalität, statt separater Tools für jede Ebene.

  • RAG-Pipeline: Datei-Upload oder Datenquellen-Verbindung, Textextraktion und -bereinigung, OCR via DocTR für gescannte Dokumente, semantisches Chunking, Embedding und Indexierung in Chroma, Weaviate oder FAISS
  • Backend-Flexibilität: dieselbe Oberfläche kann ein vollständig lokales Modell (llama.cpp GGUF, ein Hugging-Face-Modell oder ein über Ollama bereitgestelltes Modell) oder eine gehostete API aufrufen und so Privatsphäre je nach Fall gegen Geschwindigkeit und Modellauswahl abwägen
  • Vision und Bildgenerierung: Dokumentenbilder und Fotos können mit LLaVa oder API-Vision-Modellen interpretiert werden, zudem kann das Tool über Stable-Diffusion-Varianten oder Flux Bilder generieren
  • Sprache: Streaming-Speech-to-Text via Whisper, plus Text-to-Speech (einschließlich Stimmklonen) mit Microsoft SpeechT5 und weiteren MPL2-lizenzierten Modellen
  • Fine-Tuning: dokumentierte Unterstützung für Fine-Tuning auf eigenen Daten; H2O.ai pflegt zudem ein separates Begleitprojekt, H2O LLM Studio, speziell für No-Code-Fine-Tuning-Workflows
  • Tests und Zuverlässigkeit zur Zeit der aktiven Entwicklung: Das Projekt wurde mit über 1.000 Unit- und Integrationstests ausgeliefert

Wie hostet man h2oGPT selbst?

Die folgenden Schritte folgen den vom Projekt dokumentierten Docker- und pip-basierten Setup-Wegen. Da das Repository archiviert ist, arbeiten Sie mit einer eingefrorenen Momentaufnahme — es wird keine weiteren offiziellen Fixes geben, falls eine Abhängigkeit im Lauf der Zeit die Kompatibilität bricht.

  1. 1
    Repository klonen: git clone https://github.com/h2oai/h2ogpt.git, dann cd h2ogpt. Sie klonen eine nur lesbare, archivierte Momentaufnahme, kein aktiv aktualisiertes Projekt.
  2. 2
    Abhängigkeiten aus requirements.txt in einer Python-Virtual-Environment installieren, oder das dokumentierte Docker-Compose-Setup für eine vollständigere, vorkonfigurierte Umgebung nutzen.
  3. 3
    Ein Modell-Backend wählen: h2oGPT für vollständig offline nutzbare Setups auf eine lokale Inferenz-Engine (Ollama oder GGUF-Modelle via llama.cpp) richten, oder API-Schlüssel für einen gehosteten Anbieter konfigurieren, falls Offline-Betrieb keine Voraussetzung ist.
  4. 4
    Die Anwendung über den generate.py-Einstiegspunkt des Projekts starten, oder den Docker-Compose-Stack hochfahren, der die lokale Weboberfläche bereitstellt.
  5. 5
    Dokumente über die Weboberfläche hochladen, um eine private Wissensdatenbank aufzubauen, oder einen persistenten Vektorspeicher (Chroma oder Weaviate) für größere Dokumentensammlungen anbinden.
  6. 6
    Da das Projekt keine Sicherheitspatches mehr erhält, sollten Sie Ihre Abhängigkeitsversionen fixieren und den Code selbst prüfen, bevor Sie sich über eine persönliche Evaluierung hinaus darauf verlassen.

Braucht h2oGPT eine GPU?

Nicht für die h2oGPT-Anwendung selbst. Eine GPU spielt nur beim gewählten Backend eine Rolle — GPU-beschleunigte Inferenz (Hugging-Face-Transformers, GGML-Modelle auf GPU) ist deutlich schneller, aber auch reine CPU-Backends wie llama.cpp-CPU-Builds und GPT4All werden unterstützt.

Kann h2oGPT vollständig offline laufen?

Ja. h2oGPT lässt sich so konfigurieren, dass es ausschließlich lokale Inferenz-Backends (llama.cpp, ein lokal ausgeführtes Hugging-Face-Modell oder Ollama) ohne Aufrufe externer API-Anbieter nutzt — das entspricht dem ursprünglichen, privatsphärenorientierten Designziel des Projekts.

h2oGPT vs. h2oGPTe (Enterprise)

H2O.ai verkauft neben dem inzwischen archivierten Open-Source-h2oGPT ein kommerzielles Produkt, h2oGPTe (Enterprise h2oGPT). Beide teilen sich Namen und Herkunft, sind heute aber nicht dieselbe Codebasis zur Bewertung.

h2oGPT (Open Source)

Status:
Archiviert am 26.02.2026 (nur lesbar)
Hosting:
Nur selbst gehostet
Kosten:
Kostenlos (Apache 2.0)
Am besten für:
Forken oder Lernen von einer eingefrorenen RAG-Codebasis

h2oGPTe (Enterprise)

Status:
Aktiv entwickelt, mit Releases auch 2026
Hosting:
Selbst gehostet, VPC oder von H2O.ai verwaltet
Kosten:
Individuell — Vertrieb kontaktieren
Am besten für:
Produktivbetriebe mit Bedarf an laufenden Updates und Hersteller-Support

Wenn Sie ein unterstütztes Produkt mit Roadmap benötigen, prüfen Sie h2oGPTe direkt unter h2ogpte.genai.h2o.ai, statt anzunehmen, dass das Open-Source-Repository h2oGPT dieselbe Aufmerksamkeit erhält.

Für wen eignet sich h2oGPT?

Das Open-Source-Repository h2oGPT hat weiterhin legitime Anwendungsfälle — sie sind nur enger gefasst als "im Produktivbetrieb einsetzen und erwarten, dass der Hersteller es weiter pflegt".

h2oGPT vs. Open WebUI, LibreChat, AnythingLLM, PrivateGPT, Dify

h2oGPT überschnitt sich mit jedem dieser Tools in einzelnen Funktionen, der entscheidende Unterschied heute ist aber der Pflegestatus — die meisten Alternativen werden aktiv weiterentwickelt, h2oGPT nicht.

ToolOberflächeLizenzPflegestatusAm besten für
h2oGPTWeb-Chat + RAG-UIApache 2.0Archiviert Feb. 2026Forken einer eingefrorenen RAG-Codebasis
Open WebUIWeb-Chat-UIBSD-3AktivOllama-basiertes Chat-Frontend
LibreChatWeb-Chat-UIMITAktivMulti-Modell-ChatGPT-Alternative
AnythingLLMDesktop + Web-RAGMITAktivRAG-Workspaces für Teams
PrivateGPTAPI + Web-UIApache 2.0AktivAir-gapped Offline-RAG
DifyVisuell + RAG + AgentenModifiziertes Apache 2.0AktivAll-in-one-LLMOps-Plattform

Lizenz und Pflegestatus können sich ändern — prüfen Sie diese vor einer Entscheidung erneut im jeweiligen Repository.

Geschichte und Gründer

H2O.ai wurde 2012 von Sri Ambati (CEO) und Cliff Click gegründet, aufbauend auf Ambatis früherer Mitgründung von Platfora, einem Big-Data-Analytics-Unternehmen, das später von Workday übernommen wurde.

H2O.ai brachte h2oGPT und das begleitende Fine-Tuning-Framework H2O LLM Studio am 11. Mai 2023 auf den Markt und positionierte beide als Tools für Organisationen, die ihr eigenes LLM kontrollieren wollten, statt Daten an eine Drittanbieter-API zu senden. Sri Ambati sagte zum Launch: "Every company needs its own GPT. H2OGPT and H2O LLM Studio will empower all our customers and communities to make their own GPT." Zur Philosophie hinter dem Projekt sagte er zudem: "Open source is about freedom, not just free. LLMs are far too important to be owned by a few large tech giants."

H2O.ai dokumentierte Design und Evaluierung des Projekts in einem wissenschaftlichen Paper, "h2oGPT: Democratizing Large Language Models" (arXiv:2306.08161). Das Repository wuchs auf rund 12.000 GitHub-Stars und 1.300 Forks, bevor H2O.ai es am 26. Februar 2026 archivierte — zu diesem Zeitpunkt hatte sich die Entwicklungsarbeit des Unternehmens sichtbar auf h2oGPTe (Enterprise h2oGPT) verlagert.

Häufige Fehler bei der Bewertung von h2oGPT

Diese Fehler entstehen, wenn h2oGPT so behandelt wird, als stünde es noch unter aktiver Entwicklung, oder wenn es mit H2O.ais kommerziellem Produkt verwechselt wird.

Häufig gestellte Fragen

Wird h2oGPT noch gepflegt?

Nein. H2O.ai hat das Repository github.com/h2oai/h2ogpt am 26. Februar 2026 archiviert (nur lesbar gemacht). Der Code funktioniert weiterhin und kann unter Apache 2.0 geforkt werden, erhält aber keine offiziellen Commits, Patches oder Issue-Bearbeitung mehr.

Ist h2oGPT kostenlos?

Ja. h2oGPT ist unter Apache 2.0 lizenziert und damit kostenlos nutzbar, änderbar und weiterverteilbar, auch für kommerzielle Zwecke — auch wenn das Repository inzwischen archiviert ist.

Welche Lizenz nutzt h2oGPT?

Apache License 2.0, unverändert — eine der freizügigeren Open-Source-Lizenzen, die kommerzielle Nutzung, Änderung und Weiterverteilung erlaubt.

Unterstützt h2oGPT RAG?

Ja. h2oGPT nimmt PDFs, Word, Excel, Bilder, Video-Frames, Audio und Code in eine durchsuchbare Wissensdatenbank auf, mit Chroma, Weaviate oder einem In-Memory-FAISS-Index, sowie semantischem Chunking und HYDE zur Verbesserung des Retrievals.

Braucht h2oGPT eine GPU?

Nicht zwingend. GPU-Beschleunigung beschleunigt die Inferenz bei GPU-basierten Backends, aber auch reine CPU-Optionen wie llama.cpp-CPU-Builds und GPT4All werden unterstützt.

Kann h2oGPT vollständig offline laufen?

Ja, wenn es so konfiguriert wird, dass es ausschließlich lokale Inferenz-Backends (llama.cpp, ein lokal ausgeführtes Hugging-Face-Modell oder Ollama) statt gehosteter APIs nutzt — dieses Offline-First-Design war das ursprüngliche Ziel des Projekts.

Was ist h2oGPTe und wie unterscheidet es sich von h2oGPT?

h2oGPTe (Enterprise h2oGPT) ist H2O.ais kommerzielles Produkt, das separat vom archivierten Open-Source-h2oGPT verkauft und unterstützt wird. h2oGPTe veröffentlichte auch 2026 weiter Releases, während das Open-Source-Repository seit der Archivierung keine Updates mehr erhalten hat.

Unterstützt h2oGPT Vision- und multimodale Modelle?

Ja. h2oGPT dokumentierte Unterstützung für Vision-Modelle wie LLaVa und API-Vision-Modelle (GPT-4-Vision, Claude, Gemini-Pro-Vision), Bildgenerierung über Stable-Diffusion-Varianten und Flux sowie Sprache über Whisper-Speech-to-Text und Text-to-Speech.

Wie viele GitHub-Stars hat h2oGPT?

Rund 12.000 Stars und 1.300 Forks auf github.com/h2oai/h2ogpt zum Zeitpunkt der Archivierung im Februar 2026. Prüfen Sie die aktuelle Zahl direkt im Repository, da sich Stars auch bei einem archivierten Repository durch neue Stargazer noch ändern können.

Wie unterscheidet sich h2oGPT von Open WebUI, AnythingLLM oder PrivateGPT?

Funktional deckte h2oGPT ähnliches RAG- und Multi-Backend-Terrain ab, plus zusätzliche multimodale Funktionen (Vision, Sprache, Bildgenerierung), die manche Alternativen nicht bieten. Der praktische Unterschied heute ist der Pflegestatus: Open WebUI, AnythingLLM und PrivateGPT werden alle aktiv weiterentwickelt, h2oGPT ist archiviert.

Muss ich bei der Verwendung von h2oGPT die DSGVO beachten?

Ja, sofern Sie personenbezogene Daten verarbeiten — die DSGVO gilt unabhängig davon, ob ein Tool aktiv gepflegt wird. h2oGPTs Offline-Design (lokale Inferenz-Backends, keine externen API-Aufrufe) erleichtert die Erfüllung der Datenresidenz- und Verarbeitungspflichten aus Art. 28 DSGVO, weil Dokumente Ihre Infrastruktur nicht verlassen müssen. Da das Repository archiviert ist, sollten Sie zusätzlich eigene Sicherheitsprüfungen nach BSI-Grundschutz-Kataloge-Maßstäben einplanen, da H2O.ai keine Sicherheitspatches mehr liefert.

Ist h2oGPT für den deutschen Mittelstand geeignet?

Als Lernressource oder für einzelne, intern gepflegte Pilotprojekte ja — der Apache-2.0-Code lässt sich frei einsetzen. Für einen dauerhaften Produktivbetrieb im Mittelstand ist die Archivierung jedoch ein reales Risiko: Ohne eigene IT-Ressourcen für Patches und Abhängigkeits-Updates ist h2oGPTe (Enterprise h2oGPT) mit Hersteller-Support oder ein aktiv gepflegtes Tool wie Open WebUI oder AnythingLLM die sicherere Wahl für IT-Sicherheitsstandards nach BSI.

Quellen

← Zurück zu Lokale LLMs Pro