Wichtigste Erkenntnisse
- text-generation-webui (github.com/oobabooga/textgen) ist kostenlos und quelloffen unter AGPL 3.0, mit über 47.600 GitHub-Sternen.
- Es wurde im Dezember 2022 vom Entwickler „oobabooga" erstellt, inspiriert von AUTOMATIC1111s Stable Diffusion WebUI.
- Im April 2026 (Version 4.5.2) benannte sich das Projekt in „TextGen" um und zog in ein neues Repository um; der alte Name und die alte URL leiten weiterhin dorthin weiter.
- Heute unterstützte Backends sind llama.cpp, ik_llama.cpp, Transformers, ExLlamaV3 und TensorRT-LLM — ältere Loader wie AutoGPTQ und ExLlamaV2 wurden entfernt.
- Ein Update im Mai 2026 fügte eine native Electron-Desktop-App hinzu, wodurch ein Großteil der Einrichtungskomplexität im Vergleich zu sofort einsatzbereiten Tools wie LM Studio wegfiel.
📍 In einem Satz
text-generation-webui ist eine kostenlose, quelloffene (AGPL 3.0) lokale LLM-Oberfläche, die im Dezember 2022 vom Entwickler „oobabooga" erstellt wurde, Modelle direkt über llama.cpp, ExLlamaV3, Transformers oder TensorRT-LLM ausführt und sich im April 2026 in „TextGen" umbenannte, während gleichzeitig eine native Desktop-App veröffentlicht wurde.
💬 In einfachen Worten
Anders als Open WebUI spricht text-generation-webui nicht nur mit einem Modell-Server — es IST die Engine, die das Modell auf Ihrem Rechner lädt und ausführt, mit einer riesigen Anzahl an Reglern, um genau einzustellen, wie Text erzeugt wird.
Kurzfakten: text-generation-webui (TextGen)
- Lizenz: AGPL 3.0 (vollständig quelloffen)
- Plattformen: Windows, Linux, macOS (portable Electron-Builds oder vollständige Python-/Conda-Installation)
- Website / GitHub: github.com/oobabooga/textgen (früher github.com/oobabooga/text-generation-webui)
- Statistik: über 47.600 Sterne, ca. 6.000 Forks, ca. 380–395 Contributor
- Kosten: Kostenlos, kein Unternehmen, keine kostenpflichtige Stufe
- Kernfunktion: Führt lokale Modelle direkt aus (llama.cpp, ExLlamaV3, Transformers, TensorRT-LLM) mit konfigurierbarer Chat-Oberfläche, LoRA-Training und einer Tool-Calling-API
Was ist text-generation-webui?
text-generation-webui ist eine kostenlose, quelloffene Anwendung, die ein lokales Sprachmodell sowohl lädt und ausführt ALS AUCH die Chat-Oberfläche dafür bereitstellt — anders als vorgeschaltete Tools wie Open WebUI ist es selbst die Inference-Engine, nicht nur ein Client. Es unterstützt mehrere unterschiedliche Backend-Engines, sodass Sie das Format wählen können, in dem Ihr Modell vorliegt: GGUF über llama.cpp, EXL3 über ExLlamaV3, volle Präzision über Transformers oder optimierte Inferenz über TensorRT-LLM.
Es wird entweder als portable Desktop-Version ausgeliefert (entpacken und doppelklicken, mit optionalem nativem Electron-Fenster) oder als vollständige Python-Installation für Nutzer, die zusätzlich LoRA-Fine-Tuning und Bildgenerierung wollen, was einen größeren Satz an Abhängigkeiten erfordert.
Sein charakteristisches Merkmal ist seit 2022 die Tiefe der Kontrolle: Sampling-Parameter, Prompt-Templating, Erweiterungen und eine OpenAI-/Anthropic-kompatible API mit Tool-Calling sind allesamt integriert — auf Kosten einer steileren Lernkurve als bei Consumer-Apps mit einem einzigen Zweck.
Geschichte: Von Oobaboogas Nebenprojekt zu „TextGen"
Das Repository wurde am 21. Dezember 2022 von einem Entwickler erstellt, der nur unter seinem GitHub-Pseudonym „oobabooga" bekannt ist. Sein tatsächlicher Name wurde in keiner von uns überprüfbaren Quelle jemals öffentlich bekanntgegeben — trotz der Bekanntheit des Projekts hat der Maintainer seine Identität durchgehend privat gehalten. Die eigene Dokumentation des Projekts beschreibt es als im Geist von und mit demselben Gradio-Framework wie AUTOMATIC1111s Stable Diffusion WebUI entwickelt — dem entsprechenden, zeitlich früheren Tool für die Bildgenerierung.
Im August 2023 erhielt der Maintainer ein Open-Source-Stipendium von der Venture-Capital-Firma Andreessen Horowitz (a16z) zur Unterstützung der weiteren unabhängigen Vollzeitentwicklung — eines der früheren Beispiele dafür, dass eine VC-Firma direkt einen einzelnen Open-Source-Maintainer finanziert und nicht ein Unternehmen. (Wir konnten die genaue Höhe des Stipendiums nicht unabhängig anhand einer primären a16z-Quelle bestätigen; betrachten Sie dieses Detail als unbestätigt.)
Die größte Veränderung des Projekts kam 2026, nicht als UI-Feinschliff, sondern als vollständiges Rebranding: Version 4.5.2, veröffentlicht am 15. April 2026, benannte das Projekt von „text-generation-webui" in „TextGen" um und verschob das GitHub-Repository nach `github.com/oobabooga/textgen` (die alte URL leitet automatisch weiter). Es folgte eine schnelle Abfolge von Releases: 4.6.2 (23. April) fügte eine Tool-Call-Bestätigung und Unterstützung für stdio-MCP-Server hinzu; 4.7.3 (3. Mai) brachte eine native Electron-Desktop-App — die mit Abstand größte Usability-Veränderung in der Geschichte des Projekts, die aus einem Browser-Tab-Tool eine echte Doppelklick-Anwendung machte — sowie DGX-Spark-aarch64-Builds und llama.cpp-Tensor-Parallelismus; 4.8 (7. Mai) überarbeitete den Chat-Composer; und 4.9 (20. Mai) fügte MTP-Speculative-Decoding und eine Live-Anzeige der Tokens pro Sekunde hinzu.
Zusammen mit dem Rebranding änderte sich auch die Liste der unterstützten Backends erheblich: AutoGPTQ, AutoAWQ und die ursprünglichen ExLlama-/ExLlamaV2-Loader sind nicht mehr Teil der aktuellen README, ersetzt durch llama.cpp, ik_llama.cpp, Transformers, ExLlamaV3 und TensorRT-LLM als aktuelle Aufstellung.
Was können Sie mit text-generation-webui tatsächlich tun?
- Ein Modell mit dem zu Ihrer Hardware passenden Backend ausführen. Wählen Sie llama.cpp für GGUF-quantisierte Modelle, ExLlamaV3 für EXL3-Quantisierung auf NVIDIA-GPUs, Transformers für volle Präzision oder TensorRT-LLM für optimierte NVIDIA-Inferenz — alles aus derselben Oberfläche.
- Ein Modell mit LoRA fine-tunen. Der Training-Tab unterstützt LoRA-Fine-Tuning auf chat-formatierten oder reinen Textdatensätzen, mit pausierbaren und fortsetzbaren Trainingsläufen — eine Funktion, die die meisten sofort einsatzbereiten Chat-Apps überhaupt nicht bieten.
- Über eine Tool-Calling-API automatisieren. Ein OpenAI- und Anthropic-kompatibler API-Server unterstützt eigene Python-Funktionen und MCP-Server (Model Context Protocol), sodass externe Skripte und Agenten Tools über dasselbe Modell aufrufen können, mit dem Sie gerade chatten.
- Je nach Aufgabe den Chat-Modus wechseln. Instruct-Modus für direkte Fragen und Antworten, Chat-Modus für personenbasierte Unterhaltungen, Chat-Instruct als Hybrid und Notebook-Modus für freie Textvervollständigung außerhalb eines Gesprächsformats.
- Bilder und Dokumente anhängen. Vision-fähige Modelle können angehängte Bilder verarbeiten, und PDF-/DOCX-Dateien können direkt in eine Unterhaltung hochgeladen werden.
- Bilder aus derselben App generieren. Ein integrierter Tab zur Bildgenerierung unterstützt diffusers-basierte Bildmodelle (wie Z-Image-Turbo) parallel zu Ihrem Textmodell.
Wer sollte text-generation-webui nutzen?
text-generation-webui ist für Menschen gemacht, die jede Einstellung sehen und kontrollieren wollen, die beeinflusst, wie ein lokales Modell Text erzeugt — nicht für jemanden, der eine App möchte, die jede Entscheidung für ihn trifft.
- ✅ Sie möchten ein Modell mit LoRA fine-tunen, ohne eine separate Trainings-Pipeline → der integrierte Training-Tab erledigt das direkt.
- ✅ Sie möchten pro Modell die Backend-Engine wählen können → llama.cpp, ExLlamaV3, Transformers und TensorRT-LLM sind alle aus einer App verfügbar.
- ✅ Sie möchten Agenten oder Skripte gegen eine lokale Tool-Calling-API entwickeln → die OpenAI-/Anthropic-kompatible API mit MCP-Unterstützung deckt das ohne eine Drittanbieter-Brücke ab.
- ✅ Sie möchten jetzt eine echte Desktop-App, nicht nur einen Browser-Tab → der Electron-Neuaufbau von 2026 bietet Ihnen ein Doppelklick-Starterlebnis.
- ❌ Sie möchten das absolut einfachste One-Click-Chat-Erlebnis ohne zu verstehende Einstellungen → probieren Sie stattdessen LM Studio aus.
- ❌ Sie benötigen Charakterkarten, Lorebooks und rollenspielspezifische Werkzeuge → kombinieren Sie SillyTavern als Frontend mit text-generation-webui als einem möglichen Backend.
- Im Zweifel: Laden Sie die portable Version für Ihr Betriebssystem und Ihre GPU herunter, doppelklicken Sie sie und laden Sie zunächst ein kleines GGUF-Modell über llama.cpp — LoRA-Training und die API können Sie später erkunden.
Wann sollten Sie text-generation-webui NICHT nutzen?
Tiefe Kontrolle ist der ganze Sinn von text-generation-webui, und genau das macht es in einigen Situationen auch zu einer schlechten Wahl.
- Wenn Sie null Konfiguration wollen: Selbst mit der Electron-App von 2026 gibt es mehr Einstellungen (Sampling-Parameter, Backend-Auswahl, Prompt-Vorlagen), als eine Consumer-Chat-App mit einem einzigen Zweck bietet.
- Wenn Sie integrierte Mehrbenutzerkonten oder Team-Zugriffskontrollen benötigen: Es gibt kein Login-System oder rollenbasierten Zugriff — es ist eine Einzelbenutzer-Lokalanwendung. Nutzen Sie Open WebUI, wenn Sie das benötigen.
- Wenn Rollenspiel mit Charakterkarten und Lorebooks Ihr Haupteinsatzzweck ist: text-generation-webui hat keine eigenen Rollenspiel-Werkzeuge; kombinieren Sie es stattdessen mit SillyTavern als Frontend.
- Wenn Sie einen garantierten Support-Vertrag benötigen: Es ist ein Community-Projekt, das von einem einzelnen Entwickler gepflegt wird, ohne kommerzielle Support-Stufe oder SLA.
- Wenn Sie ausschließlich Cloud-Modelle nutzen möchten: Es ist darauf ausgelegt, Modelle lokal auf Ihrer eigenen Hardware auszuführen; es ist kein Client zur Verwaltung von API-Schlüsseln von Cloud-Anbietern, wie es Tools wie LibreChat sind.
Wie installieren Sie text-generation-webui?
Es gibt zwei unterstützte Installationswege, je nachdem, ob Sie Training und Bildgenerierung benötigen:
- 1. Portable Version (für die meisten Nutzer empfohlen). Laden Sie das zu Ihrem Betriebssystem und Ihrer GPU passende Archiv von github.com/oobabooga/textgen/releases herunter — es gibt separate Versionen für CUDA, Vulkan, ROCm und reine CPU-Nutzung. Entpacken Sie es und doppelklicken Sie dann auf die ausführbare Datei `textgen`; standardmäßig öffnet sich ein natives Electron-Fenster (übergeben Sie `--no-electron` für die klassische Browser-Tab-Oberfläche unter `http://127.0.0.1:7860`).
- 2. Vollständige Installation (erforderlich für LoRA-Training und Bildgenerierung). Klonen Sie das Repository und führen Sie `start_windows.bat`, `start_linux.sh` oder `start_macos.sh` aus, wodurch automatisch eine Conda-Umgebung eingerichtet und Abhängigkeiten installiert werden (etwa 10 GB Speicherplatz).
- 3. Docker. Für jeden Anbieter (NVIDIA, AMD, Intel, CPU) werden separate Dockerfiles bereitgestellt; führen Sie `docker compose up --build` aus dem passenden Verzeichnis aus.
- 4. Ein Modell herunterladen. Nutzen Sie den integrierten Model-Tab, um ein Modell direkt von Hugging Face zu beziehen, oder legen Sie manuell eine GGUF-Datei im Ordner `models/` ab und wählen Sie dann das passende Backend.
- 5. Einen Chat-Modus wählen. Wählen Sie je nach Anwendungsfall im Parameters-Tab den Modus Instruct, Chat, Chat-Instruct oder Notebook.
- Die vollständige Dokumentation wird im Projekt-Wiki gepflegt.
Preise: Kostenlos und quelloffen
Es gibt keine Preisstufe zu vergleichen — text-generation-webui war schon immer vollständig kostenlos.
- Kostenlos, für immer, für alle. Die Software steht unter der AGPL-3.0-Lizenz, ohne kostenpflichtige Version, ohne Abonnement und ohne Unternehmen, das sie verkauft.
- Keine gehostete Version. Es ist dafür konzipiert, auf Ihrer eigenen Hardware zu laufen; es gibt kein offizielles Cloud-gehostetes „TextGen as a Service"-Angebot.
- Finanzierungsgeschichte. Der Maintainer erhielt 2023 ein einmaliges Open-Source-Stipendium von Andreessen Horowitz zur Unterstützung der Vollzeitentwicklung — dies finanzierte die Zeit des Entwicklers, nicht ein kommerzielles Produkt, und änderte weder die Lizenz noch führte es eine kostenpflichtige Stufe ein.
- Ihre einzigen tatsächlichen Kosten sind die Hardware. Da es Modelle lokal ausführt, bestehen die praktischen Kosten aus der GPU oder CPU, die Sie bereits besitzen — es gibt keine Pro-Token- oder Pro-Nachricht-Gebühr durch die Software selbst.
text-generation-webui vs KoboldCpp vs LM Studio vs Open WebUI: Welches Tool?
Diese vier lösen überlappende, aber unterschiedliche Probleme — drei führen Modelle direkt aus, eines ist ein Frontend für ein separates Backend.
Tool | Link | Am besten für | Führt Modelle direkt aus | LoRA-Training | Mehrbenutzerfähig | Lizenz |
|---|---|---|---|---|---|---|
| text-generation-webui (TextGen) | github.com/oobabooga/textgen | Tiefe Konfigurierbarkeit: mehrere Backends, LoRA-Training, Tool-Calling-API | Ja (llama.cpp, ExLlamaV3, Transformers, TensorRT-LLM) | Ja | Nein | AGPL 3.0 |
| KoboldCpp | github.com/LostRuins/koboldcpp | Leichtgewichtiges, für kreatives Schreiben/Rollenspiel geeignetes Backend, einfache Kopplung mit SillyTavern | Ja (basiert auf llama.cpp) | Nein | Nein | AGPL 3.0 |
| LM Studio | lmstudio.ai | Einfachste sofort einsatzbereite GUI zum Herunterladen und Ausführen von GGUF-Modellen | Ja (nativ) | Nein | Nein | Kostenlos (Closed Source) |
| Open WebUI | openwebui.com | Selbst gehostetes Frontend für mehrere Benutzer, das auf ein separat betriebenes Backend zugreift | Nein (benötigt Ollama/vLLM/API) | Nein | Ja, mit Rollen | Open WebUI-Lizenz |
Für zeichen-/rollenspielorientierten Chat, der text-generation-webui als Backend nutzen kann, siehe SillyTavern. Für einen umfassenderen Vergleich von Backend vs. Serving-Engine siehe text-generation-webui vs vLLM vs llama.cpp.
Häufige Fehler bei text-generation-webui
- Eine GGUF-Datei mit dem falschen ausgewählten Backend laden. Passen Sie das Backend an das Modellformat an: llama.cpp für GGUF, ExLlamaV3 für EXL3, Transformers für Full-Precision-Safetensors.
- Auf GitHub nach „text-generation-webui" suchen und annehmen, das Projekt sei aufgegeben worden, weil das Top-Ergebnis nun „TextGen" heißt. Es handelt sich seit April 2026 um dasselbe, aktiv gepflegte Projekt unter neuem Namen und neuer Repository-URL — die alte URL leitet lediglich weiter.
- Eine veraltete Anleitung verwenden, die AutoGPTQ oder das ursprüngliche ExLlama erwähnt. Diese Loader sind nicht mehr Teil der aktuellen Backend-Aufstellung; verwenden Sie stattdessen llama.cpp oder ExLlamaV3.
- Ein integriertes Mehrbenutzer-Login erwarten. Es gibt kein Kontosystem — wenn mehrere Personen separaten Zugriff benötigen, ist dafür ein anderes Tool wie Open WebUI vor einem gemeinsam genutzten Backend erforderlich.
- Versuchen, es als Rollenspiel-Frontend mit Charakterkarten zu nutzen. Es hat kein Lorebook- oder Charakterkarten-System; kombinieren Sie es stattdessen für diesen Workflow mit SillyTavern.
Häufige Fragen zu text-generation-webui
Ist text-generation-webui dasselbe wie TextGen?
Ja. In Version 4.5.2 (15. April 2026) benannte sich das Projekt von „text-generation-webui" in „TextGen" um und verschob sein GitHub-Repository nach github.com/oobabooga/textgen. Es wird vom selben Entwickler gepflegt und führt dieselbe Sternezahl und Commit-Historie fort; die alte Repository-URL leitet auf die neue weiter.
Wer hat text-generation-webui erstellt?
Ein Entwickler, der unter dem Pseudonym „oobabooga" auftritt, hat das Projekt erstellt; der erste Commit stammt vom 21. Dezember 2022. Sein tatsächlicher Name wurde in keiner von uns überprüfbaren Quelle jemals öffentlich bekanntgegeben.
Ist text-generation-webui kostenlos?
Ja, vollständig. Es steht unter der AGPL-3.0-Lizenz, hat kein Unternehmen im Hintergrund und keine kostenpflichtige Stufe. Der Maintainer erhielt 2023 ein einmaliges Open-Source-Stipendium von Andreessen Horowitz zur Unterstützung der Vollzeitentwicklung, wodurch jedoch kein kommerzielles Produkt entstand.
Welche Backends unterstützt text-generation-webui?
Stand 2026 werden die Backends llama.cpp, ik_llama.cpp, Transformers, ExLlamaV3 und TensorRT-LLM unterstützt. Ältere Backends aus früheren Versionen — AutoGPTQ, AutoAWQ und die ursprünglichen ExLlama/ExLlamaV2 — werden in der aktuellen Codebasis nicht mehr als unterstützt aufgeführt.
Unterstützt text-generation-webui LoRA-Fine-Tuning?
Ja. Der Training-Tab unterstützt LoRA-Fine-Tuning sowohl auf mehrteiligen Chat-Datensätzen als auch auf reinem Text, und Trainingsläufe können pausiert und fortgesetzt werden.
Hat text-generation-webui eine API?
Ja. Es bietet sowohl eine OpenAI-kompatible als auch eine Anthropic-kompatible API (mit Chat-, Completions- und Messages-artigen Endpunkten), mit Tool-Calling-Unterstützung über eigene Python-Funktionen oder MCP-Server sowie optionaler --api-key-/--admin-key-Authentifizierung.
Eignet sich text-generation-webui für Rollenspiele?
Dank der detaillierten Sampling-Parameter-Steuerung kann es für Rollenspiele genutzt werden, ist aber keine primär auf Rollenspiele ausgelegte Software — es gibt keine Charakterkarten, Lorebooks oder Gruppenchats. Ein speziell für Rollenspiele ausgelegtes Frontend ist SillyTavern, das text-generation-webui als eines seiner Backends nutzen kann.
Braucht text-generation-webui jetzt einen Browser?
Nicht zwingend. Seit Version 4.7.3 (Mai 2026) öffnen sich die portablen Versionen standardmäßig als natives Electron-Desktopfenster. Übergeben Sie das Flag --no-electron, wenn Sie die klassische Browser-Tab-Oberfläche unter http://127.0.0.1:7860 bevorzugen.
Wie unterscheidet sich text-generation-webui von KoboldCpp?
KoboldCpp ist speziell für kreatives Schreiben und Rollenspiele entwickelt und wird häufig als leichtgewichtiges Drop-in-Backend für SillyTavern genutzt. text-generation-webui ist breiter aufgestellt und konfigurierbarer, mit mehr Backend-Engines, LoRA-Training und einer umfassenderen API — auf Kosten von mehr Einstellungen, die man verstehen muss.
Wie unterscheidet sich text-generation-webui von Open WebUI?
Open WebUI ist ein serverbasiertes Frontend für mehrere Benutzer, das typischerweise vor Ollama oder ein anderes Backend geschaltet wird. text-generation-webui ist eine Einzelbenutzer-Desktop-/Lokal-App, die selbst der Host der Inference-Engine ist — sie führt das Modell direkt aus, statt sich mit einem separat verwalteten zu verbinden.
Quellen
- text-generation-webui / TextGen Quellcode, README und Releases — github.com/oobabooga/textgen
- GitHub-API-Repository-Daten (Erstellungsdatum, Lizenz, Sternezahl)
- Projekt-Wiki und Dokumentation — github.com/oobabooga/textgen/wiki