Was ist KoboldCpp?
KoboldCpp ist ein kostenloses Ein-Datei-Programm, das GGUF-Sprachmodelle lokal ausführt, aufgebaut auf der llama.cpp-Inferenz-Engine und gepflegt von einem pseudonymen Entwickler namens LostRuins. Es stammt von den Oberflächen-Konventionen des ursprünglichen KoboldAI-Projekts ab, angepasst für den Betrieb auf llama.cpps Backend statt eines Python-basierten Inferenz-Stacks.
Das Projekt liegt unter github.com/LostRuins/koboldcpp und steht unter der GNU Affero General Public License Version 3 (AGPL 3.0) — einer Copyleft-Lizenz, die sich von der freizügigen MIT-Lizenz unterscheidet, die llama.cpp selbst im Hintergrund verwendet. Releases erscheinen häufig; die aktuelle Version ist v1.123.1 (13. Oktober 2026).
Die aktuelle Version ist v1.123.1 vom 13. Oktober 2026; frühere Releases, darunter v1.122.1 (26. September 2026), stehen auf der Releases-Seite. Der Name wird oft als Kobold CPP, kobold.cpp oder koboldccp geschrieben — gemeint ist stets dasselbe Projekt.
- Als eine ausführbare Datei je Plattform verteilt — koboldcpp.exe (Windows), koboldcpp-linux-x64 (Linux), koboldcpp-mac-arm64 (macOS Apple Silicon)
- Kein Installer, keine Python-Umgebung und kein Docker zum Betrieb nötig
- Nutzt llama.cpp für die eigentliche Modell-Inferenz und baut eigenen Server, Weboberfläche und API-Schicht obendrauf
- Bietet einen nocuda-Build (CUDA-frei, Vulkan-fähig) und einen oldpc-Build (CUDA11 + AVX1) für ältere Hardware, neben dem CUDA-fähigen Hauptbuild
Was ist KoboldAI Lite, und was bringt es zusätzlich?
KoboldAI Lite ist die Weboberfläche, die direkt in der KoboldCpp-Datei mitgeliefert wird — sie öffnet sich automatisch in einem Browser-Tab, sobald der Server startet, ohne separaten Installationsschritt. Sie ist speziell auf Langform-Schreiben und Rollenspiel ausgelegt, nicht nur auf Chat im Frage-Antwort-Takt.
- Editierbare Ausgabe: generierter Text lässt sich direkt bearbeiten, nicht nur neu generieren — wichtig für gemeinsames Story-Schreiben
- Memory- und World-Info-Felder: dauerhafte Kontextblöcke, die das Modell immer sieht, um Charakterdetails oder Story-Fakten über eine lange Sitzung hinweg konsistent zu halten
- Mehrere Modi: normaler Chat, ein „Story"-Modus für gemeinsames Schreiben und ein „Adventure"-Modus im Stil von Textadventures
- Author's-Note- und Instruct-Formatierungs-Kontrollen zur Steuerung von Ton und Stil, ohne die zugrunde liegende Prompt-Vorlage von Hand zu bearbeiten
- Läuft vollständig aus derselben ausführbaren Datei und demselben lokalen Server — keine separate Frontend-App oder Browser-Erweiterung nötig
Wie lädt man KoboldCpp herunter und startet es?
Die richtige Datei für die eigene Plattform von der offiziellen GitHub-Releases-Seite herunterladen und direkt ausführen — ein Installationsschritt entfällt. Die passende Version für die eigene Hardware zu wählen ist die einzige wirkliche Entscheidung dabei.
- 1Die KoboldCpp-Releases-Seite auf GitHub aufrufen — die einzige offizielle Download-Quelle.
- 2Die passende Plattform-Version wählen: koboldcpp.exe für Windows, koboldcpp-linux-x64 für Linux oder koboldcpp-mac-arm64 für macOS auf Apple Silicon.
- 3Den passenden GPU-Weg wählen: Der Hauptbuild enthält NVIDIA-CUDA-Unterstützung; AMD-Nutzern empfiehlt das Projekt zunächst die Vulkan-Option im nocuda-Build; ein separater rollierender ROCm-Build existiert für Linux; ältere Hardware ohne moderne Befehlssätze sollte den oldpc-Build (CUDA11 + AVX1) nutzen.
- 4Eine GGUF-Modelldatei (z. B. von Hugging Face) herunterladen, falls noch keine vorhanden ist.
- 5Die ausführbare Datei starten, im Launcher-Fenster die GGUF-Datei und einen GPU-Layer-Offload-Wert wählen und den Server starten.
- 6Ein Browser-Tab öffnet sich automatisch mit der KoboldAI-Lite-Oberfläche, bereits mit dem laufenden lokalen Server verbunden.
Erfordert KoboldCpp eine Installation?
Nein. Es handelt sich um eine einzelne ausführbare Datei — herunterladen und direkt starten. Es gibt keinen Installer, keine separate Python-Umgebung und keinen Docker-Container.
Kann KoboldCpp ohne GPU laufen?
Ja. Reiner CPU-Betrieb wird vollständig unterstützt; eine GPU (über CUDA, Vulkan oder ROCm) beschleunigt lediglich die Generierung, ist aber nie zwingend erforderlich.
Welche GPUs und Hardware unterstützt KoboldCpp?
KoboldCpp unterstützt NVIDIA-, AMD- und reine CPU-Setups über separate Build-Varianten statt eines einzigen, alles automatisch erkennenden Universal-Binarys. Die passende Version für die eigene Hardware zu wählen ist nötig, damit GPU-Beschleunigung funktioniert.
- NVIDIA — CUDA-Beschleunigung ist in den Haupt-Release-Binaries fest eingebaut
- AMD — das Projekt selbst empfiehlt, zunächst das Vulkan-Backend im nocuda-Build zu probieren, da es die breiteste Kompatibilität bietet; ein separates rollierendes ROCm-Binary wird zudem für Linux gepflegt
- Herstellerübergreifend — das Vulkan-Backend läuft auch auf Intel-Grafik und älteren NVIDIA-/AMD-Karten ohne herstellerspezifische Treiber
- Ältere Hardware — der oldpc-Build richtet sich an CUDA 11 und reine AVX1-CPUs für Rechner, die den modernen Standard-Build nicht ausführen können
- Nur CPU — der nocuda-Build läuft komplett ohne GPU, mit reduzierter Geschwindigkeit gegenüber GPU-beschleunigter Inferenz
Für wen eignet sich KoboldCpp?
Nutzen Sie KoboldCpp, wenn Story-Schreiben, Rollenspiel oder eine installationsfreie Einzeldatei wichtiger sind als reiner Durchsatz oder minimaler Speicherbedarf; nutzen Sie etwas anderes, wenn Sie Multi-User-Produktions-Serving oder den kleinstmöglichen Download brauchen.
🧭 Für wen eignet sich KoboldCpp
- Rollenspiel- und Ko-Fiktion-Nutzer, die einen Editor mit integrierten Memory-/World-Info-Feldern wollen, nicht nur eine Chat-Blase
- Wer ein lokales Modell mit dem absolut geringsten Aufwand ausprobieren möchte — eine Datei, ein Download, keine Build-Toolchain
- Nutzer mit älterer oder AMD-Hardware, bei denen die Vulkan- oder oldpc-Builds einen verlässlicheren Weg bieten als CUDA-first ausgelegte Mainstream-Tools
- Wer zusätzlich einfache Bildgenerierung oder Sprache-zu-Text in derselben App möchte, ohne für jedes Feature ein separates Tool zu installieren
❌ Für wen sich KoboldCpp nicht eignet
- Teams, die Multi-User-Produktions-Serving mit hoher Nebenläufigkeit brauchen — vLLM oder NVIDIA TensorRT-LLM sind dafür gebaut, KoboldCpp nicht
- Organisationen mit Richtlinien gegen AGPL-lizenzierte (Copyleft-)Software — vor dem Einbetten in ein kommerzielles Produkt, das modifiziert und weiterverbreitet werden soll, rechtlich prüfen lassen
- Wer den kleinstmöglichen Download will — die Einzeldatei bündelt Oberfläche, Bildgenerierung und Sprache-zu-Text, unabhängig davon, ob sie genutzt werden
- Wer einen schlichten, minimalen Chat-Client ohne rollenspielspezifische Oberflächen-Elemente sucht — Ollama mit separatem, schlankem Frontend passt hier besser
🏆 Beste Wahl je nach Anwendungsfall
- Am besten für Rollenspiel und Story-Schreiben von Anfang an: KoboldCpp
- Am besten für das einfachste lokale Setup mit Modellverwaltungs-CLI: Ollama
- Am besten für eine polierte, terminalfreie Desktop-GUI: LM Studio
- Am besten für Multi-User-Serving mit hohem Durchsatz: vLLM oder TensorRT-LLM
- Am besten für maximale Kontrolle über Hardware-Backends: llama.cpp direkt
Wie schneidet KoboldCpp im Vergleich zu Ollama und anderen lokalen Tools ab?
Die engsten Vergleiche zu KoboldCpp sind andere auf llama.cpp aufgebaute Tools sowie Produktions-Serving-Engines für eine ganz andere Aufgabe.
Tool | Lizenz | Am besten für |
|---|---|---|
| KoboldCpp | AGPL 3.0 | Installationsfrei, Rollenspiel/Story-UI eingebaut |
| llama.cpp | MIT | Breiteste Hardware-Unterstützung, direkte Kontrolle |
| Ollama | MIT | Einfache CLI/API, Modellverwaltung |
| LM Studio | Proprietär (kostenlos) | Terminalfreie Desktop-GUI |
| vLLM | Apache 2.0 | Multi-User-Serving mit hohem Durchsatz |
| text-generation-webui | AGPL 3.0 | Tiefe UI-Anpassung, viele Backends |
Häufige Fehler bei der Bewertung von KoboldCpp
Die meiste Verwirrung entsteht, wenn KoboldCpp wie eine gewöhnlich installierte App behandelt wird, oder beim Download aus inoffiziellen Quellen.
Fehler 1: KoboldCpp von einer anderen Seite als GitHub Releases herunterladen
Der einzige offizielle Verteilungskanal ist die GitHub-Releases-Seite. Eine gleichnamige Datei auf einer Drittanbieter-Seite lässt sich nicht als echter Build verifizieren.
Fehler 2: Den CUDA-Build auf einer AMD-GPU verwenden
Die CUDA-Beschleunigung des Hauptbuilds funktioniert nur mit NVIDIA-GPUs. AMD-Nutzer brauchen die Vulkan-Option im nocuda-Build oder den separaten rollierenden ROCm-Build für Linux — der falsche Build fällt schlicht auf langsamere reine CPU-Inferenz zurück.
Fehler 3: Annehmen, AGPL 3.0 funktioniere wie die MIT-Lizenz von llama.cpp
llama.cpp (die Engine, auf der KoboldCpp aufbaut) ist MIT-lizenziert; KoboldCpp selbst steht unter AGPL 3.0, einer Copyleft-Lizenz. Private und interne Nutzung bringt keine Veröffentlichungspflicht mit sich, aber KoboldCpp zu modifizieren und als Netzwerkdienst anzubieten löst die Quellcode-Veröffentlichungspflicht der AGPL aus — den Lizenztext lesen, bevor ein kommerzielles Produkt darauf aufgebaut wird.
Häufig gestellte Fragen
Was ist KoboldCpp?
KoboldCpp ist eine kostenlose, auf llama.cpp aufgebaute lokale LLM-Anwendung in einer einzigen Datei. Sie führt GGUF-Modelle ohne Installationsschritt aus und bringt die KoboldAI-Lite-Weboberfläche für Story-Schreiben und Rollenspiel mit.
Was ist der Unterschied zwischen KoboldCpp und llama.cpp?
KoboldCpp baut auf llama.cpp auf und führt dieselben GGUF-Modelle aus. llama.cpp ist die MIT-lizenzierte Inferenz-Engine mit der breitesten Hardware-Unterstützung und direkter Kontrolle; KoboldCpp (AGPL 3.0) verpackt sie als einzelne ausführbare Datei mit der KoboldAI-Lite-Weboberfläche für Geschichten und Rollenspiele sowie mit integrierter Stable-Diffusion-Bildgenerierung und Whisper-Spracherkennung.
Wer pflegt KoboldCpp?
KoboldCpp wird von einem pseudonymen Entwickler namens LostRuins im Repository github.com/LostRuins/koboldcpp gepflegt. Releases erscheinen häufig, mit v1.123.1 als aktueller Version (13. Oktober 2026).
Ist KoboldCpp kostenlos?
Ja. KoboldCpp ist kostenlos und quelloffen unter der AGPL-3.0-Lizenz. Es gibt keine kostenpflichtige Stufe und kein gehostetes Produkt — jede KoboldCpp-Installation läuft auf selbst kontrollierter Hardware.
Unter welcher Lizenz steht KoboldCpp?
AGPL 3.0 (GNU Affero General Public License Version 3), eine Copyleft-Lizenz. Das unterscheidet sich von der MIT-Lizenz, die llama.cpp, die Engine im Hintergrund, verwendet.
Erfordert KoboldCpp eine Installation?
Nein. Es wird als einzelne ausführbare Datei je Plattform (Windows, Linux, macOS ARM64) verteilt — herunterladen und direkt starten, ohne Installer, Python-Umgebung oder Docker-Container.
Unterstützt KoboldCpp AMD-GPUs?
Ja, allerdings nicht über den Haupt-CUDA-Build. Das Projekt empfiehlt die Vulkan-Option im nocuda-Build als ersten Weg für AMD, ergänzt durch einen separat gepflegten rollierenden ROCm-Build für Linux.
Was ist KoboldAI Lite?
KoboldAI Lite ist die in der KoboldCpp-Datei mitgelieferte Weboberfläche. Sie öffnet sich automatisch im Browser, sobald der Server startet, und bietet editierbare Ausgabe, Memory-/World-Info-Felder sowie eigene Chat-, Story- und Adventure-Modi für Rollenspiel und gemeinsames Schreiben.
Kann KoboldCpp Bilder generieren oder Sprache transkribieren?
Ja. Dieselbe ausführbare Datei bündelt Stable-Diffusion-Bildgenerierung und Whisper-Sprache-zu-Text neben der primären Textgenerierung.
Eignet sich KoboldCpp für Produktion oder Multi-User-Betrieb?
Nein, das ist nicht das Designziel. KoboldCpp ist für Einzelnutzer-Betrieb mit reichhaltiger Schreiboberfläche gebaut; für Multi-User-Produktions-Serving mit hoher Nebenläufigkeit sind vLLM oder NVIDIA TensorRT-LLM die passenden Werkzeuge.
Worin unterscheidet sich KoboldCpp von Ollama?
Beide bauen auf llama.cpp auf, aber Ollama setzt auf eine minimale CLI und Modell-Registry ohne integrierte Oberfläche, während KoboldCpp eine vollständige browserbasierte Schreib- und Rollenspiel-Oberfläche (KoboldAI Lite) in derselben ausführbaren Datei mitbringt.