Was ist Unsloth?
Unsloth ist ein Tool zum Fine-Tuning und Ausführen von KI-Modellen auf Hardware, die Sie selbst kontrollieren, statt über eine Cloud-Trainings-API. Das eigene GitHub-README beschreibt es als „die erste Desktop-App zum Ausführen und Trainieren von Modellen" — das spiegelt eine echte Entwicklung wider: Das Projekt startete 2023 als Python-Bibliothek zur Beschleunigung von LLM-Fine-Tuning und ist seitdem zu einem dreiteiligen Produkt gewachsen, das eine native Desktop-App, eine selbst gehostete Weboberfläche und die ursprüngliche Bibliothek darunter umfasst.
- Kernfunktion: Fine-Tuning eines Basismodells mit eigenen Daten (Text, Bild, Audio oder Embedding-Daten) mittels Techniken wie LoRA und QLoRA, anschließend Ausführen oder Exportieren des Ergebnisses
- Nicht nur Text: Laut Funktionsliste im README unterstützt Unsloth ausdrücklich Diffusionsmodelle (Bild und Video), Text-zu-Sprache-Modelle und Embedding-Modelle, zusätzlich zu LLMs
- Drei Produkte unter einem Projekt: Unsloth Desktop (native App), Unsloth Studio (Weboberfläche, selbst gehostet oder über Docker) und Unsloth Core (das
unsloth-Python-Paket) - Entwickler: Unsloth AI, laut GitHub-Profil ein in den USA ansässiges Unternehmen mit der Beschreibung „Run and train AI models locally"
- Kanonisches Repository: github.com/unslothai/unsloth, laut GitHub-Metadaten im November 2023 erstellt
Release-Historie von Unsloth
Unsloth veröffentlicht kein einzelnes, datiertes Änderungsprotokoll wie manche Desktop-Apps, daher stammt die überprüfbare Historie unten aus zwei offiziellen Quellen: den eigenen Repository-Metadaten von GitHub und der Release-Historie des unsloth-Pakets auf dem Python Package Index (PyPI).
- Das GitHub-Repository wurde laut Repository-Metadaten von GitHub am 29. November 2023 erstellt
- Das erste Release des
unsloth-Pakets auf PyPI wurde am 4. August 2024 hochgeladen (Version 2024.8), laut offizieller Release-Historie von PyPI - Stand dieser Review listet PyPI 241 Releases insgesamt für das
unsloth-Paket, das jüngste (Version 2026.9.4) hochgeladen am 9. September 2026 — ein Release-Rhythmus von etwa alle paar Tage über die Lebensdauer des Pakets hinweg - Der Umfang des Projekts wuchs in dieser Zeit erheblich: Es begann als reine Beschleunigungsbibliothek für Text-LLM-Fine-Tuning und deckt laut aktuellem README inzwischen auch Diffusions-, Text-zu-Sprache- und Embedding-Modelle ab, dazu eine native Desktop-App und eine selbst gehostete Weboberfläche, die es in der ursprünglichen, reinen Bibliotheksform noch nicht gab
Was können Sie mit Unsloth tun?
Unsloths Funktionsumfang erstreckt sich über Training (Fine-Tuning eines Modells mit eigenen Daten) und Ausführung (Nutzung eines trainierten oder heruntergeladenen Modells), über vier Modelltypen hinweg. Hier, was jeder Teil laut eigenem GitHub-README tatsächlich leistet.
- Fine-Tuning über vier Modelltypen — LLMs, Diffusionsmodelle (Bild/Video), Text-zu-Sprache-Modelle und Embedding-Modelle, mittels LoRA, QLoRA, vollständigem Fine-Tuning oder Pretraining
- Reinforcement Learning — GRPO und DPO werden beide für RL-basiertes Fine-Tuning unterstützt, zusätzlich zu den gängigeren überwachten Fine-Tuning-Methoden
- Modelle ausführen und bereitstellen — über das Training hinaus kann Unsloth GGUF-, MLX- und Diffusionsmodelle direkt ausführen und über einen OpenAI-kompatiblen lokalen API-Server bereitstellen
- Agenten-Integration — der Befehl
unsloth startverbindet ein lokales Modell mit Coding-Agenten, darunter Claude Code, OpenAI Codex und weitere (laut eigener Liste im README), mit einem einzigen Befehl - Remote- und LAN-Zugriff — Unsloth Studio lässt sich im Heimnetzwerk freigeben oder über einen Cloudflare-Tunnel sicher von außerhalb des Netzwerks erreichen, auch vom Smartphone aus
- Datensatz-Erstellung — eine Funktion namens „Data Recipes" erstellt Trainingsdatensätze direkt aus PDFs, CSVs und DOCX-Dateien, statt einen vorformatierten Datensatz vorauszusetzen
- Export und Bereitstellung — trainierte Modelle lassen sich in Formate wie GGUF, NVFP4 und FP8 exportieren, zur Nutzung in anderen lokalen KI-Tools
- Kostenlose Trainings-Notebooks — Unsloth veröffentlicht kostenlose Google-Colab-Notebooks zu bestimmten Modellen und Techniken (Llama, Qwen, gpt-oss, GRPO, TTS, Embeddings und Vision-Fine-Tuning)
Anwendungsbeispiele: Drei Wege, Unsloth zu nutzen
Dies sind konkrete Arbeitsabläufe, aufgebaut auf den oben dokumentierten Funktionen von Unsloth — keine hypothetischen Anwendungsfälle.
Ein kleines LLM in einem kostenlosen Colab-Notebook fine-tunen
Öffnen Sie eines von Unsloths kostenlosen Notebooks (zum Beispiel das Llama-3.1-8B-Alpaca-Notebook), fügen Sie Ihren eigenen Datensatz im vom Notebook erwarteten Format hinzu und führen Sie es auf der kostenlosen GPU-Stufe von Google Colab aus. Das ist der reibungsloseste Weg, Fine-Tuning auszuprobieren, ohne lokal etwas zu installieren oder eine GPU zu besitzen.
Lokal mit der Unsloth-Desktop-App fine-tunen
Laden Sie Unsloth Desktop für Ihr Betriebssystem herunter, wählen Sie über die Oberfläche ein Basismodell und Ihren eigenen Datensatz aus und führen Sie den Fine-Tuning-Job auf Ihrer eigenen GPU aus. So vermeiden Sie das Einrichten einer Python-Umgebung, die Unsloth Core erfordert — auf Kosten der feineren Kontrolle, die ein Skript bietet.
Ein lokal trainiertes Modell einem Coding-Agenten bereitstellen
Führen Sie nach dem Fine-Tuning oder Herunterladen eines Modells unsloth start claude --model <ihr-modell> aus, um es über Unsloths lokale API mit Claude Code zu verbinden — so nutzen Sie Ihr eigenes fine-getuntes oder gewähltes Modell als Backend für einen Agenten-Workflow statt eines Cloud-Modells.
Unsloth installieren: Desktop, Studio und Core
Unsloth ist auf drei Wegen verfügbar, laut eigenem GitHub-README — die Desktop-App ist das, was das Projekt selbst den meisten Nutzern empfiehlt. Die untenstehenden Links sind direkte GitHub-Release-URLs und offizielle Installationsskripte; prüfen Sie diese stets direkt anhand des READMEs, da sich Release-URLs zwischen Versionen ändern können.
Installationsweg | Befehl oder Link |
|---|---|
| Unsloth Desktop — Windows | Unsloth-Desktop-Windows.exe |
| Unsloth Desktop — macOS | Unsloth-Desktop-MacOS.dmg |
| Unsloth Desktop — Linux (.deb) | Unsloth-Desktop-Ubuntu.deb |
| Unsloth Desktop — Linux (AppImage) | Unsloth-Desktop-Linux.AppImage |
| Unsloth Studio — macOS/Linux/WSL | curl -fsSL https://unsloth.ai/install.sh | sh dann unsloth studio |
| Unsloth Studio — Windows | irm https://unsloth.ai/install.ps1 | iex dann unsloth studio |
| Unsloth Studio — Docker | docker run -d --gpus all --ipc=host -p 8000:8000 unsloth/unsloth — Tags siehe Docker Hub |
| Unsloth Core — Linux/WSL (pip via uv) | uv pip install unsloth --torch-backend=auto |
Nutzer von AMD- und Intel-GPUs benötigen zusätzliche Schritte über die Standardinstallation hinaus — siehe Unsloths eigenen AMD-Guide und Intel-Guide. Ein dedizierter Docker-Hub-Tag, unsloth/unsloth:core, installiert Unsloth Core (Jupyter-Notebooks) ohne die Studio-Weboberfläche — aktuelle Tag-Liste siehe Docker Hub.
Unsloth-Preise: Ist Unsloth wirklich kostenlos?
Soweit diese Review es überprüfen konnte: ja — Unsloth hat keine bezahlte Stufe. Das GitHub-Repository nennt ein duales Lizenzmodell (Kernpaket unter Apache-2.0, optionale Komponenten wie die Unsloth-Studio-Oberfläche unter AGPL-3.0), und das README des Projekts verlinkt keine Preisseite und beschreibt keine bezahlte Funktion. PromptQuorum konnte unsloth.ai während dieser Review nicht direkt laden (die Seite antwortete auf automatisierte Anfragen mit einer Zugriffsverweigerung) — falls eine konkrete Preisentscheidung für Sie relevant ist, prüfen Sie die Live-Seite selbst, statt sich allein auf diese Review zu verlassen.
- Kein Abonnement oder bezahlte Stufe im GitHub-Repository oder dessen README dokumentiert
- Kein Konto oder Anmeldung nötig, um Unsloth Desktop herunterzuladen oder Unsloth Core zu installieren
- Kostenlose Google-Colab-Notebooks werden für Training ohne eigene GPU bereitgestellt, vorbehaltlich der eigenen kostenlosen GPU-Limits von Colab (von Google festgelegt, nicht von Unsloth)
- Die Lizenzen Apache-2.0 und AGPL-3.0 gelten für den Quellcode; sie garantieren nicht von sich aus, dass jeder zugehörige Dienst (zum Beispiel ein künftiges gehostetes Angebot) immer kostenlos bleibt — prüfen Sie die aktuellen Bedingungen direkt auf unsloth.ai
Unsloth vs. Axolotl vs. MLX-LM
Unsloth, Axolotl und MLX-LM sind die drei lokalen Fine-Tuning-Tools, die PromptQuorums eigener Vergleich der Fine-Tuning-Frameworks ausführlich behandelt — dieser Abschnitt fasst den wichtigsten Unterschied für Leser dieser konkreten Review zusammen.
Aspekt | Unsloth | Axolotl | |
|---|---|---|---|
| Lizenz | Kern: Apache-2.0 / Studio-UI: AGPL-3.0 | Apache-2.0 | MIT |
| Oberfläche | Desktop-App, Weboberfläche oder Python-Bibliothek | YAML-konfigurationsgesteuert, keine Desktop-App | Python-Bibliothek/CLI, keine Desktop-App |
| Modelltypen | LLM, Diffusion, TTS, Embedding | Auf LLM fokussiert | Auf LLM fokussiert |
| Hardware | NVIDIA, AMD, Intel, CPU, Vulkan | NVIDIA-zentrierter CUDA-Stack | Nur Apple Silicon |
| Multi-Node-Training | Im README nicht dokumentiert | Ja — Torchrun und Ray | Über mx.distributed |
| Am besten für | Breiteste Ein-Geräte-Option, auch für Nicht-Text-Modelle | Skalierung über eine Maschine hinaus | Schlanke, Apple-native Arbeit auf einem Mac |
Wenn Ihr Trainingslauf mehr als eine Maschine benötigt oder Sie speziell eine möglichst breite Abdeckung von DPO/ORPO/KTO/GRPO/Reward-Modeling benötigen, zeigt der vollständige Vergleich, warum Axolotl dort die bessere Wahl ist. Siehe die dedizierte MLX-LM-Review, wenn Sie ausschließlich auf Apple Silicon setzen und die schlankeste native Option statt Unsloths breiterer (aber schwererer) Desktop-App wollen.
Für wen ist Unsloth geeignet?
Ob Unsloth passt, hängt davon ab, ob Sie ein einziges kostenloses Tool wollen, das sowohl Training als auch Ausführung von Modellen über Text, Bild und Audio hinweg abdeckt, statt eines schmaleren Ein-Zweck-Tools.
Nutzen Sie Unsloth, wenn
- Sie ein LLM, ein Diffusionsmodell (Bild/Video), ein TTS-Modell oder ein Embedding-Modell fine-tunen möchten und lieber nicht vier verschiedene Tools lernen
- Sie eine klickbare Desktop-App-Option möchten, aber später eventuell die feinere Kontrolle der Python-Bibliothek für dasselbe Projekt brauchen
- Sie eine GPU besitzen (auch AMD oder Intel, nicht nur NVIDIA) und Pro-Token-Cloud-Fine-Tuning-Gebühren vermeiden möchten
- Sie ein fine-getuntes oder heruntergeladenes Modell direkt mit einem Coding-Agenten wie Claude Code oder Codex verbinden möchten
- Sie möchten, dass das zugrunde liegende Tool Open Source (Kern unter Apache-2.0, optionale Studio-Oberfläche unter AGPL-3.0) ist statt einer Closed-Source-Binärdatei
Warten Sie oder schauen Sie sich anderswo um, wenn
- Ihr Trainingsjob mehr als eine Maschine benötigt — Unsloths README dokumentiert Multi-Node-Training nicht wie das von Axolotl
- Sie die breitestmögliche Abdeckung an Alignment-Methoden (DPO, ORPO, KTO, GRPO, Reward-Modeling zugleich) benötigen — Axolotl dokumentiert eine breitere Methodenliste
- Sie ausschließlich auf Apple Silicon setzen und das schlankstmögliche native Tool statt einer breiteren Multi-Backend-App wollen — MLX-LM lohnt einen direkten Vergleich
- Eine Preis- oder Lizenzentscheidung speziell von der Live-Seite unsloth.ai abhängt — diese Review konnte diese Seite nicht direkt laden und stützte sich stattdessen auf GitHub-/PyPI-Metadaten
Unsloth vs. andere Fine-Tuning-Tools
Unsloth ist eines von mehreren Tools zum Fine-Tuning von Modellen auf eigener Hardware. So steht es im Vergleich zu anderen Optionen in diesem Bereich — die vollständige Übersicht finden Sie im Local LLM Software Directory, und den direkten Vergleich mit den nächsten Konkurrenten im dedizierten Unsloth-vs.-Axolotl-vs.-MLX-LM-Vergleich oben.
- Axolotl — ein Apache-2.0-Fine-Tuning-Framework, dessen dokumentierte Stärke Multi-Node-Training und die breiteste Alignment-Methodenabdeckung der drei ist; siehe den dedizierten Vergleichsabschnitt oben und PromptQuorums vollständigen Vergleich der Fine-Tuning-Frameworks.
- MLX-LM — Apples eigene, MIT-lizenzierte, Apple-Silicon-native Bibliothek zum Ausführen und Fine-Tunen von LLMs; siehe die MLX-LM-Review für einen dedizierten Blick.
- Together.ai und Fireworks.ai — Cloud-Fine-Tuning-APIs, die pro Trainings-Token abrechnen, statt eine eigene GPU vorauszusetzen; PromptQuorums Vergleich der Fine-Tuning-Frameworks behandelt die Preise von Together.ai direkt.
- Ollama und LM Studio — lokale Inferenz-Tools zum *Ausführen* von Modellen statt zum Trainieren; ein gängiges Muster ist, mit Unsloth zu fine-tunen, nach GGUF zu exportieren und das Ergebnis dann in Ollama oder LM Studio auszuführen. Siehe die Ollama-Review und die LM-Studio-Review.
Häufige Fehler bei der Bewertung von Unsloth
Die meiste Verwirrung um Unsloth entsteht aus einem veralteten Bild des Tools als reine Text-Python-Bibliothek oder aus der Annahme, die eigenen Geschwindigkeits-/VRAM-Angaben seien unabhängig verifiziert.
Fehler 1: Annehmen, Unsloth fine-tune nur Text-LLMs
Unsloth begann als Bibliothek zur Beschleunigung von LLM-Fine-Tuning, doch das aktuelle GitHub-README listet ausdrücklich Diffusionsmodelle (Bild/Video), Text-zu-Sprache-Modelle und Embedding-Modelle als für Training und Ausführung unterstützt auf — derselbe Funktionsumfang, der früher nur für Text galt, gilt jetzt breiter.
Fehler 2: Annehmen, Unsloth erfordere Python-Kenntnisse
Das traf auf die ursprüngliche Unsloth-Core-Bibliothek zu. Stand dieser Review ist Unsloth Desktop eine native, klickbare App für Windows, macOS und Linux, die das Projekt selbst als Standardweg zur Installation von Unsloth empfiehlt — kein Code erforderlich.
Fehler 3: „2x schneller, 70 % weniger VRAM" als unabhängig verifizierte Zahl behandeln
Diese Werte stammen aus Unsloths eigenen Benchmark-Angaben in README und Blog, nicht aus eigenen Tests von PromptQuorum oder einem Drittanbieter-Benchmark, den diese Review überprüfen konnte. Tatsächliche Geschwindigkeitssteigerung und VRAM-Ersparnis hängen vom konkreten Modell, der Methode und der Hardware ab.
Fehler 4: Unsloth Studio mit einem gehosteten Cloud-Dienst verwechseln
Unsloth Studio ist eine selbst gehostete Weboberfläche — Sie betreiben sie selbst (lokal, auf einem eigenen Server oder über Docker), statt sich für einen von Unsloth AI für Sie betriebenen Dienst anzumelden. Die optionale Cloudflare-Tunnel-Funktion ermöglicht den Fernzugriff auf Ihre eigene, selbst gehostete Instanz; sie bedeutet nicht, dass Unsloth Ihre Modelle hostet.
Häufig gestellte Fragen
Was ist Unsloth?
Unsloth (unsloth.ai, Quellcode auf github.com/unslothai/unsloth) ist ein kostenloses Open-Source-Tool (Kern unter Apache-2.0, optionale Studio-Oberfläche unter AGPL-3.0) zum Fine-Tuning und Ausführen von LLMs, Diffusionsmodellen (Bild/Video), Text-zu-Sprache- und Embedding-Modellen auf eigener Hardware, verfügbar als Desktop-App, selbst gehostete Weboberfläche oder Python-Bibliothek.
Ist Unsloth kostenlos?
Soweit diese Review anhand der GitHub-Repository-Metadaten und des READMEs des Projekts überprüfen konnte: ja — es gibt keine dokumentierte bezahlte Stufe. PromptQuorum konnte unsloth.ai während dieser Review nicht direkt laden (die Seite blockierte die automatisierte Anfrage) — prüfen Sie die aktuellen Preise auf der Live-Seite, falls eine Entscheidung davon abhängt.
Kann Unsloth Bilder fine-tunen, nicht nur Text?
Ja. Unsloths eigenes GitHub-README listet Diffusionsmodelle (Bild und Video) neben LLMs, Text-zu-Sprache-Modellen und Embedding-Modellen als für Training und Inferenz unterstützt auf.
Welche Lizenz verwendet Unsloth?
Ein duales Lizenzmodell: Das Kernpaket von Unsloth steht unter Apache-2.0, optionale Komponenten wie die Unsloth-Studio-Oberfläche unter AGPL-3.0 — so der Lizenzabschnitt im README des Projekts. Lesen Sie den Lizenztext, bevor Sie einen der beiden Teile weitergeben oder hosten.
Muss ich Python können, um Unsloth zu nutzen?
Nicht zwingend. Unsloth Desktop ist eine native, klickbare App für Windows, macOS und Linux. Unsloth Core, die ursprüngliche Python-Bibliothek, steht weiterhin für Entwickler zur Verfügung, die die Kontrolle auf Skript-Ebene wollen.
Welche Hardware unterstützt Unsloth?
Laut GitHub-README: Multi-GPU-Setups, NVIDIA-, AMD- und Intel-GPUs, reiner CPU-Betrieb über ein Vulkan-Backend, unter Windows, Linux, WSL und macOS.
Ist Unsloth Studio dasselbe wie Unsloth Desktop?
Nein. Unsloth Desktop ist eine native, installierte App. Unsloth Studio ist eine selbst gehostete Weboberfläche, die Sie über ein Installationsskript oder Docker betreiben und per Browser aufrufen — beide bauen auf derselben Unsloth-Core-Engine auf.
Kann Unsloth mit Claude Code oder anderen Coding-Agenten verbunden werden?
Ja, über den Befehl unsloth start, der laut Projekt-README ein lokales Modell mit Agenten wie Claude Code, OpenAI Codex und weiteren über Unsloths OpenAI-/Anthropic-kompatible API verbindet.
Wie schneidet Unsloth im Vergleich zu Axolotl ab?
Unsloth deckt mehr Modelltypen ab (LLM, Diffusion, TTS, Embedding) und mehr Hardware-Backends (auch AMD und Intel), während Axolotl Multi-Node-Training und eine breitere Alignment-Methodenabdeckung dokumentiert. Siehe den dedizierten Vergleichsabschnitt oben und PromptQuorums vollständigen Vergleich der Fine-Tuning-Frameworks.
Wer entwickelt Unsloth?
Unsloth AI, laut GitHub-Profil ein in den USA ansässiges Unternehmen. Das GitHub-Repository wurde im November 2023 erstellt.