DeepSeek-R1 vs. Distills 2026: Was Sie wirklich verlieren

Wenn Sie ollama run deepseek-r1:14b eingeben, führen Sie keine kleinere Version von DeepSeek-R1 aus — Sie führen ein Qwen2.5 14B aus, das gelernt hat, das Reasoning von R1 nachzuahmen. Der Name „DeepSeek-R1-Distill-Qwen-14B" ist präzise, aber leicht falsch zu lesen: Der Teil „DeepSeek-R1" beschreibt, woher das Reasoning stammt, und der Teil „Qwen-14B" ist das tatsächliche Modell, das auf Ihrer GPU läuft.

Das ist wichtig, weil die Erwartungen dem Namen folgen. Man nimmt an, ein Distill sei „R1, nur kleiner und etwas schlechter". Es ist näher an „einem fähigen offenen Modell, das gelernt hat, wie R1 zu denken". Diese Sichtweise sagt das Verhalten voraus, das Sie tatsächlich sehen werden: ausgezeichnete Reasoning-Struktur, gelegentliche Lücken beim rohen Wissen oder bei der Zuverlässigkeit in den schwierigsten Fällen.

Zur Hardware-Realität dahinter, warum das vollständige Modell zu Hause tabu ist, siehe DeepSeek-V3 Lokale Hardware-Anforderungen — V3 ist das Chat-Modell-Geschwister mit demselben 671B-Klassen-Fußabdruck.

Update — DeepSeeks aktuelle Generation ist DeepSeek-V4, nicht R1. V4 (Flash und Pro) ist als offene Gewichte veröffentlicht (V4-Flash: rund 284B Parameter gesamt, 13B aktiv, MIT-Lizenz), gehört aber zur Server-Klasse und ist kein Modell für eine einzelne GPU. Laut DeepSeek-Changelog waren die alten API-Namen deepseek-chat und deepseek-reasoner (die Generationen V3 und R1) zur Abschaltung am 2026-07-24 vorgesehen; die API liefert jetzt die V4-Familie. Ein „gehostetes R1“ meint in diesem Beitrag daher die vollständigen R1-Gewichte bei einem Drittanbieter oder auf einem eigenen Cluster. Die hier behandelten R1-Distillate sind eigenständige Open-Weight-Veröffentlichungen, die von dieser Mitteilung nicht eingestellt wurden und weiterhin lokal laufen — sie sind Modelle der Vorgängergeneration, nicht DeepSeeks neueste Linie.

Das vollständige DeepSeek-R1 ist ein Mixture-of-Experts-Modell (MoE) mit 671 Milliarden Parametern, das pro Token rund 37B Parameter aktiviert und bei Q4 etwa 376–404 GB VRAM benötigt — nur Rechenzentrums-Hardware. Es ist das Modell, das das hochwertige Reasoning erzeugt, das die Distills nachahmen lernen.

MoE bedeutet, dass das Modell jedes Token durch eine kleine Teilmenge von „Experten"-Subnetzen leitet, sodass pro Token nur ~37B der 671B-Parameter feuern. Das macht die Inferenz günstiger als bei einem dichten 671B-Modell — aber jeder der 671B-Parameter muss trotzdem im Speicher liegen, weshalb es nicht auf Consumer-Hardware passt.

Von Unsloth gibt es einen dynamischen 1,58-Bit-Build des vollständigen R1 (rund 131 GB), der technisch auf einem Rechner mit mindestens 80 GB kombiniertem VRAM und RAM laufen kann, doch Unsloth selbst nennt Setups mit wenig Speicher „sehr langsam“ und gibt für einen einzelnen Nutzer etwa 14 Token pro Sekunde auf 2x H100 80 GB an. Das ist eine Kuriosität, kein praxistaugliches Heim-Setup. In der Praxis lebt das vollständige R1 in der Cloud und die Distills leben auf Ihrem Rechner.

DeepSeek erzeugte rund 800.000 Reasoning-Beispiele mit dem vollständigen R1 und stimmte dann bestehende offene Basismodelle — Qwen2.5 (Math-1,5B, Math-7B, 14B, 32B) und Llama 3.x (3.1-8B, 3.3-70B-Instruct) — auf diesen Beispielen fein ab. Die Basismodelle lernen, das schrittweise Reasoning-Muster von R1 zu reproduzieren, ohne jemals die Parameter von R1 zu enthalten.

Dies ist überwachtes Fine-Tuning auf hochwertigen Reasoning-Spuren, kein Reinforcement Learning auf den kleinen Modellen. Die Distills erben die *Form* des Denkens von R1 — wann ein Chain-of-Thought erweitert, wann zurückgegangen, wann verifiziert wird — aufgesetzt auf das, was das Basismodell bereits wusste.

Deshalb ist die Wahl der Basis so wichtig. Ein Distill ist nur so wissensreich wie seine Basis plus die von R1 kopierte Reasoning-Disziplin. Eine schwache Basis mit großartigen Reasoning-Spuren stößt bei der rohen Leistungsfähigkeit dennoch an eine Decke.

DeepSeek hat sechs R1-Distills auf vier Basismodell-Familien veröffentlicht — Qwen2.5-Math, Qwen2.5, Llama 3.1 und Llama 3.3 — und später DeepSeek-R1-0528-Qwen3-8B auf einer Qwen3-Basis ergänzt. Wählen Sie nach Basis und Größe, nicht nach dem „R1“ im Namen.

Die Distillation überträgt zuverlässig die drei Verhaltensweisen, die R1 zu einem starken Reasoner machen: Chain-of-Thought, Selbstverifikation und Reflexion. Diese überleben, weil sie Muster der Token-Generierung sind — und Muster sind genau das, was überwachtes Fine-Tuning gut kopiert.

Die Distillation kann die rohe Leistungsfähigkeit, Wissensbreite oder Zuverlässigkeit des vollständigen 671B-Modells bei den schwierigsten Problemen nicht übertragen — eine kleine Basis hat schlicht weniger Raum, um Informationen zu speichern und zu kombinieren. Je kleiner das Distill, desto größer diese Lücke.

Bei den meisten lokalen Reasoning-Aufgaben ist die Lücke klein genug, um sie zu ignorieren; entscheidend wird sie nur bei Problemen am Rand des Machbaren oder bei Aufgaben, die breites Weltwissen erfordern. Entscheiden Sie nach Anwendungsfall, nicht nach der Jagd auf das größte Modell.

DeepSeek-R1-0528-Qwen3-8B zeigt, dass eine stärkere Basis die Distillation-Lücke verkleinert: Auf Qwen3 8B mit Reasoning aus dem aktualisierten R1-0528 aufgebaut, führt es die offenen 8B-Modelle bei AIME 2024 an und liegt etwa 10 Punkte über dem Basis-Qwen3 8B. Dieselbe Größenklasse wie das ursprüngliche 8B-Distill, deutlich besseres Reasoning — weil die Basis besser und die Reasoning-Quelle neuer ist.

Die Lehre für die Wahl eines Distills: Bevorzugen Sie am kleinen Ende das Modell mit der stärkeren, neueren Basis gegenüber einem älteren Distill mit derselben Parameterzahl. Die Leistungsfähigkeit pro Gigabyte steigt durch bessere Basen schneller als durch reine Größe.

Führen Sie jedes DeepSeek-R1-Distill mit Temperatur 0,6 (0,5–0,7 ist sicher) und ohne System-Prompt aus — packen Sie alle Anweisungen in den User-Prompt. Das vermeidet den Fehlermodus aus Wiederholung und Inkohärenz, zu dem die R1-Familie neigt, wenn sie einen System-Prompt oder eine Temperatur nahe 0 oder über ~0,8 erhält.

Wenn Sie ein Distill mit dem vollständigen gehosteten R1 vergleichen und das Distill in Schleifen läuft oder abdriftet, korrigieren Sie die Konfiguration, bevor Sie schließen, das Distill sei schwach — schlechte Sampling-Einstellungen verschleiern seine wahre Qualität.

Ausnahme: DeepSeek-R1-0528-Qwen3-8B akzeptiert einen System-Prompt. Laut Modellkarte ist das erzwungene <think>-Präfix nicht mehr nötig, und die Temperatur 0,6 (top-p 0,95 in DeepSeeks Auswertungen) gilt weiterhin. Die Regel „kein System-Prompt“ betrifft das ursprüngliche R1 und die sechs ursprünglichen Distills.