DeepSeek-R1 vs. Distills 2026: Was Sie wirklich verlieren

**Wenn Sie ollama run deepseek-r1:14b eingeben, führen Sie keine kleinere Version von DeepSeek-R1 aus — Sie führen ein Qwen2.5 14B aus, das gelernt hat, das Reasoning von R1 nachzuahmen.** Der Name „DeepSeek-R1-Distill-Qwen-14B" ist präzise, aber leicht falsch zu lesen: Der Teil „DeepSeek-R1" beschreibt, woher das Reasoning stammt, und der Teil „Qwen-14B" ist das tatsächliche Modell, das auf Ihrer GPU läuft.

Das ist wichtig, weil die Erwartungen dem Namen folgen. Man nimmt an, ein Distill sei „R1, nur kleiner und etwas schlechter". Es ist näher an „einem fähigen offenen Modell, das gelernt hat, wie R1 zu denken". Diese Sichtweise sagt das Verhalten voraus, das Sie tatsächlich sehen werden: ausgezeichnete Reasoning-Struktur, gelegentliche Lücken beim rohen Wissen oder bei der Zuverlässigkeit in den schwierigsten Fällen.

Zur Hardware-Realität dahinter, warum das vollständige Modell zu Hause tabu ist, siehe DeepSeek V3 Lokale Hardware-Anforderungen — V3 ist das Chat-Modell-Geschwister mit demselben 671B-Klassen-Fußabdruck.

Das vollständige DeepSeek-R1 ist ein Mixture-of-Experts-Modell (MoE) mit 671 Milliarden Parametern, das pro Token rund 37B Parameter aktiviert und bei Q4 etwa 376–404 GB VRAM benötigt — nur Rechenzentrums-Hardware. Es ist das Modell, das das hochwertige Reasoning erzeugt, das die Distills nachahmen lernen.

MoE bedeutet, dass das Modell jedes Token durch eine kleine Teilmenge von „Experten"-Subnetzen leitet, sodass pro Token nur ~37B der 671B-Parameter feuern. Das macht die Inferenz günstiger als bei einem dichten 671B-Modell — aber jeder der 671B-Parameter muss trotzdem im Speicher liegen, weshalb es nicht auf Consumer-Hardware passt.

Ein Unsloth-1,58-Bit-Build (IQ1_S, ~131 GB) existiert und läuft technisch, aber mit rund 0,3 Token pro Sekunde ist er eine Kuriosität, kein brauchbares lokales Setup. In der Praxis lebt das vollständige R1 in der Cloud und die Distills leben auf Ihrer Maschine.

DeepSeek erzeugte rund 800.000 Reasoning-Beispiele mit dem vollständigen R1 und stimmte dann bestehende offene Basismodelle — Qwen2.5 (1,5B, 7B, 14B, 32B) und Llama 3 (8B, 70B) — auf diesen Beispielen fein ab. Die Basismodelle lernen, das schrittweise Reasoning-Muster von R1 zu reproduzieren, ohne jemals die Parameter von R1 zu enthalten.

Dies ist überwachtes Fine-Tuning auf hochwertigen Reasoning-Spuren, kein Reinforcement Learning auf den kleinen Modellen. Die Distills erben die *Form* des Denkens von R1 — wann ein Chain-of-Thought erweitert, wann zurückgegangen, wann verifiziert wird — aufgesetzt auf das, was das Basismodell bereits wusste.

Deshalb ist die Wahl der Basis so wichtig. Ein Distill ist nur so wissensreich wie seine Basis plus die von R1 kopierte Reasoning-Disziplin. Eine schwache Basis mit großartigen Reasoning-Spuren stößt bei der rohen Leistungsfähigkeit dennoch an eine Decke.

Die Distillation überträgt zuverlässig die drei Verhaltensweisen, die R1 zu einem starken Reasoner machen: Chain-of-Thought, Selbstverifikation und Reflexion. Diese überleben, weil sie Muster der Token-Generierung sind — und Muster sind genau das, was überwachtes Fine-Tuning gut kopiert.

Die Distillation kann die rohe Leistungsfähigkeit, Wissensbreite oder Zuverlässigkeit des vollständigen 671B-Modells bei den schwierigsten Problemen nicht übertragen — eine kleine Basis hat schlicht weniger Raum, um Informationen zu speichern und zu kombinieren. Je kleiner das Distill, desto größer diese Lücke.

Bei den meisten lokalen Reasoning-Aufgaben ist die Lücke klein genug, um sie zu ignorieren; entscheidend wird sie nur bei Problemen am Rand des Machbaren oder bei Aufgaben, die breites Weltwissen erfordern. Entscheiden Sie nach Anwendungsfall, nicht nach der Jagd auf das größte Modell.

DeepSeek-R1-0528-Qwen3-8B zeigt, dass eine stärkere Basis die Distillation-Lücke verkleinert: Auf Qwen3 8B mit Reasoning aus dem aktualisierten R1-0528 aufgebaut, führt es die offenen 8B-Modelle bei AIME 2024 an und liegt etwa 10 Punkte über dem Basis-Qwen3 8B. Dieselbe Größenklasse wie das ursprüngliche 8B-Distill, deutlich besseres Reasoning — weil die Basis besser und die Reasoning-Quelle neuer ist.

Die Lehre für die Wahl eines Distills: Bevorzugen Sie am kleinen Ende das Modell mit der stärkeren, neueren Basis gegenüber einem älteren Distill mit derselben Parameterzahl. Die Leistungsfähigkeit pro Gigabyte steigt durch bessere Basen schneller als durch reine Größe.

Führen Sie jedes DeepSeek-R1-Distill mit Temperatur 0,6 (0,5–0,7 ist sicher) und ohne System-Prompt aus — packen Sie alle Anweisungen in den User-Prompt. Das vermeidet den Fehlermodus aus Wiederholung und Inkohärenz, zu dem die R1-Familie neigt, wenn sie einen System-Prompt oder eine Temperatur nahe 0 oder über ~0,8 erhält.

Wenn Sie ein Distill mit dem vollständigen gehosteten R1 vergleichen und das Distill in Schleifen läuft oder abdriftet, korrigieren Sie die Konfiguration, bevor Sie schließen, das Distill sei schwach — schlechte Sampling-Einstellungen verschleiern seine wahre Qualität.