Grundlage der Rangliste (und was sie nicht ist)
Dies ist eine redaktionelle Rangliste aus Modellkarten, der Ollama-Bibliothek und öffentlichen Leaderboards. PromptQuorum hat dafür keinen neuen bewerteten Schreibtest durchgeführt. Kreatives Schreiben hat keine einzig richtige Antwort; Benchmarks messen es nur unvollkommen, und Leaderboards widersprechen sich.
- Größen und Kontext: entnommen aus den Ollama-Bibliotheksseiten zu Gemma 4, Qwen3.8, Qwen3.5, Mistral Small und Llama 3.3. Die Größen sind Download-Größen der 4-Bit-Standardbuilds; Kontextspeicher kommt hinzu.
- Lizenzen und Sampling-Vorgaben: entnommen aus den Hugging-Face-Modellkarten unter Quellen.
- Kreativ-Scores: EQ-Bench Creative Writing v3, ein von einem LLM bewerteter Benchmark. Die Gemma-4-Werte stammen aus einem Featherless-Artikel vom 2026-09-17; für Qwen3.8-27B gibt es keinen veröffentlichten Wert. Werte verschiedener Tracker sind nicht direkt vergleichbar; vergleichen Sie nur innerhalb einer Liste.
- Die Kennzeichnungen „am besten für“ sind redaktionelle Empfehlungen auf Basis dieser Quellen, keine Messergebnisse.
- Testen Sie jede Empfehlung selbst mit vier Prompts: eine Szene über 500 Wörter fortsetzen (Ton und Stimme), einen Absatz im Stil eines genannten Autors schreiben (ändert sich der Stil?), eine Geschichte mit 1.000 Wörtern und Wendung am Ende (Aufbau und Auflösung) und einen Dialog zweier Figuren (klingen die Stimmen verschieden?).
- Mehr zu Frontends, Worldbuilding und Low-Refusal-Modellen finden Sie im erweiterten Ratgeber zum kreativen Schreiben.
📌Hinweis: Betrachten Sie jede Empfehlung als Arbeitshypothese: Lassen Sie dieselben drei Szenen von zwei Kandidaten schreiben und behalten Sie das Modell, dessen Stimme Ihnen besser gefällt.
Bestes lokales LLM für kreatives Schreiben nach Speicherstufe
Wählen Sie zuerst nach Speicher: Das Modell muss mit Reserve für den Kontext hineinpassen. Die Größen sind Ollama-Download-Größen bei der standardmäßigen 4-Bit-Quantisierung; der Kontextspeicher (KV-Cache) kommt hinzu, bei langen Szenen grob 2–6 GB (Schätzung).
Ihr Speicher | Modell (Ollama-Tag) | Gewichte | Kontext |
|---|---|---|---|
| 8-GB-GPU | Qwen3.5 9B (qwen3.5:9b) | 6,6–7,6 GB | 256K |
| 12-GB-GPU | Gemma 4 12B (gemma4:12b) | 7,7–8,0 GB | 256K |
| 16-GB-GPU | Mistral Small 3 24B (mistral-small:24b) | 14 GB | 32K |
| 24-GB-GPU / 32-GB-Mac | Gemma 4 31B (gemma4:31b) | 19–20 GB | 256K |
| 24-GB-GPU / 32-GB-Mac | Qwen3.8-27B (qwen3.8:27b) | 18 GB | 256K |
| 24-GB-GPU, schneller | Gemma 4 26B A4B (gemma4:26b) | 16–19 GB | 256K |
| 48-GB-GPU / 64-GB-Mac | Llama 3.3 70B (llama3.3:70b) | 43 GB | 128K |
💡Tipp: Beim Mac teilt sich der Unified Memory mit macOS. Bei einem 32-GB-Mac sollten Sie mit rund 24 GB nutzbar für Modell plus Kontext rechnen; das reicht für Gemma 4 31B oder Qwen3.8-27B, lässt aber nur wenige GB für den Kontext.
#1 Gemma 4 31B: Prosa-Wahl für eine 24-GB-GPU
Gemma 4 31B ist unsere erste Wahl für Prosa auf einer 24-GB-GPU oder einem 32-GB-Mac. Es ist ein dichtes Modell mit 30,7B Parametern (19–20 GB bei Ollama) und 256K Kontext unter Apache 2.0 und das einzige Modell in diesem Ratgeber mit veröffentlichtem EQ-Bench-Creative-Writing-v3-Ergebnis: Rubrik 16,01, Elo 1407,6, laut Featherless.
Die Modellkarte von Google nennt Textgenerierung wie Gedichte und Skripte als vorgesehenen Einsatz und empfiehlt Temperatur 1,0, top-p 0,95, top-k 64. Mit 19–20 GB bleibt auf einer 24-GB-Karte wenig Platz für Kontext; halten Sie das Kontextfenster daher moderat oder wählen Sie Gemma 4 26B A4B (16–19 GB), ein Mixture-of-Experts-Modell, das pro Token etwa 4B Parameter aktiviert und in derselben Featherless-Liste 1286,9 Elo erreichte.
Merkmal | Wert |
|---|---|
| Geeignet für | Prosa auf einer 24-GB-GPU |
| Gewichte (Ollama) | 19–20 GB |
| Kontext | 256K Token |
| Lizenz | Apache 2.0 |
| Ollama-Befehl | ollama run gemma4:31b |
#2 Qwen3.8-27B: Wahl für lange Projekte auf gleicher Hardware
Qwen3.8-27B ist die Wahl für lange Projekte auf einer 24-GB-GPU. Es ist ein dichtes 27B-Modell mit 18 GB bei Ollama und 262.144 Token nativem Kontext (laut Modellkarte auf 1.000.000 Token erweiterbar) unter Apache 2.0.
Alibaba positioniert es für Coding, Agenten und Recherche; die Modellkarte erwähnt kreatives Schreiben nicht, und es gibt keinen veröffentlichten Kreativwert. Betrachten Sie seine Prosa daher als ungeprüft. Der Thinking-Modus ist standardmäßig aktiv; schalten Sie ihn für Fiktion aus.
Merkmal | Wert |
|---|---|
| Geeignet für | Romanprojekte, Anweisungstreue |
| Gewichte (Ollama) | 18 GB |
| Kontext | 256K Token |
| Lizenz | Apache 2.0 |
| Ollama-Befehl | ollama run qwen3.8:27b |
#3 Empfehlungen für 8, 12 und 16 GB
Unterhalb von 24 GB ist die Auswahl kleiner und weniger erprobt; testen Sie daher vor der Entscheidung. Kleinere Modelle halten lange Szenen in der Regel weniger zuverlässig konsistent als größere.
- 8 GB: Qwen3.5 9B (`qwen3.5:9b`, 6,6–7,6 GB, 256K Kontext). Ein aktuelles Modell der 8-GB-Klasse bei Ollama. Für das Modell ist kein Kreativwert veröffentlicht; testen Sie eigene Szenen.
- 12 GB: Gemma 4 12B (`gemma4:12b`, 7,7–8,0 GB, 256K Kontext, Apache 2.0). Featherless nennt für EQ-Bench Creative Writing v3 eine Rubrik von 15,71 und 1270,4 Elo.
- 16 GB: Mistral Small 3 24B (`mistral-small:24b`, 14 GB, 32K Kontext, Apache 2.0). Ein älteres Modell, das auf der Liste bleibt, weil nur wenige neuere Modelle in 16 GB passen. Es lässt nur etwa 2 GB für den Kontext, halten Sie Prompts daher kurz.
#4 Llama 3.3 70B: Referenzmodell ab 48 GB
Llama 3.3 70B (`llama3.3:70b`, 43 GB, 128K Kontext) ist das größte Modell in diesem Ratgeber und braucht ein 48-GB-GPU-Setup oder einen Mac mit 64 GB Unified Memory. Meta hat es im Dezember 2024 unter der Meta Llama 3.3 Community License veröffentlicht, einer eigenen Lizenz und keiner OSI-Open-Source-Lizenz.
Frühere Versionen dieser Seite führten es bei Prosa an erster Stelle. Das tun wir nicht mehr: In den von uns gelesenen Listen taucht für das Modell kein Kreativwert auf, für neuere Modelle, die in 24 GB passen, dagegen schon, und neuere Llama-Releases schneiden bei EQ-Bench schwach ab (Llama 4 Maverick 927, Llama 4 Scout 883 in der evals.report-Liste). Behalten Sie es, wenn Sie den Speicher haben und seinen Stil mögen.
#5 Community- und Low-Refusal-Modelle
Community-Fiktionsmodelle sind jetzt eine zweite Ebene, nicht mehr die Standardwahl. Prüfen Sie vor kommerzieller Nutzung die Lizenz des jeweiligen Modells.
- Hermes 4.3 36B (Nous Research, Apache 2.0): basiert auf ByteDance Seed-OSS-36B-Base, mit GGUF-Dateien von 4 bis 8 Bit auf Hugging Face. Nous gibt an, dass es im eigenen RefusalBench 74,60 % (ohne Reasoning) bzw. 72,29 % (mit Reasoning) der Prompts beantwortet hat (Herstellerangabe; höher bedeutet weniger Ablehnungen). Nutzen Sie es, wenn ein Instruct-Modell eine legitime Fiktionsszene ablehnt, und erhöhen Sie die Temperatur über die 0,6 der Modellkarte hinaus.
- Fimbulvetr-11B-v2 (Sao10K): ein Solar-basiertes Modell unter CC BY-NC 4.0, also nur nicht kommerziell nutzbar. Die Modellkarte empfiehlt SillyTavern-Presets. Einen Creative-Writing-Benchmark-Wert haben wir dafür nicht gefunden.
- Midnight-Rose-70B (sophosympatheia): ein Merge auf Basis von Llama 2 70B, unter der Llama-2-Lizenz plus geerbten Einschränkungen; die Modellkarte rät zu etwa 6144 Token Kontext. Es ist kein Llama-3.3-Modell.
- Gibt es für ein älteres Modell eine GGUF-Konvertierung, können Sie sie in LM Studio oder über `ollama run hf.co/<user>/<repo>` laden; prüfen Sie zuvor die Lizenz dieses konkreten Repositorys.
- Zu Ablehnungsverhalten, Ethik und Grenzen siehe Uncensored Local LLMs for Creative Writing: Ethics, Legality & Best Practices. Lokales Hosting ändert nichts an der Rechtslage, und die schreibende Person bleibt für Veröffentlichtes verantwortlich.
Lokal vs. Cloud-Modelle fürs Schreiben
Geschlossene Cloud-Modelle erzielen in Leaderboards für kreatives Schreiben höhere Werte; lokale Modelle punkten bei Datenschutz, Kosten und Kontrolle.
- In der EQ-Bench-Creative-Writing-v3-Liste über evals.report (Datenstand 2026-11-15) führt Claude Opus 4.7 mit 2206 Elo, gefolgt von GPT-5.5 mit 2035.
- Der beste Open-Weight-Eintrag der Liste ist Kimi K2.6 mit 1782 Elo. Featherless nennt für die offenen Modelle, die es auf diesem Niveau empfiehlt, 753B (GLM-5.3), 763B (DeepSeek-V4.1-Flash) und 2,8T (Kimi K3) Parameter, weit jenseits der Speicherstufen von 8 bis 48 GB in diesem Ratgeber.
- Wann lokal die richtige Wahl ist: unveröffentlichte Manuskripte, Kundenarbeit unter NDA, Offline-Arbeit und Projekte, bei denen Kosten pro Token zählen.
- Hybrid-Workflow: Entwerfen und Brainstorming lokal; ein Cloud-Modell nur für unkritisches Polishing, nachdem Sie die Datenbedingungen des Anbieters geprüft haben.
Einstellungen und Prompts, die lokales kreatives Schreiben verbessern
Fünf Gewohnheiten verändern das Ergebnis stärker als ein Modellwechsel.
- 1Stellen Sie das Sampling auf Prosa ein, nicht auf Code. Herstellervorgaben: Gemma 4 Temperatur 1,0, top-p 0,95, top-k 64; Qwen3.8 1,0 / 0,95 / top-k 20 im Thinking-Modus und 0,7 / 0,8 / top-k 20 im Nicht-Thinking-Modus; Hermes 4.3 0,6 / 0,95 / top-k 20. Als redaktionellen Startbereich probieren Sie Temperatur 0,9–1,1 für Prosa und 0,7–0,85 für knappe Dialoge.
- 2Schalten Sie den Thinking-Modus für Fiktion aus. Reasoning-Modelle planen vor dem Schreiben, wodurch Szenen konstruiert wirken können. Qwen3.8 denkt standardmäßig; setzen Sie in der Ollama-API `think` auf `false` oder nutzen Sie den Thinking-Schalter Ihres Frontends.
- 3Benennen Sie den Stil konkret. „Schreibe in der zweiten Person, Präsens, kurze Sätze, keine Adverbien“ funktioniert besser als „schreibe literarische Fiktion“. Die Nennung eines Autors liefert einen Stilhinweis; veröffentlichen Sie keine Texte, die Formulierungen lebender Autoren nachbilden.
- 4Nutzen Sie einen festen System-Prompt mit Erzählperspektive, Zeitform, Genre, Figurenbogen-Steckbrief und Stilproben, und fügen Sie ihn zu Beginn jeder Sitzung erneut ein.
- 5Arbeiten Sie abschnittsweise und erhöhen Sie das Kontextfenster. Erzeugen Sie jeweils etwa 500 Wörter und nennen Sie in jeder neuen Sitzung eine kurze Zusammenfassung der Geschichte, denn ein Modell sieht nur, was in seinen Kontext passt. Der Standardkontext von Ollama ist begrenzt; tippen Sie in einer interaktiven Sitzung `/set parameter num_ctx 16384`. Größere Werte brauchen mehr Speicher.
Beste Open-Weight-Modelle für Poesie
Kein Leaderboard bewertet Poesie getrennt; die Poesie-Empfehlung folgt daher der Rangliste nach Speicherstufe. Für strenge Formen (Sonette, Haiku, Villanellen) senken Sie die Temperatur auf 0,7–0,85 (redaktioneller Bereich), weil hohe Temperaturen Metrum und Reim eher brechen; für freie Verse gilt der Prosa-Bereich.
- 24 GB: Gemma 4 31B oder Qwen3.8-27B. Lassen Sie beide denselben kurzen Gedicht-Prompt schreiben und behalten Sie die Stimme, die Ihnen besser gefällt.
- Kleinere Stufen: Gemma 4 12B (12 GB) oder Qwen3.5 9B (8 GB).
- Strenge Formen: Modelle arbeiten mit Token, nicht mit Silben; zählen Sie Silben und prüfen Sie Reime daher von Hand.
- Nennen Sie die Form ausdrücklich: „Schreibe ein Haiku (5-7-5 Silben) über Herbstregen“ oder „Schreibe ein Shakespeare-Sonett (ABAB CDCD EFEF GG, Jambus) über Verlust“. Vage Prompts wie „schreibe ein Gedicht über Liebe“ führen zu generischen freien Versen.
Schlechter vs. guter Prompt
- ❌ „Schreibe eine Fantasy-Geschichte“ → ✅ „Schreibe eine Fantasy-Szene mit 500 Wörtern, in der ein Schmuggler mit einem Drachen um antike Artefakte verhandelt. Nutze sinnliche Details und halte den Dialog angespannt.“
- ❌ „Schreibe etwas Interessantes“ → ✅ „Schreibe eine Eröffnungsszene mit 300 Wörtern über einen schiefgegangenen Raub. Die Hauptfigur merkt mitten im Einsatz, dass ihr Partner sie verraten hat. Nutze kurze, knappe Sätze passend zum Tempo.“
- ❌ „Schreibe einen Krimi“ → ✅ „Setze diese Detektivszene fort: [vorheriger Text]. Die Detektivin erkennt an einem Detail, dass der Verdächtige lügt. Zeige, erzähle nicht, wie sie den Widerspruch bemerkt.“
- ❌ „Mach es interessanter“ → ✅ „Schreibe den vorherigen Absatz als Noir-Fiktion um: knappe Dialoge, zynischer innerer Monolog, konkrete sinnliche Details (Geräusche, Gerüche, Texturen).“
Häufig gestellte Fragen
Welches lokale LLM ist das beste für kreatives Schreiben?
Gemma 4 31B und Qwen3.8-27B sind in dieser Rangliste die besten lokalen Startpunkte, und beide passen auf eine 24-GB-GPU (19–20 GB bzw. 18 GB Gewichte). Gemma 4 31B ist die Prosa-Wahl, weil es einen veröffentlichten EQ-Bench-Creative-Writing-v3-Wert hat; Qwen3.8-27B ist die Wahl für lange Projekte. Auf kleineren Karten eignen sich Gemma 4 12B (12 GB) oder Mistral Small 3 24B (16 GB). Es ist eine redaktionelle Rangliste: Testen Sie zwei Kandidaten an eigenen Szenen.
Welches lokale LLM eignet sich am besten für Geschichten und Romane?
Wählen Sie das größte Modell, das mit Reserve für den Kontext in Ihren Speicher passt. Gemma 4 31B eignet sich für Prosa auf 24 GB, Qwen3.8-27B mit 256K Kontext für Romanprojekte, und Llama 3.3 70B ist die Referenz ab 48 GB. Der Engpass ist meist die Struktur: Gliederung, Figurensteckbrief und kurze Kapitelzusammenfassungen halten ein langes Projekt konsistent.
Welches Ollama-Modell ist das beste für kreatives Schreiben?
Auf 24 GB `ollama run gemma4:31b` für Prosa oder `ollama run qwen3.8:27b` für lange Projekte. Auf 12 GB `gemma4:12b`, auf 16 GB `mistral-small:24b`, auf 8 GB `qwen3.5:9b`, ab 48 GB `llama3.3:70b`. Erhöhen Sie `num_ctx` für lange Szenen und schalten Sie Thinking für Fiktion aus.
Welche lokalen LLMs eignen sich zum Schreiben mit nur 8 GB VRAM?
Qwen3.5 9B (6,6–7,6 GB, 256K Kontext) ist ein aktuelles Modell der 8-GB-Klasse bei Ollama. Für das Modell ist kein Kreativwert veröffentlicht; führen Sie daher eigene Testszenen durch und rechnen Sie damit, dass kleinere Modelle lange Szenen weniger zuverlässig zusammenhalten als die 24-GB-Modelle.
Welches Open-Weight-Modell ist am besten für Poesie?
Kein Leaderboard bewertet Poesie getrennt, nutzen Sie daher die Rangliste nach Speicherstufe: Gemma 4 31B oder Qwen3.8-27B auf 24 GB, Gemma 4 12B auf 12 GB, Qwen3.5 9B auf 8 GB. Senken Sie für strenge Formen wie Sonette oder Haiku die Temperatur auf 0,7–0,85 und prüfen Sie Silben und Reime von Hand.
Welches Modell sollte ich in LM Studio für kreatives Schreiben laden?
Es gilt dieselbe Rangliste. LM Studio und Ollama führen beide quantisierte GGUF-Dateien aus, es gibt also kein eigenes LM-Studio-Modell: Suchen Sie im Modellbrowser von LM Studio nach dem Modellnamen und laden Sie den Build, der in Ihren Speicher passt.
Erinnert sich das Modell an frühere Teile meiner Geschichte?
Nur innerhalb seines Kontextfensters. Die Modelle in diesem Ratgeber bieten 32K bis 256K Token, doch längerer Kontext braucht mehr Speicher, und ein Modell vergisst alles außerhalb des Fensters. Beginnen Sie bei langen Projekten jede Sitzung mit einer kurzen Zusammenfassung der Geschichte und dem Figurensteckbrief.
Kann ein lokales LLM Claude oder ChatGPT für Fiktion ersetzen?
Nicht in den Leaderboards für kreatives Schreiben: In der EQ-Bench-Creative-Writing-v3-Liste über evals.report führen geschlossene Modelle (Claude Opus 4.7 mit 2206 Elo, GPT-5.5 mit 2035). Ein lokales 24-GB-Modell kann fürs Entwerfen dennoch genügen und hält Manuskripte auf Ihrem Rechner. Sampling-Einstellungen und ein guter System-Prompt schließen einen Teil der praktischen Lücke.
Fällt die Quantisierung beim kreativen Schreiben auf?
Das kann sein, weil Builds mit niedrigerer Bit-Zahl etwas Präzision verlieren. Eine Studie speziell zum kreativen Schreiben zitieren wir nicht. Die Standardbuilds von Ollama sind 4-Bit; wenn Sie Speicherreserve haben, vergleichen Sie einen Build mit höherer Bit-Zahl mit dem 4-Bit-Build an derselben Szene und behalten Sie den, der Ihnen besser gefällt.
Welche Temperatur sollte ich für kreatives Schreiben verwenden?
Als redaktioneller Startbereich: 0,9–1,1 für Prosa und 0,7–0,85 für knappe Dialoge oder strenge Gedichtformen. Herstellervorgaben sind ein solider Anker: Google nennt 1,0 (top-p 0,95, top-k 64) für Gemma 4, Alibaba nennt für Qwen3.8 1,0 im Thinking-Modus und 0,7 im Nicht-Thinking-Modus. Schalten Sie den Thinking-Modus für Fiktion aus.
Darf ich die Ausgaben lokaler LLMs kommerziell nutzen?
Das hängt von der Lizenz ab. Gemma 4, Qwen3.8, Mistral Small 3 und Hermes 4.3 sind unter Apache 2.0 aufgeführt, Llama 3.3 nutzt die eigene Meta Llama 3.3 Community License, und Fimbulvetr-11B steht unter CC BY-NC 4.0 (nicht kommerziell). Lesen Sie die Lizenz auf der Modellkarte des konkret genutzten Builds. Das ist keine Rechtsberatung.
Lohnen sich Fimbulvetr und Midnight-Rose noch?
Nur, wenn Ihnen ihr Stil besser gefällt. Fimbulvetr-11B-v2 ist ein Solar-basiertes Modell unter nicht kommerzieller Lizenz, und Midnight-Rose-70B ist ein Merge auf Basis von Llama 2 70B; beide sind älter als die 2026er Modelle in diesem Ratgeber, und für keines haben wir einen Creative-Writing-Benchmark-Wert gefunden.
Quellen
- Ollama-Bibliothek: Gemma 4 -- Tags, Download-Größen und Kontextfenster
- Ollama-Bibliothek: Qwen3.8 und Qwen3.5 -- Tags, Größen und Kontextfenster
- Ollama-Bibliothek: Mistral Small und Llama 3.3 -- Tags, Größen, Kontext und Lizenzhinweise
- Hugging Face: Modellkarte Gemma 4 31B und Gemma 4 12B -- Lizenz, Kontextlänge, Sampling-Vorgaben
- Hugging Face: Modellkarte Qwen3.8-27B -- Lizenz, nativer Kontext, empfohlenes Sampling
- Hugging Face: Hermes 4.3 36B -- Basismodell, Lizenz, RefusalBench-Werte, GGUF-Dateien
- Hugging Face: Fimbulvetr-11B-v2 und Midnight-Rose-70B -- Basismodelle und Lizenzen
- EQ-Bench Creative Writing v3 und evals.report EQ-Bench-Werte -- Leaderboard-Werte (Datenstand 2026-11-15)
- Featherless: beste offene Modelle für kreatives Schreiben -- Gemma-4-EQ-Bench-Werte und Größen offener Modelle (vom 2026-09-17)
- Ollama-Dokumentation: Thinking -- der Parameter `think`
Häufige Fehler bei Auswahl und Einsatz lokaler Modelle zum Schreiben
- Auswahl nach einem allgemeinen Benchmark-Rang. Coding- und Reasoning-Leaderboards sagen wenig über Prosa. Nutzen Sie Kreativ-Listen wie EQ-Bench und testen Sie dann an eigenen Szenen.
- Sampling wie beim Coding. Temperatur 0,2–0,4 führt tendenziell zu flacher Prosa; kreatives Schreiben braucht grob 0,9–1,1 (redaktioneller Bereich).
- Thinking-Modus eingeschaltet lassen. Planungsgetriebene Ausgabe kann konstruiert wirken. Schalten Sie ihn für Fiktion aus.
- Kontextspeicher ignorieren. Ein Modell mit 19–20 GB lässt auf einer 24-GB-Karte wenig Platz, sobald Sie das Kontextfenster vergrößern.
- Dünne Prompts. „Schreibe eine Geschichte“ liefert generische Ergebnisse; ergänzen Sie Erzählperspektive, Zeitform, Länge, Figurensteckbrief und eine ausdrückliche Vorgabe.
- Im Chatfenster überarbeiten. Erzeugen Sie im Chat und überarbeiten Sie im Texteditor; wer die Prosa selbst überarbeitet, behält seine Stimme.
