Wichtigste Erkenntnisse
- Gemma 4 31B ist die Prosa-Wahl für eine 24-GB-GPU. Etwa 19–20 GB Gewichte, 256K Kontext, Apache 2.0 und als einziges Modell dieser Auswahl mit eigenem veröffentlichtem EQ-Bench-Creative-Writing-v3-Wert (Rubrik 16,01, Elo 1407,6).
- Qwen3.8-27B ist die Wahl für Langkontext und Anweisungstreue. Etwa 18 GB bei Ollama, 256K Kontext, Apache 2.0. Für das Modell ist noch kein Kreativ-Wert veröffentlicht; die Prosa-Qualität gilt daher als ungeprüft — teste es an deinen eigenen Szenen.
- Wähle nach VRAM, nicht nach Rangliste. 12 GB: Gemma 4 12B. 16 GB: Mistral Small 3 24B. 24 GB: Gemma 4 31B oder Qwen3.8-27B. Ab 48 GB: Llama 3.3 70B.
- Hermes 4.3 36B ist die ablehnungsarme Wahl. Apache 2.0, basiert auf ByteDance Seed-OSS-36B; Nous Research beschreibt deutlich reduzierte Ablehnungen. Dolphin 3.0 ist die ältere Alternative.
- Sampling wirkt stärker als der Modellwechsel. Temperatur 0,9–1,1 und Top-p 0,92–0,95 für Prosa; Thinking-Modus bei Fiktion ausschalten. Coding-Werte (0,2–0,4) erzeugen flache Prosa.
- Geschlossene Cloud-Modelle führen die Kreativ-Benchmarks weiter an. Spitzenreiter bei EQ-Bench Creative Writing v3 ist Claude Opus 4.7 mit 2.206 Elo; der beste gelistete Open-Weight-Eintrag ist Kimi K2.6 mit 1.782 — weit jenseits von Consumer-Hardware. Lokal gewinnt bei Datenschutz, Kosten und Kontrolle.
Schnellfakten
- 24-GB-GPU oder 32-GB-Mac: Gemma 4 31B (
gemma4:31b, 19–20 GB) oder Qwen3.8-27B (qwen3.8:27b, 18 GB). Beide Apache 2.0, beide 256K Kontext. - 12-GB-GPU: Gemma 4 12B (
gemma4:12b, 7,7–8,0 GB), 256K Kontext. - 16-GB-GPU: Mistral Small 3 24B (
mistral-small:24b, 14 GB), 32K Kontext, Apache 2.0. Erschienen 2025. - Ab 48 GB: Llama 3.3 70B (
llama3.3:70b, etwa 42 GB bei Q4_K_M). Erschienen im Dezember 2024; Meta-Community-Lizenz. - Ablehnungsarme Feintunes: Hermes 4.3 36B (Apache 2.0) und Dolphin 3.0 (Mistral-24B-Variante, Februar 2025).
- Prosa-Sampling-Basis: Temperatur 1,0, Top-p 0,95, Min-p 0,05; bei Schleifen in Szenen eine Repeat- oder DRY-Penalty ergänzen.
- Speicherregel: Ollama-Größen sind nur Gewichte. Rechne 2–6 GB für den KV-Cache hinzu, sobald du das Kontextfenster für lange Szenen vergrößerst.
So entstanden die Empfehlungen
Diese Rangliste ist eine redaktionelle Synthese veröffentlichter Quellen, kein neuer PromptQuorum-Testlauf. Wir haben offizielle Modellkarten, die Ollama-Bibliothek (Größen, Kontext, Tags) und öffentliche Kreativ-Leaderboards verglichen und jedes Modell einer Hardware-Stufe zugeordnet.
- Größen und Kontext: aus den Ollama-Seiten zu Gemma 4, Qwen3.8, Mistral Small und den Hugging-Face-Modellkarten. Nur Gewichte; Kontextspeicher kommt hinzu.
- Kreativ-Werte: EQ-Bench Creative Writing v3 und das Open Writing Leaderboard, wie sie Drittanbieter-Tracker spiegeln. Gemma 4 31B hat einen eigenen Wert, Qwen3.8-27B noch nicht. Gehört ein Wert zu einem Schwestermodell, sagen wir das.
- Erscheinungsdaten: Qwen3.8-27B (August 2026), Gemma 4 (Juli 2026), Mistral Small 3 (2025), Llama 3.3 70B (Dezember 2024), Hermes 4.3 36B (Dezember 2025), Dolphin 3.0 (Februar 2025).
- Was wir nicht getan haben: Wir haben keinen neuen bewerteten Prompt-Satz auf diesen Modellen laufen lassen. Die Urteile unten folgen den zitierten Quellen und Modellkarten; „am besten für“ sind Empfehlungen, keine Messergebnisse.
- Prompting-Techniken, die kreative Ausgaben bei jedem Modell verbessern, findest du unter Temperatur und Top-p steuern und Persona-Prompting.
📌Hinweis: Kreativ-Benchmarks sind subjektiv, und die Ranglisten widersprechen sich. Verstehe jede Empfehlung als Arbeitshypothese: Lass dieselben drei Szenen durch zwei Kandidaten laufen und behalte das Modell, dessen Stimme dir besser gefällt.
Bestes Modell je VRAM-Stufe
Wähle zuerst nach Speicher: Das Modell muss passen und Platz für den Kontext lassen. Die Größen sind Ollama-Downloadgrößen bei der Standard-4-Bit-Quantisierung; rechne bei langen Szenen 2–6 GB für den KV-Cache hinzu.
Dein Speicher | Modell | Gewichte | Kontext |
|---|---|---|---|
| 8-GB-GPU | Qwen3.5 9B (qwen3.5:9b) | 6,6–7,6 GB | 256K |
| 12-GB-GPU | Gemma 4 12B (gemma4:12b) | 7,7–8,0 GB | 256K |
| 16-GB-GPU | Mistral Small 3 24B (mistral-small:24b) | 14 GB | 32K |
| 24-GB-GPU / 32-GB-Mac | Gemma 4 31B (gemma4:31b) | 19–20 GB | 256K |
| 24-GB-GPU / 32-GB-Mac | Qwen3.8-27B (qwen3.8:27b) | 18 GB | 256K |
| 24-GB-GPU, schnellere Ausgabe | Gemma 4 26B-A4B (gemma4:26b) | 16–19 GB | 256K |
| Ab 48 GB | Llama 3.3 70B (llama3.3:70b) | ~42 GB | 128K |
💡Tipp: Beim 32-GB-Mac teilt sich der Unified Memory mit macOS. Rechne mit etwa 24 GB nutzbar für Modell plus Kontext; damit laufen Gemma 4 31B und Qwen3.8-27B komfortabel.
Direktvergleich: Lokale Modelle für kreatives Schreiben
Kein Modell gewinnt jede Aufgabe; wähle nach Hardware-Stufe und danach, was in deiner Arbeit tragend ist. Die Tabelle zeigt die Modelle dieses Leitfadens mit Größe, Gewichten und Erscheinungsdatum.
📍 In einem Satz
Gemma 4 31B und Qwen3.8-27B sind die besten lokalen Modelle für kreatives Schreiben auf einer 24-GB-GPU; Gemma 4 12B, Mistral Small 3 24B und Llama 3.3 70B decken die Stufen 12 GB, 16 GB und 48 GB ab; Hermes 4.3 36B ist die ablehnungsarme Option.
💬 In einfachen Worten
Nimm das größte Modell, das mit Platz für Kontext in deinen Speicher passt. Auf einer 24-GB-Karte ist das Gemma 4 31B für Prosa oder Qwen3.8-27B für lange Projekte. Ergänze einen ablehnungsarmen Feintune nur, wenn das Instruct-Modell Szenen verweigert, die du schreiben musst.
Modell | Größe | Gewichte (Ollama) | Erschienen | Am besten für |
|---|---|---|---|---|
| Gemma 4 31B | 31B dicht | 19–20 GB | Jul 2026 | Prosa auf 24 GB; eigener EQ-Bench-Wert |
| Qwen3.8-27B | 27B dicht | 18 GB | Aug 2026 | Lange Projekte, Anweisungstreue |
| Gemma 4 26B-A4B | 26B MoE, 4B aktiv | 16–19 GB | Jul 2026 | Schnellere Ausgabe auf 24 GB |
| Gemma 4 12B | 12B | 7,7–8,0 GB | Jul 2026 | 12-GB-GPUs, langer Kontext |
| Mistral Small 3 24B | 24B dicht | 14 GB | 2025 | 16-GB-GPUs; älter, bewährt |
| Llama 3.3 70B | 70B dicht | ~42 GB | Dez 2024 | Ab 48 GB; ältere Referenz |
| Hermes 4.3 36B | 36B dicht | ~21–23 GB (gesch.) | Dez 2025 | Weniger Ablehnungen, Apache 2.0 |
| Dolphin 3.0 | 24B (Mistral-Variante) | ~14 GB | Feb 2025 | Ältere ablehnungsarme Option |
💡Tipp: Üblich ist ein Zwei-Modell-Setup: ein Instruct-Modell als Alltagsmodell plus Hermes 4.3 36B für Szenen, die das Instruct-Modell verweigert. Beide stehen gleichzeitig in ollama list.
Urteile je Modell
- Gemma 4 31B — Prosa-Wahl für 24 GB. Es ist das einzige Modell dieser Auswahl mit eigenem EQ-Bench-Creative-Writing-v3-Ergebnis (Rubrik 16,01, Elo 1407,6, laut Drittanbieter-Tracker). 256K Kontext und Apache 2.0. Google nennt Temperatur 1,0, Top-p 0,95, Top-k 64 als Standard.
- Qwen3.8-27B — Wahl für lange Projekte. 262.144 Token nativer Kontext (mit YaRN bis 1M erweiterbar), Apache 2.0, etwa 18 GB bei Ollama. Alibaba positioniert es für Coding, Agenten und Recherche; die Modellkarte sagt nichts zu kreativem Schreiben, und es gibt keinen Kreativ-Wert — prüfe die Stimme also an eigenen Szenen. Der Thinking-Modus ist standardmäßig an; für Prosa ausschalten.
- Gemma 4 26B-A4B und 12B — gleiche Familie, andere Kompromisse. Das 26B-Mixture-of-Experts-Modell aktiviert etwa 4B Parameter pro Token und erzeugt deshalb bei ähnlichem Speicher schneller als das 31B. Das 12B passt auf 12-GB-Karten und bietet weiterhin 256K Kontext.
- Mistral Small 3 24B — die 16-GB-Option. Apache 2.0, etwa 14 GB, 32K Kontext. Es ist ein Modell von 2025 und neben Llama die älteste Empfehlung hier; es bleibt, weil nur wenige neuere Modelle auf 16 GB passen. Der Nachfolger Mistral Small 4 (März 2026, Apache 2.0) ist ein 119B-Mixture-of-Experts-Modell mit etwa 6B aktiven Parametern und liegt weit über 16 GB.
- Llama 3.3 70B — die 48-GB-Referenz. Ein Modell vom Dezember 2024 unter der Meta-Community-Lizenz. Auf Rechnern ab 48 GB bleibt es eine starke, breit unterstützte Wahl; darunter ist es nicht praktikabel.
- Hermes 4.3 36B — ablehnungsarme Wahl. Basiert auf ByteDance Seed-OSS-36B unter Apache 2.0, mit GGUF-Quantisierungen auf Hugging Face. Nous Research beschreibt deutlich reduzierte Ablehnungen; Hermes 4.3 beantwortete im eigenen RefusalBench 72–75 % der Prompts. Die Karte empfiehlt Temperatur 0,6, Top-p 0,95, Top-k 20; für Prosa die Temperatur erhöhen.
- Dolphin 3.0 — ältere ablehnungsarme Option. Die neueste bestätigbare Dolphin-Generation ist Dolphin 3.0 (Februar 2025, u. a. mit Mistral-24B-Variante). Nutze es, wenn du ein unzensiertes Modell der Mistral-Familie willst; Hermes 4.3 ist die aktuellere Wahl.
📌Hinweis: Stimmkonsistenz ist die Kennzahl, die Autoren am häufigsten unterschätzen. Ein Modell, das einen brillanten Absatz schreibt, aber ab Absatz fünf das Sprechmuster der Figur verliert, ist schlechter als ein stetiges. Teste die Kontinuität über lange Sitzungen, nicht nur die Einzelausgabe.
Beste Ollama-Modelle für kreatives Schreiben
Fünf ollama pull-Befehle decken jede Hardware-Stufe dieses Leitfadens ab. Prüfe danach mit ollama list, ob das Modell installiert ist.
- 24 GB, Prosa:
ollama pull gemma4:31b— dannollama run gemma4:31b. - 24 GB, lange Projekte:
ollama pull qwen3.8:27b— starte mitollama run qwen3.8:27b --think=false, um das Thinking für Prosa auszuschalten. - 12 GB:
ollama pull gemma4:12b. - 16 GB:
ollama pull mistral-small:24b. - Ab 48 GB:
ollama pull llama3.3:70b. - Ablehnungsarmer Feintune:
ollama run hf.co/NousResearch/Hermes-4.3-36B-GGUFlädt das Hermes-4.3-GGUF von Hugging Face; wähle auf einer 24-GB-Karte eine 4-Bit-Quantisierung. - Vergrößere das Kontextfenster für lange Szenen. Der Standardkontext von Ollama ist klein. In einer interaktiven Sitzung gibst du
/set parameter num_ctx 16384ein oder setztnum_ctxin einem Modelfile. Größere Werte brauchen mehr VRAM.
Lokale vs. Cloud-Modelle zum Schreiben
Geschlossene Cloud-Modelle erzielen in Kreativ-Benchmarks höhere Werte; lokale Modelle gewinnen bei Datenschutz, Kosten und Kontrolle. Wer nach „bestes LLM zum Schreiben“ ohne „lokal“ sucht, bekommt von den Ranglisten andere Antworten als aus diesem Leitfaden.
- Geschlossene Modelle führen. Bei EQ-Bench Creative Writing v3, gespiegelt von evals.report, steht Claude Opus 4.7 mit 2.206 Elo vorn, vor GPT-5.5 mit 2.035.
- Die besten Open-Weight-Einträge brauchen ein Rechenzentrum. Kimi K2.6 (1.782 Elo) ist der höchste Open-Weight-Eintrag dieser Liste. Featherless nennt GLM-5.3 mit 753B und DeepSeek-V4.1-Flash mit 763B Parametern — beides läuft auf keinem Consumer-Rechner.
- Was auf einer GPU läuft. Gemma 4 31B erreichte im selben Benchmark 1407,6 Elo und eine Rubrik von 16,01. Werte verschiedener Tracker teilen keine Skala; vergleiche nur innerhalb einer Liste.
- Wann lokal die richtige Wahl ist. Unveröffentlichte Manuskripte, Kundenarbeit unter NDA, Inhalte, die ein Cloud-Anbieter ablehnen würde, Offline-Arbeit und Projekte, bei denen die monatliche API-Rechnung die Grenze setzt.
- Hybrid-Workflow. Entwerfen und Brainstormen lokal; ein Cloud-Modell nur für unkritischen Feinschliff, wenn du die zusätzliche Qualität willst.
Temperatur und Top-p für kreative Arbeit
Kreatives Schreiben braucht höhere Sampling-Temperaturen als Coding. Die Standardwerte der meisten Chat-Oberflächen sind auf Frage-Antwort getrimmt; Temperatur 0,7 erzeugt bei kreativen Prompts flache, vorhersehbare Prosa.
- Herstellerwerte sind eine Untergrenze, kein Ziel. Google nennt für Gemma 4 Temperatur 1,0, Top-p 0,95, Top-k 64; Alibaba für Qwen3.8 im Thinking-Modus 1,0 / 0,95 / Top-k 20 und im Non-Thinking-Modus 0,7 / 0,8; Nous für Hermes 4.3 0,6 / 0,95 / Top-k 20. Starte dort und justiere dann für Prosa.
- Basis für Prosa: Temperatur 0,95–1,0, Top-p 0,92–0,95, Repeat-Penalty 1,05–1,1. Von hier aus pro Aufgabe anpassen.
- Straffer Dialog: Temperatur 0,7–0,85, Top-p 0,9. Niedrigere Temperaturen halten Figurenstimmen über Wortwechsel konsistent.
- Lyrische Prosa und Gedichte: Temperatur 1,0–1,2, Top-p 0,95. Höhere Temperaturen eröffnen überraschende Wortwahl.
- Surreale Texte oder Genre-Fiktion: Temperatur 1,1–1,3, Top-p 0,95–0,98.
- Handlungsgetriebene Szenen (Action, Krimi, Wendungen): Temperatur 0,85–0,95, Top-p 0,9. Sie brauchen mehr Anweisungstreue als Neuheit.
- Schalte den Thinking-Modus bei Fiktion aus. Reasoning-Token kosten Latenz und führen oft zu geplanter, aufgeräumter Prosa. Qwen3.8 akzeptiert
enable_thinking: false; in Ollama nutzt du--think=false. - min_p (0,05–0,1): eine Alternative zu Top-p, die den Schwellenwert an die Wahrscheinlichkeit des Top-Tokens koppelt. Sie ist bei kreativen Prompts großzügiger, ohne die Inkohärenz eines sehr hohen Top-p. Nutze sie, wo dein Backend die Einstellung anbietet.
- DRY-Wiederholungsstrafe (Multiplikator 0,8, Basis 1,75, erlaubte Länge 2): fängt Wiederholungen auf Phrasenebene, die eine normale Repeat-Penalty übersieht, und hilft in langen Sitzungen. Sie ist in llama.cpp-basierten Backends wie KoboldCpp verfügbar; prüfe, ob deine Oberfläche sie anbietet.
- Eine ausführlichere Darstellung, warum diese Parameter wichtig sind und wie sie zusammenwirken, findest du unter Temperatur und Top-p steuern.
💡Tipp: Teste das Sampling an einer kurzen Szene pro Modell: drei Läufe je Einstellung, dann die Temperatur wählen, bei der das Modell am lebendigsten klingt, ohne den Prompt zu verlieren. Einstellungen lassen sich nicht perfekt von Modell zu Modell übertragen.
Uncensored-Modelle: Was sie sind und wann sie wichtig sind
Uncensored heißt nicht unethisch. Es bedeutet, dass das Ablehnungsverhalten des Modells per Feintuning reduziert wurde, sodass es dem Prompt folgt, statt abzulehnen. Der Autor bleibt der Autor.
- Technisch gesehen. Modelle wie Hermes 4.3 und Dolphin 3.0 sind Feintunes, deren Post-Training Ablehnungen bei reifen, gewalttätigen oder moralisch komplexen Prompts verringert. Nous Research beschreibt deutlich reduzierte Ablehnungen und gibt an, dass Hermes 4.3 im eigenen RefusalBench 72–75 % der Prompts beantwortete. Von der Community gibt es auch „abliterated“- oder „heretic“-Varianten neuerer Modelle auf Ollama; ihre Qualität ist ungeprüft.
- Wann sie für kreative Arbeit wichtig sind. Reife Belletristik, Kriminalfiktion mit expliziter Gewalt, Horror, historisch genaues Schreiben über Krieg oder Gräueltaten und moralisch komplexe Gegenspieler, die das Instruct-Modell nicht überzeugend spricht.
- Wo sie schwächeln. Sie folgen dem Prompt — auch schlecht geschriebenen. Instruct-Modelle entschärfen einen vagen Prompt oft zu etwas Veröffentlichbarem; ablehnungsarme Modelle liefern genau das, worum du gebeten hast.
- Ethische und rechtliche Grenzen. Dass ein Modell etwas schreibt, ist keine Erlaubnis für Inhalte, die reale Personen ins Visier nehmen, nicht einvernehmliche Szenarien mit identifizierbaren Personen darstellen oder an deinem Wohnort illegal sind. Lokales Hosting ändert nicht das Recht, sondern wer den Entwurf sehen kann. Die Rechtslage ist von Land zu Land verschieden; dies ist keine Rechtsberatung.
- Ausführlicher zu Ethik, Rechtslage und bewährter Praxis: Uncensored lokale LLMs für kreatives Schreiben: Ethik, Recht & Best Practices.
📌Hinweis: Uncensored ist eine Workflow-Entscheidung, keine Identität. Viele Autoren entwerfen mit dem Instruct-Modell und wechseln nur für bestimmte Szenen zu einem ablehnungsarmen Feintune. Zwei Modelle nebeneinander sind das übliche Muster.
Oberflächen für kreative Arbeit
Die Chat-Oberfläche, in der du schreibst, ist so wichtig wie das Modell. Vier Optionen decken die meisten Workflows ab; wähle nach Workflow-Form.
- Open WebUI — die Allzweck-Wahl. ChatGPT-ähnliche Oberfläche, Modellwechsel mit einem Klick, Figurennotizen im System-Prompt, Dokument-Upload für Kontext. Am besten für prosalastiges Entwerfen.
- SillyTavern — die Wahl für Roleplay und Dialog. Character Cards, Persona-Verwaltung, Lorebooks für Weltenbau und Gruppenchat für Szenen mit mehreren Figuren. Am besten für dialoggetriebene Arbeit und langlaufende Weltprojekte.
- Agnai und RisuAI — leichtere SillyTavern-Alternativen mit einfacherem Einstieg und weniger Anpassung.
- Reine Ollama-CLI plus Texteditor — die minimale Wahl.
ollama run gemma4:31bund Szenen in den Entwurf kopieren. Der dauerhafte Figurenkontext fehlt, dafür gewinnt der Fokus. - Den Direktvergleich der Roleplay-Oberflächen findest du unter SillyTavern vs Agnai vs RisuAI: Beste lokale Roleplay-Oberfläche.
💡Tipp: Entwerfen und Überarbeiten brauchen unterschiedliche Werkzeuge. Erzeuge in der Chat-Oberfläche und exportiere dann in einen reinen Texteditor zur Überarbeitung. Das Bearbeiten im Chatfenster gewöhnt dich daran, das Modell Prosa „reparieren“ zu lassen, statt sie selbst zu überarbeiten.
Entscheidung: Welches Modell für deine Arbeit
Erst der Speicher, dann die Aufgabe.
📍 In einem Satz
Nimm Gemma 4 31B oder Qwen3.8-27B auf einer 24-GB-GPU, Gemma 4 12B mit 12 GB, Mistral Small 3 24B mit 16 GB, Llama 3.3 70B ab 48 GB und Hermes 4.3 36B für Szenen, die Instruct-Modelle verweigern.
💬 In einfachen Worten
Starte mit dem größten Modell, das mit Platz für Kontext in deinen Speicher passt. Wechsle erst zu einem Spezialisten, wenn eine Aufgabe, etwa Langform-Kontinuität oder reife Szenen, zum Engpass wird. Zwei Installationen kosten nur Speicherplatz.
Deine Situation | Empfehlung |
|---|---|
| 24-GB-GPU oder 32-GB-Mac, Prosa zuerst | Gemma 4 31B |
| 24-GB-GPU, romanlanges Projekt | Qwen3.8-27B (256K Kontext) |
| 24-GB-GPU, schnellere Ausgabe gewünscht | Gemma 4 26B-A4B |
| 12-GB-GPU | Gemma 4 12B |
| 16-GB-GPU | Mistral Small 3 24B |
| Ab 48 GB, ein Modell für alles | Llama 3.3 70B + Hermes 4.3 36B |
| Instruct-Modell verweigert nötige Szenen | Hermes 4.3 36B (Instruct-Modell behalten) |
| Ein Modell zum Start, später anpassen | Gemma 4 31B oder Qwen3.8-27B, je nach Speicher |
💡Tipp: Die meisten Autoren grübeln zu viel über das Modell und zu wenig über den Prompt. Ein System-Prompt mit Figurennotizen, Stimmproben und klarer Perspektive bewirkt mehr als ein Modellwechsel. Siehe Persona-Prompting.
Häufige Fehler bei Auswahl und Nutzung lokaler Modelle für kreatives Schreiben
- Fehler 1: Auswahl nach allgemeinem Benchmark-Rang. Coding- und Reasoning-Ranglisten korrelieren schlecht mit Prosa-Qualität. Schau auf Kreativ-Ranglisten wie EQ-Bench und teste dann an eigenen Szenen.
- Fehler 2: Coding-Sampling verwenden. Temperatur 0,2–0,4 erzeugt flache Prosa. Kreative Arbeit braucht etwa 0,9–1,1.
- Fehler 3: Thinking-Modus angelassen. Reasoning-Modelle planen vor dem Schreiben, was Fiktion zusammengesetzt wirken lässt. Schalte Thinking für Prosa aus.
- Fehler 4: Kontextspeicher ignorieren. Ein 31B-Modell mit 19–20 GB lässt auf einer 24-GB-Karte wenig Platz, sobald du das Kontextfenster vergrößerst. Plane 2–6 GB für den KV-Cache ein.
- Fehler 5: dünne System-Prompts. „Du bist ein hilfreicher Assistent“ ist der schlechteste Prompt für kreative Arbeit. Kombiniere Figurennotizen, Perspektive und Zeitform mit Negativ-Prompting, um Klischees auszuschließen.
- Fehler 6: Im Chatfenster überarbeiten. Im Chat erzeugen, im Editor überarbeiten. Autoren, die das Modell überarbeiten lassen, verlieren schnell ihre Stimme.
⚠️Warnung: Das größte Kompetenzrisiko bei KI für kreatives Schreiben ist das Auslagern der Überarbeitung. Das Erzeugen ist mechanische Arbeit, bei der ein Modell hilft; die Überarbeitung macht den Text zu deinem.
Quellen
- Ollama-Bibliothek: Gemma 4 — Tags, Downloadgrößen und Kontextfenster.
- Ollama-Bibliothek: Qwen3.8 — Tag, Größe und Fähigkeiten.
- Hugging Face: Qwen3.8-27B-Modellkarte — Lizenz, Kontextlänge, empfohlenes Sampling.
- Hugging Face: Gemma 4 31B-Modellkarte — Lizenz, Kontextlänge, Sampling-Standards.
- Hugging Face: Hermes 4.3 36B — Basismodell, Lizenz, Ablehnungs-Benchmark, GGUF-Quantisierungen.
- Ollama-Bibliothek: Mistral Small — Größe, Kontext und Lizenz von Mistral Small 3 24B.
- EQ-Bench Creative Writing und evals.report EQ-Bench-Werte — oben zitierte Leaderboard-Werte.
- Featherless: beste offene Modelle für kreatives Schreiben — Open-Weight-Größen und EQ-Bench-Werte von Gemma 4 31B.
- SillyTavern-Dokumentation — Character Cards, Personas, Gruppenchat.
Häufig gestellte Fragen
Was ist das beste lokale LLM für kreatives Schreiben?
Gemma 4 31B und Qwen3.8-27B sind 2026 die besten lokalen Ausgangspunkte, und beide passen auf eine 24-GB-GPU (etwa 18–20 GB Gewichte). Gemma 4 31B ist die Prosa-Wahl mit eigenem veröffentlichtem EQ-Bench-Wert; Qwen3.8-27B ist die Langkontext-Wahl. Auf kleineren Karten nimmst du Gemma 4 12B (12 GB) oder Mistral Small 3 24B (16 GB).
Was ist das beste Ollama-Modell für kreatives Schreiben?
Auf einer 24-GB-GPU ollama pull gemma4:31b für Prosa oder ollama pull qwen3.8:27b für lange Projekte. Mit 12 GB gemma4:12b, mit 16 GB mistral-small:24b, ab 48 GB llama3.3:70b. Erhöhe num_ctx für lange Szenen und schalte Thinking bei Fiktion aus.
Was ist das beste lokale LLM zum Schreiben von Belletristik und Geschichten?
Nimm das größte Modell, das mit Platz für Kontext in deinen Speicher passt. Gemma 4 31B ist die Prosa-Wahl auf 24 GB, Qwen3.8-27B eignet sich mit 256K Kontext für romanlange Projekte, Llama 3.3 70B ist die Referenz ab 48 GB. Nutze Temperatur 0,9–1,1 und einen System-Prompt mit Perspektive, Zeitform und Stimmproben.
Welches lokale Modell eignet sich am besten für Weltenbau?
Am wichtigsten ist langer Kontext: Qwen3.8-27B und Gemma 4 bieten beide 256K Token, genug für eine Lore-Bibel und Kapitelzusammenfassungen im Prompt. Kombiniere eines von beiden mit SillyTavern-Lorebooks oder einem angehefteten Weltdokument und halte Fraktionen, Regeln und Namen in einem Referenzblock.
Welches LLM ist am besten zum Schreiben eines Romans?
Lokal: Qwen3.8-27B (256K Kontext) oder Gemma 4 31B (256K Kontext) auf einer 24-GB-GPU. Der Engpass ist die Struktur, nicht die Modellgröße: Ein Outline, eine Figurenbibel und Kapitelzusammenfassungen sichern die Kontinuität. Geschlossene Cloud-Modelle erzielen in Kreativ-Benchmarks höhere Werte, senden dein Manuskript aber an Dritte.
Was ist das beste lokale Modell mit 32 GB VRAM oder Unified Memory?
Gemma 4 31B (19–20 GB) oder Qwen3.8-27B (18 GB) mit größerem Kontextfenster; der Mehrspeicher gegenüber 24 GB bezahlt den KV-Cache. Gemma 4 26B-A4B ist die schnellere Alternative. Ein 70B-Modell passt unter 48 GB nicht komfortabel.
Was ist ein uncensored lokales LLM und wann sollte ich eines nutzen?
Es ist ein Feintune, dessen Post-Training Ablehnungen bei reifen oder moralisch komplexen Prompts verringert, sodass das Modell dem Prompt folgt, statt abzulehnen. Hermes 4.3 36B ist die jüngste bestätigbare Option; Dolphin 3.0 ist älter. Nutze eines für reife Belletristik oder historisch genaues Schreiben und behalte für alles andere ein Instruct-Modell.
Welche Temperatur sollte ich für kreatives Schreiben verwenden?
Temperatur 0,9–1,1 mit Top-p 0,92–0,95 für Prosa. Straffer Dialog braucht 0,7–0,85, Lyrik 1,0–1,2, surreale oder Genre-Texte 1,1–1,3. Herstellerwerte wie 1,0 / 0,95 / Top-k 64 bei Gemma 4 sind ein guter Startpunkt. Schalte den Thinking-Modus bei Fiktion aus.
Sind lokale Modelle für kreatives Schreiben so gut wie ChatGPT oder Claude?
Nicht in Benchmarks. Bei EQ-Bench Creative Writing v3 führen geschlossene Modelle wie Claude Opus 4.7 (2.206 Elo), und die besten Open-Weight-Einträge brauchen Rechenzentrums-Hardware. Ein lokales 24-GB-Modell kann fürs Entwerfen trotzdem gut genug sein und hält Manuskripte privat. Kalibriertes Sampling und ein starker System-Prompt schließen einen großen Teil der praktischen Lücke.
Kann ein lokales Modell einen ganzen Roman schreiben?
Es kann beim Entwurf helfen. Ein Modell mit 256K Kontext wie Qwen3.8-27B oder Gemma 4 kann ein langes Outline und mehrere Kapitel im Speicher halten, aber der KV-Cache wächst mit dem Kontext — prüfe den VRAM. Entwirf abschnittsweise mit Figurenbibel und Lorebook; ohne sie driftet jedes Modell.
Erzeugen uncensored Modelle illegale Inhalte?
Sie erzeugen den Text, den der Prompt verlangt; die rechtliche Verantwortung liegt bei Autor und Veröffentlichung, nicht beim Modell. Regelwerke wie der EU AI Act, §184/§184c StGB und nationales Obszönitätsrecht gelten unabhängig davon, wie ein Text entstanden ist. Lokales Hosting ändert, wer den Entwurf sieht, nicht, was legal ist. Dies ist keine Rechtsberatung.
Wie vermeide ich das Klischee „shiver down their spine“?
Liste 8–12 verbotene Phrasen im System-Prompt („do not write 'shiver,' 'tapestry,' 'delve,' or 'she felt'“). Halte die Temperatur bei 0,85–1,0 statt 1,2+ und ergänze eine DRY-Penalty, wo dein Backend sie unterstützt; eine einfache Repeat-Penalty erfasst Klischees auf Phrasenebene nicht. Eine manuelle Überarbeitung ist der letzte Filter. Siehe Negativ-Prompting.