重要なポイント
- Gemma 4 31Bは24GB GPU向けの散文の選択です。 重みは約19〜20GB、256Kコンテキスト、Apache 2.0で、この一覧で唯一、EQ-Bench Creative Writing v3の独自スコア（ルーブリック16.01、Elo 1407.6）が公開されています。
- Qwen3.8-27Bは長文脈と指示追従向けの選択です。 Ollamaで約18GB、256Kコンテキスト、Apache 2.0。創作スコアはまだ公開されておらず、散文の品質は未検証です。自分の場面で試してください。
- ランキングではなくVRAMでモデルを選びます。 12GB：Gemma 4 12B。16GB：Mistral Small 3 24B。24GB：Gemma 4 31BまたはQwen3.8-27B。48GB以上：Llama 3.3 70B。
- Hermes 4.3 36Bは拒否の少ない選択です。 Apache 2.0で、ByteDance Seed-OSS-36Bがベース。Nous Researchは拒否が大幅に減ったと説明しています。Dolphin 3.0は旧世代の代替です。
- モデルを替えるよりサンプリングのほうが効きます。 散文は温度0.9〜1.1、top-p 0.92〜0.95。小説ではthinkingモードをオフに。コーディング用設定（0.2〜0.4）は平板な文章になります。
- クローズドなクラウドモデルが創作ベンチマークでは依然として首位です。 EQ-Bench Creative Writing v3の最上位はClaude Opus 4.7（2,206 Elo）。掲載中で最高のオープンウェイトはKimi K2.6（1,782）ですが、一般向けハードウェアでは動かせません。ローカルはプライバシー、コスト、制御で勝ります。
クイックファクト
- 24GB GPUまたは32GB Mac： Gemma 4 31B（
gemma4:31b、19〜20GB）またはQwen3.8-27B（qwen3.8:27b、18GB）。どちらもApache 2.0、256Kコンテキスト。 - 12GB GPU： Gemma 4 12B（
gemma4:12b、7.7〜8.0GB）、256Kコンテキスト。 - 16GB GPU： Mistral Small 3 24B（
mistral-small:24b、14GB）、32Kコンテキスト、Apache 2.0。2025年公開。 - 48GB以上： Llama 3.3 70B（
llama3.3:70b、Q4_K_Mで約42GB）。2024年12月公開、Metaコミュニティライセンス。 - 拒否の少ないファインチューン： Hermes 4.3 36B（Apache 2.0）とDolphin 3.0（Mistral 24Bバリアント、2025年2月）。
- 散文のサンプリング基準： 温度1.0、top-p 0.95、min-p 0.05。場面がループする場合はリピートペナルティまたはDRYを追加。
- メモリの目安： Ollamaのサイズは重みのみです。長い場面のためにコンテキストを広げると、KVキャッシュとして2〜6GBが追加で必要です。
選定の方法
このランキングは公開情報の編集上の総合であり、PromptQuorumの新規テストではありません。 公式モデルカード、Ollamaライブラリ（サイズ、コンテキスト、タグ）、公開されている創作リーダーボードを比較し、各モデルをハードウェア帯に対応させました。
- サイズとコンテキスト： Gemma 4、Qwen3.8、Mistral SmallのOllamaページとHugging Faceのモデルカードから取得。重みのみで、コンテキスト用メモリは別途必要です。
- 創作スコア： EQ-Bench Creative Writing v3とOpen Writing Leaderboard（第三者のトラッカー経由）。Gemma 4 31Bには独自スコアがあり、Qwen3.8-27Bにはまだありません。スコアが兄弟モデルのものである場合は明記します。
- 公開時期： Qwen3.8-27B（2026年8月）、Gemma 4（2026年7月）、Mistral Small 3（2025年）、Llama 3.3 70B（2024年12月）、Hermes 4.3 36B（2025年12月）、Dolphin 3.0（2025年2月）。
- 行っていないこと： これらのモデルで新たに採点付きプロンプトセットを実行してはいません。以下のモデル別評価は引用した出典とモデルカードに基づき、「最適な用途」は測定結果ではなく推奨です。
- どのモデルでも創作出力を改善するプロンプト技法については、温度とtop-pの制御とペルソナプロンプティングを参照してください。
📌補足: 創作ベンチマークは主観的で、リーダーボード間でも結果が食い違います。ここでの推奨はすべて仮説として扱ってください。同じ3つの場面を2つの候補に通し、声が好みのほうを残します。
VRAM帯別のおすすめモデル
まずメモリで選びます。モデルはコンテキスト用の余裕を残して収まる必要があります。 サイズはデフォルトの4ビット量子化でのOllamaダウンロードサイズです。長い場面ではKVキャッシュ用に2〜6GBを加えてください。
メモリ | モデル | 重み | コンテキスト |
|---|---|---|---|
| 8GB GPU | Qwen3.5 9B（qwen3.5:9b） | 6.6〜7.6GB | 256K |
| 12GB GPU | Gemma 4 12B（gemma4:12b） | 7.7〜8.0GB | 256K |
| 16GB GPU | Mistral Small 3 24B（mistral-small:24b） | 14GB | 32K |
| 24GB GPU / 32GB Mac | Gemma 4 31B（gemma4:31b） | 19〜20GB | 256K |
| 24GB GPU / 32GB Mac | Qwen3.8-27B（qwen3.8:27b） | 18GB | 256K |
| 24GB GPU、高速出力 | Gemma 4 26B-A4B（gemma4:26b） | 16〜19GB | 256K |
| 48GB以上 | Llama 3.3 70B（llama3.3:70b） | 約42GB | 128K |
💡ヒント: 32GBのMacではユニファイドメモリをmacOSと共有します。モデルとコンテキストに使えるのは約24GBと見込むと、Gemma 4 31BとQwen3.8-27Bが余裕を持って動きます。
直接比較：創作向けローカルモデル
すべての作業で勝つモデルはありません。ハードウェア帯と、作業の中心になる要素で選びます。 表にはこのガイドのモデルをサイズ、重み、公開時期とともにまとめています。
📍 一文で説明
24GB GPUでの創作にはGemma 4 31BとQwen3.8-27Bが最有力で、Gemma 4 12B、Mistral Small 3 24B、Llama 3.3 70Bがそれぞれ12GB、16GB、48GBの帯を担い、Hermes 4.3 36Bが拒否の少ない選択肢です。
💬 簡潔に説明
コンテキストの余裕を残してメモリに収まる最大のモデルを選びます。24GBのカードなら、散文はGemma 4 31B、長期プロジェクトはQwen3.8-27Bです。インストラクトモデルが必要な場面を拒否する場合にのみ、拒否の少ないファインチューンを追加します。
モデル | サイズ | 重み（Ollama） | 公開 | 最適な用途 |
|---|---|---|---|---|
| Gemma 4 31B | 31B Dense | 19〜20GB | 2026年7月 | 24GBの散文。独自のEQ-Benchスコア |
| Qwen3.8-27B | 27B Dense | 18GB | 2026年8月 | 長期プロジェクト、指示追従 |
| Gemma 4 26B-A4B | 26B MoE、4B稼働 | 16〜19GB | 2026年7月 | 24GBでの高速生成 |
| Gemma 4 12B | 12B | 7.7〜8.0GB | 2026年7月 | 12GB GPU、長い文脈 |
| Mistral Small 3 24B | 24B Dense | 14GB | 2025年 | 16GB GPU。古いが実績あり |
| Llama 3.3 70B | 70B Dense | 約42GB | 2024年12月 | 48GB以上。旧世代の基準 |
| Hermes 4.3 36B | 36B Dense | 約21〜23GB（推定） | 2025年12月 | 拒否が少ない、Apache 2.0 |
| Dolphin 3.0 | 24B（Mistral版） | 約14GB | 2025年2月 | 旧世代の拒否の少ない選択 |
💡ヒント: 2モデル構成が一般的です。普段使いのインストラクトモデルと、それが拒否する場面用のHermes 4.3 36B。両方をollama listに同時に置けます。
モデル別の評価
- Gemma 4 31B — 24GB向けの散文の選択。この一覧で唯一、EQ-Bench Creative Writing v3の独自結果（ルーブリック16.01、Elo 1407.6、第三者トラッカーによる）があります。256Kコンテキスト、Apache 2.0。Googleはデフォルトとして温度1.0、top-p 0.95、top-k 64を示しています。
- Qwen3.8-27B — 長期プロジェクト向け。ネイティブで262,144トークンのコンテキスト（YaRNで1Mまで拡張可）、Apache 2.0、Ollamaで約18GB。Alibabaはコーディング、エージェント、リサーチ向けと位置づけており、モデルカードに創作の記述はなく、創作スコアも公開されていません。自分の場面で声を確認してください。thinkingモードはデフォルトでオンなので、散文ではオフにします。
- Gemma 4 26B-A4Bと12B — 同じファミリーで、トレードオフが異なります。26BのMixture-of-Expertsモデルは1トークンあたり約4Bパラメータを稼働させるため、同程度のメモリで31Bより高速に生成します。12Bは12GBカードに収まり、256Kコンテキストも備えます。
- Mistral Small 3 24B — 16GBの選択肢。Apache 2.0、約14GB、32Kコンテキスト。2025年のモデルで、Llama以外では最も古い推奨ですが、16GBに収まる新しいモデルが少ないため残しています。後継のMistral Small 4（2026年3月、Apache 2.0）は、稼働パラメータ約6Bの119B Mixture-of-Expertsモデルで、16GBをはるかに超えます。
- Llama 3.3 70B — 48GBの基準。2024年12月のモデルで、Metaコミュニティライセンス。48GB以上のマシンでは強力で対応も広い選択肢ですが、それ未満では現実的ではありません。
- Hermes 4.3 36B — 拒否の少ない選択。ByteDance Seed-OSS-36BをベースにApache 2.0で提供され、Hugging FaceにGGUF量子化があります。Nous Researchは拒否が大幅に減ったと説明し、独自のRefusalBenchでHermes 4.3がプロンプトの72〜75%に回答したとしています。カードの推奨は温度0.6、top-p 0.95、top-k 20。散文では温度を上げてください。
- Dolphin 3.0 — 旧世代の拒否の少ない選択。確認できた最新のDolphin世代はDolphin 3.0（2025年2月、Mistral 24Bバリアントを含む）です。Mistral系の無検閲モデルが欲しい場合に使います。より新しい選択はHermes 4.3です。
📌補足: 声の一貫性は、書き手が最も過小評価しやすい指標です。1段落は見事でも、5段落目で登場人物の話し方を見失うモデルは、安定したモデルより劣ります。単発の品質ではなく、長いセッションでの連続性を試してください。
創作向けOllamaモデル
5つのollama pullコマンドで、このガイドのすべてのハードウェア帯をカバーできます。 取得後はollama listでインストールを確認します。
- 24GB、散文：
ollama pull gemma4:31b— その後ollama run gemma4:31b。 - 24GB、長期プロジェクト：
ollama pull qwen3.8:27b— 散文ではthinkingをオフにするためollama run qwen3.8:27b --think=falseで起動。 - 12GB：
ollama pull gemma4:12b。 - 16GB：
ollama pull mistral-small:24b。 - 48GB以上：
ollama pull llama3.3:70b。 - 拒否の少ないファインチューン：
ollama run hf.co/NousResearch/Hermes-4.3-36B-GGUFでHugging FaceからHermes 4.3のGGUFを取得します。24GBカードでは4ビット量子化を選びます。 - 長い場面ではコンテキストウィンドウを広げます。 Ollamaのデフォルトのコンテキストは小さめです。対話セッションで
/set parameter num_ctx 16384と入力するか、Modelfileにnum_ctxを設定します。大きな値ほどVRAMを使います。
執筆用のローカルモデルとクラウドモデル
クローズドなクラウドモデルは創作ベンチマークで高スコアですが、ローカルモデルはプライバシー、コスト、制御で優れています。 「ローカル」なしで「執筆に最適なLLM」と検索する人には、リーダーボードがこのガイドとは異なる答えを示します。
- クローズドモデルが上位。 evals.reportが反映するEQ-Bench Creative Writing v3では、Claude Opus 4.7が2,206 Eloで首位、GPT-5.5が2,035で続きます。
- 最高のオープンウェイトにはデータセンターが必要です。 Kimi K2.6（1,782 Elo）はこの一覧で最高のオープンウェイトです。FeatherlessはGLM-5.3を753B、DeepSeek-V4.1-Flashを763Bパラメータとしており、一般向けマシンでは動きません。
- 1枚のGPUで動くもの。 Gemma 4 31Bは同じベンチマークで1407.6 Elo、ルーブリック16.01でした。トラッカーが違えばスケールも異なるため、比較は同じ一覧の中だけで行ってください。
- ローカルが適切な場合。 未発表の原稿、NDA下のクライアント案件、クラウド事業者が拒否する内容、オフライン作業、月額API料金が制約になるプロジェクト。
- ハイブリッドの進め方。 下書きとブレインストーミングはローカルで行い、機密でない最終仕上げにだけクラウドモデルを使い、追加の品質を得ます。
創作向けの温度とtop-p
創作はコーディングより高いサンプリング温度を必要とします。 多くのチャットUIのデフォルトは質疑応答向けに調整されており、創作プロンプトで温度0.7だと平板で予測しやすい文章になります。
- ベンダーの値は下限であり目標ではありません。 GoogleはGemma 4に温度1.0、top-p 0.95、top-k 64、AlibabaはQwen3.8のthinkingモードに1.0 / 0.95 / top-k 20、非thinkingモードに0.7 / 0.8、NousはHermes 4.3に0.6 / 0.95 / top-k 20を示しています。ここから始め、散文向けに調整します。
- 散文の基準： 温度0.95〜1.0、top-p 0.92〜0.95、リピートペナルティ1.05〜1.1。ここから作業ごとに調整します。
- 引き締まった対話： 温度0.7〜0.85、top-p 0.9。低めの温度は、やり取りを通じて登場人物の声を一貫させます。
- 叙情的な散文と詩： 温度1.0〜1.2、top-p 0.95。高めの温度は意外な言葉選びを引き出します。
- シュールまたはジャンル小説： 温度1.1〜1.3、top-p 0.95〜0.98。
- プロット主導の場面（アクション、ミステリー、どんでん返し）： 温度0.85〜0.95、top-p 0.9。目新しさより指示追従が求められます。
- 小説ではthinkingモードをオフにします。 推論トークンは遅延を増やし、計画されて整いすぎた文章になりがちです。Qwen3.8は
enable_thinking: falseを受け付け、Ollamaでは--think=falseを使います。 - min_p（0.05〜0.1）： 最上位トークンの確率に合わせてカットオフを調整する、top-pの代替です。top-pを極端に高くしたときの支離滅裂さを避けつつ、創作プロンプトでより寛容です。バックエンドが設定を公開している場合に使います。
- DRY繰り返しペナルティ（multiplier 0.8、base 1.75、allowed length 2）： 通常のリピートペナルティでは見逃すフレーズ単位の繰り返しを検出し、長いセッションに役立ちます。KoboldCppなどllama.cppベースのバックエンドで利用でき、フロントエンドが対応しているか確認してください。
- これらのパラメータが重要な理由と相互作用の詳細は、温度とtop-pの制御を参照してください。
💡ヒント: モデルごとに短い場面1つでサンプリングを試します。設定ごとに3回実行し、プロンプトを失わずに最も生き生きと聞こえる温度を選びます。設定はモデル間で完全には引き継げません。
Uncensoredモデルとは何か、いつ重要か
Uncensoredは非倫理的という意味ではありません。 ファインチューンによってモデルの拒否挙動が減らされ、断る代わりにプロンプトに従うという意味です。作者はあくまで書き手です。
- 技術的には。 Hermes 4.3やDolphin 3.0のようなモデルは、成熟した内容、暴力、道徳的に複雑なプロンプトへの拒否をポストトレーニングで減らしたファインチューンです。Nous Researchは拒否が大幅に減ったと説明し、独自のRefusalBenchでHermes 4.3がプロンプトの72〜75%に回答したと報告しています。新しいモデルのコミュニティ版である「abliterated」や「heretic」もOllamaにありますが、品質は検証されていません。
- 創作で重要になる場面。 成熟した小説、露骨な暴力のある犯罪小説、ホラー、戦争や残虐行為についての史実に忠実な執筆、そしてインストラクトモデルが説得力をもって演じない道徳的に複雑な敵役。
- 弱点。 プロンプトに従うため、出来の悪いプロンプトにも従います。インストラクトモデルは曖昧なプロンプトを出版可能な形に和らげがちですが、拒否の少ないモデルは求めたとおりのものを返します。
- 倫理的・法的な境界。 モデルが書けることは、実在の人物を標的にする内容、特定可能な個人を巻き込む同意のない場面の描写、居住地で違法な内容を書いてよいという許可ではありません。ローカルでのホスティングは法律を変えず、下書きを誰が見られるかだけを変えます。法律は国によって異なり、これは法的助言ではありません。
- さらに詳しく 倫理、合法性、ベストプラクティスについては、創作向けUncensoredローカルLLM：倫理、合法性、ベストプラクティスを参照してください。
📌補足: Uncensoredはアイデンティティではなくワークフローの選択です。多くの書き手はインストラクトモデルで下書きし、特定の場面でのみ拒否の少ないファインチューンに切り替えます。2つのモデルを並べて入れておくのが一般的です。
創作向けフロントエンド
書き込むチャットUIはモデルと同じくらい重要です。 4つの選択肢でほとんどのワークフローをカバーできます。ワークフローの形で選びます。
- Open WebUI — 汎用の選択。ChatGPT風のUI、ワンクリックのモデル切替、システムプロンプトでのキャラクターメモ、文脈用のドキュメントアップロード。散文中心の下書きに最適です。
- SillyTavern — ロールプレイと対話の選択。キャラクターカード、ペルソナ管理、世界観構築用のロアブック、複数キャラクターの場面向けグループチャット。対話中心の作業や長期の世界観プロジェクトに最適です。
- AgnaiとRisuAI — より軽量なSillyTavernの代替。始めやすく、カスタマイズは少なめです。
- Ollama CLIとテキストエディタのみ — 最小構成。
ollama run gemma4:31bで場面を生成し、下書きに貼り付けます。永続的なキャラクター文脈は失われますが、集中しやすくなります。 - ロールプレイ向けフロントエンドの直接比較は、SillyTavern vs Agnai vs RisuAI：ベストなローカルロールプレイ用フロントエンドを参照してください。
💡ヒント: 下書きと推敲では適したツールが異なります。チャットのフロントエンドで生成し、推敲のためにプレーンテキストエディタへ書き出します。チャットウィンドウ内で編集すると、自分で推敲する代わりにモデルに直させる癖がつきます。
判断：作業に合うモデルは
まずメモリ、次に作業内容で決めます。
📍 一文で説明
24GB GPUならGemma 4 31BまたはQwen3.8-27B、12GBならGemma 4 12B、16GBならMistral Small 3 24B、48GB以上ならLlama 3.3 70B、インストラクトモデルが拒否する場面にはHermes 4.3 36Bを選びます。
💬 簡潔に説明
コンテキストの余裕を残してメモリに収まる最大のモデルから始めます。長編の連続性や成熟した場面など、特定の作業がボトルネックになってから専門モデルに切り替えます。2つインストールしても、かかるのはディスク容量だけです。
状況 | おすすめ |
|---|---|
| 24GB GPUまたは32GB Mac、散文優先 | Gemma 4 31B |
| 24GB GPU、長編小説規模のプロジェクト | Qwen3.8-27B（256Kコンテキスト） |
| 24GB GPU、より高速な出力が欲しい | Gemma 4 26B-A4B |
| 12GB GPU | Gemma 4 12B |
| 16GB GPU | Mistral Small 3 24B |
| 48GB以上、1つのモデルですべて | Llama 3.3 70B + Hermes 4.3 36B |
| インストラクトモデルが必要な場面を拒否 | Hermes 4.3 36B（インストラクトモデルも残す） |
| まず1つ使い、後で調整したい | Gemma 4 31BまたはQwen3.8-27B（収まるほう） |
💡ヒント: 多くの書き手はモデルを考えすぎ、プロンプトを考えなさすぎます。キャラクターメモ、声のサンプル、明示的な視点を含むシステムプロンプトは、モデルの乗り換えより効果的です。ペルソナプロンプティングを参照してください。
創作向けローカルモデルの選び方と使い方でよくある間違い
- 間違い1：一般的なベンチマーク順位で選ぶ。 コーディングや推論のランキングは、散文の品質とあまり相関しません。EQ-Benchのような創作向けボードを見たうえで、自分の場面で試します。
- 間違い2：コーディング用のサンプリングを使う。 温度0.2〜0.4は平板な文章になります。創作には約0.9〜1.1が必要です。
- 間違い3：thinkingモードをオンのままにする。 推論型モデルは書く前に計画するため、小説が組み立てられたように感じられることがあります。散文ではthinkingをオフにします。
- 間違い4：コンテキストメモリを無視する。 19〜20GBの31Bモデルは、コンテキストを広げると24GBカードにほとんど余裕が残りません。KVキャッシュに2〜6GBを見込みます。
- 間違い5：薄いシステムプロンプト。 「あなたは役に立つアシスタントです」は創作で最悪のプロンプトです。キャラクターメモ、視点、時制をネガティブプロンプティングと組み合わせ、陳腐な表現を排除します。
- 間違い6：チャットウィンドウで編集する。 生成はチャットで、推敲はエディタで行います。モデルに推敲させる書き手は、すぐに自分の声を失います。
⚠️注意: 創作AIの最大のスキルリスクは、推敲を丸投げすることです。生成はモデルの恩恵を受ける機械的な作業であり、推敲こそが文章を自分のものにします。
出典
- Ollamaライブラリ：Gemma 4 — タグ、ダウンロードサイズ、コンテキストウィンドウ。
- Ollamaライブラリ：Qwen3.8 — タグ、サイズ、機能。
- Hugging Face：Qwen3.8-27Bモデルカード — ライセンス、コンテキスト長、推奨サンプリング。
- Hugging Face：Gemma 4 31Bモデルカード — ライセンス、コンテキスト長、サンプリングのデフォルト。
- Hugging Face：Hermes 4.3 36B — ベースモデル、ライセンス、拒否ベンチマーク、GGUF量子化。
- Ollamaライブラリ：Mistral Small — Mistral Small 3 24Bのサイズ、コンテキスト、ライセンス。
- EQ-Bench Creative Writingとevals.reportのEQ-Benchスコア — 上記で引用したリーダーボードの数値。
- Featherless：創作向けのおすすめオープンモデル — オープンウェイトのサイズとGemma 4 31BのEQ-Bench数値。
- SillyTavernドキュメント — キャラクターカード、ペルソナ、グループチャット。
よくある質問
創作に最適なローカルLLMは？
2026年のローカルでの出発点として最適なのはGemma 4 31BとQwen3.8-27Bで、どちらも24GB GPUに収まります（重みは約18〜20GB）。Gemma 4 31Bは独自のEQ-Benchスコアが公開された散文向けの選択、Qwen3.8-27Bは長文脈向けの選択です。小さいカードならGemma 4 12B（12GB）かMistral Small 3 24B（16GB）を使います。
創作に最適なOllamaモデルは？
24GB GPUでは、散文ならollama pull gemma4:31b、長期プロジェクトならollama pull qwen3.8:27b。12GBならgemma4:12b、16GBならmistral-small:24b、48GB以上ならllama3.3:70bです。長い場面ではnum_ctxを上げ、小説ではthinkingをオフにします。
小説や物語の執筆に最適なローカルLLMは？
コンテキストの余裕を残してメモリに収まる最大のモデルを選びます。24GBでの散文はGemma 4 31B、長編規模のプロジェクトには256KコンテキストのQwen3.8-27B、48GB以上ではLlama 3.3 70Bが基準です。温度は0.9〜1.1、システムプロンプトには視点、時制、声のサンプルを入れます。
世界観構築に最適なローカルモデルは？
最も重要なのは長いコンテキストです。Qwen3.8-27BもGemma 4も256Kトークンに対応し、設定資料と章の要約をプロンプトに入れておけます。どちらかをSillyTavernのロアブックや固定した世界設定ドキュメントと組み合わせ、勢力、ルール、名前を1つの参照ブロックにまとめます。
長編小説の執筆に最適なLLMは？
ローカルなら、24GB GPUでQwen3.8-27B（256Kコンテキスト）またはGemma 4 31B（256Kコンテキスト）です。ボトルネックはモデルの大きさではなく構成です。アウトライン、キャラクター設定集、章ごとの要約が連続性を支えます。クローズドなクラウドモデルは創作ベンチマークで高スコアですが、原稿を第三者に送ることになります。
VRAMまたはユニファイドメモリ32GBでの最適なローカルモデルは？
Gemma 4 31B（19〜20GB）またはQwen3.8-27B（18GB）を広めのコンテキストウィンドウで使います。24GBを超える分のメモリがKVキャッシュに回ります。Gemma 4 26B-A4Bはより高速な代替です。70Bモデルは48GB未満では快適に収まりません。
uncensoredなローカルLLMとは何で、いつ使うべきですか？
成熟した内容や道徳的に複雑なプロンプトへの拒否をポストトレーニングで減らし、断らずにプロンプトに従うようにしたファインチューンです。確認できた最新の選択肢はHermes 4.3 36Bで、Dolphin 3.0はより古い世代です。成熟した小説や史実に忠実な執筆に使い、それ以外にはインストラクトモデルを残します。
創作ではどの温度を使うべきですか？
散文は温度0.9〜1.1、top-p 0.92〜0.95です。引き締まった対話は0.7〜0.85、詩は1.0〜1.2、シュールやジャンル作品は1.1〜1.3。Gemma 4の1.0 / 0.95 / top-k 64のようなベンダーのデフォルトは良い出発点です。小説ではthinkingモードをオフにします。
ローカルの創作モデルはChatGPTやClaudeと同等ですか？
ベンチマークでは同等ではありません。EQ-Bench Creative Writing v3ではClaude Opus 4.7（2,206 Elo）などクローズドモデルが上位で、最高のオープンウェイトにはデータセンター級のハードウェアが必要です。それでも24GBのローカルモデルは下書きには十分なことがあり、原稿を非公開に保てます。調整したサンプリングと優れたシステムプロンプトで、実用上の差の多くは埋まります。
ローカルモデルで長編小説を1冊書けますか？
下書きの手伝いはできます。Qwen3.8-27BやGemma 4のような256Kコンテキストのモデルは、長いアウトラインと複数章をメモリに保持できますが、KVキャッシュはコンテキストとともに増えるためVRAMを確認してください。キャラクター設定集とロアブックを用意して節ごとに書き進めます。それがなければどのモデルも逸れていきます。
uncensoredモデルは違法なコンテンツを生成しますか？
プロンプトが求めるテキストを生成します。法的責任はモデルではなく、書き手と公開物にあります。EU AI Act、ドイツ刑法第184条／第184c条、各国のわいせつ規制などは、テキストの生成方法にかかわらず適用されます。ローカルでのホスティングが変えるのは下書きを誰が見るかであって、何が合法かではありません。これは法的助言ではありません。
「shiver down their spine」のような陳腐な表現を避けるには？
システムプロンプトに禁止フレーズを8〜12個挙げます（「do not write 'shiver,' 'tapestry,' 'delve,' or 'she felt'」）。温度は1.2以上ではなく0.85〜1.0に保ち、バックエンドが対応していればDRYペナルティを追加します。通常のリピートペナルティではフレーズ単位の陳腐さは捉えられません。最後の関門は手作業での推敲です。ネガティブプロンプティングを参照してください。