メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。
ホーム/ローカルLLM
Best Models

2026年版 創作・小説向けローカルLLMのおすすめ: フィクション、詩、長編をVRAM別に紹介

·9分読 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

創作で最初に試すローカルLLMは Gemma 4 31B と Qwen3.8-27B で、どちらも24 GBのGPU 1枚に収まります。 散文は Gemma 4 31B、長編は Qwen3.8-27B です。8、12、16 GBでは Qwen3.5 9B、Gemma 4 12B、Mistral Small 3 24B を選びます。編集部の順位で、PromptQuorumの検証結果ではありません。

重要なポイント

  • Gemma 4 31B は24 GB GPUの散文向けです。 重みは約19〜20 GB、256Kコンテキスト、Apache 2.0。このガイドで EQ-Bench Creative Writing v3 のスコアが公開されている唯一のモデルです(Featherless報告: ルーブリック16.01、Elo 1407.6)。
  • Qwen3.8-27B は長編プロジェクト向けです。 Ollamaで18 GB、256Kコンテキスト、Apache 2.0。モデルカードに創作の記載はなく、創作スコアも公開されていないため、自分の場面で文体を確認してください。
  • まずメモリで選びます。 8 GB: Qwen3.5 9B。12 GB: Gemma 4 12B。16 GB: Mistral Small 3 24B。24 GB: Gemma 4 31B または Qwen3.8-27B。48 GB以上: Llama 3.3 70B。
  • 古いコミュニティモデルは既定の選択ではなくなりました。 Fimbulvetr-11B(CC BY-NC 4.0、非商用)と Midnight-Rose-70B(Llama 2のマージ)は上記モデルより前のものです。文体が好みの場合のみ使います。
  • サンプリングはコード用ではなく散文用にします。 温度は0.9〜1.1から始め(編集部の目安。GoogleはGemma 4で1.0を示しています)、思考モードはオフにします。
  • クローズドなクラウドモデルが創作リーダーボードの上位です。 evals.report経由で見たEQ-Bench Creative Writing v3の一覧(データ基準日2026-11-15)では、Claude Opus 4.7が2206 Elo、オープンウェイト最上位のKimi K2.6が1782です。ローカルモデルの強みはプライバシー、コスト、制御です。

📍 一文で説明

24 GBのGPUで創作を始めるなら、散文は Gemma 4 31B、長編は Qwen3.8-27B が出発点です。ほかのメモリ帯では Qwen3.5 9B、Gemma 4 12B、Mistral Small 3 24B、Llama 3.3 70B を使います。

💬 簡潔に説明

コンテキスト用の余裕を残して、メモリに収まる最大のモデルを選びます。24 GBのカードなら、散文は Gemma 4 31B、長編は Qwen3.8-27B です。創作に唯一の正解はないため、2つの候補を自分の場面で試し、声が好みに合う方を残してください。

創作文章でまず試したいローカルモデルは Gemma 4 31B と Qwen3.8-27B です。どちらも24 GBのGPU 1枚に収まります。このガイドでは、フィクション、詩、長編向けのオープンウェイトモデルをメモリ帯(8、12、16、24、48 GB)別に整理し、Ollamaのタグ、ライセンス、順位の根拠を示します。

2026年版 創作・小説向けローカルLLMのおすすめ: フィクション、詩、長編をVRAM別に紹介

順位の根拠(と、根拠ではないもの)

この順位は、モデルカード、Ollamaライブラリ、公開リーダーボードをもとにした編集部のまとめです。PromptQuorumが新たに採点付きの執筆テストを実施したわけではありません。 創作に唯一の正解はなく、ベンチマークでは測りきれず、リーダーボード同士も食い違います。

  • サイズとコンテキスト: Ollamaライブラリの Gemma 4、Qwen3.8、Qwen3.5、Mistral Small、Llama 3.3 のページから読み取りました。サイズは既定の4ビット版のダウンロードサイズで、コンテキスト用メモリは別に必要です。
  • ライセンスとサンプリング既定値: 出典欄に挙げたHugging Faceのモデルカードから読み取りました。
  • 創作スコア: EQ-Bench Creative Writing v3 はLLMが採点するベンチマークです。Gemma 4の数値は2026-09-17付の Featherlessの記事 によるもので、Qwen3.8-27Bのスコアは公開されていません。異なる集計元のスコアは直接比較できないため、同じ一覧の中だけで比べてください。
  • 「向いている用途」 は、これらの出典に基づく編集部の推奨であり、実測結果ではありません。
  • 4つのプロンプトで自分でも試してください: 場面を500語続ける(トーンと声)、指定した作家の文体で1段落書く(文体が変わるか)、どんでん返しのある1,000語の短編を書く(伏線と回収)、2人の会話を書く(声が区別できるか)。
  • フロントエンド、世界観づくり、低拒否モデルについては 創作文章の詳細ガイド をご覧ください。

📌補足: どの推奨も出発点の仮説として扱ってください。同じ3つの場面を2つの候補に書かせ、声が好みに合う方を残します。

メモリ帯別の創作向けローカルLLM

まずメモリで選びます。コンテキスト用の余裕を残してモデルが収まる必要があります。 サイズは既定の4ビット量子化でのOllamaのダウンロードサイズです。コンテキスト用メモリ(KVキャッシュ)は別で、長い場面では約2〜6 GBです(推定)。

メモリ
モデル(Ollamaタグ)
重み
コンテキスト
8 GB GPUQwen3.5 9B (qwen3.5:9b)6.6〜7.6 GB256K
12 GB GPUGemma 4 12B (gemma4:12b)7.7〜8.0 GB256K
16 GB GPUMistral Small 3 24B (mistral-small:24b)14 GB32K
24 GB GPU / 32 GB MacGemma 4 31B (gemma4:31b)19〜20 GB256K
24 GB GPU / 32 GB MacQwen3.8-27B (qwen3.8:27b)18 GB256K
24 GB GPU、速度重視Gemma 4 26B A4B (gemma4:26b)16〜19 GB256K
48 GB GPU / 64 GB MacLlama 3.3 70B (llama3.3:70b)43 GB128K

💡ヒント: MacではユニファイドメモリをmacOSと共有します。32 GBのMacでは、モデルとコンテキストに使えるのは約24 GBと見てください。Gemma 4 31B または Qwen3.8-27B は収まりますが、コンテキスト用には数GBしか残りません。

#1 Gemma 4 31B: 24 GB GPUの散文向け

Gemma 4 31B は、24 GBのGPUまたは32 GBのMacでの散文向けの第一候補です。 30.7Bパラメータの密モデル(Ollamaで19〜20 GB)で、256KコンテキストをApache 2.0で使えます。このガイドで EQ-Bench Creative Writing v3 の結果が公開されている唯一のモデルです(Featherless報告: ルーブリック16.01、Elo 1407.6)。

Googleのモデルカードは、詩や脚本などのテキスト生成を想定用途として挙げ、温度1.0、top-p 0.95、top-k 64を推奨しています。19〜20 GBでは24 GBのカードにコンテキスト用の余裕がほとんど残らないため、コンテキストウィンドウは控えめにするか、Gemma 4 26B A4B(16〜19 GB)を選んでください。これはトークンごとに約4Bパラメータを有効にするMixture-of-Expertsモデルで、同じFeatherlessの一覧で1286.9 Eloでした。

項目
内容
向いている用途24 GB GPUでの散文
重み(Ollama)19〜20 GB
コンテキスト256Kトークン
ライセンスApache 2.0
Ollamaコマンドollama run gemma4:31b

#2 Qwen3.8-27B: 同じハードウェアでの長編向け

Qwen3.8-27B は、24 GBのGPUでの長編プロジェクト向けです。 27Bの密モデルでOllamaでは18 GB、ネイティブで262,144トークンのコンテキスト(モデルカードによると1,000,000トークンまで拡張可能)をApache 2.0で使えます。

Alibabaはコーディング、エージェント、リサーチ向けとして位置づけており、モデルカードに創作の記載はなく、創作スコアも公開されていません。散文の質は未確認として扱ってください。思考モードは既定でオンなので、フィクションではオフにします。

項目
内容
向いている用途長編小説、指示への追従
重み(Ollama)18 GB
コンテキスト256Kトークン
ライセンスApache 2.0
Ollamaコマンドollama run qwen3.8:27b

#3 8・12・16 GB向けの候補

24 GB未満では選択肢が少なく、実績も十分ではないため、決める前に試してください。 小型モデルは一般に、長い場面の一貫性を大型モデルほど保てません。

  • 8 GB: Qwen3.5 9B(`qwen3.5:9b`、6.6〜7.6 GB、256Kコンテキスト)。Ollamaで8 GBクラスの比較的新しいモデルです。創作スコアは公開されていないため、自分の場面で試してください。
  • 12 GB: Gemma 4 12B(`gemma4:12b`、7.7〜8.0 GB、256Kコンテキスト、Apache 2.0)。FeatherlessはEQ-Bench Creative Writing v3でルーブリック15.71、1270.4 Eloと報告しています。
  • 16 GB: Mistral Small 3 24B(`mistral-small:24b`、14 GB、32Kコンテキスト、Apache 2.0)。16 GBに収まる新しいモデルが少ないため、古いながら残しています。コンテキスト用の余裕は約2 GBなので、プロンプトは短くしてください。

#4 Llama 3.3 70B: 48 GB以上の基準モデル

Llama 3.3 70B(`llama3.3:70b`、43 GB、128Kコンテキスト)は、このガイドで最大のモデルで、48 GBのGPU構成または64 GBユニファイドメモリのMacが必要です。 Metaが2024年12月にMeta Llama 3.3 Community Licenseで公開しました。これは独自ライセンスで、OSIのオープンソースライセンスではありません。

このページの以前の版では散文で1位にしていましたが、今は1位にしていません。確認した一覧にはこのモデルの創作スコアがなく、24 GBに収まる新しいモデルにはスコアがあります。また、新しいLlamaはEQ-Benchで低いスコアです(evals.reportの一覧でLlama 4 Maverickが927、Llama 4 Scoutが883)。メモリがあり、文体が好みなら使い続けて構いません。

#5 コミュニティモデルと低拒否モデル

コミュニティのフィクションモデルは、既定の選択ではなく第二の選択肢になりました。 商用利用の前に、各モデルのライセンスを確認してください。

  • Hermes 4.3 36B(Nous Research、Apache 2.0): ByteDance Seed-OSS-36B-Baseが土台で、Hugging Faceに4〜8ビットのGGUFがあります。Nousは自社のRefusalBenchで、プロンプトの74.60 %(非推論)と72.29 %(推論)に回答したと報告しています(開発元の報告値で、高いほど拒否が少ない)。instructモデルが正当なフィクション場面を断るときに使い、散文ではモデルカードの0.6より温度を上げてください。
  • Fimbulvetr-11B-v2(Sao10K): Solarベースで、ライセンスはCC BY-NC 4.0のため非商用に限られます。モデルカードはSillyTavernのプリセットを推奨しています。創作ベンチマークのスコアは見つかりませんでした。
  • Midnight-Rose-70B(sophosympatheia): Llama 2 70Bをもとにしたマージで、ライセンスはLlama 2ライセンスに継承された制限が加わります。モデルカードは約6144トークンのコンテキストを勧めています。Llama 3.3のモデルではありません。
  • 古いモデルにGGUF変換版がある場合は、LM Studio、または `ollama run hf.co/<user>/<repo>` で読み込めます。その際は、そのリポジトリ固有のライセンスを先に確認してください。
  • 拒否の挙動、倫理、限界については Uncensored Local LLMs for Creative Writing: Ethics, Legality & Best Practices をご覧ください。ローカルで動かしても法律は変わらず、公開する内容の責任は書き手にあります。

ローカルモデルとクラウドモデルの比較

クローズドなクラウドモデルは創作リーダーボードで高いスコアを出します。ローカルモデルの強みはプライバシー、コスト、制御です。

  • evals.report 経由で見たEQ-Bench Creative Writing v3の一覧(データ基準日2026-11-15)では、Claude Opus 4.7が2206 Eloで首位、GPT-5.5が2035で続きます。
  • その一覧のオープンウェイト最上位はKimi K2.6の1782 Eloです。Featherlessがこのレベルで推奨するオープンモデルのサイズは、753B(GLM-5.3)、763B(DeepSeek-V4.1-Flash)、2.8T(Kimi K3)パラメータで、このガイドの8〜48 GB帯をはるかに超えています。
  • ローカルが適している場面: 未公開の原稿、NDAのもとでの顧客案件、オフライン作業、トークン単価が問題になるプロジェクト。
  • ハイブリッド運用: 下書きとブレインストーミングはローカルで行い、クラウドモデルは機密でない文章の推敲だけに使います。事前にプロバイダーのデータ取り扱い条件を確認してください。

ローカルLLMの創作を良くする設定とプロンプト

モデルを替えるより、次の5つの習慣のほうが出力を大きく変えます。

  1. 1
    サンプリングはコード用ではなく散文用にします。 開発元の既定値は、Gemma 4が温度1.0・top-p 0.95・top-k 64、Qwen3.8が思考モードで1.0 / 0.95 / top-k 20、非思考モードで0.7 / 0.8 / top-k 20、Hermes 4.3が0.6 / 0.95 / top-k 20です。編集部の出発点として、散文は温度0.9〜1.1、引き締まった会話は0.7〜0.85を試してください。
  2. 2
    フィクションでは思考モードをオフにします。 推論モデルは書く前に計画するため、場面が組み立てたように見えることがあります。Qwen3.8は既定で思考します。OllamaのAPIでは `think` を `false` にするか、フロントエンドの思考切り替えを使ってください。
  3. 3
    文体は具体的に指定します。「二人称、現在形、短い文、副詞なしで書いて」のほうが「文学的なフィクションを書いて」より効果があります。作家名は文体のヒントになりますが、存命の作家の表現をなぞった文章は公開しないでください。
  4. 4
    固定のシステムプロンプトを使います。 視点、時制、ジャンル、キャラクターシート、文体のサンプルを入れ、セッションの冒頭で貼り直します。
  5. 5
    セクションごとに書き、コンテキストウィンドウを広げます。 一度に約500語ずつ生成し、新しいセッションでは短いあらすじを改めて伝えます。モデルはコンテキストに収まる範囲しか見えないためです。Ollamaの既定のコンテキストは限られているので、対話セッションで `/set parameter num_ctx 16384` と入力します。値を大きくするほどメモリを使います。

詩に向くオープンウェイトモデル

詩を別に採点するリーダーボードはないため、詩向けの選び方も上のメモリ帯別の順位に従います。 ソネット、俳句、ヴィラネルなど厳格な形式では、温度を0.7〜0.85に下げます(編集部の目安)。高い温度は韻律や脚韻を崩しやすいためです。自由詩には散文の範囲を使います。

  • 24 GB: Gemma 4 31B または Qwen3.8-27B。同じ短い詩のプロンプトを両方に出し、声が好みに合う方を残します。
  • 小さいメモリ帯: Gemma 4 12B(12 GB)または Qwen3.5 9B(8 GB)。
  • 厳格な形式: モデルは音節ではなくトークンで処理するため、音節数と脚韻は手作業で確認してください。
  • 形式を明示します:「秋の雨についての俳句(5-7-5)を書いて」や「喪失についてシェイクスピア風ソネット(ABAB CDCD EFEF GG、弱強五歩格)を書いて」。「愛についての詩を書いて」のような曖昧な指示では、ありきたりな自由詩になります。

悪いプロンプトと良いプロンプト

  • ❌「ファンタジーの物語を書いて」→ ✅「密輸業者がドラゴンと古代の遺物をめぐって交渉する500語のファンタジー場面を書いて。五感の描写を使い、会話に緊張感を持たせて。」
  • ❌「何か面白いものを書いて」→ ✅「失敗した強盗の冒頭場面を300語で書いて。主人公は作戦の途中で相棒の裏切りに気づく。テンポに合わせて短く鋭い文を使って。」
  • ❌「ミステリーを書いて」→ ✅「この探偵の場面の続きを書いて: [前の文章]。探偵は一つの手がかりから容疑者の嘘に気づく。矛盾に気づく様子を、説明せず描写で見せて。」
  • ❌「もっと面白くして」→ ✅「直前の段落をノワール小説風に書き直して。会話は切り詰め、内面の独白は皮肉っぽく、音・におい・手触りなど具体的な感覚描写を入れて。」

よくある質問

創作文章に最適なローカルLLMはどれですか?

この順位では Gemma 4 31B と Qwen3.8-27B が最良の出発点で、どちらも24 GBのGPUに収まります(重みは19〜20 GBと18 GB)。Gemma 4 31B は EQ-Bench Creative Writing v3 のスコアが公開されているため散文向け、Qwen3.8-27B は長編プロジェクト向けです。小さいカードでは Gemma 4 12B(12 GB)か Mistral Small 3 24B(16 GB)を使います。編集部の順位なので、2つの候補を自分の場面で試してください。

物語や小説を書くのに最適なローカルLLMはどれですか?

コンテキスト用の余裕を残してメモリに収まる最大のモデルを選びます。24 GBでは散文なら Gemma 4 31B、256Kコンテキストの Qwen3.8-27B は長編向け、48 GB以上では Llama 3.3 70B が基準です。ボトルネックはたいてい構成です。プロット、キャラクターシート、章ごとの短い要約があると、長いプロジェクトの一貫性が保てます。

創作に最適なOllamaのモデルはどれですか?

24 GBでは、散文なら `ollama run gemma4:31b`、長編なら `ollama run qwen3.8:27b`。12 GBでは `gemma4:12b`、16 GBでは `mistral-small:24b`、8 GBでは `qwen3.5:9b`、48 GB以上では `llama3.3:70b` です。長い場面では `num_ctx` を上げ、フィクションでは思考をオフにします。

VRAMが8 GBだけの場合、執筆に向くローカルLLMは?

Qwen3.5 9B(6.6〜7.6 GB、256Kコンテキスト)は、Ollamaの8 GBクラスで比較的新しいモデルです。創作スコアは公開されていないため、自分の場面で試してください。小型モデルは、24 GBクラスのモデルより長い場面をまとめる力が弱いと考えておきましょう。

詩に最適なオープンウェイトモデルはどれですか?

詩を別に採点するリーダーボードはないため、メモリ帯別の順位に従います。24 GBなら Gemma 4 31B または Qwen3.8-27B、12 GBなら Gemma 4 12B、8 GBなら Qwen3.5 9B です。ソネットや俳句など厳格な形式では温度を0.7〜0.85に下げ、音節と脚韻は手作業で確認してください。

LM Studioで創作に使うにはどのモデルを読み込めばよいですか?

同じ順位が当てはまります。LM StudioもOllamaも量子化されたGGUFファイルを実行するため、LM Studio専用のモデルはありません。LM Studioのモデルブラウザでモデル名を検索し、メモリに収まるビルドを読み込んでください。

モデルは物語の前の部分を覚えていますか?

コンテキストウィンドウの範囲内だけです。このガイドのモデルは32K〜256Kトークンですが、コンテキストが長いほどメモリを使い、ウィンドウの外のことは忘れます。長いプロジェクトでは、各セッションの冒頭で短いあらすじとキャラクターシートを渡してください。

ローカルLLMはフィクションでClaudeやChatGPTの代わりになりますか?

創作リーダーボードでは及びません。evals.report経由で見たEQ-Bench Creative Writing v3の一覧では、クローズドモデルが上位です(Claude Opus 4.7が2206 Elo、GPT-5.5が2035)。それでも24 GBのローカルモデルは下書きには十分なことがあり、原稿を自分のマシンに留められます。サンプリング設定と良いシステムプロンプトで、実用上の差の一部は埋められます。

量子化は創作文章で目立ちますか?

目立つことはあります。ビット数が低いビルドは精度が少し落ちるためです。創作に特化した研究は引用していません。Ollamaの既定ビルドは4ビットです。メモリに余裕があれば、より高いビット数のビルドと4ビットのビルドを同じ場面で比べ、好みの方を残してください。

創作には温度をいくつにすればよいですか?

編集部の出発点として、散文は0.9〜1.1、引き締まった会話や厳格な詩の形式は0.7〜0.85です。開発元の既定値が目安になります。GoogleはGemma 4で1.0(top-p 0.95、top-k 64)、AlibabaはQwen3.8で思考モード1.0、非思考モード0.7を示しています。フィクションでは思考モードをオフにします。

ローカルLLMの出力を商用で使えますか?

ライセンス次第です。Gemma 4、Qwen3.8、Mistral Small 3、Hermes 4.3 はApache 2.0と記載されており、Llama 3.3 は独自のMeta Llama 3.3 Community Licenseで、Fimbulvetr-11B はCC BY-NC 4.0(非商用)です。実際に使うビルドのモデルカードでライセンスを確認してください。これは法的助言ではありません。

FimbulvetrとMidnight-Roseは今も使う価値がありますか?

文体が好みの場合だけです。Fimbulvetr-11B-v2 は非商用ライセンスのSolarベースのモデル、Midnight-Rose-70B はLlama 2 70Bベースのマージで、どちらもこのガイドの2026年のモデルより前のものです。どちらも創作ベンチマークのスコアは見つかりませんでした。

出典

創作用ローカルモデルの選び方・使い方でよくある間違い

  • 一般的なベンチマーク順位で選ぶ。 コーディングや推論のリーダーボードは散文の質をあまり示しません。EQ-Benchなど創作向けの一覧を見たうえで、自分の場面で試してください。
  • コーディング用のサンプリングを使う。 温度0.2〜0.4は平板な散文になりがちです。創作には約0.9〜1.1が目安です(編集部の目安)。
  • 思考モードをオンのままにする。 計画先行の出力は、組み立てたように読めることがあります。フィクションではオフにします。
  • コンテキスト用メモリを見落とす。 19〜20 GBのモデルは、コンテキストウィンドウを広げると24 GBのカードでは余裕がほとんど残りません。
  • 薄いプロンプト。「物語を書いて」では平凡な出力になります。視点、時制、長さ、キャラクターシート、明確な制約を加えてください。
  • チャット画面の中で推敲する。 生成はチャットで、推敲はテキストエディタで行います。散文を自分で直すことが、声を自分のものに保ちます。

サードパーティの情報に関する注意

この記事はサードパーティのAIモデル、ベンチマーク、価格、ライセンスを参照しています。AIの状況は急速に変化しています。ベンチマークスコア、ライセンス条件、モデル名、API価格は執筆時とお読みになる時の間で変わる可能性があります。この記事に基づいてデプロイやコンプライアンスに関する決定を下す前に、各プロバイダーの公式ソース(ライセンスとベンチマークはHugging Faceのモデルカード、API価格はプロバイダーのウェブサイト、現在のGDPRとEU AI法のテキストはEUR-Lex)で最新の数値を確認してください。

ローカルLLM、独自のAPIキー、またはその両方でPromptQuorumを使用できます — バックエンドはあなたが選択します。

PromptQuorumベータ版をダウンロード →

← ローカルLLMに戻る

MCP