メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。

12 GB VRAMでコーディングに最適なローカルLLMは?

著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

重要なポイント

  • ✓Gemma 4 12B(Google、Apache 2.0):ダウンロード7.7〜8.0 GB、256Kコンテキスト、LiveCodeBench v6で72.0%(メーカー公表値)— 12 GBのGPUならこれが最有力のコーディングモデル
  • ✓Qwen2.5-Coder 14B Q4_K_M(約9 GB)はコード特化の有力な選択肢ですが2024年のモデルで、Qwen3.8 27B(18 GB)など新しいQwenコーダーは12 GBを超えます
  • ✓Devstral Small 2(24B、15 GB)とQwen3.8 27B(18 GB)は、12 GBではCPUオフロードでしか動かず、生成速度が大きく低下します
  • ✓コーディングではコンテキストウィンドウを8192以上に引き上げてください(既定値では実際のソースファイルが切り詰められます)。ollama psでモデルがGPUに完全に載っているか確認します
12 GB VRAMでコーディングに最適なローカルLLMは?

クイック回答

12 GB VRAMのGPUで最適なコーディングモデルはGemma 4 12Bです。Ollamaのダウンロードは7.7〜8.0 GBで、Googleは12BモデルのLiveCodeBench v6スコアを72.0%と公表しています。コード特化の代替はQwen2.5-Coder 14B(約9 GB)です。Qwen3.8 27B(18 GB)とDevstral Small 2(15 GB)は12 GBに収まりません。

  • ▸Gemma 4 12B:ダウンロード7.7〜8.0 GB、256Kコンテキスト、Apache 2.0
  • ▸Qwen2.5-Coder 14B Q4_K_M:約9 GB、コード特化、fill-in-the-middle対応
  • ▸Ornith 9B:5.6 GB、MITライセンス、エージェント型コーディング向け
Hardware-Specific

12 GBで選ぶべきコーディングモデル

12 GB VRAMのGPUで最適なコーディングモデルはGemma 4 12Bです。Ollamaのダウンロードは7.7〜8.0 GBでKVキャッシュに約4 GBの余裕が残り、Googleは12BモデルについてLiveCodeBench v6で72.0%、Codeforces Eloで1659を公表しています。ライセンスはApache 2.0、256Kのコンテキストウィンドウに対応し、画像入力も受け付けるため、エラーやUI不具合のスクリーンショットをそのまま貼り付けられます。これらのベンチマーク値はメーカー公表値で、当サイトでは独自測定を行っていません。

Qwen2.5-Coder 14B Q4_K_M(約9 GB)も収まり、fill-in-the-middleに対応するコード特化の選択肢ですが、2024年のモデルです。Ornith 9B(5.6 GB、MITライセンス)はエージェント型コーディングを狙ったモデルで、長いコンテキスト用の余裕が最も大きくなります。Devstral Small 2(24B、15 GB)とQwen3.8 27B(18 GB)は12 GBを超え、CPUオフロードでのみ動作します。

8 GBのカードをお使いの場合は、AMD 5700X + RTX 3070 Ti向けのおすすめLLMで8 GBの妥協案を確認してください。

モデルダウンロードサイズ最適な用途
Gemma 4 12B7.7〜8.0 GB第一候補:コーディング、画像、256K
Qwen2.5-Coder 14B Q4_K_M約9 GBコード特化、fill-in-the-middle
Ornith 9B5.6 GBエージェント型、長文脈の余裕
Devstral Small 2 24B15 GB収まらない。CPUオフロード必須
Qwen3.8 27B18 GB収まらない。18 GB以上が必要

コーディングで効く設定

コーディングではコンテキストウィンドウを最低8kに設定してください。既定の短いウィンドウでは数百行のソースファイルが切り詰められます。Gemma 4 12Bの重み約8 GBなら、12 GBのカードでKVキャッシュとランタイムに約4 GBの余裕が残ります。Qwen2.5-Coder 14Bは約9 GBで余裕が小さいため、コンテキストは控えめにしてください。サーバー起動前にOLLAMA_CONTEXT_LENGTH=8192を設定するか、ollama run内で/set parameter num_ctx 8192を実行し、ollama psでモデルがCPUと分割されずGPUに載っていることを確認します。

Flash Attention(OLLAMA_FLASH_ATTENTION=1)を有効にし、さらにコンテキストが必要ならOLLAMA_KV_CACHE_TYPE=q8_0を設定します。既定のf16キャッシュに比べKVキャッシュのメモリが約半分になり、品質低下はわずかです。環境変数は1回の起動で組み合わせられます。

12 GBを超える全体ランキングは、コーディング向けベストローカルLLMガイドをご覧ください。

ollama pull gemma4:12b
ollama run gemma4:12b

# code-specialised alternative
ollama pull qwen2.5-coder:14b-instruct-q4_K_M
生成速度を決めるのはVRAM容量ではなくメモリ帯域幅です。RTX 3080 Ti 12 GB(912 GB/s)はRTX 3060 12 GB(360 GB/s)より明らかに速くトークンを生成しますが、載せられるモデルは同じです。このページでは毎秒トークン数のベンチマークは行っていません。

関連ガイド

12 GB VRAM向けコーディングLLMのクイック回答

12 GB VRAMで最適なコーディングモデルは?▾
Gemma 4 12Bです。Ollamaのダウンロードは7.7〜8.0 GBで、256Kのコンテキストウィンドウに対応し、GoogleはLiveCodeBench v6で72.0%、Codeforces Eloで1659を公表しています。fill-in-the-middle対応のコード専用モデルが欲しい場合の代替はQwen2.5-Coder 14B Q4_K_M(約9 GB)です。
12 GB VRAM全般で最適なローカルLLMは?▾
こちらもGemma 4 12Bです。Apache 2.0の汎用マルチモーダルモデル(テキストと画像入力)なので、8 GBのダウンロード1つでチャット、コーディング、スクリーンショットをカバーできます。Ollamaにはより小さく動かせるE4B版もあります。
Qwen3.8 27BとDevstral Small 2は12 GB VRAMに収まりますか?▾
いいえ。Ollamaの表示ではqwen3.8:27bが18 GB、devstral-small-2:24bが15 GBです。モデルの一部をシステムRAMにオフロードすれば動きますが、レイヤーがGPUを離れると生成速度が大きく落ちるため、16〜24 GBのカード向けです。
12 GBではQ4_K_Mと、より高い量子化のどちらを使うべきですか?▾
14Bクラスのモデルにはコンテキスト用の余裕を残せる最大の標準量子化であるQ4_K_Mを使います。Ornith 9B(既定5.6 GB)のような小さなモデルは余裕があるため、モデルページに提供されていればより高精度のタグも使えます。
OllamaでこれらのモデルのFIM(fill-in-the-middle)補完は使えますか?▾
Qwen2.5-Coder 14BはFIMに対応しています。テンプレートが対応しているモデルでは、Ollamaは/api/generateのsuffixフィールドでカーソル以降のテキストを受け取ります。エディタに組み込む前に、各モデルのOllamaページで挿入対応を確認してください。オートコンプリートにはQwen2.5-Coderが無難です。
MCP