AMD 5700X + RTX 3070 Tiでコーディングに最適なローカルLLMは?
Hans Kuepper 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン
重要なポイント
- ✓Qwen3 8B(5.2GB)は8GBのRTX 3070 Ti向けの最良の単一コーディングモデル、Qwen2.5-Coder 7B(4.7GB)はエディタ補完向けです。どちらもVRAMに完全に収まります
- ✓14Bコーダー(qwen2.5-coder:14bは9.0GB、qwen3:14bは9.3GB)は8GBを超え、部分的なCPUオフロードでしか動かず、生成速度が大きく落ちます
- ✓Qwen3-Coder 30Bは19GBのMixture-of-Expertsモデルで、VRAM 8GBでは大半がシステムRAMに載ります。32GB RAMでの実験用であり、日常使い向けではありません
- ✓ここでの上限はRyzen 7 5700XではなくVRAMです。コンテキストは8K〜16Kトークンに抑え、コードにはQ4以上を使ってください

クイック回答
VRAM 8GBのRTX 3070 Tiでは、コーディングのチャットと解説にQwen3 8B(qwen3:8b、ダウンロード5.2GB)、エディタの補完にQwen2.5-Coder 7B(qwen2.5-coder:7b、4.7GB)が最適です。どちらもVRAMに完全に収まります。ボトルネックはRyzen 7 5700Xではなく8GBのVRAMで、14Bのコーディングモデル(約9GB)はGPUに全部は載りません。
- ▸Qwen3 8B:ダウンロード5.2GB、コンテキスト40K、8GBでコーディングチャットに最適な単一モデル
- ▸Qwen2.5-Coder 7B:4.7GB、fill-in-the-middle補完向けに学習
- ▸14BコーダーとQwen3-Coder 30BはこのカードではCPUオフロードが必要で大幅に遅くなります
Qwen3 8BとQwen2.5-Coder 7Bは8GBカードに収まる
RTX 3070 Ti(8GB)でのコーディングには、チャット・解説・リファクタリングにQwen3 8B、インライン補完にQwen2.5-Coder 7Bを使います。どちらもOllamaの標準Q4量子化で、qwen3:8bはダウンロード5.2GB・コンテキスト40K、qwen2.5-coder:7bは4.7GB・32Kです。8GBのうちKVキャッシュとデスクトップ用に約2〜3GBが残ります。
Qwen2.5-Coderは、Continueなどのエディタ拡張がタブ補完に使うfill-in-the-middle(FIM)向けに学習されています。Qwen3 8Bは汎用の推論力が高く、/no_thinkで切り替え可能な思考モードがあり、速い応答が欲しいときはオフにできます。1つだけ選ぶならQwen3 8Bから始めてください。ダウンロードサイズとコンテキストはollama.comの記載どおりで、この構成の実測は行っていないため速度の数値は示しません。
より大きなGPUや他のコーディングモデルについてはコーディング向けベストローカルLLMを参照してください。
| モデル | Ollamaタグ | ダウンロード | 8GBに収まる? | 最適な用途 |
|---|---|---|---|---|
| Qwen3 8B | qwen3:8b | 5.2 GB | はい、VRAMに完全収容 | チャット、解説、リファクタリング |
| Qwen2.5-Coder 7B | qwen2.5-coder:7b | 4.7 GB | はい、VRAMに完全収容 | エディタ補完(FIM) |
| Qwen2.5-Coder 1.5B | qwen2.5-coder:1.5b | 986 MB | はい、余裕あり | チャットモデルと併用する軽量補完 |
| Qwen2.5-Coder 14B | qwen2.5-coder:14b | 9.0 GB | いいえ、CPUオフロードが必要 | より大きなコーダー(オフロード時のみ) |
| Qwen3-Coder 30B | qwen3-coder:30b | 19 GB | いいえ、主にシステムRAM | 32GB以上のRAMでのエージェント型コーディング(低速) |
収まらないもの:14B、30B、長いコンテキスト
モデルはKVキャッシュと合わせてVRAMに収める必要があり、8GBはダウンロードサイズから想像するより早く埋まります。レイヤーがシステムRAMに溢れてもOllamaは動きますが、DDR4はカードの608GB/s GDDR6Xよりはるかに遅いため、生成速度が急落します。5700Xの8コアZen 3は4コアCPUよりオフロードに強いものの、オフロードは代替手段であって計画ではありません。
Qwen3-Coder 30BはOllamaで19GB・256Kコンテキストと記載されています。アクティブパラメータ約3BのMixture-of-Expertsモデルなので重みの大半をシステムRAMに置いて動かせますが、8GBカードでは大半がそこに載ることになります。VRAM 8GBだけではエージェント用途で応答が遅くなると考えられ、結果はRAMや設定で変わります。32GB RAMが必要な実験として扱ってください。
長いコンテキストはKVキャッシュを増やします。このカードでは8K〜16Kトークンに抑え、nvidia-smiでVRAMに余裕があるときだけ増やしてください。コードにはQ4以上を使ってください。Q3以下は微妙な構文エラーを招くことがあります。
VS Codeでチャットと補完を設定する
Ollamaをインストールして2つのモデルを取得し、Continueなどのエディタ拡張をhttp://localhost:11434に向けます。チャットにqwen3:8b、補完にqwen2.5-coder:7bを使います。ollama psでPROCESSOR列を確認してください。100% GPUならモデルが収まっています。CPU/GPUに分かれている場合は、モデルとコンテキストが8GBに収まっていません。このカードではOllamaが一方の7B〜8Bモデルをアンロードして他方をロードすることがあるため、チャットモデルと併用する補完には986MBのqwen2.5-coder:1.5bを使ってください。
ollama pull qwen3:8b
ollama pull qwen2.5-coder:7b
ollama psアップグレードするのはCPUではなくGPU
14Bのコーディングモデルをフルスピードで動かしたいなら、アップグレード対象はGPUです。RTX 3060 12GBやRTX 4070などの12GBカードなら、qwen2.5-coder:14bのような約9GBのQ4コーダーをVRAMに完全収容できます。12GB VRAM向けベストコーディングLLMとコーディング向けベスト14Bモデルを参照してください。
5800X3DはAM4最良のCPUアップグレードですが、3D V-Cacheが効くのはゲームやCPU依存の作業です。GPUでのLLM推論はVRAM帯域が上限で、5700Xは制約になりません。
GPU選びの全体ガイドはローカルLLM向けベストGPUを参照してください。