メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。

AMD 5700X + RTX 3070 Tiでコーディングに最適なローカルLLMは?

著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

重要なポイント

  • ✓Qwen3 8B(5.2GB)は8GBのRTX 3070 Ti向けの最良の単一コーディングモデル、Qwen2.5-Coder 7B(4.7GB)はエディタ補完向けです。どちらもVRAMに完全に収まります
  • ✓14Bコーダー(qwen2.5-coder:14bは9.0GB、qwen3:14bは9.3GB)は8GBを超え、部分的なCPUオフロードでしか動かず、生成速度が大きく落ちます
  • ✓Qwen3-Coder 30Bは19GBのMixture-of-Expertsモデルで、VRAM 8GBでは大半がシステムRAMに載ります。32GB RAMでの実験用であり、日常使い向けではありません
  • ✓ここでの上限はRyzen 7 5700XではなくVRAMです。コンテキストは8K〜16Kトークンに抑え、コードにはQ4以上を使ってください
AMD 5700X + RTX 3070 Tiでコーディングに最適なローカルLLMは?

クイック回答

VRAM 8GBのRTX 3070 Tiでは、コーディングのチャットと解説にQwen3 8B(qwen3:8b、ダウンロード5.2GB)、エディタの補完にQwen2.5-Coder 7B(qwen2.5-coder:7b、4.7GB)が最適です。どちらもVRAMに完全に収まります。ボトルネックはRyzen 7 5700Xではなく8GBのVRAMで、14Bのコーディングモデル(約9GB)はGPUに全部は載りません。

  • ▸Qwen3 8B:ダウンロード5.2GB、コンテキスト40K、8GBでコーディングチャットに最適な単一モデル
  • ▸Qwen2.5-Coder 7B:4.7GB、fill-in-the-middle補完向けに学習
  • ▸14BコーダーとQwen3-Coder 30BはこのカードではCPUオフロードが必要で大幅に遅くなります
Hardware-Specific

Qwen3 8BとQwen2.5-Coder 7Bは8GBカードに収まる

RTX 3070 Ti(8GB)でのコーディングには、チャット・解説・リファクタリングにQwen3 8B、インライン補完にQwen2.5-Coder 7Bを使います。どちらもOllamaの標準Q4量子化で、qwen3:8bはダウンロード5.2GB・コンテキスト40K、qwen2.5-coder:7bは4.7GB・32Kです。8GBのうちKVキャッシュとデスクトップ用に約2〜3GBが残ります。

Qwen2.5-Coderは、Continueなどのエディタ拡張がタブ補完に使うfill-in-the-middle(FIM)向けに学習されています。Qwen3 8Bは汎用の推論力が高く、/no_thinkで切り替え可能な思考モードがあり、速い応答が欲しいときはオフにできます。1つだけ選ぶならQwen3 8Bから始めてください。ダウンロードサイズとコンテキストはollama.comの記載どおりで、この構成の実測は行っていないため速度の数値は示しません。

より大きなGPUや他のコーディングモデルについてはコーディング向けベストローカルLLMを参照してください。

モデルOllamaタグダウンロード8GBに収まる?最適な用途
Qwen3 8Bqwen3:8b5.2 GBはい、VRAMに完全収容チャット、解説、リファクタリング
Qwen2.5-Coder 7Bqwen2.5-coder:7b4.7 GBはい、VRAMに完全収容エディタ補完(FIM)
Qwen2.5-Coder 1.5Bqwen2.5-coder:1.5b986 MBはい、余裕ありチャットモデルと併用する軽量補完
Qwen2.5-Coder 14Bqwen2.5-coder:14b9.0 GBいいえ、CPUオフロードが必要より大きなコーダー(オフロード時のみ)
Qwen3-Coder 30Bqwen3-coder:30b19 GBいいえ、主にシステムRAM32GB以上のRAMでのエージェント型コーディング(低速)

収まらないもの:14B、30B、長いコンテキスト

モデルはKVキャッシュと合わせてVRAMに収める必要があり、8GBはダウンロードサイズから想像するより早く埋まります。レイヤーがシステムRAMに溢れてもOllamaは動きますが、DDR4はカードの608GB/s GDDR6Xよりはるかに遅いため、生成速度が急落します。5700Xの8コアZen 3は4コアCPUよりオフロードに強いものの、オフロードは代替手段であって計画ではありません。

Qwen3-Coder 30BはOllamaで19GB・256Kコンテキストと記載されています。アクティブパラメータ約3BのMixture-of-Expertsモデルなので重みの大半をシステムRAMに置いて動かせますが、8GBカードでは大半がそこに載ることになります。VRAM 8GBだけではエージェント用途で応答が遅くなると考えられ、結果はRAMや設定で変わります。32GB RAMが必要な実験として扱ってください。

長いコンテキストはKVキャッシュを増やします。このカードでは8K〜16Kトークンに抑え、nvidia-smiでVRAMに余裕があるときだけ増やしてください。コードにはQ4以上を使ってください。Q3以下は微妙な構文エラーを招くことがあります。

VS Codeでチャットと補完を設定する

Ollamaをインストールして2つのモデルを取得し、Continueなどのエディタ拡張をhttp://localhost:11434に向けます。チャットにqwen3:8b、補完にqwen2.5-coder:7bを使います。ollama psでPROCESSOR列を確認してください。100% GPUならモデルが収まっています。CPU/GPUに分かれている場合は、モデルとコンテキストが8GBに収まっていません。このカードではOllamaが一方の7B〜8Bモデルをアンロードして他方をロードすることがあるため、チャットモデルと併用する補完には986MBのqwen2.5-coder:1.5bを使ってください。

ollama pull qwen3:8b
ollama pull qwen2.5-coder:7b
ollama ps

アップグレードするのはCPUではなくGPU

14Bのコーディングモデルをフルスピードで動かしたいなら、アップグレード対象はGPUです。RTX 3060 12GBやRTX 4070などの12GBカードなら、qwen2.5-coder:14bのような約9GBのQ4コーダーをVRAMに完全収容できます。12GB VRAM向けベストコーディングLLMとコーディング向けベスト14Bモデルを参照してください。

5800X3DはAM4最良のCPUアップグレードですが、3D V-Cacheが効くのはゲームやCPU依存の作業です。GPUでのLLM推論はVRAM帯域が上限で、5700Xは制約になりません。

GPU選びの全体ガイドはローカルLLM向けベストGPUを参照してください。

AMD 5700X + RTX 3070 Ti向けコーディングLLMのよくある質問

AMD 5700XとRTX 3070 Tiでローカル実行できるコーダー向けLLMは?▾
チャットと解説にはQwen3 8B(qwen3:8b、5.2GB)、エディタ補完にはQwen2.5-Coder 7B(qwen2.5-coder:7b、4.7GB)が適しています。どちらも3070 Tiの8GB VRAMに完全に収まります。
RTX 3070 Ti 8GBで14Bのコーディングモデルは動かせますか?▾
GPUには全部載りません。qwen2.5-coder:14bはダウンロード9.0GBで8GBの上限を超えます。部分的なCPUオフロードなら動きますが、かなり遅くなります。12GBカードならVRAMに完全に収まります。
Ryzen 7 5700XはローカルLLMのボトルネックですか?▾
いいえ。モデルがVRAMに収まるなら、生成速度はGPUで決まります。CPUが関わるのはシステムRAMにオフロードされたレイヤーだけです。
RTX 3070 TiでQwen3-Coder 30Bは動きますか?▾
19GBのモデルの大半をシステムRAMに置く場合に限ります。アクティブパラメータ約3BのMixture-of-Expertsなので起動はしますが、エージェント用途では応答が遅くなります。32GB RAMを前提に、実験として扱ってください。
補完とチャットではどのモデルを使えばいいですか?▾
タブ補完にはfill-in-the-middle向けに学習されたQwen2.5-Coder 7B(または1.5B版)、チャット・解説・リファクタリングにはQwen3 8Bを使います。
CPUオフロードではRAMの速度は重要ですか?▾
はい、副次的な要因として重要です。高速なDDR4はRAM上のレイヤーのスループットを上げますが、VRAMに収まるレイヤーではGPUが主な制約のままです。
MCP