メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。

4 GB VRAM向け最良Ollamaモデルは?

著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

重要なポイント

  • ✓Phi-4 MiniとQwen3 4B(各2.5 GB)は、4 GB GPUで余裕を残せる最大のモデルです
  • ✓Ollamaの既定タグの多くはすでに4ビット(Q4_K_M)です。パラメータ数ではなくダウンロードサイズを確認してください
  • ✓Llama 3.1 8B(4.9 GB)とGemma 4 E2B(4.6 GB)は収まりません
  • ✓システムRAMが4 GBだけの場合は約1.5 GB未満に抑えます(Qwen3 0.6B、Gemma 3 1B、Llama 3.2 1B)
4 GB VRAM向け最良Ollamaモデルは?
Quantization & VRAM

4 GB VRAMに収まるモデル

4 GB GPUでは、4ビット量子化で約40億パラメータまでのモデルが収まり、確認すべき数値はOllamaのダウンロードサイズです。モデルにはファイルサイズに加え、会話が長くなるほど増えるコンテキストキャッシュ(KVキャッシュ)の余裕が必要です。目安として、モデル全体をGPUに載せるにはファイルを約3 GB以下に抑えます。

Phi-4 MiniとQwen3 4Bは、表の中でこの余裕を残せる最大のモデルで、各2.5 GBです。Qwen3.5 2Bは最新ファミリーで、テキストに加えて画像も扱えます。Gemma 3 1BとQwen3 1.7Bは、小さなファイルで長いコンテキストを使いたい場合に向きます。ファイルサイズはOllamaモデルライブラリによるものです。速度はGPUに依存するため、トークン毎秒の数値は掲載していません。この容量帯では新世代が代わりにならない点にも注意が必要です。Qwen3.6は27B(17 GB)からで、Gemma 4には4.3 GB未満のダウンロードがありません。

モデルOllamaタグサイズ備考
Phi-4 Miniphi4-mini2.5 GB38億パラメータ、128Kコンテキスト
Qwen3 4Bqwen3:4b2.5 GB40億パラメータ、思考モード
Llama 3.2 3Bllama3.2:3b2.0 GB30億パラメータ、Llamaファミリー
Qwen3.5 2Bqwen3.5:2b-q4_K_M1.9 GBテキストと画像入力
Qwen3 1.7Bqwen3:1.7b1.4 GBVRAMの大半を空けられる
Gemma 3 1Bgemma3:1b0.8 GBこの表で最小の選択肢

📍 一文で説明

4 GB VRAMには、Phi-4 Mini(2.5 GB)、Qwen3 4B(2.5 GB)、Llama 3.2 3B(2.0 GB)、Qwen3.5 2B(1.9 GB)、Gemma 3 1B(0.8 GB)が4ビットで収まりますが、Llama 3.1 8B(4.9 GB)は収まりません。

💬 簡潔に説明

GPUが4 GBなら、ダウンロードが約3 GB以下のモデルを選び、まずphi4-miniかqwen3:4bから始めてください。8Bモデルには6 GB以上のカードが必要です。

4 GBに収まらないモデル

次のモデルはよく求められますが、Ollamaの既定のダウンロードが4 GB前後かそれ以上です。

6 GBのカードがあれば、Llama 3.1 8Bのような8Bモデルが現実的になります。6 GB VRAM向けローカルLLMを参照してください。ハードウェアの総合比較は低スペックPC向け高速ローカルLLMを参照してください。

  • ▸Llama 3.1 8B(llama3.1:8b)— ダウンロード4.9 GB、コンテキスト用の余地なし
  • ▸Gemma 4 E2B(gemma4:e2b-it-q4_K_M)— 名前に「2B」とあってもダウンロード4.6 GB
  • ▸Gemma 4 E4B(gemma4:e4b-it-q4_K_M)— ダウンロード6.6 GB
  • ▸Qwen3.5 4B(qwen3.5:4b-q4_K_M)とGemma 3 4B(gemma3:4b)— 3.3 GBと3.4 GB。ぎりぎりで、長いコンテキストでは一部の層がシステムRAMに移ります

4ビットのOllamaモデルはどれか

Ollamaの既定タグの多くはすでに4ビットです。phi4-mini、qwen3:1.7b、gemma3:4b、llama3.1:8bは、4ビット量子化であるq4_K_Mと同じファイルハッシュを持ちます。ライブラリのページでは既定タグの量子化が明記されないことが多いため、確実にするには量子化名入りのタグを取得します(例: ollama run qwen3:4b-q4_K_M)。

すべての小型モデルが既定で4ビットとは限らず、既定が4ビット版よりかなり大きいこともあります。

  • ▸gemma2:2b — 既定はq4_0(1.6 GB)
  • ▸smollm2:1.7b — 既定はq8_0(1.8 GB)。q4_K_Mは1.1 GB
  • ▸qwen3.5:2b — 既定は2.7 GB。qwen3.5:2b-q4_K_Mは1.9 GB
  • ▸llama3.2:1b — 既定はq8_0相当(1.3 GB)

関連ガイド

4 GB VRAMモデルに関するよくある質問

4 GB VRAMで実用的なLLMを動かせますか?▾
はい、基本的な用途なら可能です。Phi-4 MiniやQwen3 4Bのような20〜40億パラメータのモデルで、質疑応答、短い要約、軽いコーディング支援をこなせます。長い文書、多段階エージェント、大きなコンテキストはコンテキストキャッシュが制約になるため、6 GB以上のほうが快適です。
4ビット量子化のOllamaモデルはどれですか?▾
ほとんどです。phi4-miniやgemma3:4bなどの既定タグは、q4_K_M(4ビット)と同じハッシュを持ちます。例外もあり、smollm2はq8_0、gemma2:2bはq4_0です。確実にするにはq4_K_M入りのタグを取得してください。
4 GB VRAMでLlama 3を動かせますか?▾
8Bモデルは無理です。llama3.1:8bのダウンロードは4.9 GBあります。Llamaにこだわるなら、Llama 3.2 3Bが2.0 GBで収まります。VRAM要件の完全ガイドを参照してください。
4 GB VRAMのGPUはどれですか?▾
RTX 3050と3050 Ti(ノートPC版)、GTX 1650 Super、AMD RX 6500 XTが4 GBです。NVIDIAカードはcompute capability 5.0以上が必要です。RX 6500 XTはOllamaのROCm対応リストに載っていないため、購入前にOllamaのGPUドキュメントを確認してください。
CPUのみのモードで4 GB VRAMの制限を回避できますか?▾
部分的に可能です。モデルがVRAMより大きい場合、OllamaはGPUとシステムRAMに層を分割して動かしますが、速度は落ちます。GPUなしならすべてCPUで動き、速度はRAMとプロセッサ次第です。
システムRAMが4 GBだけでも動くモデルは?▾
目安は約1.5 GB未満です。qwen3:0.6b(0.5 GB)、gemma3:1b(0.8 GB)、llama3.2:1b(1.3 GB)、qwen3:1.7b(1.4 GB)などです。OSとOllamaが4 GBの一部を使うため、これより大きいモデルはディスクへのスワップが始まります。
Ollamaの最小要件は?▾
固定の最小値はなく、モデルのファイルサイズとコンテキストキャッシュが必要量になります。最小クラス(Gemma 3 270Mは0.3 GB、Qwen3 0.6Bは0.5 GB)はほぼどのマシンでも動き、30〜40億パラメータのモデルは約3 GBの空きVRAMまたはRAMが目安です。
Gemma 4とQwen3.5は4 GBに収まりますか?▾
Qwen3.5 0.8Bと2Bは余裕で収まり、4B(q4_K_M、3.3 GB)はぎりぎりです。Gemma 4 E2Bはq4_K_Mのファイルが4.6 GBで、収まりません。
MCP