4 GB VRAM向け最良Ollamaモデルは?
Hans Kuepper 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン
重要なポイント
- ✓Phi-4 MiniとQwen3 4B(各2.5 GB)は、4 GB GPUで余裕を残せる最大のモデルです
- ✓Ollamaの既定タグの多くはすでに4ビット(Q4_K_M)です。パラメータ数ではなくダウンロードサイズを確認してください
- ✓Llama 3.1 8B(4.9 GB)とGemma 4 E2B(4.6 GB)は収まりません
- ✓システムRAMが4 GBだけの場合は約1.5 GB未満に抑えます(Qwen3 0.6B、Gemma 3 1B、Llama 3.2 1B)

4 GB VRAMに収まるモデル
4 GB GPUでは、4ビット量子化で約40億パラメータまでのモデルが収まり、確認すべき数値はOllamaのダウンロードサイズです。モデルにはファイルサイズに加え、会話が長くなるほど増えるコンテキストキャッシュ(KVキャッシュ)の余裕が必要です。目安として、モデル全体をGPUに載せるにはファイルを約3 GB以下に抑えます。
Phi-4 MiniとQwen3 4Bは、表の中でこの余裕を残せる最大のモデルで、各2.5 GBです。Qwen3.5 2Bは最新ファミリーで、テキストに加えて画像も扱えます。Gemma 3 1BとQwen3 1.7Bは、小さなファイルで長いコンテキストを使いたい場合に向きます。ファイルサイズはOllamaモデルライブラリによるものです。速度はGPUに依存するため、トークン毎秒の数値は掲載していません。この容量帯では新世代が代わりにならない点にも注意が必要です。Qwen3.6は27B(17 GB)からで、Gemma 4には4.3 GB未満のダウンロードがありません。
| モデル | Ollamaタグ | サイズ | 備考 |
|---|---|---|---|
| Phi-4 Mini | phi4-mini | 2.5 GB | 38億パラメータ、128Kコンテキスト |
| Qwen3 4B | qwen3:4b | 2.5 GB | 40億パラメータ、思考モード |
| Llama 3.2 3B | llama3.2:3b | 2.0 GB | 30億パラメータ、Llamaファミリー |
| Qwen3.5 2B | qwen3.5:2b-q4_K_M | 1.9 GB | テキストと画像入力 |
| Qwen3 1.7B | qwen3:1.7b | 1.4 GB | VRAMの大半を空けられる |
| Gemma 3 1B | gemma3:1b | 0.8 GB | この表で最小の選択肢 |
📍 一文で説明
4 GB VRAMには、Phi-4 Mini(2.5 GB)、Qwen3 4B(2.5 GB)、Llama 3.2 3B(2.0 GB)、Qwen3.5 2B(1.9 GB)、Gemma 3 1B(0.8 GB)が4ビットで収まりますが、Llama 3.1 8B(4.9 GB)は収まりません。
💬 簡潔に説明
GPUが4 GBなら、ダウンロードが約3 GB以下のモデルを選び、まずphi4-miniかqwen3:4bから始めてください。8Bモデルには6 GB以上のカードが必要です。
4 GBに収まらないモデル
次のモデルはよく求められますが、Ollamaの既定のダウンロードが4 GB前後かそれ以上です。
6 GBのカードがあれば、Llama 3.1 8Bのような8Bモデルが現実的になります。6 GB VRAM向けローカルLLMを参照してください。ハードウェアの総合比較は低スペックPC向け高速ローカルLLMを参照してください。
- ▸Llama 3.1 8B(llama3.1:8b)— ダウンロード4.9 GB、コンテキスト用の余地なし
- ▸Gemma 4 E2B(gemma4:e2b-it-q4_K_M)— 名前に「2B」とあってもダウンロード4.6 GB
- ▸Gemma 4 E4B(gemma4:e4b-it-q4_K_M)— ダウンロード6.6 GB
- ▸Qwen3.5 4B(qwen3.5:4b-q4_K_M)とGemma 3 4B(gemma3:4b)— 3.3 GBと3.4 GB。ぎりぎりで、長いコンテキストでは一部の層がシステムRAMに移ります
4ビットのOllamaモデルはどれか
Ollamaの既定タグの多くはすでに4ビットです。phi4-mini、qwen3:1.7b、gemma3:4b、llama3.1:8bは、4ビット量子化であるq4_K_Mと同じファイルハッシュを持ちます。ライブラリのページでは既定タグの量子化が明記されないことが多いため、確実にするには量子化名入りのタグを取得します(例: ollama run qwen3:4b-q4_K_M)。
すべての小型モデルが既定で4ビットとは限らず、既定が4ビット版よりかなり大きいこともあります。
- ▸gemma2:2b — 既定はq4_0(1.6 GB)
- ▸smollm2:1.7b — 既定はq8_0(1.8 GB)。q4_K_Mは1.1 GB
- ▸qwen3.5:2b — 既定は2.7 GB。qwen3.5:2b-q4_K_Mは1.9 GB
- ▸llama3.2:1b — 既定はq8_0相当(1.3 GB)