メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。

CPU専用で使えるOllamaの最適モデルは?

著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

重要なポイント

  • ✓CPU推論はGPUより5〜10倍遅く、最新の8コアデスクトップCPUで7Bモデルは3〜6 tok/sが目安です
  • ✓CPUで最速:Qwen3 0.6B(約35 tok/s)とGemma 3 1B(約19 tok/s)、古いi5ノートPCでの独立テスト
  • ✓CPUで最高品質:Phi-4 Mini Q4、RAM約4 GB、同じテストで約7 tok/s
  • ✓CPU推論はバッチ処理や単発クエリには実用的ですが、対話型チャットには遅すぎます
CPU専用で使えるOllamaの最適モデルは?

クイック回答

CPU専用で最速のOllamaモデルはQwen3 0.6B(独立テストで約35 tok/s)またはGemma 3 1B(約19 tok/s)です。GPUなしで回答品質を重視するなら、Phi-4 Mini Q4(約7 tok/s、RAM約4 GB)またはLlama 3.2 3B Q4を選びます。RAM 2 GBのマシンは1Bパラメータ以下に留めてください。

  • ▸最速:Qwen3 0.6B(約35 tok/s)とGemma 3 1B(約19 tok/s)、どちらもRAM 2 GBに収まる
  • ▸最高品質:Phi-4 Mini Q4(約7 tok/s)、RAM約4 GB必要
  • ▸バランス型:Llama 3.2 3B Q4、ダウンロード2.0 GB、RAM約4 GB
Ollama

CPUの速度の現実

CPU推論は最新の8コアデスクトップCPUで毎秒3〜6トークンで動作します — ミドルレンジGPUの約5〜10倍遅いです。 Q4のモデル 7BはCPU上でおよそ200〜300ミリ秒ごとに1単語を生成します。

この速度が許容できるのは2つのユースケースです:ドキュメントの要約やデータ分類などの夜間バッチ処理、および30秒の待機が許容できる単発クエリ。対話型チャットやリアルタイムコード補完には、CPU推論は実用的には遅すぎます。

根本的な制約はメモリ帯域幅であり、CPUのクロック速度ではありません。コンシューマーCPUはRAMを40〜80 GB/sで読み取ります。専用GPUはVRAMを400〜900 GB/sで読み取ります。LLM推論はメモリ帯域幅に直接比例します — そのためミドルレンジGPUでさえハイエンドCPUよりも劇的に高速な推論を実現します。

CPU専用で使えるモデル上位4選

Qwen3 0.6BとGemma 3 1BはCPU専用で最速のOllamaモデルで、回答品質が最も高いのは約7 tok/sのPhi-4 Mini Q4です。以下の速度は、RAM 12 GBの古いIntel i5ノートPCでの独立したIt's FOSSのCPU専用テストによるものです。メモリが高速なCPUではより速くなります。

RAMが2 GBに制限される場合、Gemma 3 1B(ダウンロード806 MB)とQwen3 0.6B(523 MB)が現実的な選択肢ですが、多段階の推論力は劣ります。Gemma 4 E2B(ダウンロード4.6 GB以上、同じテストで約10 tok/s)のような大型モデルは、4 GBのマシンでは足りないメモリを必要とします。

RAMの要件やOSレベルの最適化を含むCPU専用設定の完全な比較については、CPU専用LLMガイドをご覧ください。

モデルOllama DL容量最小RAMCPU速度
Qwen3 0.6B523 MB約2 GB約34〜36 tok/s
Gemma 3 1B806 MB約2 GB約19 tok/s
Llama 3.2 3B Q42.0 GB約4 GB未テスト
Phi-4 Mini Q42.5 GB約4 GB約7 tok/s

関連ガイド

CPU専用LLMに関するよくある質問

CPUで最速のOllamaモデルはどれですか?▾
独立テストでは、古いIntel i5ノートPC上でQwen3 0.6Bが約34〜36 tok/sで最速、次いでGemma 3 1Bが約19 tok/sでした。どちらも推論の深さと引き換えに速度を得ています。回答品質を重視する場合はPhi-4 Mini Q4(約7 tok/s)を使ってください。
RAM 2 GBのPCでOllamaは動きますか?▾
はい、1Bパラメータ以下のモデルなら動作します:Qwen3 0.6B(ダウンロード523 MB)またはGemma 3 1B(806 MB)。OSとOllamaランタイムにも1〜2 GBが必要なので、先に他のアプリを終了してください。3Bパラメータ以上のモデルには約4 GBが必要です。
CPU専用のOllamaにはどのくらいのRAMが必要ですか?▾
Qwen3 0.6BまたはGemma 3 1Bは約2 GB、Llama 3.2 3B Q4またはPhi-4 Mini Q4は約4 GBです。OSとOllamaランタイムのオーバーヘッド分として、ダウンロード容量に1〜2 GBを加えてください。
なぜCPU推論はGPUよりずっと遅いのですか?▾
LLM推論はメモリ帯域幅に制約されています。コンシューマーCPUはRAMを40〜80 GB/sで読み取ります。ミドルレンジGPUはVRAMを400〜900 GB/sで読み取ります。この10倍の帯域幅の差が、5〜10倍遅いトークン生成に直接つながります。
専用GPUなしのラップトップでOllamaを使えますか?▾
はい。OllamaはGPUが検出されない場合、自動的にCPUで動作します。最新のラップトップCPUで3〜5 tok/sを見込んでください。後でアップグレードした場合のGPUティアの推奨については、現在の最適Ollamaモデルをご覧ください。
ローカルLLM推論で最速のCPUはどれですか?▾
Apple M-series チップ(M3、M4)はユニファイドメモリアーキテクチャを使用し、7Bモデルで15〜30 tok/sに達します — CPU専用推論でx86 CPUを大きく凌駕します。x86 CPUの中では、メモリ帯域幅が高く大容量のL3キャッシュを持つものが最良の性能を発揮します。
MCP