ローカル推論モデルとは?
推論モデルとは、最終回答の前に明示的な思考の連鎖(chain-of-thought)を生成するよう訓練されたLLMで、これにより同サイズの標準的なチャットモデルよりも数学・論理・多段階問題に格段に強くなります。 DeepSeek-R1ディスティルは推論モデルであり、回答の中で「声に出して考え」、回答を確定する前に各ステップを確認・修正します。
トレードオフはレイテンシと冗長さです。推論モデルは問題を解くために余分なトークンを費やすため、1つの回答に数秒と数百トークンの可視的な推論がかかることがあります。数学の証明や論理パズルにはまさに求めるものですが、手早い事実検索には無駄な時間です。
混乱しがちな区別: DeepSeek-V3はチャットモデル、DeepSeek-R1は推論モデルでした。両者はアーキテクチャの系譜を共有しますが、異なる用途向けにチューニングされており、どちらも現在は前世代です。DeepSeek-V4はThinkingモードとNon-Thinkingモードを1つのモデルファミリーで提供します。自分のハードウェアでステップバイステップの問題解決をするなら、R1の蒸留モデルが引き続き現実的な選択肢です。蒸留が何を残し何を失うかはDeepSeek-R1とディスティルの違いで正確に解説します。
更新: DeepSeekの現在の世代はDeepSeek-V4(FlashおよびPro)で、MITライセンスのオープンウェイトとして公開されています(プレビュー版は2026年4月24日)。DeepSeekのAPIは現在V4を提供しており、deepseek-chat(V3世代)とdeepseek-reasoner(R1世代)のエイリアスは2026年7月24日以降に完全に廃止されると告知されました。R1の蒸留モデルは独立したオープンウェイトのリリースで、この告知の対象ではなく、引き続きローカルで動作します。V4自体はコンシューマーGPU向けのモデルではありません。V4-Proは総パラメータ1.6T(アクティブ49B)、当初のV4-Flashは284B(アクティブ13B)で、4ビット精度(パラメータ数×0.5バイト)でも重みだけでおよそ140 GB(Flash)から800 GB(Pro)が必要です。DeepSeekのモデルカードにGPU要件の記載はありません。コンシューマーGPU1枚での推論には、引き続き蒸留モデルが現実的な選択肢です。
これらのモデルを動かすためのより深い入門としては、ローカルLLMハードウェアガイドとLLM量子化の解説から始めてください。本ガイドが依拠するVRAMの計算を扱っています。
📍 一文で説明
ローカル推論モデルとは、回答の前に明示的な思考の連鎖を書くLLMであり、同サイズのチャットモデルよりも数学と論理に強くなります。
💬 簡潔に説明
推論モデルは、途中の計算を見せる学生だと考えてください。遅くて書く量も多いですが、答えを口走るだけのモデルよりも多段階問題を格段に正しく解きます。
6つのDeepSeek-R1ディスティル一覧
DeepSeekはR1の公式ディスティルを6つリリースしました。それぞれ、既存のオープンなベースモデルをフル671B R1の推論トレースでファインチューニングして作られています。4つはQwen2.5ベース(1.5B、7B、14B、32B)、2つはLlama 3ベース(8B、70B)を使います。以下のVRAM数値はOllamaデフォルトのQ4_K_M量子化での値です。
📍 一文で説明
DeepSeek-R1にはQwen2.5とLlama 3のベース上に構築された1.5Bから70Bまでの6つの公式ディスティルがあり、14Bモデルが16 GB GPUにとって最良のバランスです。
Distill | ベースモデル | File Size (Q4_K_M) | Min VRAM | 最適用途 |
|---|---|---|---|---|
| DeepSeek-R1-Distill-Qwen-1.5B | Qwen2.5 1.5B | ~1.1 GB | 4 GB / CPU | エッジデバイス、手早いテスト |
| DeepSeek-R1-Distill-Qwen-7B | Qwen2.5 7B | ~4.7 GB | 8 GB | エントリーGPU、AIME 2024で55.5% |
| DeepSeek-R1-Distill-Llama-8B | Llama 3 8B | ~4.9 GB | 8 GB | Llamaライセンスのワークフロー |
| DeepSeek-R1-Distill-Qwen-14B | Qwen2.5 14B | ~9 GB | 16 GB | 総合的に最良のバランス |
| DeepSeek-R1-Distill-Qwen-32B | Qwen2.5 32B | ~20 GB | 24 GB | o1-miniに勝つ、最良のシングルGPU |
| DeepSeek-R1-Distill-Llama-70B | Llama 3 70B | ~43 GB | デュアルGPU / 48 GB | 最強のディスティル、最高精度 |
DeepSeek-R1-Distill-Llama-8BはLlama 3ライセンスとMITライセンスの両方を持ちます。QwenベースのディスティルはQwenのライセンスを継承します。商用利用の前には必ずライセンスを確認してください。Ollamaでは`deepseek-r1:8b`タグはDeepSeek-R1-0528-Qwen3-8B(5.2 GB)です。Llama 8Bの蒸留モデルは`deepseek-r1:8b-llama-distill-q4_K_M`(4.9 GB)です。
最良の小型推論ディスティル: DeepSeek-R1-0528-Qwen3-8B
DeepSeek-R1-0528-Qwen3-8Bは、8 GB GPUで動かせる最も強力な小型推論モデルの1つで、更新されたR1-0528からQwen3 8Bベース上にディスティルされています。 DeepSeekが公表したベンチマークでは、リリース時点でオープンな8BモデルのAIME 2024で首位に立ち、ベースのQwen3 8Bより約10パーセントポイント高いスコアを出しました — このサイズで数学と論理にとって意味のある飛躍です。
最良の小型モデルの精度が欲しく、ハードウェアの上限が8 GBであるなら、オリジナルの7Bおよび8Bディスティルよりもこれを選んでください。同じRTX 3060 12GBティアに収まり、Q4_K_Mで約5 GBで動作します。生の速度よりも推論品質を重視する大半のノートPCおよびエントリーGPUユーザーにとって、最初に動かすべきモデルです。
💬 簡潔に説明
GPUが8 GBなら、より新しいR1-0528-Qwen3-8Bは最も強力な小型推論モデルの1つです — オリジナルのディスティルより優れたベースを使い、競技数学で高いスコアを出します。
ハードウェアティア別DeepSeek-R1ディスティルランキング
VRAMが対応する最も高いティアを選んでください。パラメータが多いほど推論は良くなりますが、それはモデルがシステムRAMにあふれ出さずに収まる場合に限ります(あふれると速度が崩壊します)。このランキングを使って、所有しているか購入予定のGPUにディスティルを合わせてください。
8 GB VRAM → DeepSeek-R1-Distill-Qwen-7B (RTX 3060 12GB)
7Bディスティルは本格的なローカル推論の入り口です。Q4_K_Mで約4.7 GB、AIME 2024で55.5%のスコア — DeepSeekが公表している競技レベルの数学の結果です。NVIDIA RTX 3060 12GB(約$280)がここでのコスパの選択肢: 12 GBはより長い推論コンテキストの余裕を残します。コマンド: `ollama run deepseek-r1:7b`。最良の小型モデルの精度が欲しいなら、同じカードでDeepSeek-R1-0528-Qwen3-8Bに差し替えてください。
16 GB VRAM → DeepSeek-R1-Distill-Qwen-14B (RTX 4060 Ti 16GB)
14Bディスティルは総合的に最良のローカル推論モデルです: 強力な多段階数学と論理、Q4_K_Mで約9 GB、16 GBカードでコンテキストの余裕もあります。NVIDIA RTX 4060 Ti 16GB(約$420)が推奨GPU — 16 GBはモデルと余裕のある推論ウィンドウを165 Wで収めます。これは大半の読者が狙うべきティアです。コマンド: `ollama run deepseek-r1:14b`。
24 GB VRAM → DeepSeek-R1-Distill-Qwen-32B (RTX 4090)
32Bディスティルは、6つのうちコンシューマー向けシングルGPUに収まる最強のモデルで、DeepSeekが公表した結果では複数の推論ベンチマークでOpenAI o1-miniを上回ります。Q4_K_Mで約20 GB — 24 GBのRTX 4090ではぎりぎりですが動作可能で、コンテキストの余裕は限られます。推論精度が優先で24 GBカードがあるなら、これがそのモデルです。コマンド: `ollama run deepseek-r1:32b`。より長いコンテキストには、より小さい量子化か14Bに下げてください。
デュアルGPU / 48 GB → DeepSeek-R1-Distill-Llama-70B
70Bディスティルは6つの中で最強で最高の推論精度を提供しますが、約43 GB(Q4)のためどのシングルコンシューマーカードにも収まりません。2枚の24 GB GPU(例: 2× RTX 3090または2× RTX 4090)にまたがって、あるいは48 GBワークステーションカードで動かしてください。32Bより遅いスループットを覚悟しつつ、最良の回答が得られます。コマンド: `ollama run deepseek-r1:70b`。オープン推論の最上位ティアが本当に必要な場合にのみ価値があります。
常時稼働サーバー → Minisforum Mini-PC
騒がしいタワーなしで推論モデルを24時間365日動かしたいなら、統合GPUを搭載したMinisforum mini-PCかeGPUエンクロージャが、静かな常時稼働エンドポイントとして7Bおよび14Bディスティルを動かします。32BではデスクトップのRTX 4090には及びませんが、数学と論理のクエリにオンデマンドで答える家庭用推論サーバーとしては、低いアイドル電力と静音性が魅力です。7Bまたは14Bディスティルと組み合わせてください。
DeepSeek-R1ディスティルは推論ベンチマークでどのようなスコアを出すか?
これらは推論ベンチマークです — AIME 2024(競技数学)、MATH-500(混合数学)、GPQA Diamond(大学院レベルの科学Q&A)。コーディングではなく、ステップバイステップの問題解決を測定します。注目すべき結果: 32BディスティルはこれらのいくつかでOpenAI o1-miniを上回り、7BディスティルはAIME 2024で55.5%を記録します。これはDeepSeekが公表した値です。注記: OpenAIは2025年後半にo1-miniをAPIから廃止しました。そのため、ここでのo1-mini比較はこれらの蒸留モデルの元々公開されたベンチマーク基準であり、現在利用可能なOpenAIモデルとの実際の比較ではありません。ローカル導入の判断材料としては、上記の各蒸留モデル自体のAIME 2024・MATH-500スコアが重要です。
📍 一文で説明
DeepSeek-R1-Distill-Qwen-32Bは複数の推論ベンチマークでOpenAI o1-miniを上回り、7BディスティルはAIME 2024で55.5%を記録します。
Distill | AIME 2024 | 推論ティア | 備考 |
|---|---|---|---|
| DeepSeek-R1-Distill-Qwen-7B | 55.5% | 7Bとして強力 | 最良のエントリーGPU推論モデル |
| DeepSeek-R1-0528-Qwen3-8B | リリース時にオープン8Bで首位 | 最良の小型 | ベースQwen3 8Bより約+10ポイント |
| DeepSeek-R1-Distill-Qwen-14B | 7Bより高い | 最良のバランス | 16 GBのスイートスポット |
| DeepSeek-R1-Distill-Qwen-32B | シングルGPUで最高 | o1-miniに勝つ | 最良の24 GB推論モデル |
| DeepSeek-R1-Distill-Llama-70B | 6つの中で最高 | 最大 | デュアルGPUが必要 |
公開されている正確なスコア(7B = 55.5% AIME 2024)を使い、それ以外は相対ランキングを使います。ベンチマーク数値は量子化とサンプリング設定で変動します。絶対値ではなく、ティア内での方向性として扱ってください。
推論モデルを使うべきでないのはどんなときか?
タスクが推論タスクでないときは推論モデルを避けてください — 遅く、より冗長で、単純な検索やチャットでは精度も変わりません。 代わりにLlama 3.3のような標準的なチャットモデルを使ってください。
- 手早い事実検索には避けてください — 可視的な思考の連鎖は、チャットモデルなら即座に返す回答に対してトークンと時間を浪費します。
- オープンエンドな会話には避けてください — 推論モデルは対話ではなく、正解のある問題向けにチューニングされています。
- 純粋なコーディングのスループットには避けてください — コード生成ではDeepSeek vs Qwenコーディングガイドに誘導します。本ページは推論のみを扱います。
- レイテンシが重要なときは避けてください — サブ秒の応答が必要なら、より小さなチャットモデルが勝ります。
- タスクが数学・論理・多段階の計画、または途中の計算を見せることで正確さが向上するものなら、推論モデルを使ってください。
設定の極意: 温度0.6、システムプロンプトなし
温度を0.6に設定し(0.5〜0.7の範囲が安全)、システムプロンプトを使わない — すべての指示をユーザープロンプトに入れてください。 これはDeepSeekが公表しているR1シリーズの使用推奨事項に沿った設定で、終わりのない繰り返しや支離滅裂な出力を防ぐため、温度0.5〜0.7とシステムプロンプトなしが推奨されています。
実践では: Ollama/LM Studioのシステムプロンプト欄を空のままにし、指示をユーザーメッセージの先頭に付け、温度を0.6に保ちます。モデルがループしたり推論の途中で逸れたりするのを見たら、この設定で解決することがよくあります。
セットアップ: ティア別Ollamaクイックスタート
すべてのディスティルは単一のOllamaコマンドでインストールして動作します(すべてデフォルトはQ4_K_M)。まだなら先にOllamaをインストールしてください — Ollamaのインストール方法を参照。そのうえで、自分のティアのコマンドを選んでください:
ollama run deepseek-r1:1.5b # edge / CPU
ollama run deepseek-r1:7b # 8 GB VRAM
ollama run deepseek-r1:8b # 8 GB VRAM (R1-0528-Qwen3-8B)
ollama run deepseek-r1:14b # 16 GB VRAM — recommended
ollama run deepseek-r1:32b # 24 GB VRAM — beats o1-mini
ollama run deepseek-r1:70b # dual-GPU / 48 GB結論: どのDeepSeek-R1ディスティルを動かすべきか?
判断はVRAMと、精度と速度のどちらを優先するかに帰着します。各ケースの一行回答はこちらです。
ディスティルを選ぶ
ローカルLLMを使うべき場合：
- •16 GB GPU → DeepSeek-R1-Distill-Qwen-14B(総合的に最良、デフォルトの選択)
- •24 GB GPU → DeepSeek-R1-Distill-Qwen-32B(o1-miniに勝つ、最良のシングルGPU推論モデル)
- •8 GB GPU → DeepSeek-R1-0528-Qwen3-8B(最良の小型)または7Bディスティル
- •デュアルGPU / 48 GB → DeepSeek-R1-Distill-Llama-70B(最高精度)
クラウドモデルを使うべき場合：
- •どのディスティルも超えるフロンティアの推論が必要 → PromptQuorum経由でGPT-6.1 Sol / Claude / Geminiと比較
- •GPUを専用にできない → ホスト型推論APIの方がハードウェア購入より安いかもしれません
クイック判断：
- →迷ったら、16 GBカードで14Bから始めてください。
- →DeepSeekの推奨どおり、温度0.6、システムプロンプトなしで動かしてください。
- →コーディングには推論ディスティルではなく、コーディングモデルを使ってください。
よくある質問
DeepSeek-R1は今もDeepSeekの最新モデルですか?
いいえ。DeepSeekの現在の世代はDeepSeek-V4(FlashおよびPro)です。APIのエイリアスdeepseek-reasoner(R1世代)とdeepseek-chat(V3世代)は、2026年7月24日以降に完全に廃止されると告知されました。オープンウェイトのR1蒸留モデルは独立したリリースで、この告知の対象ではなく、引き続きOllamaでローカル実行できます。
フル671BのDeepSeek-R1をローカルで動かせますか?
いいえ。フルのDeepSeek-R1は671BパラメータのMixture-of-Expertsモデル(トークンあたり約37Bがアクティブ)で、Q4で約376〜404 GBのVRAMを必要とします — データセンターのハードウェア専用です。自宅ではそのディスティルのいずれか(1.5B〜70B)を動かします。Unslothの1.58ビットビルド(約131 GB)は存在しますが、毎秒約0.3トークンで動作し、実用的なセットアップというより珍品です。
どのDeepSeek-R1ディスティルが総合的に最良ですか?
大半の人にとって、16 GB GPU上のDeepSeek-R1-Distill-Qwen-14Bが、推論品質・速度・VRAM適合の最良のバランスです。24 GBカードがあるなら、32Bディスティルの方が強力で、複数の推論ベンチマークでOpenAI o1-miniを上回ります。
最良の小型DeepSeek推論モデルは何ですか?
DeepSeek-R1-0528-Qwen3-8Bです。更新されたR1-0528からQwen3 8Bベース上にディスティルされ、DeepSeekが公表したベンチマークでは、リリース時点でオープンな8BモデルのAIME 2024で首位に立ち、ベースのQwen3 8Bより約10ポイント高いスコアを出しました。Q4_K_Mで8 GB GPUに収まります。
DeepSeek-V4はR1蒸留モデルに代わる最良のローカル推論モデルになりますか?
いいえ。DeepSeek-V4(FlashおよびPro)はDeepSeekの現在の世代で、MITライセンスのオープンウェイトとして公開されていますが、コンシューマーGPU1枚には大きすぎます。V4-Proは1.6Tパラメータ(アクティブ49B)、当初のV4-Flashは284B(アクティブ13B)で、4ビット精度でも重みだけでおよそ140〜800 GBが必要です。1枚のカードでのローカル推論には、このページのR1蒸留モデルが引き続き現実的な選択肢です。V4はマルチGPUやデータセンター向けのハードウェア、またはDeepSeekのホスト型APIで利用するモデルです。
「OpenAI o1-miniを上回る」という比較は今でも意味がありますか?
固定のベンチマーク基準としては、はい。DeepSeekが公表したスコアは変わりません。現在の比較としては、いいえ。OpenAIの廃止予定ページによると、o1-miniは2025年10月27日に提供終了となっており、OpenAIの現行モデルはGPT-6ファミリー(Astra、Sol、Luna)です。判断には各蒸留モデルのAIME 2024・MATH-500スコアを使ってください。現在のOpenAIの参照先としては、コスト最適化ティアのGPT-6 Lunaで同じプロンプトを試してください。
各ディスティルはどれだけのVRAMが必要ですか?
OllamaデフォルトのQ4_K_Mで: 7Bは約8 GB(ファイル約4.7 GB)、14Bは約16 GB(ファイル約9 GB)、32Bは約24 GB(ファイル約20 GB)、70BはデュアルGPUまたは48 GB(ファイル約43 GB)が必要です。FP16はQ4_K_Mサイズのおよそ4倍、Q8_0はおよそ2倍です。
DeepSeek-R1はコーディングが得意ですか?
本ガイドは推論(数学・論理・多段階)のみをランキングします。コード生成ではトレードオフが異なります — コーディングのスループットのために推論ディスティルを選ぶのではなく、/ja/power-local-llm/deepseek-vs-qwen-coding-local-2026 の専用比較を参照してください。
DeepSeek-V3とDeepSeek-R1の違いは何ですか?
DeepSeek-V3(2024年12月)は会話向けにチューニングされたチャットモデルで、DeepSeek-R1(2025年1月)は回答の前に明示的な思考連鎖を生成する推論モデルです。どちらも現在は前世代で、DeepSeek-V4はThinkingモードとNon-Thinkingモードを1つのモデルファミリーにまとめています。コンシューマーGPUでローカルの数学・論理タスクを行うなら、R1の蒸留モデルを使ってください。
なぜ私のDeepSeek-R1ディスティルがループしたり意味不明な出力をするのですか?
設定の問題であることがよくあります。温度を0.6に設定し(0.5〜0.7が適切)、システムプロンプトを削除してください — すべての指示をユーザーメッセージに入れます。DeepSeekのR1使用推奨事項は、終わりのない繰り返しや支離滅裂な出力を防ぐためにこの設定を推奨しています。
DeepSeek-R1ディスティルはどうやってインストールしますか?
Ollamaをインストールし、自分のティア向けに1つのコマンドを実行します。例: `ollama run deepseek-r1:14b`。すべてのディスティルはデフォルトでQ4_K_Mです。完全なコマンド一覧は上記のセットアップセクションを参照してください。
8Bディスティルは異なるライセンスを持ちますか?
はい。DeepSeek-R1-Distill-Llama-8Bは、ベースがLlama 3であるため、MITに加えてLlama 3ライセンスを持ちます。Qwベースのディスティル(1.5B、7B、14B、32B)はQwenのライセンスを継承します。商用利用の前にライセンスを確認してください。
推論のためにRTX 4060 Ti 16GBとRTX 4090のどちらを買うべきですか?
予算がRTX 4090を許し、(o1-miniに勝つ)32Bディスティルを動かしたいなら、4090を買ってください。最良のコスパが欲しく、14Bディスティルでニーズが満たせるなら、約$420のRTX 4060 Ti 16GBが賢い買い物です。
更新ログ
- 2026-06-19に公開。次回レビュー予定日2026-12-19(半年ごとのフレッシュネスティア)。
- 6つの公式DeepSeek-R1ディスティルとDeepSeek-R1-0528-Qwen3-8Bを網羅。公開されたAIME 2024スコアおよびQ4_K_MのVRAM数値に対して検証済み。
- 2026-10-19更新: R1がDeepSeekの最新世代ではなくなった(最新はDeepSeek-V4)ことを冒頭に明記。V4のハードウェア要件の記述を修正(V4-Proは1.6Tパラメータのため、重みは48〜80 GBではなく数百GB規模)。APIエイリアスdeepseek-chatとdeepseek-reasonerが2026-07-24以降に廃止と告知されたことを追記。o1-miniの基準を過去のもの(2025-10-27に提供終了)と明示し、古いOpenAIへの言及をGPT-6ファミリーに置き換え。deepseek-r1:8bタグの注記とOllamaのファイルサイズ(32B 20 GB、70B 43 GB)を修正。次回レビュー予定: 2027-04-19。