ローカルLLMの質問への迅速な回答

Q4_K_M が最適なポイント — 7B/8B モデルは Q4_K_M で 4.

ollama.

2026年5月現在、汎用に最適なOllamaモデルはLlama 3 8Bです。コーディングではQwen 3 Coder 14Bが最高。コンパクト用途にはPhi-4 Miniが優秀です。このページは毎月更新されます。.

GPUなしの場合、Phi-4 Mini（Q4量子化）がCPU上で品質と速度の最良バランスを提供します。Llama 3 8B Q4は8GB以上のRAMで動作します。Gemma 2Bは最速のCPUオプションです。.

はい — Ollama は Qwen 3 の全モデルサイズ（0.

OllamaはLLaVA、Gemma 3マルチモーダル、Qwen-VLなど複数のVisionモデルに対応しています。最も簡単な始め方は ollama run llava です。すべてOllama API経由で画像を受け付けます。.

Llama 3.

Qwen 3 CoderはPythonとTypeScriptで勝ります。DeepSeek Coder V2はより広い言語サポートを持ちます。両者とも14B Q4で~10 GB VRAMが必要です。ほとんどの開発者にはQwen 3 Coderが優れたデフォルトです。.

ターミナルを使用してAPIで開発する場合はOllamaを選んでください。GUIを好み、モデルとチャットしたいだけならLM Studioを使用してください。両方とも無料でモデルをローカルで実行します。.

Janは拡張システムを備えた完全オープンソースです。LM Studioはより洗練されたUIと大規模な組み込みモデルライブラリを持ちます。カスタマイズを望むパワーユーザーにはJanを、使いやすさを求めるならLM Studioをお勧めします。.

Open WebUIはほとんどのユーザーにとって最適なOllamaフロントエンドです。無料で機能豊富でDockerコンテナとして動作します。SillyTavernはロールプレイに最適です。Janはローカルモデルマネージャーを追加します。.

Apple Siliconでは、MLXを使用してください — M5 ProでOllamaの~35 tok/sに対して~65 tok/sを実現します（8Bモデル使用時）。NVIDIA GPUでは、シンプルさを求めるならOllamaを、最大限の制御を求めるならllama.

OllamaモデルをMLXに直接変換することはできません。代わりに、Hugging FaceからオリジナルのGGUFまたはSafeTensorsの重みをダウンロードし、mlx-lm convertで変換してください。Llama 3、Qwen、Mistralなど人気モデルのほとんどは、mlx-communityオーガニゼーション配下のHugging Faceにすでに事前変換済みMLXバージョンが存在します。.

いいえ。OllamaはApple Silicon上でllama.

Llama 3 8Bは6 GB VRAMに収まり高速に動作します。Qwen 3 14Bは10 GB以上が必要ですがベンチマークスコアが高いです。12 GB VRAMがあればQwen 14Bが品質で勝ります。.

Qwen 3 Coder 14Bはローカル利用の14Bコーディングモデルの中でトップです。Q4_K_Mで10 GB VRAMに収まり、14Bモデル中でHumanEvalスコアが最高です。DeepSeek Coder 14Bは同様のVRAM要件を持つ強力な代替モデルです。.

ローカルLLM推論で3つのミニPCが目立ちます：Mac Mini M4（最速、~18 tok/s）、Minisforum UM790 Pro（最大RAM、64 GB DDR5）、Beelink SER8（最高コスパ、Ryzen 9 8845HS CPU）。3つすべて専用GPUなしで7–13B Q4モデルを実行可能です。.

Mixtral 8x22B と DeepSeek V2 がローカル使用に最適な MoE コーディングモデルです。MoE モデルはトークンごとにパラメータの一部のみをアクティブにするため、同じ総サイズの Dense モデルより VRAM あたりの品質が高くなります。Q4 では両方とも最低 16 GB VRAM が必要です。.

VRAMで選択してください：Llama 3.

Qwen 3 Coder 14B Q4_K_MはRTX 3060などの12 GB VRAM GPUに最適なコーディングモデルです。~10 GB VRAMを使用し、この制約に収まるモデルの中でHumanEvalスコアが最高です。DeepSeek Coder 14Bは強力な代替です。.

RTX 3070 Ti（8 GB VRAM）では、Llama 3 8B Q4_K_M と Mistral Small Q5_K_M が最適なローカル LLM です。どちらも VRAM を約 6 GB 使用し、約 22–25 tok/s で動作します。AMD Ryzen 7 5700X は CPU フォールバックとして高速なトークン化を担います。.

はい。Radeon RX 6800M は 12 GB GDDR6 VRAM を持ち、ローカル LLM を実行できます。Linux では ROCm で GPU 加速、Windows では Vulkan バックエンドの llama.

中古RTX 3060 12 GBが2万5千〜3万円でローカルLLM向け最高の300ドル以下GPU — 12 GB VRAMで全7Bと大半の14Bモデルを動かせます。.

RTX 4060 Ti 16 GBが約6万円でベストな選択 — 16 GB VRAMはQ5量子化で14Bモデルに余裕を持って対応。.

Samsung 990 Pro 2TBが7,450 MB/sで7B Q4モデルを2秒以内にロード。AIモデルストレージで最高のコスパ。.

はい — Mac Mini M4 Pro（24 GBユニファイドメモリ）はMLX経由でLlama 3 8Bを~36 tok/sで実行。約22万円でAppleの最高コスパ選択肢。.

Vast.

RTX 4090: $0.

はい — Ryzen AI Max（Strix Halo、RDNA 3.

はい — ただし小規模な個人ドキュメントセット限定です。2 GB RAMでは、Llama 3.

専用 GPU のない 16 GB RAM ラップトップでは、Qwen3 8B（Q4_K_M）が最良のオールラウンダーです。~6 GB を使用し、最新 CPU で ~8–15 tok/s で動作します。Gemma 3 12B は依然として収まる最も強力なモデル（余裕が少なく低速）、Phi-4-mini（~3.

CO-STARは6つの部分からなるプロンプト構造です：Context（背景）、Objective（目標）、Style（文体）、Tone（感情的な調子）、Audience（読者）、Response（出力形式）。すべての制約を明示することで、一貫した目的に合ったLLM出力を生み出すのに役立ちます。.

クラウド利用では：Claude Opus 4.

自社ハードウェアでローカル実行するQwenはGDPR準拠です。プロンプトデータがインフラ外に出ず、第44条の第三国転送も発生しません。Alibaba Cloud経由のQwen APIはEU域外クラウドプロバイダーと同様に標準契約条項と転送影響評価が必要です。.

DeepSeek APIは主要LLMの中でGDPRリスクが最も高い。サーバーが中国の個人情報保護法（PIPL）に従属し、中国にEU十分性認定がなく、利用規約が中国当局とのデータ共有を明示的に留保しています。DeepSeekのローカルオープンウェイトモデルはリスクプロファイルが異なり、はるかに低いリスクです。.

はい——オープンウェイトモデルをローカル実行すると、クラウドAIをGDPR下で法的に複雑にする第44条の第三国転送が排除され、プロンプトと応答がサーバーを離れることがありません。Qwen 3 14BやLlama 4 ScoutなどのローカルモデルはHR・法務・医療テキストをすべてオンプレミスで処理できます。.

ProtonVPN（スイス、無料プランあり）で監査済みプライバシー。Mullvad（月5ユーロ均一）で最大匿名性。NordVPNで110カ国以上・RAM-onlyサーバー9,300以上。Surfshark（月約$2）で最安値。ExpressVPNで大規模モデルファイルの最速ダウンロード。.