2026年にQwen 3をローカルで実行する方法：Ollama + LM Studioセットアップガイド

2026年にQwenをローカルで実行する理由

Qwenモデルの選択

ハードウェア要件

• 最小構成（Qwen 3.6 27B）：16 GB VRAMのGPU — RTX 4080、RTX 4070 Ti Super、またはRTX 3090
• 推奨GPU：RTX 4090（24 GB VRAM）— Q4_K_MをQ4_K_Mで35トークン/秒、8 GBの余裕あり
• Apple Silicon M3/M4（現行）：48 GB統合メモリ搭載のM3 MaxまたはM4 Pro — 静音、省電力、MLX経由で40トークン/秒以上
• Mac Mini M4 Pro（48 GB）：¥228,800（Apple Japan）、コンパクトなフォームファクター、オフィス展開に最適なTCO
• Apple Silicon M5 Pro（64 GB）：次世代、307 GB/sのメモリ帯域幅 — Qwen 3.6 27Bを推定50トークン/秒以上で実行。AppleはM4比4倍高速なLLMプロンプト処理を公表。
• Apple Silicon M5 Max（128 GB）：460〜614 GB/sのメモリ帯域幅 — Qwen 3 72B Q4_K_Mを余裕を持って実行。2026年中頃のMac Studioに搭載予定；現行Mac MiniはM4 Pro搭載。
• RAM：GPU推論に加えて最低32 GBのシステムRAM；完全な開発環境では64 GB推奨
• ストレージ：Qwen 3.6 27B Q4_K_M用に20 GBの空きディスク容量（GGUFファイル約17 GB）

Ollamaでのセットアップ

1. 1
   Ollamaをインストールする
   Why it matters: Ollamaはモデルのダウンロード、GGUFフォーマット、OpenAI互換のローカルAPIを管理します。
2. 2
   明示的なタグでQwen 3.6 27Bを取得する
   Why it matters: qwen3.6:27bを明示的に使用してください。タグなしの`qwen3`はデフォルトで8Bモデルをダウンロードします — このガイドで対象としている27Bモデルではありません。
3. 3
   正しいコンテキスト長でModelfileを作成する
   Why it matters: デフォルトのnum_ctx 2048トークンは実際のコーディングタスクには小さすぎます。32768トークンでほとんどのファイルと会話を処理できます。
4. 4
   カスタムモデルをビルドして実行する
   Why it matters: 拡張されたコンテキストウィンドウを持つQwen 3.6 27Bインスタンスを作成します。テストプロンプトで確認してください。
5. 5
   APIエンドポイントをテストする
   Why it matters: OllamaはlocalHost:11434/v1でOpenAI互換APIを公開します。このエンドポイントを使用してLLMクライアント、IDE、PromptQuorumを接続します。

# Step 1 — Install Ollama
# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows — download from https://ollama.com/download

# Step 2 — Pull Qwen 3.6 27B (explicit tag required)
ollama pull qwen3.6:27b
# Downloads Qwen 3.6 27B Q4_K_M (~17 GB)
# Note: 'ollama pull qwen3' without a tag downloads the 8B model

# Step 3 — Create Modelfile with correct num_ctx
cat > Modelfile <<'EOF'
FROM qwen3.6:27b
PARAMETER num_ctx 32768
PARAMETER temperature 0.7
EOF

# Step 4 — Build and run
ollama create qwen3-32k -f Modelfile
ollama run qwen3-32k

# Expected output (Qwen working correctly):
# >>> Write a Python function to reverse a string.
# def reverse_string(s: str) -> str:
#     return s[::-1]
#
# This function takes a string s as input and returns the reversed
# string using Python slice notation with step -1.

# Step 5 — Test API
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-32k",
    "messages": [{"role": "user", "content": "Write a Python function to reverse a string."}]
  }'

LM Studioでのセットアップ

1. 1
   LM Studioをダウンロードしてインストールする
   Why it matters: ローカルLLM推論用の無料クロスプラットフォームGUI。CLIは不要です。
2. 2
   Qwen 3 27Bを検索してダウンロードする
   Why it matters: LM StudioのモデルブラウザはHugging Faceを検索します。「Qwen 3 27B」を検索し、16 GB VRAM用のQ4_K_M GGUFバリアントを選択してください。
3. 3
   LM Studio設定でコンテキスト長を設定する
   Why it matters: Ollamaと同じnum_ctxの問題 — モデルを読み込む前にモデルパラメーターでコンテキスト長を32768に変更してください。
4. 4
   ローカルサーバーを起動する
   Why it matters: LM Studioの「サーバーを起動」でlocalhost:1234にOpenAI互換APIが作成されます。このURLをクライアントとPromptQuorumで使用してください。

// LM Studio local server config (exported JSON)
{
  "model": "qwen3.6-27b-q4_k_m",
  "server": {
    "host": "localhost",
    "port": 1234,
    "cors": true
  },
  "inference": {
    "context_length": 32768,
    "temperature": 0.7,
    "gpu_layers": -1
  }
}

PromptQuorumへの接続

# PromptQuorum dispatch config — local Qwen via Ollama
# Set in your .env or PromptQuorum settings panel

OLLAMA_BASE_URL=http://localhost:11434/v1
LOCAL_LLM_MODEL=qwen3.6:27b

# Example routing rules (PromptQuorum dispatch):
# - task_type: code       → model: qwen3.6:27b  (local Ollama, GDPR-safe)
# - task_type: analysis   → model: claude-sonnet-4-6 (Anthropic API, separate config)
# - task_type: private    → model: qwen3.6:27b  (local Ollama, no cloud egress)

トラブルシューティング

• モデルの応答が途中で切れる：num_ctxが低すぎます。`PARAMETER num_ctx 32768`でModelfileを再作成し、`ollama create`でモデルを再ビルドしてください。
• CUDAメモリ不足エラー：モデルがVRAMに収まりません。Qwen 3 14B Q4_K_M（〜9 GB VRAM）に切り替えるか、27BのQ3_K_S量子化を試してください。
• Ollama APIが404を返す：モデル名が正確に一致しているか確認してください。`ollama list`を実行して利用可能なモデルを確認し、表示された正確な名前を使用してください（例：`qwen3-32k`）。
• 生成が遅い（5トークン/秒未満）：GPUレイヤーが完全にオフロードされていません。`ollama run qwen3-32k`を実行し、`num_gpu_layers`が最大化されているか確認してください。他のGPU負荷の高いプロセスが実行されていないことを確認してください。
• LM Studioが「モデルの読み込みに失敗」と表示：VRAMが不足しています。Q4_K_Mのコンテキスト長を16384に削減するか、Qwen 3 14Bに切り替えてください。
• PromptQuorumが認証エラーを返す：PromptQuorumのローカルLLM設定で`OLLAMA_BASE_URL=http://localhost:11434/v1`を設定してください。フォームがキーを要求する場合、任意の空でない文字列を入力してください — OllamaはAPIキー認証を必要としません。
• OllamaがGPUの代わりにCPUを使用する：NVIDIAの場合：CUDAドライバーがインストールされているか確認してください（`nvidia-smi`でGPUが表示されるはず）。Macの場合：OllamaはMetalを自動的に使用します — 設定は不要です。Metalが有効でない場合、ollama.comからOllamaを再インストールしてください。
• モデルのダウンロードが停止または失敗する：大きなモデル（Qwen 3.6 27B 〜17 GB）は遅い接続でタイムアウトする場合があります。`ollama pull qwen3.6:27b`を再実行してください — Ollamaは中断した場所から再開します。または、Hugging Faceから直接GGUFをダウンロードし、ModelfileのFROM句でローカルパスを使用して`ollama create`を実行してください。

電力消費とTCO

関連記事

• Qwen 3.6 vs Claude Sonnet 4.6 vs DeepSeek — 2026年比較
• EU企業がローカルQwenに移行する理由
• Qwen Coder vs DeepSeek vs Mistral — コーディングベンチマーク2026
• すべてのローカルLLMガイド
• PromptQuorumウェイトリストに登録

よくある質問