Qwen2.5-VLとQwen3-VLをローカルで動かす方法【2026年版】：ドキュメントOCRとビジョンガイド

どのQwenビジョンモデルを動かすべきか

Qwen3-VLとQwen2.5-VLのOllamaタグ・サイズ・ライセンス

Qwenビジョンモデルのハードウェア要件

• ダウンロードサイズは重みのみ：Qwen3-VL 8Bは6.2GB、Qwen2.5-VL 7Bは6.0GBです。コンテキストキャッシュと画像エンコーダーには追加メモリが必要で、コンテキスト長や画像サイズに応じて増えるため、ダウンロードサイズより余裕を持たせてください。
• 小さめの選択肢：Qwen3-VL 2B（1.9GB）・4B（3.3GB）、Qwen2.5-VL 3B（3.2GB）は小型GPUやノートPC向けです。7B〜8Bモデルより精度は下がると考えてください。
• 大きめの選択肢：Qwen3-VL 30B-A3B（20GB）、Qwen3-VL 32BとQwen2.5-VL 32B（21GB）、Qwen2.5-VL 72B（49GB）は、大型GPU、複数GPU、または大容量のユニファイドメモリを持つApple Siliconが必要です。
• 部分オフロード：モデルがVRAMに収まらない場合、Ollamaは一部をシステムRAMに置けます。動作しますが、かなり遅くなります。
• ソフトウェア：Ollamaライブラリページの記載どおり、Qwen3-VLはOllama 0.12.7以降、Qwen2.5-VLは0.7.0以降が必要です。

Ollamaを使ったQwen2.5-VL・Qwen3-VLのセットアップ

1. 1
   Ollamaをインストールまたは更新する
   Why it matters: Qwen2.5-VLにはOllama 0.7.0以降、Qwen3-VLには0.12.7以降が必要です。`ollama --version`で確認し、必要なら更新します。OllamaはmacOS、Linux、Windowsで利用できます。
2. 2
   明示的なタグでモデルを取得する
   Why it matters: `qwen3-vl:8b`または`qwen2.5vl:7b`を使います。`qwen2-vl:7b`はOllama公式ライブラリにないため、取得に失敗します。
3. 3
   モデルを実行して画像を添付する
   Why it matters: 対話モードでは、プロンプト内に画像ファイルのパスを入力します。Ollamaがパスを検出して画像を読み込みます。
4. 4
   API経由で画像を送信する
   Why it matters: /api/generateエンドポイントは、data:プレフィックスなしのbase64エンコード済み`images`配列を受け付けます。アプリケーション（PromptQuorumを含む）はこの方法で画像をプログラムから送信します。
5. 5
   多言語OCRを確認する
   Why it matters: 中国語または日本語のドキュメントのスキャンを送り、抽出されたテキストを原本と照合してから本格的に使い始めます。

# Step 1 — Install or update Ollama (Qwen3-VL needs 0.12.7+, Qwen2.5-VL needs 0.7.0+)
# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows — download from https://ollama.com/download
ollama --version

# Step 2 — Pull a Qwen vision model (explicit tag)
ollama pull qwen3-vl:8b          # 6.2 GB
# or: ollama pull qwen2.5vl:7b   # 6.0 GB

# Step 3 — Run and attach an image (interactive)
ollama run qwen3-vl:8b
>>> Extract every line of text from ./invoice-jp.png

# Step 4 — Send an image through the API
# Encode the image first:  base64 -i scan.png   (macOS)
curl http://localhost:11434/api/generate -d '{
  "model": "qwen3-vl:8b",
  "prompt": "Extract every line of text from this document. Preserve line breaks.",
  "images": ["<base64-encoded-image>"],
  "stream": false
}'

# Step 5 — Verify multilingual OCR
ollama run qwen3-vl:8b
>>> Extract all text from this image: ./contract-zh.png

LM StudioでのQwenビジョンモデルのセットアップ

1. 1
   LM Studioをダウンロードしてインストールする
   Why it matters: ローカルモデル推論用のクロスプラットフォームGUIです。ターミナルは不要です。
2. 2
   Qwenのビジョンモデルを検索する
   Why it matters: モデルブラウザで「Qwen3-VL」または「Qwen2.5-VL」を検索し、モデルカードでビジョン対応と記載されたビルドを選びます。量子化はメモリに合わせます。
3. 3
   モデルをロードして画像を添付する
   Why it matters: チャット入力欄の画像ボタンから写真やスキャンをアップロードします。LM Studioが画像をビジョンエンコーダーに渡します。
4. 4
   ローカルサーバーを起動する
   Why it matters: 「Start Server」でlocalhost:1234にOpenAI互換APIが公開されます。ビジョンのリクエストには標準のimage_urlコンテンツ形式を使います。

// LM Studio — OpenAI-compatible vision request (localhost:1234)
{
  "model": "<model-id-shown-in-LM-Studio>",
  "messages": [
    {
      "role": "user",
      "content": [
        { "type": "text", "text": "Extract all text from this document." },
        {
          "type": "image_url",
          "image_url": { "url": "data:image/png;base64,<base64-encoded-image>" }
        }
      ]
    }
  ]
}

中国語・日本語・多言語混在ドキュメントのOCR

• プレーンテキストの抽出：「この画像のすべての行のテキストを抽出してください。改行と読み順を保持してください。」
• 構造化フィールド：「これは日本の請求書です。取引先、日付、小計、税額、合計をkey: value形式で返してください。」
• 表の抽出：「この表をCSVで抽出してください。1行目をヘッダーとして扱ってください。」
• 抽出と翻訳を一度に：「この画像から中国語のテキストを抽出し、英語に翻訳してください。両方を表示してください。」

# Japanese invoice -> structured fields
ollama run qwen3-vl:8b
>>> This is a Japanese invoice. Extract vendor name, invoice date,
    subtotal, consumption tax, and total. Return as key: value pairs.
    ./invoice-jp.png

# Illustrative output format (not a measured result):
# vendor: <vendor name>
# date: <invoice date>
# subtotal: <amount> JPY
# tax: <amount> JPY
# total: <amount> JPY

画像Q&A・スクリーンショット分析・グラフの読み取り

• 画像Q&A：写真について「この画像には何が写っていますか？」のように自由に質問し、回答を画像と照らして確認します。
• スクリーンショットとUIの分析：まずUIのスクリーンショット、エラーダイアログ、アプリの状態の読み取りから始めます。両モデルのカードにはGUIエージェント機能の記載もありますが、本ガイドでは扱いません。
• グラフの読み取り：グラフの構造や傾向の説明は得意ですが、正確な数値の抽出は不得意です。正確な値は元データで確認してください。
• 複数画像の比較：1回のリクエストで複数の画像を送り、バージョンの比較やまとめての説明ができます。送れる枚数はメモリとコンテキストサイズに依存します。

Qwen2-VL・Qwen2.5-VL・Qwen3-VLの比較

ローカルのQwenビジョンモデルをPromptQuorumに接続する

Qwenビジョンモデルのトラブルシューティング

• 「pull model manifest: file does not exist」や不明なモデル：そのタグは公式ライブラリにありません。`qwen2-vl:7b`は利用できないため、`ollama pull qwen3-vl:8b`または`ollama pull qwen2.5vl:7b`を使ってください。
• 取得は成功したがモデルが読み込めない：Ollamaを更新してください。Qwen2.5-VLは0.7.0以降、Qwen3-VLは0.12.7以降が必要です。
• 画像が無視され、画像がないかのように回答される：ファイルパスが正しく読み取り可能か確認してください。OllamaのAPIでは、`images`配列にdata:プレフィックスなしの生のbase64を入れます。`data:`プレフィックスはLM StudioとOpenAIの形式専用です。
• CJK文字が文字化け・欠落する：スキャンの解像度が低すぎる可能性があります。150〜300DPIで再スキャンして結果を比較してください。
• メモリ不足：より小さいタグ（例：`qwen3-vl:4b`や`qwen2.5vl:3b`）にする、コンテキストサイズや画像解像度を下げる、またはCPUとGPUでユニファイドメモリを共有するApple Siliconを使います。
• 請求書やグラフから誤った数値が抽出される：ノイズの多い入力では数字を読み違えることがあります。スキャン品質を上げ、数値の出力は必ず原本と照合してください。
• PDFが読み込めない：OllamaのAPIは画像を受け付け、PDFファイルは受け付けません。ページをまずPNGまたはJPEGに変換し（pdf2imageやpypdfium2を使用）、各ページを別々の画像として送信します。
• LM Studioに「failed to load model」と表示される：メモリ不足か、ビジョン非対応のビルドをダウンロードした可能性があります。モデルカードでビジョン対応を確認し、小さい量子化を試してください。

関連記事

• Qwen 3をローカルで動かす方法 — テキストモデル版：Qwen言語モデルのOllamaとLM Studioでのセットアップ。
• ローカルビジョンモデルの比較：LLaVA、Llama 3.2 Vision、MiniCPM-V — 他のローカルビジョンモデルの全体像。
• マルチモーダルなローカルLLM：画像・音声・テキスト — マルチモーダルモデルをローカルで動かすための幅広い概要。
• Qwen vs Llama vs Mistral — Qwenのテキストモデルと他の選択肢の比較。
• ローカルLLMハードウェアガイド — ローカル推論に必要なVRAMとGPU。
• ローカルLLMガイド一覧

よくある質問