Qwen2-VLをローカル実行 2026：ドキュメントOCRと画像認識ガイド

なぜQwen2-VLは多言語OCRでローカルvisionモデルの中で優れているのか

Qwen2-VLのモデルサイズを選ぶ

Qwen2-VLのハードウェア要件

• 最小（Qwen2-VL 7B Q4）：8 GB VRAMのGPU — NVIDIA RTX 4060、RTX 3060 12 GB、またはRTX 2080。
• VRAMが少ない場合の選択肢（Qwen2-VL 2B Q4）：4 GB VRAM — ほとんどのノートPCのGPUや内蔵Apple Siliconで動作します。
• 最高品質（Qwen2-VL 72B Q4）：約48 GB — 64 GB以上のユニファイドメモリを備えたApple Silicon、または24 GBのGPU 2基。
• Apple Silicon：16 GB以上のユニファイドメモリを備えたM-seriesチップは7Bモデルを問題なく実行します。72Bモデルには64 GB以上が必要です。
• システムRAM：GPU推論と並行して最低16 GB。完全な開発環境を開いた状態では32 GBを推奨します。
• ストレージ：Qwen2-VL 7B Q4（GGUF）に約6 GB、72Bに約30 GBの空き容量。

Qwen2-VLをOllamaでセットアップする

1. 1
   Ollamaをインストールする
   Why it matters: Ollamaはモデルのダウンロード、GGUF形式、ローカルAPIを処理します。macOS、Linux、Windowsで利用できます。
2. 2
   明示的なサイズタグでQwen2-VLを取得する
   Why it matters: qwen2-vl:7bを使用してください。タグなしのqwen2-vlは別のサイズに解決されることがあります — このガイドが対象とするモデルを取得するため、必ず2b、7b、72bを指定してください。
3. 3
   モデルを実行して画像を添付する
   Why it matters: インタラクティブモードでは、プロンプト内に画像ファイルのパスを入力します。Ollamaがパスを検出し、画像をvisionエンコーダに読み込みます。
4. 4
   API経由で画像を送信する
   Why it matters: /api/generateエンドポイントはbase64エンコードされたimages配列を受け付けます。アプリケーション — そしてPromptQuorum — はこの方法でプログラムから画像を送信します。
5. 5
   多言語OCRを検証する
   Why it matters: 中国語または日本語のドキュメントスキャンを送信し、抽出されたテキストが一致するか確認します。これにより、その上に構築する前に、visionエンコーダとトークナイザがCJK文字を正しく処理することを確認できます。

# Step 1 — Install Ollama
# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows — download from https://ollama.com/download

# Step 2 — Pull Qwen2-VL 7B (explicit size tag)
ollama pull qwen2-vl:7b
# Downloads Qwen2-VL 7B Q4_K_M (~6 GB)

# Step 3 — Run and attach an image (interactive)
ollama run qwen2-vl:7b
>>> Extract every line of text from ./invoice-jp.png

# Step 4 — Send an image through the API
# Encode the image first:  base64 -i scan.png   (macOS)
curl http://localhost:11434/api/generate -d '{
  "model": "qwen2-vl:7b",
  "prompt": "Extract every line of text from this document. Preserve line breaks.",
  "images": ["<base64-encoded-image>"],
  "stream": false
}'

# Step 5 — Verify multilingual OCR
ollama run qwen2-vl:7b
>>> Extract all text from this image: ./contract-zh.png

Qwen2-VLをLM Studioでセットアップする

1. 1
   LM Studioをダウンロードしてインストールする
   Why it matters: ローカルモデル推論のための無料・クロスプラットフォームのGUIです。ターミナルは不要です。
2. 2
   モデルブラウザでQwen2-VLを検索する
   Why it matters: 「Qwen2-VL 7B」を検索し、Q4_K_M GGUFビルドを選択します。LM Studioはvision対応モデルを画像アイコンで示します。
3. 3
   モデルを読み込んで画像を添付する
   Why it matters: 入力欄の画像アイコンをクリックして写真やスキャンをアップロードします。LM Studioがそれをvisionエンコーダに渡します。
4. 4
   ローカルサーバーを起動する
   Why it matters: 「Start Server」ボタンはlocalhost:1234でOpenAI互換APIを公開します。visionリクエストは標準のimage_urlコンテンツ形式を使用します。

// LM Studio — OpenAI-compatible vision request (localhost:1234)
{
  "model": "qwen2-vl-7b",
  "messages": [
    {
      "role": "user",
      "content": [
        { "type": "text", "text": "Extract all text from this document." },
        {
          "type": "image_url",
          "image_url": { "url": "data:image/png;base64,<base64-encoded-image>" }
        }
      ]
    }
  ]
}

中国語・日本語・多言語混在ファイルのドキュメントOCR

• プレーンテキストの抽出：「この画像からすべてのテキスト行を抽出してください。改行と読み順を保持してください。」
• 構造化フィールド：「これは日本語の請求書です。取引先、日付、小計、税額、合計をkey: valueのペアで返してください。」
• 表の抽出：「この表をCSVとして抽出してください。1行目をヘッダーとして扱ってください。」
• 抽出と翻訳を1回で：「この画像から中国語のテキストを抽出し、それを英語に翻訳してください。両方を表示してください。」

# Japanese invoice -> structured fields
ollama run qwen2-vl:7b
>>> This is a Japanese invoice. Extract vendor name, invoice date,
    subtotal, consumption tax, and total. Return as key: value pairs.
    ./invoice-jp.png

# Example output:
# vendor: Sample Trading Co., Ltd.
# date: 2026-04-30
# subtotal: 84,000 JPY
# tax: 8,400 JPY
# total: 92,400 JPY

画像Q&A、スクリーンショット分析、グラフの読み取り

• 画像Q&A：写真について自由な質問ができます — 「この画像には何が写っていますか？」「赤い服を着ている人は何人ですか？」。Qwen2-VL 7Bは鮮明な写真には正確で、雑然とした、または曖昧なシーンには弱くなります。
• スクリーンショット・UI分析：Qwen2-VLはUIのスクリーンショット、エラーダイアログ、アプリの状態を読み取ります。特に密度の高いコードのスクリーンショットについては、InternVL 2.5がそのデータでより重点的に学習されています — UIやコードが主な用途であればそちらを使用してください。
• グラフ・図の読み取り：Qwen2-VLはグラフの構造や傾向をうまく説明しますが、グラフから取り出した正確な数値はどのローカルvisionモデルでも信頼できません。正確な数値は元データと照合してください。
• 動画フレーム：Qwen2-VLは複数のフレームをシーケンスとして受け付けます — 1秒あたり約1フレームを抽出し、最大8枚を送信して短いクリップを要約できます。
• 複数画像の比較：1リクエストで最大8枚の画像を送信し、バージョンの比較、相違点の発見、セットの一括説明ができます。

Qwen2-VL対LLaVA対Llama 3.2 Vision

ローカルのQwen2-VLをPromptQuorumに接続する

# PromptQuorum dispatch config — local Qwen2-VL via Ollama
# Set in your .env or the PromptQuorum settings panel

OLLAMA_BASE_URL=http://localhost:11434/v1
LOCAL_VISION_MODEL=qwen2-vl:7b

# Example routing rules:
# - task_type: ocr / image  -> qwen2-vl:7b        (local Ollama, no cloud upload)
# - task_type: text         -> claude-sonnet-4-6  (Anthropic API, separate config)

Qwen2-VLのトラブルシューティング

• 「unknown model」またはpullが失敗する：明示的なサイズタグを使用してください — `qwen2-vl`ではなく `ollama pull qwen2-vl:7b`。`ollama list` を実行してインストール済みの名前を確認してください。
• 画像が無視され、画像が送信されていないかのようにモデルが応答する：ファイルパスが正しく、読み取り可能か確認してください。Ollama APIでは、`images`配列に `data:` プレフィックス *なし* の生のbase64を入れる必要があります — `data:` プレフィックスはLM StudioとOpenAIの形式のみです。
• CJK文字が文字化けする、または欠落する：スキャンの解像度が低すぎます。150～300 DPIで再スキャンしてください。Qwen2-VLは最大4096×4096を読み取るため、入力解像度を上げると中国語と日本語の精度が直接向上します。
• CUDAのメモリ不足（out of memory）：モデルがVRAMに収まりません。Qwen2-VL 2B（約3 GB）に切り替えるか、CPUとGPUでユニファイドメモリを共有するApple Siliconで実行してください。
• 最初の応答が遅く、その後速くなる：これは正常です。visionエンコーダは最初のトークンで画像全体を処理し、その後テキストはほぼ通常の速度で生成されます。
• 請求書やグラフから誤った数値が抽出される：ローカルvisionモデルは、ノイズの多い入力で数字を読み間違えます。スキャン品質を上げ、数値の出力は必ず元データと照合してください。
• PDFが読み込めない：PDFを直接受け付けるローカルvisionモデルはありません。まずページをPNGまたはJPEGに変換し（pdf2imageやpypdfium2など）、各ページを別々の画像として送信してください。
• LM Studioが「failed to load model」と表示する：VRAM不足か、vision非対応のGGUFをダウンロードしたかのいずれかです。モデルカードにvision対応の記載があるか確認し、Q4_K_Mビルドを選択してください。

関連記事

• Qwen 3をローカルで実行する方法 — テキストモデル版の対応記事：Qwen 3をOllamaとLM Studioでセットアップする方法。
• ローカルvisionモデルの比較：LLaVA、Llama 3.2 Vision、MiniCPM-V — 各ローカルvisionモデルの完全な総まとめ、ベンチマーク付き。
• マルチモーダルなローカルLLM：vision、音声、テキスト — マルチモーダルモデルをローカルで実行する全体像。
• Qwen対Llama対Mistral — Qwenのテキストモデルが代替モデルとどう比較されるか。
• ローカルLLMハードウェアガイド 2026 — ローカル推論のためのVRAMとGPUの要件。
• すべてのローカルLLMガイドを見る

FAQ