Exécuter Qwen2-VL en local en 2026 : guide OCR et vision

Pourquoi Qwen2-VL domine les modèles de vision locaux pour l'OCR multilingue

Choisir la taille de votre modèle Qwen2-VL

Configuration matérielle requise pour Qwen2-VL

• Minimum (Qwen2-VL 7B Q4) : GPU avec 8 GB de VRAM — NVIDIA RTX 4060, RTX 3060 12 GB ou RTX 2080.
• Option à faible VRAM (Qwen2-VL 2B Q4) : 4 GB de VRAM — fonctionne sur la plupart des GPU d'ordinateurs portables et sur Apple Silicon intégré.
• Qualité maximale (Qwen2-VL 72B Q4) : ~48 GB — Apple Silicon avec 64 GB+ de mémoire unifiée, ou deux GPU de 24 GB.
• Apple Silicon : une puce M-series avec 16 GB+ de mémoire unifiée exécute le modèle 7B sans difficulté ; 64 GB+ sont nécessaires pour le 72B.
• Mémoire système : 16 GB minimum en parallèle de l'inférence GPU ; 32 GB recommandés avec un environnement de développement complet ouvert.
• Stockage : ~6 GB d'espace disque libre pour Qwen2-VL 7B Q4 (GGUF), ~30 GB pour le 72B.

Installer Qwen2-VL avec Ollama

1. 1
   Installer Ollama
   Why it matters: Ollama gère le téléchargement du modèle, le format GGUF et l'API locale. Il est disponible pour macOS, Linux et Windows.
2. 2
   Télécharger Qwen2-VL avec un tag de taille explicite
   Why it matters: Utilisez qwen2-vl:7b. Le tag qwen2-vl seul peut renvoyer une autre taille — indiquez toujours 2b, 7b ou 72b pour obtenir le modèle visé par ce guide.
3. 3
   Exécuter le modèle et joindre une image
   Why it matters: En mode interactif, indiquez le chemin du fichier image dans votre requête. Ollama détecte le chemin et charge l'image dans l'encodeur de vision.
4. 4
   Envoyer des images via l'API
   Why it matters: Le point de terminaison /api/generate accepte un tableau images encodé en base64. C'est ainsi que les applications — et PromptQuorum — envoient des images par programmation.
5. 5
   Vérifier l'OCR multilingue
   Why it matters: Envoyez un scan de document chinois ou japonais et vérifiez que le texte extrait correspond. Cela confirme que l'encodeur de vision et le tokeniseur traitent correctement l'écriture CJK avant d'aller plus loin.

# Step 1 — Install Ollama
# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows — download from https://ollama.com/download

# Step 2 — Pull Qwen2-VL 7B (explicit size tag)
ollama pull qwen2-vl:7b
# Downloads Qwen2-VL 7B Q4_K_M (~6 GB)

# Step 3 — Run and attach an image (interactive)
ollama run qwen2-vl:7b
>>> Extract every line of text from ./invoice-jp.png

# Step 4 — Send an image through the API
# Encode the image first:  base64 -i scan.png   (macOS)
curl http://localhost:11434/api/generate -d '{
  "model": "qwen2-vl:7b",
  "prompt": "Extract every line of text from this document. Preserve line breaks.",
  "images": ["<base64-encoded-image>"],
  "stream": false
}'

# Step 5 — Verify multilingual OCR
ollama run qwen2-vl:7b
>>> Extract all text from this image: ./contract-zh.png

Installer Qwen2-VL avec LM Studio

1. 1
   Télécharger et installer LM Studio
   Why it matters: Une interface graphique gratuite et multiplateforme pour l'inférence de modèles en local. Aucun terminal requis.
2. 2
   Rechercher Qwen2-VL dans le navigateur de modèles
   Why it matters: Recherchez « Qwen2-VL 7B » et sélectionnez une variante GGUF Q4_K_M. LM Studio signale les modèles compatibles vision par une icône d'image.
3. 3
   Charger le modèle et joindre une image
   Why it matters: Cliquez sur l'icône d'image dans le champ de saisie pour téléverser une photo ou un scan. LM Studio le transmet à l'encodeur de vision.
4. 4
   Démarrer le serveur local
   Why it matters: Le bouton « Start Server » expose une API compatible OpenAI sur localhost:1234. Les requêtes de vision utilisent le format de contenu image_url standard.

// LM Studio — OpenAI-compatible vision request (localhost:1234)
{
  "model": "qwen2-vl-7b",
  "messages": [
    {
      "role": "user",
      "content": [
        { "type": "text", "text": "Extract all text from this document." },
        {
          "type": "image_url",
          "image_url": { "url": "data:image/png;base64,<base64-encoded-image>" }
        }
      ]
    }
  ]
}

OCR de documents pour les fichiers en chinois, japonais et multilingues

• Extraction de texte brut : « Extrais chaque ligne de texte de cette image. Conserve les sauts de ligne et l'ordre de lecture. »
• Champs structurés : « Ceci est une facture japonaise. Renvoie le fournisseur, la date, le sous-total, la taxe et le total sous forme de paires key: value. »
• Extraction de tableau : « Extrais ce tableau au format CSV. Considère la première ligne comme l'en-tête. »
• Extraire et traduire en une passe : « Extrais le texte chinois de cette image, puis traduis-le en anglais. Affiche les deux. »

# Japanese invoice -> structured fields
ollama run qwen2-vl:7b
>>> This is a Japanese invoice. Extract vendor name, invoice date,
    subtotal, consumption tax, and total. Return as key: value pairs.
    ./invoice-jp.png

# Example output:
# vendor: Sample Trading Co., Ltd.
# date: 2026-04-30
# subtotal: 84,000 JPY
# tax: 8,400 JPY
# total: 92,400 JPY

Questions-réponses sur image, analyse de captures d'écran et lecture de graphiques

• Q&R sur image : posez des questions ouvertes sur une photo — « Qu'y a-t-il sur cette image ? », « Combien de personnes portent du rouge ? ». Qwen2-VL 7B est précis sur les photos nettes, plus faible sur les scènes encombrées ou ambiguës.
• Analyse de captures d'écran et d'interfaces : Qwen2-VL lit les captures d'interface, les boîtes de dialogue d'erreur et les états d'application. Pour les captures de code denses en particulier, InternVL 2.5 est davantage entraîné sur ces données — utilisez-le si votre charge de travail principale concerne les interfaces et le code.
• Lecture de graphiques : Qwen2-VL décrit bien la structure et les tendances d'un graphique, mais les valeurs numériques précises tirées de graphiques sont peu fiables sur tous les modèles de vision locaux. Vérifiez les chiffres exacts par rapport aux données sous-jacentes.
• Images de vidéo : Qwen2-VL accepte plusieurs images comme séquence — échantillonnez environ une image par seconde et envoyez-en jusqu'à 8 pour résumer un court extrait.
• Comparaison multi-images : envoyez jusqu'à 8 images en une requête pour comparer des versions, repérer des différences ou décrire un lot.

Qwen2-VL vs LLaVA vs Llama 3.2 Vision

Connecter Qwen2-VL en local à PromptQuorum

# PromptQuorum dispatch config — local Qwen2-VL via Ollama
# Set in your .env or the PromptQuorum settings panel

OLLAMA_BASE_URL=http://localhost:11434/v1
LOCAL_VISION_MODEL=qwen2-vl:7b

# Example routing rules:
# - task_type: ocr / image  -> qwen2-vl:7b        (local Ollama, no cloud upload)
# - task_type: text         -> claude-sonnet-4-6  (Anthropic API, separate config)

Dépannage de Qwen2-VL

• « unknown model » ou le téléchargement échoue : utilisez un tag de taille explicite — `ollama pull qwen2-vl:7b`, pas `qwen2-vl`. Exécutez `ollama list` pour confirmer le nom installé.
• L'image est ignorée et le modèle répond comme si aucune image n'avait été envoyée : vérifiez que le chemin du fichier est correct et lisible. Dans l'API Ollama, le tableau `images` doit contenir du base64 brut *sans* le préfixe `data:` — le préfixe `data:` appartient uniquement au format LM Studio et OpenAI.
• Caractères CJK déformés ou manquants : le scan est de trop faible résolution. Re-scannez à 150–300 DPI. Qwen2-VL lit jusqu'à 4096×4096, donc une résolution d'entrée plus élevée améliore directement la précision du chinois et du japonais.
• Mémoire CUDA insuffisante (out of memory) : le modèle ne tient pas dans votre VRAM. Passez à Qwen2-VL 2B (~3 GB) ou exécutez-le sur Apple Silicon, qui partage la mémoire unifiée entre le CPU et le GPU.
• Première réponse lente, puis rapide : c'est normal. L'encodeur de vision traite l'image entière au premier token ; le texte se génère ensuite à une vitesse quasi normale.
• Nombres erronés extraits d'une facture ou d'un graphique : les modèles de vision locaux lisent mal les chiffres sur des entrées bruitées. Améliorez la qualité du scan et vérifiez toujours la sortie numérique par rapport à la source.
• Un PDF ne se charge pas : aucun modèle de vision local n'accepte le PDF directement. Convertissez d'abord les pages en PNG ou JPEG (avec pdf2image ou pypdfium2), puis envoyez chaque page comme image distincte.
• LM Studio affiche « failed to load model » : soit une VRAM insuffisante, soit vous avez téléchargé un GGUF sans prise en charge de la vision. Vérifiez que la fiche du modèle indique la prise en charge de la vision et choisissez la variante Q4_K_M.

Pour aller plus loin

• Comment exécuter Qwen 3 en local — le pendant pour les modèles de texte : installation de Qwen 3 avec Ollama et LM Studio.
• Comparatif des modèles de vision locaux : LLaVA, Llama 3.2 Vision, MiniCPM-V — le panorama complet de chaque modèle de vision local, avec benchmarks.
• LLM multimodaux locaux : vision, audio et texte — vue d'ensemble plus large de l'exécution locale de modèles multimodaux.
• Qwen vs Llama vs Mistral — comment les modèles de texte Qwen se comparent aux alternatives.
• Guide du matériel pour LLM locaux 2026 — besoins en VRAM et en GPU pour l'inférence locale.
• Parcourir tous les guides sur les LLM locaux

FAQ