2026년 Qwen2-VL 로컬 실행 방법: 문서 OCR 및 비전 가이드

Qwen2-VL이 다국어 OCR에서 로컬 비전 모델을 선도하는 이유

Qwen2-VL 모델 크기 선택

Qwen2-VL 하드웨어 요구 사항

• 최소 사양 (Qwen2-VL 7B Q4): 8 GB VRAM GPU — NVIDIA RTX 4060, RTX 3060 12 GB, 또는 RTX 2080.
• 저 VRAM 옵션 (Qwen2-VL 2B Q4): 4 GB VRAM — 대부분의 노트북 GPU 및 통합 Apple Silicon에서 실행 가능.
• 최고 품질 (Qwen2-VL 72B Q4): ~48 GB — 64 GB 이상 통합 메모리의 Apple Silicon, 또는 24 GB GPU 두 개.
• Apple Silicon: 16 GB 이상 통합 메모리의 M 시리즈 칩은 7B 모델을 원활히 실행; 72B에는 64 GB 이상 필요.
• 시스템 RAM: GPU 추론과 함께 최소 16 GB; 전체 개발 환경이 열려 있을 때 32 GB 권장.
• 저장 공간: Qwen2-VL 7B Q4 (GGUF)용 약 6 GB, 72B용 약 30 GB의 여유 디스크 공간.

Ollama로 Qwen2-VL 설정

1. 1
   Ollama 설치
   Why it matters: Ollama는 모델 다운로드, GGUF 형식, 로컬 API를 처리합니다. macOS, Linux, Windows에서 사용 가능합니다.
2. 2
   명시적 크기 태그로 Qwen2-VL 다운로드
   Why it matters: qwen2-vl:7b를 사용하십시오. 태그 없는 qwen2-vl은 다른 크기로 해석될 수 있습니다 — 항상 2b, 7b, 또는 72b를 지정하여 이 가이드에서 대상으로 하는 모델을 받으십시오.
3. 3
   모델 실행 및 이미지 첨부
   Why it matters: 대화형 모드에서 프롬프트에 이미지 파일 경로를 입력하십시오. Ollama가 경로를 감지하여 이미지를 비전 인코더에 로드합니다.
4. 4
   API를 통한 이미지 전송
   Why it matters: /api/generate 엔드포인트는 base64로 인코딩된 images 배열을 수신합니다. 이것이 애플리케이션 — 및 PromptQuorum — 이 이미지를 프로그래밍 방식으로 전송하는 방법입니다.
5. 5
   다국어 OCR 확인
   Why it matters: 중국어 또는 일본어 문서 스캔을 전송하고 추출된 텍스트가 일치하는지 확인하십시오. 이를 통해 비전 인코더와 토크나이저가 CJK 스크립트를 올바르게 처리하는지 확인한 후 구축을 진행할 수 있습니다.

# Step 1 — Install Ollama
# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows — download from https://ollama.com/download

# Step 2 — Pull Qwen2-VL 7B (explicit size tag)
ollama pull qwen2-vl:7b
# Downloads Qwen2-VL 7B Q4_K_M (~6 GB)

# Step 3 — Run and attach an image (interactive)
ollama run qwen2-vl:7b
>>> Extract every line of text from ./invoice-jp.png

# Step 4 — Send an image through the API
# Encode the image first:  base64 -i scan.png   (macOS)
curl http://localhost:11434/api/generate -d '{
  "model": "qwen2-vl:7b",
  "prompt": "Extract every line of text from this document. Preserve line breaks.",
  "images": ["<base64-encoded-image>"],
  "stream": false
}'

# Step 5 — Verify multilingual OCR
ollama run qwen2-vl:7b
>>> Extract all text from this image: ./contract-zh.png

LM Studio로 Qwen2-VL 설정

1. 1
   LM Studio 다운로드 및 설치
   Why it matters: 로컬 모델 추론을 위한 무료 크로스 플랫폼 GUI. 터미널이 필요 없습니다.
2. 2
   모델 브라우저에서 Qwen2-VL 검색
   Why it matters: "Qwen2-VL 7B"를 검색하고 Q4_K_M GGUF 빌드를 선택하십시오. LM Studio는 비전 지원 모델에 이미지 아이콘을 표시합니다.
3. 3
   모델 로드 및 이미지 첨부
   Why it matters: 채팅 입력의 이미지 아이콘을 클릭하여 사진이나 스캔을 업로드하십시오. LM Studio가 이를 비전 인코더에 전달합니다.
4. 4
   로컬 서버 시작
   Why it matters: "Start Server" 버튼을 누르면 localhost:1234에 OpenAI 호환 API가 노출됩니다. 비전 요청은 표준 image_url 콘텐츠 형식을 사용합니다.

// LM Studio — OpenAI-compatible vision request (localhost:1234)
{
  "model": "qwen2-vl-7b",
  "messages": [
    {
      "role": "user",
      "content": [
        { "type": "text", "text": "Extract all text from this document." },
        {
          "type": "image_url",
          "image_url": { "url": "data:image/png;base64,<base64-encoded-image>" }
        }
      ]
    }
  ]
}

중국어, 일본어, 혼합 언어 파일 문서 OCR

• 일반 텍스트 추출: "이 이미지의 모든 텍스트 줄을 추출하십시오. 줄 바꿈과 읽기 순서를 유지하십시오."
• 구조화된 필드: "이것은 일본어 청구서입니다. 공급업체, 날짜, 소계, 세금, 합계를 key: value 쌍으로 반환하십시오."
• 테이블 추출: "이 테이블을 CSV로 추출하십시오. 첫 번째 행을 헤더로 처리하십시오."
• 한 번에 추출 및 번역: "이 이미지에서 중국어 텍스트를 추출한 후 영어로 번역하십시오. 둘 다 표시하십시오."

# Japanese invoice -> structured fields
ollama run qwen2-vl:7b
>>> This is a Japanese invoice. Extract vendor name, invoice date,
    subtotal, consumption tax, and total. Return as key: value pairs.
    ./invoice-jp.png

# Example output:
# vendor: Sample Trading Co., Ltd.
# date: 2026-04-30
# subtotal: 84,000 JPY
# tax: 8,400 JPY
# total: 92,400 JPY

이미지 Q&A, 스크린샷 분석, 차트 읽기

• 이미지 Q&A: 사진에 대한 개방형 질문 — "이 이미지에 무엇이 있습니까?", "빨간색을 입은 사람은 몇 명입니까?". Qwen2-VL 7B는 명확한 사진에서 정확하며, 복잡하거나 모호한 장면에서는 다소 약합니다.
• 스크린샷 및 UI 분석: Qwen2-VL은 UI 스크린샷, 오류 대화 상자, 앱 상태를 읽습니다. 고밀도 코드 스크린샷의 경우 InternVL 2.5가 해당 데이터에 더 집중적으로 훈련되었으므로, UI 및 코드가 주요 작업인 경우 이를 사용하십시오.
• 차트 및 그래프 읽기: Qwen2-VL은 차트 구조와 추세를 잘 설명하지만, 차트에서 정확한 수치를 추출하는 것은 모든 로컬 비전 모델에서 신뢰할 수 없습니다. 정확한 수치는 기저 데이터와 대조하여 확인하십시오.
• 비디오 프레임: Qwen2-VL은 여러 프레임을 시퀀스로 수신합니다 — 초당 약 1 프레임을 샘플링하여 짧은 클립을 요약하기 위해 최대 8개를 전송하십시오.
• 다중 이미지 비교: 한 번의 요청에 최대 8개의 이미지를 전송하여 버전을 비교하거나, 차이를 찾거나, 세트를 일괄 설명하십시오.

모델 비교: Qwen2-VL vs LLaVA vs Llama 3.2 Vision

PromptQuorum에 로컬 Qwen2-VL 연결

# PromptQuorum dispatch config — local Qwen2-VL via Ollama
# Set in your .env or the PromptQuorum settings panel

OLLAMA_BASE_URL=http://localhost:11434/v1
LOCAL_VISION_MODEL=qwen2-vl:7b

# Example routing rules:
# - task_type: ocr / image  -> qwen2-vl:7b        (local Ollama, no cloud upload)
# - task_type: text         -> claude-sonnet-4-6  (Anthropic API, separate config)

Qwen2-VL 문제 해결

• "unknown model" 오류 또는 다운로드 실패: 명시적 크기 태그를 사용하십시오 — `qwen2-vl`이 아닌 `ollama pull qwen2-vl:7b`. 설치된 이름을 확인하려면 `ollama list`를 실행하십시오.
• 이미지가 무시되고 이미지 없이 답변하는 경우: 파일 경로가 올바르고 읽기 가능한지 확인하십시오. Ollama API에서 `images` 배열은 `data:` 접두사 없이 원시 base64를 포함해야 합니다 — `data:` 접두사는 LM Studio 및 OpenAI 형식에만 해당합니다.
• 깨지거나 누락된 CJK 문자: 스캔 해상도가 너무 낮습니다. 150–300 DPI로 재스캔하십시오. Qwen2-VL은 4096×4096까지 읽으므로 높은 입력 해상도가 중국어 및 일본어 정확도를 직접적으로 향상시킵니다.
• CUDA out of memory: 모델이 VRAM에 맞지 않습니다. Qwen2-VL 2B (~3 GB)로 내려가거나, CPU와 GPU 간에 통합 메모리를 공유하는 Apple Silicon에서 실행하십시오.
• 첫 번째 응답은 느리고 이후는 빠른 경우: 정상입니다. 비전 인코더가 첫 번째 토큰에서 전체 이미지를 처리하며, 이후 텍스트는 거의 정상 속도로 생성됩니다.
• 청구서나 차트에서 잘못된 숫자 추출: 로컬 비전 모델은 노이즈가 많은 입력에서 숫자를 잘못 읽습니다. 스캔 품질을 높이고 항상 수치 출력을 원본과 대조하여 확인하십시오.
• PDF가 로드되지 않는 경우: 어떤 로컬 비전 모델도 PDF를 직접 수신하지 않습니다. pdf2image 또는 pypdfium2를 사용하여 페이지를 PNG 또는 JPEG로 변환한 후 각 페이지를 별도의 이미지로 전송하십시오.
• LM Studio에서 "failed to load model" 표시: VRAM 부족이거나 비전이 아닌 GGUF를 다운로드했습니다. 모델 카드에 비전 지원이 명시되어 있는지 확인하고 Q4_K_M 빌드를 선택하십시오.

관련 자료

• Qwen 3 로컬 실행 방법 — 텍스트 모델 동반 가이드: Qwen 3 언어 모델을 위한 Ollama 및 LM Studio 설정.
• 로컬 비전 모델 비교: LLaVA, Llama 3.2 Vision, MiniCPM-V — 벤치마크와 함께 모든 로컬 비전 모델의 전체 조사.
• 다중 모달 로컬 LLM: 비전, 오디오, 텍스트 — 멀티모달 모델을 로컬로 실행하는 것에 대한 광범위한 개요.
• Qwen vs Llama vs Mistral — Qwen 텍스트 모델과 대안 모델 비교.
• 로컬 LLM 하드웨어 가이드 2026 — 로컬 추론을 위한 VRAM 및 GPU 요구 사항.
• 모든 로컬 LLM 가이드 보기

자주 묻는 질문