Implantação Local do Qwen3: Guia Completo de Produção (2026)

Desempenho dos modelos Qwen por hardware — Maio de 2026

Configuração do servidor API com Docker — Ollama + Open WebUI + Nginx

1. 1
   Instale o Docker e o Docker Compose
   Why it matters: Os contêineres mantêm o Qwen isolado do seu sistema operacional — sem conflitos de ambientes Python, atualizações simples.
2. 2
   Crie o docker-compose.yml com os serviços Ollama + Open WebUI
   Why it matters: O arquivo compose gerencia o passthrough de GPU, o mapeamento de portas e as políticas de reinício em um único lugar.
3. 3
   Defina OLLAMA_HOST=0.0.0.0 no ambiente do contêiner do Ollama
   Why it matters: Sem isso, o Ollama escuta apenas no localhost e não aceitará requisições de API de outros contêineres ou hosts.
4. 4
   Baixe o seu modelo Qwen: docker exec ollama ollama pull qwen3:8b
   Why it matters: Os modelos são armazenados em um volume Docker para que persistam entre reinícios do contêiner.
5. 5
   Adicione o Nginx como API gateway com autenticação básica para implantações públicas
   Why it matters: Expor o Ollama diretamente à internet sem autenticação permite que qualquer pessoa execute inferência na sua GPU.
6. 6
   Defina a política de reinício do contêiner como unless-stopped
   Why it matters: Isso garante que o seu servidor Qwen sobreviva aos reinícios do sistema — fundamental para implantações em mini PC sempre ativos.

version: "3.8"
services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: unless-stopped
    ports:
      - "11434:11434"
    environment:
      - OLLAMA_HOST=0.0.0.0
      - OLLAMA_KEEP_ALIVE=-1
    volumes:
      - ollama_data:/root/.ollama
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: unless-stopped
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - open_webui_data:/app/backend/data
    depends_on:
      - ollama

volumes:
  ollama_data:
  open_webui_data:

Configuração multi-GPU para o Qwen2.5-72B

• O Ollama divide o modelo automaticamente entre todas as GPUs disponíveis — defina CUDA_VISIBLE_DEVICES=0,1 no ambiente do compose para mirar placas específicas
• Para duas RTX 4090, ambas devem estar no mesmo nível de largura de banda PCIe — uma placa B650 ou Z790 com dois slots PCIe Gen 4 x8 é o mínimo
• O NVLink entre duas RTX 4090 não tem suporte oficial da NVIDIA em placas de consumo, mas funciona em pares de RTX 4090 Founders Edition por meio de bridges NVLink de terceiros — adiciona ~15% de vazão
• O vLLM é um motor de inferência alternativo que usa paralelismo tensorial para uma utilização multi-GPU mais eficiente — use o vLLM em vez do Ollama para cargas sustentadas de inferência 70B acima de 100 requisições simultâneas
• Para uso ocasional do Qwen2.5-72B, a RunPod A40 48 GB a US$ 0,44/h é mais barata do que um build com duas RTX 4090 (US$ 3.800+)

# vLLM multi-GPU alternative (better for high-traffic 72B)
docker run --gpus all \
  -p 8000:8000 \
  -e VLLM_WORKER_MULTIPROC_METHOD=spawn \
  vllm/vllm-openai:latest \
  --model Qwen/Qwen2.5-72B-Instruct \
  --tensor-parallel-size 2 \
  --max-model-len 32768 \
  --quantization awq

Configuração da API em produção

• OLLAMA_KEEP_ALIVE=-1 — evita que o modelo seja descarregado após inatividade (o padrão é 5 minutos, fatal para implantações de servidor)
• OLLAMA_NUM_PARALLEL=4 — permite até 4 requisições de inferência simultâneas; aumente esse valor se tiver margem de VRAM disponível
• OLLAMA_MAX_LOADED_MODELS=1 — mantenha apenas um modelo na VRAM por vez em builds de GPU pequenas para evitar thrashing
• OLLAMA_FLASH_ATTENTION=1 — habilita o flash attention para uma melhoria de velocidade de 20–30% em GPUs NVIDIA Ampere/Ada (RTX 3060 e mais novas)
• OLLAMA_GPU_OVERHEAD=512 — reserva 512 MB de VRAM para a sobrecarga do SO e dos drivers; reduz as falhas por OOM em placas com exatamente 8 ou 16 GB

Comparação de custos: self-hosted vs Alibaba Cloud vs RunPod

Recomendações de hardware para servidor Qwen sempre ativo

• Econômico (inferência em CPU com Qwen3 8B): Minisforum UM890 Pro — AMD Ryzen 9 8945HS, 32 GB DDR5, 512 GB NVMe. ~US$ 429 novo. O Qwen3 8B roda pelo backend de CPU do Ollama a 3–5 tok/s. Adequado para assistentes pessoais e resumo de documentos. 12W em repouso, 45W em carga. Muito silencioso. Enviado de armazéns nos EUA/UE.
• Recomendado (GPU Qwen3 14B): AOOSTAR GEM12 Pro OCuLink — suporta GPU externa pela porta OCuLink. Combine com uma RTX 4060 Ti 16 GB em enclosure eGPU (~US$ 340 GPU + US$ 100 enclosure). Total ~US$ 800. Roda o Qwen3 14B a 16–18 tok/s. Significativamente melhor do que o fallback de CPU para uso interativo.
• Usuário avançado (Qwen3 32B): desktop compacto ATX com RTX 4090 — exemplos: gabinete Fractal Node 804 (US$ 90), RTX 4090 (~US$ 1.900 preço atual), Ryzen 9 7950X (~US$ 600), 64 GB DDR5 (~US$ 180). Total ~US$ 2.800. Roda o Qwen3 32B a 10–14 tok/s de forma indefinida.

Veredicto: qual implantação usar conforme o tamanho do modelo

Guias relacionados

• Configuração básica do Qwen com Ollama (iniciantes): /pt/power-local-llm/run-qwen-locally-guide-2026
• Guia de compra de GPU para LLMs locais: /pt/power-local-llm/best-gpu-buying-guide-local-llm-2026
• Armazenamento NAS para arquivos de modelos: /pt/power-local-llm/best-nas-storage-local-ai-models-2026
• Comparação de GPU na nuvem (provedores ocidentais): /pt/power-local-llm/cloud-gpu-rental-guide-2026

Perguntas frequentes

Registro de atualizações

• 2026-05-26: Publicação inicial. Dados de benchmark de hardware de maio de 2026. Preços verificados na Newegg, Amazon e rastreadores do mercado de GPU.
• Próxima revisão programada: 2026-11-26