Key Takeaways
- Qwen 3.6 27B es la nueva recomendación insignia: denso, Apache 2.0, contexto 256K, ~17 GB de VRAM en Q4_K_M mediante `ollama run qwen3.6:27b` (lanzado en abril de 2026).
- Qwen3 8B funciona con 5,5 GB de VRAM — un solo comando `ollama pull qwen2.5:7b` y ya está en marcha a 57 tokens/seg en una RTX 3060.
- Cuatro subfamilias prácticas: Qwen3 (general, modo de razonamiento), Qwen2.5 (general, la más probada), Qwen2.5-Coder (programación, 92,7 % en HumanEval en 32B), Qwen2-VL (visión, mejor OCR CJK local).
- Arquitectura densa = compatible con hardware de consumo: a diferencia del modelo MoE de 236B de DeepSeek (~130 GB de RAM), Qwen2.5-72B cabe en 46 GB de VRAM en dos RTX 3090.
- Multilingüe nativo: preentrenado en chino, japonés, coreano, árabe, alemán, francés y 23 idiomas más — Qwen3 supera sistemáticamente a Llama 3.3 en tareas CJK.
- Q4_K_M es la cuantización correcta para la mayoría de usuarios: ~55 % de reducción de VRAM, menos del 1 % de pérdida de calidad en los benchmarks.
- Decisión de hardware: 12 GB de VRAM → modelo 14B; 24 GB → 32B; 48 GB+ (dos GPUs o Apple Silicon 64 GB) → 72B.
Qwen3 cubre tres subfamilias de despliegue local — uso general (7B–72B), programación (Coder 7B–32B) y visión (VL 7B–72B) — todas ejecutables mediante Ollama o LM Studio.
Ejecutar un modelo en local significa que la IA corre en tu propio ordenador en lugar de en un servidor en la nube. Ningún dato sale de tu máquina y no hay coste por token después de adquirir el hardware.
Descripción general de la familia de modelos Qwen
La gama Qwen abarca ahora cinco opciones prácticas: la insignia Qwen 3.6 27B, la familia Qwen3 más reciente, Qwen2.5 de razonamiento general, Qwen2.5-Coder y Qwen2-VL para visión — cada una con múltiples opciones de tamaño. Todos son modelos de pesos abiertos publicados por el equipo Qwen de Alibaba en Hugging Face bajo la licencia Apache 2.0.
Elige primero la subfamilia y luego el tamaño que se ajuste a tu VRAM. Es habitual combinar subfamilias: Qwen2.5-Coder 14B para autocompletar código y Qwen3 8B o Qwen 3.6 27B para resumir documentos.
| Subfamilia | Tamaños disponibles | Uso principal | Prefijo de etiqueta Ollama |
|---|---|---|---|
| Qwen3 | 0.6B, 1.7B, 4B, 8B, 14B, 32B | Razonamiento general, modo de razonamiento, multilingüe, tareas agénticas | qwen3: |
| Qwen2.5 | 7B, 14B, 32B, 72B | Razonamiento general, tareas en chino/multilingüe, RAG | qwen2.5: |
| Qwen2.5-Coder | 7B, 14B, 32B | Generación de código, depuración, HumanEval, SWE-bench | qwen2.5-coder: |
| Qwen2-VL | 2B, 7B, 72B | OCR de documentos, preguntas sobre imágenes, extracción de texto CJK | qwen2-vl: |
Qwen 3.6 27B (lanzado en abril de 2026) es la nueva recomendación insignia — un modelo denso con ventana de contexto de 256K que funciona con ~17 GB de VRAM en Q4_K_M mediante `ollama run qwen3.6:27b`. Qwen2.5 sigue siendo la familia más probada, con la cobertura más amplia en Ollama y GGUF a mediados de 2026. Consulta los mejores LLM locales 2026 para una comparación más amplia.
Requisitos de hardware por tamaño de modelo
Elige primero tu nivel de VRAM y luego el modelo Qwen3 más grande que quepa. Q4_K_M es la cuantización estándar usada en todas las cifras a continuación — ofrece la mejor relación tamaño/calidad para Ollama y LM Studio.
| Modelo | VRAM | GPU mínima | Apple Silicon | Velocidad (RTX 3060) |
|---|---|---|---|---|
| Qwen3 8B Q4_K_M | 5,5 GB | RTX 3060 6 GB, RTX 4060 | M1/M2 8 GB | ~57 tok/s |
| Qwen3-Coder 7B Q4_K_M | 5,5 GB | RTX 3060 6 GB, RTX 4060 | M1/M2 8 GB | ~55 tok/s |
| Qwen2-VL 7B Q4_K_M | 6,2 GB | RTX 3060 8 GB, RTX 4060 | M1/M2 16 GB | — |
| Qwen3 14B Q4_K_M | 9,5 GB | RTX 4070 12 GB | M2 Pro 16 GB | — |
| Qwen3-Coder 14B Q4_K_M | 9,5 GB | RTX 4070 12 GB | M2 Pro 16 GB | — |
| Qwen3 32B Q4_K_M | 20,5 GB | RTX 3090 24 GB | M3 Max 48 GB | — |
| Qwen3-Coder 32B Q4_K_M | 20,5 GB | RTX 3090 24 GB | M3 Max 48 GB | — |
| Qwen 3.6 27B Q4_K_M | ~17 GB | RTX 4090 24 GB | M3 Max 36 GB | — |
| Qwen2.5-72B Q4_K_M | 46 GB | 2× RTX 3090 (48 GB) | M2 Ultra 64 GB | — |
Las cifras de VRAM corresponden a archivos GGUF Q4_K_M de la biblioteca de Ollama. Añade 1–2 GB para la caché KV con un contexto de 4K. Si la GPU tiene menos VRAM de la que necesita el modelo, Ollama descarga capas automáticamente a la RAM del sistema — funciona, pero reduce la velocidad significativamente.
💡Tip: ¿Ya identificaste tu nivel de VRAM? Consulta exactamente qué GPU o Mac comprar para ese nivel — 6 GB → RTX 4060, 12 GB → RTX 4070 Super, 24 GB → RTX 3090/4090, 48 GB+ → Mac mini M5 Pro o doble GPU.
Configuración con Ollama
Ollama es la forma más rápida de ejecutar cualquier modelo Qwen3 en local — gestiona la descarga del modelo, la cuantización GGUF y la API local en `localhost:11434` sin ninguna configuración. Instálalo desde ollama.com. Si no has usado Ollama antes, lee primero cómo instalar Ollama.
- 1Instalar Ollama
Why it matters: Disponible para macOS, Linux (instalación en una línea) y Windows. No hay que configurar drivers de GPU — Ollama detecta CUDA, ROCm y Metal automáticamente. - 2Descargar el modelo con una etiqueta de tamaño explícita
Why it matters: Especifica siempre el tamaño: `qwen2.5:7b`, `qwen2.5:14b`, `qwen2.5:32b`. El `qwen2.5` sin etiquetar se resuelve al modelo 7B, pero puede cambiar entre versiones de Ollama. - 3Ejecutar el modelo
Why it matters: `ollama run qwen2.5:7b` abre un chat interactivo. Escribe tu prompt y pulsa Enter. Cierra con `/bye`. - 4Ajustar la ventana de contexto si es necesario
Why it matters: Qwen3 soporta por defecto un contexto de 32K en Ollama. Para usar un contexto de 128K en un modelo 7B, ejecuta `ollama run qwen2.5:7b --num-ctx 131072`. Esto requiere más VRAM. - 5Probar el endpoint de la API
Why it matters: Ollama expone una API compatible con OpenAI. Aplicaciones como PromptQuorum, Continue.dev y Open WebUI se conectan directamente a `http://localhost:11434/v1`.
# Instalar Ollama (Linux)
curl -fsSL https://ollama.com/install.sh | sh
# macOS: descarga el .dmg desde ollama.com o:
brew install ollama
# Descargar modelos — usa etiquetas explícitas
ollama pull qwen3.6:27b # insignia, contexto 256K (~17 GB)
ollama pull qwen3:8b # Qwen3 uso general 8B (~5,5 GB)
ollama pull qwen2.5:7b # Qwen2.5 uso general 7B (~5,5 GB)
ollama pull qwen2.5:14b # Qwen2.5 uso general 14B (~9,5 GB)
ollama pull qwen2.5:32b # Qwen2.5 uso general 32B (~20,5 GB)
ollama pull qwen2.5-coder:32b # Qwen2.5-Coder 32B (~20,5 GB)
ollama pull qwen2-vl:7b # visión 7B (~6,2 GB)
# Ejecutar en modo interactivo
ollama run qwen2.5:7b
# Probar la API compatible con OpenAI
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"qwen2.5:7b","messages":[{"role":"user","content":"Hola"}]}'Configuración con LM Studio
LM Studio ofrece una interfaz gráfica para Qwen3 sin necesidad de comandos en terminal. Descárgalo desde lmstudio.ai o consulta cómo instalar LM Studio. Funciona en macOS, Windows y Linux.
- 1Abrir el navegador de modelos
Why it matters: Busca "Qwen3" o "Qwen Coder" para explorar todos los builds GGUF disponibles. Filtra por Q4_K_M para la relación calidad/tamaño recomendada. - 2Descargar un build GGUF
Why it matters: Selecciona la variante Q4_K_M. LM Studio muestra el tamaño del archivo antes de la descarga — confirma que se ajusta a la VRAM disponible. - 3Cargar el modelo y empezar a chatear
Why it matters: Haz clic en el modelo en la barra lateral izquierda para cargarlo en memoria. La asignación de capas a la GPU es automática en función de la VRAM detectada. - 4Iniciar el servidor local
Why it matters: "Iniciar servidor" expone un endpoint compatible con OpenAI en `localhost:1234`. Tus aplicaciones y scripts se conectan a él como si fuera la API de OpenAI.
Cuantización: qué formato elegir
Q4_K_M es el valor por defecto correcto para Qwen3 en hardware de consumo. Reduce la VRAM entre un 55–60 % respecto a FP16 con menos del 1 % de degradación en MMLU y HumanEval. Otros formatos tienen casos de uso específicos:
Q4_K_M es la mejor cuantización de Qwen3 para la mayoría de usuarios: reduce la VRAM un 55 % con menos del 1 % de pérdida de calidad respecto a FP16.
La cuantización comprime los números del modelo de 16 bits a 4 bits, reduciendo aproximadamente a la mitad el tamaño del archivo y la VRAM necesaria. Es como pasar de TIFF a JPEG de alta calidad — archivo más pequeño, resultado casi idéntico para la mayoría de usos.
- Q4_K_M (recomendado): ~5,5 GB para 7B. La mejor relación calidad por GB. Empieza por este.
- Q8_0: ~8,5 GB para 7B. Calidad cercana a FP16; úsalo si tienes VRAM de sobra y quieres la máxima precisión.
- Q5_K_M: ~6,5 GB para 7B. Mejora marginal sobre Q4_K_M — elígelo solo si la calidad de salida de Q4_K_M es visiblemente deficiente para tu tarea.
- Q2_K: ~3 GB para 7B. El archivo más pequeño, pero la calidad de salida en chino se degrada notablemente — evítalo con Qwen3 si el chino es parte de tu caso de uso.
- IQ4_XS: ~4,8 GB para 7B. Una cuantización imatrix más reciente que supera la calidad de Q4_K_M con un tamaño ligeramente menor — disponible en versiones recientes de llama.cpp y LM Studio 0.3+.
Rendimiento en benchmarks en hardware de consumo
Qwen3 32B Q4_K_M en una RTX 4090 entrega 28 tokens/seg — velocidad suficiente para asistencia de código en tiempo real. Las puntuaciones a continuación corresponden a builds GGUF Q4_K_M probados en Ollama. Las puntuaciones FP16 son un 1–2 % mayores.
| Modelo (Q4_K_M) | MMLU | Math | HumanEval | Velocidad (RTX 3060 12 GB) |
|---|---|---|---|---|
| Qwen3 8B | 74,2 % | 58,8 % | 57,3 % | 57 tok/s |
| Qwen3 14B | 79,9 % | 69,8 % | 64,6 % | — |
| Qwen3 32B | 83,3 % | 79,5 % | 71,3 % | — |
| Qwen2.5-72B | 86,1 % | 83,1 % | 73,2 % | — |
| Qwen3-Coder 7B | — | — | 75,6 % | 55 tok/s |
| Qwen3-Coder 14B | — | — | 85,2 % | — |
| Qwen3-Coder 32B | — | — | 92,7 % | — |
💡Tip: ¿Quieres esa puntuación del 92,7 % en HumanEval a 27 tok/s? Consulta la GPU de 24 GB que ejecuta Qwen3-Coder 32B.
Qwen vs DeepSeek vs Llama: qué ejecutar en local
Qwen3 gana en tareas en chino y eficiencia de VRAM; DeepSeek-V2.5 gana en razonamiento a gran escala pero es impráctico en hardware de consumo; Llama 3.3 70B es la mejor opción en una sola GPU si prefieres el modelo abierto de Meta. La tabla a continuación compara las opciones prácticas en cada nivel de VRAM.
| Nivel de VRAM | Mejor Qwen | Mejor competidor | Veredicto |
|---|---|---|---|
| 6 GB | Qwen3 8B | Llama 3.2 3B (cabe, pero solo 3B) | Qwen3 8B gana — misma VRAM, modelo mucho mayor |
| 12 GB | Qwen3-Coder 14B | Llama 3.1 8B Instruct | Qwen3-Coder 14B para código; Llama 3.1 8B para chat general |
| 24 GB | Qwen3-Coder 32B | Llama 3.3 70B (con descarga) | Qwen3-Coder 32B para código; Llama 3.3 70B si calidad > velocidad |
| 48 GB+ | Qwen2.5-72B | DeepSeek-V2.5 236B MoE | DeepSeek necesita ~130 GB de RAM; Qwen2.5-72B es la opción práctica para 48 GB |
Usuarios hispanohablantes: soberanía de datos y despliegue local
Ejecutar Qwen3 en local significa que ningún dato sale de tu máquina — sin transferencia a servidores en la nube, sin exposición bajo el RGPD o leyes de protección de datos latinoamericanas. Las API de LLM en la nube exigen enviar prompts a servidores externos, lo que activa los requisitos de tratamiento de datos y posibles transferencias internacionales.
Qwen3 fue entrenado por el equipo Qwen de Alibaba sobre un corpus predominantemente chino y multilingüe. Es el modelo con despliegue local más potente para documentos en chino simplificado, chino tradicional y textos mixtos (chino/español/inglés).
Para despliegues en empresas hispanohablantes: una configuración de Qwen3 sin conexión a internet durante la inferencia es plenamente compatible con los marcos regulatorios de España (RGPD/AEPD), México (LFPDPPP), Argentina (Ley 25.326) y otros países hispanohablantes. El modelo corre íntegramente en hardware local — ningún tercero accede a los datos de entrada o salida. Consulta ejecutar IA completamente sin conexión para una guía completa de configuración aislada.
Qwen3 funciona completamente sin conexión después de la descarga — ningún dato sale de tu máquina, eliminando el riesgo de transferencia transfronteriza de datos bajo el RGPD y las leyes latinoamericanas.
Cuando ejecutas Qwen3 en local, tus prompts y documentos nunca abandonan tu ordenador. No hay llamadas a una API en la nube, no hay servidor externo y no hay datos a los que reguladores o terceros puedan acceder.
¿Qué hardware deberías comprar para desplegar Qwen3?
Primero haz coincidir tu nivel de Qwen objetivo con la VRAM necesaria y luego compra la tarjeta más barata que la cubra — pagar por más VRAM de la que tu modelo necesita es el sobregasto más habitual de esta lista. Las recomendaciones siguientes corresponden directamente a la tabla de hardware anterior: económico → RTX 4060, gama media → RTX 4070 Super, gama alta → RTX 3090/4090, Apple Silicon → Mac mini M5 Pro, uso continuo → un mini PC. Los precios siguientes reflejan el mercado de GPU de 2026 — la escasez de chips de memoria y la demanda de los centros de datos de IA han encarecido tanto las GPU nuevas como las configuraciones de memoria de Apple; comprueba el precio actual antes de comprar.
💡Tip: Sáltate esta sección si ya tienes una GPU con 8 GB o más de VRAM — ejecuta primero Qwen3 8B en lo que ya tienes. Compra hardware nuevo solo cuando llegues a ese límite y quieras un modelo más grande.
NVIDIA RTX 4060 8 GB
Opción económica — Qwen3 8B, Qwen3-Coder 7B (5,5 GB de VRAM)
La tarjeta más barata de esta lista que cubre el requisito de 5,5 GB de Qwen3 8B con margen para el contexto. Ejecuta Qwen3-Coder 7B a ~55 tok/s — suficientemente rápido para asistencia de código interactiva.
Ventajas
- +El requisito de 5,5 GB de VRAM se cubre con margen para caché KV de contexto largo
- +El precio más bajo de esta lista — la GPU adecuada para empezar si nunca has ejecutado un LLM local
- +50–57 tok/s en modelos 7B/8B, a la par con tarjetas más caras en este tamaño de modelo
Desventajas
- –Se queda en Qwen3 8B / Qwen3-Coder 7B — sin margen para crecer a 14B sin apretar la caché KV
NVIDIA RTX 4070 Super 12 GB
Opción de gama media — Qwen3 14B, Qwen3-Coder 14B (9,5 GB de VRAM)
Ejecuta Qwen3-Coder 14B (85,2 % en HumanEval) a 36–38 tok/s con 2–3 GB de VRAM libres para el contexto — el nivel donde la calidad de código da un salto notable respecto a los modelos 7B/8B.
Ventajas
- +El modelo de 9,5 GB cabe con 2–3 GB de VRAM de margen — espacio para ventanas de contexto más largas
- +HumanEval sube del 75,6 % (7B) al 85,2 % (14B) — el salto de calidad por precio más claro de la gama
- +~38 tok/s mantienen ágil el chat interactivo y el autocompletado de código
Desventajas
- –No hay VRAM suficiente para el nivel 32B — plantea vender o reutilizar la tarjeta si superas el 14B
NVIDIA RTX 4090 24 GB (o RTX 3090 24 GB de segunda mano)
Opción de gama alta — Qwen3-Coder 32B, Qwen 3.6 27B (~17–20,5 GB de VRAM)
La 4090 entrega 27–28 tok/s en Qwen3-Coder 32B — velocidad de código en tiempo real con un 92,7 % en HumanEval. Una RTX 3090 de segunda mano tiene la misma VRAM de 24 GB y se queda a un ~15 % de la velocidad de inferencia de la 4090, por bastante menos dinero si encuentras un anuncio de confianza.
Ventajas
- +24 GB de VRAM cubren todas las variantes de Qwen3 32B y Qwen 3.6 27B con margen
- +27–28 tok/s en Qwen3-Coder 32B (92,7 % en HumanEval) — suficientemente rápido para programación en pareja en tiempo real
- +La RTX 3090 de segunda mano es la alternativa económica: mismo límite de VRAM, ~15 % más lenta, bastante más barata de segunda mano
Desventajas
- –El coste inicial más alto de esta lista — solo se justifica cuando realmente necesitas calidad de nivel 32B
Apple Mac mini M5 Pro 64 GB
Opción Apple Silicon — Qwen3 32B, silencioso y de bajo consumo
La mejor relación calidad/precio para ejecutar Qwen3 32B con memoria unificada — silencioso, bajo consumo eléctrico, sin GPU separada que instalar. Para Qwen2.5-72B necesitas en su lugar el M2 Ultra 192 GB.
Ventajas
- +Las configuraciones M5 Pro escalan hasta 64 GB de memoria unificada — muy por encima del requisito de 20,5 GB de Qwen3 32B, con margen para otras aplicaciones
- +Funcionamiento silencioso y consumo adecuado para escritorio — sin gestión de refrigeración dedicada de GPU
- +Una sola compra cubre sistema operativo, almacenamiento e inferencia — sin montaje aparte de GPU/fuente/caja
Desventajas
- –Aún no hay benchmarks independientes de Qwen3 32B en el chip M5 Pro — espera un rendimiento notablemente más lento que una GPU dedicada como la RTX 4090, en línea con generaciones anteriores de Apple Silicon en el Mac mini
MINISFORUM UM890 Pro (o mini PC AMD Ryzen AI similar)
Opción para uso continuo — Qwen3 8B en CPU + iGPU (~8–12 tok/s, menos de 35 W)
No pensado para uso interactivo — sirve para una instancia de Qwen3 8B que dejas encendida 24/7 para tareas en segundo plano, domótica o un endpoint de API de bajo tráfico donde el coste eléctrico importa más que la velocidad.
Ventajas
- +Consumo por debajo de 35 W — barato de mantener encendido de forma continua, a diferencia de una torre de escritorio con GPU
- +Formato compacto que cabe en cualquier sitio; sin GPU separada que conseguir ni refrigerar
- +Ejecuta Qwen3 8B sin ninguna GPU dedicada
Desventajas
- –8–12 tok/s es demasiado lento para chat interactivo — una opción solo para segundo plano/API
Errores frecuentes al ejecutar Qwen3 en local
- Usar el comando `ollama pull qwen2.5` sin etiqueta de tamaño. Sin una etiqueta de tamaño explícita (`:7b`, `:14b`, etc.), Ollama puede resolver al tamaño predeterminado, que puede cambiar entre actualizaciones de la biblioteca. Usa siempre etiquetas explícitas: `ollama pull qwen2.5:14b`.
- Ignorar el tamaño de la ventana de contexto. Qwen3 soporta un contexto de 128K. La especificación del Modelfile de Ollama establece `num_ctx` en 2048 por defecto, pero en tiempo de ejecución se aplica un valor predeterminado escalonado según la VRAM: 4K por debajo de 24 GiB, 32K entre 24 y 48 GiB, y 256K por encima de 48 GiB. No confíes en ninguno de los dos valores predeterminados: configura `num_ctx` explícitamente, por ejemplo añadiendo `--num-ctx 8192` (o más) al comando de ejecución — de lo contrario el modelo trunca la entrada en silencio.
- Elegir cuantización Q2_K para uso en chino. A 2 bits de precisión, la salida en chino de Qwen3 se degrada notablemente. Usa Q4_K_M como mínimo para cualquier trabajo en chino.
- Ejecutar el modelo 32B con poca VRAM. Si la GPU tiene 16 GB y el modelo necesita 20,5 GB, Ollama descarga capas a la RAM del sistema. El modelo funciona pero a 3–5 tok/s — inutilizable para uso interactivo. Consulta la tabla de hardware y elige un modelo que quepa en tu VRAM.
- Usar la subfamilia incorrecta para programación. Qwen3 8B (uso general) puntúa 57,3 % en HumanEval. Qwen3-Coder 7B puntúa 75,6 % en el mismo benchmark — una mejora relativa del 32 %. Si tu caso de uso es código, usa siempre la variante Coder del mismo tamaño.
Próximos pasos
- Mejores LLM solo CPU — ¿Sin GPU? Descubre qué tamaños de Qwen3 funcionan en CPU →
- Cuantización de LLM explicada — ¿Confundido con Q4_K_M vs Q8? Cuantización explicada →
Preguntas frecuentes
¿Cuánta VRAM necesito para ejecutar Qwen3 8B en local?
Qwen3 8B Q4_K_M requiere 5,5 GB de VRAM. Una RTX 3060 6 GB, RTX 4060 o chip Apple M con 8 GB de memoria unificada son suficientes.
¿Cuál es el mejor modelo Qwen para programación en local?
Qwen3-Coder 32B — 92,7 % en HumanEval, necesita GPU de 24 GB. Con 12 GB de VRAM o menos: Qwen3-Coder 14B (85,2 %, 9,5 GB de VRAM).
¿Cómo se compara Qwen con DeepSeek para el despliegue local?
Qwen3 usa arquitectura densa compatible con hardware de consumo. DeepSeek-V2.5 es un modelo MoE de 236B que necesita ~130 GB de RAM — inviable sin GPU de servidor.
¿Puedo ejecutar Qwen en un Mac?
Sí. M2 Pro 32 GB ejecuta Qwen3 14B a ~32 tok/s. M3 Max 64 GB maneja Qwen3 32B a ~22 tok/s.
¿Qué comando de Ollama uso para Qwen?
Para la insignia, `ollama run qwen3.6:27b` (~17 GB de VRAM). Para Qwen3, `ollama pull qwen3:8b`. Para Qwen2.5, `ollama pull qwen2.5:7b` para 7B, `:14b` para 14B, `:32b` para 32B, o `qwen2.5-coder:32b` para la variante de programación. Usa siempre etiquetas de tamaño explícitas.
¿Qwen es adecuado para tareas en chino?
Sí. Qwen3 fue preentrenado sobre un gran corpus chino y soporta de forma nativa chino simplificado, chino tradicional, japonés, coreano y 24 idiomas más.
¿Qué cuantización debo usar para Qwen3?
Q4_K_M por defecto — reduce la VRAM ~55 % respecto a FP16 con menos del 1 % de pérdida de calidad. Evita Q2_K para uso en chino.
¿Funciona Qwen2-VL para OCR de documentos en chino?
Sí — `ollama pull qwen2-vl:7b`, ~6 GB de VRAM, lee texto CJK a resoluciones de hasta 4096×4096 píxeles.