Key Takeaways
- RTX 4060 Ti 16GB gana para la mayoría de usuarios: 16 GB para 14B Q8, $420, 165 W
- RTX 3090 de segunda mano (24 GB) es la llave para modelos 30B por menos de $500
- RX 7800 XT 16GB es la respuesta AMD a ~$370 con soporte ROCm de Ollama
- Intel Arc B580 12GB es la opción económica a $280 — solo modelos 7B
- RTX 4070 12GB es la más rápida, pero el VRAM la limita a 13B Q4
- Todas las GPU de esta lista funcionan con Ollama, LM Studio y llama.cpp de fábrica
Mejores GPU para inferencia LLM por menos de $500 — Clasificadas
La RTX 4060 Ti 16GB es la mejor GPU por menos de $500 para inferencia LLM local porque sus 16 GB de VRAM acomodan modelos 14B en calidad Q8 completa sin presión de memoria.
El VRAM de la GPU determina qué modelos de IA puedes ejecutar. Una GPU de 16 GB ejecuta modelos 14B en alta calidad. Una GPU de 24 GB (como una RTX 3090 de segunda mano) ejecuta modelos de 30B o más. Con menos de 12 GB estás limitado a modelos 7B o más pequeños.
Comparación de rendimiento — Resultados de pruebas 2026
Benchmarks medidos con Ollama 0.6.x, servidor llama.cpp, modelos de HuggingFace. Sistema de prueba: Ryzen 9 7950X, 64 GB DDR5, NVMe SSD.
Cómo seleccionamos y probamos estas GPU
Criterios de selección: disponibles para compra nueva o de segunda mano por menos de $500 en mayo 2026; compatibles con al menos un runtime de inferencia principal (Ollama, LM Studio, llama.cpp); VRAM ≥ 12 GB (tarjetas de 8 GB excluidas — insuficientes para uso local de LLM significativo). Todos los benchmarks son tok/s (tokens por segundo) de velocidad de generación, promediados en 10 ejecuciones a tamaño de lote 1, medidos con Ollama 0.6.x en Ubuntu 22.04 LTS. Precios de GPU de segunda mano obtenidos de listados vendidos en eBay (promedio de los últimos 30 días). Precios de GPU nuevas de Amazon.com (verificados en mayo 2026).
Requisitos de VRAM por tamaño de modelo
Requisitos de VRAM: el modelo 7B necesita ~4–5 GB (Q4) o ~7–8 GB (Q8); el modelo 14B necesita ~8–9 GB (Q4) o ~14–15 GB (Q8); el modelo 30B necesita ~18–20 GB (Q4); el modelo 70B necesita ~40–42 GB (Q4).
Piensa en el VRAM como la RAM para los modelos de IA. El modelo debe caber completamente en VRAM para una inferencia rápida. Si se desborda a la RAM del sistema (llamado "offloading"), la velocidad cae un 80–95%. La cuantización Q4 reduce el tamaño a la mitad respecto a Q8 con un pequeño coste en calidad.
- Modelo 7B en Q4: ~4.5 GB VRAM — cualquier GPU de esta lista lo maneja fácilmente
- Modelo 7B en Q8: ~7.5 GB VRAM — cabe en todas las GPU aquí
- Modelo 13B en Q4: ~8.5 GB VRAM — cabe en todas las GPU de esta lista
- Modelo 14B en Q8: ~14 GB VRAM — solo RTX 4060 Ti 16GB y RTX 3090 (segunda mano)
- Modelo 30B en Q4: ~18 GB VRAM — solo la RTX 3090 (24 GB) lo maneja cómodamente
- Modelo 70B en Q4: ~40 GB — requiere dos GPU o descarga a CPU
¿Qué GPU deberías comprar?
Usa esta guía de decisión según tu caso de uso principal:
- Ejecutar modelos 7B rápido con presupuesto ajustado → Intel Arc B580 12GB (~$280). Máximos tokens por dólar.
- La mejor opción general por menos de $500 → RTX 4060 Ti 16GB (~$420). Cubre 7B–14B Q8 con margen para crecer.
- Ejecutar modelos 30B sin la nube → RTX 3090 de segunda mano (~$440). La única GPU por menos de $500 con 24 GB VRAM.
- Máxima velocidad para 13B y menores → RTX 4070 12GB (~$400). La generación de tokens más rápida por menos de $500.
- Linux + stack open-source (AMD) → RX 7800 XT 16GB (~$375). Soporte ROCm completo, mismo VRAM que la RTX 4060 Ti.
- Usuario de Windows, sin complicaciones → RTX 4060 Ti 16GB o RTX 4070 12GB. NVIDIA CUDA tiene el soporte más amplio en Windows.
Compatibilidad de software por GPU
Las cinco GPU ejecutan Ollama y llama.cpp. Las diferencias aparecen en herramientas avanzadas:
Consumo energético y requisitos del sistema
El consumo de la GPU determina qué fuente de alimentación y chasis necesitas. Ejecutar LLMs mantiene las GPU al 80–100% de utilización de forma continua — a diferencia del gaming, no hay fotogramas inactivos.
- RTX 4060 Ti 16GB: 165 W — funciona con fuente de 550 W o más; un conector de 8 pines
- RTX 3090 (segunda mano): 350 W — requiere fuente de 750 W o más; 3× 8 pines o adaptador de 16 pines; ventilación adecuada obligatoria
- RX 7800 XT 16GB: 190 W — fuente de 650 W o más; doble 8 pines estándar
- RTX 4070 12GB: 200 W — fuente de 650 W o más; conector de 16 pines (adaptador incluido)
- Intel Arc B580 12GB: 190 W — fuente de 650 W o más; 8 pines estándar
¿Son suficientes 8 GB de VRAM para ejecutar LLMs localmente?
8 GB de VRAM te limitan a modelos 7B en cuantización Q4 — el modelo apenas cabe. No puedes ejecutar modelos 13B en calidad completa, y los modelos 14B se descargarán parcialmente a la RAM del sistema, reduciendo la velocidad un 80–95%. Para un uso local de LLM significativo en 2026, 12 GB es el mínimo práctico; se recomienda 16 GB.
¿Debería comprar una RTX 3090 de segunda mano o una RTX 4060 Ti 16GB nueva?
Depende de qué modelos quieras ejecutar. La RTX 3090 (segunda mano, 24 GB) maneja modelos 30B y mayores que la 4060 Ti no puede. La RTX 4060 Ti 16GB (nueva) es más eficiente energéticamente (165 W vs 350 W), tiene mejor soporte de drivers y garantía. Si los modelos 14B son tu techo, compra la 4060 Ti 16GB nueva. Si quieres capacidad para 30B, compra una 3090 de segunda mano a un vendedor de confianza.
¿Funciona AMD para ejecutar LLMs localmente?
Sí, con matices. Ollama en Linux con ROCm funciona bien para la RX 7800 XT. El soporte ROCm en Windows ha mejorado pero aún requiere pasos manuales. El fine-tuning (LoRA) en hardware AMD no está soportado por la mayoría de herramientas. Para cargas de trabajo de solo inferencia en Linux, la RX 7800 XT 16GB es una alternativa genuina a NVIDIA. Para Windows o fine-tuning, quédate con NVIDIA.
¿Qué hay de las GPU Intel Arc para IA?
La Intel Arc B580 12GB es la mejor opción Arc en 2026. Ejecuta Ollama en Windows y Linux a través del backend SYCL, aunque el rendimiento está un 30–40% por debajo de NVIDIA en tok/s brutos. La relación valor-precio es fuerte: 12 GB de VRAM a $280 sin problemas de drivers en sistemas modernos. La principal limitación es el software: vLLM, herramientas de fine-tuning y runtimes multimodales aún no soportan bien Arc.
¿Puedo ejecutar un modelo de 70B en una sola GPU por menos de $500?
No a plena velocidad. Incluso la RTX 3090 (24 GB) no puede almacenar 70B Q4 (~40 GB) completamente en VRAM. Puedes usar descarga a CPU con llama.cpp para dividir el modelo entre VRAM y RAM del sistema, pero la velocidad cae a 2–5 tok/s — demasiado lento para uso interactivo. Para ejecutar modelos 70B a velocidades utilizables, necesitas dos GPU (2× RTX 3090 con 48 GB en total) o inferencia en la nube.
¿Harán obsoletas estas GPU las nuevas tarjetas (RTX 5060 Ti)?
Las tarjetas de gama media RTX 50 de NVIDIA (5060 Ti) no estaban disponibles ampliamente en el momento de escribir este artículo (mayo 2026). Cuando salgan, probablemente ofrecerán VRAM similar en un paquete más eficiente energéticamente. La RTX 4060 Ti 16GB y la RTX 3090 siguen siendo excelentes compras por su valor hoy. Consulta la fecha de actualización de este artículo para recomendaciones actualizadas.