Conclusiones clave
- La RTX 4090 es la mejor GPU de consumo individual para IA local en 2026: 24 GB VRAM, ~1 TB/s de ancho de banda
- Los modelos 70B Q4 necesitan más de 40 GB VRAM — requieren dual RTX 3090 o CPU offloading
- Ryzen 9 9950X (Zen 5, 16 núcleos) es la mejor CPU para CPU offloading rápido de capas grandes
- DDR5-6000 con un mínimo de 64 GB; 128 GB permite CPU offloading de modelos 70B a velocidades útiles
- NVMe PCIe Gen 4/5 carga un modelo de 7B en menos de 2 segundos frente a los 10+ segundos en SATA
- Los tres builds usan el mismo socket AM5 — actualiza GPU/RAM sin cambiar la placa base
Nivel 1: workstation de IA económica por $1200
El build económico de $1200 utiliza una RTX 3090 usada (24 GB VRAM) como núcleo. Ejecuta Llama 3.1 8B Q8 a 45–60 tok/s, Qwen2.5 14B Q8 a 20–28 tok/s y Qwen2.5 32B Q4 a 12–18 tok/s completamente en GPU. La RTX 3090 consume 350 W — combínala con una fuente de poder de calidad de 850 W.
- Modelos compatibles a velocidad GPU completa: 7B (cualquier cuantización), 13B (Q4/Q8), 14B (Q4/Q8), 30B (Q4)
- Soporte para 70B: requiere CPU offloading — ~5–8 tok/s, funcional pero no ideal
- Consumo eléctrico: ~450 W en pico (GPU 350 W + CPU 65 W + resto)
- Fuente de poder recomendada: Corsair RM850x o equivalente 80+ Gold
Nivel 2: workstation de IA recomendada por $2500
El build recomendado de $2500 se centra en la RTX 4090 (24 GB, ~1 TB/s de ancho de banda de memoria) combinada con el AMD Ryzen 9 9950X (Zen 5, 16 núcleos). La 4090 es un 30–40% más rápida que la 3090 por GB de VRAM y consume menos energía por token. Este build maneja modelos 30B Q4 completamente en GPU y modelos 70B mediante CPU offloading a 10–15 tok/s con 64 GB de RAM.
- Modelos compatibles a velocidad GPU completa: 7B–30B (cualquier cuantización), 32B (Q4 cabe en 24 GB)
- Soporte para 70B: CPU offloading a 10–15 tok/s con 64 GB RAM; actualiza a 128 GB para 15–20 tok/s
- Velocidad 7B Q4: ~105–125 tok/s en Ollama
- Velocidad 14B Q8: ~48–60 tok/s
- Velocidad 30B Q4: ~28–38 tok/s
- Consumo eléctrico: ~550 W en pico (GPU 450 W + CPU 65 W + resto)
Nivel 3: workstation profesional 70B por $5000
El build profesional de $5000 está orientado a la inferencia de modelos 70B a velocidad de GPU (25–40 tok/s) usando dos RTX 3090 para un total de 48 GB VRAM. El Ryzen Threadripper 7960X (24 núcleos, alto ancho de banda de memoria) acelera el CPU offloading para modelos que superan los 48 GB. Con 256 GB DDR5, incluso los modelos 140B cuantizados se cargan completamente en RAM.
- Modelos compatibles a velocidad GPU completa (48 GB VRAM total): 7B–70B Q4, 30B Q8
- Velocidad 70B Q4: 25–40 tok/s (ambas RTX 3090 activas mediante paralelismo de tensores en Ollama)
- CPU offloading con 256 GB RAM: ejecuta modelos de 140B+ a 4–6 tok/s
- Configuración dual GPU: Ollama detecta ambas GPU automáticamente; no se necesita NVLink
- Consumo eléctrico: ~900 W en pico (2× GPU 700 W + CPU 350 W + resto)
- Fuente de poder recomendada: Seasonic PRIME TX-1600W o equivalente
Stack de software para cualquier build
Una vez ensamblado el hardware, poner en marcha Ollama toma menos de 10 minutos:
- 1Instala Ubuntu 22.04 LTS o Windows 11 (Ubuntu es preferible por la estabilidad de CUDA)
- 2Instala los drivers de NVIDIA 550+ desde nvidia.com o con
ubuntu-drivers autoinstall - 3Instala Ollama:
curl -fsSL https://ollama.com/install.sh | sh - 4Descarga un modelo:
ollama pull qwen2.5:14b-instruct-q8_0 - 5Ejecuta como servidor de red:
OLLAMA_HOST=0.0.0.0 ollama serve - 6Instala Open WebUI para interfaz en el navegador:
docker run -d -p 3000:8080 --gpus all ghcr.io/open-webui/open-webui:cuda - 7Usa Tailscale para acceso remoto seguro desde cualquier dispositivo
Comparación de rendimiento en los tres builds
¿Es mejor construir una workstation o alquilar GPU en la nube para ejecutar modelos de 70B?
Para uso regular (2+ horas al día), construye la workstation. Una A40 dedicada de 48 GB en RunPod cuesta $0.44/h — a 4 horas al día, eso es $641 al año. El build profesional de $3000–4000 se amortiza en 5–6 años frente a la nube. Para uso ocasional (menos de 1 hora al día), la nube es más económica. Consulta nuestra calculadora de costos en /es/local-llms/local-llm-cost-calculator-build-vs-rent-2026.
¿Necesito NVLink para ejecutar Ollama en dos GPU?
No. Ollama usa paralelismo de tensores CUDA para distribuir las capas del modelo entre varias GPU a través de PCIe — no se necesita NVLink. NVLink aumentaría el ancho de banda entre GPU de ~32 GB/s (PCIe 4.0 x16) a ~600 GB/s, algo relevante para el entrenamiento pero poco significativo para la inferencia. La configuración con dual RTX 3090 funciona perfectamente sin NVLink.
¿Por qué una dual RTX 3090 en lugar de una RTX 4090 para el build profesional?
La VRAM es el factor decisivo. Dos RTX 3090 de 24 GB cada una = 48 GB en total, suficiente para Llama 3.1 70B Q4 (~40 GB). Una sola RTX 4090 tiene solo 24 GB — el modelo 70B Q4 no cabe sin CPU offloading. Para inferencia de 70B a velocidad de GPU, el dual 3090 gana en VRAM por dólar. Para 30B e inferiores, la RTX 4090 es más rápida por dólar.
¿Puedo empezar con el build económico y actualizar al nivel recomendado?
Sí — los tres builds usan el socket AM5 (Niveles 1 y 2) o TRX50 (Nivel 3). Puedes reemplazar la RTX 3090 por una RTX 4090 más adelante, o añadir una segunda GPU. Los módulos de RAM son compatibles. La única incompatibilidad es entre los Niveles 1/2 (AM5) y el Nivel 3 (TRX50) — pasar al Threadripper requiere placa base y CPU nuevas.
¿Qué toma de corriente necesito para el build profesional?
El build profesional (dual RTX 3090 + Threadripper) tiene un pico de ~900 W desde la toma. Un tomacorriente estándar de 15A/120V en EE.UU. soporta ~1800 W — es suficiente. Los tomacorrientes europeos de 16A/230V soportan ~3680 W. Usa una fuente de poder de calidad (Seasonic, Corsair, be quiet!) con eficiencia 80+ Platinum para minimizar el calor y el consumo.