Hardware para LLM locales en 2026: GPU vs Mini PC vs Mac comparados

El hardware mínimo para ejecutar un LLM local en 2026 es una GPU con 8 GB de VRAM — o un Mac con Apple Silicon con 16 GB de memoria unificada — para modelos de clase 7B. Los requisitos escalan luego con el tamaño del modelo: 14B necesita 12 GB, 24B necesita 16 GB, 32B necesita 24 GB, y un modelo de 70B necesita ~40 GB en Q4_K_M. La VRAM de la GPU es el límite absoluto: decide qué modelos se cargan en absoluto. La CPU y la RAM del sistema afectan al tiempo de carga y a la velocidad de respaldo solo en CPU, pero no a qué modelo cabe en la GPU.

Usa esta tabla como respuesta directa a "qué hardware necesito" — encuentra el tamaño de tu modelo o el nivel de VRAM, y luego salta a las recomendaciones de modelos por nivel más abajo.

La opción en stock para LLM locales en julio de 2026 es la NVIDIA serie RTX 50 (Blackwell): 5060 Ti, 5070, 5070 Ti, 5080, 5090. La serie RTX 40 (4060, 4070 Ti, 4090) está descontinuada y ahora se vende escasa y por encima de sus precios antiguos en el mercado de segunda mano. Una escasez de GDDR7/memoria en 2026 ha seguido empeorando a lo largo de julio, empujando incluso a las tarjetas de la serie 50 aún más por encima del MSRP, así que trata cada cifra de abajo como un precio de calle típico de mediados de julio de 2026 y comprueba los anuncios actuales antes de comprar. Recomendaciones por caso de uso:

Los requisitos de VRAM dependen de tres factores: tamaño del modelo (parámetros), cuantización (bits por peso) y modo de inferencia. Usa esta fórmula para determinar si tu GPU tiene suficiente memoria. Para una calculadora interactiva, consulta la calculadora de VRAM para LLM locales.

Fórmula:

```text VRAM (GB) = (Tamaño del modelo × Bits de cuantización) ÷ 8 ```

Valores de cuantización: FP16 = 16 bits, Q8_0 = 8 bits, Q5_K_M = 5 bits, Q4_K_M = 4 bits. El punto óptimo práctico es Q4_K_M -- usa pesos de 4 bits con K-cuantización, que las GPU NVIDIA aceleran de forma más eficiente que el formato Q4_0 más antiguo.

La fórmula de VRAM (Tamaño del modelo × Bits ÷ 8) cubre solo los pesos del modelo -- la caché KV añade VRAM adicional significativa que la mayoría de guías ignoran.

La caché KV almacena el estado de atención de cada token en tu ventana de contexto. Crece linealmente con la longitud del contexto y permanece en VRAM durante toda la sesión.

Fórmula de VRAM de la caché KV: `caché KV ≈ capas × cabezales × dim_cabezal × 2 × longitud_contexto × 2 bytes`

A fecha de julio de 2026, las GPU NVIDIA ofrecen la mayor cantidad de tokens/seg para la inferencia de LLM locales en todos los puntos de precio. Las secciones bajo cada nivel dan recomendaciones de modelos específicas. Para una comparación detallada de benchmarks, consulta la guía de las mejores GPU para LLM locales.

Usa esto como búsqueda rápida según el nivel de VRAM de tu GPU:

Todos los modelos listados a continuación son de pesos abiertos — descargables, ajustables y gratuitos para ejecutar en local. Si estás eligiendo entre pesos abiertos y APIs propietarias, consulta nuestra comparación de LLM de código abierto vs propietarios para los compromisos de coste y rendimiento a diferentes volúmenes de tokens.

El hardware determina qué modelos puedes ejecutar; la ingeniería de prompts determina lo bien que funcionan. Un prompt bien estructurado en un modelo de 7B a menudo supera a un prompt perezoso en uno de 70B. Consulta la guía completa de ingeniería de prompts para técnicas que maximizan la calidad de salida con cualquier número de parámetros.

El mejor LLM local para una GPU con 16 GB de VRAM en 2026 es Mistral Small 3.1 24B en Q4_K_M: usa ~13 GB, funciona a 55 tok/seg, y es el modelo general más potente que cabe con margen de contexto. Las tarjetas de 16 GB (NVIDIA RTX 5080, RTX 5070 Ti, RTX 4080 usada, o una RTX 4090 de portátil) llegan como máximo a modelos de 14-24B — un modelo de 70B necesita ~40 GB y no cabe.

Para programación agéntica, Devstral Small 24B Q4_K_M cabe en ~16 GB; para razonamiento, DeepSeek-R1 14B Q8_0 es la opción. El más nuevo Mistral Small 4 (marzo de 2026) es un solo modelo que integra razonamiento, visión y programación y es el sucesor natural como valor por defecto de la clase de 16 GB. La tabla de abajo muestra qué cabe y qué no — las filas de "NO cabe" son el error más común que cometen los dueños de 16 GB.

En una GPU con 12 GB de VRAM (NVIDIA RTX 5070, RTX 4070 Ti o RTX 3060 12 GB), puedes ejecutar modelos de 7-8B en Q8 o de 14B en Q4_K_M. Nota: los modelos MoE como Llama 4 Scout NO caben aquí -- aunque Scout activa solo 17B parámetros por token, todos los 109B expertos totales deben cargarse en memoria, requiriendo ~55 GB en Q4.

Llama 3.1 8B en Q8_0 es la opción más fiable para configuraciones conservadoras: 9 GB de VRAM, 80 tok/seg y calidad completa de seguimiento de instrucciones. Qwen3 14B en Q4_K_M también cabe en ~8,5 GB y ofrece un razonamiento notablemente mejor que el nivel de 8B.

El requisito de hardware para ejecutar un modelo de 70B en local con calidad Q4_K_M utilizable es ~40 GB de VRAM — así que una sola RTX 4090 de 24 GB no es suficiente. Tus opciones reales para 70B en 2026 son: 2× RTX 5090 (64 GB combinados), una RTX 5090 (32 GB) con descarga ligera a CPU, una GPU de servidor de 48-80 GB (RTX 6000 Ada / A100), o un Apple M5 Max / sistema de memoria unificada de 128 GB. El malentendido común es que "Q4 es pequeño" — con 70B parámetros, incluso Q4 necesita ~40 GB.

En una sola tarjeta de 24 GB, la mejor estrategia es un modelo de 27-32B, que ofrece una calidad fuerte y cabe cómodamente con margen de contexto. Qwen3.6 27B en Q4_K_M es el mejor modelo de programación denso (77,2% SWE-bench); DeepSeek-R1 32B es la mejor opción de razonamiento. Una GPU de 24 GB solo puede albergar un 70B en Q2_K, donde la calidad cae notablemente. Consulta cómo ejecutar modelos de 70B en 24 GB de VRAM para técnicas de descarga y GPU dual.

Con una GPU dedicada, la CPU y la RAM son componentes secundarios. La GPU se encarga de la matemática matricial; la CPU/RAM gestionan la preparación del contexto. Para una comparación completa de las velocidades de inferencia de GPU vs CPU vs Apple Silicon, consulta la guía de GPU vs CPU vs Apple Silicon.

CPU mínima: procesador de 8 núcleos (Intel Core i7 14ª gen, AMD Ryzen 7 7700X, o más nuevo). Las CPU más antiguas añaden más de un 20% de latencia.

RAM: 16 GB mínimo (con GPU). Si se ejecuta sin GPU, se recomiendan 32+ GB. La RAM no limita directamente el tamaño del modelo cuando hay GPU presente.

Almacenamiento: SSD de 500 GB para los archivos de modelo y el SO. Se prefiere M.2 NVMe (carga de modelos más rápida).

Sin GPU, una máquina con 16 GB de RAM del sistema puede ejecutar modelos de 3B-7B a 8-20 tokens/seg usando inferencia por CPU. El cuello de botella es el ancho de banda de memoria, no la capacidad de RAM -- las CPU tienen un ancho de banda mucho menor que las GPU, por lo que la inferencia es 5-10× más lenta.

Con 16 GB de RAM del sistema, la regla práctica es: tamaño del archivo del modelo + 4 GB de sobrecarga del SO ≤ 16 GB. Un modelo de 7B en Q4_K_M (4,9 GB) cabe, pero deja poco margen para contextos largos. La tabla de abajo muestra opciones realistas a fecha de julio de 2026.

Para una guía completa de modelos optimizados en velocidad que cubre los niveles de solo CPU y de 4 GB, 6 GB y 8 GB de VRAM con benchmarks reales, consulta **LLM locales más rápidos para PC de gama baja**.

Los archivos de modelo son grandes: un modelo de 7B con cuantización de 4 bits ocupa 4-5 GB. Planifica el almacenamiento en torno al número y tamaño de modelos que quieras mantener en local.

Construir una máquina para LLM local desde cero significa priorizar la GPU primero, luego la CPU y la RAM. Aquí tienes tres configuraciones realistas. Para configuraciones multi-GPU, consulta la guía de LLM local multi-GPU. Para configuraciones de domótica, los mini PC compactos suelen ser una mejor opción que las configuraciones de escritorio completas — consulta el mejor Mini PC para Home Assistant con IA local →.

Si una GPU de $250–400 está fuera de tu presupuesto, o tu portátil es demasiado antiguo para soportar los motores de inferencia modernos, puede que los LLM locales no sean rentables para ti en 2026.

Calcula el coste real:

• Local: $800–2.000 de hardware inicial + electricidad + mantenimiento durante 2–3 años

• Nube: $5–50/mes para uso típico de desarrollador (API de Llama o GPT-5.5 mini)

Para usuarios ligeros (< 100.000 tokens/mes), las APIs en la nube cuestan $5–10/mes y no requieren hardware. Para usuarios intensivos (> 10M tokens/mes), lo local se amortiza en 6–12 meses.

Compara todos los compromisos de coste y rendimiento entre local y nube** para encontrar tu punto de equilibrio. Muchos desarrolladores descubren que la nube es más barata para su patrón de uso real.

¿Ya estás buscando por debajo de los niveles de VRAM recomendados? Consulta La mejor app de IA local para un PC de gama baja para saber qué combinaciones de modelo y app funcionan realmente en 8 GB o menos.

Con los ajustes correctos, llama.cpp en una RTX 4070 Ti alcanza 85-95 tokens/seg en Llama 3.1 8B Q4_K_M -- más del doble de la velocidad por defecto de fábrica. El único flag con más impacto es `--n-gpu-layers 99`, que descarga todas las capas del modelo a la GPU. Sin él, las capas recaen en la CPU, creando un cuello de botella severo.

Estos ajustes se aplican a llama.cpp directamente y a Ollama (que usa llama.cpp internamente). Ollama configura `--n-gpu-layers 99` automáticamente en hardware NVIDIA si los controladores están instalados correctamente.

Apple Silicon (serie M) ejecuta LLM locales de forma eficiente usando memoria unificada compartida entre la CPU y la GPU. El M5 base se lanzó en octubre de 2025; el M5 Pro y el M5 Max llegaron en marzo de 2026. Apple mide hasta 4× más rápido el procesamiento de prompts de LLM (tiempo hasta el primer token) en el M5 Pro/Max frente a la generación M4, aunque las mejoras en la generación de tokens son más modestas.

El M5 Max con 128 GB de memoria unificada (hasta 614 GB/s) ejecuta modelos de 70B en Q4_K_M con comodidad — aproximadamente 12-15 tok/seg — en un formato de portátil o Mac Studio. El M5 Pro (hasta 64 GB unificada, 307 GB/s) maneja modelos de 32B con margen generoso para la caché KV y la multitarea. A fecha de julio de 2026, el M5 Max es el Apple Silicon de gama más alta en el mercado; se rumorea un Mac Studio M5 Ultra pero aún no se ha lanzado. Ten en cuenta que el M5 Max se queda muy corto frente a los ~239 GB que necesita GLM-5.2 incluso a 2 bits -- un área donde el techo de memoria unificada de Apple importa más que la velocidad bruta.

En un MacBook con 8 GB de RAM, limítate a modelos de 3-4B. Con la memoria unificada compartida entre el SO y el modelo, 8 GB cabe de forma realista Phi-4 Mini 3.8B, Llama 3.2 3B o Gemma 3 4B en Q4_K_M vía Ollama o llama.cpp (ambos usan el backend de GPU Metal automáticamente). Un modelo de 7B está al límite con 8 GB y hará swap bajo carga; 16 GB es el mínimo cómodo para modelos de 7-8B en un Mac.

Para despliegue en producción (operación 24/7, múltiples usuarios), se recomienda hardware de grado servidor frente a GPU de consumo. El hardware de consumo está optimizado para juegos, no para inferencia sostenida.

El NVIDIA DGX Spark ($4.699 a fecha de febrero de 2026, frente a su precio de lanzamiento de $3.999) es un ordenador de IA de escritorio compacto de 128 GB que puede albergar Llama 3.3 70B en Q8_0 enteramente en memoria unificada. Los Apple Mac Studio / MacBook Pro con 128 GB y los sistemas AMD Strix Halo de 128 GB pueden hacer lo mismo, así que no es único — pero viene con la pila de software CUDA de NVIDIA.

Construido sobre el superchip GB10 Grace Blackwell, el DGX Spark se lanzó en octubre de 2025 con 128 GB de memoria unificada LPDDR5x. Nota: su ancho de banda de memoria real es de ~273 GB/s, así que la generación de tokens de un 70B denso es lenta — pruebas independientes (LMSYS) midieron aproximadamente 3 tok/seg en Llama 70B. La cifra destacada de cómputo FP4 no se traduce en una decodificación de flujo único rápida. El DGX Spark es más adecuado para modelos grandes de mezcla de expertos (Llama 4 Scout/Maverick, Kimi K2) donde solo se activa una fracción de los parámetros por token -- pero su techo de 128 GB no es ilimitado: GLM-5.2 (744B en total, 40B activos, lanzado en junio de 2026) necesita ~239 GB incluso con cuantización de 2 bits y no cabe en un solo DGX Spark.

UE (RGPD + Reglamento de IA de la UE): Ejecutar LLM en local mantiene todos los datos de inferencia dentro de tu infraestructura, eliminando las preocupaciones de transferencia transfronteriza de datos bajo el Artículo 44 del RGPD. Las obligaciones del Reglamento de IA de la UE para los sistemas de IA de alto riesgo independientes (Anexo III) estaban originalmente previstas para aplicarse desde el 2 de agosto de 2026, pero el "Digital Omnibus sobre IA" — acordado provisionalmente en mayo de 2026 y a la espera de adopción formal a fecha de junio de 2026 — aplaza esa fecha al 2 de diciembre de 2027 (con la IA de alto riesgo integrada en productos regulados diferida al 2 de agosto de 2028). Los deberes de transparencia del Artículo 50 del Reglamento de IA siguen aplicándose en el calendario original. El hardware local satisface los requisitos de residencia de datos por defecto.

Japón (APPI): La enmienda APPI de Japón de 2022 endureció las normas de notificación de brechas y de transferencia transfronteriza, pero no impone un requisito de minimización de datos específico para la IA (se apoya en deberes generales de limitación de finalidad). Más relevantes para la IA son el paquete de reforma APPI de Japón de 2025 y su primera ley de IA — la Ley de Promoción de la IA (en vigor desde junio de 2025), un marco que prioriza la innovación sin sanciones. El hardware LLM on-premise mantiene los datos personales dentro de tu infraestructura para el procesamiento de documentos y la automatización de atención al cliente.

China: Las Medidas Provisionales para los Servicios de IA Generativa de la Administración del Ciberespacio de China (CAC) (en vigor desde agosto de 2023) exigen a los proveedores con influencia en la opinión pública completar una evaluación de seguridad de la CAC y un registro de algoritmos. Desde el 1 de septiembre de 2025, China también obliga al etiquetado de contenido generado por IA bajo las Medidas de etiquetado de la CAC y la norma nacional GB 45438-2025. Ejecutar hardware local con modelos de pesos abiertos evita la exposición de cumplimiento basada en API para uso empresarial interno.