Mejores LLMs locales para principiantes 2026: Modelos de 4 GB y 8 GB de RAM (Llama 3.2, Phi-4, Gemma 3)

1. Instala Ollama (1 minuto)

Descárgalo desde ollama.com y ejecuta el instalador. Sin configuración.

2. Ejecuta Llama 3.2 3B (2 minutos)

Abre tu terminal y ejecuta: `ollama run llama3.2:3b`

Ollama descarga el modelo (~2 GB) la primera vez. Este es el modelo recomendado como primer modelo para la mayoría de usuarios.

3. Empieza a chatear (inmediato)

Una vez que el modelo cargue, escribe tu pregunta o prompt y presiona Enter. Verás respuestas a 25-45 tokens/segundo en un portátil típico.

Eso es todo. Sin configuración manual, sin GPU necesaria. Si tienes 8 GB+ de RAM, estás listo. Si tienes 4-6 GB, usa `ollama run gemma3:2b` en su lugar (más rápido, usa 1,7 GB de RAM).

Antes de descargar tu primer modelo, responde estas tres preguntas:

1. ¿Tienes 8 GB o más de RAM? (Si no, las APIs en la nube son más rápidas para empezar.)

2. ¿Necesitas que tus datos permanezcan privados? (Si no, las APIs en la nube ofrecen mejor calidad.)

3. ¿Puedes tolerar 20-40 minutos de configuración? (Si no, las APIs en la nube están listas en 5 minutos.)

Si respondiste "no" a dos o más preguntas, **lee la comparación completa de local vs nube** para ver si una API en la nube se adapta mejor a tu hardware y cronograma. Los principiantes suelen asumir que los LLMs locales son siempre mejores -- no es así. La elección correcta depende de tus restricciones específicas.

La selección de modelos para LLMs locales depende de tres restricciones: RAM disponible, velocidad de inferencia y tipo de tarea -- en ese orden de prioridad.

El número de parámetros (3B, 7B, 13B) es el principal determinante de los requisitos de RAM. Con la cuantización de 4 bits -- el estándar para la mayoría de herramientas de inferencia local -- multiplica el número de parámetros por ~0,5 para estimar los GB de RAM necesarios. Un modelo de 7B en Q4_K_M requiere aproximadamente 4,5 GB de RAM.

Para la mayoría de principiantes, los modelos de 7B con cuantización Q4_K_M ofrecen el mejor equilibrio de calidad, velocidad y uso de RAM en máquinas con 8 GB o más. En máquinas con 4-6 GB de RAM, los modelos de 3B son el techo práctico.

Meta Llama 3.2 3B es el mejor punto de partida para la mayoría de usuarios. Se descarga en menos de 5 minutos, funciona en cualquier máquina con 4 GB de RAM y produce un seguimiento de instrucciones notablemente mejor que los modelos 3B anteriores. Utiliza una ventana de contexto de 128K -- mucho mayor que los modelos de tamaño comparable.

En nuestras pruebas con un CPU de portátil de 8 núcleos, Llama 3.2 3B genera 25-45 tokens/s. En Apple M3 Pro alcanza 70-90 tokens/s. La calidad es adecuada para resúmenes, preguntas y respuestas y tareas de codificación simples, pero queda por detrás de los modelos de 7B en razonamiento de varios pasos.

Phi-4 Mini es el modelo compacto de Microsoft optimizado para tareas de razonamiento y codificación a pequeña escala. Alcanza 68% MMLU y 70% HumanEval -- puntuaciones que superan a muchos modelos de 7B de 2024 -- gracias al entrenamiento con datos sintéticos de alta calidad enfocados en la resolución de problemas.

Es el modelo recomendado para máquinas con 4-6 GB de RAM donde la calidad importa. Phi-4 Mini usa 2,5 GB de RAM (frente a los 3 GB de Phi-3.5 Mini), lo que lo hace más accesible en máquinas de 4 GB.

Gemma 3 2B es el modelo 2B actualizado de Google y la opción más rápida para inferencia solo en CPU. Genera 40-60 tokens/s en un CPU de portátil de gama media -- aproximadamente el doble de velocidad que Llama 3.2 3B en el mismo hardware. Gemma 3 mejora significativamente a su predecesor: la ventana de contexto se amplía de 8K (Gemma 2) a 128K tokens, eliminando una limitación importante para tareas con documentos.

Gemma 3 2B es una buena opción cuando la velocidad de respuesta es lo más importante, en máquinas con ≤4 GB de RAM, o como modelo de prueba para verificar tu configuración de LLM local antes de descargar modelos más grandes.

Mistral 7B v0.3 es un modelo 7B de uso general fiable con un formato de instrucciones limpio y soporte de llamadas a funciones. A partir de abril de 2026, Qwen2.5 7B lo supera en benchmarks de codificación y Llama 3.1 8B lidera en razonamiento en inglés -- pero Mistral 7B sigue siendo una opción sólida para contextos de soberanía de datos en la UE, ya que Mistral AI es una empresa francesa con licencia Apache 2.0 en este modelo.

Para máquinas con 8 GB de RAM, Mistral 7B es un salto natural desde los modelos de 3B. Maneja textos más largos, instrucciones más complejas y conversaciones de varios turnos de forma más fiable que cualquier modelo de 3B.

Qwen2.5 7B supera a Mistral 7B en HumanEval (codificación) y los benchmarks MBPP, y soporta de forma nativa 29 idiomas incluyendo chino, japonés, coreano, árabe y todos los principales idiomas europeos. Es la opción recomendada para flujos de trabajo en idiomas distintos al inglés o casos de uso intensivos en codificación.

Qwen2.5 7B usa una ventana de contexto de 128K (frente a los 32K de Mistral 7B) y soporta salida estructurada con modo JSON. El modelo está disponible en variantes instruct y base -- para uso en chat, usa siempre la versión instruct. Consulta la comparación de benchmarks Qwen vs Llama vs Mistral para datos detallados de benchmarks.

UE / RGPD: Para organizaciones europeas que procesan datos personales localmente, la procedencia del modelo importa para la documentación de cumplimiento. Mistral 7B v0.3 (Mistral AI, Francia, Apache 2.0) ofrece la narrativa de cumplimiento europeo más sencilla. Las directrices alemanas del BSI requieren documentar el origen y el tipo de licencia del modelo para sistemas de IA usados en contextos profesionales. Llama (Meta/EE.UU.), Gemma (Google/EE.UU.) y Qwen (Alibaba/China) son técnicamente utilizables bajo el RGPD para inferencia local, pero el origen europeo de Mistral simplifica la documentación para sectores regulados.

Japón (METI): Para flujos de trabajo en japonés, Qwen2.5 7B es el primer modelo correcto -- la tokenización japonesa nativa produce una eficiencia de tokens 30-40% mejor en textos japoneses que Llama o Mistral. Ejecuta: `ollama run qwen2.5:7b`. Las directrices de gobernanza de IA del METI requieren documentar el nombre y la versión del modelo -- los cinco modelos aquí tienen etiquetas de Ollama versionadas que satisfacen este requisito.

China: Qwen2.5 7B (Alibaba) es el primer modelo natural para flujos de trabajo en chino. La tokenización nativa en chino y el soporte de 29 idiomas lo convierten en el estándar para flujos de trabajo en mandarín. Para el despliegue empresarial en China bajo la Ley de Seguridad de Datos de China (数据安全法), Qwen2.5 ejecutado localmente mediante Ollama cumple los requisitos de localización de datos.

Los cinco modelos se instalan con un solo comando de Ollama -- sin configuración manual necesaria. Consulta Cómo instalar Ollama para la configuración, luego Ejecuta tu primer LLM local para un paso a paso de la primera ejecución. Si ejecutas en un portátil con poca RAM, Cómo ejecutar LLMs locales en un portátil cubre la cuantización y el ajuste de rendimiento para hardware limitado.

Una vez que tu primer modelo esté en marcha, el siguiente paso es aprender a hacer prompts de forma efectiva. Empieza con los fundamentos de prompt engineering -- 16 guías que cubren los bloques básicos que todo prompt necesita, desde la configuración de temperatura hasta el formato de salida.