Mejores LLMs locales para principiantes 2026: Modelos de 4 GB y 8 GB de RAM (Llama, Phi, Gemma, Qwen)

1. Instala Ollama (1 minuto)

Descárgalo desde ollama.com y ejecuta el instalador. Sin configuración.

2. Ejecuta Llama 3.2 3B (2 minutos)

Abre tu terminal y ejecuta: `ollama run llama3.2:3b`

Ollama descarga el modelo (~2 GB) la primera vez. Este es el modelo recomendado como primer modelo para la mayoría de usuarios.

3. Empieza a chatear (inmediato)

Una vez que el modelo cargue, escribe tu pregunta o prompt y presiona Enter. Verás respuestas a 25-45 tokens/segundo en un portátil típico.

Eso es todo. Sin configuración manual, sin GPU necesaria. Si tienes 8 GB+ de RAM, estás listo. Si tienes 4-6 GB, usa `ollama run gemma3:2b` en su lugar (más rápido, usa 1,7 GB de RAM).

Antes de descargar tu primer modelo, responde estas tres preguntas:

1. ¿Tienes 8 GB o más de RAM? (Si no, las APIs en la nube son más rápidas para empezar.)

2. ¿Necesitas que tus datos permanezcan privados? (Si no, las APIs en la nube ofrecen mejor calidad.)

3. ¿Puedes tolerar 20-40 minutos de configuración? (Si no, las APIs en la nube están listas en 5 minutos.)

Si respondiste "no" a dos o más preguntas, **lee la comparación completa de local vs nube** para ver si una API en la nube se adapta mejor a tu hardware y cronograma. Los principiantes suelen asumir que los LLMs locales son siempre mejores -- no es así. La elección correcta depende de tus restricciones específicas.

La selección de modelos para LLMs locales depende de tres restricciones: RAM disponible, velocidad de inferencia y tipo de tarea -- en ese orden de prioridad.

El número de parámetros (3B, 7B, 13B) es el principal determinante de los requisitos de RAM. Con la cuantización de 4 bits -- el estándar para la mayoría de herramientas de inferencia local -- multiplica el número de parámetros por ~0,5 para estimar los GB de RAM necesarios. Un modelo de 7B en Q4_K_M requiere aproximadamente 4,5 GB de RAM.

Para la mayoría de principiantes, los modelos de 7B con cuantización Q4_K_M ofrecen el mejor equilibrio de calidad, velocidad y uso de RAM en máquinas con 8 GB o más. En máquinas con 4-6 GB de RAM, los modelos de 3B son el techo práctico.

Meta Llama 3.2 3B es el mejor punto de partida para la mayoría de usuarios. Se descarga en menos de 5 minutos, funciona en cualquier máquina con 4 GB de RAM y produce un seguimiento de instrucciones notablemente mejor que los modelos 3B anteriores. Utiliza una ventana de contexto de 128K -- mucho mayor que los modelos de tamaño comparable.

En nuestras pruebas con un CPU de portátil de 8 núcleos, Llama 3.2 3B genera 25-45 tokens/s. En Apple M3 Pro alcanza 70-90 tokens/s. La calidad es adecuada para resúmenes, preguntas y respuestas y tareas de codificación simples, pero queda por detrás de los modelos de 7B en razonamiento de varios pasos.

Phi-4 Mini es el modelo compacto de Microsoft optimizado para tareas de razonamiento y codificación a pequeña escala. Alcanza 68% MMLU y 70% HumanEval -- puntuaciones que superan a muchos modelos de 7B de 2024 -- gracias al entrenamiento con datos sintéticos de alta calidad enfocados en la resolución de problemas.

Es el modelo recomendado para máquinas con 4-6 GB de RAM donde la calidad importa. Phi-4 Mini usa 2,5 GB de RAM (frente a los 3 GB de Phi-3.5 Mini), lo que lo hace más accesible en máquinas de 4 GB.

Gemma 3 2B es el modelo 2B actualizado de Google y la opción más rápida para inferencia solo en CPU. Genera 40-60 tokens/s en un CPU de portátil de gama media -- aproximadamente el doble de velocidad que Llama 3.2 3B en el mismo hardware. Gemma 3 mejora significativamente a su predecesor: la ventana de contexto se amplía de 8K (Gemma 2) a 128K tokens, eliminando una limitación importante para tareas con documentos.

Gemma 3 2B es una buena opción cuando la velocidad de respuesta es lo más importante, en máquinas con ≤4 GB de RAM, o como modelo de prueba para verificar tu configuración de LLM local antes de descargar modelos más grandes.

Meta Llama 3.3 8B es el modelo generalista de referencia actual en este tamaño, con un 72% en HumanEval y un razonamiento en inglés sólido. Sustituye a Mistral Small v0.3 como la elección 7B/8B de esta lista -- Mistral Small v0.3 fue el estándar de la comunidad en 2023-2024, pero ahora queda por detrás en el mismo nivel de RAM y es mejor tratarlo como una opción heredada (consulta Errores comunes más abajo para saber por qué ya no lo recomendamos por defecto).

Para máquinas con 8 GB de RAM, Llama 3.3 8B es un salto natural desde los modelos de 3B. Maneja textos más largos, instrucciones más complejas y conversaciones de varios turnos de forma más fiable que cualquier modelo de 3B, con una ventana de contexto de 128K.

Qwen3 8B (8,2B parámetros) obtiene un 57,3% en HumanEval, iguala o supera a Llama 3.1 8B en MMLU, y soporta de forma nativa más de 29 idiomas, incluyendo chino, japonés, coreano, árabe y todos los principales idiomas europeos. Es la opción recomendada para flujos de trabajo en idiomas distintos al inglés o casos de uso intensivos en codificación, y sustituye al anterior Qwen2.5 7B como la elección multilingüe de esta lista.

Qwen3 8B usa una ventana de contexto de 32K (ampliable a 131K con YaRN) y soporta salida estructurada con modo JSON, además de un "modo de pensamiento" opcional para tareas de razonamiento más difíciles (más lento, pero más preciso). El modelo está disponible en variantes instruct y base -- para uso en chat, usa siempre la versión instruct. Consulta la comparación de benchmarks Qwen vs Llama vs Mistral para datos detallados de benchmarks.

UE / RGPD: Para organizaciones europeas que procesan datos personales localmente, la procedencia del modelo importa para la documentación de cumplimiento. Las directrices alemanas del BSI requieren documentar el origen y el tipo de licencia del modelo para sistemas de IA usados en contextos profesionales. Llama (Meta/EE.UU.), Gemma (Google/EE.UU.) y Qwen (Alibaba/China) son técnicamente utilizables bajo el RGPD para inferencia local -- para la narrativa de procedencia europea más sencilla, Mistral AI (Francia) ofrece modelos con licencia Apache 2.0, aunque las versiones actuales de Mistral Small (24B+) superan el rango de RAM para principiantes de esta página (4-8 GB); consulta la guía de hardware para el nivel de GPU necesario para ejecutarlos.

Japón (METI): Para flujos de trabajo en japonés, Qwen3 8B es el primer modelo correcto -- la tokenización japonesa nativa produce una mejor eficiencia de tokens en textos japoneses que Llama. Ejecuta: `ollama run qwen3:8b`. Las directrices de gobernanza de IA del METI requieren documentar el nombre y la versión del modelo -- los cinco modelos aquí tienen etiquetas de Ollama versionadas que satisfacen este requisito.

China: Qwen3 8B (Alibaba) es el primer modelo natural para flujos de trabajo en chino. La tokenización nativa en chino y el soporte de más de 29 idiomas lo convierten en el estándar para flujos de trabajo en mandarín. Para el despliegue empresarial en China bajo la Ley de Seguridad de Datos de China (数据安全法), Qwen3 ejecutado localmente mediante Ollama cumple los requisitos de localización de datos.

Corea: Entre estas cinco opciones para principiantes, Qwen3 8B tiene la tokenización nativa coreana más sólida. Para modelos locales dedicados al idioma coreano más allá de este nivel de principiante, consulta Mejores modelos de idioma coreano para uso local.

Los cinco modelos se instalan con un solo comando de Ollama -- sin configuración manual necesaria. Consulta Cómo instalar Ollama para la configuración, luego Ejecuta tu primer LLM local para un paso a paso de la primera ejecución. Si ejecutas en un portátil con poca RAM, Cómo ejecutar LLMs locales en un portátil cubre la cuantización y el ajuste de rendimiento para hardware limitado.

Una vez que tu primer modelo esté en marcha, el siguiente paso es aprender a hacer prompts de forma efectiva. Empieza con los fundamentos de prompt engineering -- 16 guías que cubren los bloques básicos que todo prompt necesita, desde la configuración de temperatura hasta el formato de salida.