Modelos LLM locales pequeños: los mejores sub-4B para máquinas con poca RAM en 2026

Un LLM local pequeño se define típicamente como un modelo con menos de 4.000 millones de parámetros. Con cuantización Q4_K_M, estos modelos requieren 1,5-3 GB de RAM -- perfectamente dentro de las limitaciones de portátiles de gama básica con 4-8 GB de memoria total.

A partir de abril de 2026, los modelos pequeños son adecuados para: resumen rápido, preguntas y respuestas simples, explicación de fragmentos de código, traducción de textos cortos y tareas de clasificación. No son adecuados para razonamiento de varios pasos, generación de código complejo ni redacción de documentos largos y coherentes.

La brecha de calidad entre un modelo 3B y uno 7B es significativa -- aproximadamente equivalente a la brecha entre GPT-3.5 Mini y GPT-3.5 Turbo. Para usuarios con 8 GB de RAM, un modelo 7B con Q4_K_M es casi siempre la mejor opción si la máquina tiene margen. Consulta Mejores modelos LLM locales para principiantes para recomendaciones de 7B.

Microsoft Phi-4 Mini alcanza el 68% en MMLU y el 70% en HumanEval -- puntuaciones que superan a muchos modelos 7B lanzados antes de 2025. Esto es posible porque Phi-4 Mini fue entrenado con un conjunto de datos sintético curado, centrado en el razonamiento y la resolución de problemas, en lugar de texto web genérico.

A partir de abril de 2026, Phi-4 Mini es la opción recomendada para usuarios que principalmente necesitan razonamiento (matemáticas, lógica, explicaciones paso a paso) o asistencia con código en hardware con 4-6 GB de RAM.

Google Gemma 2 2B genera 40-60 tokens/seg en una CPU de portátil moderna -- el más rápido de cualquier modelo en este nivel de calidad. Su huella de RAM de 1,7 GB deja amplia memoria para el sistema operativo y otras aplicaciones en una máquina de 4 GB.

La calidad es inferior a Phi-4 Mini o Llama 3.2 3B en tareas de razonamiento. La ventana de contexto de 8K (frente a 128K en Phi-4 Mini y Llama 3.2) es una limitación práctica para documentos más largos. Gemma 2 2B es la elección correcta cuando la velocidad de respuesta importa más que la profundidad de salida.

Qwen2.5 3B obtiene un 65% en HumanEval -- 5 puntos porcentuales por encima de Llama 3.2 3B -- convirtiéndolo en la mejor opción para tareas de código a escala 3B. Incluye modo JSON y soporte de llamadas a funciones, y maneja de forma nativa 29 idiomas.

Para tareas que no son de código en inglés, Llama 3.2 3B y Phi-4 Mini producen prosa más natural. Elige Qwen2.5 3B específicamente cuando el código o la salida multilingüe es el caso de uso principal.

Meta Llama 3.2 3B es el modelo 3B más documentado y con mayor soporte de la comunidad. Obtiene un 58% en MMLU y un 60% en HumanEval -- ligeramente por debajo de Phi-4 Mini en ambos -- pero tiene el soporte de herramientas más amplio, más ajustes finos disponibles y la mayor colección de guías comunitarias.

La ventana de contexto de 128K es la misma que en los modelos Llama 3.x más grandes, lo que lo hace adecuado para resumir documentos de longitud media. Para un primer modelo pequeño, Llama 3.2 3B sigue siendo la opción más segura debido a su comportamiento predecible y documentación extensa.

Llama 3.2 1B requiere solo 1,3 GB de RAM y genera 60-90 tok/seg en CPU -- el modelo ejecutable localmente más rápido. La calidad de salida es marginal: maneja clasificaciones muy simples y extracción de palabras clave, pero tiene dificultades con respuestas coherentes de varias frases. A partir de abril de 2026, usa Llama 3.2 1B solo cuando la RAM es genuinamente la restricción principal (menos de 3 GB disponibles) o para probar integraciones de herramientas.

UE / RGPD: Para profesionales de la UE que trabajan con hardware limitado -- trabajo de campo, entornos aislados, portátiles empresariales más antiguos -- los modelos locales pequeños proporcionan inferencia compatible con el RGPD sin salida de datos. Un Phi-4 Mini 3.8B ejecutándose en un portátil corporativo estándar (8 GB de RAM) mantiene todo el texto procesado en el dispositivo bajo el Artículo 5 del RGPD (minimización de datos). Para la documentación de cumplimiento del BSI alemán: Phi-4 Mini (Microsoft, licencia MIT) y Llama 3.2 3B (Meta, licencia de la comunidad Llama) proporcionan identificadores de modelos versionados a través de sus etiquetas de Ollama, satisfaciendo los requisitos de documentación de herramientas de IA. Mistral no ofrece actualmente un modelo sub-4B. Para organizaciones de la UE que prefieren un modelo de origen europeo en esta clase de tamaño, las opciones son limitadas hasta que Mistral lance una variante sub-4B.

Japón (METI): Para tareas en japonés a nivel de modelo pequeño, Qwen2.5 3B es el único modelo en esta comparación con tokenización nativa en japonés. Llama 3.2 3B maneja el japonés pero con menor eficiencia de tokenización. Para resumen o traducción al japonés en hardware limitado: `ollama run qwen2.5:3b`. La ventaja de velocidad de los modelos pequeños es especialmente relevante para el uso empresarial japonés: 25-40 tok/seg en CPU proporciona una respuesta en tiempo real adecuada para interfaces de chat en hardware de oficina estándar.

China: Qwen2.5 3B (Alibaba, Apache 2.0) es la elección natural para la implementación de modelos pequeños en chino. La tokenización nativa en chino procesa texto en mandarín un 30-40% más eficientemente que Llama con el mismo número de parámetros. Para implementaciones IoT y edge bajo la Ley de Seguridad de Datos de China (数据安全法): `ollama run qwen2.5:3b` funciona en cualquier dispositivo Linux con 4 GB de RAM y procesa todo el texto en el dispositivo sin llamadas a API externas.