Conclusiones clave
- Licencia MIT, desarrollado por Apple Machine Learning Research
- MLX (el framework subyacente) ha superado aproximadamente 27.300 estrellas en GitHub; mlx-lm específicamente tiene aproximadamente 6.900+
- Lanzado por primera vez el 5 de diciembre de 2023; en enero de 2026 Apple publicó investigación sobre Neural Accelerators en cada núcleo GPU del M5, evaluados específicamente con MLX
- Solo Apple Silicon (serie M) — sin soporte para Windows, Linux, Mac con Intel o GPU que no sean de Apple
- Construido en torno a la memoria unificada: pesos, caché KV y activaciones comparten un grupo de memoria entre CPU y GPU, sin sobrecarga de copia
- Admite acceso a modelos de Hugging Face Hub, cuantización con subida al Hub, y tanto fine-tuning LoRA como completo, incluso para modelos cuantizados
📍 En una frase
MLX-LM es un paquete de Python gratuito con licencia MIT de Apple Machine Learning Research para ejecutar y ajustar LLM en Apple Silicon, construido sobre el framework de arrays de memoria unificada de MLX, pero limitado exclusivamente a hardware Mac con chip serie M.
💬 En términos simples
En un PC con Windows o Linux, la CPU y la GPU tienen cada una su propia memoria separada, por lo que los datos deben copiarse entre ambas; MLX se basa en el hecho de que en un Mac con Apple Silicon, la CPU y la GPU ya comparten la misma memoria física, por lo que MLX-LM puede saltarse por completo ese paso de copia.
📌Nota: MLX-LM es la herramienta propia de Apple y es exclusiva de Apple Silicon por diseño — no es una alternativa multiplataforma a llama.cpp, sino una específica para Mac.
¿Qué es MLX-LM?
MLX-LM es un paquete de Python gratuito y de código abierto de Apple Machine Learning Research para generar texto y ajustar modelos de lenguaje grandes específicamente en Apple Silicon, construido sobre MLX, el framework de arrays propio de Apple. MLX en sí se lanzó por primera vez el 5 de diciembre de 2023, con mlx-lm como paquete complementario centrado específicamente en flujos de trabajo de modelos de lenguaje.
El proyecto está alojado en github.com/ml-explore/mlx-lm bajo licencia MIT. MLX, el framework más amplio, ha superado aproximadamente 27.300 estrellas en GitHub, mientras que mlx-lm específicamente tiene aproximadamente 6.900+.
- Se integra con Hugging Face Hub para el acceso a modelos, incluido soporte para cuantizar modelos y subir los resultados de vuelta al Hub
- Admite tanto fine-tuning de bajo rango (LoRA) como fine-tuning completo, incluido el ajuste de modelos ya cuantizados
- Incluye caché de prompts y una caché clave-valor rotatoria para mayor eficiencia durante la generación
- Admite inferencia y fine-tuning distribuidos en varias máquinas mediante
mx.distributed - Proporciona salida de generación en streaming y un comando
mlx_lm.serverpara servir modelos
¿Qué es la memoria unificada y por qué depende MLX de ella?
La memoria unificada significa que la CPU y la GPU en Apple Silicon comparten un único grupo físico de memoria, en lugar de tener cada una memoria dedicada separada que requiera copiar datos entre ambas. MLX está diseñado específicamente en torno a esta arquitectura, que es fundamentalmente distinta de la configuración de RAM de CPU discreta más VRAM de GPU separada que se encuentra en sistemas Windows y Linux con una GPU dedicada de NVIDIA o AMD.
- Los pesos del modelo, la caché KV y las activaciones residen todos en el mismo grupo de memoria, accesible tanto para la CPU como para la GPU sin un paso de copia
- Las operaciones pueden distribuirse entre CPU y GPU según sea necesario sin la sobrecarga de transferencia de datos que requiere un sistema con GPU discreta
- Esta es una característica a nivel de hardware de Apple Silicon (chips serie M) que MLX está diseñado específicamente para aprovechar, no un truco de software que pudiera replicarse de forma idéntica en hardware que no sea de Apple
- En enero de 2026, Apple publicó investigación evaluando específicamente los Neural Accelerators dedicados integrados en cada núcleo GPU del chip M5 al ejecutar MLX
¿Cómo se instala y usa MLX-LM?
MLX-LM se instala mediante pip o conda y ofrece tanto una interfaz de línea de comandos como una API de Python para generación, fine-tuning y servicio de modelos. Requiere macOS en Apple Silicon; algunas funciones requieren macOS 15.0 o posterior.
- 1Instalar mediante pip:
pip install mlx-lm, o mediante conda:conda install -c conda-forge mlx-lm. - 2Generar texto directamente desde un modelo de Hugging Face Hub, por ejemplo
mlx_lm.generate --model <hf-model-id> --prompt "...", que descarga y ejecuta el modelo. - 3Para hacer fine-tuning, usar los comandos de LoRA o fine-tuning completo documentados en el README de GitHub del proyecto, que admiten tanto modelos base de precisión completa como ya cuantizados.
- 4Para cuantizar un modelo y, opcionalmente, subirlo de vuelta a Hugging Face Hub, usar las herramientas de conversión y cuantización del proyecto.
- 5Para servir un modelo mediante una API, ejecutar
mlx_lm.server, que inicia un servidor local para acceso programático. - 6Para inferencia o fine-tuning distribuidos en varias máquinas, configurar
mx.distributedsegún se documenta en las guías de uso avanzado del proyecto.
¿MLX-LM funciona en Mac con Intel?
No. MLX-LM requiere Apple Silicon (un chip serie M) — los Mac basados en Intel no son compatibles.
¿MLX-LM requiere conexión a internet?
Solo para descargar modelos inicialmente, normalmente desde Hugging Face Hub. Una vez descargado un modelo, la generación y la inferencia se ejecutan completamente en local.
¿Qué hardware requiere MLX-LM?
MLX-LM requiere un Mac con Apple Silicon — no hay soporte para Mac con Intel, Windows, Linux ni GPU que no sean de Apple, de ningún tipo. Esta es la compensación central frente a motores multiplataforma como llama.cpp.
- Se requiere Apple Silicon (chip serie M) — se admite desde M1 hasta la generación actual, y los chips más nuevos se benefician de optimizaciones continuas de MLX
- Sin soporte para Mac con Intel, aunque estos también ejecuten macOS
- Ningún tipo de soporte para Windows o Linux
- Sin soporte para GPU que no sean de Apple — MLX no funciona en hardware NVIDIA o AMD
- Algunas funciones requieren específicamente macOS 15.0 o posterior, incluida una optimización documentada de memoria cableada (wired memory)
¿Quién debería usar MLX-LM?
Usa MLX-LM si la máquina de destino es confirmadamente Apple Silicon y sacar el máximo partido a la memoria unificada de ese hardware específico importa; usa un motor multiplataforma si el hardware necesita ser flexible o no ser Mac.
¿Cómo se compara MLX-LM con llama.cpp y otros motores?
La comparación más cercana para MLX-LM es el propio backend Metal de llama.cpp, ya que ambos se ejecutan en Apple Silicon — la diferencia es que MLX-LM es el framework propio de Apple, exclusivo de Mac, mientras que llama.cpp además cubre hardware NVIDIA, AMD e Intel.
Herramienta | Licencia | Mejor para |
|---|---|---|
| MLX-LM | MIT | Específico de Apple Silicon, memoria unificada |
| llama.cpp | MIT | Soporte de hardware más amplio, control directo |
| Ollama | MIT | Configuración local multiplataforma más sencilla |
| vLLM | Apache 2.0 | Servicio multiusuario de alto rendimiento |
| SGLang | Apache 2.0 | Caché de prefijos para chat/salida estructurada |
Errores comunes al evaluar MLX-LM
La mayor parte de la confusión viene de esperar que MLX-LM funcione fuera de Apple Silicon, o de malinterpretar lo que realmente cambia la memoria unificada.
Preguntas frecuentes
¿Qué es MLX-LM?
MLX-LM es un paquete de Python gratuito con licencia MIT de Apple Machine Learning Research para generar texto y ajustar modelos de lenguaje grandes en Apple Silicon, construido sobre el framework de arrays MLX de Apple.
¿MLX-LM funciona en Windows o Linux?
No. MLX-LM requiere Apple Silicon y funciona solo en macOS sobre hardware Mac de la serie M.
¿Es MLX-LM gratuito para uso comercial?
Sí. MLX-LM tiene licencia MIT, es gratuito para uso personal y comercial.
¿Qué es la memoria unificada en MLX?
La memoria unificada significa que la CPU y la GPU en Apple Silicon comparten un único grupo físico de memoria, de modo que los pesos del modelo, la caché KV y las activaciones pueden ser accedidos por ambas sin un paso de copia — una característica de hardware distinta de la configuración de RAM de CPU y VRAM de GPU separadas en la mayoría de los sistemas Windows/Linux.
¿Puede MLX-LM hacer fine-tuning de modelos?
Sí. Admite tanto fine-tuning LoRA (bajo rango) como completo, incluido el ajuste de modelos ya cuantizados.
¿MLX-LM funciona con modelos de Hugging Face?
Sí. MLX-LM se integra con Hugging Face Hub para descargar modelos y puede subir modelos cuantizados de vuelta al Hub.
¿Quién desarrolla MLX-LM?
Apple Machine Learning Research desarrolla y mantiene MLX-LM, junto con el framework MLX más amplio sobre el que está construido. MLX se lanzó por primera vez el 5 de diciembre de 2023.
¿En qué se diferencia MLX-LM de llama.cpp en un Mac?
Ambos pueden ejecutar modelos en Apple Silicon, pero MLX-LM es el framework propio de Apple, construido específicamente en torno a la memoria unificada y exclusivo de Apple Silicon, mientras que llama.cpp es un proyecto independiente y multiplataforma que también admite hardware NVIDIA, AMD e Intel mediante su backend Metal en Mac.
¿Puede MLX-LM servir modelos mediante una API?
Sí. El comando mlx_lm.server inicia un servidor local para acceso programático a un modelo cargado.
¿Es MLX-LM bueno para servicio de producción de alto rendimiento?
No es su objetivo de diseño principal. Para servicio de producción multiusuario de alto rendimiento, vLLM o SGLang son las herramientas más especializadas; MLX-LM se centra en la inferencia y el fine-tuning en una sola máquina Apple Silicon.