oMLX Review 2026: servidor de inferencia para Apple Silicon con caché en SSD

¿Qué es oMLX?

• Función principal: un servidor de inferencia en segundo plano que carga modelos de pesos abiertos y los sirve a través de una API HTTP local, gestionado desde una app en la barra de menús o el CLI omlx
• Motor de inferencia: construido sobre el framework MLX de Apple y el BatchGenerator de la librería mlx-lm, según la propia documentación de oMLX, con una capa original de batching continuo y caché paginada por encima
• Base: según el propio anuncio del desarrollador, oMLX se construyó originalmente sobre vllm-mlx como punto de partida, con implementaciones originales añadidas para el tiering de caché en SSD, batching continuo, soporte de modelos de visión y lenguaje, la API compatible con Anthropic, y la interfaz nativa de macOS
• Desarrollador: jundot (contacto listado como junkim.dot@gmail.com en el repositorio), un mantenedor independiente — esta review no encontró evidencia de una empresa o ronda de financiación detrás de oMLX
• Repositorio canónico: github.com/jundot/omlx — existen varios forks con nombre idéntico bajo otros nombres de usuario de GitHub (por ejemplo mkmsyk/omlx, dannysl/omlx); esos no son el proyecto original

Origen y crecimiento de oMLX

• Anuncio: 4 de marzo de 2026, en github.com/ml-explore/mlx/discussions/3203, publicado por el propio desarrollador del proyecto, jundot
• Punto de partida: vllm-mlx, con el tiering en SSD, el batching continuo, el VLM, la API de Anthropic y el código de interfaz nativa propios del desarrollador añadidos encima
• Crecimiento: de aproximadamente 110 estrellas en GitHub en el anuncio de marzo de 2026 a aproximadamente 21,859 estrellas a la fecha de esta review, según el propio repositorio de GitHub de oMLX
• Historial de licencia: el archivo LICENSE del repositorio lleva un aviso de copyright de 2025 para "oMLX contributors", anterior al anuncio público del proyecto en marzo de 2026 — consistente con un desarrollo privado antes del lanzamiento público

¿Qué puedes hacer con oMLX?

• Caché clave-valor por niveles — los bloques de contexto activos permanecen en un nivel caliente de RAM; los bloques inactivos pasan a un nivel frío de SSD en formato safetensors, con compartición de prefijos y copy-on-write, y la caché sobrevive a los reinicios del servidor en lugar de descartarse
• Batching continuo — las solicitudes concurrentes se gestionan a través del BatchGenerator de mlx-lm, con una concurrencia máxima configurable, en lugar de procesar una solicitud a la vez
• Servicio multi-modelo — carga LLM, modelos de visión y lenguaje (VLM), modelos de embeddings y rerankers en paralelo, con desalojo LRU, carga/descarga manual, fijación de modelos y un tiempo de vida configurable por modelo
• API compatible con OpenAI y Anthropic — /v1/chat/completions, /v1/completions, /v1/embeddings y /v1/rerank para clientes con formato OpenAI, más /v1/messages para clientes con formato Anthropic, todo servido desde http://localhost:8000
• Soporte de visión y lenguaje y OCR — chat multi-imagen con entradas en base64, URL o archivo, llamadas a herramientas con contexto visual, y detección automática de modelos OCR dedicados
• Llamadas a herramientas y MCP — llamadas a herramientas con esquema JSON y detección automática de plantillas de chat para Llama, Qwen, DeepSeek, Gemma, GLM, MiniMax, Mistral y otras familias de modelos, además de configuración del Model Context Protocol (MCP)
• App nativa de macOS en la barra de menús — una app Swift/SwiftUI (explícitamente no Electron, según la propia documentación del proyecto) para iniciar, detener y monitorear el servidor sin terminal, con analíticas de uso locales (totales por modelo, mapa de calor de uso por hora) y reinicio automático ante fallos
• Panel de administración — una interfaz web en /admin, accesible desde un navegador una vez que el servidor está en marcha, para gestión de modelos, una interfaz de chat integrada, benchmarking con un clic, un descargador de modelos, y configuración con un clic para integraciones de agentes de codificación incluyendo Claude Code, Cursor, OpenClaw, OpenCode, Codex, Hermes Agent, Copilot y Pi
• Inferencia distribuida experimental — inferencia multi-Mac a través de rangos de pipeline de MLX mediante red Ring o Thunderbolt RDMA, marcada como experimental en la propia documentación de oMLX

Ejemplos de uso: tres formas de usar oMLX

Instalar oMLX: app de macOS, Homebrew y CLI

Precios de oMLX: ¿es realmente gratis?

• Sin suscripción, sin nivel de pago, sin límites de uso impuestos por oMLX mismo
• No se requiere cuenta ni registro para instalar o ejecutar la app
• La aplicación, la app de la barra de menús, el CLI y el panel de administración están todos cubiertos por los mismos términos de la Apache License 2.0
• Como oMLX solo ejecuta modelos locales a través de MLX, tampoco hay ningún coste por token o por solicitud de un proveedor en la nube — el único coste es la electricidad y el hardware que ya tienes

oMLX vs. mlx-lm

¿Quién debería usar oMLX?

oMLX vs. otras herramientas de inferencia local

• mlx-lm — la librería de Python y el CLI subyacentes sobre los que oMLX mismo está construido; la elección correcta si quieres la forma más simple posible de ejecutar un solo modelo MLX sin una capa de servidor completa. Consulta la sección de comparación dedicada arriba.
• exo — una herramienta de código abierto para agrupar en clúster varias Mac con Apple Silicon (y otros dispositivos) y ejecutar modelos más grandes de los que una sola máquina podría alojar; relevante si el modo experimental de clúster único distribuido de oMLX no es suficiente para tu configuración. Consulta la review de exo.
• LM Studio — una app de escritorio multiplataforma (macOS, Windows, Linux) que también usa MLX como uno de sus motores de inferencia en Apple Silicon, junto con llama.cpp; mejor opción si necesitas que la misma herramienta funcione también en hardware que no sea Mac. Consulta la review de LM Studio.
• llamafile — un enfoque de inferencia local en un solo ejecutable, construido sobre llama.cpp en lugar de MLX, que ejecuta el mismo archivo en macOS, Windows y Linux sin paso de instalación; un contraste útil si la portabilidad multiplataforma te importa más que el rendimiento específico de Apple Silicon. Consulta el artículo llamafile explicado.

Errores comunes al evaluar oMLX

Preguntas frecuentes

Fuentes

Lecturas relacionadas

• Directorio de software de LLM local 2026 — el catálogo completo de herramientas de IA local al que pertenece este artículo, incluyendo la entrada de oMLX en el directorio junto a otros motores de inferencia cubiertos arriba.
• mlx-lm explicado — una mirada más profunda a la librería de Python y el CLI sobre los que oMLX mismo está construido.
• Review de exo — una herramienta para agrupar en clúster varias Mac con Apple Silicon y ejecutar modelos más grandes de los que una sola máquina podría alojar.
• Review de LM Studio — una app de escritorio multiplataforma que también admite MLX en Apple Silicon, junto con llama.cpp para otras plataformas.
• llamafile explicado — una alternativa multiplataforma en un solo ejecutable, construida sobre llama.cpp en lugar de MLX.