Skip to main content
PromptQuorumPromptQuorum

¿Ollama soporta MLX en Apple Silicon?

Leer en:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es

Respuesta rápida

No. Ollama usa llama.cpp con aceleración GPU Metal en Apple Silicon — no MLX. La aceleración Metal es rápida pero no tan optimizada como MLX nativo. Para inferencia a velocidad MLX, usa mlx-lm directamente o LM Studio, que soporta ambos backends.

  • ▸Backend de Ollama en Mac: llama.cpp + Metal (no MLX)
  • ▸Opciones MLX nativas: mlx-lm (CLI) o LM Studio (GUI con soporte MLX)
  • ▸LM Studio es la forma más fácil de obtener velocidad MLX con una interfaz tipo Ollama

Actualizado: 2026-05

Tool ComparisonsPrincipiante

Puntos clave

  • ✓Ollama NO usa MLX en Mac — usa llama.cpp con aceleración Metal, que es ~2× más lento que MLX nativo
  • ✓Para MLX nativo en Apple Silicon, usa mlx-lm (Python CLI) o LM Studio (GUI con selector de backend)
  • ✓LM Studio es el más fácil porque tiene un toggle para cambiar entre backends MLX y llama.cpp sin cambiar modelos

¿Por qué Ollama no usa MLX?

Ollama está diseñado para ser multiplataforma. Usa llama.cpp como su backend por defecto porque llama.cpp funciona en Windows, Linux y Mac. MLX solo funciona en Apple Silicon, por lo que agregar soporte MLX haría que Ollama sea mucho más complejo.

En Mac, Ollama usa llama.cpp con aceleración Metal (GPU de Apple), que es rápido (~35 tok/s en M5 Pro con 8B) pero no es tan optimizado como MLX nativo (~65 tok/s).

Esta es una decisión de diseño, no una limitación técnica. Ollama prioriza simplicidad sobre optimización máxima en una plataforma específica.

Cómo obtener velocidad MLX

Opción 1 (CLI): usa mlx-lm directamente. `pip install mlx-lm`, luego `python -m mlx_lm.generate --model mlx-community/model-4bit`. Rápido pero requiere línea de comandos.

Opción 2 (GUI): usa LM Studio. Descarga desde lmstudio.ai. En Settings, cambia "Inference Engine" de llama.cpp a MLX. Obtienes velocidad MLX con la interfaz Ollama-like de LM Studio.

Si necesitas Ollama específicamente, usa Ollama pero espera ~35 tok/s. Si necesitas MLX-speed (~65 tok/s), usa uno de los anteriores.

Preguntas rápidas: Ollama y MLX

¿LM Studio usa MLX o llama.cpp en Mac?▾
LM Studio puede usar ambos. Por defecto, usa llama.cpp. Ve a Settings → Inference Engine y cambia a MLX para obtener velocidad MLX nativa.
¿Hay diferencia de velocidad entre Ollama Metal y MLX?▾
Sí, ~2× más rápido. Ollama (llama.cpp + Metal) ~35 tok/s en M5 Pro. MLX nativo ~65 tok/s en el mismo chip con el mismo modelo.
¿Puedo forzar que Ollama use MLX?▾
No. Ollama internamente solo usa llama.cpp. Para MLX necesitas cambiar a mlx-lm o LM Studio.
¿Debería esperar que Ollama agregue soporte MLX?▾
No es probable. Ollama prioriza ser multiplataforma. MLX es específico de Apple Silicon. En su lugar, usa LM Studio que soporta ambos backends y tiene una interfaz similar.

¿Quieres el desglose completo?

Leer la guía completa →

Prompt Bites relacionados

← Volver a Prompt Bites