O Ollama suporta MLX no Apple Silicon?
Resposta rápida
Não. O Ollama usa llama.cpp com aceleração GPU Metal no Apple Silicon — não MLX. A aceleração Metal é rápida, mas não tão otimizada quanto o MLX nativo. Para inferência em velocidade MLX, use mlx-lm diretamente ou LM Studio, que suporta ambos os backends.
- ▸Backend do Ollama no Mac: llama.cpp + Metal (não MLX)
- ▸Opções MLX nativas: mlx-lm (CLI) ou LM Studio (GUI com suporte a MLX)
- ▸LM Studio é a forma mais fácil de obter velocidade MLX com uma interface tipo Ollama
Atualizado: 21 de junho de 2026
Pontos principais
- ✓O Ollama NÃO usa MLX no Mac — usa llama.cpp com aceleração Metal, que é ~2× mais lento que o MLX nativo
- ✓Para MLX nativo no Apple Silicon, use mlx-lm (Python CLI) ou LM Studio (GUI com seletor de backend)
- ✓LM Studio é o mais fácil porque tem um botão para alternar entre backends MLX e llama.cpp sem trocar de modelos
Por que o Ollama não usa MLX?
O Ollama é projetado para ser multiplataforma. Usa llama.cpp como seu backend padrão porque o llama.cpp funciona no Windows, Linux e Mac. O MLX só funciona no Apple Silicon, portanto adicionar suporte a MLX tornaria o Ollama muito mais complexo.
No Mac, o Ollama usa llama.cpp com aceleração Metal (GPU da Apple), que é rápido (~35 tok/s no M5 Pro com 8B), mas não tão otimizado quanto o MLX nativo (~65 tok/s).
Esta é uma decisão de design, não uma limitação técnica. O Ollama prioriza simplicidade sobre otimização máxima em uma plataforma específica.
| Ferramenta | Backend no Mac | Usa MLX? | Otimizado para Apple Silicon? |
|---|---|---|---|
| Ollama | llama.cpp + Metal | Não | Parcial (Metal) |
| LM Studio | llama.cpp + MLX | Sim (opcional) | Sim |
| mlx-lm | MLX nativo | Sim | Totalmente nativo |
Como obter velocidade MLX
Opção 1 (CLI): use mlx-lm diretamente. `pip install mlx-lm`, depois `python -m mlx_lm.generate --model mlx-community/model-4bit`. Rápido, mas requer linha de comando.
Opção 2 (GUI): use LM Studio. Baixe em lmstudio.ai. Em Configurações, mude "Inference Engine" de llama.cpp para MLX. Você obtém velocidade MLX com a interface tipo Ollama do LM Studio.
Se precisar especificamente do Ollama, use-o, mas espere ~35 tok/s. Se precisar de velocidade MLX (~65 tok/s), use uma das opções acima.
Guias relacionados
- ▸Ollama Última Versão: O que há de novo? -- Ollama updates
Perguntas rápidas: Ollama e MLX
O LM Studio usa MLX ou llama.cpp no Mac?▾
Há diferença de velocidade entre Ollama Metal e MLX?▾
Posso forçar o Ollama a usar MLX?▾
Devo esperar que o Ollama adicione suporte a MLX?▾
Quer a análise completa?
Ler o guia completo →