Skip to main content
PromptQuorumPromptQuorum

Como converter modelos do Ollama para o formato MLX

Ler em:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Resposta rápida

Você não pode converter modelos do Ollama diretamente para MLX. Em vez disso, baixe os pesos GGUF ou SafeTensors originais do Hugging Face e converta com mlx-lm convert. Para a maioria dos modelos populares (Llama 3, Qwen, Mistral), versões MLX pré-convertidas já existem no Hugging Face sob a organização mlx-community.

  • ▸Você não pode converter modelos do Ollama diretamente — o formato do modelo é diferente
  • ▸Modelos MLX pré-convertidos existem em huggingface.co/mlx-community para a maioria dos modelos populares
  • ▸Para converter você mesmo: baixe do Hugging Face, depois execute mlx_lm.convert

Atualizado: 21 de junho de 2026

Tool ComparisonsIntermediário

Pontos principais

  • ✓Você não pode converter modelos Ollama GGUF diretamente para MLX — precisa começar com os pesos originais do Hugging Face
  • ✓Modelos populares já têm versões MLX em huggingface.co/mlx-community — pesquise seu modelo primeiro antes de converter
  • ✓Para converter: baixe os pesos do Hugging Face, depois execute `mlx_lm.convert --model-path <caminho> -o <saída>`

Por que você não pode converter diretamente?

Os modelos do Ollama estão no formato GGUF (quantizados de 4–8 bits). MLX requer os pesos originais de 16 bits do Hugging Face porque precisa re-quantizar com algoritmos nativos do Apple Silicon.

Se você tentar converter diretamente do GGUF, perde informação de precisão durante a quantização e o resultado é de qualidade inferior.

A solução: começar com os pesos não quantizados do Hugging Face e deixar o mlx-lm re-quantizar otimizando para Metal no Apple Silicon.

Como converter (se necessário)

Primeira tentativa: pesquise seu modelo na mlx-community. Execute: `pip install mlx-lm` e depois `python -m mlx_lm.generate --model mlx-community/model-name-4bit`. Se funcionar, já está pré-convertido.

Se não estiver disponível, converta você mesmo: baixe os pesos originais com `git clone https://huggingface.co/owner/model`, depois execute `mlx_lm.convert --model-path ./model -o ./mlx_model` (isso leva 5–10 minutos).

Guias relacionados

Perguntas rápidas sobre conversão do Ollama para MLX

Onde encontro modelos MLX pré-convertidos?▾
No Hugging Face sob a organização mlx-community: huggingface.co/mlx-community. Pesquise seu modelo (Llama, Qwen, Mistral, etc.). Se não estiver lá, você precisará converter você mesmo.
Quanto tempo demora a conversão?▾
Tipicamente 5–10 minutos para um modelo 7B em um M5 Pro. Modelos maiores podem levar 20+ minutos. A conversão é uma operação única — o modelo resultante é armazenado localmente.
Qual quantização devo usar ao converter para MLX?▾
Para a maioria dos modelos 7B–14B em memória unificada de 16 GB, use quantização de 4 bits (é o padrão para o flag `-q`). Isso produz um modelo de ~4 GB que funciona bem nos chips M1/M2/M3/M4. Use quantização de 8 bits apenas se tiver 32+ GB de memória e precisar de maior qualidade de saída.

Quer a análise completa?

Ler o guia completo →

Prompt Bites relacionados

← Voltar para Prompts em resumo