Cómo convertir modelos de Ollama a formato MLX
Respuesta rápida
No puedes convertir directamente modelos de Ollama a MLX. En su lugar, descarga los pesos GGUF o SafeTensors originales de Hugging Face, luego convierte con mlx-lm convert. Para la mayoría de modelos populares (Llama 3, Qwen, Mistral), versiones MLX preconvertidas ya existen en Hugging Face bajo la organización mlx-community.
- ▸No puedes convertir modelos de Ollama directamente — el formato de modelo es diferente
- ▸Modelos MLX preconvertidos existen en huggingface.co/mlx-community para la mayoría de modelos populares
- ▸Para convertir tu mismo: descarga desde Hugging Face, luego ejecuta mlx_lm.convert
Puntos clave
- ✓No puedes convertir modelos de Ollama GGUF directamente a MLX — tienes que comenzar con los pesos originales en Hugging Face
- ✓Los modelos populares ya tienen versiones MLX en huggingface.co/mlx-community — busca tu modelo primero antes de convertir
- ✓Para convertir: descarga pesos de Hugging Face, luego ejecuta `mlx_lm.convert --model-path <ruta> -o <salida>`
¿Por qué no puedes convertir directamente?
Los modelos de Ollama están en formato GGUF (cuantizados de 4-8 bits). MLX requiere los pesos originales de 16 bits de Hugging Face porque necesita re-cuantizar con algoritmos nativos de Apple Silicon.
Si intentas convertir directamente desde GGUF, pierdes información de precisión durante la cuantización y el resultado es de menor calidad.
La solución: comenzar con los pesos sin cuantizar de Hugging Face, luego dejar que mlx-lm re-cuantize optimizando para Metal en Apple Silicon.
Cómo convertir (si es necesario)
Primer intento: busca tu modelo en mlx-community. Ejecuta: `pip install mlx-lm` y luego `python -m mlx_lm.generate --model mlx-community/model-name-4bit`. Si funciona, está preconvertido.
Si no está disponible, convierte tu mismo: descarga pesos originales con `git clone https://huggingface.co/owner/model`, luego ejecuta `mlx_lm.convert --model-path ./model -o ./mlx_model` (esto toma 5-10 minutos).
Guías relacionadas
- ▸Ollama + MLX en Apple Silicon -- Ollama + MLX on Apple Silicon
- ▸MLX vs Ollama vs llama.cpp en Mac -- MLX vs Ollama vs llama.cpp on Mac
- ▸Mejores modelos Ollama solo para CPU -- best Ollama models CPU-only
- ▸Mejor configuración eGPU para MacBook LLM local 2026 -- eGPU setup for MacBook
Preguntas rápidas sobre conversión de Ollama a MLX
¿Dónde encuentro modelos MLX preconvertidos?▾
¿Cuánto tiempo tarda la conversión?▾
¿Qué cuantización debería usar cuando conviertes a MLX?▾
¿Quieres el desglose completo?
Leer la guía completa →