Ollama는 Apple Silicon에서 MLX를 지원합니까?
빠른 답변
아닙니다. Ollama는 Apple Silicon에서 Metal GPU 가속을 사용하는 llama.cpp를 사용하며, MLX는 사용하지 않습니다. Metal 가속은 빠르지만 네이티브 MLX만큼 최적화되어 있지는 않습니다. MLX 속도로 추론하려면 mlx-lm을 직접 사용하거나 MLX와 llama.cpp 백엔드를 모두 지원하는 LM Studio를 사용하십시오.
- ▸Mac에서 Ollama 백엔드: llama.cpp + Metal (MLX 아님)
- ▸네이티브 MLX 옵션: mlx-lm (CLI) 또는 LM Studio (MLX 지원 GUI)
- ▸LM Studio는 Ollama 유사 인터페이스로 MLX 속도를 얻는 가장 쉬운 방법입니다
업데이트: 2026-05
핵심 요점
- ✓Ollama는 Mac에서 MLX를 사용하지 않습니다. llama.cpp + Metal 가속을 사용하며, 네이티브 MLX보다 약 2배 느립니다.
- ✓Apple Silicon에서 네이티브 MLX를 사용하려면 mlx-lm (Python CLI) 또는 LM Studio (백엔드 선택 가능한 GUI)를 사용하십시오.
- ✓LM Studio는 모델 변경 없이 MLX와 llama.cpp 백엔드 간 전환 토글을 제공하여 가장 편리합니다.
Ollama가 MLX를 사용하지 않는 이유
Ollama는 크로스 플랫폼으로 설계되었습니다. llama.cpp는 Windows, Linux, Mac에서 모두 동작하기 때문에 기본 백엔드로 사용됩니다. MLX는 Apple Silicon에서만 동작하므로 MLX 지원을 추가하면 Ollama가 훨씬 복잡해집니다.
Mac에서 Ollama는 Apple GPU를 활용하는 Metal 가속과 함께 llama.cpp를 사용합니다. M5 Pro에서 8B 모델 기준 약 35 tok/s로 빠르지만, 네이티브 MLX(약 65 tok/s)만큼 최적화되어 있지는 않습니다.
이것은 기술적 한계가 아니라 설계 결정입니다. Ollama는 특정 플랫폼의 최대 최적화보다 단순성을 우선시합니다.
MLX 속도를 얻는 방법
옵션 1 (CLI): mlx-lm을 직접 사용합니다. `pip install mlx-lm`을 실행한 후 `python -m mlx_lm.generate --model mlx-community/model-4bit`를 실행하십시오. 빠르지만 커맨드라인이 필요합니다.
옵션 2 (GUI): LM Studio를 사용합니다. lmstudio.ai에서 다운로드하십시오. Settings에서 "Inference Engine"을 llama.cpp에서 MLX로 변경하면 LM Studio의 Ollama 유사 인터페이스로 MLX 속도를 얻을 수 있습니다.
Ollama가 반드시 필요하다면 Ollama를 사용하되 약 35 tok/s를 예상하십시오. MLX 속도(약 65 tok/s)가 필요하다면 위의 옵션 중 하나를 사용하십시오.
관련 자료
Ollama와 MLX에 관한 자주 묻는 질문
LM Studio는 Mac에서 MLX와 llama.cpp 중 무엇을 사용합니까?▾
Ollama Metal과 MLX 사이에 속도 차이가 있습니까?▾
Ollama가 MLX를 사용하도록 강제할 수 있습니까?▾
Ollama가 MLX 지원을 추가할 때까지 기다려야 합니까?▾
전체 설명이 필요하십니까?
전체 가이드 읽기 →