본문으로 건너뛰기
PromptQuorum인간을 위해 설계. AI를 위해 구조화.

Ollama는 Apple Silicon에서 MLX를 지원합니까?

Ollama는 Apple Silicon에서 MLX를 지원합니까?
언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

빠른 답변

네. Ollama는 버전 0.19(2026년 3월 30일, 미리보기)에서 Apple Silicon용 MLX 백엔드를 추가했고, 버전 0.40(2026년 9월 25일)부터는 MLX 런타임이 지원하는 아키텍처가 자동으로 MLX에서 실행됩니다. 그 밖의 아키텍처는 자동으로 전환되지 않으므로, 그런 경우나 Python 직접 제어에는 mlx-lm 또는 LM Studio를 사용하십시오.

  • ▸Mac의 Ollama: 지원 아키텍처에 MLX 러너(0.40 노트에 qwen3.5, qwen3.6, gemma4 언급)
  • ▸0.19 미리보기는 통합 메모리 32GB 초과 Mac이 필요했음
  • ▸다른 MLX 옵션: mlx-lm(CLI/Python) 또는 LM Studio(MLX 엔진이 있는 GUI)
Tool Comparisons초급

핵심 요점

  • ✓Ollama 0.19(2026년 3월 30일)는 Apple Silicon 백엔드를 Apple의 MLX 프레임워크 기반으로 다시 구축해 미리보기로 제공했으며, 통합 메모리 32GB 초과 Mac의 Qwen3.5-35B-A3B를 대상으로 했습니다
  • ✓릴리스 노트에 따르면 버전 0.40(2026년 9월 25일)부터 MLX 런타임이 지원하는 모델 아키텍처가 Apple Silicon에서 자동으로 MLX에서 실행됩니다
  • ✓Ollama 자체 벤치마크에서 Qwen3.5-35B-A3B의 디코드는 58에서 112 tokens/s로, 프리필은 1,154에서 1,810 tokens/s로 올랐습니다(버전 0.18 Q4_K_M 대 0.19 NVFP4). 양자화 형식이 다르므로 일반적인 속도 비율이 아닙니다

Ollama가 지금 MLX를 사용하는 방식

Ollama는 이제 Apple Silicon에서 두 가지 방식으로 지원됩니다. 버전 0.19 이전에는 모델이 llama.cpp와 Metal로 실행되었습니다. 버전 0.19(2026년 3월 30일)가 MLX 백엔드를 미리보기로 추가했고, 버전 0.40(2026년 9월 25일, v0.40.0)은 MLX 런타임이 지원하는 모델 아키텍처를 자동으로 MLX에서 실행합니다. 릴리스 노트에는 qwen3.5, qwen3.6, gemma4 등이 언급되며, 목록은 릴리스마다 바뀝니다.

MLX는 Apple Silicon을 위한 Apple의 머신러닝 프레임워크로, 통합 메모리 아키텍처를 직접 활용합니다. ollama.com/blog/mlx 발표는 NVFP4 양자화와 대화 간 캐시 재사용도 설명하며, M5·M5 Pro·M5 Max 칩의 GPU 뉴럴 액셀러레이터가 첫 토큰까지의 시간과 생성 속도를 높인다고 밝힙니다.

도구Mac 백엔드MLX 사용?확인한 버전
OllamaMLX(지원 모델) / llama.cpp예(지원 모델)v0.40.6(2026년 10월 16일)
LM StudioMLX 엔진 또는 llama.cpp예(선택 가능)MLX 엔진 v1.8.5(2026년 6월 5일)
mlx-lmMLX 네이티브예v0.32.2(2026년 10월 16일)
llama.cppllama.cpp + Metal아니요b11714(2026년 10월 17일)

Mac에서 어떤 옵션을 선택할까

OpenAI 호환 API를 갖춘 백그라운드 서비스를 원하면 Ollama로 시작하십시오. 모델 아키텍처가 Ollama의 MLX 런타임이 지원하는 것이라면 추가 설정 없이 MLX에서 실행됩니다. 현재 목록은 설치된 버전의 릴리스 노트에서 확인하십시오.

모델별로 엔진을 고르는 GUI라면 LM Studio, Python 제어가 필요하면 mlx-lm을 선택하십시오. LM Studio는 모델마다 자체 MLX 엔진 또는 llama.cpp를 고를 수 있습니다. mlx-lm은 pip install mlx-lm으로 설치하며 자체 OpenAI 호환 서버를 제공합니다. 전체 비교는 MLX vs Ollama vs llama.cpp를 참고하십시오.

관련 자료

Apple Silicon의 Ollama와 MLX에 대한 빠른 답변

Ollama는 Mac에서 기본적으로 MLX를 사용합니까?▾
지원 아키텍처에서는 그렇습니다. 버전 0.40 릴리스 노트에 따르면 MLX 런타임이 지원하는 모델 아키텍처는 Apple Silicon에서 자동으로 MLX에서 실행됩니다. 0.19 미리보기는 하나의 모델과 통합 메모리 32GB 초과 Mac으로 제한되었습니다. 설치된 버전의 릴리스 노트를 확인하십시오.
Ollama에서 MLX로 실행되는 모델은 무엇입니까?▾
버전 0.40 릴리스 노트는 MLX 런타임에서 실행되는 모델로 qwen3.5, qwen3.6, gemma4 등을 언급합니다. 목록은 릴리스마다 늘어나므로 사용 중인 버전의 노트를 확인하십시오.
Apple Silicon에서 Ollama는 여전히 mlx-lm보다 느립니까?▾
지원 모델에서 Ollama가 MLX를 사용하므로 차이는 줄었을 가능성이 높지만, PromptQuorum은 둘을 직접 비교 측정하지 않았습니다. 속도는 칩, 모델, 양자화, 컨텍스트 길이에 따라 달라지므로 직접 쓰는 모델로 측정하십시오.
LM Studio에는 MLX가 설치되어 있습니까?▾
네. LM Studio는 macOS에서 MLX 지원을 내장하고 있으며 모델별로 선택할 수 있습니다. Python이나 mlx-lm을 따로 설치할 필요가 없습니다. lmstudio.ai에서 LM Studio를 내려받아 모델을 불러온 뒤 모델 설정에서 MLX 엔진을 선택하십시오.
Mac에서 Ollama와 mlx-lm을 동시에 사용할 수 있습니까?▾
네. Ollama는 포트 11434의 백그라운드 서비스로 실행되고, mlx-lm 서버는 지정한 포트(기본 8080)에서 실행됩니다. 서로 충돌하지 않습니다. 전체 비교는 MLX vs Ollama vs llama.cpp를 참고하십시오.

전체 설명이 필요하십니까?

전체 가이드 읽기 →
← 프롬프트 요점으로 돌아가기
MCP