Mac용 Ollama 2026: Apple Silicon 완전 설치 가이드 (M1–M5, Metal GPU)

빠른 설정 (3가지 명령어)

1. 1
   Ollama 설치
   Why it matters: `brew install ollama` — 원클릭 설치.
2. 2
   모델 다운로드
   Why it matters: `ollama pull llama2` — Llama 3.3 7B를 다운로드합니다.
3. 3
   채팅 시작
   Why it matters: `ollama run llama2` — 대화형 채팅 인터페이스를 시작합니다.

Metal GPU 확인

1. 1
   상세 출력으로 실행
   Why it matters: `ollama run llama3.1:8b --verbose`를 실행하고 콘솔 출력에서 `ggml_metal_init: found device: Apple M[X]`를 확인하십시오.
2. 2
   추론 중 속도 확인
   Why it matters: 토큰 생성 속도를 확인하십시오. Mac에 따라 초당 20–60토큰이어야 합니다 (M5 Pro: Llama 3.3 8B에서 약 50 tok/s). CPU 전용 폴백 시: 약 1–5 tok/s.
3. 3
   GPU 사용률 모니터링
   Why it matters: 활성 상태 보기(응용 프로그램 → 유틸리티)를 열고 GPU 섹션을 확인하십시오. Metal이 작동 중이라면 추론 중 GPU 사용률이 80-100%로 표시되어야 합니다.

모델 관리

1. 1
   `ollama pull <model>`
   Why it matters: 모델을 다운로드합니다. 예: `ollama pull mistral`.
2. 2
   `ollama list`
   Why it matters: 다운로드된 모든 모델을 나열합니다.
3. 3
   `ollama run <model>`
   Why it matters: 모델과 대화형 채팅을 시작합니다.
4. 4
   `ollama rm <model>`
   Why it matters: 공간 확보를 위해 모델을 삭제합니다.

Apple Silicon 메모리 최적화

• OLLAMA_MAX_LOADED_MODELS: 메모리에 유지할 모델 수. 기본값: 1. 멀티 모델 설정의 경우 2–3으로 설정하십시오.
• GPU 레이어: 기본적으로 Ollama는 사용 가능한 모든 통합 메모리를 사용합니다. 메모리가 부족한 경우 Modelfile에서 `num_gpu_layers`를 설정하십시오.
• Whisper: 임베딩 모델 및 LLM과 결합하면 Ollama와 함께 64GB M5 Pro에서 실행됩니다.

여러 모델 동시 실행

export OLLAMA_MAX_LOADED_MODELS=3
export OLLAMA_KEEP_ALIVE=1h
brew services restart ollama

# Now pull all models you need
ollama pull llama3.1:8b
ollama pull llava:7b

# Send requests to each — they stay loaded
curl http://localhost:11434/api/chat -d '{"model": "llama3.1:8b", "messages": [{"role": "user", "content": "Hello"}]}'
curl http://localhost:11434/api/chat -d '{"model": "llava:7b", "messages": [{"role": "user", "content": "Describe this image"}]}'

로그인 시 자동 시작

# Enable auto-start
brew services start ollama

# Check status
brew services list | grep ollama

# Disable auto-start (optional)
brew services stop ollama

개발자를 위한 API 설정

# Chat endpoint (streaming)
curl http://localhost:11434/api/chat -d '{
  "model": "llama3.1:8b",
  "messages": [{"role": "user", "content": "Write a Python function"}],
  "stream": false
}'

# Python example
import requests
response = requests.post(
  "http://localhost:11434/api/chat",
  json={
    "model": "llama3.1:8b",
    "messages": [{"role": "user", "content": "Hello"}],
    "stream": False
  }
)
print(response.json()["message"]["content"])

Modelfile 커스터마이징

• `ollama create llm-expert -f Modelfile` — 커스텀 모델 빌드
• `ollama run llm-expert` — 커스텀 모델로 대화형 채팅 시작
• `ollama run llm-expert "Code review this function"` — 프롬프트 직접 전송

FROM llama2
SYSTEM "You are an expert software engineer reviewing code for security and performance issues. Provide actionable feedback."
PARAMETER temperature 0.7
PARAMETER top_p 0.9

일반적인 문제 및 해결 방법

• Metal이 감지되지 않음: `ollama run llama3.1:8b --verbose`로 확인하고 `ggml_metal_init: found device: Apple M[X]`를 찾으십시오. 없으면 재시작하십시오: `brew services restart ollama` 또는 `pkill ollama && ollama serve &`.
• 느린 추론 (CPU 폴백): 원인: Metal 초기화 실패, 모델이 CPU에서 실행 중. 활성 상태 보기에서 GPU 사용률이 추론 중 80-100%여야 합니다. GPU가 0%이면: Ollama를 재시작하고 위의 Metal 미감지 항목을 확인하십시오.
• 메모리 부족 (OOM): 모델 충돌 또는 응답 잘림. 원인: 모델 + 컨텍스트 + macOS 오버헤드가 RAM을 초과함. 해결책: (1) 더 작은 양자화 사용 (`ollama pull llama3.1:8b-q4_K_M`), (2) 컨텍스트 축소 (`OLLAMA_NUM_CTX=2048 ollama run llama3.1:8b`), (3) 더 작은 모델 사용 (`ollama pull phi4` — 2.5GB).
• 모델 다운로드 중단: 원인: 네트워크 제한 또는 HuggingFace 속도 제한. 해결책: `pkill ollama && ollama pull llama3.1:8b` (이전 진행 상태에서 재개).
• 포트 11434 이미 사용 중: 다른 Ollama 인스턴스가 실행 중이거나 다른 서비스가 해당 포트를 사용 중입니다. 확인: `lsof -i :11434`. 해결책: `pkill ollama` 후 재시작.
• 모델이 의미 없는 문자 출력: 원인: Modelfile 파라미터 범위 초과 또는 잘못된 템플릿. 해결책: 공식 모델 다운로드 `ollama pull llama3.1:8b` (커스텀 덮어쓰기) 후 테스트: `ollama run llama3.1:8b "Hello, how are you?"`.
• 저장 공간 부족: 모델은 `~/.ollama/models/`에 저장됩니다. 크기 확인: `du -sh ~/.ollama/`. 미사용 모델 제거: `ollama rm <model-name>`.

관련 문서

• 로컬 LLM을 위한 Apple Silicon: 완전 가이드
• MLX vs Ollama vs llama.cpp 비교
• Apple Silicon을 위한 최고의 LLM 모델
• 로컬 LLM에 필요한 통합 메모리 용량
• M5 Pro vs M5 Max 벤치마크
• 로컬 AI 서버로서의 Mac Mini M5
• Apple MLX vs NVIDIA CUDA 2026 — Apple Silicon과 NVIDIA GPU 하드웨어 선택 시 참고.