Mac Mini M5를 로컬 AI 서버로 활용하기 2026: 상시 구동 LLM, Whisper, RAG, 음성 어시스턴트

# Homebrew 설치 (아직 설치하지 않은 경우)
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

# Ollama 설치
brew install ollama

# 백그라운드 서비스로 시작 (재부팅 시 자동 시작)
brew services start ollama

# 실행 중인지 확인
curl http://localhost:11434/api/version

# Ollama가 모든 인터페이스에서 수신 대기하도록 허용 (localhost 제외)
echo 'export OLLAMA_HOST=0.0.0.0:11434' >> ~/.zshrc
echo 'export OLLAMA_MAX_LOADED_MODELS=3' >> ~/.zshrc
echo 'export OLLAMA_KEEP_ALIVE=1h' >> ~/.zshrc
source ~/.zshrc

# 새 설정으로 Ollama 재시작
brew services restart ollama

# 모든 인터페이스에서 수신 대기 중인지 확인
lsof -i :11434

# 범용 LLM
ollama pull llama3.1:8b

# 대안: 더 빠르고 비슷한 품질
ollama pull mistral:7b

# 코딩 작업용
ollama pull deepseek-coder-v2:16b

# RAG용 임베딩 모델
ollama pull nomic-embed-text

# 현재 로컬 IP 확인
ipconfig getifaddr en0

# 또는 Bonjour 사용 - hostname.local로 접근
scutil --get LocalHostName
# 출력 예: macmini → http://macmini.local:11434로 접근 가능

sudo pmset -a sleep 0
sudo pmset -a displaysleep 1
sudo pmset -a powernap 0
sudo pmset -a hibernatemode 0

# 설정 확인
pmset -g

# 같은 네트워크의 노트북/스마트폰/태블릿에서:
curl http://macmini.local:11434/api/chat -d '{
  "model": "llama3.1:8b",
  "messages": [{"role": "user", "content": "Hello from my phone!"}]
}'

# 옵션 1: Tailscale (권장) — Mac Mini에 설치
brew install --cask tailscale
# Tailscale 앱으로 로그인 — Mac Mini에 사설 IP 할당
# Tailscale이 설치된 어디서나 접근:
curl http://macmini.tailnet.ts.net:11434/api/chat -d '{...}'

# 옵션 2: Cloudflare Tunnel (웹 접근)
brew install cloudflared
cloudflared tunnel create ai-server
cloudflared tunnel route dns ai-server ai.yourdomain.com
# 어디서나 https://ai.yourdomain.com으로 접근 가능

# Docker로 ChromaDB 설치
brew install --cask docker
docker run -d -p 8000:8000 -v ~/chromadb:/data chromadb/chroma

# 문서 인덱싱 (Python)
from langchain_community.embeddings import OllamaEmbeddings
from langchain_community.vectorstores import Chroma

embeddings = OllamaEmbeddings(
    model="nomic-embed-text",
    base_url="http://localhost:11434"
)
vectordb = Chroma.from_documents(
    documents=splits,
    embedding=embeddings,
    persist_directory="./chroma_db"
)

// ~/.continue/config.json
{
  "models": [{
    "title": "Mac Mini DeepSeek Coder",
    "provider": "ollama",
    "model": "deepseek-coder-v2:16b",
    "apiBase": "http://macmini.local:11434"
  }]
}

#!/bin/bash
echo "=== AI 서버 상태 점검 ==="
echo "날짜: $(date)"

if pgrep -x "ollama" > /dev/null; then
    echo "✓ Ollama 실행 중"
else
    echo "✗ Ollama 미실행 - 재시작 중"
    brew services restart ollama
fi

if curl -s http://localhost:11434/api/version > /dev/null; then
    echo "✓ API 응답 중"
else
    echo "✗ API 미응답"
fi

df -h / | tail -1
uptime