Ollama 명령어 가이드: 모든 명령어 완전 해설 (2026)

Ollama의 필수 명령어는 무엇입니까?

• `ollama list` -- 다운로드된 모델, 디스크 사용량, 수정 날짜를 표시합니다.
• `ollama pull <모델>` -- 이름으로 모델을 다운로드합니다 (예: `ollama pull mistral`).
• `ollama run <모델>` -- 모델과 채팅 세션을 시작합니다.
• `ollama rm <모델>` -- 모델을 삭제하고 디스크 공간을 확보합니다.
• `ollama serve` -- REST API 서버를 시작합니다 (일반적으로 자동 실행됩니다).
• `ollama help` -- 사용 가능한 모든 명령어를 표시합니다.

Ollama에서 모델을 어떻게 관리합니까?

# 다운로드된 모든 모델 나열
ollama list

# Ollama 라이브러리에서 모델 다운로드
ollama pull llama3.2:3b       # 7비트 버전 (~2.5 GB)
ollama pull llama3.2:3b-fp16  # 전체 정밀도 (~6.5 GB)

# 특정 양자화 다운로드
ollama pull qwen2.5:7b-q4   # 4비트 양자화
ollama pull qwen2.5:7b-q8   # 8비트 양자화

# 디스크 사용량 확인
du -sh ~/.ollama/models

# 모델 삭제
ollama rm llama3.2:3b

# 커스텀 레지스트리에서 가져오기 (고급)
ollama pull localhost:5000/custom-model

모델을 어떻게 실행하고 서빙합니까?

# 1. 대화형 채팅 (CLI)
ollama run llama3.2:3b
# 프롬프트를 입력하고 Enter를 누르세요

# 2. API 서버 시작 (백그라운드에서 실행)
ollama serve
# API는 http://localhost:11434/v1 에서 수신 대기

# 3. 다른 터미널에서 API로 모델 사용
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.2:3b",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

Modelfile로 커스텀 모델을 어떻게 만듭니까?

# Modelfile이라는 파일 생성
FROM llama3.2:3b

# 시스템 프롬프트 추가
SYSTEM """
You are a helpful expert in machine learning.
Always explain complex concepts in simple terms.
"""

# 파라미터 조정
PARAMETER temperature 0.7
PARAMETER top_p 0.9

# 커스텀 모델 빌드
ollama create ml-expert -f Modelfile

# 사용
ollama run ml-expert

Ollama는 어떤 양자화 옵션을 지원합니까?

Ollama로 임베딩을 어떻게 생성합니까?

# 임베딩 모델 가져오기
ollama pull nomic-embed-text  # 영어에 최적, 1억 3700만 파라미터

# 임베딩 생성
curl http://localhost:11434/v1/embeddings \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nomic-embed-text",
    "input": "The quick brown fox jumps"
  }'

# 응답에는 768차원 벡터로서 임베딩이 포함됩니다

Ollama를 제어하는 환경 변수는 무엇입니까?

• `OLLAMA_HOST` -- 수신 대기 주소 (기본값: 127.0.0.1:11434). 네트워크 접근을 위해 `0.0.0.0:11434`로 설정합니다.
• `OLLAMA_MODELS` -- 모델 저장 위치 (기본값: `~/.ollama/models`).
• `OLLAMA_DEBUG` -- 상세 로그를 보려면 `1`로 설정합니다.
• `OLLAMA_GPU` -- 사용할 GPU (기본값: 자동 감지). `cuda` 또는 `rocm`으로 설정합니다.
• `OLLAMA_KEEP_ALIVE` -- 모델을 메모리에 유지하는 시간 (기본값: 5분).

Ollama 명령어 사용 시 자주 하는 실수

• 모델 태그를 잊어버리는 경우. `ollama pull llama3.2`는 가장 큰 버전을 가져옵니다; `ollama pull llama3.2:3b`는 3B 버전을 가져옵니다.
• `ollama serve`가 자동으로 실행된다는 것을 모르는 경우. Mac과 Windows에서는 앱을 실행할 때 Ollama가 API를 자동으로 시작합니다. Linux에서는 수동으로 시작해야 할 수도 있습니다.
• 잘못된 양자화를 가져오는 경우. VRAM 사용량을 제어하기 위해 항상 정확한 모델 태그(예: `qwen2.5:7b-q4`)를 지정합니다.
• 모델을 가져온 후 Ollama가 오프라인에서 작동할 것으로 예상하는 경우. Ollama 자체는 오프라인으로 작동하지만, 모델은 인터넷에 연결된 상태에서 가져와야 합니다.

Ollama 명령어에 관한 자주 묻는 질문

관련 읽을거리

• Ollama 설치 방법 -- 설치 가이드.
• 로컬 LLM OpenAI 호환 API -- 코드에서 Ollama API 사용하기.
• 최고의 로컬 LLM 프론트엔드 -- Ollama용 채팅 UI.
• Ollama vs LM Studio -- LM Studio와의 비교.

출처

• Ollama GitHub -- github.com/ollama/ollama
• Ollama 문서 -- github.com/ollama/ollama/blob/main/docs
• Ollama 모델 라이브러리 -- ollama.ai/library