핵심 요점
- AGPL 3.0 라이선스 — 무료로 사용 가능하며, 수정 후 네트워크 서비스로 재배포할 경우 카피레프트 의무가 발생
- 내부적으로 llama.cpp(MIT 라이선스)를 기반으로 하며, 자체 UI와 추가 기능을 그 위에 얹음
- 플랫폼별 실행 파일 하나: Windows, Linux x64, macOS ARM64 — 설치 프로그램 없음
- 내장 웹 UI인 KoboldAI Lite는 소설 창작과 롤플레이용으로 설계됨: 편집 가능한 출력, Memory/World Info 필드, 여러 채팅/어드벤처 모드
- CUDA(NVIDIA) 또는 Vulkan(벤더 공통, AMD 권장 경로)을 통한 GPU 가속; 리눅스용 롤링 ROCm 빌드도 존재; CPU 전용 구동도 완전히 지원
- 같은 실행 파일에 Stable Diffusion 이미지 생성과 Whisper 음성 인식도 내장
📍 한 문장으로
KoboldCpp는 llama.cpp를 기반으로 한 무료 AGPL 3.0 라이선스의 단일 파일 로컬 LLM 애플리케이션으로, 설치 없이 GGUF 모델을 실행하며 소설 창작과 롤플레이를 위한 KoboldAI Lite 웹 인터페이스를 기본 제공한다.
💬 쉽게 말하면
파일 하나를 내려받아 더블클릭하면 채팅과 스토리 편집 기능이 이미 통합된 브라우저 탭이 열린다 — 별도의 설치 프로그램도, 명령줄 설정도, 그 위에 얹을 추가 앱도 필요 없다.
📌참고: 공식 다운로드 출처는 GitHub Releases 페이지뿐이다. 다른 사이트에 같은 이름으로 올라온 파일은 정품 빌드인지 확인할 수 없다.
KoboldCpp란 무엇인가
KoboldCpp는 llama.cpp 추론 엔진을 기반으로 구축되어 GGUF 형식의 언어 모델을 로컬에서 실행하는 무료 단일 파일 프로그램이며, LostRuins라는 익명 개발자가 유지 관리한다. 원조 KoboldAI 프로젝트의 인터페이스 관례를 계승하되, Python 기반 추론 스택이 아닌 llama.cpp 백엔드 위에서 동작하도록 개조되었다.
이 프로젝트는 github.com/LostRuins/koboldcpp에서 호스팅되며 GNU Affero General Public License 버전 3(AGPL 3.0) — 즉 카피레프트 라이선스로 공개된다. 이는 llama.cpp 자체가 내부에서 사용하는 관대한 MIT 라이선스와는 다르다. 버전은 자주 출시되며, 검토 시점(2026년 8월 말) 기준 최신 버전은 v1.120이었다.
- 플랫폼별로 실행 파일 하나로 배포 — koboldcpp.exe(Windows), koboldcpp-linux-x64(Linux), koboldcpp-mac-arm64(macOS Apple Silicon)
- 실행에 설치 프로그램, Python 환경, Docker가 전혀 필요 없음
- 실제 모델 추론은 llama.cpp에 맡기고, 그 위에 자체 서버·웹 UI·API 계층을 추가
- CUDA 지원 메인 빌드 외에, 오래된 하드웨어용 nocuda 빌드(CUDA 불필요, Vulkan 지원)와 oldpc 빌드(CUDA11 + AVX1)도 제공
KoboldAI Lite란 무엇이며 무엇을 추가로 제공하는가
KoboldAI Lite는 KoboldCpp 실행 파일에 직접 내장된 웹 인터페이스로, 서버가 시작되는 즉시 브라우저 탭에 자동으로 열리며 별도의 설치 단계가 없다. 단순한 턴제 채팅이 아니라 장문 창작과 롤플레이에 특화되어 설계되었다.
- 편집 가능한 출력: 생성된 텍스트를 재생성뿐 아니라 직접 수정할 수 있음 — 협업 스토리 창작에 중요한 기능
- Memory 및 World Info 필드: 모델이 항상 참조하는 영구적인 맥락 블록으로, 긴 세션 동안 캐릭터 설정이나 스토리 사실을 일관되게 유지하는 데 사용
- 여러 모드: 표준 채팅, 협업 창작용 "Story" 모드, 텍스트 어드벤처 스타일의 "Adventure" 모드
- 기본 프롬프트 템플릿을 직접 수정하지 않고도 어조와 스타일을 조정할 수 있는 Author's Note 및 instruct 서식 컨트롤
- 동일한 실행 파일과 동일한 로컬 서버만으로 완전히 동작 — 별도의 프런트엔드 앱이나 브라우저 확장 프로그램 불필요
KoboldCpp를 다운로드하고 실행하는 방법
공식 GitHub Releases 페이지에서 자신의 플랫폼에 맞는 파일을 내려받아 바로 실행하면 된다 — 설치 단계는 존재하지 않는다. 하드웨어에 맞는 빌드를 고르는 것이 유일하게 실제로 필요한 결정이다.
- 1GitHub의 KoboldCpp Releases 페이지로 이동한다 — 유일한 공식 다운로드 출처다.
- 2플랫폼에 맞는 빌드를 선택한다: Windows용 koboldcpp.exe, Linux용 koboldcpp-linux-x64, Apple Silicon macOS용 koboldcpp-mac-arm64.
- 3GPU 경로를 선택한다: 메인 빌드에는 NVIDIA CUDA 지원이 포함되어 있다. AMD 사용자에게는 프로젝트 측이 nocuda 빌드 내 Vulkan 옵션을 먼저 시도하도록 권장하며, 리눅스용으로 별도의 롤링 ROCm 빌드도 존재한다. 최신 명령어 집합이 없는 구형 하드웨어는 oldpc 빌드(CUDA11 + AVX1)를 사용해야 한다.
- 4GGUF 모델 파일이 아직 없다면 Hugging Face 등에서 내려받는다.
- 5실행 파일을 실행하고, 런처 창에서 GGUF 파일과 GPU 레이어 오프로드 양을 선택한 뒤 서버를 시작한다.
- 6브라우저 탭이 자동으로 열리며, 실행 중인 로컬 서버에 이미 연결된 KoboldAI Lite 인터페이스가 표시된다.
KoboldCpp는 설치가 필요한가?
아니다. 단일 실행 파일이며 다운로드 후 바로 실행하면 된다. 설치 프로그램도, 별도의 Python 환경도, Docker 컨테이너도 필요 없다.
KoboldCpp는 GPU 없이 실행할 수 있는가?
가능하다. CPU 전용 구동이 완전히 지원되며, GPU(CUDA, Vulkan, ROCm 경유)는 생성 속도만 가속할 뿐 절대 필수가 아니다.
KoboldCpp는 어떤 GPU와 하드웨어를 지원하는가
KoboldCpp는 모든 것을 자동으로 감지하는 단일 범용 바이너리가 아니라, 별도의 빌드 변형을 통해 NVIDIA, AMD, CPU 전용 구성을 지원한다. GPU 가속이 작동하려면 하드웨어에 맞는 빌드를 선택해야 한다.
- NVIDIA — 메인 릴리스 바이너리에 CUDA 가속이 기본 포함되어 있음
- AMD — 프로젝트 측 자체 권장 사항은 호환성이 가장 넓은 nocuda 빌드 내 Vulkan 백엔드를 먼저 시도하는 것이며, 리눅스용으로 별도의 롤링 ROCm 바이너리도 유지 관리됨
- 벤더 공통 — Vulkan 백엔드는 벤더 전용 드라이버 없이 인텔 그래픽과 구형 NVIDIA/AMD 카드에서도 동작함
- 구형 하드웨어 — oldpc 빌드는 최신 표준 빌드를 실행할 수 없는 기기를 위해 CUDA 11 및 AVX1 전용 CPU를 대상으로 함
- CPU 전용 — nocuda 빌드는 GPU 없이도 동작하지만, GPU 가속 추론 대비 속도는 낮음
KoboldCpp는 누구에게 적합한가
순수 처리량이나 최소 용량보다 소설 창작, 롤플레이, 설치 없는 단일 파일이 더 중요하다면 KoboldCpp를 사용하라. 멀티유저 프로덕션 서빙이나 가능한 가장 작은 다운로드가 필요하다면 다른 도구를 사용하라.
KoboldCpp는 Ollama 및 다른 로컬 도구와 어떻게 비교되는가
KoboldCpp와 가장 가까운 비교 대상은 마찬가지로 llama.cpp를 기반으로 구축된 다른 도구들, 그리고 완전히 다른 작업(고동시성, 멀티 GPU 처리량)을 위한 프로덕션 서빙 엔진들이다.
KoboldCpp를 평가할 때 흔한 오해
대부분의 혼란은 KoboldCpp를 일반적인 설치형 앱처럼 다루거나, 비공식 출처에서 다운로드하는 데서 비롯된다.
자주 묻는 질문
KoboldCpp란 무엇인가?
KoboldCpp는 llama.cpp를 기반으로 구축된 무료 단일 파일 로컬 LLM 애플리케이션이다. 설치 단계 없이 GGUF 모델을 실행하며, 소설 창작과 롤플레이를 위해 설계된 KoboldAI Lite 웹 인터페이스를 기본 제공한다.
KoboldCpp는 누가 유지 관리하는가?
KoboldCpp는 LostRuins라는 익명 개발자가 저장소 github.com/LostRuins/koboldcpp에서 유지 관리한다. 버전은 자주 출시되며, 2026년 8월 말 기준 최신 버전은 v1.120이었다.
KoboldCpp는 무료인가?
그렇다. KoboldCpp는 AGPL 3.0 라이선스의 무료 오픈소스 소프트웨어다. 유료 등급이나 호스팅 제품은 존재하지 않으며, 모든 KoboldCpp 배포는 사용자가 직접 관리하는 하드웨어에서 실행된다.
KoboldCpp는 어떤 라이선스로 공개되는가?
AGPL 3.0(GNU Affero General Public License 버전 3)이라는 카피레프트 라이선스다. 이는 기반 엔진인 llama.cpp가 사용하는 MIT 라이선스와는 다르다.
KoboldCpp는 설치가 필요한가?
아니다. 플랫폼별 단일 실행 파일(Windows, Linux, macOS ARM64)로 배포되며, 설치 프로그램·Python 환경·Docker 컨테이너 없이 다운로드 후 바로 실행할 수 있다.
KoboldCpp는 AMD GPU를 지원하는가?
지원하지만 메인 CUDA 빌드를 통해서는 아니다. 프로젝트는 AMD를 위한 첫 번째 경로로 nocuda 빌드 내 Vulkan 옵션을 권장하며, 리눅스용으로 별도 유지 관리되는 롤링 ROCm 빌드도 함께 제공한다.
KoboldAI Lite란 무엇인가?
KoboldAI Lite는 KoboldCpp 실행 파일에 포함된 웹 인터페이스다. 서버가 시작되는 즉시 브라우저에 자동으로 열리며, 편집 가능한 출력, Memory/World Info 필드, 롤플레이와 협업 창작을 위한 전용 채팅·스토리·어드벤처 모드를 제공한다.
KoboldCpp는 이미지 생성이나 음성 전사가 가능한가?
가능하다. 동일한 실행 파일에 주요 텍스트 생성 기능 외에 Stable Diffusion 이미지 생성과 Whisper 음성 전사가 내장되어 있다.
KoboldCpp는 프로덕션이나 멀티유저 용도에 적합한가?
아니다, 그것은 설계 목표가 아니다. KoboldCpp는 풍부한 창작 인터페이스를 갖춘 단일 사용자 로컬 사용을 위해 구축되었다. 고동시성 멀티유저 프로덕션 서빙에는 vLLM이나 NVIDIA TensorRT-LLM이 적절한 도구다.
KoboldCpp와 Ollama의 차이는 무엇인가?
둘 다 llama.cpp를 기반으로 하지만, Ollama는 내장 UI 없이 최소한의 CLI와 모델 레지스트리에 집중하는 반면, KoboldCpp는 동일한 단일 실행 파일 안에 브라우저 완결형 창작·롤플레이 인터페이스(KoboldAI Lite)를 내장하고 있다.