핵심 요점
- Apache 2.0 라이선스; 프로젝트 자체의 llama.cpp 및 whisper.cpp 변경 사항은 업스트림 반영이 가능하도록 MIT 라이선스를 유지
- 2026년 9월 기준 GitHub 스타 수 약 25,900개 이상, 저장소는 github.com/mozilla-ai/llamafile
- Cosmopolitan Libc의 창시자이기도 한 Justine Tunney가 만들었으며, 2023년 11월 Mozilla 혁신 그룹이 처음 공개함
- 단일 실행 파일이 macOS, Linux, BSD, Windows에서 실행됨 — Windows는 실행 파일 크기를 4GB로 제한함
- Metal(Apple Silicon), CUDA(NVIDIA), ROCm(AMD), Vulkan을 통한 GPU 가속 지원
- 실제 모델 추론은 llama.cpp에 직접 기반하며, Cosmopolitan Libc가 크로스 플랫폼 패키징 문제를 해결함
📍 한 문장으로
llamafile은 Justine Tunney가 만들고 Mozilla가 처음 공개한 무료 Apache 2.0 라이선스 프로젝트로, 모델과 llama.cpp 엔진을 하나의 실행 파일로 묶어 Cosmopolitan Libc 덕분에 macOS, Linux, Windows, BSD에서 수정 없이 실행됩니다.
💬 쉽게 말하면
파일 하나를 다운로드하고 더블클릭하기만 하면 됩니다 — 설치 프로그램도 없고, 플랫폼별 빌드를 고를 필요도 없습니다. 이는 파일 자체가 여러 운영체제에서 동시에 유효하기 때문이며, llamafile이 여러 개의 별도 빌드를 묶은 것이 아니라 Cosmopolitan Libc가 가능하게 하는 트릭입니다.
📌참고: 0.10.0 버전에서는 llamafile을 현재의 llama.cpp 버전과 맞추기 위해 빌드 시스템을 재구축했으며, Linux용 CUDA 지원은 동기화가 끊겼던 기간을 거쳐 2026년 2월에 재도입되었습니다 — 다운로드하는 버전의 정확한 기능 구성은 릴리스 노트에서 확인하십시오.
llamafile이란?
llamafile은 언어 모델과 llama.cpp 추론 엔진을 하나의 실행 파일로 묶어 여러 운영체제에서 설치 없이 배포하고 실행할 수 있게 하는 무료 오픈소스 프로젝트입니다. Justine Tunney가 만들었으며, 2023년 11월 Mozilla 혁신 그룹이 처음 공개했습니다.
이 프로젝트는 github.com/mozilla-ai/llamafile(이전에는 Mozilla-Ocho 조직 아래)에서 호스팅되며, GitHub 스타 수 약 25,900개를 넘어섰습니다. Apache 2.0 라이선스로 공개되며, 프로젝트 자체의 llama.cpp 및 whisper.cpp에 대한 변경 사항은 해당 프로젝트와의 호환성 및 업스트림 반영 가능성을 유지하기 위해 MIT 라이선스로 남아 있습니다.
- 별도의 엔진 설치와 별도의 모델 다운로드를 요구하는 대신, 모델 파일과 llama.cpp 엔진을 하나의 배포 가능한 실행 파일로 결합함
- 실제 추론 작업은 llama.cpp에 직접 기반함 — llamafile 자체의 기여는 패키징과 크로스 플랫폼 실행 계층임
- 실행 시 기본적으로 채팅 웹 UI가 구동되며, 이와 함께 OpenAI API 호환 서버 모드도 제공됨
- 인기 있는 오픈 웨이트 모델용으로 사전 빌드된 예시 llamafile들이 프로젝트와 커뮤니티 구성원들에 의해 Hugging Face에 게시됨
Cosmopolitan Libc란 무엇이며, 어떻게 이를 가능하게 하는가?
Cosmopolitan Libc는 마찬가지로 Justine Tunney가 만든 C 표준 라이브러리로, 여러 운영체제와 CPU 아키텍처에서 동시에 유효한 실행 파일이 되는 "지방(fat)" 바이너리를 컴파일하도록 설계되었습니다. 이것이 llamafile의 단일 파일 크로스 플랫폼 배포를 가능하게 하는 근본 기술입니다.
- Cosmopolitan Libc로 빌드된 바이너리는 운영체제별로 별도로 컴파일된 빌드를 요구하지 않고도 macOS, Linux, BSD, Windows에서 수정 없이 실행될 수 있음
- 이는 여러 플랫폼 전용 바이너리를 하나의 아카이브에 묶는 방식과는 다릅니다 — 이것은 여러 시스템에서 진정으로 유효한 하나의 바이너리입니다
- Windows는 실행 파일에 4GB 크기 제한을 두는데, 이는 특히 이 플랫폼에서 단일 llamafile이 가질 수 있는 최대 크기를 제한함
- Cosmopolitan Libc는 별도의 범용 프로젝트이며, llamafile은 그중 하나의 대표적인 응용 사례일 뿐, 유일한 응용 사례는 아님
llamafile은 어떻게 다운로드하고 실행합니까?
원하는 모델의 사전 빌드된 llamafile을 다운로드하고, 실행 가능하게 만든 다음, 바로 실행하면 됩니다 — 별도의 설치 단계는 없습니다. 자신의 GGUF 모델 파일로 커스텀 llamafile을 빌드하는 것도 지원됩니다.
- 1프로젝트의 Hugging Face 페이지 또는 GitHub Releases 페이지에서 사전 빌드된 llamafile(엔진과 번들된 모델)을 다운로드합니다.
- 2macOS와 Linux에서는 아직 실행 가능하지 않다면 파일을 실행 가능하게 만들고(
chmod +x yourmodel.llamafile), 바로 실행합니다(./yourmodel.llamafile). - 3Windows에서는 아직
.exe확장자가 없다면 파일 이름에 이를 추가합니다. 이는 Windows가 실행 파일을 식별하는 방식 때문입니다. - 4기본적으로 파일을 실행하면 브라우저에서 로컬 채팅 웹 UI가 열리며, 이와 함께 OpenAI API 호환 서버 엔드포인트도 제공됩니다.
- 5GPU 가속을 활성화하려면
-ngl 999를 전달하여 감지된 GPU(Metal, CUDA, ROCm, Vulkan)로 가능한 한 많은 레이어를 오프로드합니다. - 6자신의 GGUF 모델로 커스텀 llamafile을 빌드하려면, 프로젝트의 패키징 도구를 사용해 모델과 llamafile 엔진 바이너리를 결합합니다.
llamafile은 설치가 필요합니까?
아니요. 파일을 다운로드하고, 필요하면 실행 가능하게 만든 다음, 바로 실행하면 됩니다 — 별도의 설치 프로그램은 필요하지 않습니다.
llamafile은 GPU 없이 실행될 수 있습니까?
네. CPU만으로도 바로 동작합니다; GPU 가속(Metal, CUDA, ROCm, Vulkan)은 필수가 아닌 선택적 성능 향상입니다.
llamafile은 어떤 하드웨어와 GPU 가속을 지원합니까?
llamafile은 기본적으로 CPU만으로 동작하며, 대부분의 주요 제조사에 걸쳐 선택적 GPU 가속을 지원합니다. GPU 지원은 시간이 지나면서 발전해왔기 때문에, 정확한 기능은 다운로드하는 버전에 따라 다릅니다.
- Apple Silicon — Metal GPU가 감지되면 기본적으로 활성화되는 Metal 가속(2025년 12월 구현)
- NVIDIA — Linux에서의 CUDA 가속. 상류 llama.cpp와 동기화가 끊겼던 기간을 거쳐 2026년 2월에 재도입됨
- AMD — ROCm 가속
- 제조사 무관 — Vulkan 백엔드 지원
- GPU 라이브러리(CUDA, ROCm, Vulkan)는 실행 파일 안에 영구적으로 컴파일되는 대신, 실행 파일과 함께 배포되는 사전 빌드된 파일에서 동적으로 로드됨
llamafile은 누구에게 적합한가?
모델을 의존성 없는 크로스 플랫폼 단일 파일로 배포하거나 실행하는 것이 최신 llama.cpp 기능을 즉시 사용하는 것보다 중요하다면 llamafile을 사용하십시오. 단일 파일 이식성이 우선순위가 아니라면 llama.cpp를 직접 사용하거나 래퍼 앱을 사용하십시오.
llamafile은 KoboldCpp 및 다른 설치 불필요 도구들과 어떻게 비교됩니까?
llamafile과 가장 가까운 비교 대상은 KoboldCpp입니다 — 둘 다 llama.cpp 기반의 단일 파일로 배포되지만, 서로 다른 문제를 해결합니다: 크로스 플랫폼 이식성 대 내장된 롤플레이 중심 UI입니다.
llamafile을 평가할 때 흔한 오해
대부분의 혼란은 크로스 플랫폼 단일 파일 트릭이 어떻게 작동하는지를 오해하거나, 최신 llama.cpp 기능을 즉시 기대하는 데서 비롯됩니다.
자주 묻는 질문
llamafile이란 무엇입니까?
llamafile은 모델과 llama.cpp 엔진을 하나의 실행 파일로 묶어 Cosmopolitan Libc를 이용해 macOS, Linux, Windows, BSD에서 수정 없이 실행되게 하는 무료 Apache 2.0 라이선스 프로젝트입니다.
llamafile은 누가 만들었습니까?
Cosmopolitan Libc의 창시자인 Justine Tunney가 llamafile을 만들었으며, 2023년 11월 Mozilla 혁신 그룹이 처음 공개했습니다. 현재는 github.com/mozilla-ai/llamafile에서 유지 관리됩니다.
파일 하나가 어떻게 macOS, Linux, Windows에서 실행될 수 있습니까?
llamafile은 Cosmopolitan Libc로 빌드되는데, 이는 플랫폼마다 별도의 빌드를 요구하는 대신 여러 운영체제와 CPU 아키텍처에서 동시에 유효한 단일 바이너리를 생성하도록 설계된 C 표준 라이브러리입니다.
llamafile은 상업적 용도로 무료로 사용할 수 있습니까?
네. llamafile은 Apache 2.0 라이선스이며, 개인 및 상업적 용도로 무료입니다. llama.cpp와 whisper.cpp에 대한 자체 변경 사항은 MIT 라이선스로 유지됩니다.
llamafile은 GPU가 필요합니까?
아니요. 기본적으로 CPU만으로 동작합니다; Metal, CUDA, ROCm, Vulkan을 통한 GPU 가속은 선택 사항이며 속도를 향상시킵니다.
llamafile에는 파일 크기 제한이 있습니까?
네, 특히 Windows에서 그렇습니다 — Windows는 실행 파일을 4GB로 제한하며, 이는 Windows 사용자를 위해 단일 llamafile로 패키징할 수 있는 모델의 크기를 제한할 수 있습니다.
llamafile은 llama.cpp와 계속 최신 상태를 유지합니까?
지속적으로가 아니라 주기적으로 동기화됩니다 — 0.10.0 버전은 현재의 llama.cpp 버전을 따라잡기 위해 특별히 재구축된 빌드 시스템을 도입했으며, Linux용 CUDA 지원은 지연되었던 기간을 거쳐 2026년 2월에 재도입되었습니다.
llamafile과 KoboldCpp의 차이점은 무엇입니까?
둘 다 별도의 설치 프로그램 없이 llama.cpp 기반의 단일 파일로 배포되지만, llamafile의 차별점은 진정한 크로스 플랫폼 이식성(하나의 파일이 4개의 서로 다른 운영체제에서 실행됨)이고, KoboldCpp의 차별점은 롤플레이와 스토리 작성에 특화된 내장 웹 UI입니다.
제 모델로 llamafile을 만들 수 있습니까?
네. 이 프로젝트는 GGUF 모델 파일과 llamafile 엔진 바이너리를 결합하여 커스텀 단일 실행 파일을 만들 수 있는 패키징 도구를 제공합니다.
llamafile은 프로덕션 다중 사용자 서빙에 적합합니까?
그것이 초점은 아닙니다. llamafile은 간단하고 이식 가능한 단일 파일 배포와 단일 사용자 또는 소규모 사용을 위해 만들어졌습니다; 높은 처리량의 다중 사용자 프로덕션 서빙에는 vLLM이나 SGLang이 더 적합한 도구입니다.