llmfit이란?
llmfit README는 이 도구를 "CPU, 시스템 RAM, GPU, VRAM, 가속기 구성을 점검하여 널리 쓰이는 양자화 형식 전반에 걸쳐 모델을 추천한다"고 설명합니다(영어 원문의 의역).
- GitHub 사용자 AlexsJones가 관리하며, 저장소는 2026년 2월에 생성되었고 회사도 전용 웹사이트도 없습니다
- 성숙도: 이번 확인 시점에 GitHub 스타는 약 39,000+개이며, 최신 릴리스는 v1.1.20(2026-11-03), 최신 커밋은 2026-11-18로 대부분 주간 벤치마크 데이터 갱신과 커뮤니티가 제출한 벤치마크이며 2026-11-17의 수정이 하나 있습니다
- 아닌 것: llmfit은 추론 엔진이 아닙니다. 모델을 로드하지 않으며, 추천한 뒤 Ollama 같은 런타임에 넘깁니다
- Ray 환경용 클러스터 모드는 README에서 "Preview"로 표시되며 지금까지 "모의 Ray 대시보드로만 테스트"되었습니다
- PromptQuorum은 llmfit을 직접 실행하지 않았으며, 이 리뷰는 README, docs 폴더, GitHub API, 릴리스 페이지를 기반으로 합니다
llmfit의 작동 방식: 감지, 평가, 벤치마크
README와 docs/how-it-works.md에 따르면 llmfit은 몇 단계로 작동합니다.
- 하드웨어 감지 — CPU 코어 수와 시스템 RAM을 읽은 뒤 GPU를 탐색합니다. NVIDIA는 nvidia-smi, AMD는 rocm-smi, Intel Arc는 sysfs/lspci, Apple Silicon은 system_profiler(통합 메모리를 VRAM으로 간주), Ascend는 npu-smi를 사용합니다
- 모델 데이터베이스 — Hugging Face API에서 가져온 수백 개의 모델이 컴파일 시점에 바이너리에 내장되므로, 카탈로그 업데이트는 llmfit 자체를 업그레이드하면 반영됩니다
- 동적 양자화 — 고정된 형식을 가정하지 않고 Q8_0에서 Q2_K까지 차례로 살펴 메모리에 들어가는 가장 높은 품질을 선택하며, 아무것도 들어가지 않으면 컨텍스트를 절반으로 줄여 다시 시도합니다
- 평가와 속도 — 각 모델은 품질, 속도, 적합도, 컨텍스트에서 0~100점을 받고 사용 사례에 따른 가중치로 합산됩니다. 속도는 메모리 대역폭 모델에서 산출되며 모든 수치에는 "estimated"부터 "measured_local"까지의 신뢰도 라벨이 붙습니다
- 인터페이스 — 기본은 대화형 터미널 UI이며 fit, recommend, info, bench, doctor, storage, serve 같은 명령도 있습니다. serve는 웹 대시보드와 REST API(/api/v1/system, /api/v1/models)를 시작합니다
- 제공자와 벤치마크 — 설치된 모델을 감지하고 Ollama, llama.cpp, MLX, Docker Model Runner, LM Studio를 통해 다운로드를 시작할 수 있으며, bench로 실제 초당 토큰 수와 첫 토큰까지의 시간을 측정하고 원하면 결과를 프로젝트와 공유할 수 있습니다
llmfit 받기
llmfit은 터미널에서 설치하며, .dmg나 .exe 설치 프로그램은 없습니다. Windows, macOS, Linux 모두 명령 하나면 됩니다.
플랫폼 | 명령 또는 링크 |
|---|---|
| Windows (winget) | winget install --exact --id AlexsJones.llmfit |
| Windows (Scoop) | scoop install llmfit |
| macOS / Linux (Homebrew) | brew install AlexsJones/llmfit/llmfit |
| macOS / Linux (스크립트) | llmfit.axjns.dev |
| Python (uv) | uv tool install -U llmfit |
| Docker | docker run -it --rm ghcr.io/alexsjones/llmfit --tui |
| 사전 빌드 바이너리 | Releases |
| 소스 코드 (MIT) | GitHub |
현재 버전: v1.1.20, 2026-11-03에 릴리스 페이지에 공개되었으며, 저장소에 마지막으로 푸시된 날짜는 2026-11-18입니다(2026-11-19 확인). 릴리스 페이지는 .tar.gz와 .zip 압축 파일만 제공하므로 터미널이 필요합니다. 전용 제품 웹사이트는 없으며 GitHub 저장소가 대표 페이지이고, llmfit.axjns.dev는 설치 스크립트만 호스팅합니다. README에 따르면 Windows 릴리스 바이너리는 v1.1.19부터 SignPath로 서명됩니다. 다른 curl 파이프 셸 명령과 마찬가지로, 스크립트를 먼저 읽어 보거나 패키지 관리자를 사용하십시오.
개인정보 보호 및 데이터 처리
README(2026-11-19 확인)에 따르면 llmfit은 "사용자 또는 설치·운영하는 사람이 특별히 요청하지 않는 한 다른 네트워크 시스템으로 어떤 정보도 전송하지 않습니다"(영어 원문의 의역).
- README에 따르면 llmfit은 사용자가 호출하는 기능에 대해서만 외부 서비스에 접속합니다. 모델 다운로드, 런타임 제공자 조회, 커뮤니티 리더보드가 해당됩니다
- 벤치마크 실행 결과는 먼저 로컬에 저장되며, 공유는 별도의 선택 단계로 README에 따르면 결과를 풀 리퀘스트 형태로 프로젝트에 보냅니다
llmfit serve는 HTTP API와 웹 대시보드를 시작합니다. README 예시는 0.0.0.0에 바인딩하여 네트워크의 다른 컴퓨터에서 접근할 수 있게 되므로 호스트를 신중하게 선택하십시오- 이 리뷰에서는 회사, 개인정보 처리방침 페이지, 준거법 조항, 사업자 정보를 찾지 못했습니다. 위의 README 구절이 유일한 개인정보 관련 진술입니다
llmfit 라이선스와 가격
llmfit은 무료 오픈소스입니다(GitHub 저장소 기준, 2026-11-19 확인).
항목 | 세부 내용 |
|---|---|
| 라이선스 | MIT |
| 가격 | 무료, 유료 요금제는 찾지 못함 |
| 계정 / API 키 | 언급 없음 |
README와 문서에는 유료 요금제, 계정, API 키에 대한 언급이 없습니다. README에 따르면 각 릴리스에 포함되는 커뮤니티 벤치마크 데이터는 제출된 풀 리퀘스트에서 나옵니다.
llmfit은 누구에게 적합한가?
llmfit은 "이것을 대신 실행해 달라"가 아니라 "내 컴퓨터에서 무엇이 실행되는가?"가 궁금할 때 가장 잘 맞습니다.
llmfit을 사용하면 좋은 경우
- 다운로드하기 전에 내 CPU, RAM, GPU에 맞는 오픈 LLM과 양자화 형식의 순위 목록을 원할 때
- 이미 로컬 런타임을 사용하며 무엇이 들어맞는지 다른 의견을 원할 때
- 모델 추천을 스크립트나 배포 파이프라인에 넘기기 위해 JSON 출력이나 HTTP API가 필요할 때
- 멀티 GPU 또는 다중 머신 구성을 계획하며 실행 전에 분할을 확인하고 싶을 때(클러스터 모드는 미리보기)
기다리거나 다른 도구를 찾아야 하는 경우
- 모델을 실제로 실행하고 대화하는 도구를 원할 때: llmfit은 추천만 하고 런타임에 넘깁니다
- 벤치마크 없이 정확한 속도 수치가 필요할 때: bench를 실행하기 전까지 수치는 추정값입니다
- AMD 또는 Intel GPU가 있는 Windows를 사용할 때: 플랫폼 문서에 따르면 그곳의 GPU 감지는 nvidia-smi를 통해서만 이루어지므로 수동 메모리 지정을 사용하십시오
- 패키지로 제공되는 데스크톱 앱을 원할 때: README에는 터미널 UI, CLI, 웹 대시보드가 기재되어 있고 릴리스 페이지는 압축 파일만 제공합니다
llmfit과 대안 비교
llmfit은 지원하는 런타임을 대체하지 않고 그 옆에 놓입니다. 전체 카탈로그는 Local AI Directory를 참고하십시오.
- Ollama — 명령줄에서 모델을 실행하고 제공합니다. llmfit은 들어맞는 모델을 나열하고 Ollama를 통해 다운로드를 시작할 수 있습니다. Ollama 리뷰를 참고하십시오.
- LM Studio — 채팅 인터페이스로 모델을 내려받아 실행하는 데스크톱 앱입니다. llmfit은 제공자로 지원하지만 자체 채팅 기능은 없습니다. LM Studio 리뷰를 참고하십시오.
- Docker Model Runner — Docker Desktop에 내장된 모델 서빙 기능입니다. llmfit은 이를 지원되는 런타임 제공자로 나열합니다. Docker Model Runner 리뷰를 참고하십시오.
- llm-checker — llmfit README가 대안으로 언급한 도구입니다. Ollama와 연동되는 Node.js CLI로, llmfit이 사양으로 추정하는 것과 달리 모델을 실제로 실행하여 벤치마크합니다. README는 llm-checker가 모든 모델을 전문가 혼합(MoE)이 아닌 밀집 모델로 취급한다고 덧붙입니다.
자주 묻는 질문
llmfit이 모델을 직접 실행하거나 다운로드합니까?
아니요. 모델을 추천하며, 지원되는 제공자를 통해 다운로드를 시작할 수 있습니다. 모델을 실행하는 것은 제공자입니다.
llmfit의 속도 수치는 얼마나 정확합니까?
달리 표시되지 않는 한 메모리 대역폭 공식에서 나온 추정값입니다. bench는 실제 초당 토큰 수를 측정하며, 문서에 따르면 측정값이 표의 추정값을 대체합니다.
llmfit은 어떤 GPU를 감지합니까?
플랫폼 문서에 따르면 Linux에서는 NVIDIA, AMD, Intel Arc, Apple Silicon, Ascend, macOS에서는 Apple Silicon, Windows에서는 nvidia-smi를 통한 NVIDIA입니다. 감지에 실패하면 수동 지정이 가능합니다.
llmfit이 내 하드웨어 정보를 어딘가로 전송합니까?
README에 따르면 다운로드, 제공자 조회, 커뮤니티 리더보드처럼 외부 서비스가 필요한 기능을 사용할 때에만 외부 서비스에 접속합니다.
llmfit에 그래픽 앱이 있습니까?
패키지로 제공되는 다운로드는 없습니다. README에는 터미널 UI, CLI, 웹 대시보드가 기재되어 있습니다. README는 서드파티가 만든 별도의 Windows GUI인 llmfit-gui도 언급하지만, 이 리뷰에서는 검토하지 않았습니다.
