핵심 요점
- 도구 7개, 두 종류: 파인튜닝(4개)과 관측성·평가(3개). 두 가지 이상의 역할을 하는 도구는 해당하는 각 종류에 모두 나타납니다.
- 표는 각 도구의 레코드에서 생성되고 공식 README 또는 사이트와 대조해 확인했습니다. 대시는 "문서에 명시되지 않음"을 뜻하며 "아니오"를 뜻하지 않습니다.
- 규모가 작은 그룹입니다. 디렉터리에는 데이터셋과 모델 허브 하위 분류에 리뷰가 완료된 도구가 아직 없어 여기서는 비교하지 않습니다.
- 표의 모든 도구 이름은 해당 도구의 PromptQuorum 리뷰로 연결되며, 설치 단계와 한계는 그곳에서 다룹니다.
📍 한 문장으로
로컬 학습·운영 도구는 파인튜닝 도구와 관측성·평가 도구라는 서로 다른 두 종류의 제품이므로, PromptQuorum 디렉터리의 도구 7개를 각 종류 안에서 비교하며, 비교표는 각 도구의 리뷰와 같은 도구 데이터에서 생성됩니다.
💬 쉽게 말하면
어떤 도구는 여러분의 데이터로 파인튜닝하여 모델에 새로운 동작을 가르치고, 어떤 도구는 모델 애플리케이션의 성능을 지켜보고 답변을 채점합니다. 학습 도구와 모니터링 대시보드를 같은 기능으로 비교하는 것은 의미가 없으므로, 이 가이드는 같은 종류끼리 비교합니다.
비교 방법
각 도구의 정보, 즉 가격, 라이선스, 지원 플랫폼, 하드웨어 요구 사항, 분류별 속성은 해당 도구의 디렉터리 레코드에 한 번만 저장됩니다. 아래 비교표는 이 레코드에서 생성되고 도구의 리뷰도 같은 레코드를 바탕으로 하므로, 둘이 서로 다른 값을 제시할 수 없습니다.
분류별 속성(예: LoRA·QLoRA 지원이나 트레이싱)은 각 프로젝트의 공식 README 또는 웹사이트에서 가져와 그곳의 정확한 표현과 대조해 확인했습니다. 문서에 언급이 없으면 추측하지 않고 표에 대시로 표시했고, 조건이 붙은 주장(로드맵에만 있는 기능, 엔터프라이즈 에디션, 별도 패키지)은 표에서 제외하고 해당 도구의 리뷰에서 다룹니다.
표에는 자체 PromptQuorum 리뷰가 있는 도구만 포함됩니다. 어떤 도구가 맞는지는 여러분의 제약 조건에 따라 달라지므로, 이 비교는 도구의 순위를 매기지 않습니다.
비교표
아래에서 도구 종류를 선택한 다음 행을 따라 읽어 보세요. 도구 이름을 클릭하면 PromptQuorum 리뷰 전문이 열립니다.
| 도구 | 가격 | 라이선스 | 플랫폼 | 실행 방식 | 하드웨어 | 버전 | LoRA / QLoRA | 웹 UI | 멀티 GPU 학습 | 저VRAM 모드 | GGUF / Ollama로 내보내기 | 리뷰 | 제품 링크 · 공개됨 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| LLaMA-Factory | 무료 | Apache-2.0 | macOS, Windows, Linux | 로컬 | VRAM 16 GB | v0.9.5 | 예 | 예 | 예 | 예 | 예 | 리뷰 읽기 → | LLaMA-Factory |
| LoRAX | 무료 | Apache-2.0 | Linux | 로컬 | 모델에 따라 다름 | v0.12.1 | — | — | — | — | — | 리뷰 읽기 → | LoRAX |
| Second Me | 무료 | Apache-2.0 | macOS, Windows, Linux | 로컬 | 모델에 따라 다름 | — | — | — | — | — | — | 리뷰 읽기 → | Second Me |
| Unsloth | 무료 | Apache-2.0 | macOS, Windows, Linux | 로컬 | 모델에 따라 다름 | — | 예 | 예 | 예 | 예 | 예 | 리뷰 읽기 → | Unsloth |
"—"는 프로젝트 자체 문서에 해당 내용이 명시되어 있지 않다는 뜻이며, 기능이 없다는 뜻이 아닙니다. 값은 각 프로젝트의 공식 README 또는 사이트에서 가져왔으며, 도구의 리뷰가 갱신될 때 다시 확인합니다.
파인튜닝 도구: 무엇이 다른가
- LoRA와 QLoRA. LLaMA-Factory와 Unsloth는 LoRA 또는 QLoRA 파인튜닝을 문서에 명시하고 있습니다.
- 웹 UI. LLaMA-Factory와 Unsloth는 학습용 웹 UI를 문서에 명시하고 있습니다.
- 멀티 GPU 학습. LLaMA-Factory와 Unsloth는 멀티 GPU 학습을 문서에 명시하고 있습니다.
- 저VRAM 학습. LLaMA-Factory와 Unsloth는 저VRAM 또는 메모리 절약 모드를 문서에 명시하고 있습니다.
- GGUF 또는 Ollama로 내보내기. LLaMA-Factory와 Unsloth는 모델을 GGUF 또는 Ollama로 내보내는 기능을 문서에 명시하고 있습니다.
- 정보가 적은 행. LoRAX와 Second Me는 파인튜닝 관련 기능 때문에 여기에 포함되었지만, 문서에 비교 대상 속성이 하나도 명시되어 있지 않아 셀이 대시로 표시됩니다. 자세한 내용은 각 리뷰를 참고하세요.
관측성·평가 도구: 무엇이 다른가
- 트레이싱. Langfuse와 Plano는 LLM 호출 트레이싱을 문서에 명시하고 있습니다.
- 평가. Langfuse는 평가 또는 채점 기능을 문서에 명시하고 있습니다.
- 프롬프트 관리. Langfuse는 프롬프트 관리를 문서에 명시하고 있습니다.
- OpenTelemetry. Plano는 OpenTelemetry 지원을 문서에 명시하고 있습니다.
- Docker와 셀프 호스팅. Langfuse와 Mission Control은 Docker 또는 셀프 호스팅 배포를 문서에 명시하고 있습니다.
- 로컬 LLM. Langfuse는 로컬 또는 셀프 호스팅 LLM과의 연동을 문서에 명시하고 있습니다.
이 비교가 알려 주지 못하는 것
- 이 비교는 결과가 아니라 문서에 명시된 기능을 비교합니다. 파인튜닝된 모델의 품질, 여러분의 하드웨어에서 학습이 얼마나 빠른지, 평가 점수가 얼마나 정확한지는 알려 주지 않으며, PromptQuorum은 나열된 도구에 대해 이를 측정하지 않았습니다.
- 대시는 우리가 확인한 문서의 공백일 뿐 부정적인 결론이 아닙니다. 일부 도구는 README에 언급되지 않은 기능을 지원할 수도 있습니다.
- 파인튜닝에 필요한 하드웨어는 모델과 설정에 따라 크게 달라집니다. 학습을 시작하기 전에 도구의 리뷰에서 현실적인 요구 사항을 확인하세요.
- 도구는 빠르게 바뀝니다. 각 도구의 리뷰에는 확인한 버전이 명시되어 있으며, 이 가이드는 리뷰가 갱신될 때 함께 갱신됩니다.
자주 묻는 질문
파인튜닝 도구와 관측성 도구는 무엇이 다른가요?
파인튜닝 도구는 LoRA나 QLoRA 같은 파라미터 효율적 방식을 활용해 여러분의 데이터로 모델을 학습시켜 조정합니다. 관측성·평가 도구는 예를 들어 각 요청을 트레이싱하는 방식으로 LLM 애플리케이션이 사용 중 어떻게 동작하는지 기록하고 채점합니다. 하는 일이 다르기 때문에 따로 비교합니다.
비교표의 대시는 무엇을 뜻하나요?
프로젝트 자체 문서에 해당 속성이 명시되어 있지 않다는 뜻입니다. 기능이 없다는 뜻이 아니므로, 도구의 리뷰나 저장소를 확인하세요.
왜 도구가 이렇게 적나요?
디렉터리에는 이 분야에서 리뷰가 완료된 도구가 아직 적고, 데이터셋이나 모델 허브에 해당하는 도구는 아직 없습니다. 이 비교는 리뷰가 완료된 도구를 다루며, 리뷰가 작성되는 대로 도구가 추가됩니다.
이 도구들에 제휴 링크가 있나요?
아니요. PromptQuorum은 작성 시점 기준으로 이 비교에 포함된 어떤 도구와도 제휴 관계가 없으며, 여기에 있는 어떤 링크도 수수료를 받지 않습니다.
이 비교는 얼마나 자주 갱신되나요?
표가 각 리뷰와 같은 데이터에서 생성되므로, 1년에 두 번, 그리고 나열된 도구의 리뷰가 갱신될 때마다 함께 갱신됩니다.
출처
- 각 도구의 공식 README 또는 웹사이트. 해당 도구의 PromptQuorum 리뷰(비교표에서 연결)에 나와 있습니다.
- PromptQuorum 로컬 AI 앱 디렉터리 — 표의 각 행이 생성되는 바탕이 되는 레코드입니다.