핵심 요점
- 도구 41개, 다섯 종류: RAG 프레임워크와 파이프라인(13개), 문서·PDF 채팅 앱(13개), 노트 앱 통합(10개), 로컬 검색·리서치 도구(7개), 벡터 데이터베이스(4개). Onyx, Karakeep, Surf처럼 여러 종류에 속하는 도구는 각 종류에 모두 나타납니다.
- 표는 각 도구의 레코드로 생성되며 공식 README 또는 사이트와 대조해 확인했습니다. 대시는 문서에 명시되어 있지 않다는 뜻이며 절대 "아니오"를 뜻하지 않습니다.
- GitHub는 작성 시점에 Flowise와 h2oGPT 저장소를 아카이브(읽기 전용)로 표시하고 있습니다. 이들을 기반으로 무언가를 만들기 전에 현재 상태는 각 리뷰에서 확인하십시오.
- 표의 모든 도구 이름은 해당 도구의 PromptQuorum 리뷰로 연결되며, 설치 방법과 한계는 그곳에서 다룹니다.
📍 한 문장으로
로컬 모델이 내 문서를 다루게 해 주는 도구는 RAG 프레임워크, 문서 채팅 앱, 벡터 데이터베이스, 노트 통합, 로컬 검색의 다섯 가지 종류이므로, PromptQuorum 디렉터리의 41개 도구를 종류별로 비교하며, 비교표는 각 도구의 리뷰와 같은 도구 데이터로 생성됩니다.
💬 쉽게 말하면
어떤 도구는 개발자를 위한 구성 요소이고, 어떤 도구는 내 파일과 대화할 수 있는 완성형 앱이며, 어떤 도구는 검색이 동작하게 하는 벡터를 저장하고, 어떤 도구는 이미 쓰고 있는 노트 앱에 연결됩니다. 데이터베이스와 노트 플러그인을 같은 기능으로 비교하는 것은 의미가 없으므로, 이 가이드는 같은 종류끼리 비교합니다.
비교 방법
각 도구의 사실 정보(가격, 라이선스, 플랫폼, 하드웨어 요구 사항, 종류별 속성)는 해당 도구의 디렉터리 레코드에 한 번만 저장됩니다. 아래 비교표는 이 레코드로 생성되고, 도구별 리뷰도 같은 레코드를 바탕으로 작성되므로 두 곳에서 서로 다른 값을 제시할 수 없습니다.
종류별 속성(예: 로컬 LLM 지원 또는 하이브리드 검색)은 각 프로젝트의 공식 README 또는 웹사이트에서 가져와 그곳의 정확한 표현과 대조해 확인했습니다. 문서에 언급이 없으면 추측하지 않고 표에 대시로 표시하며, 주장에 조건이 붙는 경우(로드맵에만 있음, 엔터프라이즈 에디션, 동반 프로젝트, 유료 플랜)에는 해당 속성을 표에서 제외하고 도구 리뷰에서 다룹니다.
PromptQuorum 자체 리뷰가 있는 도구만 표에 포함됩니다. 이 비교는 내 하드웨어에서 실행하거나 직접 셀프 호스팅하는 도구를 나열하며, 순위는 매기지 않습니다. 적합한 도구는 각자의 조건에 따라 달라지기 때문입니다.
비교표
아래에서 도구 종류를 선택한 다음 행을 따라 읽으십시오. 도구 이름을 클릭하면 PromptQuorum의 전체 리뷰가 열립니다.
| 도구 | 가격 | 라이선스 | 플랫폼 | 실행 방식 | 하드웨어 | 버전 | 비주얼 / 드래그 앤 드롭 빌더 | 로컬 LLM 지원 | 에이전트 지원 | 여러 벡터 저장소 | Docker / 셀프 호스팅 | 로컬 API 서버 | 리뷰 | 제품 링크 · 공개됨 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| cognee | 무료 | Apache-2.0 | — | 하이브리드 | CPU만으로 충분 | — | — | 예 | — | — | 예 | 예 | 리뷰 읽기 → | cognee |
| Dify | 프리미엄 | Modified Apache 2.0 | Web, Linux | 하이브리드 | CPU만으로 충분 | — | 예 | 예 | 예 | — | 예 | 예 | 리뷰 읽기 → | Dify |
| Flowise | 프리미엄 | Apache-2.0 | Web | 하이브리드 | — | — | 예 | — | 예 | 예 | 예 | 예 | 리뷰 읽기 → | Flowise |
| Haystack | 무료 | Apache-2.0 | macOS, Windows, Linux | 하이브리드 | — | — | — | 예 | 예 | — | 예 | — | 리뷰 읽기 → | Haystack |
| Langchain-Chatchat | 무료 | Apache-2.0 | Linux, macOS, Windows | 하이브리드 | 모델에 따라 다름 | v0.3.1 | — | 예 | 예 | 예 | 예 | 예 | 리뷰 읽기 → | Langchain-Chatchat |
| Langflow | 무료 | MIT | Web | 하이브리드 | CPU만으로 충분 | — | 예 | — | 예 | 예 | 예 | 예 | 리뷰 읽기 → | Langflow |
| LlamaIndex | 무료 | MIT | macOS, Windows, Linux | 하이브리드 | — | — | — | 예 | 예 | 예 | — | — | 리뷰 읽기 → | LlamaIndex |
| LongMemory | 무료 | Apache-2.0 | macOS, Windows, Linux | 하이브리드 | CPU만으로 충분 | v1.2.3 | — | — | 예 | — | 예 | 예 | 리뷰 읽기 → | LongMemory |
| MaxKB | 프리미엄 | GPL-3.0 | Web, Linux | 하이브리드 | CPU만으로 충분 | — | — | 예 | 예 | — | 예 | — | 리뷰 읽기 → | MaxKB |
| Onyx | 프리미엄 | MIT (core) + Enterprise Edition proprietary … | Web, Linux | 하이브리드 | — | — | — | 예 | 예 | — | 예 | 예 | 리뷰 읽기 → | Onyx |
| Self-hosted AI Starter Kit | 무료 | Apache-2.0 | — | 로컬 | 모델에 따라 다름 | — | 예 | 예 | 예 | — | 예 | — | 리뷰 읽기 → | Self-hosted AI Starter Kit |
| txtai | 무료 | Apache-2.0 | macOS, Windows, Linux | 로컬 | CPU만으로 충분 | — | — | 예 | 예 | — | 예 | 예 | 리뷰 읽기 → | txtai |
| Vane (formerly Perplexica) | 무료 | MIT | macOS, Windows, Linux | 하이브리드 | CPU만으로 충분 | — | — | 예 | — | — | 예 | 예 | 리뷰 읽기 → | Vane (formerly Perplexica) |
"—"는 프로젝트 자체 문서에 해당 내용이 명시되어 있지 않다는 뜻이며, 기능이 없다는 뜻이 아닙니다. 값은 각 프로젝트의 공식 README 또는 사이트에서 가져왔으며, 도구의 리뷰가 갱신될 때 다시 확인합니다.
RAG 프레임워크: 차이점
- 시각적 빌더. 시각적 또는 드래그 앤 드롭 워크플로 빌더를 문서에 명시한 도구: Dify, Flowise, Langflow 및 Self-hosted AI Starter Kit.
- 로컬 LLM. 로컬 LLM 사용을 문서에 명시한 도구: cognee, Haystack, Langchain-Chatchat, LlamaIndex, MaxKB, Onyx, Self-hosted AI Starter Kit, txtai 및 Vane (formerly Perplexica).
- 에이전트. 에이전트 지원을 문서에 명시한 도구: Dify, Flowise, Haystack, Langchain-Chatchat, Langflow, LlamaIndex, LongMemory, MaxKB, Onyx, Self-hosted AI Starter Kit 및 txtai.
- 여러 벡터 저장소. 여러 벡터 저장소와의 통합을 문서에 명시한 도구: Flowise, Langchain-Chatchat, Langflow 및 LlamaIndex.
- Docker 및 셀프 호스팅. Docker 또는 셀프 호스팅 배포를 문서에 명시한 도구: cognee, Dify, Flowise, Haystack, Langchain-Chatchat, Langflow, LongMemory, MaxKB, Onyx, Self-hosted AI Starter Kit, txtai 및 Vane (formerly Perplexica).
- API. HTTP 또는 REST API를 문서에 명시한 도구: cognee, Dify, Flowise, Langchain-Chatchat, Langflow, LongMemory, Onyx, txtai 및 Vane (formerly Perplexica).
문서 및 PDF 채팅: 차이점
- 로컬 LLM. 로컬 LLM 사용을 문서에 명시한 도구: AnythingLLM, h2oGPT, Khoj, Langchain-Chatchat, PrivateGPT, Quivr, Sidekick 및 Surf.
- 문서 형식. 여러 지원 파일 형식을 문서에 명시한 도구: AnythingLLM, h2oGPT, Khoj, PrivateGPT, Quivr 및 RAGFlow.
- 출처 인용. 답변에 출처를 인용한다고 문서에 명시한 도구: AnythingLLM, PrivateGPT, RAGFlow, Sidekick 및 Surf.
- 데스크톱 앱. 설치형 데스크톱 앱을 문서에 명시한 도구: AnythingLLM, Khoj 및 Surf.
- Docker 및 셀프 호스팅. Docker 또는 셀프 호스팅 배포를 문서에 명시한 도구: AnythingLLM, h2oGPT, Langchain-Chatchat, PrivateGPT 및 RAGFlow.
- API. API를 문서에 명시한 도구: AnythingLLM, h2oGPT, Langchain-Chatchat, PrivateGPT, RAGFlow 및 ToolNeuron.
벡터 데이터베이스: 차이점
- 하이브리드 검색. 키워드와 벡터를 결합한 하이브리드 검색을 문서에 명시한 도구: Milvus, Qdrant 및 Weaviate.
- 메타데이터 필터링. 메타데이터 기준 필터링을 문서에 명시한 도구: Chroma, Milvus, Qdrant 및 Weaviate.
- 분산 배포. 분산 또는 클러스터 배포를 문서에 명시한 도구: Milvus, Qdrant 및 Weaviate.
- Docker 및 셀프 호스팅. Docker 또는 셀프 호스팅 배포를 문서에 명시한 도구: Milvus, Qdrant 및 Weaviate.
- 관리형 클라우드. 셀프 호스팅과 함께 호스팅 클라우드 서비스도 문서에 명시한 도구: Chroma, Milvus, Qdrant 및 Weaviate.
- 라이선스. Chroma, Milvus, Qdrant는 Apache-2.0이며 Weaviate의 코어는 BSD-3-Clause이고, 일부 제한 기능은 자체 Weaviate License를 따릅니다. 자세한 내용은 각 도구의 리뷰를 참고하십시오.
노트 통합: 차이점
- 노트 앱. Obsidian용: BMO Chatbot, Copilot for Obsidian, Smart Connections 및 Text Generator; Logseq용: logseq-copilot; Joplin용: Joplin AI; Blinko, SiYuan 및 Surf는 AI가 내장된 독립형 노트 앱입니다.
- 로컬 LLM. 로컬 LLM 사용을 문서에 명시한 도구: BMO Chatbot, Copilot for Obsidian, Joplin AI, Karakeep, logseq-copilot 및 Surf.
- 시맨틱 검색. 노트에 대한 시맨틱 검색을 문서에 명시한 도구: Karakeep 및 Smart Connections.
- 노트와 대화. 노트와의 대화를 문서에 명시한 도구: BMO Chatbot 및 Joplin AI.
로컬 검색 및 리서치: 차이점
- 로컬 LLM. 로컬 LLM 사용을 문서에 명시한 도구: Farfalle, Karakeep, Local Deep Research, Onyx 및 Vane (formerly Perplexica).
- 웹 검색. 웹 검색을 문서에 명시한 도구: Farfalle, Local Deep Research, Onyx 및 Vane (formerly Perplexica).
- 내 파일. 내 파일이나 노트 검색을 문서에 명시한 도구: Local Deep Research, Onyx 및 Smart Connections.
- 출처 인용. 출처 인용을 문서에 명시한 도구: Local Deep Research 및 Vane (formerly Perplexica).
이 비교가 알려 주지 못하는 것
- 이 비교는 품질이 아니라 문서에 명시된 기능을 비교합니다. 답변이 얼마나 정확한지, 인덱싱이 얼마나 빠른지, 도구가 얼마나 잘 확장되는지는 알려 주지 않으며, PromptQuorum은 나열된 도구에 대해 이를 측정하지 않았습니다.
- 대시는 우리가 확인한 문서의 공백일 뿐 부정적인 결론이 아닙니다. 일부 도구는 README에 언급되지 않은 기능을 지원할 수 있습니다.
- 프로젝트 상태도 중요합니다. GitHub는 작성 시점에 Flowise와 h2oGPT 저장소를 아카이브(읽기 전용)로 표시하고 있으며, 이는 해당 저장소에서 더 이상 개발이 진행되지 않는다는 뜻입니다. 새 프로젝트에 선택하기 전에 각 도구의 리뷰를 확인하십시오.
- 도구는 빠르게 바뀝니다. 각 도구의 리뷰에는 확인한 버전이 명시되어 있으며, 이 가이드는 리뷰가 갱신될 때 함께 갱신됩니다.
자주 묻는 질문
RAG 프레임워크, 문서 채팅 앱, 벡터 데이터베이스는 어떻게 다릅니까?
RAG 프레임워크는 검색 증강 파이프라인을 만들기 위한 개발자용 툴킷입니다. 문서 채팅 앱은 내 파일에 대해 질문할 수 있는 완성형 애플리케이션입니다. 벡터 데이터베이스는 유사도 검색이 동작하게 하는 숫자 임베딩을 저장하며, 보통 앞의 두 가지 안에 들어가는 구성 요소 중 하나입니다. 서로 하는 일이 다르기 때문에 따로 비교합니다.
비교표의 대시는 무엇을 뜻합니까?
프로젝트 자체 문서에 해당 속성이 명시되어 있지 않다는 뜻입니다. 기능이 없다는 뜻이 아니므로, 도구의 리뷰나 저장소를 확인하십시오.
왜 하나의 도구가 여러 번 나타납니까?
일부 도구는 두 가지 이상의 역할을 합니다. 예를 들어 노트 앱에도 연결되는 검색 도구가 그렇습니다. 이런 도구는 속한 종류마다 나열되며, 해당 종류에 적용되는 속성이 함께 표시됩니다.
이 도구들 중에 제휴 링크가 있는 것이 있습니까?
아니요. 작성 시점에 PromptQuorum은 이 비교에 포함된 어떤 도구와도 제휴 관계가 없으며, 여기에 있는 어떤 링크도 수수료를 발생시키지 않습니다.
이 비교는 얼마나 자주 갱신됩니까?
표가 각 도구 리뷰와 같은 데이터로 생성되기 때문에, 1년에 두 번, 그리고 나열된 도구의 리뷰가 갱신될 때마다 함께 갱신됩니다.
출처
- 각 도구의 공식 README 또는 웹사이트. 해당 도구의 PromptQuorum 리뷰(비교표에서 연결됨)에 정리되어 있습니다.
- PromptQuorum 로컬 AI 앱 디렉터리 — 표의 각 행이 생성되는 기반 레코드입니다.
- 나열된 각 프로젝트의 GitHub 저장소 상태(아카이브 또는 활성). 이 가이드를 작성할 때 확인했습니다.