Skip to main content
PromptQuorum
홈/고급 로컬 LLM/Langchain-Chatchat 리뷰 2026: 자체 호스팅 RAG·Agent 프레임워크
RAG & Document Chat

Langchain-Chatchat 리뷰 2026: 자체 호스팅 RAG·Agent 프레임워크

·11분 읽기·Hans Kuepper 저 · PromptQuorum 창립자, 멀티 모델 AI 디스패치 도구 · PromptQuorum
언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Langchain-Chatchat(구 langchain-ChatGLM)은 LangChain 프레임워크 위에 구축된 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로, ChatGLM, Qwen, Llama 같은 모델이나 클라우드 API를 대상으로 로컬 지식베이스 질의응답을 실행할 수 있게 해줍니다. chatchat-space GitHub 조직이 개발했으며 Apache-2.0 라이선스를 적용받고, 유료 요금제는 없습니다 — pip나 Docker로 직접 설치해 자신의 하드웨어나 서버에서 실행하며, 어떤 모델 백엔드를 연결할지 직접 선택합니다. 이 프로젝트는 38,600개가 넘는 GitHub 스타를 보유하고 있지만, 가장 최근 태그 버전인 v0.3.1이 2024년 7월에 출시된 이후 릴리스 속도는 느려졌습니다.

Langchain-Chatchat(github.com/chatchat-space/Langchain-Chatchat)는 LangChain 프레임워크 위에 구축된 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로, 2023년 8월 이름을 바꾸기 전에는 langchain-ChatGLM이라는 이름으로 불렸습니다. ChatGLM, Qwen, Llama 같은 모델을 플러그인 가능한 백엔드를 통해, 또는 클라우드 API를 통해 로컬 지식베이스 질의응답에 활용할 수 있으며 GitHub 스타 수는 38,600개를 넘습니다. 이 리뷰는 이 프로젝트가 실제로 하는 일, 버전 히스토리, 설치 방법, 그리고 다른 자체 호스팅 RAG 도구와의 비교를 다룹니다.

핵심 요점

  • Langchain-Chatchat(github.com/chatchat-space/Langchain-Chatchat)는 LangChain 프레임워크 기반의 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로 — 다운로드형 최종 사용자 앱이 아님
  • 구 이름은 langchain-ChatGLM; 모델 지원 범위가 ChatGLM을 넘어 확장된 2023년 8월에 Langchain-Chatchat으로 이름 변경
  • GitHub 저장소의 LICENSE 파일로 확인된 Apache-2.0 라이선스
  • Xinference, Ollama, LocalAI, FastChat, One API 같은 플러그인 가능한 백엔드나 클라우드 API를 통해 ChatGLM, Qwen, Llama 등 모델 지원
  • 이 리뷰 작성 시점(2026-09-18) 기준 GitHub 스타 38,600개 이상, 포크 6,200개 이상, 미해결 이슈 26건; 저장소는 아카이브되지 않음
  • GitHub의 가장 최근 태그 버전은 v0.3.1(2024년 7월 12일)이며, 저장소에 대한 가장 최근 푸시는 2025년 11월 10일 — 최근 커밋 활동과 최신 버전 태그 사이에 실제 격차가 존재함

📍 한 문장으로

Langchain-Chatchat은 LangChain 기반의 무료 오픈소스 자체 호스팅 RAG·Agent 프레임워크로, 구 이름은 langchain-ChatGLM이었으며, ChatGLM, Qwen, Llama 같은 모델이나 클라우드 API를 대상으로 로컬 지식베이스 질의응답을 실행하고 유료 요금제는 전혀 없습니다.

💬 쉽게 말하면

호스팅형 문서 채팅 서비스에 비용을 지불하는 대신, Langchain-Chatchat을 쓰면 자신의 서버에 무료 도구를 설치해 문서를 읽어 검색 가능한 조각으로 나누고, 자신이 선택한 AI 모델 — 자신의 하드웨어에서 돌아가는 로컬 모델이든, 자신의 키로 연결하는 클라우드 API든 — 을 이용해 관련 질문에 답하게 할 수 있습니다.

📌참고: 이 리뷰는 로컬 LLM 소프트웨어 디렉터리에 실린 Langchain-Chatchat 항목의 심화 버전입니다 — 수십 개의 다른 로컬 AI 도구와 한눈에 비교하려면 해당 페이지를 참고하세요.

Langchain-Chatchat란?

Langchain-Chatchat은 LangChain 프레임워크 위에 구축된, 로컬 지식베이스 검색 증강 생성(RAG)과 Agent 워크플로를 위한 무료 오픈소스 자체 호스팅 애플리케이션입니다. GitHub 저장소 설명에는 LangChain 및 ChatGLM, Qwen, Llama 등 모델 기반의 RAG·Agent 애플리케이션이라고 명시되어 있습니다. 원래 2023년 4월경 langchain-ChatGLM이라는 이름으로 출시되어 ChatGLM-6B 모델을 중심으로 특화되어 있었으며, 모델 지원 범위가 넓어진 2023년 8월에 Langchain-Chatchat으로 이름을 바꿨습니다.

  • 제품 유형: 자체 호스팅 웹 애플리케이션(Streamlit 기반 인터페이스)과 Python 패키지 및 Docker 이미지 — 다운로드형 최종 사용자 바이너리가 아님
  • 개발사: chatchat-space GitHub 조직
  • 저장소: github.com/chatchat-space/Langchain-Chatchat, 2023년 3월 31일 생성
  • 라이선스: Apache-2.0, 저장소의 LICENSE 파일로 확인
  • 규모: 이 리뷰 작성 시점(2026-09-18) 기준 GitHub 스타 38,600개 이상, 포크 6,200개 이상, 미해결 이슈 26건; 저장소는 아카이브되지 않음
  • 출처: 중국에서 시작된 오픈소스 프로젝트로, README가 중국어/영어 이중 언어로 작성되어 있으며, 원래 ChatGLM 모델 계열을 중심으로 구축되었고 현재는 플러그인 가능한 백엔드를 통해 Qwen, Llama 등의 모델도 지원

Langchain-Chatchat의 프로젝트 역사와 버전 이정표

Langchain-Chatchat은 2023년 ChatGLM-6B 전용 출시 이후 여러 차례 아키텍처 변경을 거쳤지만, 2024년 중반 이후 릴리스 속도가 눈에 띄게 느려졌습니다.

  1. 1
    v0.1.0 — 2023년 4월경: langchain-ChatGLM이라는 이름으로 첫 출시
    Why it matters: 프로젝트의 출발점: ChatGLM-6B 단일 모델에 특화된 로컬 지식베이스 질의응답 애플리케이션.
  2. 2
    Langchain-Chatchat으로 이름 변경 — 2023년 8월, v0.2.0에서 FastChat 통합 적용
    Why it matters: ChatGLM 전용 도구에서 더 폭넓은 다중 모델 백엔드 프레임워크로의 전환을 알린 이정표.
  3. 3
    v0.2.5 — 2023년 10월: Agent 기능 추가
    Why it matters: 기존 RAG 질의응답 파이프라인에 더해, 도구를 활용하는 에이전트 방식 워크플로를 도입.
  4. 4
    v0.2.8 — 2023년 12월 1일
    Why it matters: v0.2.x 시리즈의 단계적 태그 릴리스.
  5. 5
    v0.2.9 — 2023년 12월 31일
    Why it matters: 2023년을 마무리하는 단계적 태그 릴리스.
  6. 6
    v0.2.10 — 2024년 1월 25일
    Why it matters: v0.3.0 아키텍처 변경 이전, v0.2.x 시리즈의 마지막 릴리스.
  7. 7
    v0.3.0 — 2024년 6월 20일: 프로젝트 자체 변경 이력에서 "새 아키텍처"로 설명
    Why it matters: 애플리케이션 아키텍처의 대대적인 내부 재구성.
  8. 8
    v0.3.1 — 2024년 7월 12일: 이 리뷰에서 확인된 가장 최근의 GitHub 태그 릴리스
    Why it matters: 이 리뷰 작성 시점 기준 가장 최신 버전 태그 — 이보다 더 새로운 태그 릴리스는 확인되지 않음.

Langchain-Chatchat은 실제로 무엇을 할 수 있나요?

Langchain-Chatchat의 핵심 기능은 로컬 지식베이스 RAG 파이프라인입니다. 문서를 조각으로 나누고, 벡터 임베딩으로 변환하며, 특정 질문에 가장 관련성 높은 조각을 유사도 검색으로 찾아낸 뒤, 이를 LLM에 전달해 답변을 생성합니다.

  • 로컬 지식베이스 RAG 파이프라인: 텍스트 분할 → 벡터화 → 유사도 매칭 → LLM을 통한 답변 생성
  • ChatGLM3와 Qwen 모델에 특히 최적화된 Agent 지원으로, 도구를 활용하는 다단계 워크플로 처리
  • Xinference, Ollama, LocalAI, FastChat 등 여러 플러그인 가능한 모델 서빙 백엔드와 "One API" 통합을 지원해 어떤 추론 서버로 모델을 구동할지 선택 가능
  • 멀티모달 지원: 이미지 대화 및 텍스트-이미지 생성 기능
  • 자연어로 구조화된 데이터를 조회할 수 있는 데이터베이스/SQL 대화("데이터베이스와 대화하기") 기능
  • Streamlit으로 구축된 웹 UI로, 여러 대화를 동시에 지원

사용 예시: Langchain-Chatchat을 활용하는 세 가지 방법

아래는 위에서 설명한 Langchain-Chatchat의 문서화된 기능을 바탕으로 한 구체적인 워크플로이며, 가상의 사용 사례가 아닙니다.

Langchain-Chatchat은 무료인가요?

네 — Langchain-Chatchat은 무료이자 오픈소스이며, 이 리뷰에서는 별도의 유료 요금제를 발견하지 못했습니다. 저장소의 LICENSE 파일로 확인된 Apache-2.0 라이선스를 적용받고 있으며, 이 리뷰에서는 벤더가 운영하는 호스팅/클라우드 버전을 발견하지 못했습니다 — 직접 설치하고 직접 운영해야 합니다.

  • Langchain-Chatchat 자체가 부과하는 구독료, 라이선스 비용, 사용량 상한이 없음
  • 자체 호스팅: 자신의 서버/하드웨어를 마련해 해당 인프라 비용만 부담하며, 로컬 모델 대신 클라우드 백엔드를 선택할 경우 클라우드 모델 API 비용이 추가로 발생할 수 있음
  • Apache-2.0 라이선스는 라이선스의 표준적인 귀속 및 고지 조건을 준수하는 한 상업적 이용, 수정, 재배포를 허용함

Langchain-Chatchat과 RAGFlow 비교

Langchain-Chatchat과 RAGFlow는 둘 다 자체 호스팅 오픈소스 RAG 애플리케이션이지만, 문서를 처리하고 관련 질문에 답하는 방식에서 서로 다른 접근을 취합니다.

주요 초점

Langchain-Chatchat:
LangChain 프레임워크 위에 직접 구축된 로컬 지식베이스 RAG·Agent 워크플로
RAGFlow:
문서 이해에 중점을 둔 RAG — 자세한 내용은 전용 RAGFlow 리뷰 참고

모델 백엔드 유연성

Langchain-Chatchat:
플러그인 가능한 백엔드: Xinference, Ollama, LocalAI, FastChat, One API, 또는 클라우드 API
RAGFlow:
자체 백엔드 지원 여부는 RAGFlow 리뷰 참고

멀티모달 지원

Langchain-Chatchat:
이미지 대화 및 텍스트-이미지 생성 기능
RAGFlow:
자세한 내용은 RAGFlow 리뷰 참고

SQL/데이터베이스 채팅

Langchain-Chatchat:
있음 — 전용 데이터베이스와 대화하기 기능
RAGFlow:
자세한 내용은 RAGFlow 리뷰 참고

유지보수 속도

Langchain-Chatchat:
가장 최근 태그 릴리스는 v0.3.1(2024년 7월); 저장소에 대한 가장 최근 푸시는 2025년 11월
RAGFlow:
현재 릴리스 속도는 RAGFlow 리뷰 참고

라이선스

Langchain-Chatchat:
Apache-2.0
RAGFlow:
라이선스는 RAGFlow 리뷰 참고

이 표는 Langchain-Chatchat 자체의 검증된 사실을 반영한 것입니다. RAGFlow에 대한 구체적인 주장은 이 요약만 믿지 말고 RAGFlow 리뷰를 직접 읽어보세요.

Langchain-Chatchat은 누구에게 적합한가요?

Langchain-Chatchat이 적합한지는 LangChain 기반의 무료 자체 호스팅 RAG·Agent 프레임워크를 원하는지, 그리고 최근 느려진 릴리스 속도가 자신의 용도에 수용 가능한지에 달려 있습니다.

경쟁 제품 및 대안

Langchain-Chatchat은 자체 호스팅 RAG·문서 채팅 세그먼트에서 RAGFlow, LlamaIndex, Haystack, MaxKB와 나란히 위치합니다.

RAGFlow

Best known for:
레이아웃을 고려한 깊이 있는 문서 이해를 갖춘 자체 호스팅 RAG
Link:
RAGFlow 리뷰
RAGFlow 관련 문서 (4개)

기타 언급:

LlamaIndex

Best known for:
LLM을 자신의 데이터에 연결하기 위한 범용 오픈소스 RAG/데이터 프레임워크
Link:
LlamaIndex 리뷰
LlamaIndex 관련 문서 (10개)

표시되지 않은 15개 더보기

Haystack(deepset)

Best known for:
deepset이 만든 오픈소스 RAG·검색 파이프라인 프레임워크
Link:
Haystack 리뷰

MaxKB

Best known for:
자체 호스팅 지식베이스 질의응답 플랫폼으로, 역시 중국 출신
Link:
MaxKB 리뷰
MaxKB 관련 문서 (3개)

기타 언급:

이 목록은 자체 호스팅 RAG/문서 채팅 세그먼트에서 Langchain-Chatchat과 흔히 비교되는 도구를 반영한 것으로, PromptQuorum의 독립적인 순위가 아닙니다 — 전체 목록은 로컬 LLM 소프트웨어 디렉터리를 참고하고, 선택 전에 각 도구의 현재 기능과 라이선스를 확인하세요.

Langchain-Chatchat 평가 시 흔한 오해

Langchain-Chatchat에 대한 오해 대부분은 이름 변천사, 릴리스 속도에 대한 잘못된 가정, 또는 기반이 되는 LangChain 프레임워크와의 관계에서 비롯됩니다.

자주 묻는 질문

Langchain-Chatchat이란 무엇인가요?

Langchain-Chatchat(github.com/chatchat-space/Langchain-Chatchat)는 LangChain 프레임워크 위에 구축된 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로, 2023년 8월 이름을 바꾸기 전에는 langchain-ChatGLM이라는 이름이었습니다.

Langchain-Chatchat은 무료인가요?

네. Apache-2.0 라이선스를 적용받으며, 이 리뷰에서는 별도의 유료 요금제, 관리형 클라우드 서비스, 상업적 지원 플랜을 발견하지 못했습니다.

Langchain-Chatchat은 어떻게 설치하나요?

pip(pip install langchain-chatchat -U, Xinference 백엔드를 쓰려면 `pip install "langchain-chatchat[xinference]" -U) 또는 Docker(docker pull chatimage/chatchat`)로 설치합니다. 프로젝트 자체 문서에서는 프로덕션 환경에서 docker-compose 배포를 강력히 권장합니다.

Langchain-Chatchat은 어떤 라이선스를 사용하나요?

Apache-2.0이며, GitHub 저장소의 LICENSE 파일로 확인되었습니다.

Langchain-Chatchat은 어떤 모델과 백엔드를 지원하나요?

Xinference, Ollama, LocalAI, FastChat, "One API" 통합 같은 플러그인 가능한 백엔드나 클라우드 API를 통해 ChatGLM, Qwen, Llama 등의 모델을 지원합니다.

Langchain-Chatchat은 활발히 유지보수되고 있나요?

이 리뷰에서는 가장 최근 태그 릴리스(v0.3.1, 2024년 7월 12일)와 가장 최근 저장소 푸시(2025년 11월 10일) 사이에 약 16개월의 격차가 있음을 확인했습니다. 커밋 활동은 지속되고 있지만 2024년 중반 이후 릴리스 속도는 눈에 띄게 느려졌습니다 — 현재 상태는 GitHub에서 직접 확인하세요.

Langchain-Chatchat과 LangChain 자체의 차이는 무엇인가요?

Langchain-Chatchat은 LangChain 프레임워크 위에 구축되어 있지만, 자체 저장소와 UI, 기능 집합을 갖춘 별개의 독립적인 RAG·Agent 애플리케이션입니다 — 범용 LangChain 라이브러리 그 자체가 아닙니다.

Langchain-Chatchat은 중국어와 ChatGLM을 지원하나요?

네. 이 프로젝트는 원래(구 이름 langchain-ChatGLM 하에서) ChatGLM 모델 계열을 중심으로 구축되었으며, 중국어/영어 이중 언어 README를 갖추고 있고, 지금도 중국에서 시작된 오픈소스 프로젝트입니다.

Langchain-Chatchat은 SQL/데이터베이스 채팅을 지원하나요?

네, 자연어로 구조화된 데이터를 조회할 수 있는 전용 데이터베이스와 대화하기 기능을 포함하고 있습니다.

Langchain-Chatchat은 누가 유지보수하나요?

chatchat-space GitHub 조직이 이 프로젝트의 공식 저장소를 유지보수합니다.

출처

← 고급 로컬 LLM으로 돌아가기