본문으로 건너뛰기
PromptQuorum인간을 위해 설계. AI를 위해 구조화.
홈/고급 로컬 LLM
RAG & Document Chat

Langchain-Chatchat 리뷰: 자체 호스팅 RAG·Agent 프레임워크

·11분 읽기Hans Kuepper 저 · PromptQuorum 창립자 · 오픈 웨이트·오픈소스 AI 디스커버리 엔진

Langchain-Chatchat(구 langchain-ChatGLM)은 LangChain 프레임워크 위에 구축된 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로, ChatGLM, Qwen, Llama 같은 모델이나 클라우드 API를 대상으로 로컬 지식베이스 질의응답을 실행할 수 있게 해줍니다. chatchat-space GitHub 조직이 개발했으며 Apache-2.0 라이선스를 적용받고, 유료 요금제는 없습니다 — pip나 Docker로 직접 설치해 자신의 하드웨어나 서버에서 실행하며, 어떤 모델 백엔드를 연결할지 직접 선택합니다. 이 프로젝트는 38,600개가 넘는 GitHub 스타를 보유하고 있지만, 가장 최근 태그 버전인 v0.3.1이 2024년 7월에 출시된 이후 릴리스 속도는 느려졌습니다.

핵심 요점

  • Langchain-Chatchat(github.com/chatchat-space/Langchain-Chatchat)는 LangChain 프레임워크 기반의 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로 — 다운로드형 최종 사용자 앱이 아님
  • 구 이름은 langchain-ChatGLM; 모델 지원 범위가 ChatGLM을 넘어 확장된 2023년 8월에 Langchain-Chatchat으로 이름 변경
  • GitHub 저장소의 LICENSE 파일로 확인된 Apache-2.0 라이선스
  • Xinference, Ollama, LocalAI, FastChat, One API 같은 플러그인 가능한 백엔드나 클라우드 API를 통해 ChatGLM, Qwen, Llama 등 모델 지원
  • 이 리뷰 작성 시점(2026-09-18) 기준 GitHub 스타 38,600개 이상, 포크 6,200개 이상, 미해결 이슈 26건; 저장소는 아카이브되지 않음
  • GitHub의 가장 최근 태그 버전은 v0.3.1(2024년 7월 12일)이며, 저장소에 대한 가장 최근 푸시는 2025년 11월 10일 — 최근 커밋 활동과 최신 버전 태그 사이에 실제 격차가 존재함

📍 한 문장으로

Langchain-Chatchat은 LangChain 기반의 무료 오픈소스 자체 호스팅 RAG·Agent 프레임워크로, 구 이름은 langchain-ChatGLM이었으며, ChatGLM, Qwen, Llama 같은 모델이나 클라우드 API를 대상으로 로컬 지식베이스 질의응답을 실행하고 유료 요금제는 전혀 없습니다.

💬 쉽게 말하면

호스팅형 문서 채팅 서비스에 비용을 지불하는 대신, Langchain-Chatchat을 쓰면 자신의 서버에 무료 도구를 설치해 문서를 읽어 검색 가능한 조각으로 나누고, 자신이 선택한 AI 모델 — 자신의 하드웨어에서 돌아가는 로컬 모델이든, 자신의 키로 연결하는 클라우드 API든 — 을 이용해 관련 질문에 답하게 할 수 있습니다.

📌참고: 이 리뷰는 로컬 LLM 소프트웨어 디렉터리에 실린 Langchain-Chatchat 항목의 심화 버전입니다 — 수십 개의 다른 로컬 AI 도구와 한눈에 비교하려면 해당 페이지를 참고하세요.

언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Langchain-Chatchat(github.com/chatchat-space/Langchain-Chatchat)는 LangChain 프레임워크 위에 구축된 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로, 2023년 8월 이름을 바꾸기 전에는 langchain-ChatGLM이라는 이름으로 불렸습니다. ChatGLM, Qwen, Llama 같은 모델을 플러그인 가능한 백엔드를 통해, 또는 클라우드 API를 통해 로컬 지식베이스 질의응답에 활용할 수 있으며 GitHub 스타 수는 38,600개를 넘습니다. 이 리뷰는 이 프로젝트가 실제로 하는 일, 버전 히스토리, 설치 방법, 그리고 다른 자체 호스팅 RAG 도구와의 비교를 다룹니다.

Langchain-Chatchat란?

Langchain-Chatchat은 LangChain 프레임워크 위에 구축된, 로컬 지식베이스 검색 증강 생성(RAG)과 Agent 워크플로를 위한 무료 오픈소스 자체 호스팅 애플리케이션입니다. GitHub 저장소 설명에는 LangChain 및 ChatGLM, Qwen, Llama 등 모델 기반의 RAG·Agent 애플리케이션이라고 명시되어 있습니다. 원래 2023년 4월경 langchain-ChatGLM이라는 이름으로 출시되어 ChatGLM-6B 모델을 중심으로 특화되어 있었으며, 모델 지원 범위가 넓어진 2023년 8월에 Langchain-Chatchat으로 이름을 바꿨습니다.

  • 제품 유형: 자체 호스팅 웹 애플리케이션(Streamlit 기반 인터페이스)과 Python 패키지 및 Docker 이미지 — 다운로드형 최종 사용자 바이너리가 아님
  • 개발사: chatchat-space GitHub 조직
  • 저장소: github.com/chatchat-space/Langchain-Chatchat, 2023년 3월 31일 생성
  • 라이선스: Apache-2.0, 저장소의 LICENSE 파일로 확인
  • 규모: 이 리뷰 작성 시점(2026-09-18) 기준 GitHub 스타 38,600개 이상, 포크 6,200개 이상, 미해결 이슈 26건; 저장소는 아카이브되지 않음
  • 출처: 중국에서 시작된 오픈소스 프로젝트로, README가 중국어/영어 이중 언어로 작성되어 있으며, 원래 ChatGLM 모델 계열을 중심으로 구축되었고 현재는 플러그인 가능한 백엔드를 통해 Qwen, Llama 등의 모델도 지원

Langchain-Chatchat의 프로젝트 역사와 버전 이정표

Langchain-Chatchat은 2023년 ChatGLM-6B 전용 출시 이후 여러 차례 아키텍처 변경을 거쳤지만, 2024년 중반 이후 릴리스 속도가 눈에 띄게 느려졌습니다.

  1. 1
    v0.1.0 — 2023년 4월경: langchain-ChatGLM이라는 이름으로 첫 출시
    Why it matters: 프로젝트의 출발점: ChatGLM-6B 단일 모델에 특화된 로컬 지식베이스 질의응답 애플리케이션.
  2. 2
    Langchain-Chatchat으로 이름 변경 — 2023년 8월, v0.2.0에서 FastChat 통합 적용
    Why it matters: ChatGLM 전용 도구에서 더 폭넓은 다중 모델 백엔드 프레임워크로의 전환을 알린 이정표.
  3. 3
    v0.2.5 — 2023년 10월: Agent 기능 추가
    Why it matters: 기존 RAG 질의응답 파이프라인에 더해, 도구를 활용하는 에이전트 방식 워크플로를 도입.
  4. 4
    v0.2.8 — 2023년 12월 1일
    Why it matters: v0.2.x 시리즈의 단계적 태그 릴리스.
  5. 5
    v0.2.9 — 2023년 12월 31일
    Why it matters: 2023년을 마무리하는 단계적 태그 릴리스.
  6. 6
    v0.2.10 — 2024년 1월 25일
    Why it matters: v0.3.0 아키텍처 변경 이전, v0.2.x 시리즈의 마지막 릴리스.
  7. 7
    v0.3.0 — 2024년 6월 20일: 프로젝트 자체 변경 이력에서 "새 아키텍처"로 설명
    Why it matters: 애플리케이션 아키텍처의 대대적인 내부 재구성.
  8. 8
    v0.3.1 — 2024년 7월 12일: 이 리뷰에서 확인된 가장 최근의 GitHub 태그 릴리스
    Why it matters: 이 리뷰 작성 시점 기준 가장 최신 버전 태그 — 이보다 더 새로운 태그 릴리스는 확인되지 않음.

Langchain-Chatchat은 실제로 무엇을 할 수 있나요?

Langchain-Chatchat의 핵심 기능은 로컬 지식베이스 RAG 파이프라인입니다. 문서를 조각으로 나누고, 벡터 임베딩으로 변환하며, 특정 질문에 가장 관련성 높은 조각을 유사도 검색으로 찾아낸 뒤, 이를 LLM에 전달해 답변을 생성합니다.

  • 로컬 지식베이스 RAG 파이프라인: 텍스트 분할 → 벡터화 → 유사도 매칭 → LLM을 통한 답변 생성
  • ChatGLM3와 Qwen 모델에 특히 최적화된 Agent 지원으로, 도구를 활용하는 다단계 워크플로 처리
  • Xinference, Ollama, LocalAI, FastChat 등 여러 플러그인 가능한 모델 서빙 백엔드와 "One API" 통합을 지원해 어떤 추론 서버로 모델을 구동할지 선택 가능
  • 멀티모달 지원: 이미지 대화 및 텍스트-이미지 생성 기능
  • 자연어로 구조화된 데이터를 조회할 수 있는 데이터베이스/SQL 대화("데이터베이스와 대화하기") 기능
  • Streamlit으로 구축된 웹 UI로, 여러 대화를 동시에 지원

사용 예시: Langchain-Chatchat을 활용하는 세 가지 방법

아래는 위에서 설명한 Langchain-Chatchat의 문서화된 기능을 바탕으로 한 구체적인 워크플로이며, 가상의 사용 사례가 아닙니다.

로컬 지식베이스를 구축하고 질의하기

Langchain-Chatchat의 지식베이스 인터페이스에 PDF, 텍스트 파일 등 문서 일체를 업로드합니다. 앱은 이를 조각으로 나누고 벡터 임베딩을 생성해 검색용으로 저장합니다. 인덱싱이 끝나면 자연어로 질문할 수 있으며, 앱은 가장 관련성 높은 조각을 찾아낸 뒤 연결된 모델로 답변을 생성합니다 — 클라우드 문서 채팅 서비스에 파일을 업로드하는 것과 동등한 작업을, 자체 호스팅으로 수행하는 셈입니다.

Ollama나 Xinference 같은 로컬 모델 백엔드 연결하기

클라우드 API를 호출하는 대신, ChatGLM, Qwen, Llama를 구동하는 Ollama나 Xinference 같은 로컬 추론 서버를 Langchain-Chatchat에 지정합니다. 앱은 RAG 및 Agent 요청을 해당 백엔드로 라우팅하므로, 문서 내용과 프롬프트는 자신이 관리하는 하드웨어 안에 머무릅니다.

SQL/데이터베이스 채팅 기능 사용하기

Langchain-Chatchat을 구조화된 데이터베이스에 연결하고, 데이터베이스와 대화하기 기능을 사용해 SQL을 직접 작성하는 대신 자연어로 질문합니다 — 별도의 쿼리 도구로 전환하지 않고도 데이터셋을 탐색할 때 유용합니다.

Langchain-Chatchat은 무료인가요?

네 — Langchain-Chatchat은 무료이자 오픈소스이며, 이 리뷰에서는 별도의 유료 요금제를 발견하지 못했습니다. 저장소의 LICENSE 파일로 확인된 Apache-2.0 라이선스를 적용받고 있으며, 이 리뷰에서는 벤더가 운영하는 호스팅/클라우드 버전을 발견하지 못했습니다 — 직접 설치하고 직접 운영해야 합니다.

  • Langchain-Chatchat 자체가 부과하는 구독료, 라이선스 비용, 사용량 상한이 없음
  • 자체 호스팅: 자신의 서버/하드웨어를 마련해 해당 인프라 비용만 부담하며, 로컬 모델 대신 클라우드 백엔드를 선택할 경우 클라우드 모델 API 비용이 추가로 발생할 수 있음
  • Apache-2.0 라이선스는 라이선스의 표준적인 귀속 및 고지 조건을 준수하는 한 상업적 이용, 수정, 재배포를 허용함

Langchain-Chatchat과 RAGFlow 비교

Langchain-Chatchat과 RAGFlow는 둘 다 자체 호스팅 오픈소스 RAG 애플리케이션이지만, 문서를 처리하고 관련 질문에 답하는 방식에서 서로 다른 접근을 취합니다.

주요 초점

Langchain-Chatchat:
LangChain 프레임워크 위에 직접 구축된 로컬 지식베이스 RAG·Agent 워크플로
RAGFlow:
문서 이해에 중점을 둔 RAG — 자세한 내용은 전용 RAGFlow 리뷰 참고

모델 백엔드 유연성

Langchain-Chatchat:
플러그인 가능한 백엔드: Xinference, Ollama, LocalAI, FastChat, One API, 또는 클라우드 API
RAGFlow:
자체 백엔드 지원 여부는 RAGFlow 리뷰 참고

멀티모달 지원

Langchain-Chatchat:
이미지 대화 및 텍스트-이미지 생성 기능
RAGFlow:
자세한 내용은 RAGFlow 리뷰 참고

SQL/데이터베이스 채팅

Langchain-Chatchat:
있음 — 전용 데이터베이스와 대화하기 기능
RAGFlow:
자세한 내용은 RAGFlow 리뷰 참고

유지보수 속도

Langchain-Chatchat:
가장 최근 태그 릴리스는 v0.3.1(2024년 7월); 저장소에 대한 가장 최근 푸시는 2025년 11월
RAGFlow:
현재 릴리스 속도는 RAGFlow 리뷰 참고

라이선스

Langchain-Chatchat:
Apache-2.0
RAGFlow:
라이선스는 RAGFlow 리뷰 참고

이 표는 Langchain-Chatchat 자체의 검증된 사실을 반영한 것입니다. RAGFlow에 대한 구체적인 주장은 이 요약만 믿지 말고 RAGFlow 리뷰를 직접 읽어보세요.

디렉터리에서 비교

Langchain-Chatchat은 누구에게 적합한가요?

Langchain-Chatchat이 적합한지는 LangChain 기반의 무료 자체 호스팅 RAG·Agent 프레임워크를 원하는지, 그리고 최근 느려진 릴리스 속도가 자신의 용도에 수용 가능한지에 달려 있습니다.

다음에 해당한다면 Langchain-Chatchat을 사용하세요

  • 호스팅형 SaaS 제품이 아니라, LangChain 위에 직접 구축된 무료 자체 호스팅 RAG·Agent 프레임워크를 원한다
  • 중국어 또는 중국어/영어 이중 언어 콘텐츠용 지식베이스 질의응답 앱을 구축 중이며, ChatGLM/Qwen에 최적화된 Agent 지원을 갖춘 도구가 필요하다
  • 하나의 백엔드에 묶이지 않고 원하는 모델 백엔드(Xinference, Ollama, LocalAI, FastChat, 또는 클라우드 API)를 직접 선택하고 싶다
  • 동일한 애플리케이션 안에서 문서 RAG와 함께 데이터베이스/SQL 채팅이 필요하다
  • 의존성을 포함해 자체 호스팅 Python/Docker 애플리케이션을 직접 배포하고 유지 관리하는 데 익숙하다

다음에 해당한다면 다른 대안을 찾아보세요

  • 잦고 최신인 릴리스 속도를 가진 프로젝트를 원한다 — 이 리뷰에서는 Langchain-Chatchat의 가장 최근 태그 릴리스(v0.3.1, 2024년 7월)와 가장 최근 저장소 푸시(2025년 11월) 사이에 약 16개월의 격차가 있음을 확인했다
  • 직접 배포해야 하는 자체 호스팅 웹 애플리케이션이 아니라 다운로드형 최종 사용자 데스크톱 앱이 필요하다
  • 내장된 엔터프라이즈 지원, SLA, 또는 벤더가 운영하는 관리형 클라우드 버전을 원한다 — 이 리뷰에서는 그런 서비스를 발견하지 못했다
  • 레이아웃을 고려한 깊이 있는 문서 이해에 특화된 RAG 도구가 필요하다 — 비교는 RAGFlow 리뷰 참고

경쟁 제품 및 대안

Langchain-Chatchat은 자체 호스팅 RAG·문서 채팅 세그먼트에서 RAGFlow, LlamaIndex, Haystack, MaxKB와 나란히 위치합니다.

RAGFlow

Best known for:
레이아웃을 고려한 깊이 있는 문서 이해를 갖춘 자체 호스팅 RAG
Link:
RAGFlow 리뷰
RAGFlow 관련 문서 (4개)

기타 언급:

LlamaIndex

Best known for:
LLM을 자신의 데이터에 연결하기 위한 범용 오픈소스 RAG/데이터 프레임워크
Link:
LlamaIndex 리뷰
LlamaIndex 관련 문서 (10개)

표시되지 않은 17개 더보기

Haystack(deepset)

Best known for:
deepset이 만든 오픈소스 RAG·검색 파이프라인 프레임워크
Link:
Haystack 리뷰

MaxKB

Best known for:
자체 호스팅 지식베이스 질의응답 플랫폼으로, 역시 중국 출신
Link:
MaxKB 리뷰
MaxKB 관련 문서 (4개)

이 목록은 자체 호스팅 RAG/문서 채팅 세그먼트에서 Langchain-Chatchat과 흔히 비교되는 도구를 반영한 것으로, PromptQuorum의 독립적인 순위가 아닙니다 — 전체 목록은 로컬 LLM 소프트웨어 디렉터리를 참고하고, 선택 전에 각 도구의 현재 기능과 라이선스를 확인하세요.

디렉터리에서 비교

Langchain-Chatchat 평가 시 흔한 오해

Langchain-Chatchat에 대한 오해 대부분은 이름 변천사, 릴리스 속도에 대한 잘못된 가정, 또는 기반이 되는 LangChain 프레임워크와의 관계에서 비롯됩니다.

오해 1: 옛 이름 그대로 여전히 ChatGLM 전용이라고 생각하기

이 프로젝트는 원래 2023년 4월경 langchain-ChatGLM이라는 이름으로 출시되어 ChatGLM-6B 모델을 중심으로 특화되어 있었습니다. 2023년 8월 Langchain-Chatchat으로 이름을 바꾸었고, 현재는 플러그인 가능한 서빙 계층을 통해 Qwen, Llama를 포함해 ChatGLM 이외의 여러 모델 백엔드를 지원합니다.

오해 2: 최근에도 릴리스가 잦다고 가정하기

Langchain-Chatchat의 가장 최근 GitHub 태그 릴리스는 v0.3.1로, 2024년 7월 12일에 공개되었습니다. 이 리뷰에서는 저장소에 대한 가장 최근 푸시가 2025년 11월 10일임을 확인했습니다 — 커밋 활동은 지속되고 있지만 이에 상응하는 최신 버전 태그는 없습니다. 빠른 릴리스 속도를 가정하기보다 GitHub에서 현재 릴리스 및 커밋 상태를 직접 확인하세요.

오해 3: 순수한 LangChain과 혼동하기

Langchain-Chatchat은 LangChain 프레임워크 위에 구축되어 있지만, 자체 저장소와 UI, Agent/RAG 기능 집합을 갖춘 별개의 독립적인 애플리케이션입니다 — 범용 LangChain 라이브러리 그 자체와 동일한 프로젝트가 아닙니다.

오해 4: 클라우드 전용이거나 로컬 전용이라고 가정하기

Langchain-Chatchat은 하이브리드입니다. 설정에 따라 완전한 자체 호스팅 추론을 위한 로컬 모델 백엔드(Xinference, Ollama, LocalAI, FastChat)와 클라우드 API 연결을 모두 지원하며, 소프트웨어 자체가 둘 중 어느 한 모드를 강제하지 않습니다.

자주 묻는 질문

Langchain-Chatchat이란 무엇인가요?

Langchain-Chatchat(github.com/chatchat-space/Langchain-Chatchat)는 LangChain 프레임워크 위에 구축된 무료 오픈소스 자체 호스팅 RAG·Agent 애플리케이션으로, 2023년 8월 이름을 바꾸기 전에는 langchain-ChatGLM이라는 이름이었습니다.

Langchain-Chatchat은 무료인가요?

네. Apache-2.0 라이선스를 적용받으며, 이 리뷰에서는 별도의 유료 요금제, 관리형 클라우드 서비스, 상업적 지원 플랜을 발견하지 못했습니다.

Langchain-Chatchat은 어떻게 설치하나요?

pip(pip install langchain-chatchat -U, Xinference 백엔드를 쓰려면 `pip install "langchain-chatchat[xinference]" -U) 또는 Docker(docker pull chatimage/chatchat`)로 설치합니다. 프로젝트 자체 문서에서는 프로덕션 환경에서 docker-compose 배포를 강력히 권장합니다.

Langchain-Chatchat은 어떤 라이선스를 사용하나요?

Apache-2.0이며, GitHub 저장소의 LICENSE 파일로 확인되었습니다.

Langchain-Chatchat은 어떤 모델과 백엔드를 지원하나요?

Xinference, Ollama, LocalAI, FastChat, "One API" 통합 같은 플러그인 가능한 백엔드나 클라우드 API를 통해 ChatGLM, Qwen, Llama 등의 모델을 지원합니다.

Langchain-Chatchat은 활발히 유지보수되고 있나요?

이 리뷰에서는 가장 최근 태그 릴리스(v0.3.1, 2024년 7월 12일)와 가장 최근 저장소 푸시(2025년 11월 10일) 사이에 약 16개월의 격차가 있음을 확인했습니다. 커밋 활동은 지속되고 있지만 2024년 중반 이후 릴리스 속도는 눈에 띄게 느려졌습니다 — 현재 상태는 GitHub에서 직접 확인하세요.

Langchain-Chatchat과 LangChain 자체의 차이는 무엇인가요?

Langchain-Chatchat은 LangChain 프레임워크 위에 구축되어 있지만, 자체 저장소와 UI, 기능 집합을 갖춘 별개의 독립적인 RAG·Agent 애플리케이션입니다 — 범용 LangChain 라이브러리 그 자체가 아닙니다.

Langchain-Chatchat은 중국어와 ChatGLM을 지원하나요?

네. 이 프로젝트는 원래(구 이름 langchain-ChatGLM 하에서) ChatGLM 모델 계열을 중심으로 구축되었으며, 중국어/영어 이중 언어 README를 갖추고 있고, 지금도 중국에서 시작된 오픈소스 프로젝트입니다.

Langchain-Chatchat은 SQL/데이터베이스 채팅을 지원하나요?

네, 자연어로 구조화된 데이터를 조회할 수 있는 전용 데이터베이스와 대화하기 기능을 포함하고 있습니다.

Langchain-Chatchat은 누가 유지보수하나요?

chatchat-space GitHub 조직이 이 프로젝트의 공식 저장소를 유지보수합니다.

출처

← 고급 로컬 LLM으로 돌아가기

MCP