핵심 요점
- GitHub 스타 42,000개 이상, MIT 라이선스 — 개인 및 상업적 사용 모두 무료이며, 일부 경쟁 제품과 달리 멀티테넌트 제한이 없음
- Danny Avila가 제작. 2023년 Hack Reactor 코딩 부트캠프의 "ChatGPT Clone"이라는 프로젝트로 시작
- 로컬 LLM 지원은 나중에 추가된 기능이 아니라 핵심 기능입니다. OpenAI API 호환 엔드포인트라면 무엇이든 커스텀 엔드포인트로 추가할 수 있습니다
- 에이전트는 Model Context Protocol(MCP)을 통해 도구를 호출하고, 샌드박스화된 코드 인터프리터를 실행하며, 앱 내 에이전트 마켓플레이스에 게시할 수 있습니다
- RAG API(별도 저장소)를 사용하면 사용자가 파일을 업로드하고 벡터 데이터베이스를 기반으로 대화할 수 있습니다
- 멀티유저 인증(이메일/비밀번호, OAuth2 프로바이더, LDAP)을 통해 단일 사용자 데스크톱 앱과 달리 공유 팀 도구로 배포할 수 있습니다
📍 한 문장으로
LibreChat는 무료이며 MIT 라이선스를 따르는 셀프호스팅 채팅 플랫폼으로, 커스텀 OpenAI API 호환 엔드포인트를 통해 독점 AI 프로바이더와 로컬/셀프호스팅 추론 서버(Ollama, LocalAI, LM Studio, vLLM 등)를 모두 연결할 수 있으며, 여기에 에이전트, MCP 도구 지원, RAG API를 추가로 제공합니다.
💬 쉽게 말하면
호스팅형 챗봇에 토큰당 비용을 지불하는 대신, LibreChat를 사용하면 자체 서버에서 ChatGPT 스타일의 인터페이스를 직접 운영할 수 있습니다. API 비용을 전혀 들이지 않고 네트워크 밖으로 데이터를 내보내지 않으려면, 자신의 하드웨어에서 실행되는 모델에 연결하면 됩니다.
📌참고: 이 리뷰는 LibreChat 자체의 GitHub 저장소, 문서 사이트, README에 기재된 내용을 정리한 것입니다. PromptQuorum은 LibreChat의 성능을 독자적으로 벤치마크하거나 테스트 스위트를 직접 실행하지 않았습니다. 프로젝트 자체의 CI 워크플로가 무엇을 다루는지는 "테스트와 CI" 섹션을 참고하십시오.
LibreChat란 무엇입니까?
LibreChat는 여러 AI 프로바이더를 하나의 인터페이스로 통합하도록 설계된 오픈소스 셀프호스팅 채팅 플랫폼입니다. 단일 공급업체에 종속시키는 대신, 여러 AI 프로바이더와 로컬 추론 서버를 나란히 설정하고 대화 중간에도 전환할 수 있게 해줍니다. 이 프로젝트는 Danny Avila와 LibreChat 커뮤니티가 유지 관리하며, github.com/danny-avila/LibreChat에서 호스팅되고 있고 GitHub 스타 수는 42,000개를 넘었습니다.
- 멀티 프로바이더 채팅: 독점 AI 프로바이더와 셀프호스팅/로컬 모델을 같은 인터페이스 안에서 별도 엔드포인트로 설정
- 커스텀 엔드포인트: 로컬 추론 서버를 포함해 OpenAI API 호환 서버라면 코드 수정 없이 설정 항목만으로 추가 가능
- 에이전트: 도구 접근 권한을 가진 노코드 커스텀 어시스턴트, 에이전트 마켓플레이스, Model Context Protocol(MCP) 지원
- 코드 인터프리터: 여러 언어에 걸친 샌드박스화된 실행과 파일 처리
- Artifacts: React 컴포넌트, HTML, Mermaid 다이어그램을 채팅 안에서 직접 생성하고 렌더링
- RAG API: 문서를 업로드하고 검색 증강 생성으로 대화할 수 있는 부속 서비스(별도 저장소)
- 멀티유저 지원: 이메일/비밀번호 로그인, OAuth2(Google, GitHub, Discord 등), LDAP를 지원해 개인이 아닌 팀 단위로 배포 가능
역사와 창립자: Danny Avila
LibreChat는 Danny Avila가 만들었습니다. 공개된 LibreChat 작성자 프로필에 따르면 그는 독학 개발자로, 2022년에 코딩을 시작했고 이전에는 회계사로 일하다가 소프트웨어 엔지니어링으로 전향했습니다. 이 프로젝트는 "ChatGPT Clone"이라는 이름으로 Hack Reactor 코딩 부트캠프의 졸업 프로젝트로 시작되었으며, 과제는 짧은 기간 안에 풀스택 프로젝트를 처음부터 구축하는 것이었습니다. Avila는 2023년 GitHub에서 이 프로젝트를 오픈소스로 공개했고, 이후 지속적으로 개발이 이어지며 단일 프로바이더 ChatGPT 클론에서 에이전트, MCP, RAG API를 갖춘 멀티 프로바이더 플랫폼으로 성장했습니다.
Avila는 현재도 이 프로젝트의 창립자이자 리드 메인테이너입니다. 프로젝트는 GitHub에서 커뮤니티 기여도 받고 있으며, 공식 문서 사이트에 프로젝트 작성자 목록을 게시하고 있습니다.
LibreChat와 로컬 LLM
LibreChat의 로컬 모델 지원은 커스텀 엔드포인트 기능을 통해 이루어집니다. OpenAI API와 호환되는 채팅 완성 엔드포인트를 제공하는 추론 서버라면, 독점 AI 서비스와 나란히 또는 그 대신 프로바이더로 등록할 수 있습니다.
- Ollama: LibreChat는 공식 문서의 "로컬 및 원격 AI 프로바이더" 목록에 Ollama를 명시적으로 포함하여 기본적으로 지원되는 대상으로 다룹니다
- LocalAI, text-generation-webui(oobabooga), LM Studio, vLLM: 모두 OpenAI 호환 채팅 완성 API를 제공하며, LibreChat의 커스텀 엔드포인트 설정은 다른 프로바이더와 동일한 방식으로 이들을 가리킬 수 있습니다
- Apple MLX와 koboldcpp도 로컬/대체 추론용으로 프로젝트의 공식 프로바이더 목록에 포함되어 있습니다
- 완전한 로컬 구성 — LibreChat와 로컬 추론 서버를 결합하고 독점 API 키를 설정하지 않은 상태 — 은 대화 데이터를 자신이 통제하는 인프라에 유지하며 토큰당 API 비용을 피할 수 있습니다
- 로컬과 원격의 여러 엔드포인트를 동시에 설정할 수 있습니다. 팀은 같은 LibreChat 인스턴스 안에서 빠른 독점 모델과 프라이빗한 로컬 모델을 모두 제공하고 대화별로 전환할 수 있습니다
📌참고: 완전한 오프라인 구성을 위해서는 그 밖의 다른 모든 설정된 통합(웹 검색, 외부 API를 호출하는 MCP 도구, 원격 프로바이더를 통한 이미지 생성)도 비활성화하거나 로컬 대체 수단으로 전환해야 합니다. 커스텀 엔드포인트는 채팅 완성만 로컬화할 뿐, 모든 기능을 기본적으로 로컬화하지는 않습니다.
LibreChat의 작동 방식
LibreChat는 일반적인 셀프호스팅 웹 애플리케이션입니다. Node.js/Express 백엔드, React 프런트엔드, 주요 데이터 저장소인 MongoDB로 구성되며, Docker Compose 스택으로 배포되어 명령어 하나로 전체가 시작됩니다.
- 백엔드: Node.js와 Express가 API 요청, 프로바이더/엔드포인트 라우팅, 인증을 처리
- 프런트엔드: React 단일 페이지 애플리케이션이 브라우저에서 채팅 UI를 제공
- 데이터베이스: MongoDB가 대화, 사용자, 설정을 저장하며, 별도의 벡터 데이터베이스가 독립된 RAG API의 문서 임베딩을 뒷받침
- 배포: 공식 퀵스타트는 Docker Compose를 사용해 앱, 데이터베이스, 지원 서비스를 함께 실행합니다
- 설정: 프로바이더와 커스텀 엔드포인트(로컬 추론 서버 포함)는 코드가 아니라 YAML 설정 파일(librechat.yaml)과 환경 변수로 선언됩니다
기능: 에이전트, MCP, RAG, Artifacts
기본적인 채팅을 넘어, LibreChat의 기능 세트는 에이전트, MCP를 통한 도구 접근, 자신의 파일에 대한 검색, 생성된 인터랙티브 콘텐츠라는 네 가지 영역을 중심으로 합니다.
- 에이전트: 사용 사례별로 설정 가능한 노코드 커스텀 어시스턴트로, 개별적으로 배포하고 앱 내 에이전트 마켓플레이스를 통해 공유할 수 있음
- Model Context Protocol(MCP): 에이전트는 MCP 호환 도구와 데이터 소스를 호출할 수 있어, 모델 자체 학습 범위를 넘어서는 작업이 가능해집니다
- 코드 인터프리터: 프로젝트 문서에 따르면 Python, Node.js 등을 포함한 여러 언어를 지원하는 샌드박스화된 실행, 파일 업로드/다운로드 지원
- Artifacts: 모델이 생성하고 UI가 대화 안에서 직접 렌더링하는 React 컴포넌트, HTML 페이지, Mermaid 다이어그램
- RAG API: 자신의 파일에 대해 문서를 업로드하고 검색 증강 채팅을 하기 위한 별도의 부속 서비스
- 이미지 생성 및 편집: DALL-E, Stable Diffusion, Flux 등 프로바이더와의 통합, 그리고 MCP 기반 이미지 도구
- 멀티유저 인증: 이메일/비밀번호, OAuth2(Google, GitHub, Discord 및 기타 프로바이더), 조직 디렉터리를 위한 LDAP
- 대화 검색과 다국어 UI를 지원해, 단일 사용자 도구가 아닌 공유형 팀 지향 배포로 활용 가능
테스트와 CI
LibreChat의 GitHub 저장소는 GitHub Actions를 통해 자체 자동화 검사를 실행하며, 이는 danny-avila/LibreChat 저장소의 .github/workflows 디렉터리에서 확인할 수 있습니다. PromptQuorum은 LibreChat의 테스트 스위트를 직접 실행하지 않았습니다. 아래 내용은 GitHub에서 관찰한 저장소 자체 워크플로 파일이 나타내는 내용입니다.
- backend-review.yml 및 frontend-review.yml — 백엔드와 프런트엔드 코드베이스에 대한 자동화된 코드 리뷰/점검 워크플로
- playwright-bombadil.yml 및 playwright-mock.yml — Playwright를 사용한 엔드투엔드 테스트 워크플로. 그중 하나는 모의(mock) 서비스를 대상으로 실행됩니다
- agents-integration-tests.yml 및 cache-integration-tests.yml — 에이전트 기능과 캐싱 계층을 각각 대상으로 하는 통합 테스트 워크플로
- a11y.yml — 접근성 테스트 워크플로
- static-checks.yml — 정적 코드 분석
- docker-smoke.yml — 게시 전 빌드된 Docker 이미지에 대한 스모크 테스트
LibreChat를 셀프호스팅하는 방법은?
공식 문서의 퀵스타트는 Docker Compose로 LibreChat를 배포하며, 앱, MongoDB, 지원 서비스를 함께 시작합니다.
- 1Docker와 Docker Compose가 없다면 Linux, macOS, 또는 WSL2가 설치된 Windows에 설치합니다.
- 2저장소를 클론합니다: git clone https://github.com/danny-avila/LibreChat.git, 이어서 cd LibreChat.
- 3예시 환경 파일을 복사합니다: cp .env.example .env, 그리고 사용할 프로바이더에 맞게 값을 설정합니다.
- 4로컬 모델을 추가하려면 librechat.yaml을 생성하거나 편집하여, 로컬 추론 서버(같은 머신 또는 LAN에서 실행 중인 Ollama나 LM Studio 서버 등)의 OpenAI 호환 URL을 가리키는 커스텀 엔드포인트를 추가합니다.
- 5스택을 시작합니다: docker compose up -d. 이 명령으로 백엔드, 프런트엔드, MongoDB가 함께 실행됩니다.
- 6브라우저에서 앱을 엽니다(기본값 http://localhost:3080). 첫 계정을 등록하고, 설정된 엔드포인트(독점 또는 로컬)를 선택해 채팅을 시작합니다.
셀프호스팅한 LibreChat에 GPU가 필요합니까?
LibreChat 자체에는 필요하지 않습니다. LibreChat는 채팅 인터페이스이자 오케스트레이션 계층으로, 자체 프로세스 안에서 모델 추론을 실행하는 대신 설정된 엔드포인트를 호출합니다. GPU는 Ollama나 vLLM 같은 별도의 추론 서버를 통해 LibreChat가 연결하는 로컬 모델까지 함께 셀프호스팅하는 경우에만 관련이 있습니다.
로컬 모델만으로 LibreChat를 완전히 오프라인으로 실행할 수 있습니까?
채팅 완성 경로에 한해서는 가능합니다. LibreChat의 커스텀 엔드포인트를 Ollama, LocalAI, vLLM 같은 로컬 OpenAI API 호환 서버로 지정하고, 독점 프로바이더 키는 제거하거나 비활성화하십시오. 웹 검색, 원격 프로바이더를 통한 이미지 생성, 인터넷에 접근하는 MCP 도구처럼 설계상 외부 서비스를 호출하는 기능은 전체 배포를 오프라인으로 유지하려면 비활성화하거나 로컬 대체 수단으로 재설정해야 합니다.
LibreChat는 누구에게 적합한가
LibreChat는 로컬 모델을 포함한 여러 AI 프로바이더를 하나의 채팅 인터페이스로 다루고, 이후 에이전트, 도구 사용, 멀티유저 배포로 확장할 여지를 원하는 팀과 개인에게 적합합니다.
LibreChat vs. Open WebUI, SillyTavern, AnythingLLM
LibreChat는 로컬 및 원격 LLM을 위한 셀프호스팅 멀티모델 채팅 프론트엔드라는 점에서 Open WebUI와 가장 많이 겹칩니다. 차이는 중점에 있습니다. LibreChat는 멀티 프로바이더 채팅, 에이전트, MCP 도구 사용에 무게를 두는 반면, Open WebUI는 내장 RAG를 갖춘 기본 셀프호스팅 ChatGPT 대안이라는 위치에 무게를 둡니다. SillyTavern과 AnythingLLM은 더 좁은 영역에 특화되어 있습니다.
도구 | 중점 | 라이선스 | 로컬 LLM 지원 |
|---|---|---|---|
| LibreChat | 멀티 프로바이더 채팅 / 에이전트 / MCP | MIT | 커스텀 OpenAI 호환 엔드포인트 |
| Open WebUI | 셀프호스팅 ChatGPT 대안, 내장 RAG | BSD 3-Clause | 네이티브 Ollama + OpenAI 호환 |
| SillyTavern | 캐릭터 롤플레이, lorebook | AGPL 3.0 | KoboldCpp, text-gen-webui 등 |
| AnythingLLM | 문서 RAG, 워크스페이스 | MIT | Ollama, LM Studio, LocalAI |
스타 수와 기능 구성은 계속 변합니다. 인용하기 전에 각 프로젝트의 GitHub 페이지에서 최신 수치를 확인하십시오. 이 리뷰 작성 시점 기준으로, 이 그룹에서 Open WebUI가 가장 많은 GitHub 팔로워를 보유하고 있으며, AnythingLLM과 LibreChat는 로컬 LLM 채팅에 추가 기능을 더한 범위에서 대체로 비슷하고, SillyTavern은 규모는 가장 작지만 롤플레이에 가장 특화되어 있습니다.
LibreChat 평가 시 흔한 실수
이러한 실수는 LibreChat를 단일 사용자 데스크톱 앱처럼 취급하거나, 로컬 엔드포인트를 추가하기만 하면 모든 기능이 기본적으로 오프라인에서 작동한다고 가정하는 데서 비롯됩니다.
자주 묻는 질문
LibreChat는 무료입니까?
예. LibreChat는 MIT 라이선스 아래 완전히 오픈소스이며, 셀프호스팅 기준으로 개인 및 상업적 사용 모두 무료입니다. 상업적으로 배포하기 전에 확인해야 할 멀티테넌트 SaaS 제한도 없습니다.
LibreChat를 만든 사람은 누구입니까?
Danny Avila가 LibreChat를 만들었습니다. 원래는 2023년 Hack Reactor 코딩 부트캠프의 졸업 프로젝트(당시 이름은 "ChatGPT Clone")로 시작했습니다. 그는 지금도 이 프로젝트의 창립자이자 리드 메인테이너로 남아 있으며, GitHub에는 커뮤니티 기여자들도 있습니다.
LibreChat는 Ollama 같은 로컬 LLM을 지원합니까?
예. LibreChat는 공식 문서의 로컬 및 원격 AI 프로바이더 목록에 Ollama를 포함하고 있으며, 커스텀 엔드포인트 기능을 통해 LocalAI, text-generation-webui, LM Studio, vLLM을 포함한 모든 OpenAI API 호환 로컬 서버에 연결할 수 있습니다.
LibreChat를 완전히 오프라인으로 실행할 수 있습니까?
독점 프로바이더 키를 제거한 상태에서 로컬 OpenAI 호환 엔드포인트로 지정하면 채팅 완성 경로는 완전히 오프라인으로 실행될 수 있습니다. 웹 검색, 원격 이미지 생성, 인터넷에 접근하는 MCP 도구 같은 다른 통합 기능은 전체 배포를 오프라인으로 유지하려면 비활성화하거나 로컬로 재설정해야 합니다.
LibreChat는 데이터베이스로 무엇을 사용합니까?
MongoDB가 대화, 사용자, 설정을 위한 주요 데이터 저장소입니다. 문서 임베딩을 위해서는 부속 RAG API를 뒷받침하는 별도의 벡터 데이터베이스가 사용됩니다.
LibreChat는 에이전트와 도구 사용을 지원합니까?
예. LibreChat Agents는 Model Context Protocol(MCP)을 통해 도구를 호출하고, 샌드박스화된 코드 인터프리터를 실행하며, 앱 내 에이전트 마켓플레이스에 게시할 수 있는 노코드 커스텀 어시스턴트입니다.
LibreChat는 Open WebUI와 어떻게 다릅니까?
둘 다 MIT/BSD 라이선스를 따르는 셀프호스팅 채팅 프론트엔드로, 로컬 및 원격 LLM을 지원합니다. LibreChat는 멀티 프로바이더 전환, 에이전트, MCP 도구 사용에 더 무게를 두는 반면, Open WebUI는 내장 RAG를 제공하며 이 리뷰 작성 시점 기준으로 대체로 더 널리 채택된 기본 셀프호스팅 ChatGPT 대안입니다. 두 프로젝트 모두 빠르게 발전하고 있으므로, 인용하기 전에 최신 채택 현황을 확인하십시오.
LibreChat는 SillyTavern과 어떻게 다릅니까?
SillyTavern은 lorebook과 페르소나 카드를 활용한 캐릭터 중심 롤플레이를 위해 특별히 만들어졌습니다. LibreChat는 에이전트와 RAG를 갖춘 범용 멀티 프로바이더 채팅 플랫폼으로, 롤플레이 특화 워크플로에서 SillyTavern을 대체하도록 설계되지 않았습니다.
LibreChat를 셀프호스팅하는 데 GPU가 필요합니까?
LibreChat 자체에는 필요하지 않습니다 — 오케스트레이션 및 채팅 인터페이스 계층이기 때문입니다. GPU는 Ollama나 vLLM 같은 것을 통해 LibreChat가 연결하는 로컬 모델을 별도로 셀프호스팅하는 경우에만 관련이 있습니다.
PromptQuorum이 LibreChat의 성능을 테스트하거나 테스트 스위트를 실행한 적이 있습니까?
아니요. 이 리뷰는 LibreChat 자체의 GitHub 저장소, 문서, 공개된 작성자 프로필에 기재된 내용 — .github/workflows 디렉터리에서 확인 가능한 CI 워크플로 파일을 포함 — 을 정리한 것이며, PromptQuorum이 독자적으로 수행한 벤치마크나 테스트 실행이 아닙니다.