본문으로 건너뛰기
PromptQuorum인간을 위해 설계. AI를 위해 구조화.
홈/고급 로컬 LLM
RAG & Document Chat

OpenRAG 리뷰: 오픈소스 에이전틱 RAG 플랫폼

·7분 읽기Hans Kuepper 저 · PromptQuorum 창립자 · 오픈 웨이트·오픈소스 AI 디스커버리 엔진

OpenRAG(버전 0.8.0, 2026년 10월 1일 공개)는 Langflow, OpenSearch, Docling을 묶어 문서를 업로드하고 웹 인터페이스로 대화할 수 있게 해 주는 Apache-2.0 라이선스의 무료 플랫폼입니다. 터미널에서 시작하는 컨테이너로 동작하므로 더블클릭으로 설치하는 앱이 아니라 개발자용 도구입니다. PromptQuorum은 설치하거나 테스트하지 않았으며, 이 글의 모든 내용은 프로젝트 자체 문서에 근거합니다.

핵심 요점

  • 유지보수: v0.8.0이 2026년 10월 1일에 공개되었고 저장소가 2026년 10월 23일에도 변경되었으므로, 개발 중단 경고는 해당되지 않습니다.
  • 라이선스: Apache-2.0이며, 소스 코드는 GitHub의 langflow-ai 조직에 있습니다.
  • 비용: 패키지 자체에 가격은 없으며, 비용은 하드웨어와 연결하는 모델 API에서 발생합니다.
  • Windows: Windows Subsystem for Linux 안에서만 지원됩니다.
  • 무게: 컨테이너 기반이고 디스크를 많이 쓰므로 가벼운 노트북보다 개발용 PC나 서버에 어울립니다.

📍 한 문장으로

OpenRAG는 uvx 명령 하나로 문서용 RAG 스택을 바로 띄워 주는 Apache-2.0 패키지입니다.

💬 쉽게 말하면

터미널에서 설치 프로그램을 실행하면 컨테이너 몇 개가 시작되고, 이후 파일을 업로드해 브라우저 채팅으로 질문합니다.

📌참고: 이 리뷰는 2026년 10월 23일에 확인한 OpenRAG 문서, 웹사이트, GitHub 릴리스 페이지를 바탕으로 합니다. PromptQuorum은 소프트웨어를 설치하거나 테스트하거나 벤치마크하지 않았습니다.

언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

OpenRAG는 Langflow, OpenSearch, Docling을 연결해 문서를 업로드하고 검색하며 브라우저에서 대화할 수 있게 해 주는 오픈소스 패키지입니다. 터미널에서 실행하고 컨테이너로 동작하므로 개발자를 대상으로 합니다. 이 리뷰는 2026년 10월 23일에 확인한 문서, 공식 웹사이트, GitHub 릴리스 페이지를 바탕으로 합니다.

OpenRAG 리뷰: 오픈소스 에이전틱 RAG 플랫폼

OpenRAG란?

OpenRAG는 지식 베이스에 문서를 추가하고 채팅 화면에서 AI 에이전트에게 질문하는 검색 증강 생성(RAG) 플랫폼입니다. 프로젝트는 이를 에이전틱 RAG 시스템을 구축하기 위한 오픈소스 패키지로 설명하며, 기존 프로젝트 세 가지를 결합합니다. 에이전트 플로우에는 Langflow, 문서와 벡터 저장에는 OpenSearch, 파일 분석과 분할에는 Docling을 사용합니다.

개발은 langflow-ai/openrag 저장소에서 이루어지며, 백엔드는 FastAPI, 프론트엔드는 Next.js입니다. 문서는 docs.openr.ag에서 볼 수 있습니다.

입수 방법

OpenRAG는 내려받아 쓰는 데스크톱 앱이 아니라, 터미널에서 uv로 설치하면 자체 컨테이너를 시작하는 방식입니다.

옵션
입수처
빠른 시작(macOS, Linux)빈 폴더에서 uvx --python 3.13 openrag 실행
Windows같은 명령이지만 WSL 안에서만 실행(요구 사항 참조)
Python 프로젝트설치 옵션에 따라 uv로 의존성에 추가
자체 관리Docker 가이드에 따라 Docker 또는 Podman과 직접 만든 .env 파일 사용
웹사이트openr.ag
문서docs.openr.ag
소스 코드github.com/langflow-ai/openrag
개인정보 처리방침OpenRAG 전용 페이지는 없으며, 문서의 동의 설정이 IBM 개인정보 보호 정책을 가리킵니다

검토한 버전: v0.8.0이며, GitHub 릴리스 페이지에 따르면 2026년 10월 1일에 공개되었습니다. 저장소 자체의 마지막 업데이트는 2026년 10월 23일입니다. 릴리스에는 Python wheel과 소스 아카이브만 있고 설치 프로그램이나 데스크톱 빌드가 없으므로 터미널과 개발 환경이 필요합니다.

요구 사항

문서는 컨테이너 런타임, 8 GB RAM, 50 GB를 넘는 여유 디스크 공간을 요구합니다.

항목
문서의 설명
Python 및 uv빠른 시작 기준 Python 3.13과 uv
컨테이너 런타임Docker 또는 Podman과 compose 도구, 없으면 uvx가 설치
RAM권장 최소치는 8 GB
디스크초기 설정과 수집에 50 GB 넘는 여유 공간
WindowsWSL 안에서만 가능, Windows VM 내 WSL 배포판은 불가
로컬 모델Ollama의 gpt-oss:20b는 RAM 16 GB 이상 필요

확인한 페이지에는 OpenRAG 자체의 GPU 요구 사항이 없으며, GPU를 쓰려면 Ollama를 GPU 지원 컨테이너에서 실행해야 한다는 내용만 있습니다.

시작하는 방법

아래 단계는 프로젝트의 빠른 시작을 따른 것이며, PromptQuorum은 직접 실행하지 않았습니다.

  1. 1
    작업 폴더 만들기
    Why it matters: openrag-workspace 같은 빈 디렉터리를 만들고 그곳에서 터미널을 엽니다.
  2. 2
    설치 프로그램 시작하기
    Why it matters: uvx --python 3.13 openrag를 실행하면 터미널 인터페이스가 열립니다.
  3. 3
    관리자 비밀번호 설정하기
    Why it matters: OpenSearch와 Langflow 관리자 비밀번호를 자동 생성하거나 직접 입력하고, 나머지 질문은 건너뛰어 기본값을 유지합니다.
  4. 4
    서비스 시작하기
    Why it matters: “Start services now?”에 Y로 답하고 “Services are running”이 나올 때까지 기다린 뒤 브라우저에서 OpenRAG를 엽니다.
  5. 5
    온보딩 완료하기
    Why it matters: 모델 제공자를 고르고 API 키를 입력한 뒤 Complete를 클릭합니다. 빠른 시작은 OpenAI를 사용합니다.
  6. 6
    지식 추가하고 대화하기
    Why it matters: 파일이나 폴더를 업로드한 뒤 채팅 화면에서 질문합니다.

출처로 확인된 기능

아래 항목은 모두 프로젝트의 문서 또는 README에 근거합니다.

  • 편집 가능한 플로우. 기본 제공 에이전트 플로우는 내장 Langflow 편집기에서 모델이나 구성 요소를 교체하는 것을 포함해 맞춤 설정할 수 있고, 사용자 정의 Langflow 구성 요소와 MCP 서버도 지원합니다.
  • 문서 수집. 파일은 로컬 파일 시스템이나 OAuth로 승인한 클라우드 저장소 커넥터에서 가져오며, Docling Serve가 분석하고 분할합니다.
  • 검색. OpenSearch가 문서와 임베딩을 저장하고 하이브리드 검색과 멀티 테넌시를 더합니다.
  • SDK와 API. 공식 Python 및 TypeScript SDK가 openrag-sdk로 배포되며, 문서에는 API 레퍼런스도 있습니다.
  • 관측 가능성. Langfuse로의 트레이싱과 IBM Instana 트레이서는 선택 사항이며 기본적으로 꺼져 있습니다.

데이터 흐름과 접근 제어

문서에 따르면 Docling Serve가 문서를 로컬에서 처리하고 OpenSearch가 이를 사용자 자신의 지식 베이스에 저장하며, 클라우드 소스는 사용자가 승인한 커넥터를 통해서만 불러옵니다. 구조는 컨테이너로 이루어지며 백엔드, Langflow, Docling Serve, 커넥터, 프론트엔드로 구성됩니다.

기본 모델 제공자는 OpenAI이며, 이를 쓰면 프롬프트와 검색된 문서 발췌문이 OpenAI의 정책에 따라 OpenAI로 전송됩니다. 구성 레퍼런스에는 Anthropic, Ollama, IBM watsonx.ai도 나와 있어 로컬 Ollama 엔드포인트로 연결할 수도 있습니다. Langflow 슈퍼유저 비밀번호를 설정하지 않으면 Langflow는 인증 없이 시작되므로 문서는 비밀번호 설정을 권장합니다.

📌참고: 로컬 처리에 관한 서술은 프로젝트 자체의 설명이며, PromptQuorum은 컨테이너나 네트워크 트래픽을 감사하지 않았습니다. 터미널의 업그레이드 확인은 이미지 레지스트리를 바꾸지 않는 한 Docker Hub API를 조회합니다.

이런 분께 적합합니다

  • 미리 연결된 RAG 스택을 원하는 개발자. Langflow, OpenSearch, Docling을 직접 조립하지 않아도 됩니다.
  • 이미 컨테이너를 운영하는 팀. 자신의 파일에 멀티 테넌시를 갖춘 하이브리드 검색을 쓰고 싶은 경우입니다.
  • API나 SDK가 필요한 개발자. 문서 검색 에이전트를 자신의 애플리케이션에서 호출할 수 있습니다.

확인하지 못한 사항

  • 실제 품질. PromptQuorum은 소프트웨어를 실행하지 않았으므로 답변 품질, 인용 정확도, 수집 속도, 안정성은 평가하지 않았습니다.
  • 텔레메트리. 확인한 페이지에는 컨테이너의 사용 분석이나 이를 끄는 설정에 관한 기록이 없습니다.
  • 개인정보 처리방침. OpenRAG 전용 방침 페이지는 찾지 못했으며, 문서는 IBM의 일반 개인정보 보호 정책만 참조합니다.
  • 완전한 로컬 운영. 문서에 Ollama 지원은 나와 있지만 빠른 시작은 OpenAI 기준으로만 기술되어 있어, 완전한 오프라인 구성은 검증되지 않았습니다.

경쟁 제품과 대안

Langflow

플랫폼:
웹
가격 / 라이선스:
무료 / MIT
핵심 차이:
OpenRAG가 내장한 시각적 플로우 빌더이며, 함께 제공되는 검색 스택은 없음
Langflow 관련 문서 (3개)

기타 언급:

RAGFlow

플랫폼:
Linux, 웹
가격 / 라이선스:
무료 / Apache 2.0
핵심 차이:
깊은 문서 이해와 인용에 초점을 둔 RAG 엔진
RAGFlow 관련 문서 (5개)

기타 언급:

AnythingLLM

플랫폼:
Windows, macOS, Linux, 웹
가격 / 라이선스:
무료 / MIT
핵심 차이:
벡터 저장소를 내장한 설치형 데스크톱 앱이며 컨테이너 불필요
AnythingLLM 관련 문서 (10개)

표시되지 않은 31개 더보기

Dify

플랫폼:
웹, Linux
가격 / 라이선스:
프리미엄 / 수정된 Apache 2.0
핵심 차이:
RAG가 일부일 뿐인, 더 폭넓은 AI 워크플로우·에이전트 빌더
Dify 관련 문서 (8개)

기타 언급:

표시되지 않은 3개 더보기

경쟁 제품의 세부 정보는 자주 바뀝니다. 현재 가격, 라이선스, 플랫폼은 각 앱의 공식 페이지에서 확인하십시오.

디렉터리에서 비교

자주 묻는 질문

OpenRAG는 어떤 Ollama 모델을 권장합니까?

문서는 언어 모델로 gpt-oss:20b 또는 mistral-nemo:12b, 임베딩으로 nomic-embed-text, mxbai-embed-large, embeddinggemma를 제안합니다. 채팅 모델은 도구 호출을 지원해야 하며, 문서는 모든 Ollama 모델이 작동한다고 보장하지 않습니다.

어떤 포트를 사용합니까?

기본값은 프론트엔드 3000, Langflow 7860, 백엔드 8000, OpenSearch 9200, OpenSearch Dashboards 5601, Docling 5001입니다. 프론트엔드와 Langflow 포트는 .env 파일에서 바꿀 수 있습니다.

어떤 클라우드 저장소에서 가져올 수 있습니까?

구성 레퍼런스에는 Google OAuth를 통한 Google Drive, Microsoft Graph 앱 등록을 통한 SharePoint와 OneDrive, 액세스 키를 통한 AWS S3가 설명되어 있습니다.

직접 작성한 코드에서 어떻게 호출합니까?

Python SDK는 pip install openrag-sdk로, TypeScript SDK는 npm install openrag-sdk로 설치합니다. 이전의 독립 패키지 openrag-mcp는 더 이상 권장되지 않습니다.

결론

OpenRAG는 문서에 따르면 Langflow, OpenSearch, Docling이 이미 연결된 상태로 제공되는 Apache-2.0 무료 RAG 스택이며, 2026년 10월 초 릴리스와 10월 23일까지의 변경이 있을 만큼 활발히 관리됩니다. 반면 실행이 무겁고, Windows는 WSL로만 지원되며, 기본값이 OpenAI이고, PromptQuorum은 품질, 텔레메트리, 완전한 오프라인 사용을 확인하지 못했습니다. 바로 쓸 수 있고 손보기 쉬운 RAG 백엔드를 원하는 개발자에게 어울립니다. 설치형 앱을 선호한다면 AnythingLLM을 비교해 보시고, 플로우 빌더만 필요하다면 Langflow를 살펴보십시오.

출처

← 고급 로컬 LLM으로 돌아가기

MCP