Skip to main content
PromptQuorum
홈/고급 로컬 LLM/Milvus 리뷰 2026: 로컬 RAG를 위한 오픈소스 벡터 데이터베이스
RAG & Document Chat

Milvus 리뷰 2026: 로컬 RAG를 위한 오픈소스 벡터 데이터베이스

·읽는 시간: 12분·Hans Kuepper 저 · PromptQuorum 창립자, 멀티 모델 AI 디스패치 도구 · PromptQuorum
언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Milvus는 대규모 벡터 임베딩을 저장하고 검색하기 위해 만들어진 무료 오픈소스(Apache-2.0) 벡터 데이터베이스로, RAG 파이프라인, 시맨틱 검색, 추천 시스템에서 검색(retrieval) 계층으로 사용됩니다. 완전히 셀프 호스팅 가능하며 세 가지 배포 모드를 제공합니다: Milvus Lite(노트북 프로토타이핑을 위한 임베디드 pip 설치 라이브러리), Milvus Standalone(단일 머신 Docker 배포), Milvus Distributed(대규모 프로덕션을 위한 Kubernetes/Helm 클러스터 배포). Milvus 자체에는 유료 등급이 없으며 — Zilliz Cloud는 Milvus의 주요 기업 기여자인 Zilliz가 제공하는 별도의 선택적 관리형 호스팅 서비스로, Milvus를 실행하는 데 필수가 아닙니다. 이 프로젝트는 LF AI & Data Foundation의 거버넌스를 받습니다.

Milvus(milvus.io, 소스 코드는 github.com/milvus-io/milvus)는 검색 증강 생성(RAG), 시맨틱 검색, 추천 시스템을 구동하는 임베딩을 저장하고 검색하기 위해 만들어진 무료 오픈소스 클라우드 네이티브 벡터 데이터베이스입니다. 로컬 프로토타이핑을 위한 단일 pip install부터 수십억 개의 벡터를 다루는 분산 Kubernetes 배포까지 완전히 셀프 호스팅 가능하며, LF AI & Data Foundation의 거버넌스 아래 있고 Zilliz가 주요 기업 기여자로 참여하고 있습니다. 이 리뷰는 Milvus가 실제로 무엇을 하는지, 어디서 시작됐는지, 어떻게 설치하는지, 비용은 얼마인지, 그리고 로컬 LLM 스택 안에서 다른 오픈소스 벡터 데이터베이스와 어떻게 어울리는지를 다룹니다.

핵심 요점

  • Milvus는 Apache-2.0 라이선스의 무료 오픈소스이며, LF AI & Data Foundation의 거버넌스를 받고 Zilliz가 주요 기업 기여자
  • 세 가지 셀프 호스팅 배포 모드: Milvus Lite(임베디드, pip install pymilvus, 프로토타이핑용), Standalone(Docker, 단일 머신), Distributed(Kubernetes/Helm, 클러스터 규모 프로덕션용)
  • 하이브리드 검색 지원 — 밀집 벡터 유사도, 희소/전문(BM25) 검색, 메타데이터 필터링을 단일 쿼리에서 결합
  • GPU 가속 인덱싱과 여러 인덱스 유형(HNSW, IVF, FLAT, DiskANN 등) 지원
  • 공유 인프라에서 워크로드를 격리하기 위한 다중 테넌시 지원(데이터베이스, 컬렉션, 파티션, 역할 기반 접근 제어)
  • RAG/오케스트레이션 프레임워크(LangChain, LlamaIndex)와 직접 통합되며, OpenAI, Hugging Face, 로컬/셀프 호스팅 소스의 임베딩 모델과도 통합
  • GitHub 저장소 기준 2026년 9월 현재 약 46,150개의 스타 보유
  • Zilliz Cloud는 Zilliz가 제공하는 별도의 선택적 관리형 호스팅 서비스로, Milvus를 직접 운영하는 데는 필요하지 않음

📍 한 문장으로

Milvus는 단일 pip install부터 Kubernetes 클러스터까지 지원하는 무료 오픈소스 셀프 호스팅 벡터 데이터베이스로, RAG 파이프라인과 시맨틱 검색을 뒷받침하는 대규모 유사도 검색을 위해 만들어졌습니다.

💬 쉽게 말하면

로컬 RAG 시스템을 구축할 때는 먼저 임베딩 모델로 문서를 임베딩(숫자 목록)으로 변환한 다음, 그 임베딩을 저장하고 새 질문과 가장 가까운 결과를 빠르게 찾아낼 저장소가 필요합니다. Milvus가 바로 그 저장·검색 계층입니다. 테스트용으로 노트북에서 단일 파일로 실행할 수도 있고, 소규모 프로덕션 앱을 위해 Docker 컨테이너 하나로 돌릴 수도 있으며, 수십억 개의 벡터를 위한 완전한 클러스터로 운영할 수도 있습니다 — 모두 무료이고 셀프 호스팅이며 계정이 필요 없습니다.

📌참고: 이 리뷰는 로컬 LLM 소프트웨어 디렉터리에 실린 Milvus 항목의 심층 분석판입니다 — Milvus가 다른 벡터 데이터베이스를 포함한 수십 개의 로컬 AI 도구와 한눈에 어떻게 비교되는지는 해당 페이지를 참고하세요.

Milvus란 무엇인가?

Milvus는 고차원 벡터 임베딩의 대규모 컬렉션을 저장, 인덱싱, 검색하도록 설계된 오픈소스 클라우드 네이티브 벡터 데이터베이스입니다. GitHub 설명에서는 이를 "확장 가능한 벡터 ANN(근사 최근접 이웃) 검색을 위해 만들어진 고성능 클라우드 네이티브 벡터 데이터베이스"라고 소개합니다. 로컬 LLM이나 RAG 맥락에서 Milvus 자체는 LLM 추론 엔진이 아니라, 그 뒤에서 작동하는 검색 인프라입니다. 임베딩 모델이 텍스트(또는 이미지, 오디오 등)를 벡터로 변환하면 Milvus가 이를 저장·인덱싱하고, 쿼리 시점에 새 질문과 가장 유사한 벡터를 찾아 LLM이 검색된 콘텐츠에 근거한 답변을 생성할 수 있게 합니다.

  • 핵심 기능: 수천 개에서 수백억 개 규모까지 벡터 임베딩의 대규모 컬렉션을 근사 최근접 이웃(ANN) 알고리즘으로 저장, 인덱싱, 검색
  • GitHub 저장소에 따르면 Go와 C++로 작성되었으며, 처음부터 분산형 클라우드 네이티브 시스템으로 설계됨
  • 배포 모델: 임베디드 라이브러리(Milvus Lite), 단일 머신 서버(Standalone), 분산 클러스터(Kubernetes/Helm)
  • 인덱스 유형: HNSW, IVF, FLAT, DiskANN, 그리고 CAGRA 같은 GPU 가속 인덱스로, 속도/정확도/메모리 절충에 따라 컬렉션별로 선택 가능
  • 거버넌스: 다른 오픈소스 AI/데이터 인프라 프로젝트도 아우르는 동일한 Linux Foundation 산하의 LF AI & Data Foundation 소속
  • 주요 기업 기여자: 2017년에 설립되었고 별도의 관리형 Zilliz Cloud 서비스도 제공하는 Zilliz
  • 표준 저장소: github.com/milvus-io/milvus

Milvus의 프로젝트 히스토리와 버전 마일스톤

Milvus는 2019년 Zilliz가 만들어 오픈소스로 공개했습니다. 2020년 1월 LF AI & Data Foundation의 인큐베이션 프로젝트로 합류했고, 2021년 6월 인큐베이션을 정식으로 졸업했습니다 — 이는 재단이 정의된 성숙도, 채택도, 거버넌스 기준을 충족한 프로젝트에만 부여하는 마일스톤입니다. 이후 원래의 1.x 계열에서 2022년 1월 출시된 Milvus 2.0으로 전면적인 아키텍처 재구축을 거쳐, 오늘날까지 사용되는 분산형 클라우드 네이티브의 스토리지-컴퓨트 분리 아키텍처로 전환했습니다.

  1. 1
    2019년: 최초 오픈소스 릴리스
    Why it matters: Zilliz가 원래의 Milvus를 오픈소스로 공개하며 프로젝트의 첫 아키텍처를 확립했습니다.
  2. 2
    2020년 1월: LF AI & Data Foundation 인큐베이션 프로젝트로 합류
    Why it matters: Milvus를 단일 기업 프로젝트에 머물게 하는 대신 중립적이고 벤더 독립적인 오픈소스 거버넌스 아래로 옮겼습니다.
  3. 3
    2021년 6월: LF AI & Data Foundation 인큐베이션 졸업
    Why it matters: 프로젝트가 재단의 성숙도, 커뮤니티 규모, 거버넌스 기준을 충족했음을 보여주는 신호로, LF AI & Data 프로젝트 등급 중 최상위 단계입니다.
  4. 4
    2022년 1월: Milvus 2.0 출시
    Why it matters: 스토리지와 컴퓨트를 분리한 분산형 클라우드 네이티브 설계를 도입한 전면적인 아키텍처 재구축으로, 오늘날 2.x 계열의 기반이 되고 있습니다.
  5. 5
    2.4.x: GPU 가속 인덱싱 추가
    Why it matters: 지원 하드웨어에서 인덱스 구축과 검색 속도를 크게 높이는 GPU 인덱스 유형(예: CAGRA)을 추가했습니다.
  6. 6
    2.5.x: 전문 검색(BM25)과 확장된 하이브리드 검색
    Why it matters: 밀집 벡터 검색과 함께 네이티브 희소/전문 검색을 추가해, 단일 쿼리에서 키워드 방식과 시맨틱 매칭을 결합할 수 있게 했습니다.
  7. 7
    2.6.x — 2026년까지 지속: 지속적인 성능·안정성 릴리스
    Why it matters: [GitHub Releases 페이지](https://github.com/milvus-io/milvus/releases)에 따르면 최근의 2.6.x 포인트 릴리스는 쿼리 스케줄링 효율성, GPU 검색 정확성 수정, 보안 강화에 초점을 맞추고 있으며 — 2.6.23이 이 리뷰가 확인할 수 있었던 가장 최근 포인트 릴리스로 2026년 8월 28일에 출시되었습니다.

Milvus로 무엇을 할 수 있나?

Milvus의 기능은 대규모 벡터 임베딩 저장 및 검색을 중심으로 하며, 프로덕션 RAG 사용을 위해 하이브리드 검색과 다중 테넌시가 그 위에 더해져 있습니다. 각 기능이 실제로 무엇을 하는지 Milvus 공식 문서와 GitHub README를 기준으로 정리했습니다.

  • 벡터 유사도 검색 — 임베딩을 저장하고 근사 최근접 이웃 쿼리를 실행해 주어진 쿼리 벡터와 가장 유사한 벡터를 찾는, RAG 검색과 시맨틱 검색의 핵심 연산
  • 하이브리드 검색 — 별도의 키워드 검색과 시맨틱 검색을 각각 실행하는 대신, 밀집 벡터 유사도, 희소/전문(BM25) 검색, 구조화된 메타데이터 필터링을 단일 쿼리에서 결합
  • GPU 가속 인덱싱 — 지원 하드웨어에서 GPU 기반 인덱스(예: CAGRA)를 구축하고 검색해 대규모에서 훨씬 빠른 성능 확보
  • 다양한 인덱스 유형 — HNSW, IVF, FLAT, DiskANN 등을 컬렉션별로 선택해 검색 속도, 재현율 정확도, 메모리/디스크 사용량 사이에서 절충
  • 다중 테넌시 — 공유 Milvus 인프라에서 서로 다른 애플리케이션이나 팀을 격리하기 위한 데이터베이스, 컬렉션, 파티션, 역할 기반 접근 제어(RBAC)
  • 유연한 배포 규모 — 노트북의 임베디드 Milvus Lite 인스턴스부터 수백억 개의 벡터를 처리하는 분산 Kubernetes 클러스터까지 동일한 데이터 모델과 API로 작동
  • 프레임워크 및 임베딩 모델 통합 — LangChain, LlamaIndex와의 공식 통합, 그리고 OpenAI, Hugging Face/Sentence Transformers, BGE-M3 등 로컬/셀프 호스팅 모델을 포함한 다양한 제공업체의 임베딩 모델 지원
  • Python SDK(PyMilvus) — pip install pymilvus로 설치하는 주요 클라이언트 라이브러리로, 임베디드 Milvus Lite 모드와 원격 Standalone/Distributed 서버 연결 모두에 사용

사용 예시: Milvus를 활용하는 세 가지 방법

아래는 Milvus의 문서화된 기능을 기반으로 한 구체적인 워크플로우이며, 가상의 사용 사례가 아닙니다.

Milvus 가격: Milvus는 정말 무료인가?

네 — Milvus 자체에는 유료 등급이 없습니다. 세 가지 배포 모드(Lite, Standalone, Distributed) 모두에서 이 데이터베이스는 GitHub 저장소의 LICENSE 파일로 확인되는 Apache License 2.0 아래 무료 오픈소스입니다.

  • 셀프 호스팅 Milvus 자체가 부과하는 구독, 유료 등급, 사용량 제한이 없음
  • Milvus를 다운로드, 설치, 실행하는 데 계정이나 가입이 필요 없음
  • 셀프 호스팅 Milvus를 실행하는 데 사용하는 컴퓨팅, 스토리지, 클라우드 호스팅 비용은 사용자가 직접 통제하고 별도로 지불하는 비용(자체 서버나 클라우드 VM)이며, Milvus나 Zilliz에 지불하는 요금이 아님
  • Zilliz Cloud — Milvus용 완전 관리형 유료 호스팅 서비스 — 는 전적으로 선택 사항이며 오픈소스 프로젝트와는 별개로 Milvus의 주요 기업 기여자인 Zilliz가 제공

Milvus vs. Qdrant

Milvus와 Qdrant는 가장 널리 사용되는 오픈소스 벡터 데이터베이스 두 가지입니다. 둘 다 무료이고 셀프 호스팅 가능하며 RAG 파이프라인을 위한 하이브리드 검색을 지원하기 때문에 자주 비교됩니다. 가장 뚜렷한 차이는 아키텍처 복잡도와 일반적인 배포 규모에 있습니다.

언어

Milvus:
Go / C++
Qdrant:
Rust

라이선스

Milvus:
Apache-2.0
Qdrant:
Apache-2.0

배포 모드

Milvus:
임베디드(Lite), Standalone(Docker), Distributed(Kubernetes/Helm)
Qdrant:
임베디드, 단일 노드 Docker, 분산 클러스터 모드

GPU 가속 인덱싱

Milvus:
지원되는 인덱스 유형에서 가능
Qdrant:
핵심 초점은 아님

거버넌스

Milvus:
LF AI & Data Foundation(졸업 프로젝트); 주요 기여자는 Zilliz
Qdrant:
기업 주도 오픈소스 프로젝트(Qdrant Solutions GmbH)

적합한 용도

Milvus:
더 큰 규모의 분산 프로덕션 워크로드; 운영에 더 많은 아키텍처 복잡성 필요
Qdrant:
중소 규모 RAG 앱을 위한 셀프 호스팅이 더 간단; 운영 부담이 가벼움

수백억 개 규모까지의 검증된 확장성과 중립적인 재단 거버넌스 아래의 GPU 가속 인덱싱을 우선시한다면, Milvus의 아키텍처가 둘 중 더 무겁고 프로덕션 지향적입니다. 중소 규모 RAG 프로젝트를 위해 가장 간단하게 구축할 수 있는 셀프 호스팅 벡터 데이터베이스를 우선시한다면 Qdrant를 직접 검토해 볼 가치가 있습니다 — 자세한 내용은 Qdrant 리뷰를 참고하세요. 둘 다 무료 오픈소스입니다. 두 프로젝트 모두 업데이트가 잦으므로 결정 전에 각 프로젝트의 공식 사이트에서 최신 기능 정보를 확인하세요.

Milvus는 누구에게 적합한가?

Milvus가 적합한지는 검색 워크로드의 규모와, 데이터베이스를 바꾸지 않고도 로컬 프로토타이핑에서 분산 프로덕션까지 이어가고 싶은지에 달려 있습니다.

Milvus vs. 다른 벡터 데이터베이스

Milvus는 로컬 및 셀프 호스팅 RAG 스택에서 흔히 사용되는 여러 오픈소스 벡터 데이터베이스 중 하나입니다. 전체 카탈로그는 로컬 LLM 소프트웨어 디렉터리를, 가장 가까운 직접 비교는 위의 전용 Milvus vs. Qdrant 비교를 참고하세요.

  • Qdrant — 더 간단한 운영 부담을 가진 Rust 기반 오픈소스 벡터 데이터베이스로, 중소 규모 셀프 호스팅 RAG에서 인기가 있습니다. 위의 전용 비교 섹션과 Qdrant 리뷰를 참고하세요.
  • Chroma — 빠른 로컬 RAG 프로토타이핑에 자주 사용되는 가볍고 개발자 친화적인 오픈소스 임베딩 데이터베이스입니다. Chroma 리뷰를 참고하세요.
  • txtai — 별도의 서버가 아니라 프로세스 내에서 실행되는 임베디드 Python 네이티브 벡터/시맨틱 검색 라이브러리로, 소규모 로컬 프로젝트를 위한 더 가벼운 대안입니다. txtai 리뷰를 참고하세요.

Milvus 평가 시 흔한 실수

Milvus에 대한 혼란은 대부분 이를 Zilliz Cloud와 혼동하거나, 대규모 운영 복잡성을 과소평가하거나, 검색 이상의 기능을 기대하는 데서 비롯됩니다.

자주 묻는 질문

Milvus란 무엇인가요?

Milvus(milvus.io, 소스는 github.com/milvus-io/milvus)는 대규모 벡터 임베딩을 저장하고 검색하기 위한 무료 오픈소스 클라우드 네이티브 벡터 데이터베이스로, RAG 파이프라인의 검색 계층으로 흔히 사용됩니다.

Milvus는 무료인가요?

네. Milvus는 세 가지 배포 모드(Lite, Standalone, Distributed) 모두에서 Apache License 2.0 아래 무료 오픈소스입니다. 별도의 관리형 호스팅 서비스인 Zilliz Cloud는 선택 사항이며 Milvus 사용에 필수가 아닙니다.

Milvus는 오픈소스인가요? 어떤 라이선스를 사용하나요?

네. Milvus는 GitHub 저장소의 LICENSE 파일에 따라 Apache-2.0 라이선스를 사용하며, LF AI & Data Foundation의 거버넌스를 받습니다.

Milvus는 어떻게 설치하나요?

Milvus Lite(임베디드, 로컬 파일 기반 사용)를 위해서는 pip install -U pymilvus를 실행하고, 단일 셀프 호스팅 서버를 위해서는 Docker Compose로 Milvus Standalone을 배포하며, 분산 Kubernetes 배포를 위해서는 Helm 차트나 Milvus Operator를 사용하세요. 위의 Milvus 설치 섹션을 참고하세요.

Milvus Lite란 무엇인가요?

Milvus Lite는 PyMilvus Python SDK에 번들된 임베디드 버전의 Milvus입니다 — pip install -U pymilvus로 설치하고 연결 URI를 ./milvus.db 같은 로컬 파일로 지정하면, 별도의 서버 없이 완전히 프로세스 내에서 실행되어 로컬 프로토타이핑에 이상적입니다.

Milvus는 로컬 임베딩 모델을 사용한 RAG를 지원하나요?

네. Milvus는 LangChain 및 LlamaIndex와 통합되며, Python SDK는 OpenAI 같은 클라우드 제공업체뿐 아니라 로컬에서 실행되는 모델을 포함해 Sentence Transformers, BGE-M3 등 다양한 소스의 임베딩 모델을 지원합니다.

Milvus는 Zilliz Cloud와 같은 것인가요?

아니요. Milvus는 LF AI & Data Foundation의 거버넌스를 받는 오픈소스 데이터베이스 프로젝트 자체입니다. Zilliz Cloud는 Milvus의 주요 기업 기여자인 Zilliz가 제공하는 별도의 선택적 유료 관리형 호스팅 서비스입니다.

Milvus는 GPU 가속을 지원하나요?

네. Milvus는 2.4.x 릴리스 계열에서 도입된, 지원 하드웨어에서 대규모 인덱스 구축과 검색을 더 빠르게 하는 GPU 가속 인덱스 유형(예: CAGRA)을 지원합니다.

Milvus는 하이브리드 검색을 지원하나요?

네. Milvus는 밀집 벡터 유사도, 희소/전문(BM25) 검색, 메타데이터 필터링을 단일 쿼리에서 결합하는 것을 지원하며, 전문 검색은 2.5.x 릴리스 계열에서 추가되었습니다.

Milvus는 Qdrant와 비교하면 어떤가요?

둘 다 무료 오픈소스이며 셀프 호스팅 가능하고 하이브리드 검색을 지원하는 벡터 데이터베이스입니다. Milvus는 GPU 가속 인덱싱과 LF AI & Data Foundation 거버넌스 아래의 더 분산적이고 프로덕션 규모의 아키텍처를 제공하며, Rust로 작성된 Qdrant는 일반적으로 중소 규모 프로젝트에서 셀프 호스팅이 더 간단합니다. 위의 전용 Milvus vs. Qdrant 섹션을 참고하세요.

Milvus 프로젝트는 누가 거버넌스를 맡나요?

Milvus는 2021년 6월 인큐베이션을 졸업한 LF AI & Data Foundation(Linux Foundation 산하 프로젝트)의 일부입니다. 2019년에 Milvus를 처음 오픈소스로 공개한 기업인 Zilliz는 여전히 주요 기업 기여자입니다.

출처

← 고급 로컬 LLM으로 돌아가기