Chroma 리뷰: AI와 RAG를 위한 오픈소스 벡터 데이터베이스

Chroma란?

• 제품 유형: 셀프 호스팅 벡터/임베딩 데이터베이스로, Python 및 JavaScript 라이브러리와 선택적 서버 바이너리 형태로 배포됨 — 독립 실행형 다운로드 GUI 앱이 아님
• 저장소: github.com/chroma-core/chroma
• 라이선스: Apache-2.0, PyPI의 저장소 라이선스 분류자를 통해 확인됨
• 로컬리티: 완전히 셀프 호스팅 가능 — Chroma의 오픈소스 데이터베이스는 모든 배포 모드에서 전적으로 자체 인프라에서 실행됨; Chroma Cloud는 직접 운영하고 싶지 않은 팀을 위한 별도의 선택적 관리형/서버리스 서비스
• 규모: 29,300개 이상의 GitHub 스타를 보유하고 있으며, Chroma 공식 사이트는 chromadb 패키지의 월간 다운로드 수가 1,500만 회를 넘고 9만 개 이상의 오픈소스 코드베이스에서 사용되고 있다고 밝힘 — 이 수치는 고유한 프로덕션 배포 건수를 정확히 나타낸다기보다 패키지의 광범위한 다운로드 기반을 반영함
• Chroma 공식 사이트에서 언급하는 주요 사용 사례로는 Capital One, Mintlify, UnitedHealthcare, Conduit, Propel, Cofounder, Weights & Biases, Medwise가 있음

Chroma의 프로젝트 역사

• Chroma의 핵심 API는 의도적으로 작은 범위로 설계되었습니다: create_collection, add, query, delete — 작동하는 검색 파이프라인을 빠르게 구축하는 것을 목표로 함
• 이 프로젝트는 29,300개 이상의 GitHub 스타로 성장했으며, Chroma 공식 사이트에 따르면 이 리뷰 시점 기준 chromadb 패키지의 월간 다운로드가 1,500만 회를 넘음
• 별도의 관리형/서버리스 서비스인 Chroma Cloud는 셀프 호스팅 없이 동일한 데이터베이스를 원하는 팀을 위한 선택적 경로로 도입되었습니다 — Chroma 공식 사이트는 해당 관리형 등급에서 SOC 2 Type II 준수, 자동 데이터 계층화, 엔터프라이즈용 BYOC(Bring Your Own Cloud) 등의 기능을 언급함
• 이 리뷰 작성 시점 PyPI에 등록된 최신 chromadb 릴리스는 버전 1.5.9이며, 2026-05-05에 공개됨

Chroma로 무엇을 할 수 있나?

• 단순한 핵심 API — 네 가지 함수가 핵심 워크플로를 담당합니다: 컬렉션을 정의하는 create_collection, 문서를 삽입하는 add, 유사도로 검색하는 query, 항목을 삭제하는 delete
• 자동 임베딩 처리 — 자체 임베딩 없이 원문 텍스트를 넣으면 Chroma가 기본 임베딩 함수를 사용해 문서를 토큰화, 임베딩, 인덱싱함
• 메타데이터 필터링 — 문서를 추가할 때 메타데이터를 첨부할 수 있고, 시맨틱 유사도와 함께 해당 메타데이터로 쿼리 결과를 필터링할 수 있음
• 세 가지 배포 모드 — 빠른 프로토타이핑을 위한 메모리 내/임시 모드, 프로세스 재시작 후에도 데이터가 유지되는 로컬 영구 저장소, 공유되는 다중 프로세스 접근을 위한 클라이언트-서버 아키텍처
• 언어 SDK — 공식 Python(chromadb, PyPI)과 JavaScript/TypeScript(chromadb, npm) 클라이언트
• 프레임워크 통합 — Chroma는 LangChain과 LlamaIndex RAG 파이프라인 내부의 벡터 저장소 백엔드로 흔히 사용되며, 로컬 임베딩 모델(예: Ollama 경유)이나 클라우드 임베딩 API와 함께 짝지어 사용됨
• Chroma Cloud(별도 서비스) — Chroma 공식 사이트가 벡터, 전문(full-text), 정규식, 메타데이터 검색과 희소 벡터 검색(BM25, SPLADE), 자동 데이터 계층화, SOC 2 Type II 준수, 엔터프라이즈용 BYOC(Bring Your Own Cloud)를 지원한다고 설명하는 관리형 서버리스 등급 — 이는 관리형 등급 기능이며 셀프 호스팅 오픈소스 데이터베이스에 전부 포함되어 있지는 않으므로 현재 기능 제공 여부는 trychroma.com에서 직접 확인하세요

사용 예시: Chroma를 사용하는 세 가지 방법

• 메모리 내 클라이언트를 생성하고 문서를 추가 및 쿼리하기: chromadb.Client()는 임시 클라이언트를 생성하고, create_collection()은 이름이 지정된 컬렉션을 정의하며, add()는 선택적 메타데이터와 ID를 포함해 문서를 삽입하고, query()는 시맨틱 유사도로 검색합니다 — 자체 임베딩을 전달하지 않으면 Chroma가 텍스트를 자동으로 토큰화하고 임베딩합니다
• 재시작 후에도 데이터가 유지되도록 영구 로컬 클라이언트 사용하기: Chroma의 공식 API에는 데이터를 메모리에만 보관하는 대신 로컬 디스크에 기록하는 영구 클라이언트 모드(현재 릴리스에서는 흔히 chromadb.PersistentClient(path=...))가 포함되어 있습니다 — 클라이언트 API는 릴리스 간에 변경될 수 있으므로, 이에 의존하는 코드를 배포하기 전에 정확한 현재 생성자와 인자를 docs.trychroma.com에서 확인하세요
• RAG 파이프라인에서 Chroma를 LangChain의 벡터 저장소로 짝짓기: 일반적인 워크플로는 문서를 로드하고 분할한 뒤, LangChain과 호환되는 임베딩 모델(Ollama를 통한 로컬 모델 또는 클라우드 제공업체)로 임베딩하고, LangChain의 Chroma 벡터 저장소 통합을 통해 벡터를 Chroma 컬렉션에 저장한 다음, 검색 체인의 리트리버 단계로 해당 저장소를 쿼리하는 것입니다 — LangChain의 Chroma 통합은 시간이 지나며 패키지 간 이동이 있었으므로, 정확한 통합 패키지와 import 경로는 LangChain의 현재 문서에서 확인하세요

import chromadb

client = chromadb.Client()
collection = client.create_collection(name="my_collection")

collection.add(
    documents=["This is document1"],
    metadatas=[{"source": "notion"}],
    ids=["doc1"],
)

results = collection.query(
    query_texts=["This is a query document"],
    n_results=2,
)

Chroma 설치

Chroma 가격: 정말 무료인가?

• 오픈소스 데이터베이스: 무료, Apache-2.0, Chroma 자체가 부과하는 사용량 제한 없음
• 자체 비용은 사용하는 자체 인프라(컴퓨팅 및 스토리지) 비용과, 로컬 모델 대신 유료 클라우드 임베딩 API를 선택할 경우 해당 임베딩 제공업체 비용으로 한정됨
• Chroma Cloud: 별도의 선택적 관리형/서버리스 서비스; 이 리뷰 작성 시점에 공식 사이트는 신규 계정에 초기 무료 크레딧을 제공한다고 언급하지만, 특정 수치를 기준으로 예산을 짜기 전에 현재 가격과 크레딧 조건을 trychroma.com에서 직접 확인하세요
• 오픈소스 데이터베이스를 설치하고 사용하는 데는 계정이나 가입이 필요하지 않음

Chroma 대 Qdrant

Chroma는 누구에게 적합한가?

경쟁 제품 및 대안

Chroma 평가 시 흔한 실수

자주 묻는 질문

출처

관련 읽을거리

• 로컬 LLM 소프트웨어 디렉터리 2026 — Chroma 자체 디렉터리 항목을 포함해 이 글이 속한 로컬 AI 도구 전체 카탈로그입니다.
• Qdrant 리뷰 — 더 폭넓은 메타데이터 필터링을 갖춘 Rust 기반 셀프 호스팅 벡터 데이터베이스로, 위에서 Chroma와 직접 비교했습니다.
• cognee 리뷰 — 지식 그래프 기반 에이전트 메모리 라이브러리로, Chroma의 평면적 벡터 유사도 접근 방식과 비교할 수 있습니다.
• LangChain 리뷰 — Chroma를 벡터 저장소 백엔드로 흔히 사용하는 범용 LLM 애플리케이션 프레임워크입니다.