Chroma 测评：用于 AI 和 RAG 的开源向量数据库

Chroma 是什么?

• 产品类型:一款自托管的向量/嵌入数据库,以 Python 和 JavaScript 库的形式发布,附带可选的服务端二进制文件——不是一个独立的可下载 GUI 应用
• 代码仓库:github.com/chroma-core/chroma
• 许可证:Apache-2.0,已通过 PyPI 上的仓库许可证分类标签确认
• 本地化程度:完全可自行托管——Chroma 的开源数据库在每一种部署模式下都完全运行在你自己的基础设施上;Chroma Cloud 是一项独立的、可选的托管/无服务器服务,面向不想自行运维的团队
• 规模:GitHub 星标数超过 29,300,Chroma 官网自称 chromadb 软件包每月下载量超过 1,500 万次,并被用于超过 9 万个开源代码库——这些数字反映的是该软件包广泛的下载覆盖面,而不一定等于独立生产环境部署的实际数量
• Chroma 官网列出的知名用户包括 Capital One、Mintlify、UnitedHealthcare、Conduit、Propel、Cofounder、Weights & Biases 和 Medwise

Chroma 的项目历史

• Chroma 的核心 API 刻意保持了极简的接口面:create_collection、add、query 和 delete,目的是让开发者能快速搭建起一条可用的检索管道
• 该项目已增长至超过 29,300 颗 GitHub 星标,据 Chroma 官网称,截至本次测评,chromadb 软件包每月下载量已超过 1,500 万次
• Chroma Cloud 作为一项独立的托管/无服务器服务被推出,为不想自行托管的团队提供了使用同一数据库的可选路径——Chroma 官网提到该托管套餐具备 SOC 2 Type II 合规、自动数据分层以及面向企业的"自带云"(BYOC)等特性
• 截至本次测评,PyPI 上 chromadb 的最新版本为 1.5.9,发布于 2026-05-05

Chroma 能做什么?

• 简洁的核心 API——四个函数覆盖了核心工作流程:create_collection 用于定义集合,add 用于插入文档,query 用于相似度搜索,delete 用于删除条目
• 自动处理嵌入——如果你直接喂给 Chroma 原始文本而不自带嵌入向量,它会使用默认的嵌入函数自动完成文档的分词、嵌入和索引
• 元数据过滤——添加文档时可以为其附加元数据,查询结果既能按语义相似度排序,也能按这些元数据进行过滤
• 三种部署模式——用于快速原型开发的内存/临时模式、让数据在进程重启后依然保留的持久本地存储模式,以及支持多进程共享访问的客户端-服务器架构
• 语言 SDK——官方提供 Python(PyPI 上的 chromadb)和 JavaScript/TypeScript(npm 上的 chromadb)客户端
• 框架集成——Chroma 常被用作 LangChain 和 LlamaIndex RAG 管道中的向量存储后端,搭配本地嵌入模型(例如通过 Ollama)或云端嵌入 API 使用
• Chroma Cloud(独立服务)——一项托管的无服务器套餐,Chroma 官网称其支持向量、全文、正则表达式和元数据搜索,外加稀疏向量搜索(BM25、SPLADE)、自动数据分层、SOC 2 Type II 合规以及面向企业的"自带云"(BYOC);请直接在 trychroma.com 核实当前的功能可用性,因为这些是托管套餐的特性,不一定全部存在于自托管的开源数据库中

使用示例:三种使用 Chroma 的方式

• 创建内存客户端并添加、查询文档:chromadb.Client() 创建一个临时客户端,create_collection() 定义一个命名集合,add() 插入带有可选元数据和 ID 的文档,query() 按语义相似度进行搜索——如果你没有传入自己的嵌入向量,Chroma 会自动完成文本的分词和嵌入
• 使用持久本地客户端让数据在重启后依然保留:Chroma 文档记载的 API 中包含一种持久客户端模式(在当前版本中通常是 chromadb.PersistentClient(path=...)),它会将数据写入本地磁盘而不仅仅保存在内存中——在部署依赖此功能的代码之前,请务必对照 docs.trychroma.com 核实当前确切的构造函数和参数,因为客户端 API 可能会在不同版本之间发生变化
• 将 Chroma 与 LangChain 搭配作为 RAG 管道中的向量存储:典型的工作流程是加载并切分文档,使用兼容 LangChain 的嵌入模型(通过 Ollama 本地运行或使用云端服务商)对文档进行嵌入,通过 LangChain 的 Chroma 向量存储集成将向量存入 Chroma 集合,然后在检索链中将该存储用作检索步骤——请查阅 LangChain 当前的文档以确认确切的集成包和导入路径,因为 LangChain 的 Chroma 集成随着时间推移在不同软件包之间发生过迁移

import chromadb

client = chromadb.Client()
collection = client.create_collection(name="my_collection")

collection.add(
    documents=["This is document1"],
    metadatas=[{"source": "notion"}],
    ids=["doc1"],
)

results = collection.query(
    query_texts=["This is a query document"],
    n_results=2,
)

安装 Chroma

Chroma 定价:真的免费吗?

• 开源数据库:免费,Apache-2.0 许可证,Chroma 本身不设任何使用限制
• 你自己的成本仅限于自身的基础设施(算力和存储),以及如果你选择付费云端嵌入 API 而非本地模型时所产生的嵌入服务商费用
• Chroma Cloud:一项独立的、可选的托管/无服务器服务;截至本次测评,官网提到新账号享有初始免费额度——在据此做预算之前,请直接在 trychroma.com 核实当前的定价和额度条款
• 安装和使用开源数据库不需要注册账号

Chroma vs. Qdrant

谁适合使用 Chroma?

竞品与替代方案

评估 Chroma 时的常见误区

常见问题

资料来源

延伸阅读

• 2026 本地 LLM 软件目录——本文所属的本地 AI 工具完整目录,其中也包含 Chroma 自己的目录词条。
• Qdrant 测评——一款基于 Rust、可自托管、拥有更丰富元数据过滤能力的向量数据库,上文已与 Chroma 做了正面对比。
• cognee 测评——一款基于知识图谱的代理记忆库,可与 Chroma 的扁平向量相似度方案做对比。
• LangChain 测评——一款通用型 LLM 应用框架,常将 Chroma 用作其向量存储后端。