Skip to main content
PromptQuorumPromptQuorum

本地 RAG 的最佳嵌入模型是什么？

选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

快速回答

nomic-embed-text 是通过 Ollama 实现本地 RAG 的最佳嵌入模型——8192 token 上下文，在普通硬件上高效运行。BGE-M3 是多语言文档集合的更好选择。

  • ▸nomic-embed-text：8192 token 上下文窗口，通过 Ollama 的嵌入 API 运行，是出色的通用选择。
  • ▸BGE-M3：专为多语言检索打造——如果你的文档跨多种语言，这是正确的选择。
  • ▸mxbai-embed-large：出色的通用嵌入模型替代方案，占用空间略大于 nomic-embed-text。

更新于: 2026-07

Quick Answers中级

关键要点

  • ✓最佳通用选择：nomic-embed-text——8192 token 上下文，通过 Ollama 的嵌入 API 运行
  • ✓最佳多语言选择：BGE-M3——专为多语言检索的强大表现打造
  • ✓替代方案：mxbai-embed-large——通用质量出色，占用空间略大
  • ✓像 all-MiniLM-L6-v2 这样的旧模型更小更快，但质量明显较低——不建议用于正式的 RAG

最佳选择：nomic-embed-text

nomic-embed-text 是本地 RAG 的最佳嵌入模型，因为它将真正长达 8,192 token 的上下文窗口与高效推理以及通过嵌入 API 提供的原生 Ollama 支持结合在一起。旧版嵌入模型通常上限在 512 token 左右，迫使你更激进地拆分文档，并在分块边界处丢失上下文——nomic-embed-text 更长的窗口缓解了这一问题。

如果你的文档集合跨多种语言，BGE-M3 是更好的选择。它专门为强大的多语言检索性能而训练，而 nomic-embed-text 和大多数其他选项主要针对英语优化，在非英语文本上表现较弱。

如果你想将结果与 nomic-embed-text 进行比较，mxbai-embed-large 是一个可靠的通用替代方案——它的占用空间略大，但在英语检索基准测试中质量具有竞争力。

嵌入模型对比

对于正式的 RAG 工作，应避免使用 all-MiniLM-L6-v2 等更旧、更小的模型——它们速度快、体积小，但检索准确度明显低于 nomic-embed-text、BGE-M3 或 mxbai-embed-large。对大多数 RAG 用例而言，质量差距比速度优势更重要。

推荐的三个模型都可以通过 Ollama 的嵌入 API 以最少的配置运行——无论选择哪一个，拉取模型并调用嵌入端点的流程都是一样的。

相关阅读

常见问题

本地运行嵌入模型需要 GPU 吗？▾
不需要——嵌入模型比聊天 LLM 小得多，在 CPU 上就能以合理速度运行。GPU 能加速大型文档集合的批量索引，但对典型的 RAG 工作负载并非必需。
我能用同一个模型做嵌入和聊天吗？▾
不能——嵌入模型和聊天模型用途不同，架构也不同。应在聊天模型（如 Qwen3 或 Llama）旁运行专门的嵌入模型（如 nomic-embed-text），而非用它替代聊天模型。
用 nomic-embed-text 做 RAG 时该如何选择分块大小？▾
它的 8192 token 上下文提供了灵活性，但较短的分块（几百个 token）通常仍比很长的分块检索得更精确，因为过于宽泛的分块会稀释嵌入的特异性。建议从每块 300-500 个 token 开始,并根据检索质量调整。
BGE-M3 比 nomic-embed-text 慢吗？▾
BGE-M3 体积较大，因此相比 nomic-embed-text，推理和索引速度会略慢一些——如果你需要可靠的多语言检索，这是一个合理的权衡。

相关 Prompt Bites

← 返回 提示词速答