Skip to main content
PromptQuorum
Startseite/Lokale LLMs Pro/Milvus im Test 2026: Die quelloffene Vektordatenbank für lokales RAG
RAG & Document Chat

Milvus im Test 2026: Die quelloffene Vektordatenbank für lokales RAG

·12 Min. Lesezeit·Von Hans Kuepper · Gründer von PromptQuorum, Multi-Model-AI-Dispatch-Tool · PromptQuorum

Milvus ist eine kostenlose, quelloffene (Apache-2.0) Vektordatenbank für die Speicherung und Suche groß angelegter Vektor-Embeddings, eingesetzt als Retrieval-Schicht in RAG-Pipelines, semantischer Suche und Empfehlungssystemen. Sie ist vollständig selbst hostbar, mit drei Bereitstellungsmodi: Milvus Lite (eine eingebettete, per pip installierbare Bibliothek für Prototyping auf dem Laptop), Milvus Standalone (eine Single-Machine-Docker-Bereitstellung) und Milvus Distributed (eine Kubernetes-/Helm-Cluster-Bereitstellung für groß angelegte Produktion). Milvus selbst hat keine kostenpflichtige Stufe — Zilliz Cloud ist ein separater, optionaler verwalteter Hosting-Dienst von Milvus' wichtigstem Unternehmensbeitragenden Zilliz und keine Voraussetzung, um Milvus zu betreiben. Das Projekt wird von der LF AI & Data Foundation verwaltet.

Milvus (milvus.io, Quellcode unter github.com/milvus-io/milvus) ist eine kostenlose, quelloffene, cloud-native Vektordatenbank, die speziell für die Speicherung und Suche der Embeddings entwickelt wurde, die Retrieval-Augmented Generation (RAG), semantische Suche und Empfehlungssysteme antreiben. Sie ist vollständig selbst hostbar — von einem einzelnen pip install für lokales Prototyping bis zu einer verteilten Kubernetes-Bereitstellung für Milliarden von Vektoren — und wird von der LF AI & Data Foundation verwaltet, wobei Zilliz der wichtigste Unternehmensbeitragende ist. Dieser Test behandelt, was Milvus tatsächlich leistet, woher es kommt, wie man es installiert, was es kostet und wie es neben anderen quelloffenen Vektordatenbanken in einem lokalen LLM-Stack einzuordnen ist.

Wichtigste Erkenntnisse

  • Milvus ist kostenlos und quelloffen unter Apache-2.0, verwaltet von der LF AI & Data Foundation, mit Zilliz als wichtigstem Unternehmensbeitragenden
  • Drei selbst gehostete Bereitstellungsmodi: Milvus Lite (eingebettet, pip install pymilvus, für Prototyping), Standalone (Docker, Single Machine) und Distributed (Kubernetes/Helm, für Produktion im Cluster-Maßstab)
  • Unterstützt hybride Suche — kombiniert dichte Vektorähnlichkeit, spärliche/Volltext-Suche (BM25) und Metadatenfilterung in einer einzigen Abfrage
  • Unterstützt GPU-beschleunigte Indizierung und mehrere Indextypen (HNSW, IVF, FLAT, DiskANN und weitere)
  • Multi-Tenancy-Unterstützung (Datenbanken, Collections, Partitionen und rollenbasierte Zugriffskontrolle) zur Isolierung von Workloads auf gemeinsam genutzter Infrastruktur
  • Integriert sich direkt mit RAG-/Orchestrierungs-Frameworks — LangChain, LlamaIndex — sowie mit Embedding-Modellen von OpenAI, Hugging Face und lokalen/selbst gehosteten Quellen
  • Das GitHub-Repository zeigt Stand September 2026 rund 46.150 Stars
  • Zilliz Cloud ist ein separater, optionaler verwalteter Hosting-Dienst von Zilliz — nicht erforderlich, um Milvus selbst zu betreiben

📍 In einem Satz

Milvus ist eine kostenlose, quelloffene, selbst hostbare Vektordatenbank — von einem einzelnen pip install bis zu einem Kubernetes-Cluster —, entwickelt für die groß angelegte Ähnlichkeitssuche, die RAG-Pipelines und semantische Suche antreibt.

💬 In einfachen Worten

Beim Aufbau eines lokalen RAG-Systems wandelt man zunächst die eigenen Dokumente mit einem Embedding-Modell in Embeddings (Zahlenlisten) um und braucht dann einen Ort, um diese Embeddings zu speichern und schnell die ähnlichsten Treffer zu einer neuen Frage zu finden. Milvus ist genau diese Speicher- und Suchschicht. Man kann es als einzelne Datei auf dem Laptop zum Testen betreiben, als einen einzelnen Docker-Container für eine kleine Produktions-App oder als vollständigen Cluster für Milliarden von Vektoren — alles kostenlos und selbst gehostet, ohne Konto.

📌Hinweis: Dieser Test ist der vertiefende Begleitartikel zu Milvus' Eintrag im Local LLM Software Directory — dort sieht man auf einen Blick, wie Milvus im Vergleich zu Dutzenden anderer lokaler KI-Tools abschneidet, einschließlich anderer Vektordatenbanken.

Was ist Milvus?

Milvus ist eine quelloffene, cloud-native Vektordatenbank, die entwickelt wurde, um riesige Sammlungen hochdimensionaler Vektor-Embeddings zu speichern, zu indizieren und zu durchsuchen. Die eigene GitHub-Beschreibung nennt sie "eine hochperformante, cloud-native Vektordatenbank, gebaut für skalierbare ANN-[Approximate-Nearest-Neighbor]-Vektorsuche". Im Kontext lokaler LLMs oder RAG ist Milvus selbst keine LLM-Inferenz-Engine — es ist die Retrieval-Infrastruktur, die dahinter sitzt: Ein Embedding-Modell wandelt Text (oder Bilder, Audio usw.) in Vektoren um, Milvus speichert und indiziert sie, und zum Abfragezeitpunkt findet Milvus die Vektoren, die einer neuen Anfrage am ähnlichsten sind, damit ein LLM eine Antwort generieren kann, die auf dem abgerufenen Inhalt basiert.

  • Kernfunktion: Speicherung, Indizierung und Suche großer Sammlungen von Vektor-Embeddings mit Approximate-Nearest-Neighbor-(ANN)-Algorithmen, in Größenordnungen von Tausenden bis zu Dutzenden Milliarden Vektoren
  • Geschrieben in Go und C++, laut GitHub-Repository, und von Grund auf als verteiltes, cloud-natives System konzipiert
  • Bereitstellungsmodelle: eine eingebettete Bibliothek (Milvus Lite), ein Single-Machine-Server (Standalone) und ein verteilter Cluster (Kubernetes/Helm)
  • Indextypen: HNSW, IVF, FLAT, DiskANN und GPU-beschleunigte Indizes (wie CAGRA), pro Collection wählbar je nach Geschwindigkeits-/Genauigkeits-/Speicher-Kompromiss
  • Governance: Teil der LF AI & Data Foundation, desselben Linux-Foundation-Dachs, unter dem auch andere Open-Source-KI-/Dateninfrastruktur-Projekte beheimatet sind
  • Wichtigster Unternehmensbeitragender: Zilliz, gegründet 2017, das auch den separaten verwalteten Dienst Zilliz Cloud anbietet
  • Kanonisches Repository: github.com/milvus-io/milvus

Projektgeschichte und Versions-Meilensteine von Milvus

Milvus wurde 2019 von Zilliz geschaffen und als Open Source veröffentlicht. Es trat im Januar 2020 als Inkubationsprojekt der LF AI & Data Foundation bei und schloss die Inkubation im Juni 2021 offiziell ab — ein Meilenstein, den die Foundation Projekten vorbehält, die definierte Kriterien für Reife, Verbreitung und Governance erfüllen. Das Projekt durchlief zwischen der ursprünglichen 1.x-Linie und Milvus 2.0, veröffentlicht im Januar 2022, einen vollständigen architektonischen Umbau hin zu der verteilten, cloud-nativen, storage-compute-getrennten Architektur, die das Projekt bis heute nutzt.

  1. 1
    2019: Erste Open-Source-Veröffentlichung
    Why it matters: Zilliz veröffentlichte das ursprüngliche Milvus als Open Source und etablierte die erste Architektur des Projekts.
  2. 2
    Januar 2020: Beitritt zur LF AI & Data Foundation als Inkubationsprojekt
    Why it matters: Überführte Milvus unter eine neutrale, herstellerunabhängige Open-Source-Governance, statt ein reines Einzelunternehmens-Projekt zu bleiben.
  3. 3
    Juni 2021: Abschluss der Inkubation bei der LF AI & Data Foundation
    Why it matters: Signalisierte, dass das Projekt die Anforderungen der Foundation an Reife, Community-Größe und Governance erfüllte — die höchste Stufe des LF-AI-&-Data-Projektstatus.
  4. 4
    Januar 2022: Milvus 2.0 veröffentlicht
    Why it matters: Ein vollständiger architektonischer Umbau mit einem verteilten, cloud-nativen Design und getrennter Speicher- und Rechenschicht — die Grundlage der bis heute in der 2.x-Linie genutzten Architektur.
  5. 5
    2.4.x: GPU-beschleunigte Indizierung hinzugefügt
    Why it matters: Fügte GPU-Indextypen (wie CAGRA) für deutlich schnelleren Indexaufbau und schnellere Suche auf unterstützter Hardware hinzu.
  6. 6
    2.5.x: Volltextsuche (BM25) und erweiterte hybride Suche
    Why it matters: Fügte native spärliche/Volltextsuche neben der dichten Vektorsuche hinzu, sodass eine einzelne Abfrage stichwortartige und semantische Suche kombinieren kann.
  7. 7
    2.6.x — laufend bis 2026: Kontinuierliche Performance- und Zuverlässigkeits-Releases
    Why it matters: Jüngere 2.6.x-Punkt-Releases (laut der [GitHub-Releases-Seite](https://github.com/milvus-io/milvus/releases)) konzentrieren sich auf Effizienz bei der Abfrageplanung, Korrektheitskorrekturen bei der GPU-Suche und Sicherheitshärtung — 2.6.23 erschien am 28. August 2026 als das jüngste Punkt-Release, das dieser Test verifizieren konnte.

Was kann man mit Milvus machen?

Milvus' Funktionsumfang konzentriert sich auf die Speicherung und Suche von Vektor-Embeddings im großen Maßstab, ergänzt um hybride Suche und Multi-Tenancy für den produktiven RAG-Einsatz. Hier ist, was jeder Teil tatsächlich leistet, laut Milvus' eigener Dokumentation und GitHub-README.

  • Vektor-Ähnlichkeitssuche — Embeddings speichern und Approximate-Nearest-Neighbor-Abfragen ausführen, um die ähnlichsten Vektoren zu einem gegebenen Abfragevektor zu finden, die Kernoperation hinter RAG-Retrieval und semantischer Suche
  • Hybride Suche — kombiniert dichte Vektorähnlichkeit, spärliche/Volltext-Suche (BM25) und strukturierte Metadatenfilterung in einer einzigen Abfrage, statt separate Stichwort- und semantische Suchen auszuführen
  • GPU-beschleunigte Indizierung — GPU-gestützte Indizes (wie CAGRA) auf unterstützter Hardware aufbauen und durchsuchen für deutlich höhere Performance im großen Maßstab
  • Mehrere Indextypen — HNSW, IVF, FLAT, DiskANN und weitere, pro Collection wählbar, um zwischen Suchgeschwindigkeit, Recall-Genauigkeit und Speicher-/Festplatten-Footprint abzuwägen
  • Multi-Tenancy — Datenbanken, Collections und Partitionen sowie rollenbasierte Zugriffskontrolle (RBAC), um verschiedene Anwendungen oder Teams auf gemeinsam genutzter Milvus-Infrastruktur zu isolieren
  • Flexible Bereitstellungsskala — dasselbe Datenmodell und dieselbe API funktionieren von einer eingebetteten Milvus-Lite-Instanz auf einem Laptop bis zu einem verteilten Kubernetes-Cluster mit Dutzenden Milliarden Vektoren
  • Framework- und Embedding-Modell-Integrationen — offizielle Integrationen mit LangChain, LlamaIndex und Embedding-Modellen von OpenAI, Hugging Face/Sentence Transformers, BGE-M3 und weiteren Anbietern, einschließlich lokaler/selbst gehosteter Embedding-Modelle
  • Python-SDK (PyMilvus) — die primäre Client-Bibliothek, pip install pymilvus, verwendet sowohl für den eingebetteten Milvus-Lite-Modus als auch für die Verbindung zu einem entfernten Standalone- oder Distributed-Server

Anwendungsbeispiele: Drei Wege, Milvus zu nutzen

Dies sind konkrete Workflows, die auf Milvus' oben dokumentierten Funktionen basieren, keine hypothetischen Anwendungsfälle.

Milvus-Preise: Ist Milvus wirklich kostenlos?

Ja — Milvus selbst hat keine kostenpflichtige Stufe. Die Datenbank ist in allen drei Bereitstellungsmodi (Lite, Standalone, Distributed) kostenlos und quelloffen unter der Apache License 2.0, bestätigt über die LICENSE-Datei des GitHub-Repositorys.

  • Kein Abonnement, keine kostenpflichtige Stufe, keine Nutzungsgrenzen durch selbst gehostetes Milvus selbst
  • Kein Konto oder Anmeldung erforderlich, um Milvus herunterzuladen, zu installieren oder zu betreiben
  • Rechenleistung, Speicher und jegliches Cloud-Hosting für den Betrieb von selbst gehostetem Milvus sind Kosten, die man selbst kontrolliert und separat trägt (eigener Server oder Cloud-VM), keine Gebühr an Milvus oder Zilliz
  • Zilliz Cloud — ein vollständig verwalteter, kostenpflichtiger Hosting-Dienst für Milvus — ist vollständig optional und wird von Zilliz, Milvus' wichtigstem Unternehmensbeitragenden, getrennt vom Open-Source-Projekt selbst angeboten

Milvus vs. Qdrant

Milvus und Qdrant sind zwei der am weitesten verbreiteten quelloffenen Vektordatenbanken, die häufig miteinander verglichen werden, da beide kostenlos, selbst hostbar sind und hybride Suche für RAG-Pipelines unterstützen. Die klarsten Unterschiede liegen in der Architekturkomplexität und der typischen Bereitstellungsskala.

Sprache

Milvus:
Go / C++
Qdrant:
Rust

Lizenz

Milvus:
Apache-2.0
Qdrant:
Apache-2.0

Bereitstellungsmodi

Milvus:
Eingebettet (Lite), Standalone (Docker), Distributed (Kubernetes/Helm)
Qdrant:
Eingebettet, Single-Node-Docker, verteilter Cluster-Modus

GPU-beschleunigte Indizierung

Milvus:
Ja, bei unterstützten Indextypen
Qdrant:
Kein Kernfokus

Governance

Milvus:
LF AI & Data Foundation (abgeschlossenes Inkubationsprojekt); wichtigster Beitragender Zilliz
Qdrant:
Unternehmensgeführtes Open-Source-Projekt (Qdrant Solutions GmbH)

Typische Eignung

Milvus:
Großskalige, verteilte Produktions-Workloads; mehr architektonische Komplexität im Betrieb
Qdrant:
Einfacher selbst zu hosten für RAG-Apps im kleinen bis mittleren Maßstab; leichterer operativer Footprint

Wer Wert auf bewährte Skalierung auf Dutzende Milliarden Vektoren und GPU-beschleunigte Indizierung unter neutraler Foundation-Governance legt, findet in Milvus' Architektur die schwergewichtigere, produktionsorientiertere der beiden. Wer die einfachste mögliche selbst gehostete Vektordatenbank für ein RAG-Projekt im kleinen bis mittleren Maßstab sucht, sollte Qdrant direkt prüfen — siehe den Qdrant-Test für eine vollständige Übersicht. Beide sind kostenlos und quelloffen; aktuelle Funktionsdetails vor einer Entscheidung direkt auf der jeweiligen Projektseite prüfen, da beide häufig Updates veröffentlichen.

Für wen eignet sich Milvus?

Ob Milvus passt, hängt vom Umfang der eigenen Retrieval-Workload ab und davon, ob man einen Weg vom lokalen Prototyping bis zur verteilten Produktion ohne Datenbankwechsel möchte.

Milvus vs. andere Vektordatenbanken

Milvus ist eine von mehreren quelloffenen Vektordatenbanken, die häufig in lokalen und selbst gehosteten RAG-Stacks eingesetzt werden. Siehe das Local LLM Software Directory für den vollständigen Katalog und den dedizierten Milvus-vs.-Qdrant-Vergleich oben für den nächstliegenden direkten Vergleich.

  • Qdrant — eine in Rust geschriebene quelloffene Vektordatenbank mit einfacherem operativem Footprint, beliebt für selbst gehostetes RAG im kleinen bis mittleren Maßstab; siehe den dedizierten Vergleichsabschnitt oben und den Qdrant-Test.
  • Chroma — eine leichtgewichtige, entwicklerfreundliche quelloffene Embedding-Datenbank, oft für schnelles lokales RAG-Prototyping genutzt; siehe den Chroma-Test.
  • txtai — eine eingebettete, Python-native Vektor-/Semantiksuche-Bibliothek, die in-process statt als separater Server läuft, eine leichtgewichtigere Alternative für kleinere lokale Projekte; siehe den txtai-Test.

Häufige Fehler bei der Bewertung von Milvus

Die meiste Verwirrung rund um Milvus entsteht durch die Vermischung mit Zilliz Cloud, die Unterschätzung der operativen Komplexität im großen Maßstab oder die Erwartung, es würde mehr als Retrieval leisten.

Häufig gestellte Fragen

Was ist Milvus?

Milvus (milvus.io, Quellcode unter github.com/milvus-io/milvus) ist eine kostenlose, quelloffene, cloud-native Vektordatenbank für die Speicherung und Suche groß angelegter Vektor-Embeddings, häufig eingesetzt als Retrieval-Schicht in RAG-Pipelines.

Ist Milvus kostenlos?

Ja. Milvus ist kostenlos und quelloffen unter der Apache License 2.0 in allen drei Bereitstellungsmodi (Lite, Standalone, Distributed). Zilliz Cloud, ein separater verwalteter Hosting-Dienst, ist optional und für die Nutzung von Milvus nicht erforderlich.

Ist Milvus quelloffen? Welche Lizenz nutzt es?

Ja. Milvus ist unter Apache-2.0 lizenziert, laut der LICENSE-Datei im GitHub-Repository, und wird von der LF AI & Data Foundation verwaltet.

Wie installiere ich Milvus?

pip install -U pymilvus für Milvus Lite ausführen (eingebettete, lokale dateibasierte Nutzung), Milvus Standalone via Docker Compose für einen einzelnen selbst gehosteten Server bereitstellen, oder das Helm-Chart / den Milvus Operator für eine verteilte Kubernetes-Bereitstellung nutzen. Siehe den Abschnitt Milvus installieren oben.

Was ist Milvus Lite?

Milvus Lite ist eine eingebettete Version von Milvus, gebündelt mit dem Python-SDK PyMilvus — installieren mit pip install -U pymilvus, die Verbindungs-URI auf eine lokale Datei richten (etwa ./milvus.db), und es läuft vollständig in-process ohne separaten Server, ideal für lokales Prototyping.

Unterstützt Milvus RAG mit lokalen Embedding-Modellen?

Ja. Milvus integriert sich mit LangChain und LlamaIndex, und sein Python-SDK unterstützt Embedding-Modelle von Sentence Transformers, BGE-M3 und weiteren Quellen, einschließlich lokal laufender Modelle — nicht nur Cloud-Anbieter wie OpenAI.

Ist Milvus dasselbe wie Zilliz Cloud?

Nein. Milvus ist das quelloffene Datenbankprojekt selbst, verwaltet von der LF AI & Data Foundation. Zilliz Cloud ist ein separater, optionaler, kostenpflichtiger verwalteter Hosting-Dienst von Zilliz, Milvus' wichtigstem Unternehmensbeitragenden.

Unterstützt Milvus GPU-Beschleunigung?

Ja. Milvus unterstützt GPU-beschleunigte Indextypen (wie CAGRA) auf unterstützter Hardware für schnelleren Indexaufbau und schnellere Suche im großen Maßstab, eingeführt in der 2.4.x-Release-Linie.

Unterstützt Milvus hybride Suche?

Ja. Milvus unterstützt die Kombination aus dichter Vektorähnlichkeit, spärlicher/Volltext-Suche (BM25) und Metadatenfilterung in einer einzigen Abfrage — Volltextsuche wurde in der 2.5.x-Release-Linie hinzugefügt.

Wie schneidet Milvus im Vergleich zu Qdrant ab?

Beide sind kostenlose, quelloffene, selbst hostbare Vektordatenbanken, die hybride Suche unterstützen. Milvus bietet GPU-beschleunigte Indizierung und eine stärker verteilte, produktionsreife Architektur unter der Governance der LF AI & Data Foundation; Qdrant, geschrieben in Rust, ist im Allgemeinen einfacher für kleine bis mittlere Projekte selbst zu hosten. Siehe den dedizierten Abschnitt Milvus vs. Qdrant oben.

Wer verwaltet das Milvus-Projekt?

Milvus ist Teil der LF AI & Data Foundation (ein Dachprojekt der Linux Foundation), deren Inkubation es im Juni 2021 abschloss. Zilliz, das Unternehmen, das Milvus ursprünglich 2019 als Open Source veröffentlichte, bleibt der wichtigste Unternehmensbeitragende.

Quellen

← Zurück zu Lokale LLMs Pro