Wichtigste Erkenntnisse
- Plano (github.com/katanemo/plano) ist ein kostenloser, quelloffener, selbst gehosteter KI-Proxy und Data Plane — kein gehostetes SaaS-Produkt
- Entwickelt von Katanemo, aufgebaut auf Envoy von Envoys eigenen Kern-Contributors
- Apache-2.0-lizenziert, bestätigt über die Lizenzdatei des GitHub-Repositorys
- Vier Kernfunktionen laut eigenem README: Agent-Orchestrierung, Modell-Routing („Model Agility"), Zero-Code-Observability („Agentic Signals" plus OpenTelemetry) und Guardrail-/Moderations-Filter-Chains
- Routing läuft über ein zweckgebautes Orchestrator-Modell mit rund 4 Milliarden Parametern („Plano-Orchestrator") statt über ein Allzweck-LLM oder ein reines Regelwerk-Framework
- Über 7.050 GitHub-Stars und 480+ Forks zum Zeitpunkt dieser Review
📍 In einem Satz
Plano ist ein kostenloser, quelloffener (Apache 2.0), Envoy-basierter KI-nativer Proxy-Server und Data Plane, entwickelt von Katanemo, mit über 7.050 GitHub-Stars, der agentenbasierten Anwendungen LLM-Routing, Agent-Orchestrierung, Observability und Guardrails außerhalb des Anwendungscodes hinzufügt.
💬 In einfachen Worten
Plano ist ein selbst gehosteter Proxy, den Sie vor Ihren KI-Agents betreiben. Statt eigene Routing-Logik, Telemetrie und Sicherheitsfilter in jeden Agent zu schreiben, deklarieren Sie Ihre Agents und Modellanbieter in einer YAML-Konfigurationsdatei, und Plano übernimmt die Auswahl des richtigen Modells, das Nachverfolgen des Geschehenen und das Anwenden von Guardrails — kostenlos, da Plano selbst keine Lizenzgebühr verlangt.
📌Hinweis: Diese Review ist der Deep-Dive-Begleiter zu Planos Eintrag im Local LLM Software Directory — dort finden Sie, wie Plano im Vergleich zu Dutzenden anderer lokaler und selbst gehosteter KI-Tools auf einen Blick abschneidet.
Was ist Plano?
Plano ist ein selbst gehosteter, out-of-process Proxy und Data Plane, der zwischen Ihren agentenbasierten Anwendungen und den LLM-Anbietern oder Sub-Agents sitzt, die sie aufrufen, und Routing, Orchestrierung, Observability und Guardrails in einer Schicht bündelt. Die eigene GitHub-Beschreibung nennt es „einen KI-nativen Proxy-Server und Data Plane für agentenbasierte Apps", mit dem Ziel, Infrastrukturbelange wie Routing und Moderation aus dem Anwendungscode herauszuziehen und in eine gemeinsame, konfigurierbare Schicht zu verlagern.
- Produkttyp: ein selbst gehosteter Proxy/Data-Plane, den Sie selbst bereitstellen (Docker-Container oder gebautes Binary), kein gehostetes API- oder SaaS-Gateway
- Entwickler: Katanemo, laut GitHub-Organisation des Repositorys
- Repository: github.com/katanemo/plano, erstellt am 9. Juli 2024
- Lizenz: Apache 2.0, laut Lizenzdatei des GitHub-Repositorys
- Fundament: aufgebaut auf Envoy, dem weit verbreiteten Open-Source-Edge-/Service-Proxy, von Contributors, die an Envoy selbst mitgearbeitet haben, laut Planos eigenem README
- Umfang: über 7.050 GitHub-Stars, 480+ Forks und 140 offene Issues zum Zeitpunkt dieser Review
Planos Projektgeschichte und Versions-Meilensteine
Planos GitHub-Repository wurde im Juli 2024 erstellt, und das Projekt liefert seither kontinuierlich weiter, mit neuen Funktionen für LLM-Routing, Agent-Orchestrierung und Observability unter aktiver Entwicklung. Plano positioniert sich als gestützt durch Katanemos eigene LLM-Forschung, einschließlich des zweckgebauten Orchestrator-Modells, das für seine Routing-Entscheidungen verwendet wird.
- 1Repository erstellt — 9. Juli 2024
Why it matters: Planos kanonisches GitHub-Repository (katanemo/plano) wurde laut GitHubs Repository-Metadaten erstellt. - 2v0.4.36 — 19. August 2026: aktuellstes getaggtes Release zum Zeitpunkt dieser Review
Why it matters: Das zuletzt veröffentlichte Release auf GitHub zum Zeitpunkt dieser Review; prüfen Sie die [Releases-Seite](https://github.com/katanemo/plano/releases) direkt für alles, was nach dem Veröffentlichungsdatum dieser Review erschienen ist. - 3Kontinuierliche Entwicklung am Main-Branch
Why it matters: Die Repository-Metadaten von GitHub zeigen Commits, die nach dem letzten getaggten Release auf den Main-Branch gepusht wurden, was auf laufende Entwicklung über den letzten Versions-Tag hinaus hindeutet — prüfen Sie den aktuellen Release-Status, bevor Sie Feature-Parität mit den neuesten Commits annehmen.
Was macht Plano tatsächlich?
Planos Funktionsumfang konzentriert sich darauf, Infrastrukturbelange für agentenbasierte Apps aus dem Anwendungscode herauszuziehen und in eine gemeinsame, selbst gehostete Proxy-Schicht zu verlagern. Hier ist, was jeder Teil tatsächlich tut, laut Planos eigenem GitHub-README und Dokumentation.
- Agent-Orchestrierung — latenzarmes Routing zwischen in einer YAML-Konfiguration deklarierten Agents, ohne den Anwendungscode zu ändern; neue Agents können durch Bearbeiten der Konfiguration statt durch Neuschreiben der Routing-Logik hinzugefügt werden
- Modell-Routing („Model Agility") — routet Anfragen nach explizitem Modellnamen, semantischem Alias oder automatisch über konfigurierte Präferenzen, sodass Anwendungscode einen logischen Modellnamen statt eines fest codierten Anbieters aufrufen kann
- Agentic Signals — Planos eigener Begriff für die Zero-Code-Erfassung von Nutzungs-/Verhaltenssignalen, plus OpenTelemetry-kompatible Traces und Metriken, die über jeden von ihm proxied Agent ausgegeben werden
- Guardrail- und Moderations-Filter-Chains — ein konfigurierbarer Mechanismus, um Jailbreak-Schutz, Moderationsrichtlinien und Memory-Konsistenzverhalten in die Proxy-Schicht statt in jeden einzelnen Agent einzubauen
- Zweckgebautes Routing-Modell — Routing-Entscheidungen laufen laut Planos README über Planos eigenes Modell „Plano-Orchestrator" mit rund 4 Milliarden Parametern statt über einen Allzweck-LLM-Aufruf oder einen rein regelbasierten Router
- Framework- und sprachagnostisch — Agents sind einfach HTTP-Server, die einen OpenAI-kompatiblen Chat-Completions-Endpunkt implementieren, sodass Plano mit Agents in jeder Sprache oder jedem KI-Framework funktioniert
- LLM-Gateway-Modus — Plano kann laut eigener Dokumentation auch rein als LLM-Routing-Gateway von Anwendungsdiensten aus verwendet werden, unabhängig von seinen Agent-Orchestrierungsfunktionen
Anwendungsbeispiele: Zwei Wege, Plano zu nutzen
Dies sind konkrete Workflows, die aus Planos eigenem dokumentiertem README-Beispiel stammen — keine hypothetischen Anwendungsfälle.
Plano installieren
Plano installiert sich kostenlos über Docker oder ein gebautes CLI-Binary, und der Quellcode liegt auf GitHub. Laut eigenem Quickstart-Guide: installieren Sie die Voraussetzungen und starten Sie Plano dann mit planoai up config.yaml gegen eine Konfigurationsdatei.
Source | Link |
|---|---|
| GitHub-Repository (Quellcode, Apache 2.0) | github.com/katanemo/plano |
| Quickstart-Guide (Installation + Voraussetzungen) | docs.planoai.dev/get_started/quickstart |
| Vollständige Dokumentation | docs.planoai.dev |
| Releases (getaggte Versionen und vorgebaute Binaries) | github.com/katanemo/plano/releases |
Plano erfordert, dass Sie dem Voraussetzungen-Guide folgen, bevor Sie planoai up config.yaml ausführen; es gibt keinen einzelnen GUI-Installer, da Plano eine Proxy-/Data-Plane-Komponente ist, die neben Ihren Diensten laufen soll, statt eine eigenständige Endnutzer-Anwendung zu sein. Prüfen Sie die aktuell empfohlene Installationsmethode im Quickstart-Guide, bevor Sie einen Befehl ausführen, da sich Installationsanweisungen zwischen Releases ändern können.
Plano-Preise: Ist Plano wirklich kostenlos?
Plano selbst ist kostenlos und quelloffen (Apache 2.0), ohne Lizenzgebühr für das Selbst-Hosten. Die Nuance liegt darin, was sein Routing antreibt: Plano und die Plano-Familie von LLMs (wie Plano-Orchestrator) werden von Katanemo kostenlos in der Region US-Central gehostet, ausdrücklich um Entwicklern ein Erstnutzungs-Erlebnis ohne Setup zu bieten — laut eigenem README des Projekts ist diese kostenlose gehostete Stufe für die Entwicklung gedacht, nicht für den Produktionsmaßstab.
- Planos eigene Software: kostenlos, quelloffen, Apache-2.0-lizenziert, keine kostenpflichtige Stufe für den Proxy selbst
- Plano-Familie der Routing-/Orchestrator-Modelle: laut Planos eigenem README kostenlos in US-Central gehostet, für ein Erstnutzungs-Entwicklererlebnis
- Für den Betrieb im Produktionsmaßstab müssen Sie laut Katanemos README entweder diese Routing-Modelle selbst lokal betreiben oder Katanemo über Discord für gehostete API-Schlüssel kontaktieren — für diese Review wurde keine öffentliche Self-Serve-Preisseite für diese gehostete Schlüssel-Option gefunden
- LLM-Anbieterkosten sind separat: Das Routen von Anfragen an OpenAI, Anthropic oder andere Anbieter über Plano kostet weiterhin das, was dieser Anbieter berechnet — Plano selbst erhebt keinen Aufschlag, entsprechend seiner Rolle als Routing-Schicht statt als Modellanbieter
Plano vs. LiteLLM
Plano und LiteLLM sind beide selbst gehostete Schichten zur Verwaltung von LLM-Traffic, gehen aber von unterschiedlichen Grundannahmen aus: LiteLLM ist in erster Linie eine einheitliche API/SDK und ein Proxy für den Aufruf von über 100 LLM-Anbietern über eine OpenAI-kompatible Schnittstelle, während Plano als Envoy-basierte Data Plane mit Agent-Orchestrierung als erstklassiges Feature gebaut ist, nicht nur als Modell-Routing.
Kernfundament
- Plano vs. LiteLLM:
- Plano ist auf dem Envoy-Proxy aufgebaut; LiteLLM ist ein Python-natives SDK und ein Proxy-Server, nicht Envoy-basiert.
Agent-Orchestrierung
- Plano vs. LiteLLM:
- Plano behandelt Multi-Agent-Routing als erstklassiges Kernfeature über YAML-deklarierte Agents; LiteLLM konzentriert sich primär auf LLM-/Anbieter-Routing statt auf Agent-zu-Agent-Orchestrierung.
Routing-Mechanismus
- Plano vs. LiteLLM:
- Plano verwendet ein dediziertes Orchestrator-Modell mit rund 4 Milliarden Parametern für intentionsbasiertes Routing; LiteLLM routet primär über explizite Konfigurationsregeln, Lastverteilung und Fallback-Listen.
Observability
- Plano vs. LiteLLM:
- Plano nennt seine Telemetrie „Agentic Signals" plus OpenTelemetry; LiteLLM bietet Nutzungs-Tracking, Ausgaben-Logs und Integrationen mit Observability-Tools wie Langfuse.
Lizenz
- Plano vs. LiteLLM:
- Beide sind für ihr Kern-Open-Source-Angebot laut jeweiligem eigenem Repository Apache 2.0 lizenziert.
Beide Tools sind im Kern selbst gehostet und kostenlos; die praktische Wahl hängt davon ab, ob Sie Envoy-taugliche Proxy-Infrastruktur und native Agent-Orchestrierung (Plano) oder ein einfacheres, auf Anbieter-Routing fokussiertes Gateway mit einer großen Liste kompatibler Anbieter (LiteLLM) benötigen. Prüfen Sie die aktuelle Feature-Parität in der jeweiligen Dokumentation, bevor Sie sich entscheiden, da beide häufig Updates veröffentlichen.
Für wen eignet sich Plano?
Ob Plano passt, hängt davon ab, ob Sie agentenbasierte Anwendungen bauen, die gemeinsame Infrastruktur für Routing, Observability und Guardrails benötigen, statt eines einzelnen einfachen LLM-Aufrufs.
Wettbewerber und Alternativen
Plano wird am häufigsten mit LiteLLM, AIClient2API und Langfuse verglichen — sein wichtigstes Unterscheidungsmerkmal ist, eine Envoy-basierte Data Plane mit nativer Multi-Agent-Orchestrierung zu sein, statt einer rein anwendungsschichtbasierten Routing-Bibliothek oder eines reinen Observability-Tools.
Tool | Best known for | Link |
|---|---|---|
| LiteLLM | Einheitlicher Proxy/SDK für den Aufruf von über 100 LLM-Anbietern über eine OpenAI-kompatible API | LiteLLM Review |
| AIClient2API | Leichtgewichtiger lokaler Proxy, der verschiedene KI-Client-Protokolle in einheitliche API-Endpunkte umwandelt | AIClient2API Review |
| Langfuse | Quelloffene Plattform für LLM-Observability, Tracing und Evaluierung | Langfuse Review |
Diese Liste spiegelt Tools wider, mit denen Plano häufig im Bereich Routing/Gateway/Observability verglichen wird, nicht ein unabhängiges PromptQuorum-Ranking — siehe das Local LLM Software Directory für den vollständigen, regelmäßig aktualisierten Katalog, einschließlich Planos eigenem Eintrag. Prüfen Sie die aktuellen Preise und den Funktionsumfang jedes Tools, bevor Sie sich entscheiden.
Häufige Fehler bei der Bewertung von Plano
Die meiste Verwirrung um Plano entsteht durch seinen generischen Namen, Annahmen, es handle sich um ein gehostetes SaaS-Produkt, oder unklare Erwartungen darüber, was „kostenlos" abdeckt.
Häufig gestellte Fragen
Was ist Plano?
Plano (github.com/katanemo/plano) ist ein kostenloser, quelloffener (Apache 2.0), Envoy-basierter KI-nativer Proxy-Server und Data Plane für agentenbasierte Anwendungen, entwickelt von Katanemo, der LLM-Routing, Agent-Orchestrierung, Observability und Guardrails übernimmt.
Ist Plano kostenlos?
Ja, Plano selbst ist kostenlos und quelloffen, ohne Lizenzgebühr für das Selbst-Hosten. Katanemo hostet außerdem Planos eigene Routing-/Orchestrator-Modelle kostenlos in der Region US-Central für ein Erstnutzungs-Entwicklererlebnis; die Nutzung dieser Modelle im Produktionsmaßstab erfordert das Selbst-Hosten oder gehostete API-Schlüssel über Discord.
Wie installiere ich Plano?
Folgen Sie Planos eigenem Quickstart-Guide, um die Voraussetzungen zu installieren, und führen Sie dann planoai up config.yaml gegen eine YAML-Konfiguration aus, die Ihre Agents und Modellanbieter deklariert.
Ist Plano ein gehosteter Dienst oder selbst gehostete Software?
Plano ist selbst gehostet: Sie stellen es selbst als Docker-Container oder gebautes Binary neben Ihren eigenen Agents und Diensten bereit. Katanemo hostet separat Planos eigene kleine Orchestrator-Modelle kostenlos auf Entwicklungsnutzungsebene.
Was routet Plano tatsächlich?
Plano routet LLM- und Agent-Traffic: Es kann zwischen mehreren Agents basierend auf der Absicht routen und LLM-API-Aufrufe nach explizitem Modellnamen, semantischem Alias oder automatischer präferenzbasierter Auswahl an ein bestimmtes Modell weiterleiten.
Ist Plano auf Envoy aufgebaut?
Ja, laut eigenem README ist Plano auf Envoy aufgebaut, von Contributors, die an Envoy selbst mitgearbeitet haben, und fungiert als out-of-process Data Plane statt als In-Process-Bibliothek.
Wer entwickelt Plano?
Katanemo entwickelt Plano, laut der GitHub-Organisation, die das Repository katanemo/plano hostet.
Funktioniert Plano mit jeder Programmiersprache oder jedem Framework?
Ja — Agents müssen laut eigener Dokumentation nur einen OpenAI-kompatiblen Chat-Completions-HTTP-Endpunkt implementieren, sodass Plano mit Agents in jeder Sprache oder jedem KI-Framework funktioniert.
Benötigt Plano ein eigenes Modell, um zu funktionieren?
Planos Routing-Entscheidungen laufen über sein eigenes zweckgebautes Orchestrator-Modell mit rund 4 Milliarden Parametern, aber die tatsächlichen LLM-Antworten, die Ihre Agents nutzen, können von jedem konfigurierten Anbieter stammen (OpenAI, Anthropic, lokale Modelle und andere), an den Plano den Traffic routet.
Wie unterscheidet sich Plano von LiteLLM?
Plano ist eine Envoy-basierte Data Plane mit nativer Multi-Agent-Orchestrierung als Kernfeature; LiteLLM ist ein Python-natives SDK/Proxy, das sich primär auf die Vereinheitlichung von Aufrufen an über 100 LLM-Anbieter konzentriert. Siehe den Vergleich Plano vs. LiteLLM oben für Details.
Hat PromptQuorum Planos Angaben unabhängig getestet?
Diese Review basiert auf Planos eigenem GitHub-Repository, README und Dokumentation, statt auf praktischem Benchmarking durch PromptQuorum.