Was ist Plano?
Plano ist ein selbst gehosteter, out-of-process Proxy und Data Plane, der zwischen Ihren agentenbasierten Anwendungen und den LLM-Anbietern oder Sub-Agents sitzt, die sie aufrufen, und Routing, Orchestrierung, Observability und Guardrails in einer Schicht bündelt. Die eigene GitHub-Beschreibung nennt es „einen KI-nativen Proxy-Server und Data Plane für agentenbasierte Apps", mit dem Ziel, Infrastrukturbelange wie Routing und Moderation aus dem Anwendungscode herauszuziehen und in eine gemeinsame, konfigurierbare Schicht zu verlagern.
- Produkttyp: ein selbst gehosteter Proxy/Data-Plane, den Sie selbst bereitstellen (Docker-Container oder gebautes Binary), kein gehostetes API- oder SaaS-Gateway
- Entwickler: Katanemo, laut GitHub-Organisation des Repositorys
- Repository: github.com/katanemo/plano, erstellt am 9. Juli 2024
- Lizenz: Apache 2.0, laut Lizenzdatei des GitHub-Repositorys
- Fundament: aufgebaut auf Envoy, dem weit verbreiteten Open-Source-Edge-/Service-Proxy, von Contributors, die an Envoy selbst mitgearbeitet haben, laut Planos eigenem README
- Umfang: über 7.050 GitHub-Stars, 480+ Forks und 140 offene Issues zum Zeitpunkt dieser Review
Planos Projektgeschichte und Versions-Meilensteine
Planos GitHub-Repository wurde im Juli 2024 erstellt, und das Projekt liefert seither kontinuierlich weiter, mit neuen Funktionen für LLM-Routing, Agent-Orchestrierung und Observability unter aktiver Entwicklung. Plano positioniert sich als gestützt durch Katanemos eigene LLM-Forschung, einschließlich des zweckgebauten Orchestrator-Modells, das für seine Routing-Entscheidungen verwendet wird.
- 1Repository erstellt — 9. Juli 2024
Why it matters: Planos kanonisches GitHub-Repository (katanemo/plano) wurde laut GitHubs Repository-Metadaten erstellt. - 2v0.4.36 — 19. August 2026: aktuellstes getaggtes Release zum Zeitpunkt dieser Review
Why it matters: Das zuletzt veröffentlichte Release auf GitHub zum Zeitpunkt dieser Review; prüfen Sie die [Releases-Seite](https://github.com/katanemo/plano/releases) direkt für alles, was nach dem Veröffentlichungsdatum dieser Review erschienen ist. - 3Kontinuierliche Entwicklung am Main-Branch
Why it matters: Die Repository-Metadaten von GitHub zeigen Commits, die nach dem letzten getaggten Release auf den Main-Branch gepusht wurden, was auf laufende Entwicklung über den letzten Versions-Tag hinaus hindeutet — prüfen Sie den aktuellen Release-Status, bevor Sie Feature-Parität mit den neuesten Commits annehmen.
Was macht Plano tatsächlich?
Planos Funktionsumfang konzentriert sich darauf, Infrastrukturbelange für agentenbasierte Apps aus dem Anwendungscode herauszuziehen und in eine gemeinsame, selbst gehostete Proxy-Schicht zu verlagern. Hier ist, was jeder Teil tatsächlich tut, laut Planos eigenem GitHub-README und Dokumentation.
- Agent-Orchestrierung — latenzarmes Routing zwischen in einer YAML-Konfiguration deklarierten Agents, ohne den Anwendungscode zu ändern; neue Agents können durch Bearbeiten der Konfiguration statt durch Neuschreiben der Routing-Logik hinzugefügt werden
- Modell-Routing („Model Agility") — routet Anfragen nach explizitem Modellnamen, semantischem Alias oder automatisch über konfigurierte Präferenzen, sodass Anwendungscode einen logischen Modellnamen statt eines fest codierten Anbieters aufrufen kann
- Agentic Signals — Planos eigener Begriff für die Zero-Code-Erfassung von Nutzungs-/Verhaltenssignalen, plus OpenTelemetry-kompatible Traces und Metriken, die über jeden von ihm proxied Agent ausgegeben werden
- Guardrail- und Moderations-Filter-Chains — ein konfigurierbarer Mechanismus, um Jailbreak-Schutz, Moderationsrichtlinien und Memory-Konsistenzverhalten in die Proxy-Schicht statt in jeden einzelnen Agent einzubauen
- Zweckgebautes Routing-Modell — Routing-Entscheidungen laufen laut Planos README über Planos eigenes Modell „Plano-Orchestrator" mit rund 4 Milliarden Parametern statt über einen Allzweck-LLM-Aufruf oder einen rein regelbasierten Router
- Framework- und sprachagnostisch — Agents sind einfach HTTP-Server, die einen OpenAI-kompatiblen Chat-Completions-Endpunkt implementieren, sodass Plano mit Agents in jeder Sprache oder jedem KI-Framework funktioniert
- LLM-Gateway-Modus — Plano kann laut eigener Dokumentation auch rein als LLM-Routing-Gateway von Anwendungsdiensten aus verwendet werden, unabhängig von seinen Agent-Orchestrierungsfunktionen
Anwendungsbeispiele: Zwei Wege, Plano zu nutzen
Dies sind konkrete Workflows, die aus Planos eigenem dokumentiertem README-Beispiel stammen — keine hypothetischen Anwendungsfälle.
Eine Multi-Agent-App routen, ohne Routing-Logik zu schreiben
Deklarieren Sie Ihre Agents (zum Beispiel einen Wetter-Agent und einen Flug-Agent, jeweils nur ein HTTP-Server mit einem OpenAI-kompatiblen /v1/chat/completions-Endpunkt) und Ihre Modellanbieter in einer config.yaml-Datei, zusammen mit einem Listener, der Planos plano_orchestrator_v1-Router verwendet. Führen Sie planoai up config.yaml aus und senden Sie dann eine einzelne konversationelle Anfrage an Planos Listener-Port — Plano klassifiziert die Absicht und routet selbst zum richtigen Agent (oder zu mehreren), ohne dass Ihr Anwendungscode irgendeine Routing-Logik enthält.
Plano rein als LLM-Gateway nutzen
Richten Sie die Basis-URL des OpenAI-Clients Ihres bestehenden Agents oder Anwendungscodes auf Planos lokalen Gateway-Port statt auf die API eines bestimmten Anbieters. Plano übernimmt dann laut eigener Modell-Routing-Konfiguration Modellauswahl, Fallback und Tracing für diesen Traffic, ohne das vollständige Agent-Orchestrierungs-Setup zu erfordern — nützlich, wenn Sie nur zentralisiertes LLM-Routing statt Multi-Agent-Orchestrierung benötigen.
Plano installieren
Plano installiert sich kostenlos über Docker oder ein gebautes CLI-Binary, und der Quellcode liegt auf GitHub. Laut eigenem Quickstart-Guide: installieren Sie die Voraussetzungen und starten Sie Plano dann mit planoai up config.yaml gegen eine Konfigurationsdatei.
Source | Link |
|---|---|
| GitHub-Repository (Quellcode, Apache 2.0) | github.com/katanemo/plano |
| Quickstart-Guide (Installation + Voraussetzungen) | docs.planoai.dev/get_started/quickstart |
| Vollständige Dokumentation | docs.planoai.dev |
| Releases (getaggte Versionen und vorgebaute Binaries) | github.com/katanemo/plano/releases |
Plano erfordert, dass Sie dem Voraussetzungen-Guide folgen, bevor Sie planoai up config.yaml ausführen; es gibt keinen einzelnen GUI-Installer, da Plano eine Proxy-/Data-Plane-Komponente ist, die neben Ihren Diensten laufen soll, statt eine eigenständige Endnutzer-Anwendung zu sein. Prüfen Sie die aktuell empfohlene Installationsmethode im Quickstart-Guide, bevor Sie einen Befehl ausführen, da sich Installationsanweisungen zwischen Releases ändern können.
Plano-Preise: Ist Plano wirklich kostenlos?
Plano selbst ist kostenlos und quelloffen (Apache 2.0), ohne Lizenzgebühr für das Selbst-Hosten. Die Nuance liegt darin, was sein Routing antreibt: Plano und die Plano-Familie von LLMs (wie Plano-Orchestrator) werden von Katanemo kostenlos in der Region US-Central gehostet, ausdrücklich um Entwicklern ein Erstnutzungs-Erlebnis ohne Setup zu bieten — laut eigenem README des Projekts ist diese kostenlose gehostete Stufe für die Entwicklung gedacht, nicht für den Produktionsmaßstab.
- Planos eigene Software: kostenlos, quelloffen, Apache-2.0-lizenziert, keine kostenpflichtige Stufe für den Proxy selbst
- Plano-Familie der Routing-/Orchestrator-Modelle: laut Planos eigenem README kostenlos in US-Central gehostet, für ein Erstnutzungs-Entwicklererlebnis
- Für den Betrieb im Produktionsmaßstab müssen Sie laut Katanemos README entweder diese Routing-Modelle selbst lokal betreiben oder Katanemo über Discord für gehostete API-Schlüssel kontaktieren — für diese Review wurde keine öffentliche Self-Serve-Preisseite für diese gehostete Schlüssel-Option gefunden
- LLM-Anbieterkosten sind separat: Das Routen von Anfragen an OpenAI, Anthropic oder andere Anbieter über Plano kostet weiterhin das, was dieser Anbieter berechnet — Plano selbst erhebt keinen Aufschlag, entsprechend seiner Rolle als Routing-Schicht statt als Modellanbieter
Plano vs. LiteLLM
Plano und LiteLLM sind beide selbst gehostete Schichten zur Verwaltung von LLM-Traffic, gehen aber von unterschiedlichen Grundannahmen aus: LiteLLM ist in erster Linie eine einheitliche API/SDK und ein Proxy für den Aufruf von über 100 LLM-Anbietern über eine OpenAI-kompatible Schnittstelle, während Plano als Envoy-basierte Data Plane mit Agent-Orchestrierung als erstklassiges Feature gebaut ist, nicht nur als Modell-Routing.
Kernfundament
- Plano vs. LiteLLM:
- Plano ist auf dem Envoy-Proxy aufgebaut; LiteLLM ist ein Python-natives SDK und ein Proxy-Server, nicht Envoy-basiert.
Agent-Orchestrierung
- Plano vs. LiteLLM:
- Plano behandelt Multi-Agent-Routing als erstklassiges Kernfeature über YAML-deklarierte Agents; LiteLLM konzentriert sich primär auf LLM-/Anbieter-Routing statt auf Agent-zu-Agent-Orchestrierung.
Routing-Mechanismus
- Plano vs. LiteLLM:
- Plano verwendet ein dediziertes Orchestrator-Modell mit rund 4 Milliarden Parametern für intentionsbasiertes Routing; LiteLLM routet primär über explizite Konfigurationsregeln, Lastverteilung und Fallback-Listen.
Observability
- Plano vs. LiteLLM:
- Plano nennt seine Telemetrie „Agentic Signals" plus OpenTelemetry; LiteLLM bietet Nutzungs-Tracking, Ausgaben-Logs und Integrationen mit Observability-Tools wie Langfuse.
Lizenz
- Plano vs. LiteLLM:
- Beide sind für ihr Kern-Open-Source-Angebot laut jeweiligem eigenem Repository Apache 2.0 lizenziert.
Beide Tools sind im Kern selbst gehostet und kostenlos; die praktische Wahl hängt davon ab, ob Sie Envoy-taugliche Proxy-Infrastruktur und native Agent-Orchestrierung (Plano) oder ein einfacheres, auf Anbieter-Routing fokussiertes Gateway mit einer großen Liste kompatibler Anbieter (LiteLLM) benötigen. Prüfen Sie die aktuelle Feature-Parität in der jeweiligen Dokumentation, bevor Sie sich entscheiden, da beide häufig Updates veröffentlichen.
Für wen eignet sich Plano?
Ob Plano passt, hängt davon ab, ob Sie agentenbasierte Anwendungen bauen, die gemeinsame Infrastruktur für Routing, Observability und Guardrails benötigen, statt eines einzelnen einfachen LLM-Aufrufs.
Nutzen Sie Plano, wenn Sie
- agentenbasierte Anwendungen mit mehreren Agents oder Modellanbietern bauen und Routing, Orchestrierung und Observability außerhalb Ihres eigenen Anwendungscodes abwickeln möchten
- eine Envoy-basierte, produktionsreife Proxy-Grundlage statt eines leichtgewichtigen Anwendungsschicht-Wrappers möchten
- Guardrail- und Moderationsrichtlinien konsistent über Agents hinweg über eine gemeinsame Filter-Chain-Schicht anwenden müssen
- sich wohlfühlen, Infrastruktur über Docker oder ein gebautes Binary selbst zu hosten und sie über YAML zu konfigurieren
- Ihre Agents in jeder Sprache oder jedem Framework belassen möchten, da Plano nur einen OpenAI-kompatiblen HTTP-Endpunkt benötigt
Schauen Sie sich anderswo um, wenn Sie
- nur einen einfachen LLM-Aufruf mit einem einzigen Anbieter ohne Multi-Agent-Routing oder Orchestrierungsanforderung benötigen — ein direkter SDK-Aufruf mag einfacher sein
- ein vollständig verwaltetes, gehostetes Gateway ohne Selbst-Hosting oder Konfigurationsdatei-Setup möchten — diese Review fand kein solches verwaltetes Angebot von Katanemo über die kostenlose Entwicklungsstufe der gehosteten Routing-Modelle hinaus
- eine leichtgewichtige, Python-native Routing-Bibliothek statt eines Envoy-basierten Proxys benötigen — siehe den Vergleich Plano vs. LiteLLM oben
- ein schlüsselfertiges No-Code-Setup möchten — Plano erfordert die Bearbeitung von YAML-Konfiguration und das Befolgen des Voraussetzungen-Guides
Wettbewerber und Alternativen
Plano wird am häufigsten mit LiteLLM, AIClient2API und Langfuse verglichen — sein wichtigstes Unterscheidungsmerkmal ist, eine Envoy-basierte Data Plane mit nativer Multi-Agent-Orchestrierung zu sein, statt einer rein anwendungsschichtbasierten Routing-Bibliothek oder eines reinen Observability-Tools.
Tool | Best known for | Link |
|---|---|---|
| LiteLLM | Einheitlicher Proxy/SDK für den Aufruf von über 100 LLM-Anbietern über eine OpenAI-kompatible API | LiteLLM Review |
| AIClient2API | Leichtgewichtiger lokaler Proxy, der verschiedene KI-Client-Protokolle in einheitliche API-Endpunkte umwandelt | AIClient2API Review |
| Langfuse | Quelloffene Plattform für LLM-Observability, Tracing und Evaluierung | Langfuse Review |
Diese Liste spiegelt Tools wider, mit denen Plano häufig im Bereich Routing/Gateway/Observability verglichen wird, nicht ein unabhängiges PromptQuorum-Ranking — siehe das Local LLM Software Directory für den vollständigen, regelmäßig aktualisierten Katalog, einschließlich Planos eigenem Eintrag. Prüfen Sie die aktuellen Preise und den Funktionsumfang jedes Tools, bevor Sie sich entscheiden.
Häufige Fehler bei der Bewertung von Plano
Die meiste Verwirrung um Plano entsteht durch seinen generischen Namen, Annahmen, es handle sich um ein gehostetes SaaS-Produkt, oder unklare Erwartungen darüber, was „kostenlos" abdeckt.
Fehler 1: Verwechslung mit einem unabhängigen „Plano"-Projekt
„Plano" ist ein gängiges Wort (eine Stadt in Texas, ein portugiesisches/spanisches Wort für „Plan"), sodass nicht verwandte Repositories und Produkte den Namen teilen. Prüfen Sie, dass Sie speziell auf github.com/katanemo/plano schauen, bevor Sie Fakten über dieses Plano zitieren.
Fehler 2: Annehmen, Plano sei ein gehostetes SaaS-Gateway
Plano ist selbst gehostete Software, die Sie selbst bereitstellen (Docker-Container oder gebautes Binary) — es ist kein Anmelden-und-loslegen-gehosteter API-Dienst, auch wenn Katanemo die Plano-Familie der Routing-Modelle kostenlos für die Entwicklungsnutzung hostet.
Fehler 3: Annehmen, „kostenlos" decke unbegrenzte Produktionsnutzung der gehosteten Routing-Modelle ab
Das kostenlose US-Central-Hosting von Planos eigenen Orchestrator-Modellen ist laut Planos README ausdrücklich als Erstnutzungs-Entwicklererlebnis positioniert. Die Nutzung im Produktionsmaßstab erfordert entweder das Selbst-Hosten dieser Modelle oder das Kontaktieren von Katanemo für gehostete API-Schlüssel.
Fehler 4: Annehmen, Plano führe Ihre LLM-Inferenz selbst aus
Plano ist eine Routing- und Orchestrierungsschicht, keine Inferenz-Engine für die Modelle, an die es Traffic routet (abgesehen von seinem eigenen kleinen Orchestrator-Modell) — Sie benötigen weiterhin Zugang zu den LLM-Anbietern oder lokalen Modell-Servern, an die es Anfragen weiterleitet.
Häufig gestellte Fragen
Was ist Plano?
Plano (github.com/katanemo/plano) ist ein kostenloser, quelloffener (Apache 2.0), Envoy-basierter KI-nativer Proxy-Server und Data Plane für agentenbasierte Anwendungen, entwickelt von Katanemo, der LLM-Routing, Agent-Orchestrierung, Observability und Guardrails übernimmt.
Ist Plano kostenlos?
Ja, Plano selbst ist kostenlos und quelloffen, ohne Lizenzgebühr für das Selbst-Hosten. Katanemo hostet außerdem Planos eigene Routing-/Orchestrator-Modelle kostenlos in der Region US-Central für ein Erstnutzungs-Entwicklererlebnis; die Nutzung dieser Modelle im Produktionsmaßstab erfordert das Selbst-Hosten oder gehostete API-Schlüssel über Discord.
Wie installiere ich Plano?
Folgen Sie Planos eigenem Quickstart-Guide, um die Voraussetzungen zu installieren, und führen Sie dann planoai up config.yaml gegen eine YAML-Konfiguration aus, die Ihre Agents und Modellanbieter deklariert.
Ist Plano ein gehosteter Dienst oder selbst gehostete Software?
Plano ist selbst gehostet: Sie stellen es selbst als Docker-Container oder gebautes Binary neben Ihren eigenen Agents und Diensten bereit. Katanemo hostet separat Planos eigene kleine Orchestrator-Modelle kostenlos auf Entwicklungsnutzungsebene.
Was routet Plano tatsächlich?
Plano routet LLM- und Agent-Traffic: Es kann zwischen mehreren Agents basierend auf der Absicht routen und LLM-API-Aufrufe nach explizitem Modellnamen, semantischem Alias oder automatischer präferenzbasierter Auswahl an ein bestimmtes Modell weiterleiten.
Ist Plano auf Envoy aufgebaut?
Ja, laut eigenem README ist Plano auf Envoy aufgebaut, von Contributors, die an Envoy selbst mitgearbeitet haben, und fungiert als out-of-process Data Plane statt als In-Process-Bibliothek.
Wer entwickelt Plano?
Katanemo entwickelt Plano, laut der GitHub-Organisation, die das Repository katanemo/plano hostet.
Funktioniert Plano mit jeder Programmiersprache oder jedem Framework?
Ja — Agents müssen laut eigener Dokumentation nur einen OpenAI-kompatiblen Chat-Completions-HTTP-Endpunkt implementieren, sodass Plano mit Agents in jeder Sprache oder jedem KI-Framework funktioniert.
Benötigt Plano ein eigenes Modell, um zu funktionieren?
Planos Routing-Entscheidungen laufen über sein eigenes zweckgebautes Orchestrator-Modell mit rund 4 Milliarden Parametern, aber die tatsächlichen LLM-Antworten, die Ihre Agents nutzen, können von jedem konfigurierten Anbieter stammen (OpenAI, Anthropic, lokale Modelle und andere), an den Plano den Traffic routet.
Wie unterscheidet sich Plano von LiteLLM?
Plano ist eine Envoy-basierte Data Plane mit nativer Multi-Agent-Orchestrierung als Kernfeature; LiteLLM ist ein Python-natives SDK/Proxy, das sich primär auf die Vereinheitlichung von Aufrufen an über 100 LLM-Anbieter konzentriert. Siehe den Vergleich Plano vs. LiteLLM oben für Details.
Hat PromptQuorum Planos Angaben unabhängig getestet?
Diese Review basiert auf Planos eigenem GitHub-Repository, README und Dokumentation, statt auf praktischem Benchmarking durch PromptQuorum.