LiteLLM vs. OpenRouter vs. Portkey: Bestes LLM-Gateway 2026

Betreiben Sie LiteLLM selbst, wenn Sie einen Ort dafür haben; nutzen Sie sonst OpenRouter. Diese eine Frage entscheidet die Auswahl zuverlässiger als jede Funktionsliste, denn alle drei Werkzeuge erfüllen die Kernaufgabe eines Gateways bereits: eine API, Failover, Kostenerfassung.

Ein LLM-API-Gateway ist eine Routing-Schicht zwischen Ihrer Anwendung und mehreren Modellanbietern, die eine einheitliche API bereitstellt. Statt für OpenAI, Anthropic, Google und alle weiteren Anbieter je eigenen Integrationscode zu schreiben, rufen Sie das Gateway einmal auf; es kümmert sich um anbieterspezifische Formate, Authentifizierung, Failover und — in den meisten Implementierungen — um Kostenerfassung und Rate-Limiting.

Der Nutzen entsteht erst, wenn mehr als ein Anbieter produktiv im Einsatz ist. Bei einer Anwendung mit nur einem Anbieter ist das Gateway eine Abstraktionsschicht ohne Gegenwert. Setzen Sie ein Gateway ein, wenn die Anbietervielfalt Sie bereits Glue-Code und Bereitschaftszeit kostet — sonst nicht.

Kein Gateway gewinnt in allen Kategorien: LiteLLM führt bei Kosten und Kontrolle, OpenRouter beim Einrichtungstempo, Prisma AIRS bei Enterprise-Governance. Preise und Programmdetails wurden am 27. August 2026 direkt auf den Anbieterseiten geprüft — prüfen Sie erneut, wenn diese Seite länger als 90 Tage online ist, denn die Gateway-Preise haben sich dieses Jahr mehrfach geändert.

LiteLLM ist der Community-Standard, weil der kostenlose Tarif das ganze Produkt ist und nicht nur eine Testversion davon. Kostenerfassung, Budgets, Rate-Limiting und Failover-Ketten stecken im Open-Source-Kern — der Enterprise-Tarif ergänzt SSO, SCIM, dedizierten Support und Air-Gap-Betrieb, nicht das Routing selbst.

Es gibt ehrliche, nicht werbliche Gründe, das Gateway zu mieten statt zu betreiben. Sie sparen sich echte Infrastrukturarbeit: Verfügbarkeit, Updates, Secrets-Verwaltung und die Bereitschaft, die jeder Dienst im Anfragepfad mit sich bringt. Ein gehostetes Gateway liefert zudem Anbieterabdeckung, die Sie sonst einzeln integrieren müssten.

Der Preis dafür ist eine prozentuale Gebühr, die mit den Ausgaben wächst, und weniger granulare Kontrolle über das Failover. Bei moderatem Volumen ist das ein guter Tausch, bei hohem Volumen ein schlechter — der Kostenabschnitt weiter unten liefert die genaue Rechnung zum Kipppunkt.

LiteLLMs Open-Source-Kern bleibt unabhängig vom Volumen kostenlos; OpenRouters Kosten sind ein Prozentsatz jedes aufgeladenen Dollars; Portkeys Kosten wachsen mit Log-Volumen und Vertragskonditionen. Die Tabelle unten ist schlichte Arithmetik auf Basis der veröffentlichten Stripe-Guthabengebühr von ca. 5,5 % — keine Schätzung, und genau die Zahl, die diese Entscheidung trägt.

Wir nennen bewusst keinen Dollarbetrag für den Betrieb von LiteLLM: Der Proxy ist ein kleiner Dauerdienst, und was er kostet, hängt vollständig davon ab, wo Sie ihn betreiben. Tragen Sie Ihre eigene Hosting-Rechnung in die letzte Spalte ein — dann entscheidet sich die Frage von selbst.

Hinweis für DACH-Leserinnen und -Leser: Alle drei Anbieter rechnen in US-Dollar ab. Es gibt keine EUR-Preisliste; auf Ihrer Kreditkartenabrechnung kommen daher Wechselkurs und gegebenenfalls Fremdwährungsgebühr hinzu. Für B2B-Kunden in der EU greift in der Regel das Reverse-Charge-Verfahren mit gültiger USt-IdNr.

Portkey ist kein unabhängiges Produkt mehr: Palo Alto Networks hat die Übernahme am 29. Mai 2026 abgeschlossen und integriert es in die Sicherheitsplattform Prisma AIRS. Das ist keine Umbenennung. Ein Gateway, das Sie heute als schlankes Werkzeug einführen, kann binnen eines Produktzyklus neu bepreist, neu zugeschnitten oder nur noch als Teil einer größeren Security-Suite angeboten werden.

Wenn Sie Portkey gerade deshalb bewertet haben, weil es ein wendiges Startup-Produkt war, gilt diese Voraussetzung nicht mehr. Lassen Sie sich die aktuellen Konditionen direkt von Palo Alto Networks bestätigen, bevor Sie sich festlegen — übernommene Produkte ändern Preise, Tarifstruktur und Supportmodelle in den ersten 6–12 Monaten der Integration regelmäßig.

Alle drei unterstützen automatisches Failover bei Anbieterausfall — der Unterschied liegt darin, wer die Failover-Regel schreibt. LiteLLM und Portkey lassen Sie Failover-Ketten und Load-Balancing-Regeln in einer Konfiguration definieren, die Sie kontrollieren. OpenRouter erledigt das auf Plattformebene: Fällt ein Anbieter aus, kann automatisch auf ein gleichwertiges Modell umgeleitet werden — mit weniger granularer Kontrolle darüber, auf welches.

Teams mit eigener Infrastruktur sollten standardmäßig LiteLLM wählen; Teams, die No-Ops-Multi-Modell-Zugang wollen, OpenRouter; Unternehmen innerhalb eines Palo-Alto-Stacks sollten Prisma AIRS prüfen. Darüber hinaus entscheiden Teamgröße, Compliance-Anforderungen und die Toleranz für Betriebsaufwand.

Wo das Gateway läuft, entscheidet darüber, wohin Ihre Prompts gehen. Damit ist die Gateway-Wahl in drei großen Märkten eine Compliance-Entscheidung und nicht nur eine Kostenfrage.

Wenn Sie einen einzigen LLM-Anbieter mit geringem, planbarem Volumen nutzen und kein zweiter in Sicht ist, lassen Sie alle drei aus. Ein Gateway bringt Betriebsaufwand (selbst gehostet) oder eine prozentuale Gebühr (gehostet) im Tausch gegen einen Multi-Anbieter-Nutzen, den Sie noch gar nicht abrufen.

Rufen Sie das SDK des Anbieters direkt auf und prüfen Sie erneut an dem Tag, an dem tatsächlich ein zweites Modell oder ein zweiter Anbieter dazukommt. Eine Ebene tiefer gilt dasselbe: Wenn Sie noch abwägen, ob Sie überhaupt gehostete APIs aufrufen wollen, lesen Sie zuerst lokale LLMs vs. Cloud-APIs — das günstigste Gateway ist das, das Sie nie gebraucht haben.