Bestes LLM-Observability-Tool 2026: Langfuse, LangSmith oder Helicone

Die strukturelle Frage lautet, ob Sie Ihren Code instrumentieren oder einen Proxy davorsetzen — und das entscheidet, was Sie sehen können. Lesen Sie von oben und halten Sie bei der ersten Zeile inne, die auf Sie zutrifft.

LLM-Observability erfasst und speichert Traces Ihrer Modellaufrufe — Prompts, Antworten, Latenz, Token-Verbrauch und Kosten —, damit Sie Fehler analysieren, Qualitätsverschlechterungen erkennen und Ausgaben im Betrieb beobachten können. Es ist gewöhnliche Anwendungs-Observability, erweitert auf nichtdeterministisches Verhalten, bei dem dieselbe Eingabe unterschiedliche Ausgaben erzeugt und „es ist kaputt" oft „die Ausgabe wurde schlechter" heißt, nicht „es hat eine Exception geworfen".

Das ist eine andere Aufgabe als Evaluation. Observability beobachtet, was Ihr System nach dem Release tut; Evaluation sagt Ihnen vorher, ob eine Änderung ausgeliefert werden darf. Viele Teams machen beides, und mehrere dieser Werkzeuge können beides, doch die Fragen sind verschieden. Zur Hälfte vor dem Release siehe die besten LLM-Evaluationstools.

Jedes Werkzeug optimiert eine andere Stelle im Stack, statt Funktion gegen Funktion anzutreten. Die Preise stammen von den Preisseiten der Anbieter vom 28. August 2026, die Repository-Zahlen vom selben Tag aus der GitHub-API.

Langfuse ist die Standardempfehlung, weil es die längste Integrationsliste, einen wirklich kostenlosen selbst gehosteten Kern und die geringsten Wechselkosten hat, falls Sie es sich anders überlegen. Es ist zugleich das mit den meisten Einschränkungen, und die sollten Sie vorher kennen.

Wenn Ihre Anwendung auf LangChain oder LangGraph aufbaut, tracet LangSmith sie ohne jede Konfiguration, und darin erreicht es nichts anderes. Außerhalb dieses Ökosystems wird das Argument deutlich schwächer.

Helicone ist strukturell anders als die anderen drei: Es sitzt als Proxy vor Ihrem API-Aufruf statt als SDK in Ihrem Code. Diese eine Entscheidung erklärt sowohl den größten Vorteil als auch die wesentliche Grenze.

PromptLayer ist schmaler als die anderen drei, und das ist Absicht statt Mangel. Es macht Prompt-Versionierung und Request-Logging und gibt nicht vor, eine vollständige Observability-Plattform zu sein.

ClickHouse, Inc. hat Langfuse am 16. Januar 2026 übernommen, angekündigt zusammen mit der 400 Millionen Dollar schweren Series D von ClickHouse unter Führung von Dragoneer. Über die Übernahme berichtete damals SiliconANGLE; bestätigt ist sie im ClickHouse-Blog, in einer Langfuse-GitHub-Diskussion und durch die beratende Kanzlei.

Der deutlichste Beleg steckt im Repository selbst: Die LICENSE-Datei beginnt nun mit „Copyright (c) 2023-2026 ClickHouse, Inc." Das Projekt wird weiter aktiv entwickelt und wurde am Prüftag dieser Seite aktualisiert.

Es steckt eine schlüssige Logik darin. Langfuse speicherte seine Traces ohnehin in ClickHouse, der Käufer besitzt also die Datenbank unter dem Produkt und ist kein sachfremder Erwerber. Das ist eine bessere Ausgangslage als bei den meisten Übernahmen dieser Kategorie. Der Aspekt bleibt dennoch nennenswert: Roadmap-Prioritäten folgen nach einer Übernahme dem kommerziellen Interesse des Käufers, und Langfuse im Selbstbetrieb hängt nun an einem Unternehmen, das zugleich ClickHouse Cloud verkauft. Die Enterprise-Variante des Selbstbetriebs ist ausdrücklich an ClickHouse Cloud oder BYOC gekoppelt, deren Kosten additiv sind.

Langfuse ist das einzige der vier, das einen kostenlosen Selbstbetrieb dokumentiert und unterstützt — doch die vielfach wiederholte Behauptung, es gebe keine Funktionsschranke zwischen kostenlos und bezahlt, ist falsch. Die eigene Self-Host-Seite listet neun Fähigkeiten als Enterprise-exklusiv: serverseitige Datenmaskierung, projektbezogenes RBAC, Verwaltung der Aufbewahrung, SCIM-Nutzerbereitstellung, Organisationsersteller, UI-Anpassung, Audit-Logs, Admin- und Instanz-Management-APIs sowie geschützte Deployment-Labels.

Lesen Sie diese Liste vor dem Hintergrund, für wen Selbstbetrieb üblicherweise gedacht ist. Teams hosten selbst wegen Datenresidenz oder regulatorischem Druck — und RBAC, Audit-Logs und Datenmaskierung sind genau das, was ein reguliertes Team braucht. Die kostenlose Stufe deckt Observability, Evaluationen, Prompt-Verwaltung, Datensätze, Tracing und Kostenverfolgung mit unbegrenzter Nutzung wirklich ab. Governance deckt sie nicht ab.

Die anderen drei sind unkomplizierter. LangSmith beschränkt den Selbstbetrieb auf Enterprise mit individuellem Preis. PromptLayer bietet Single-Tenant-Selbstbetrieb auf GCP, AWS oder Azure nur mit Enterprise. Helicone ist der interessante Fall: Der Quelltext steht unter Apache-2.0 und ist öffentlich, doch die Preisseite verkauft On-Premises nur mit Enterprise und dokumentiert keinen unterstützten kostenlosen Selbstbetrieb — quelloffen und unterstützter Eigenbetrieb sind hier also nicht dasselbe.

Alle vier rechnen hybrid ab — eine Platz- oder Plattformgebühr plus gemessene Nutzung über einem enthaltenen Kontingent —, sodass zwei Teams auf derselben Stufe sehr unterschiedliche Rechnungen bekommen können. Das Volumen treibt die Rechnung stärker als die Kopfzahl, wofür LangSmith das deutlichste Beispiel ist.

Helicone ist um Kostentransparenz herum gebaut, und die Proxy-Architektur ist der Grund. Weil jeder Aufruf hindurchgeht, werden Kosten- und Token-Daten standardmäßig bei jeder Anfrage erfasst, ohne dass jemand über die Instrumentierung entscheiden muss — es gibt also keine blinden Flecken durch einen Dienst, den jemand zu umhüllen vergaß.

Langfuse und LangSmith erfassen Token-Verbrauch und Kosten je Trace als Teil ihrer breiteren Observability-Daten, was für die meisten Teams ausreicht. Keines der beiden stellt Kostenmanagement als eigenständige Produktfläche dar, wie Helicone es tut. PromptLayer erfasst Kosten je Anfrage, berichtet sie aber über seine Logging-Ansichten statt über ein eigenes Kosten-Dashboard.

Ehrlich gesagt ist das ein Unterschied der Betonung, nicht der Fähigkeit. Wenn Sie beantworten wollen, welches Modell und welcher Schlüssel über zwölf Dienste hinweg das Budget verbrennt, antwortet Helicone am schnellsten. Wenn Sie beantworten wollen, warum ein Agentenlauf elf Dollar gekostet hat, dient Ihnen ein SDK-Tracer besser, der die einzelnen Schritte sieht.

Stack, Anforderungen an die Datenresidenz und Teamgröße entscheiden das. Sechs Profile decken die meisten Leserinnen und Leser ab.

Observability-Traces enthalten den vollständigen Prompt und die Antwort — und damit alles, was Ihre Nutzenden getippt haben. Das macht die Entscheidung zwischen gehostet und selbst betrieben in drei wichtigen Märkten zur Datenschutzfrage.

Wenn Sie noch im Prototypenbau sind — ein paar Dutzend manuelle Aufrufe am Tag, kein Produktivverkehr, niemand sonst, der die Traces sehen muss —, überspringen Sie alle vier und nutzen Sie die Anbieter-Dashboards. Die OpenAI-Nutzungsseite und die Anthropic-Konsole zeigen Ihnen Ausgaben und Anfragevolumen bereits, und Print-Ausgaben decken den Rest in dieser Größenordnung ab.

Die Schwelle, auf die zu warten sich lohnt, ist konkret: echte Nutzende, die Verkehr erzeugen, den Sie nicht selbst ausgelöst haben, oder eine zweite Person, die beantworten muss, was das System getan hat, ohne Sie zu fragen. Beides sind Sichtbarkeitsprobleme, und genau die verkaufen diese Werkzeuge. Wer vorher einführt, konfiguriert eine Plattform gegen Nutzungsmuster, die er noch nicht kennt — und die meisten Teams konfigurieren ohnehin neu, sobald echter Verkehr eintrifft.