Wichtigste Erkenntnisse
- Ein Software Development Kit (SDK), keine eigenständige, herunterladbare App — siehe Installation und Einstieg unten dazu, wie Entwickler es tatsächlich in ein Projekt einbinden
- Deckt LLM-Chat, Speech-to-Text (STT), Text-to-Speech (TTS), Voice Activity Detection (VAD), Vision-Language-Modelle (VLM), Embeddings und Retrieval-Augmented Generation (RAG) ab, laut dem eigenen GitHub-README des Projekts
- Läuft auf einer gemeinsamen nativen C++-Laufzeitumgebung mit hardwarespezifischen Engines: MetalRT für Apple Silicon und QHexRT für Qualcomm-Hexagon-NPUs
- Kostenlos unter der „RunAnywhere License" für Einzelpersonen, Bildungseinrichtungen, Non-Profit-Organisationen, Behörden, OSI-anerkannte Open-Source-Projekte sowie Organisationen mit unter 1 Mio. USD Finanzierung UND unter 1 Mio. USD Jahresumsatz; größere kommerzielle Organisationen benötigen eine kostenpflichtige Lizenz von RunAnywhere, Inc. — siehe Lizenz und Preise unten für die vollständige Nuance
- Native SDKs für Swift (iOS 17.5+/macOS 14.5+), Kotlin (Android API 24+), Flutter, React Native, Web (TypeScript/WASM), Python sowie ein Terminal-CLI (
rcli) - Das GitHub-Repository (github.com/RunanywhereAI/runanywhere-sdks) zeigt zum Zeitpunkt dieser Review rund 10.300 Sterne und 376 Forks
- Entwickler: RunAnywhere, Inc., das sich selbst als „research-first inference lab" beschreibt, das handgeschriebene GPU-/NPU-Kernel für Consumer-Silizium entwickelt
📍 In einem Satz
RunAnywhere ist ein On-Device-KI-SDK, das Entwickler in iOS-, Android-, Flutter-, React-Native- und Web-Apps einbetten, um LLM-, Sprach- und Sprach-Erkennungsfunktionen lokal auszuführen — kostenlos für kleine Organisationen und nicht-kommerzielle Nutzung unter einer eigenen, angepassten Lizenz.
💬 In einfachen Worten
Statt einer Chat-App, die man selbst installiert, ist RunAnywhere ein Werkzeugkasten, den App-Entwickler in ihre eigene Software einbauen, damit ihre App KI-Funktionen — mit einem Modell chatten, Sprache transkribieren oder Text vorlesen — direkt auf Ihrem Smartphone oder Laptop ausführen kann, ohne etwas an einen Server zu senden. Wer selbst keine App entwickelt, wird nicht direkt mit RunAnywhere interagieren, sondern es allenfalls innerhalb einer damit gebauten App antreffen.
📌Hinweis: Diese Review ist das vertiefende Begleitstück zu RunAnywheres Eintrag im lokalen KI-Software-Verzeichnis — dort finden Sie einen schnellen Überblick, wie RunAnywhere im Vergleich zu Dutzenden anderer lokaler KI-Tools abschneidet.
Was ist RunAnywhere?
RunAnywhere ist ein Software Development Kit für KI-Inferenz auf dem Gerät, auf dem eine App bereits läuft, statt bei jeder Anfrage eine Cloud-API aufzurufen. Laut der eigenen GitHub-Beschreibung positioniert sich das Projekt als „ein SDK. Jedes Gerät. LLMs, Vision, Sprache, Voice Agents, RAG, Embeddings und Bildgenerierung — lokal auf Smartphones, Browsern, Desktops und Servern." Es richtet sich gezielt an Entwickler, die eigene iOS-, Android-, Flutter-, React-Native- oder Web-Anwendungen bauen — nicht an Nutzer, die eine Chat-App zum direkten Installieren suchen.
- Kernfunktion: eine gemeinsame C++-Laufzeitumgebung plus plattformspezifische SDKs (Swift, Kotlin, Flutter, React Native, TypeScript, Python), die dasselbe API-Muster für die lokale Modellausführung bereitstellen
- Beispiel-API-Aufruf aus RunAnywheres eigener Dokumentation:
RunAnywhere.llm.generate("Name three colours")— dieselbe Aufrufstruktur soll unabhängig davon funktionieren, ob die zugrundeliegende Plattform Swift, Kotlin oder JavaScript ist - Entwickler: RunAnywhere, Inc., ein Unternehmen, das sich als „research-first inference lab" beschreibt, das eigene GPU- und NPU-Kernel für Consumer-Hardware schreibt, statt sich ausschließlich auf allgemeine Inferenz-Bibliotheken zu verlassen
- Kanonisches Repository: github.com/RunanywhereAI/runanywhere-sdks — das Monorepo, das die gemeinsame Laufzeitumgebung und alle plattformspezifischen SDK-Pakete hostet
- Dokumentation: docs.runanywhere.ai, mit plattformspezifischen Quickstart-Anleitungen für Swift, Kotlin, React Native, Flutter, Web und Electron
Installation und Einstieg
RunAnywhere ist von einem „Download"-Schritt im üblichen Sinne ausgenommen — es gibt keinen Installer oder App-Store-Eintrag für das SDK selbst, da es sich um Code handelt, den ein Entwickler in das eigene Projekt einbindet. Die folgenden Befehle stammen aus dem eigenen GitHub-README von RunAnywhere und dem pub.dev-Eintrag — prüfen Sie diese Seiten direkt für die aktuelle Versionsnummer, da RunAnywhere häufig neue Releases veröffentlicht.
- 1iOS / macOS (Swift)
Why it matters: Fügen Sie das Paket über Swift Package Manager hinzu, mit Verweis auf `https://github.com/RunanywhereAI/runanywhere-sdks`. Erfordert iOS 17.5+ oder macOS 14.5+. - 2Android (Kotlin)
Why it matters: Fügen Sie die Gradle-Abhängigkeit hinzu: `implementation("io.github.sanchitmonga22:runanywhere-sdk:0.20.11")` (plus ein Engine-Modul wie `runanywhere-llamacpp` für das llama.cpp-basierte Inferenz-Backend). Erfordert Android API 24+. - 3Flutter
Why it matters: In `pubspec.yaml` hinzufügen: `runanywhere: ^0.20.11` (plus `runanywhere_llamacpp: ^0.20.11` für die lokale Inferenz-Engine). Paketseite: [pub.dev/packages/runanywhere](https://pub.dev/packages/runanywhere). - 4Web (TypeScript/WASM)
Why it matters: Installation über npm: `npm install @runanywhere/web@0.20.11 @runanywhere/web-llamacpp@0.20.11`. Läuft im Browser mittels WebAssembly, mit WebGPU-Beschleunigung, sofern der Browser dies unterstützt. - 5Python
Why it matters: Installation über pip: `pip install runanywhere`. Zielt auf Desktop-/Server-Nutzung unter Windows, macOS und Linux. - 6Terminal (rcli)
Why it matters: macOS/Linux: `brew install runanywhereai/tap/rcli`, oder das Installationsskript `curl -fsSL https://raw.githubusercontent.com/RunanywhereAI/RCLI/main/install.sh | sh`. Windows: `irm https://raw.githubusercontent.com/RunanywhereAI/RCLI/main/install.ps1 | iex`.
Lizenz und Preise: Die Nuance, die die meisten Reviews übersehen
RunAnywhere ist nicht einfach „Open Source" — es wird unter einer angepassten Lizenz veröffentlicht, die das eigene Repository als „auf Apache 2.0 basierend, mit zusätzlichen kommerziellen Bedingungen" beschreibt, nicht als unveränderte Apache License 2.0. Laut einer direkten Lektüre der LICENSE-Datei im SDK-Repository erfordert die kostenlose Nutzung bestimmte Bedingungen, und eine gewinnorientierte Organisation oberhalb bestimmter Schwellenwerte benötigt eine separate kommerzielle Lizenz.
Einzelperson (persönliche, bildungsbezogene, nicht-kommerzielle Nutzung)
- Lizenzbedingungen:
- Kostenlos unter der RunAnywhere License
Bildungseinrichtung, Non-Profit-Organisation, Behörde oder OSI-anerkanntes Open-Source-Projekt
- Lizenzbedingungen:
- Kostenlos unter der RunAnywhere License
Organisation unter 1 Mio. USD Finanzierung UND unter 1 Mio. USD Jahresumsatz
- Lizenzbedingungen:
- Kostenlos unter der RunAnywhere License
Organisation oberhalb einer der beiden Schwellen
- Lizenzbedingungen:
- Benötigt eine kostenpflichtige kommerzielle Lizenz von RunAnywhere, Inc. (Kontakt laut LICENSE-Datei: san@runanywhere.ai)
Eine qualifizierte Organisation erhält die Fallback-Regelung aus Teil III der Lizenz, die Apache-License-2.0-artige Bedingungen gewährt (unbefristete, weltweite, nicht-exklusive Rechte zur Nutzung, Änderung und Weitergabe) — aber nur solange sie die Qualifikationsbedingungen weiter erfüllt. Laut Lizenztext gilt: Wenn eine Organisation zunächst qualifiziert ist und später einen der beiden Schwellenwerte (1 Mio. USD Finanzierung oder 1 Mio. USD Umsatz) überschreitet, „erlischt die kostenlose Lizenz automatisch bei Überschreiten der Schwelle", und eine kommerzielle Lizenz „muss innerhalb von dreißig (30) Tagen erworben werden". Dies unterscheidet sich wesentlich von einer üblichen, freizügigen Open-Source-Lizenz ohne umsatzbezogene Bedingungen — lesen Sie die aktuelle LICENSE-Datei selbst, bevor Sie eine rechtliche oder Beschaffungsentscheidung auf eine Zusammenfassung stützen, auch auf diese hier, da sich Lizenzbedingungen zwischen Releases ändern können. Eine weitere Nuance, die explizit erwähnt werden sollte: Diese Review konnte nicht unabhängig bestätigen, dass jedes plattformspezifische Paket (zum Beispiel das Flutter-Paket auf pub.dev) eine separat abgegrenzte, einfache Apache-2.0-Lizenz trägt, die sich von der Kern-RunAnywhere-License unterscheidet — das Lizenzfeld von pub.dev für das Flutter-Paket ist als nicht spezifiziert ausgewiesen und verweist auf dieselbe Repository-LICENSE-Datei, statt eine separate Lizenz zu deklarieren. Prüfen Sie die LICENSE-Datei, die im jeweils genutzten Paket enthalten ist, statt anzunehmen, dass ein plattformspezifisches SDK uneingeschränkt Apache-2.0-lizenziert ist.
Was kann man mit RunAnywhere bauen?
RunAnywheres Funktionsumfang erstreckt sich über mehrere Kategorien von On-Device-KI, die alle über dasselbe API-Muster in den unterstützten Sprachen bereitgestellt werden, laut dem GitHub-README und der Dokumentation des Projekts.
- LLM-Chat und Textgenerierung — offene Sprachmodelle On-Device für Chat, Zusammenfassung oder strukturierte Generierung ausführen, ohne Netzwerkaufruf pro Anfrage
- Speech-to-Text (STT) — gesprochenes Audio lokal in Text umwandeln
- Text-to-Speech (TTS) — aus Text lokal gesprochenes Audio erzeugen
- Voice Activity Detection (VAD) — erkennen, wann ein Nutzer spricht — ein Baustein für Voice-Agent- und Push-to-Talk-Funktionen
- Vision-Language-Modelle (VLM) — Modelle ausführen, die sowohl Bilder als auch Text verarbeiten können, einschließlich der von RunAnywhere selbst dokumentierten OCR-Unterstützung
- Embeddings — Vektor-Embeddings On-Device erzeugen, nützlich für On-Device-Suche oder Retrieval-Augmented Generation (RAG), ohne Dokumente an einen Server zu senden
- Model Routing — RunAnywheres eigenes Material beschreibt eine Routing-Schicht zur Auswahl zwischen verschiedenen lokalen Modellen oder Engines je nach Aufgabe
Hardwarebeschleunigung: MetalRT, QHexRT und WebGPU
RunAnywheres eigene Positionierung lautet, dass das Unternehmen „die GPU- und NPU-Kernel handschriftlich entwickelt, die Consumer-Silizium schnell machen", statt sich nur auf allgemeine Inferenz-Bibliotheken zu verlassen. Laut dem eigenen Blog und der Dokumentation des Projekts zeigt sich das in zwei benannten, proprietären Inferenz-Engines plus browserseitiger Beschleunigung.
MetalRT
- Ziel-Hardware:
- Apple Silicon (Metal/MLX)
- Was beschleunigt wird:
- LLM-, Vision-Language-Modell- und Speech-to-Speech-Pipelines auf Mac- und iOS-Geräten
QHexRT
- Ziel-Hardware:
- Qualcomm-Snapdragon-Hexagon-NPU (v75/v79/v81)
- Was beschleunigt wird:
- LLM, VLM, Speech-to-Text, Text-to-Speech und Embeddings auf unterstützten Android-Geräten
WebGPU
- Ziel-Hardware:
- Browser mit WebGPU-Unterstützung
- Was beschleunigt wird:
- In-Browser-Inferenz für das Web-/TypeScript-SDK, mit Rückfall auf reine WebAssembly-Ausführung, wo WebGPU nicht verfügbar ist
Laut RunAnywheres eigenem Blog berichtete das Unternehmen in einem Beitrag vom März 2026 von einem Vision-Language-Modell-Decode-Durchsatz auf MetalRT, der die mlx-vlm-Bibliothek auf einem M4 Max übertreffe, und in einem Beitrag vom Juli 2026 vom Einsatz eines Modells mit 27 Milliarden Parametern (ein 1-Bit-quantisiertes „PrismML Bonsai"-Modell, laut RunAnywheres eigener Beschreibung) auf iPhone, Android und Mac. Dies sind von RunAnywhere selbst über das eigene Produkt im eigenen Blog gemachte Leistungs- und Fähigkeitsangaben; PromptQuorum hat diese Benchmarks nicht unabhängig reproduziert und stellt sie hier als vom Unternehmen berichtete Zahlen dar, nicht als verifizierte Drittanbieter-Ergebnisse.
Unterstützte Plattformen und Sprachen
RunAnywhere liefert acht separate SDK-Pakete, die sich eine native Laufzeitumgebung teilen, laut dem eigenen GitHub-README.
iOS 17.5+ / macOS 14.5+
- Sprache / Paketmanager:
- Swift, über Swift Package Manager
Android API 24+
- Sprache / Paketmanager:
- Kotlin, über Gradle
iOS / Android (plattformübergreifend)
- Sprache / Paketmanager:
- Flutter, über pub.dev
iOS / Android (plattformübergreifend)
- Sprache / Paketmanager:
- React Native
Webbrowser
- Sprache / Paketmanager:
- TypeScript/WebAssembly, über npm
Windows-x64-Desktop (Vorschau)
- Sprache / Paketmanager:
- Electron
Windows / macOS / Linux
- Sprache / Paketmanager:
- Python, über pip
Terminal (macOS / Linux / Windows)
- Sprache / Paketmanager:
- rcli-CLI, über Homebrew oder ein Installationsskript
Das Windows-Desktop-SDK (Electron) wird vom Projekt selbst ausdrücklich als Vorschau gekennzeichnet — behandeln Sie es als weniger ausgereift als die Swift-, Kotlin- oder Flutter-SDKs, wenn Sie entscheiden, worauf Sie Produktivfunktionen aufbauen. Prüfen Sie stets docs.runanywhere.ai auf den aktuellen Reifegrad einer bestimmten Plattform-SDK, bevor Sie sich festlegen.
Jüngste Meilensteine
RunAnywhere veröffentlicht Engineering-Updates im eigenen Blog mit konkreten Datumsangaben. Die folgenden Punkte stammen aus diesem Blog; PromptQuorum hat die zugrunde liegenden Leistungszahlen nicht unabhängig verifiziert — behandeln Sie die Zahlen entsprechend als vom Unternehmen berichtet.
- 1Offline-Sprachassistent für Android (laut RunAnywheres Blog, Februar 2026)
Why it matters: RunAnywhere beschreibt die Auslieferung eines voll funktionsfähigen KI-Agenten auf Android ohne Cloud-Abhängigkeit. - 2FastVoice-Latenz-Meilenstein (laut RunAnywheres Blog, Februar 2026)
Why it matters: RunAnywhere berichtet von 63 ms Latenz bis zum ersten Audio-Output für eine On-Device-Sprach-Pipeline. - 3Sprach-Engine für Apple Silicon (laut RunAnywheres Blog, März 2026)
Why it matters: RunAnywhere beschreibt dies als die erste eigene Inferenz-Engine, die LLM, STT und TTS gemeinsam auf Apple Silicon verarbeitet. - 4MetalRT-Unterstützung für Vision-Language-Modelle (laut RunAnywheres Blog, März 2026)
Why it matters: RunAnywhere berichtet von einem Vision-Modell-Decode-Durchsatz auf Apple Silicon, der laut eigener Angabe die mlx-vlm-Bibliothek auf einem M4 Max übertrifft. - 5MetalRT-Unterstützung für Speech-to-Speech (laut RunAnywheres Blog, März 2026)
Why it matters: RunAnywhere berichtet von 1,68 Sekunden End-to-End-Latenz für eine native Speech-to-Speech-Pipeline. - 6QHexRT-Start für Qualcomm-Hexagon-NPUs (laut RunAnywheres Blog, Juni 2026)
Why it matters: RunAnywhere beschreibt dies als vollständige NPU-Inferenz-Engine, die LLM, VLM, STT, TTS und Embeddings auf unterstützten Snapdragon-Geräten abdeckt. - 7Modell mit 27 Milliarden Parametern auf Smartphone-Hardware (laut RunAnywheres Blog, Juli 2026)
Why it matters: RunAnywhere berichtet vom Einsatz eines 1-Bit-quantisierten 27B-Modells auf iPhone, Android und Mac — nach eigener Beschreibung das erste 1-Bit-Modell, das das Unternehmen auf einer NPU ausgeführt hat.
Für wen eignet sich RunAnywhere?
RunAnywhere passt zu einer bestimmten Art von Entscheidung: einem Entwicklungsteam, das eine eigene mobile oder Web-Anwendung baut und On-Device-KI-Funktionen statt einer Abhängigkeit von einer Cloud-API möchte.
Konkurrenten und Alternativen
RunAnywhere ist im Segment der On-Device-Inferenz-SDKs/-Laufzeitumgebungen angesiedelt, neben anderen Tools, die Entwicklern erlauben, Modelle lokal auszuführen, statt über eine Cloud-API. Siehe das lokale KI-Software-Verzeichnis für den vollständigen Katalog.
- MLC LLM — ein Open-Source-ML-Kompilierungsframework für die Bereitstellung von LLMs auf Smartphones, Browsern und anderen Edge-Geräten; ein näherer Vergleich für Teams, die den Inferenzgraphen selbst kompilieren und kontrollieren möchten, statt ein verwaltetes SDK zu nutzen.
- MLC Chat — die Referenz-Chat-App für Mobilgeräte, gebaut auf MLC LLM; nützlich als funktionierendes Beispiel dafür, wie sich ein On-Device-SDK aus Endnutzersicht anfühlt, auch wenn es sich um eine herunterladbare App und kein Entwickler-SDK handelt.
- llama.cpp — die weit verbreitete C/C++-Inferenz-Engine, auf der viele lokale KI-Tools aufbauen, einschließlich RunAnywheres eigener Android/Kotlin- und Flutter/Web-Engine-Module, für CPU- und plattformübergreifende Inferenz.
- Docker Model Runner — ein anderer Integrationspunkt für lokale Inferenz (eine CLI-Funktion von Docker Desktop/Engine statt eines Mobile-App-SDKs), nützlich als Kontrast für Teams, die zwischen einem Backend-/serverseitigen Ansatz für lokale Inferenz und einem in die Client-App eingebetteten On-Device-SDK abwägen.
Häufige Fehler bei der Bewertung von RunAnywhere
Die meiste Verwirrung über RunAnywhere entsteht durch die Lizenzbedingungen, den Umstand, dass es sich um ein SDK und keine App handelt, oder durch die Übergeneralisierung vom Unternehmen berichteter Benchmark-Angaben.
Häufig gestellte Fragen
Was ist RunAnywhere?
RunAnywhere (runanywhere.ai, Quellcode unter github.com/RunanywhereAI/runanywhere-sdks) ist ein On-Device-KI-SDK, das Entwickler in iOS-, Android-, Flutter-, React-Native- und Web-Anwendungen einbinden, um LLM-Chat, Speech-to-Text, Text-to-Speech, Voice Activity Detection und Vision-Language-Modelle lokal auf dem Gerät des Nutzers auszuführen.
Ist RunAnywhere kostenlos?
Es ist unter der eigenen „RunAnywhere License" kostenlos für Einzelpersonen, Bildungseinrichtungen, Non-Profit-Organisationen, Behörden, OSI-anerkannte Open-Source-Projekte sowie Organisationen mit unter 1 Million US-Dollar Finanzierung UND unter 1 Million US-Dollar Jahresumsatz. Organisationen oberhalb einer der beiden Schwellen benötigen eine kostenpflichtige kommerzielle Lizenz von RunAnywhere, Inc.
Ist RunAnywhere Open Source?
Teilweise, mit Bedingungen. Das eigene Repository beschreibt die Lizenz als „auf Apache 2.0 basierend, mit zusätzlichen kommerziellen Bedingungen", nicht als unveränderte Apache License 2.0. Qualifizierte Nutzer erhalten Apache-2.0-artige Rechte, aber die kostenlose Stufe hängt davon ab, unterhalb bestimmter Finanzierungs- und Umsatzschwellen zu bleiben — lesen Sie die LICENSE-Datei direkt, bevor Sie sich für eine rechtliche Entscheidung darauf verlassen.
Ist RunAnywhere eine herunterladbare App?
Nein. RunAnywhere ist ein Software Development Kit (SDK), das Entwickler in ihre eigenen Anwendungen integrieren — es ist nichts, das ein Endnutzer direkt herunterlädt und öffnet. Sie würden es nur innerhalb einer App antreffen, die ein Entwicklungsteam damit gebaut hat.
Welche Plattformen unterstützt RunAnywhere?
Swift für iOS 17.5+ und macOS 14.5+, Kotlin für Android API 24+, Flutter, React Native, ein TypeScript-/WebAssembly-SDK für Webbrowser, ein Python-Paket, eine Electron-basierte Windows-Desktop-Vorschau sowie ein Terminal-CLI namens rcli.
Wie installiere ich das RunAnywhere-Flutter-SDK?
Fügen Sie runanywhere: ^0.20.11 (und ein Engine-Paket wie runanywhere_llamacpp) zu Ihrer pubspec.yaml hinzu. Siehe pub.dev/packages/runanywhere für die aktuelle Version.
Welche KI-Funktionen unterstützt RunAnywhere?
LLM-Chat und Textgenerierung, Speech-to-Text, Text-to-Speech, Voice Activity Detection, Vision-Language-Modelle (einschließlich OCR), Embeddings, Retrieval-Augmented Generation sowie Model Routing, laut der eigenen Dokumentation des Projekts.
Nutzt RunAnywhere NPU- oder GPU-Beschleunigung?
Ja. RunAnywhere berichtet von zwei proprietären Inferenz-Engines: MetalRT für Apple Silicon (Metal/MLX) und QHexRT für Qualcomm-Snapdragon-Hexagon-NPUs (v75/v79/v81), plus WebGPU-Beschleunigung in unterstützten Browsern.
Wie viele GitHub-Sterne hat RunAnywhere?
Rund 10.300 Sterne und 376 Forks auf github.com/RunanywhereAI/runanywhere-sdks zum Zeitpunkt dieser Review — prüfen Sie das Repository direkt für die aktuelle Zahl.
Wie unterscheidet sich RunAnywhere von MLC LLM?
MLC LLM ist ein Open-Source-ML-Kompilierungsframework, mit dem Sie Modelle selbst kompilieren; RunAnywhere ist ein verwaltetes SDK mit vorgefertigten nativen Engines (MetalRT, QHexRT) und einem einheitlichen API-Muster über mehrere Client-Sprachen. Siehe Konkurrenten und Alternativen oben für einen ausführlicheren Vergleich.