MLXHub-Rezension: MLX-Chat auf dem Gerät und LAN-Server für iPhone und iPad

MLXHub wird über den Apple App Store vertrieben. Der Download umfasst 73 MB, und die App lässt sich kostenlos laden, mit In-App-Käufen.

Diese Rezension ist ein Begleitartikel zum Verzeichnis lokaler LLM-Software von PromptQuorum, das MLXHub neben anderen mobilen und Desktop-Tools für lokale KI listet.

MLXHub ist zuerst ein Modell-Runner auf dem Gerät und erst in zweiter Linie ein Chat-Client. Der englischsprachige Eintrag wirbt mit „private offline chat & tools" und sagt, die App lasse Sie „run supported larger models and serve chat and embeddings across your local network" (Zitate aus dem englischen Eintrag). Laut offizieller Website ist sie nativ in Swift auf mlx-swift gebaut, Apples MLX-Framework für Apple silicon.

Veröffentlicht wird sie von Juan Colilla, mit dem Copyright-Vermerk „DreamFoundries EU". Verwechseln Sie sie nicht mit mlxhub.ai, einer separaten, nur für macOS verfügbaren App eines anderen Entwicklers, die denselben Namen trägt.

Diese Rezension stützt sich ausschließlich auf den App-Store-Eintrag und die offizielle Website. Praktische Tests sind nicht enthalten, daher werden Geschwindigkeit, Stabilität und Antwortqualität hier nicht bewertet.

Die Einrichtung besteht aus einer Installation über den App Store und anschließend einem Modell-Download von Hugging Face. Der Eintrag dokumentiert den ersten Start nicht, daher folgen die Schritte unten dem, was Eintrag und Website angeben.

MLXHubs Stärke ist die Breite rund um den Modell-Runner. Alles Folgende stammt aus dem App-Store-Eintrag und der offiziellen Website.

Der LAN-Server macht Ihr Gerät zu einem kleinen OpenAI-kompatiblen Endpunkt. Der Eintrag nennt die Routen /v1/chat/completions und /v1/embeddings. Laut offizieller Website stellt er außerdem eine schlanke Chat-Seite bereit, die jeder im selben WLAN im Browser öffnen kann, um mit den geladenen Modellen zu sprechen; er bindet sich nur an lokale Schnittstellen, ohne Portweiterleitung.

Verteilte Inferenz bündelt mehrere Ihrer eigenen Geräte. Ein Gerät fungiert als Host, die anderen schließen sich an und übernehmen jeweils einen Teil der Modellschichten, sodass sich ein Modell laden lässt, das auf keines davon allein passt. Die Website nennt die Geräte gekoppelt und den Datenverkehr verschlüsselt und gibt an, dass nichts das Netzwerk verlässt. Der Durchsatz über WLAN ist nicht veröffentlicht; rechnen Sie daher damit, dass es langsamer ist als auf einem einzelnen Gerät, auf das das Modell passt.

MLXHub setzt iOS oder iPadOS 26.0 oder neuer, ein Gerät mit Apple silicon und mindestens 6 GB RAM voraus. Die offizielle Website empfiehlt einen A17-Pro- oder M1-Chip oder neuer. Der App-Store-Eintrag zeigt für dieselbe App außerdem die Verfügbarkeit für macOS 26.0 (Apple M1 oder neuer) und visionOS 26.0, ohne eine eigene Desktop-Version zu beschreiben.

Der RAM ist die eigentliche Grenze. Apple setzt auf dem iPhone strengere Speichergrenzen für Apps durch als auf dem iPad, daher passen größere Modelle häufiger auf ein iPad. Die Website warnt, dass sich ein Modell, das nicht passt, mitunter dennoch herunterladen lässt, und dass die App versucht, das Laden zu verhindern, bevor iOS die App beendet, ohne dass dies garantiert ist.

MLXHub lässt sich kostenlos herunterladen; MLXHub Plus ist mit $6.99 pro Monat, $44.99 pro Jahr und einem Einmalkauf für $229.99 gelistet. Weder der Eintrag noch die Website nennen, welche Funktionen Plus freischaltet, prüfen Sie daher die Paywall in der App, bevor Sie sich auf eine Funktion verlassen. Modelle laden Sie kostenlos von Hugging Face herunter, ohne Gebühren pro Token.

Laut offizieller Website läuft die Inferenz vollständig auf dem Gerät, es gibt keine Konten, und nichts identifiziert Sie. Sie gibt außerdem an, dass die App seit Version 2.0.0 anonyme Analyse- und Diagnosedaten sendet, die erfassen, welche Funktionen Sie nutzen, welche Geräteklasse vorliegt und ob ein Modell geladen wurde, und dass Sie dies in den Einstellungen abschalten können.

Die App ist nicht quelloffen, und diese Rezension hat den Netzwerkverkehr nicht untersucht, die Datenschutzangaben stammen also vom Entwickler selbst. Wenn Sie den LAN-Server aktivieren, sind die Daten darauf nur so privat wie Ihr WLAN.

MLXHub passt auf dem Papier gut zu jemandem mit einem aktuellen iPad oder iPhone, der Offline-MLX-Chat möchte, dazu die Option, das Gerät als lokalen Endpunkt zu nutzen oder mehrere Geräte für ein größeres Modell zu bündeln.

Die Vorbehalte sind Transparenz und Alter: Die App ist nicht quelloffen, die Plus-Funktionen sind nicht dokumentiert, das Tempo bei der Aufteilung auf mehrere Geräte ist nicht veröffentlicht, und der Eintrag zeigte zum Zeitpunkt der Rezension nur sieben Bewertungen.

Wenn Sie Open Source wollen, beginnen Sie mit Private Mind. Wenn Sie den LAN-Server oder die Aufteilung auf mehrere Geräte möchten, probieren Sie zuerst die kostenlose Stufe von MLXHub aus.