Zum Hauptinhalt springen
PromptQuorumFür Menschen gemacht. Strukturiert für KI.
Startseite/Lokale LLMs Pro
Mobile & Edge LLMs

On-Device-LLM-Rezension: Kostenlose Offline-KI-Chat-App für Android

·6 Min. LesezeitVon Hans Kuepper · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

On Device LLM ist eine kostenlose, nicht quelloffene Android-App, die Open-Weight-Modelle wie Llama 3.2 laut eigener Angabe ohne Konto auf dem Telefon ausführt. Das Projekt ist brandneu, seine Angaben beruhen daher auf einem Eintrag und einer Erklärung, die niemand unabhängig getestet hat.

Wichtigste Erkenntnisse

  • Entwickler: eine Einzelperson in Indien, bei Google Play als Raushan kumar Pandey geführt; die Store-Seite zeigt zudem die Zeile „Feather AI“.
  • Alter und Reichweite: Die erste Veröffentlichung ist Version 1.0, zuletzt aktualisiert am 11. September 2026, und Google Play zeigt 100+ Downloads; es gibt also noch keine Erfolgsbilanz.
  • Plattform: Android 7.0 oder neuer auf 64-Bit-Geräten, nur über Google Play; ein Build für iPhone, Desktop oder Web wurde nicht gefunden.
  • Pflege: Das letzte Update liegt zum 26. Oktober 2026 45 Tage zurück, daher gilt keine Warnung wegen fehlender Pflege.

📍 In einem Satz

On Device LLM ist eine nicht quelloffene Android-App, die laut Entwickler Open-Weight-Sprachmodelle ohne Konto, ohne Werbung und ohne Server auf dem Telefon ausführt.

💬 In einfachen Worten

Sie installieren die App über Google Play, laden eines von sieben Modellen herunter (oder fügen den Link zu Ihrer eigenen GGUF-Datei ein) und chatten damit; die Software, die die Modelle ausführt, nennt der Entwickler nicht.

📌Hinweis: Diese Rezension stützt sich auf den Google-Play-Eintrag sowie die Website und die Datenschutzerklärung des Entwicklers, geprüft am 26. Oktober 2026. Es wurde weder die App praktisch genutzt noch ein Benchmark oder eine Netzwerkanalyse durchgeführt.

Lesen auf:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

On Device LLM ist eine kostenlose Android-Chat-App, die laut Google-Play-Eintrag und Datenschutzerklärung Open-Weight-Sprachmodelle ohne Konto auf dem Telefon ausführt. Bei Google Play heißt sie „Local LLM“; sie ist eine andere App als die iPhone- und Mac-Apps On Device AI und AI on Device. Diese Rezension gibt den Store-Eintrag sowie die Website und die Datenschutzerklärung des Entwicklers wieder, wie am 26. Oktober 2026 geprüft.

On-Device-LLM-Rezension: Kostenlose Offline-KI-Chat-App für Android

Was ist On Device LLM?

On Device LLM ist eine Chat-App für Android, die laut Google-Play-Eintrag Eingaben mit Open-Weight-Modellen beantwortet, die auf dem Telefon laufen statt in einem Cloud-Dienst. Der Eintrag heißt „Local LLM“, während die Website und die Datenschutzerklärung des Entwicklers von „local LLM“ sprechen und KI-Chat auf dem Gerät für Android beschreiben; diese Rezension verwendet „On Device LLM“, um die App von den iPhone- und Mac-Apps On Device AI und AI on Device abzugrenzen, die einen anderen Entwickler, eine andere Plattform und einen anderen Paketnamen haben.

Als Entwickler nennt der Eintrag Raushan kumar Pandey in Indien; das Android-Paket heißt com.ondevicellm. Die App wird ausschließlich über Google Play veröffentlicht.

Bezugsquelle

On Device LLM wird wie jede andere Android-App über Google Play installiert; ein Terminal oder ein Konto sind nicht nötig. Der erste Modell-Download umfasst 369 MB oder mehr, daher braucht der erste Start eine Verbindung und freien Speicherplatz.

Plattform
Bezugsquelle
AndroidGoogle Play (kostenlose Installation, 64-Bit-Android 7.0 oder neuer)
Websiteon-device-llm-ff80d.web.app (Entwicklerseite nur mit Rechtstexten)
DatenschutzerklärungDatenschutzerklärung (zuletzt aktualisiert am 24. August 2026)

Geprüfte Version: 1.0, bei Google Play zuletzt aktualisiert am 11. September 2026; die Versionshinweise nennen sie die erste Veröffentlichung. Der Eintrag nennt kein Quellcode-Repository.

Von den Quellen bestätigte Funktionen

Jeder Punkt unten stammt aus der Beschreibung bei Google Play oder der Datenschutzerklärung.

  • Sieben integrierte Modelle. SmolLM2 360M, Qwen2.5 0.5B, TinyLlama 1.1B, Llama 3.2 1B, Qwen2.5 1.5B, Gemma 2 2B und Llama 3.2 3B, jeweils mit Angabe der Downloadgröße, bevor Sie sich entscheiden; Modelle lassen sich wechseln, ohne den Chat zu verlassen.
  • Eigene Modelle. Sie können den direkten Link zu einer beliebigen GGUF-Datei einfügen.
  • Gespeicherte Chats. Unterhaltungen werden in einer Datenbank auf dem Gerät gespeichert, Titel schreibt das Modell, Markdown und Codeblöcke werden dargestellt und lassen sich mit einem Tipp kopieren, und alle Chats können auf einmal gelöscht werden.
  • Optionale lokale API. Ein OpenAI-kompatibler HTTP-Endpunkt auf Port 11434 erlaubt es curl, dem Python-SDK oder eigenen Skripten, das Modell des Telefons per WLAN oder USB zu nutzen, mit Streaming. Er ist standardmäßig aus und zeigt bei Aktivität eine Benachrichtigung.
  • Anforderungen. Der Eintrag nennt je nach Modell etwa 1 bis 3 GB freien Arbeitsspeicher (RAM) und sagt, größere Modelle seien auf älteren Telefonen spürbar langsamer.

Datenschutz und Netzwerknutzung

Laut Datenschutzerklärung bleiben Nachrichten und Antworten in einer privaten Datenbank auf dem Gerät, und kein Prompt wird je an einen Server gesendet. Es gibt kein Konto, und laut Eintrag gibt es keine Werbung. Der Abschnitt „Datensicherheit“ (Data safety) bei Google Play sagt „Keine Daten erhoben“ und „Keine Daten an Dritte weitergegeben“.

Die Erklärung ist detaillierter als diese Karte. Sie sagt, die App nutze Google Firebase Analytics, um anonyme Ereignisse aufzuzeichnen: Ereignisnamen, den Modellnamen, die Nachrichtenlänge in Zeichen (nicht den Text), Dauern, eine anonyme App-Instanz-ID und übliche Geräteinformationen. Außerdem nennt sie Modell-Downloads vom ausgewählten Host (standardmäßig huggingface.co) und beim Start eine schreibgeschützte Google-Cloud-Firestore-Anfrage für den Modellkatalog und Update-Prüfungen. Beide Aussagen unterscheiden sich bei der Analyse, daher ist die Erklärung die ausführlichere Quelle.

Die optionale lokale API hat keine Authentifizierung: Laut Erklärung kann jedes Gerät in Ihrem Netzwerk, das das Telefon erreicht, Prompts senden und Antworten lesen; sie rät, die API nur in Netzwerken zu aktivieren, denen Sie vertrauen.

📌Hinweis: Die App ist nicht quelloffen, daher lässt sich keine dieser Angaben im Code prüfen, und PromptQuorum hat den Netzwerkverkehr nicht geprüft. Wer vertrauliche Inhalte verarbeitet, sollte das Verhalten zuerst auf dem eigenen Gerät überprüfen.

Für wen sich die App eignet

  • Android-Nutzer, die eine kostenlose Offline-Chat-App mit eigener Modellwahl wünschen. Der Import per GGUF-Link ist der wichtigste Grund, sie auszuprobieren.
  • Entwickler, die in einem vertrauenswürdigen Netzwerk einen Endpunkt auf dem Telefon betreiben wollen. Die lokale API ist der andere.

Was wir nicht überprüfen konnten

  • Praktische Leistung. Geschwindigkeit, Akkuverbrauch und Antwortqualität wurden nicht getestet, und niemand hat hier bestätigt, dass der Chat im Flugmodus funktioniert.
  • Die Laufzeitumgebung. Der Eintrag sagt, die Modelle seien GGUF-Dateien, nennt aber die Inferenz-Engine nicht.
  • Lizenz und Quellcode. Es wurde kein öffentliches Repository gefunden, daher gilt die App als nicht quelloffen; außerdem trägt jedes Modell die eigene Lizenz seines Herausgebers.
  • In-App-Käufe. Die Installation ist kostenlos, und die Beschreibung nennt weder Käufe noch Werbung, doch die Karte „Datensicherheit“ nennt kein Geschäftsmodell.
  • Der Entwicklerkontakt. Die Datenschutzerklärung zeigt eine Platzhalter-Kontaktadresse (SUPPORT@EXAMPLE.COM); die Support-E-Mail-Adresse steht im Google-Play-Eintrag.

Wettbewerber und Alternativen

PocketPal AI

Plattformen:
iOS, Android
Preis / Lizenz:
Kostenlos / MIT
Wesentlicher Unterschied:
Quelloffener On-Device-Chat-Client mit eigener Modellbibliothek
Artikel über PocketPal AI (10)

+44 weitere nicht angezeigt

Private Mind

Plattformen:
iOS, Android
Preis / Lizenz:
Kostenlos / MIT
Wesentlicher Unterschied:
Quelloffener Offline-Chat mit Dokumenten-Q&A auf dem Gerät und Benchmarks
Artikel über Private Mind (2)

Auch erwähnt in:

+9 weitere nicht angezeigt

ToolNeuron

Plattformen:
Android
Preis / Lizenz:
Kostenlos / MIT
Wesentlicher Unterschied:
Quelloffene, verschlüsselte On-Device-KI-App für Android
Artikel über ToolNeuron (4)

Auch erwähnt in:

Details zu Wettbewerbern ändern sich häufig; prüfen Sie aktuellen Preis, Lizenz und Plattformen jeder App in ihrem eigenen Eintrag.

Im Verzeichnis vergleichen

Häufig gestellte Fragen

Ist On Device LLM dasselbe wie On Device AI oder AI on Device?

Nein. Das sind getrennte iPhone- und Mac-Apps anderer Entwickler; diese hier ist eine Android-App mit dem Paketnamen com.ondevicellm.

Kann ich ein Modell verwenden, das nicht in der Liste steht?

Laut Eintrag können Sie einen direkten Link zu einem beliebigen GGUF-Modell einfügen. Ob ein bestimmtes Modell gut läuft, hängt vom Arbeitsspeicher Ihres Telefons ab, und seine Lizenz legt sein Herausgeber fest.

Läuft die App auf dem iPhone oder auf dem Desktop?

Ein solcher Build wurde nicht gefunden; die Website des Entwicklers beschreibt die App als KI-Chat auf dem Gerät für Android.

Fazit

On Device LLM ist eine kostenlose Android-Chat-App mit klarem Offline-Versprechen, GGUF-Link-Import und lokaler API, aber sie ist erst kürzlich erschienen, nicht quelloffen und hat 100+ Downloads, und ihre Angaben zu Offline-Betrieb und Datenschutz sind ungetestet. Sie eignet sich für Leser, die einen kleinen Assistenten ohne Konto ausprobieren und diese Risiken akzeptieren; wer einen quelloffenen, etablierten Client möchte, sollte PocketPal AI oder Private Mind vergleichen.

Quellen

← Zurück zu Lokale LLMs Pro

MCP