Zum Hauptinhalt springen
PromptQuorumFür Menschen gemacht. Strukturiert für KI.
Startseite/Lokale LLMs Pro
Mobile & Edge LLMs

PocketLLM Lite im Test: Lokale KI-Chat-App für Android

·6 Min. LesezeitVon Hans Kuepper · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

PocketLLM Lite (Version 1.0.40, veröffentlicht am 15. Oktober 2026) ist eine kostenlose Open-Source-Chat-App für Android, die Modelle auf dem Telefon oder auf einem Server unter Ihrer Kontrolle ausführt. Die Inferenz auf dem Gerät lädt nur Modellpakete im Cactus-Format, keine GGUF-Dateien, und das Projekt bezeichnet seine APKs als mit dem Debug-Zertifikat signierte Entwicklungs-Builds.

Wichtigste Erkenntnisse

  • Pflege: Das Repository wurde zuletzt am 15. Oktober 2026 aktualisiert, und seit August sind mehrere Versionen erschienen; ein Warnhinweis auf ein verwaistes Projekt entfällt.
  • Kosten: kostenlos, ohne Konto und laut README ohne Werbung oder Analyse-SDKs.
  • Laufzeiten: Cactus-Pakete auf dem Gerät, ein Ollama-Server oder ein beliebiger OpenAI-kompatibler Endpunkt.
  • Signatur: Die Release-APKs sind mit dem Debug-Zertifikat signiert, und die Betreuer nennen sie Entwicklungs-Builds.
  • Hersteller: kein genannter Entwickler; das Projekt wird von einer GitHub-Organisation betrieben.

📍 In einem Satz

PocketLLM Lite ist eine Android-App unter MIT-Lizenz, die mit Modellen chattet, die auf dem Telefon oder auf Ihrem eigenen Ollama- oder OpenAI-kompatiblen Server laufen.

💬 In einfachen Worten

Sie installieren eine APK von GitHub, laden ein kleines Modell in die App oder verweisen auf einen Server zu Hause und chatten dann oder stellen Fragen zu Ihren eigenen Dokumenten, ohne Konto.

📌Hinweis: Diese Rezension stützt sich auf die Website des Projekts, die GitHub-Version v1.0.40 und Dokumente im Repository, geprüft am 24. Oktober 2026. PromptQuorum hat die App weder installiert noch getestet; Geschwindigkeit, Antwortqualität und Stabilität sind daher nicht bewertet.

PocketLLM Lite ist eine kostenlose Android-Chat-App unter MIT-Lizenz, die kompatible Modelle auf dem Telefon ausführt oder sich mit Ihrem eigenen Ollama- oder OpenAI-kompatiblen Server verbindet. Ein Entwickler wird nicht genannt; der Code liegt in der GitHub-Organisation PocketLLM, und das Produkt hat eine eigene Website unter pocketllm-lite.vercel.app. Diese Rezension stützt sich auf diese Website, die GitHub-Version v1.0.40 und die Dokumente im Repository, geprüft am 24. Oktober 2026; PromptQuorum hat die App weder installiert noch getestet.

PocketLLM Lite im Test: Lokale KI-Chat-App für Android

Was ist PocketLLM Lite?

PocketLLM Lite ist ein lokal ausgerichteter KI-Arbeitsbereich für Android, mit Flutter entwickelt und ergänzt durch eine Web-Edition. Das Projekt beschreibt die App als Ort, an dem Chats, Dokumente, Erinnerungen und Modelle unter der Kontrolle der Nutzer bleiben; das GitHub-Repository wurde am 9. Dezember 2025 angelegt.

Die App trennt sich vom Inferenz-Backend und bietet drei Wege: Modelle auf dem Gerät über die Cactus-Laufzeit, einen Ollama-Server per Loopback oder in einem vertrauenswürdigen lokalen Netz sowie einen frei konfigurierbaren OpenAI-kompatiblen Endpunkt.

Bezugsquelle

PocketLLM Lite wird als APK-Datei über GitHub Releases verteilt, dazu gibt es eine Browser-Edition; ein Store-Eintrag ist nicht verlinkt, und eine iOS-App gibt es nicht.

Option
Bezug
Android, die meisten TelefoneAPK für arm64-v8a, rund 60 MB, mit Laufzeit für das Gerät
Android, ältere Geräte oder x86APKs für armeabi-v7a und x86_64; nur Server, OCR und Dokumente
Web-EditionWeb-App öffnen; braucht Ihren eigenen Ollama- oder OpenAI-kompatiblen Endpunkt
Websitepocketllm-lite.vercel.app
QuellcodeGitHub-Repository, MIT-Lizenz

Geprüfte Version: 1.0.40, veröffentlicht am 15. Oktober 2026 mit einer Datei SHA256SUMS; erforderlich ist Android 7.0 (API 24) oder neuer. Die APKs sind mit dem Debug-Zertifikat signiert, Android zeigt daher keinen geprüften Herausgeber an, und die Installation verlangt die Erlaubnis für unbekannte Quellen. Laut README belegt ein Modell mit 1 Mrd. Parametern bei Q4 etwa 0,7 bis 1 GB.

So gelingt der Einstieg

Die Schritte folgen dem Fünf-Minuten-Schnellstart des Projekts; PromptQuorum hat sie nicht ausgeführt.

  1. 1
    APK installieren
    Why it matters: Laden Sie die Datei für arm64-v8a von der Release-Seite herunter, vergleichen Sie sie mit SHA256SUMS.txt und installieren Sie sie.
  2. 2
    Einrichtung abschließen
    Why it matters: Legen Sie Ihre Netzwerkberechtigungen fest; Update-Prüfungen und die Online-Modellsuche sind optional.
  3. 3
    Laufzeit wählen
    Why it matters: Laden Sie ein kleines Katalogmodell für den Betrieb auf dem Gerät herunter oder tragen Sie in den Einstellungen die URL eines Ollama- oder OpenAI-kompatiblen Servers ein.
  4. 4
    Chatten oder Dokumente importieren
    Why it matters: Laut README erzeugt das gewählte Modell jede Antwort, und die App weist darauf hin, wenn eine Voraussetzung fehlt, statt eine Antwort vorzutäuschen.

Von den Quellen bestätigte Funktionen

Jeder Punkt stammt aus der README oder den Versionshinweisen; keiner wurde unabhängig getestet.

  • Chat-Arbeitsbereich. Streaming-Chat mit Verlauf, Verzweigungen, Tags, Personas, Prompts, Skills und Systemprompts pro Chat.
  • Dokumente und Gedächtnis. Import von PDF, TXT, Markdown und CSV mit Quellenangaben; die semantische Suche braucht ein installiertes Embedding-Modell, und lokale Erinnerungen lassen sich einsehen, anheften und deaktivieren.
  • Sprache und OCR. Whisper-Transkription auf dem Gerät nach einer per Prüfsumme verifizierten Modellinstallation, Sprachausgabe und Android-OCR für lateinische Schrift.
  • Werkzeuge. Validierte JSON-Werkzeugaufrufe wie Rechnen, Notizen, Erinnerungen, Zwischenablage und richtliniengesteuerte Websuche; Aktionen, die etwas ändern, fragen vorher nach.
  • Entwicklerfunktionen. Prompt Lab, Modellvergleich nebeneinander, Benchmarks auf dem Gerät und ein authentifizierter OpenAI-kompatibler Server in der App, standardmäßig nur an Loopback gebunden.

Datenfluss und Datenschutz

Laut README bleiben Chats, Dokumente, Indizes und Erinnerungen in der App-Sandbox, die Inferenz auf dem Gerät sendet nichts nach außen, und es sind keine Werbe-, Analyse- oder Tracking-SDKs enthalten. Ein Regressionstest im Repository soll den Build scheitern lassen, falls solche SDKs auftauchen.

Netzwerkzugriffe sollen ausdrücklich erfolgen: Modellsuche und Downloads, Update-Prüfungen, Websuche über Tavily mit Ihrem eigenen Schlüssel und von Ihnen konfigurierte entfernte Laufzeiten kontaktieren die angezeigten Ziele. Der Strict-Offline-Modus blockiert Datenverkehr der App außerhalb von Loopback, ein Protokoll listet die Ziele, und Backups nutzen AES-256-GCM mit einem aus dem Passwort abgeleiteten Schlüssel. Ein Prompt, der an einen Ollama- oder OpenAI-kompatiblen Server geht, verlässt das Telefon in Richtung dieses Servers.

📌Hinweis: Strict Offline ist eine Grenze auf Anwendungsebene und keine Geräte-Firewall, und laut den Sicherheitshinweisen des Projekts hat der optionale API-Server in der App weder TLS noch eine CORS-Freigabeliste; er gehört daher an Loopback oder in ein vertrauenswürdiges Netz. Das sind Aussagen des Projekts selbst; PromptQuorum hat den Netzwerkverkehr nicht untersucht.

Für wen sich die App eignet

  • Android-Nutzer, die bereits Ollama betreiben und einen Client für das Telefon mit Dokumentensuche und Protokoll wollen.
  • Tüftler, die eine Codebasis unter MIT-Lizenz möchten, die sie lesen, mit Flutter bauen und anpassen können.
  • Neugierige auf Modelle direkt auf dem Gerät, die nachinstallierte, mit dem Debug-Zertifikat signierte Builds und eine unerprobte Laufzeit in Kauf nehmen.

Was wir nicht überprüfen konnten

  • Inferenz auf dem Gerät. Die Versionshinweise sagen, dass die Token-Erzeugung nicht auf einem echten Telefon und das Laden von Modellen nur auf einem Emulator geprüft wurde; Geschwindigkeit, Speicherbedarf und Stabilität sind daher unbekannt.
  • Website gegenüber Repository. Die Website nennt „On-device GGUF“, die README dagegen sagt, GGUF-Dateien ließen sich nicht auf dem Telefon ausführen; die Repository-Beschreibung erwähnt außerdem iOS, obwohl die README nur Android behandelt. Diese Rezension folgt der README.
  • Signatur und Herausgeber. Mit dem Debug-Zertifikat signierte APKs geben keine Herausgeber-Identität an, und ein Entwickler wird nicht genannt.
  • Pflege der Laufzeit. Laut der Datei zu bekannten Einschränkungen ist das Cactus-Flutter-Paket seit Juli 2026 im Upstream archiviert; das Projekt führt dies als Wartungsrisiko auf.
  • Datenschutz und Qualität. Die Aussage zum fehlenden Tracking, das Protokoll und die Backup-Verschlüsselung wurden nicht geprüft, die Antwortqualität ebenfalls nicht.

Wettbewerber und Alternativen

PocketPal AI

Plattformen:
iOS, Android
Preis / Lizenz:
Gratis / MIT
Wichtigster Unterschied:
Führt GGUF-Modelle auf dem Telefon aus und hat Versionen für App Store und Google Play
Artikel über PocketPal AI (10)

+44 weitere nicht angezeigt

Maid

Plattformen:
Android, iOS
Preis / Lizenz:
Gratis / MIT
Wichtigster Unterschied:
Quelloffene Flutter-App, die auch mit Ollama und OpenAI-kompatiblen APIs arbeitet
Artikel über Maid (5)

Auch erwähnt in:

MLC Chat

Plattformen:
iOS, Android
Preis / Lizenz:
Gratis / Apache 2.0
Wichtigster Unterschied:
Plattformübergreifende mobile Laufzeit auf Basis von MLC LLM
Artikel über MLC Chat (6)

Auch erwähnt in:

Das sind die nächstliegenden Rezensionen zu mobilen Chat-Apps auf PromptQuorum; prüfen Sie Preis, Lizenz und Plattformen jeder App auf deren eigener Seite.

Im Verzeichnis vergleichen

Häufig gestellte Fragen

Was leistet die Web-Edition?

Sie ist eine Browser-Version auf Basis von Next.js, die ihre Daten in IndexedDB hält und mit einem Ollama- oder OpenAI-kompatiblen Endpunkt unter Ihrer Kontrolle spricht; laut README enthält sie die Android-Laufzeit für das Gerät nicht.

Welche APK sollte ich herunterladen?

Für die meisten Telefone ab 2017 passt arm64-v8a. Die Builds für armeabi-v7a und x86_64 können keine Modelle auf dem Gerät ausführen, weil die Laufzeitbibliothek nur für arm64-v8a verpackt ist.

Funktioniert die App ohne Internet?

Laut Projekt braucht der Chat auf dem Gerät kein Netz, sobald ein Modell installiert ist, und der Strict-Offline-Modus kann den eigenen Datenverkehr der App außerhalb von Loopback blockieren; der erste Modell-Download und die Websuche benötigen eine Verbindung.

Gibt es die App in anderen Sprachen?

Nein. Laut README ist die Oberfläche derzeit nur auf Englisch verfügbar; Übersetzungsdateien für sechs Sprachen existieren, enthalten aber 15 Texte und sind nicht eingebunden.

Fazit

PocketLLM Lite ist ein aktiv gepflegter Weg unter MIT-Lizenz, einen dokumentierten, lokal ausgerichteten Chat- und Dokumentenarbeitsbereich auf ein Android-Telefon zu bringen, mit klarer Wahl zwischen Modellen auf dem Gerät und Ihrem eigenen Server. Dagegen stehen: kein genannter Entwickler, mit dem Debug-Zertifikat signierte Entwicklungs-Builds, die Abhängigkeit von einem Laufzeitpaket, das das Projekt selbst als archiviert aufführt, und die Angabe der Autoren, die Erzeugung auf dem Gerät sei auf einem echten Telefon nicht geprüft. Die App passt zu technisch versierten Android-Nutzern, die Apps nachinstallieren, das Repository lesen und selbst testen können; wer eine signierte, über einen Store verteilte App mit geprüfter Leistung braucht, sollte warten, bis es sie gibt.

Quellen

← Zurück zu Lokale LLMs Pro

MCP