Skip to main content
PromptQuorum
Startseite/Lokale LLMs Pro/PocketPal AI im Test (2026): Kostenloser, quelloffener Chat auf dem Gerät
Mobile & Edge LLMs

PocketPal AI im Test (2026): Kostenloser, quelloffener Chat auf dem Gerät

·10 Min. Lesezeit·Von Hans Kuepper · Gründer von PromptQuorum, Multi-Model-AI-Dispatch-Tool · PromptQuorum
Lesen auf:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

PocketPal AI ist eine kostenlose, quelloffene App (MIT-Lizenz), die GGUF-Sprachmodelle vollständig auf Ihrem iPhone, iPad oder Android-Gerät ausführt — ohne Cloud-Abhängigkeit für den Chat. Entwickelt von Asghar Ghorbani und auf GitHub gehostet (zum Zeitpunkt dieses Tests über 8.000 Sterne), bietet die App den schnellen Download von Modellen wie Gemma 2, Qwen, Phi und Danube 3 sowie die Möglichkeit, jede andere GGUF-Datei von Hugging Face zu laden. Die Kern-App kostet nichts; ein optionaler In-App-Marktplace namens PalsHub verkauft Premium-Assistenten-Presets, aber das Chatten mit einem heruntergeladenen Modell ist kostenlos.

PocketPal AI ist eine kostenlose, unter der MIT-Lizenz quelloffene App für iPhone, iPad und Android, die GGUF-Sprachmodelle direkt auf dem Gerät ausführt — ohne Serverumweg und ohne Konto für den Chat. Entwickelt hat sie Asghar Ghorbani, der die App zunächst als privates Projekt startete, bevor er den Code auf GitHub veröffentlichte. Dieser Test beschreibt, was die App heute leistet, welche Modelle sie mitbringt, welche Hardware wirklich nötig ist, wie das Preismodell tatsächlich aussieht (die Basis-App ist kostenlos; ein optionaler Community-Marktplatz namens PalsHub verkauft Premium-Presets) und für wen sie sich eignet — und für wen nicht.

PocketPal AI im Test (2026): Kostenloser, quelloffener Chat auf dem Gerät

Wichtigste Erkenntnisse

  • Kostenlos und quelloffen (MIT-Lizenz); Quellcode und Issue-Tracker sind öffentlich auf GitHub.
  • Von Asghar Ghorbani als privates Projekt gestartet, dann nach wachsendem Interesse quelloffen veröffentlicht.
  • Führt GGUF-Modelle über llama.cpp vollständig auf dem Gerät aus — kein Konto, kein Serverumweg für den Chat.
  • Bietet Ein-Tipp-Downloads für Gemma 2, Qwen, Phi und Danube 3; jedes andere GGUF-Modell von Hugging Face lässt sich manuell laden.
  • Verfügbar im App Store (iPhone/iPad) und bei Google Play (Android); keine Mac-, Windows- oder Linux-Version.
  • Die Basis-App verlangt kein Abo; ein optionaler PalsHub-Marktplace verkauft Premium-Assistenten-Presets per In-App-Kauf.

📍 In einem Satz

PocketPal AI ist eine kostenlose, unter der MIT-Lizenz quelloffene App für iPhone, iPad und Android, die GGUF-Sprachmodelle direkt auf dem Gerät ausführt — entwickelt und gepflegt von Asghar Ghorbani.

💬 In einfachen Worten

Es ist eine App, mit der Sie mit einer KI chatten, die auf Ihrem eigenen Handy läuft statt auf einem Firmenserver — der Code ist auf GitHub öffentlich einsehbar, die App selbst kostet nichts, und Sie entscheiden selbst, welches Modell Sie herunterladen, statt an einen Anbieter gebunden zu sein.

📌Hinweis: Dieser Test basiert auf dem öffentlichen GitHub-Repository, der projektinternen Dokumentation sowie den Einträgen im App Store und bei Google Play, geprüft im September 2026. PromptQuorum hat für diesen Test keine eigenen Hands-on-Benchmarks von PocketPal AI durchgeführt — die Leistungsangaben unten sind allgemeine Hardware-Richtwerte für lokale LLMs, keine app-spezifischen Messungen.

Was ist PocketPal AI?

**PocketPal AI ist eine mobile App, die offene Sprachmodelle im GGUF-Format herunterlädt und lokal auf einem iPhone, iPad oder Android-Gerät ausführt — mithilfe von llama.cpp als Inferenz-Engine.** Die App selbst ist mit React Native gebaut und unter der MIT-Lizenz veröffentlicht, das heißt, der vollständige Quellcode ist öffentlich einsehbar, frei nutzbar, veränderbar und weiterverwendbar.

Anders als Apps mit einer festen, kuratierten Modellliste erlaubt PocketPal AI die Wahl aus einer Reihe von Modellen, die die App per Ein-Tipp-Download bezieht, oder den Import jeder beliebigen GGUF-Datei von Hugging Face — einschließlich zugangsbeschränkter Modelle, deren Lizenzbedingungen zuvor akzeptiert wurden. Diese Flexibilität ist das prägende Merkmal der App: Sie verhält sich eher wie eine allgemeine GGUF-Laufzeitumgebung mit Chat-Oberfläche als wie ein Produkt eines einzelnen Anbieters.

Wer hat PocketPal AI entwickelt?

PocketPal AI wurde von Asghar Ghorbani entwickelt, der die App zunächst als privates Nebenprojekt startete, um kleine Sprachmodelle auf seinem eigenen Handy auszuführen, bevor er sie nach wachsendem öffentlichen Interesse quelloffen veröffentlichte. Ghorbani beschrieb den Ursprung und die Motivation des Projekts in einem Medium-Beitrag, „PocketPal AI: Tiny LLMs in the Pocket", in dem er das Ziel beschreibt, die Leistungsfähigkeit kleiner Sprachmodelle direkt in seine Tasche zu bringen.

Das Projekt wird in der Freizeit des Entwicklers gepflegt, nicht von einem finanzierten Unternehmen oder einem festen Team — die projekteigene Einrichtungsdokumentation weist ausdrücklich darauf hin, was wichtig zu wissen ist, bevor man Support-Reaktionszeiten wie bei einem Unternehmen erwartet. Das GitHub-Repository (a-ghorbani/pocketpal-ai) hat zum Zeitpunkt dieses Tests über 8.000 Sterne und mehr als 850 Forks gesammelt und erhält weiterhin regelmäßig neue Versionen mit neuer Modellunterstützung, Oberflächenänderungen und Funktionserweiterungen wie Internetsuche im Chat, angehefteten Chats und Markdown-Export.

  • Entwickler: Asghar Ghorbani (GitHub: a-ghorbani), unabhängig tätig statt als Unternehmen.
  • Gestartet als privates Projekt zum lokalen Ausführen kleiner Sprachmodelle; nach öffentlichem Interesse quelloffen veröffentlicht.
  • Lizenz: MIT — permissiv, kostenlos nutzbar, veränderbar und weiterverwendbar.
  • Über 8.000 GitHub-Sterne und mehr als 850 Forks zum Zeitpunkt dieses Tests, mit aktivem Issue-Tracker und Pull-Request-Historie.
  • Entwicklungstempo: häufige Punkt-Releases mit Laufzeit-Updates, neuen Oberflächenfunktionen und erweiterter Sprachunterstützung, ehrenamtlich gepflegt.

Erste Schritte mit PocketPal AI

**Ein funktionierender lokaler Chat in PocketPal AI benötigt nach der Installation vier Schritte, laut der projekteigenen Einstiegsdokumentation.** Es gibt keine Kontoerstellung oder Anmeldung — der gesamte Ablauf findet auf dem Gerät statt.

  1. 1
    App installieren
    Why it matters: Laden Sie PocketPal AI aus dem [App Store](https://apps.apple.com/us/app/pocketpal-ai/id6502579498) für iPhone/iPad oder bei [Google Play](https://play.google.com/store/apps/details?id=com.pocketpalai) für Android herunter. Für das Öffnen der App ist kein Konto und keine E-Mail-Anmeldung nötig.
  2. 2
    Seite „Modelle" öffnen
    Why it matters: Navigieren Sie im App-Menü zum Reiter „Modelle", um die Liste der Ein-Tipp-Download-Modelle (etwa Gemma 2, Qwen, Phi und Danube 3) sowie die Option zum Import einer eigenen GGUF-Datei zu sehen.
  3. 3
    Modell herunterladen
    Why it matters: Wählen Sie ein Modell passend zum RAM Ihres Geräts (siehe Hardware-Abschnitt unten) und laden Sie es herunter. Größere, leistungsfähigere Modelle brauchen länger zum Download und mehr Speicherplatz auf dem Gerät.
  4. 4
    Modell laden und chatten
    Why it matters: Tippen Sie auf „Laden", um das heruntergeladene Modell in den Speicher zu bringen, und wechseln Sie dann zur Chat-Seite. Nach dem Laden läuft die gesamte Inferenz auf dem Gerät — die „Auto Offload/Load"-Funktion von PocketPal AI kann das Modell automatisch entladen, wenn die App in den Hintergrund wechselt, um Speicher zu sparen, und es bei Rückkehr wieder laden.

Welche Modelle unterstützt PocketPal AI?

Gemma 2

Zugriffsart:
Ein-Tipp-Download in der App
Typischer Einsatzzweck:
Allgemeiner Chat; offene Modellfamilie von Google

Qwen

Zugriffsart:
Ein-Tipp-Download in der App
Typischer Einsatzzweck:
Allgemeiner Chat und Reasoning; offene Modellfamilie von Alibaba

Phi

Zugriffsart:
Ein-Tipp-Download in der App
Typischer Einsatzzweck:
Kompaktes Reasoning; kleine Modellfamilie von Microsoft

Danube 3

Zugriffsart:
Ein-Tipp-Download in der App
Typischer Einsatzzweck:
Leichtgewichtiger Chat; kleine Modellfamilie von H2O.ai

Jedes andere GGUF-Modell

Zugriffsart:
Manueller Import über die Hugging-Face-Hub-Suche in der App, einschließlich zugangsbeschränkter Modelle nach Annahme der Lizenzbedingungen
Typischer Einsatzzweck:
Individuelle oder Nischenmodelle, die nicht in der Ein-Tipp-Liste enthalten sind

Ist PocketPal AI für iPhone und Android verfügbar?

iPhone / iPad

Verfügbarkeit:
Verfügbar im App Store
Hinweise:
Nutzt standardmäßig Apples Metal-GPU-API zur Beschleunigung; lässt sich in der App deaktivieren, falls es auf einem bestimmten Gerät zu Instabilität führt.

Android

Verfügbarkeit:
Verfügbar bei Google Play
Hinweise:
Neuere Versionen haben ein Qualcomm-Hexagon-NPU-Beschleunigungs-Backend für kompatible Chipsätze wiederhergestellt, zusätzlich zur normalen CPU-Inferenz.

Mac / Windows / Linux

Verfügbarkeit:
Zum Zeitpunkt dieses Tests keine Desktop-Version gefunden
Hinweise:
PocketPal AI ist eine reine Mobil-App. Desktop-Nutzer, die einen lokalen GGUF-Chat-Client suchen, sollten stattdessen Ollama, LM Studio oder Jan AI in Betracht ziehen.

Was kostet PocketPal AI?

PocketPal AI ist kostenlos herunterladbar und kostenlos für den Chat mit einem lokal heruntergeladenen Modell nutzbar — es gibt kein Abo, und der Quellcode ist unter der MIT-Lizenz öffentlich. Die einzige kostenpflichtige Komponente in der App ist PalsHub, ein In-App-Marktplace, auf dem Community-Mitglieder Premium-„Pals" (anpassbare Assistenten-Presets) veröffentlichen und verkaufen können; PalsHub-In-App-Käufe stehen je nach Region auf iOS und Android zur Verfügung.

Da App und Modellausführung quelloffen und kostenlos sind, entstehen dem Nutzer nur Kosten für den Speicherplatz und die Bandbreite zum Herunterladen von GGUF-Modelldateien — ein quantisiertes 3–4B-Parameter-Modell umfasst typischerweise einige Gigabyte, größere Modelle entsprechend mehr.

  • Basis-App: Kostenlos, kein Abo, MIT-lizenzierte Open-Source-Software.
  • Chatten mit heruntergeladenen Modellen: Kostenlos — keine Gebühr pro Nachricht oder Token, da die Inferenz auf dem eigenen Gerät läuft.
  • PalsHub-Marktplace: Optionale In-App-Käufe für Premium-Assistenten-Presets aus der Community; die Basis-Chat-Funktion setzt dies nicht voraus.
  • Speicherkosten: Kein Geld, aber real — jedes heruntergeladene GGUF-Modell belegt Gerätespeicher, typischerweise mehrere Gigabyte pro Modell.

Welche Funktionen bietet PocketPal AI?

Über den einfachen lokalen Chat hinaus hat PocketPal AI im Laufe seiner Release-Historie schrittweise Funktionen erhalten, wie sie bei ausgereifteren lokalen KI-Apps üblich sind. Dazu gehören:

  • Pals und PalsHub. „Pals" sind anpassbare Assistenten-Presets (System-Prompt, Modell und Verhalten gebündelt); PalsHub ist ein Marktplace, auf dem Nutzer eigene Pals teilen oder verkaufen können.
  • Talents (Tool-Aufrufe). Die App unterstützt einen agentenartigen Ablauf, bei dem ein Modell mitten im Gespräch definierte Werkzeuge aufrufen kann, statt nur reinen Text zu erzeugen.
  • Internetsuche im Chat. Neuere Versionen erlauben es, im Chat mit einem eigenen API-Schlüssel von Anbietern wie Brave, Tavily oder Exa im Web zu suchen — optional und mit eigenem Schlüssel, nicht als gebündelter Suchdienst.
  • Sprachausgabe (Text-to-Speech). Die App kann Antworten vorlesen, mit in neueren Versionen wachsender Sprachunterstützung.
  • Angeheftete Chats und Markdown-Export. Unterhaltungen lassen sich für schnellen Zugriff anheften und als Markdown-Dateien exportieren.
  • Spekulatives Decodieren (experimentell). Ein kleineres „Entwurfs"-Modell lässt sich mit einem größeren Modell kombinieren, um die Generierung zu beschleunigen — vom Projekt selbst als experimentelle Funktion gekennzeichnet, nicht als stabile Garantie.
  • Benchmarking-Werkzeuge. Die App enthält ein Werkzeug zum Benchmarking der Modell-Performance auf dem aktuellen Gerät, nützlich zum Vergleich verschiedener Quantisierungsstufen auf dem eigenen Handy.

Welche Hardware brauchen Sie für PocketPal AI?

Nicht die App selbst, sondern das gewählte Modell bestimmt den echten Hardware-Mindestbedarf — als allgemeine Faustregel für GGUF-Modelle auf Handys braucht ein quantisiertes Modell mit 2–4 Milliarden Parametern etwa 3–4 GB freien RAM, ein Modell mit 7–8 Milliarden Parametern 6–8 GB oder mehr. Dies ist eine allgemeine Richtgröße für lokale LLMs, kein PocketPal-spezifischer Benchmark; PromptQuorum hat den genauen Speicherbedarf von PocketPal AI pro Modell nicht eigenständig gemessen.

Auf iPhone und iPad nutzt die App standardmäßig Apples Metal-GPU-API, was die Inferenzgeschwindigkeit gegenüber reiner CPU-Ausführung auf Apple-Silicon-Geräten in der Regel verbessert. Auf Android haben neuere Versionen ein Qualcomm-Hexagon-NPU-Beschleunigungs-Backend für kompatible Chipsätze hinzugefügt; Geräte ohne unterstützte NPU fallen auf CPU-Inferenz zurück, was bei größeren Modellen deutlich langsamer ist.

  • Kleine Modelle (2–4B Parameter, quantisiert): auf den meisten Handys der letzten Jahre mit 4 GB+ freiem RAM nutzbar.
  • Mittelgroße Modelle (7–8B Parameter, quantisiert): empfohlener Geräte-RAM von 8 GB oder mehr für akzeptable Reaktionsfähigkeit.
  • Speicherplatz: mehrere Gigabyte freien Gerätespeicher pro heruntergeladener Modelldatei einplanen.
  • Schnellere Inferenz: ein iPhone/iPad mit Apple Silicon (Metal-Beschleunigung) oder ein aktuelles Android-Gerät mit unterstützter Qualcomm-Hexagon-NPU übertrifft ältere oder günstigere Hardware im reinen CPU-Betrieb.

Für wen sich PocketPal AI eignet

  • Datenschutzbewusste Nutzer, die keine Abo-Kosten wollen. Wer ein offenes Modell ohne laufende Gebühr und ohne Konto ausführen möchte, ist mit der MIT-lizenzierten, kostenlosen Kern-App von PocketPal AI direkt bedient.
  • Nutzer, die Modelle über eine feste Liste hinaus ausprobieren möchten. Da die App jede GGUF-Datei von Hugging Face laden kann — nicht nur die Ein-Tipp-Auswahl —, eignet sie sich für Nutzer, die bereits ein bestimmtes Modell im Blick haben.
  • Entwickler und technisch interessierte Nutzer mit Erfahrung in Open-Source-Projekten. Das öffentliche GitHub-Repository, der Issue-Tracker und häufige Releases eignen sich für Nutzer, die bereit sind, Release Notes zu lesen oder ein Issue zu melden, statt dedizierten Kundensupport zu erwarten.
  • Nutzer, die den Code selbst prüfen oder anpassen möchten. Die MIT-Lizenz erlaubt Forken und Anpassen — wichtig für alle, die genau prüfen wollen, was die App tut, bevor sie ihr private Unterhaltungen anvertrauen.

Für wen sich PocketPal AI nicht eignet

  • Nutzer, die eine vollständig geführte Erfahrung ohne Konfiguration wollen. Die richtige Modellgröße für das eigene Gerät zu wählen und Downloads selbst zu verwalten gehört zum Workflow; wer diese Entscheidung lieber der App überlässt, ist bei einer kuratierteren App wie Loci besser aufgehoben.
  • Nutzer, die Mac-, Windows- oder Linux-Unterstützung benötigen. PocketPal AI ist reine Mobil-App (iPhone/iPad und Android); Desktop-Nutzer sollten stattdessen Ollama, LM Studio oder Jan AI in Betracht ziehen.
  • Nutzer, die die anspruchsvollsten Modelle (70B+ Parameter) wollen. Handy-Hardware, selbst bei aktuellen Spitzengeräten, reicht praktisch nicht aus, um Modelle dieser Größenordnung lokal auszuführen — dafür braucht es unabhängig von der gewählten Mobil-App einen Desktop, eine Workstation oder eine Cloud-API.
  • Nutzer, die kommerziellen Support erwarten. PocketPal AI wird laut projekteigener Dokumentation von einer einzelnen Person in der Freizeit gepflegt; wer garantierte Reaktionszeiten oder Enterprise-Supportverträge benötigt, sollte eine kommerziell finanzierte Alternative wählen.
  • Nutzer, die eine integrierte Cloud-Synchronisierung zwischen Geräten wollen. Da Inferenz und Chatverlauf gerätebasiert lokal bleiben, bietet PocketPal AI keine integrierte, kontobasierte Synchronisierung zwischen iPhone und Android-Gerät wie eine cloudbasierte Chat-App.

PocketPal AI im Vergleich zu Alternativen

PocketPal AI

Lizenz / Kosten:
Kostenlos, quelloffen (MIT)
Plattformen:
iPhone/iPad, Android
Modell-Flexibilität:
Ein-Tipp-Auswahl (Gemma 2, Qwen, Phi, Danube 3) plus jede GGUF-Datei von Hugging Face
Artikel über PocketPal AI (10)

+6 weitere nicht angezeigt

Loci

Lizenz / Kosten:
Kostenlose Stufe plus kostenpflichtige Stufen; Closed Source
Plattformen:
iPhone/iPad/Android/Mac/Windows (5 Plattformen)
Modell-Flexibilität:
Kuratierte Bibliothek (~10 Modelle); kein Import eigener GGUF-Dateien

Private LLM

Lizenz / Kosten:
Kostenpflichtig, Einmalkauf; Closed Source
Plattformen:
iPhone/iPad/Mac (nur Apple)
Modell-Flexibilität:
140+ Modelle, mit OmniQuant- und GPTQ-Quantisierungsformaten
Artikel über Private LLM (10)

+4 weitere nicht angezeigt

Enclave AI

Lizenz / Kosten:
Kostenlos mit kostenpflichtiger Stufe; Closed Source
Plattformen:
iPhone/iPad/Mac (nur Apple)
Modell-Flexibilität:
Kuratierte Modellliste auf dem Gerät; Siri- und Shortcuts-Integration

Locally AI

Lizenz / Kosten:
Kostenlos; Closed Source
Plattformen:
iPhone/iPad
Modell-Flexibilität:
Kuratierte Modellliste, laut App-Store-Eintrag

ChatterUI

Lizenz / Kosten:
Kostenlos, quelloffen (AGPL-3.0)
Plattformen:
Android (aus Quellcode gebaut)
Modell-Flexibilität:
Führt GGUF-Dateien auf dem Gerät über llama.cpp aus oder verbindet sich mit Remote-APIs; Character-Card-v2-Unterstützung

RikkaHub

Lizenz / Kosten:
Kostenlos, quelloffen
Plattformen:
Android
Modell-Flexibilität:
Multi-Provider-Client; lokale Inferenz auf dem Gerät über einen LiteRT-Provider für Modelle wie Gemma und Qwen
Artikel über RikkaHub (1)

Auch erwähnt in:

MLC Chat (MLC-LLM)

Lizenz / Kosten:
Kostenlos, quelloffen (Apache 2.0)
Plattformen:
iPhone/iPad, Android
Modell-Flexibilität:
Führt für die MLC-Laufzeitumgebung kompilierte Modelle aus, keine rohen GGUF-Dateien

LLM Farm, eine früher populäre quelloffene iOS-GGUF-Chat-App, wurde aus dem App Store entfernt und ist im eigenen GitHub-Repository als „vorübergehend nicht verfügbar" markiert — sie ist deshalb oben von den aktiven Empfehlungen ausgenommen. Layla, eine weitere KI-Assistenten-App für das Gerät, soll ihre kostenlose Stufe „Layla Lite" bei Google Play verloren haben; prüfen Sie die aktuelle Verfügbarkeit direkt auf layla-network.ai, bevor Sie von einer Installierbarkeit ausgehen.

Häufig gestellte Fragen

Ist PocketPal AI kostenlos?

Ja. PocketPal AI ist kostenlos herunterladbar und kostenlos für den Chat mit einem heruntergeladenen Modell nutzbar, und die App ist unter der MIT-Lizenz quelloffen. Ein optionaler In-App-Marktplace, PalsHub, verkauft Premium-Assistenten-Presets aus der Community, aber die Kern-Chat-Funktion hat kein Abo und keine Bezahlschranke.

Wer hat PocketPal AI entwickelt?

PocketPal AI wurde von Asghar Ghorbani entwickelt, der die App zunächst als privates Projekt startete, um kleine Sprachmodelle auf seinem eigenen Handy auszuführen, bevor er den Code nach wachsendem öffentlichen Interesse quelloffen veröffentlichte. Sie wird unabhängig gepflegt, nicht von einem Unternehmen.

Ist PocketPal AI quelloffen?

Ja, der vollständige Quellcode ist auf GitHub unter der MIT-Lizenz veröffentlicht, einer permissiven Lizenz, die freie Nutzung, Anpassung und Weiterverbreitung erlaubt.

Welche Modelle kann PocketPal AI ausführen?

PocketPal AI bietet Ein-Tipp-Downloads für Gemma 2, Qwen, Phi und Danube 3 und kann zusätzlich jedes andere GGUF-Modell laden, das Sie auf Hugging Face finden — einschließlich zugangsbeschränkter Modelle, nachdem Sie deren Lizenzbedingungen akzeptiert haben.

Funktioniert PocketPal AI auf iPhone und Android?

Ja. PocketPal AI ist im App Store für iPhone und iPad sowie bei Google Play für Android verfügbar. Es gibt keine Mac-, Windows- oder Linux-Version.

Wie viel RAM benötigt PocketPal AI?

Das hängt vom gewählten Modell ab, nicht von einer festen App-Anforderung. Als allgemeine Richtgröße für quantisierte GGUF-Modelle auf Handys benötigen 2–4B-Parameter-Modelle typischerweise 3–4 GB freien RAM, 7–8B-Parameter-Modelle typischerweise 8 GB oder mehr. Geräte mit mehr RAM können größere, leistungsfähigere Modelle ausführen.

Benötigt PocketPal AI eine Internetverbindung?

Für den Chat ist nach dem Herunterladen eines Modells keine Internetverbindung nötig — die Inferenz läuft vollständig auf dem Gerät über llama.cpp. Eine Internetverbindung ist für den anfänglichen Modell-Download nötig sowie optional für die Internetsuchfunktion der App, die einen eigenen API-Schlüssel von einem Anbieter wie Brave, Tavily oder Exa erfordert.

Ist PocketPal AI sicher für private Unterhaltungen?

Da die Inferenz lokal läuft und der Quellcode unter der MIT-Lizenz öffentlich einsehbar und prüfbar ist, muss PocketPal AI keine Chat-Inhalte an einen Server senden, um zu funktionieren. Dieser Test umfasst kein eigenständiges Sicherheitsaudit der App; Nutzer, die diese Sicherheit benötigen, sollten das öffentliche Repository oder dessen Issue-Tracker selbst prüfen.

Wie schneidet PocketPal AI im Vergleich zu Private LLM oder Loci ab?

PocketPal AI ist kostenlos und quelloffen mit uneingeschränktem GGUF-Modell-Import, während Private LLM eine kostenpflichtige, Closed-Source-App nur für Apple-Geräte mit größerem integriertem Modellkatalog (140+ Modelle) ist und Loci eine Closed-Source-App über fünf Plattformen mit kleinerer, kuratierterer Modellbibliothek ist. Wählen Sie PocketPal AI, wenn Kosten und Offenheit am wichtigsten sind; wählen Sie Private LLM oder Loci, wenn Ihnen eine geführtere, ausgereiftere Erfahrung über mehr Plattformen wichtiger ist als kostenlos oder quelloffen zu sein. Details in der Vergleichstabelle oben.

Kann ich große Modelle wie 70B-Parameter-Modelle mit PocketPal AI ausführen?

Nein. Handy-Hardware, auch aktuelle Spitzengeräte, hat nicht genug RAM, um Modelle dieser Größenordnung praktisch lokal auszuführen. PocketPal AI ist für kleine und mittelgroße Modelle ausgelegt (bis etwa 8B Parameter); wer größere Modelle benötigt, sollte stattdessen eine Desktop-Workstation oder eine Cloud-API nutzen.

Fazit

PocketPal AI verdient seinen Platz unter den mobilen lokalen KI-Apps, weil es wirklich kostenlos, wirklich quelloffen und wirklich flexibel bei der Wahl des ausgeführten Modells ist — drei Eigenschaften, die jede für sich schon selten sind, kombiniert erst recht, in dieser Kategorie. Die App ist nicht die ausgereifteste in diesem Bereich: Nutzer verwalten ihre Modell-Downloads selbst, die Oberfläche tauscht etwas Führung gegen Flexibilität, und das Projekt wird von einer einzelnen Person in der Freizeit gepflegt statt von einem Unternehmen mit Support-Team. Entscheiden Sie sich für PocketPal AI, wenn Sie ein offenes Modell auf Ihrem eigenen Handy ohne Abo und ohne Anbieterbindung ausführen möchten und bereit sind, ein zu Ihrem Gerät passendes Modell selbst auszuwählen. Entscheiden Sie sich stattdessen für eine kostenpflichtige, kuratierte App wie Private LLM oder Loci, wenn Sie etwas Kosten und Offenheit gegen ein geführteres Setup und dedizierten Support über mehr Plattformen eintauschen möchten.

Quellen

← Zurück zu Lokale LLMs Pro