Kurzübersicht
- Verglichene Apps: PocketPal AI, Private LLM, Locally AI (von LM Studio), Google AI Edge Gallery, MLC Chat, Apple Intelligence (System) – sowie LLM Farm, derzeit nicht im App Store (README: „vorübergehend nicht verfügbar").
- Letzte Upstream-Updates (geprüft am 23. Oktober 2026): PocketPal AI v1.20.1 (19. Okt. 2026) · Locally AI v1.66.0 (15. Okt. 2026) · Google AI Edge Gallery v1.0.13 (8. Okt. 2026) · Private LLM v1.9.16 (14. Sep. 2026) · MLC Chat iPhone-App v1.6 (27. Sep. 2024 – veraltet) · LLM Farm Release 1.4.3 (27. Jan. 2025), letzter Code-Push 30. Jan. 2026 – veraltet.
- Referenzgeräte für die Geschwindigkeitswerte: iPhone 16 Pro (A18 Pro, 8 GB RAM) und iPhone 17 Pro (A19 Pro, 12 GB RAM). Die Geschwindigkeitswerte sind grobe Orientierungswerte, keine Messungen von PromptQuorum. Für das iPhone 18 Pro, das 18 Pro Max und das iPhone Duo (A20 Pro) gibt es hier keine Geschwindigkeitswerte.
- Inference-Engines: llama.cpp (PocketPal AI, LLM Farm), Apple MLX (Locally AI), MLC LLM mit Metal (MLC Chat), Google LiteRT-LM (Google AI Edge Gallery), proprietäre On-Device-Runtime (Private LLM, Apple Intelligence).
- Mindest-iPhone für größere Modelle: iPhone 14 Pro (A16, 6 GB RAM) für 1.7B; jedes 8-GB+-iPhone (15 Pro, 16er-Serie, 16e, 17er-Serie, 18 Pro) für 3B–4B.
- Empfohlene kostenlose App: PocketPal AI – App Store, quelloffen, Modellflexibilität.
- Kostenpflichtige Option: Private LLM – $4.99 einmalig (iPhone + iPad + Mac), Kurzbefehle- + Siri-Unterstützung.
- Offline: Nach dem Download des Modells funktioniert der On-Device-Chat in allen sechs ohne WLAN; Funktionen, die Live-Daten abrufen (zum Beispiel die Wikipedia- und Karten-Skills der Google AI Edge Gallery oder das optionale LM Link von Locally AI), brauchen eine Verbindung. Laut README oder Eintrag von PocketPal AI, Private LLM, Locally AI und Google AI Edge Gallery gibt es für den On-Device-Chat keine Cloud-Aufrufe (für MLC Chat und LLM Farm nicht geprüft); Apple Intelligence kann Private Cloud Compute nutzen.
Welche App für iOS sollten Sie zuerst installieren?
Für die meisten Nutzer: PocketPal AI aus dem App Store, dann Phi-4 Mini (3,8B Q4_K_M) herunterladen – oder ein neueres kleines Modell wie Gemma 4 E2B/E4B oder Qwen3.5 4B. Diese Kombination funktioniert auf dem iPhone 15 Pro und neueren Modellen (8 GB+ RAM); auf einem iPhone mit 6 GB wie dem iPhone 14 Pro laden Sie stattdessen ein 1.7B-Modell wie Qwen3 1.7B herunter (siehe Modelle nach iPhone-Klasse). Sie kostet für den Chat nichts und liefert brauchbare Ergebnisse für alltäglichen Chat, Zusammenfassungen und schnelles Schreiben. Wählen Sie eine andere App nur, wenn Sie einen spezifischen Bedarf haben, den PocketPal AI nicht abdeckt.
📍 In einem Satz
Für die meisten iPhone-Nutzer 2026 gilt: PocketPal AI (kostenlos, App Store) installieren und Phi-4 Mini oder ein neueres kleines Modell wie Gemma 4 E2B herunterladen – damit sind alltäglicher Chat, Zusammenfassungen und Textentwürfe abgedeckt – mit einem 3B–4B-Modell auf iPhones mit 8 GB+ und einem 1.7B-Modell auf iPhones mit 6 GB.
💬 In einfachen Worten
Sechs iPhone-Optionen führen KI 2026 auf Ihrem Telefon aus; die Chat-Apps halten den Chat nach dem Modell-Download auf dem Gerät, und Apple Intelligence kann für größere Anfragen auch Apples Private Cloud Compute nutzen. PocketPal AI ist der empfohlene kostenlose Einstiegspunkt: einmal installieren, eine 2,7-GB-Modelldatei herunterladen, und Sie haben einen privaten Chat-Assistenten, der auch in der U-Bahn ohne WLAN funktioniert. Private LLM ist die kostenpflichtige Option, wenn Siri mit dem lokalen Modell sprechen soll. Locally AI vom LM-Studio-Team ist die kostenlose moderne Alternative mit Kurzbefehle-Unterstützung, und Google AI Edge Gallery ist Googles kostenlose App für die Gemma-4-Modelle. Der iPhone-Build von MLC Chat wird nicht mehr aktualisiert. Apple Intelligence ist in iOS integriert, aber keine Chat-App. PocketPal AI passt zu den meisten Anwendungsfällen.
Entscheidungshilfe: Welche lokale KI-App für das iPhone?
Lokales LLM nutzen, wenn:
- •Sie möchten eine kostenlose Chat-KI, die offline funktioniert → PocketPal AI
- •Sie möchten, dass Siri mit Ihrem lokalen Modell spricht → Private LLM
- •Sie möchten eine kostenlose MLX-App mit Kurzbefehlen und Zugriff auf Apple Foundation Models → Locally AI
- •Sie möchten Googles eigenes Gemma 4 mit Denkmodus und Agent Skills → Google AI Edge Gallery
- •Sie möchten mit der MLC-LLM-Toolchain experimentieren und akzeptieren einen iPhone-Build ohne Update seit September 2024 → MLC Chat
- •Sie benötigen nur Schreibhilfe in Mail / Nachrichten / Notizen → Apple Intelligence (integriert)
- •Sie wollen Offline-Chat mit Dokumentenfragen, editierbarem Gedächtnis oder PIN-geschütztem Kindermodus → MemoryAI
Cloud-Modell nutzen, wenn:
- •Sie benötigen 70B+-Modellqualität (Llama 3.3 70B, GPT-5.5-Niveau) → Cloud oder Remote-Verbindung zu einem Heimrechner
- •Sie benötigen speziell GPT-5.5, Claude Opus oder Gemini → Cloud-Apps (diese sind lokal nicht verfügbar)
- •Sie benötigen Echtzeit-Vision oder multimodale Ausgabe über Text hinaus → Cloud (On-Device-Multimodal ist 2026 begrenzt)
Schnelle Entscheidung:
- →Kostenlos + passt für die meisten Nutzer: PocketPal AI
- →Kostenpflichtig + iOS-native Integration: Private LLM
- →Kostenlos + LM-Studio-Ökosystem: Locally AI
- →Kostenlos + Google Gemma 4: Google AI Edge Gallery
- →Kostenlos + Dokumente, Gedächtnis, Kindermodus: MemoryAI
💡Tipp: Installieren Sie zuerst PocketPal AI, auch wenn Sie später für Private LLM bezahlen möchten. Testen Sie damit, ob die On-Device-Inferenz auf Ihrem iPhone schnell genug für Ihren Anwendungsfall ist. Wenn ja, entscheiden Sie, ob die Kurzbefehle- und Siri-Integration von Private LLM die $4.99 wert ist. Wenn nein, haben Sie die $4.99 gespart, bevor Sie gezahlt haben. PocketPal AI hat außerdem einen eingebauten Benchmark, der Tokens/Sek. und Speicherbedarf auf Ihrem eigenen iPhone misst – nutzen Sie ihn, statt irgendeiner Tabelle zu vertrauen, auch der folgenden.
iPhone-App-Vergleichstabelle
Die sechs Optionen unterscheiden sich in drei Dimensionen, die für die meisten Nutzer entscheidend sind: Kosten, Modellflexibilität und iOS-Integration. Geschwindigkeitsunterschiede existieren, sind aber geringer als der Abstand zwischen diesen Apps und einem Cloud-LLM. Preise und Versionen wurden am 23. Oktober 2026 aus den US-App-Store-Einträgen und Projektseiten gelesen.
📍 In einem Satz
PocketPal AI ist die empfohlene kostenlose Standard-App, Private LLM die kostenpflichtige Option, Locally AI die kostenlose MLX-Wahl vom LM-Studio-Team, Google AI Edge Gallery Googles kostenlose Gemma-4-App, MLC Chat auf dem iPhone inaktiv und Apple Intelligence systemintegriert.
💬 In einfachen Worten
Die Wahl hängt meist von drei Fragen ab: Möchten Sie für Siri-Integration zahlen (Private LLM), möchten Sie das LM-Studio-Ökosystem mit Kurzbefehlen kostenlos (Locally AI), oder möchten Sie Googles eigenes Gemma 4 mit Denkmodus (Google AI Edge Gallery)? Für alles andere ist PocketPal AI die Standardwahl. Die Geschwindigkeitswerte in der Tabelle sind Richtwerte für Q4_K_M-Quantisierung – den Standard für mobile Inferenz 2026 –, keine Messungen von PromptQuorum.
App | Preis | Tok./Sek. (Phi-4 Mini, 16 Pro) | Datenschutz | Am besten geeignet für |
|---|---|---|---|---|
| PocketPal AI | Kostenlos (MIT) + optionale In-App-Käufe | ~10–15 | On-Device-Chat, kein Konto (README) | Kostenlose Standard-App für die meisten |
| Private LLM | $4.99 einmalig | Keine Angabe | On-Device; keine Konten oder Tracking (Entwickler) | Kurzbefehle + Siri-Integration |
| Locally AI | Kostenlos (LM-Studio-Team) | k. A. – MLX-Katalog (kein Phi-4) | On-Device; keine Datenerhebung (Eintrag) | MLX + Kurzbefehle, LM-Studio-Anbindung |
| Google AI Edge Gallery | Kostenlos (Google) | k. A. – LiteRT-LM, Gemma 4 | On-Device nach Modell-Download (Eintrag) | Gemma 4, Denkmodus, Agent Skills |
| MLC Chat | Kostenlos (Open Source) | k. A. – Bibliothek vor Phi-4 | Lokale Inferenz (Projektdoku; ungeprüft) | MLC-LLM-Toolchain (iOS-App inaktiv) |
| LLM Farm | Kostenlos (nur Quellcode) | Keine Angabe | Lokale Inferenz (Projektdoku; ungeprüft) | Entwickler (nicht im App Store, veraltet) |
| Apple Intelligence | Kostenlos (in iOS integriert) | k. A. (Systemfunktion) | Lokal + Private Cloud Compute (Apple) | Hilfe in Mail, Nachrichten, Notizen |
| MemoryAI | Kostenlos; keine Werbung oder In-App-Käufe | Keine Angabe | Auf dem Gerät nach Download; Nutzungs- und Absturzdaten werden gesendet | Dokumente, editierbares Gedächtnis, Kindermodus |
| fullmoon | Kostenlos (MIT) | Keine Angabe | Auf dem Gerät laut Hersteller; Erklärung widersprüchlich | Einfacher Offline-Chat; kein Release seit Jan. 2025 |
| Cloak: Local AI | Einmalkauf (1,99 €, deutscher Store); kein Abo | Keine Angabe | Auf dem Gerät nach Modell-Download; optionale Umfrage und freiwillige Nutzungszähler | Chat ohne Einrichtung, Sprachmemos, Recap |
Hinweis zur Apple Neural Engine (ANE) im Vergleich zu Metal und MLX: PocketPal AI und LLM Farm verwenden llama.cpp mit Metal Performance Shadern, die auf der GPU laufen. MLC Chat verwendet MLC LLM mit tieferer Metal-Optimierung, die das MLC-LLM-Projekt auf gleicher Hardware als schneller beschreibt als llama.cpp-basierte Apps (Projektangabe; von PromptQuorum nicht nachgemessen). Locally AI nutzt Apple MLX, Apples eigenes Open-Source-Array-Framework, das auf Apple Silicon eine ähnliche GPU-Effizienz erreicht. Google AI Edge Gallery führt Gemma 4 über Googles LiteRT-LM-Runtime aus. Apple Intelligence nutzt die ANE speziell für das systemintegrierte ~3B-Modell – energieeffizienter, aber weniger flexibel als Metal-basierte Inferenz. Seit iOS 26 können Drittanbieter-Apps dieses Systemmodell über das Foundation-Models-Framework aufrufen – genau das tut Locally AI –, aber eigene GGUF/MLX-Modelle können die ANE weiterhin nicht direkt ansprechen. Apple gibt an, der A20 Pro im iPhone 18 Pro habe eine Dual-16-Core-Neural-Engine mit doppelter Rechenleistung wie zuvor; das ist eine Apple-Angabe, und PromptQuorum hat nicht gemessen, was sie für diese Apps bedeutet.
💡Tipp: Die Tokens/Sek.-Werte sind grobe Orientierungswerte für Q4_K_M-Modelle auf aktuellen iPhones, keine Messungen von PromptQuorum und nicht an eine App-Version oder ein Testdatum gebunden. Sie gehen von Q4_K_M-Quantisierung (Standard für mobile Inferenz 2026) und einem inaktiven iPhone ohne andere ressourcenintensive Apps aus. Hintergrund-Apps können den Durchsatz spürbar senken, und das iPhone 17 Pro läuft in der Regel schneller als das iPhone 16 Pro. Messen Sie Ihr eigenes Telefon mit dem eingebauten Benchmark von PocketPal AI.
PocketPal AI: Kostenlose Open-Source-Standardlösung
PocketPal AI ist der empfohlene Einstiegspunkt für die meisten iPhone-Nutzer 2026. Die App ist kostenlos nutzbar, quelloffen (MIT; GitHub: a-ghorbani/pocketpal-ai), im App Store verfügbar und unterstützt jedes GGUF-Modell von Hugging Face. Unter der Haube verwendet sie llama.cpp mit Apple-Silicon-Optimierungen. Ausführlicher Test: PocketPal AI Review.
- Was sie ist: eine iOS-/iPadOS- und Android-App, die GGUF-Modelle lokal mit llama.cpp ausführt, veröffentlicht von Gooya UG. Laut README werden Prompts, Antworten und Dokumente nicht auf externe Server hochgeladen; der Chat braucht kein Konto.
- Version und letztes Update: v1.20.1, veröffentlicht am 19. Oktober 2026 (GitHub-Release); der App-Store-Eintrag zeigt dieselbe Version. Letzte Releases: v1.19.0 (4. Okt.), v1.20.0 (14. Okt.), v1.20.1 (19. Okt. 2026) – keine Veraltet-Warnung.
- Installation: App Store → „PocketPal AI". Kostenloser Download mit optionalen In-App-Käufen (Premium-Pals und „PocketPal Plus"). Erfordert iOS/iPadOS 15.1 oder neuer; nicht die iOS-Version, sondern der RAM bestimmt die nutzbare Modellgröße. Seit v1.20.0 bietet die App außerdem optional „Mit Apple anmelden" und das Löschen des Kontos.
- Modell hinzufügen: In der App auf „Modelle" tippen → „Von Hugging Face hinzufügen" → suchen (z. B. „phi-4-mini-instruct-Q4_K_M") → zum Herunterladen tippen. Das Modell wird im lokalen Speicher der App gespeichert (~2,7 GB für Phi-4 Mini Q4).
- Generierungsgeschwindigkeit (iPhone 16 Pro, Richtwerte): Phi-4 Mini ~10–15 Tokens/Sek., Llama 3.2 3B ~12–18 Tokens/Sek., Gemma 3 4B ~7–10 Tokens/Sek., Qwen3 1.7B ~18–24 Tokens/Sek. Das sind grobe Orientierungswerte, keine Messungen von PromptQuorum – nutzen Sie den eingebauten Benchmark, der Tokens/Sek. und Speicher auf Ihrem eigenen iPhone misst.
- Weitere Funktionen: Pals (eigene Assistenten), Sprachausgabe auf dem Gerät, Talents (Rechner- und Datum-/Uhrzeit-Werkzeuge für leistungsfähige Modelle) und ein Hugging-Face-Modellbrowser, der gesperrte (gated) Modelle mit Zugriffstoken unterstützt.
- Am besten geeignet für: Nutzer, die eine kostenlose, über den App Store installierbare Chat-App ohne Konto wünschen, die jedes Community-GGUF-Modell unterstützt.
💡Tipp: Die Modellauswahl in PocketPal AI hat einen Filter „Empfohlen", der laut Dokumentation der App Modelle zeigt, die in den RAM Ihres Geräts passen. Prüfen Sie ihn an Ihrem eigenen Telefon – ein zu großes Modell kann dazu führen, dass iOS die App mitten in der Antwort beendet.
Private LLM: Kostenpflichtige Option mit iOS-Integration
Private LLM ist in diesem Leitfaden die kostenpflichtige iPhone-Option ($4.99 einmalig, kein Abo). Die App gibt es nur im App Store, sie wird mit einer kuratierten Bibliothek optimierter Modelle ausgeliefert. Ihr Unterscheidungsmerkmal in diesem Leitfaden ist die iOS-Integration: Laut Entwickler ist sie direkt in Siri und die Kurzbefehle-App eingebunden. Ausführlicher Test: Private LLM Review.
- Was sie ist: eine kostenpflichtige iOS-App mit kuratierter Modellbibliothek und tiefer iOS-Integration. Verwendet eine proprietäre, für Apple Silicon optimierte On-Device-Runtime.
- Installation: App Store → „Private LLM - Local AI Chat" (Numen Technologies Limited). Einmalkauf $4.99 (US-App-Store-Preis, in Deutschland kann der Preis in € abweichen; kein Abo, der Eintrag nennt keine In-App-Käufe). Erfordert iOS/iPadOS 17.0 oder neuer auf einem A12-Bionic-Chip oder neuer.
- Version und letztes Update: v1.9.16, veröffentlicht am 14. September 2026 (App-Store-Versionsverlauf); die vorherige Version 1.9.15 erschien am 9. Juli 2026. Releases erscheinen alle zwei bis drei Monate – unter der Drei-Monats-Grenze, daher keine Veraltet-Warnung.
- Kuratierte Modellbibliothek: privatellm.app wirbt mit über 140 lokalen Modellen für iPhone, iPad und Mac und nennt Familien wie Llama, Qwen3, Gemma 3 und Phi 4; die Teilmenge, die auf ein iPhone passt, ist kleiner. Weniger flexibel als PocketPal AI, aber die Modelle sind vorab für die Runtime der App optimiert.
- Kurzbefehle: Laut Entwickler ist Private LLM in die Kurzbefehle-App eingebunden und kann Antworten an andere Apps weiterreichen, die die x-callback-url-Spezifikation unterstützen. Nützlich, um lokale KI per Taste auf dem Home-Bildschirm oder über NFC-Tags auszulösen.
- Siri-Integration: Der Entwickler führt eine Siri-Integration auf; ein an das On-Device-Modell geleiteter Prompt funktioniert ohne Internetverbindung (Internet wird nur für den ersten Modell-Download gebraucht).
💡Tipp: Laut privatellm.app deckt ein Kauf für $4.99 iPhone, iPad und Mac ab, und der App-Store-Eintrag nennt bis zu sechs Familienmitglieder mit Family Sharing. Es sind weder ein Abo noch In-App-Käufe aufgeführt – der angezeigte Preis sind die Gesamtkosten. Der Entwickler gibt an, es gebe keine Konten, kein Tracking und keine Protokolle.
Locally AI: Kostenlose MLX-App von LM Studio
Locally AI ist eine kostenlose Chat-App (laut Eintrag werden keine Daten erhoben) des LM-Studio-Teams (gelistet unter Element Labs Inc), die auf Apples eigenem MLX-Framework statt auf llama.cpp aufbaut. Es ist die einzige App hier, die Apples On-Device-Foundation-Modell als Chat-Oberfläche bereitstellt. Ausführlicher Test: Locally AI Review.
- Was sie ist: eine iOS-/iPadOS-/macOS-App, die Apple MLX für die Inferenz nutzt, entwickelt vom Team hinter der Desktop-App LM Studio.
- Installation: App Store → „Locally AI". Kostenlos, keine In-App-Käufe aufgeführt, kein Konto erforderlich (laut Eintrag), läuft offline.
- Version und letztes Update: v1.66.0, veröffentlicht am 15. Oktober 2026 (App-Store-Versionsverlauf); 2026 etwa ein Release pro Monat – keine Veraltet-Warnung.
- Modellbibliothek: Llama 3.2, Gemma 2/3/4, Qwen 3 und 3.5, DeepSeek, LFM 2.5, Bonsai, Ministral 3 und Apple Foundation Models – ein breiterer und aktuellerer Katalog als der von MLC Chat.
- iOS Kurzbefehle: bietet eine Kurzbefehle-Aktion und entspricht damit der Automatisierungsunterstützung von Private LLM – zum Preis von null.
- LM Link: eine optionale Funktion, die sich über eine laut LM Studio Ende-zu-Ende-verschlüsselte Verbindung mit LM Studio auf einem Mac verbindet, sodass die iPhone-App bei Bedarf an ein größeres Modell auf einem Heimrechner übergeben kann.
- Voraussetzungen: iOS/iPadOS 18.1 oder neuer (macOS 26.0 oder neuer für die Mac-Version). Die Effizienzvorteile von Apple Silicon kommen auf dem iPhone 15 Pro und neuer am meisten zum Tragen.
💡Tipp: Locally AI ist die einzige App in diesem Leitfaden, die Apples eigenes On-Device-Foundation-Modell hinter ein normales Chat-Fenster setzt – nützlich, wenn Sie testen möchten, was das Modell von Apple Intelligence kann, ohne sich durch Menüs der Schreibwerkzeuge zu klicken. Für die GGUF-Flexibilität von Drittanbietern hat PocketPal AI weiterhin den größeren Modellkatalog.
Google AI Edge Gallery: Googles kostenlose Gemma-4-App
Google AI Edge Gallery ist Googles kostenlose App, um die Gemma-4-Modelle auf dem Telefon auszuführen, und sie ist im iPhone-App-Store erhältlich. Der Eintrag zeigt KI-Chat mit Denkmodus, Agent Skills, Bild- und Audioeingabe, Prompt Lab und Modell-Benchmarking. Google gibt an, die App befinde sich in aktiver Entwicklung. Ausführlicher Test: Google AI Edge Gallery Review.
- Was sie ist: Googles On-Device-KI-Showcase-App, aufgebaut auf Googles LiteRT-LM-Runtime. Kostenlos; es sind keine In-App-Käufe aufgeführt.
- Installation: App Store → „Google AI Edge Gallery". Erfordert iOS 17.0 oder neuer. Die Modelle werden separat in der App heruntergeladen.
- Version und letztes Update: v1.0.13, veröffentlicht am 8. Oktober 2026 (App-Store-Versionsverlauf). Die Unterstützung für Gemma 4 kam in v1.0.2 am 3. April 2026 – keine Veraltet-Warnung.
- Modelle: die Gemma-4-Familie (E2B und E4B sind die Varianten in Telefongröße; Google nennt die LiteRT-LM-Dateien mit etwa 2,58 GB und 3,65 GB), EmbeddingGemma 2 und FunctionGemma 270M. Modelle im LiteRT-LM-Format lassen sich auch von Hugging Face importieren.
- Funktionen: Denkmodus (nur Gemma-4-Modelle), Agent Skills (zum Beispiel Wikipedia-Abfrage und Karten, dazu Community-Skills), Bild-Fragen, Audio-Transkription, Prompt Lab und Modell-Benchmarking.
- Einschränkungen: nur LiteRT-LM-Modelle, kein GGUF oder MLX; der Eintrag erwähnt weder Kurzbefehle noch Siri; PromptQuorum hat dafür keine Geschwindigkeitswerte.
- Am besten geeignet für: Nutzer, die Googles eigenes Gemma 4 mit sichtbarem Denkmodus und Agent-Werkzeugen kostenlos nutzen möchten.
💡Tipp: Google nennt für Gemma 4 E2B auf einem iPhone 17 Pro einen Spitzenspeicherbedarf von etwa 607 MB auf der CPU und 1.450 MB auf der GPU (Herstellerangaben laut Googles LiteRT-LM-Gemma-4-Seite; von PromptQuorum nicht nachgemessen). E2B ist der praktische Startpunkt für die meisten Telefone; E4B passt zu iPhones mit 8 GB+.
MLC Chat: Apple-Silicon-Optimierung
Veraltet-Warnung: Die iPhone-App MLC Chat hat seit Version 1.6 am 27. September 2024 kein Update erhalten (mehr als zwei Jahre) und wird möglicherweise nicht mehr gepflegt – prüfen Sie das, bevor Sie sich darauf verlassen. Das Repository der MLC-LLM-Engine selbst ist auf GitHub weiterhin aktiv (letzte Aktivität am 6. Oktober 2026). MLC Chat ist kostenlos, quelloffen und führt Modelle aus, die mit der MLC-LLM-Toolchain kompiliert wurden, statt Standard-GGUF, und der Katalog hat nicht mit PocketPal AI oder Locally AI Schritt gehalten. Ausführlicher Test: MLC Chat Review.
- Was sie ist: die iOS-Referenz-App des MLC-LLM-Projekts, die die Metal-beschleunigte Inferenz von MLC LLM auf Apple Silicon demonstriert.
- Installation: App Store → „MLC Chat". Kostenlos. Erfordert iOS/iPadOS 17.0 oder neuer.
- Version und letztes Update: v1.6, veröffentlicht am 27. September 2024 (App-Store-Versionsverlauf; Llama 3.2 3B hinzugefügt). Davor: 1.5 brachte Gemma 2 2B (August 2024), 1.4 brachte Phi-3, Mistral v3 und Qwen2 (Juni 2024). Letztes iPhone-Update vor mehr als zwei Jahren – Veraltet-Warnung aktiv.
- Geschwindigkeit (Projektangabe, hier nicht gemessen): Das MLC-LLM-Projekt beschreibt seine Metal-beschleunigte Engine als schneller als llama.cpp-basierte Apps auf demselben iPhone – doch die Modellliste der App liegt vor aktuellen Empfehlungen wie Phi-4 Mini und Gemma 3, sodass sich dieser Vorteil mit den 2026 empfohlenen Modellen ohne selbst kompilierten Build nicht prüfen lässt.
- Modellbibliothek: beschränkt auf Modelle, die das MLC-LLM-Projekt kompiliert hat, bevor die App einschlief – Llama 3.2 3B, Gemma 2 2B, Phi-3, Mistral v3, Qwen2 und ähnliche Releases aus 2024. Nicht jedes Hugging-Face-GGUF funktioniert, und im App-Store-Build ist kein aktuelles kleines Modell enthalten.
- Am besten geeignet für: Entwickler, die bereits in die MLC-LLM-Toolchain investiert haben und bereit sind, ein eigenes Modell zu kompilieren, oder die gezielt eines der Modelle aus der Zeit vor 2025 brauchen, die schon enthalten sind.
⚠️Warnung: Da der App-Store-Build von MLC Chat seit dem 27. September 2024 kein Update erhalten hat, sollten Sie nicht erwarten, dass Phi-4 Mini, Qwen3 oder Gemma 3 in der Modellauswahl erscheinen. Wenn Sie heute aktuelle Modelle mit Metal-ähnlicher GPU-Effizienz möchten, sind Locally AI (Apple MLX), PocketPal AI (llama.cpp mit Metal Performance Shaders) oder Google AI Edge Gallery (Gemma 4) die aktiv gepflegten Alternativen.
LLM Farm: Nicht im App Store, Quellcode weiterhin verfügbar
Veraltet-Warnung: Der letzte Release von LLM Farm (1.4.3) erschien am 27. Januar 2025 und der letzte Code-Push am 30. Januar 2026 – seit fast neun Monaten gibt es kein Update –, daher wird die App möglicherweise nicht mehr gepflegt. Die PromptQuorum-Rezension des Projekts datiert die Entfernung aus dem App Store auf August 2025; die eigene GitHub-README beschreibt die App im App Store und auf TestFlight als „vorübergehend nicht verfügbar". Das Projekt (GitHub: guinmoon/LLMFarm) ist weiterhin quelloffen und verzeichnete bis Oktober 2026 GitHub-Issue-Aktivität, doch neue Nutzer können es nicht mehr über den App Store installieren; es muss über Xcode aus dem Quellcode gebaut werden (README: macOS 13+ und iOS 16+). Ausführlicher Test: LLM Farm Review.
- Was sie ist: eine iOS-App vom Maintainer des Projekts, die GGUF-Modelle mit umfangreichen Konfigurationsoptionen ausführt und früher über den App Store vertrieben wurde.
- Aktuelle Verfügbarkeit: Zum Zeitpunkt dieser Aktualisierung weder über den App Store noch über TestFlight installierbar. Der Quellcode bleibt öffentlich und baubar.
- Aus dem Quellcode bauen: Repository klonen, in Xcode öffnen und mit einem kostenlosen oder kostenpflichtigen Apple-Developer-Konto auf ein Gerät bauen – der übliche Sideloading-Ablauf für jede Open-Source-iOS-App ohne App-Store-Eintrag.
- Verfügbare Konfiguration (nach dem Bauen): Temperatur, Top-p, Top-k, Mirostat-Sampling, Wiederholungsstrafe, System-Prompt pro Modell, Auswahl der Chat-Vorlage, Länge des Kontextfensters.
- Am besten geeignet für: Entwickler, die sich mit dem Bauen einer App aus dem Quellcode in Xcode auskennen und gezielt Mirostat-Sampling-Kontrollen wünschen. Alle anderen sollten PocketPal AI oder Locally AI nutzen, beide vollständig über den App Store installierbar und kostenlos.
⚠️Warnung: Erwarten Sie nicht, dass ein App-Store-Link zu LLM Farm funktioniert – betrachten Sie jeden solchen Link an anderer Stelle als veraltet. Das Bauen aus dem Quellcode erfordert Xcode und Grundkenntnisse zum iOS-Code-Signing. Wenn Ihnen das zu viel Aufwand ist, deckt PocketPal AI denselben Anwendungsfall einer flexiblen, kostenlosen Chat-App ab, ohne den App Store zu verlassen.
Apple Intelligence: Systemintegrierte On-Device-KI
Apple Intelligence führt Apples eigenes ~3B-Foundation-Modell auf dem iPhone 15 Pro und neuer aus (die Generation des iPhone 15 Pro, gemeldet mit 8 GB RAM; Apple nennt keine RAM-Größe). Es ist standardmäßig keine Chat-App – es treibt Systemfunktionen in Mail (Smart Reply), Nachrichten (Schreibwerkzeuge), Notizen (Zusammenfassungen) und Benachrichtigungs-Zusammenfassungen an. Seit iOS 26 erlaubt Apples Foundation-Models-Framework Drittentwicklern, dasselbe On-Device-Modell direkt aufzurufen, und Apps wie Locally AI nutzen es, um darauf eine echte Chat-Oberfläche anzubieten. iOS 27 erweitert das Framework: Laut Apples Entwicklerleitfaden können Apps jedes Sprachmodell nutzen, das dessen Sprachmodell-Protokoll erfüllt, einschließlich Apples eigener Modelle und Cloud-Modelle.
- Wo es steckt: in iOS 18+ integriert (Foundation-Models-Framework seit iOS 26). Aktivieren unter Einstellungen → Apple Intelligence & Siri.
- Hardware-Voraussetzung: iPhone 15 Pro / 15 Pro Max, iPhone 16er-Serie, iPhone 16e, iPhone 17er-Serie sowie die iPhone 18 Pro, 18 Pro Max und iPhone Duo (A20 Pro) von 2026. Ältere iPhones (14 und früher) unterstützen Apple Intelligence nicht. Prüfen Sie vor dem Kauf Apples aktuelle Kompatibilitätsliste für iOS 27.
- Siri AI (iOS 27): Apple beschreibt Siri AI als in iOS 27 in der Beta verfügbar, zuerst auf Englisch ausgerollt, unter iOS zunächst nicht in der EU verfügbar und für einige serverseitige Funktionen mit täglichen Nutzungslimits versehen. Es ist von den On-Device-Chat-Apps in diesem Leitfaden getrennt.
- On-Device-Funktionen: Schreibwerkzeuge (umschreiben, zusammenfassen, Korrektur lesen) in jedem Textfeld, Smart Reply in Mail und Nachrichten, Benachrichtigungs-Zusammenfassungen, Genmoji-Erstellung.
- Foundation-Models-Framework (iOS 26+): eine native Swift-API, die Entwicklern mit wenigen Codezeilen direkten Zugriff auf dasselbe On-Device-Modell gibt – so stellt Locally AI es als Chat-Option bereit, und so kann die Kurzbefehle-Aktion „Modell verwenden" einen Prompt dorthin, an Private Cloud Compute oder an ChatGPT leiten.
- Private Cloud Compute: Für Aufgaben jenseits der Fähigkeiten des On-Device-Modells kann Apple Intelligence die Anfrage an Private Cloud Compute (PCC) senden – von Apple betriebene Server mit größeren Modellen, die laut Apple keine Nutzerdaten speichern. Welche Einstellungen Ihnen zur Verfügung stehen, entnehmen Sie Apples aktueller Dokumentation zu Apple Intelligence und Datenschutz.
- Verhältnis zu den Chat-Apps: Apple Intelligence ist eine Ergänzung, kein Ersatz. Die Systemfunktionen übernehmen Textumschreibung und Zusammenfassung in iOS-Apps; PocketPal AI, Private LLM, Locally AI und MLC Chat bieten eine eigene Chat-Oberfläche für beliebige Fragen – und Locally AI kann inzwischen auch Apples eigenes Modell hinter eine solche Oberfläche setzen.
💡Tipp: Wenn Apple Intelligence Ihr einziger Bedarf ist (E-Mails umformulieren, Benachrichtigungen zusammenfassen), brauchen Sie keine separate Chat-App. Wenn Sie dem Modell Fragen wie „erkläre Quantentunneln in einfachen Worten" oder „entwirf einen Projektplan für X" stellen möchten, installieren Sie eine Chat-App – entweder eine eigenständige wie PocketPal AI oder Locally AI, das Apples eigenes On-Device-Modell mit einem Chat-Fenster versehen kann.
MemoryAI: Offline-Chat mit editierbarem Gedächtnis (nicht gemessen)
MemoryAI ist eine kostenlose Offline-Chat-App für das iPhone mit Dokumentenfragen, einem editierbaren Gedächtnis auf dem Gerät und einem PIN-geschützten Kindermodus. Sie wurde nach dem Hauptvergleich ergänzt, steht deshalb nicht in der Vergleichstabelle und war nicht Teil unserer Tests.
- Modellbibliothek: Modelle werden in der App heruntergeladen (je 0,3–4 GB), und eigene GGUF-Dateien lassen sich von Hugging Face importieren. Die App nutzt zwei Inferenz-Engines: llama.cpp und Googles LiteRT.
- Funktionen: Dokumentenfragen, ein Agent Memory, das Sie öffnen, bearbeiten und löschen können, Freisprech-Sprachmodus (Spracheingabe und Vorlesen auf dem Gerät), Bildverständnis mit Vision-Modellen und ein Kindermodus hinter einer Eltern-PIN.
- Voraussetzungen und Preis: iOS 16.4+, mindestens 4 GB RAM. Kostenlos, ohne Werbung, Abos oder In-App-Käufe.
- Datenschutz und Lizenz: Chats, Dokumente und Erinnerungen bleiben nach dem Modell-Download auf dem Gerät. Die App sendet Nutzungsereignisse und Absturzberichte (laut Entwickler ohne Chat-Inhalte) und ist Closed Source.
- Installation: App Store. Erstveröffentlichung am 30. März 2026, die App ist also noch jung. Der App Store listet Version 1.0.60.
💡Tipp: Die Angaben stammen aus den Store-Einträgen, der Datenschutzerklärung und vom Entwickler, der unseren Text geprüft hat; MemoryAI wurde von uns nicht auf unseren Testgeräten gemessen. Alle Details: MemoryAI-Review.
fullmoon: kostenloser Open-Source-Chat auf Apple MLX (kein Release seit Anfang 2025)
fullmoon ist eine kostenlose Offline-Chat-App unter MIT-Lizenz für iPhone, iPad und Mac, die kleine Modelle über Apples MLX ausführt – sie hat aber seit dem 28. Januar 2025 kein Release und seit dem 5. Mai 2025 keine Codeänderung mehr erhalten und wird möglicherweise nicht mehr gepflegt. Sie wurde nach dem Hauptvergleich ergänzt und war nicht Teil unserer Tests.
- Modelle: Llama 3.2 1B und 3B sowie zwei Builds von DeepSeek-R1-Distill-Qwen-1.5B (je 0,7–1,9 GB) laut Website.
- Funktionen: Editierbarer Systemprompt, Design und Schriftarten sowie eine Kurzbefehle-Aktion; der Chatverlauf wird lokal gespeichert (README).
- Voraussetzungen und Preis: iOS 17.6+, 31,6 MB vor dem Modell-Download. Kostenlos herunterladbar.
- Datenschutz und Lizenz: Die Erklärung sagt, dass nichts erhoben wird, nennt aber auch Zwecke für erhobene Daten und widerspricht sich damit selbst. Der Quellcode ist öffentlich unter MIT-Lizenz.
- Installation: App Store (Version 1.2.0); die Website bietet zusätzlich einen TestFlight-Link für neuere Builds.
💡Tipp: Die Angaben stammen von der Website des Herstellers, aus dem App-Store-Eintrag, der Datenschutzerklärung und dem öffentlichen Repository; fullmoon wurde von uns nicht auf unseren Testgeräten ausgeführt. Alle Details: fullmoon-Rezension.
Cloak: Local AI: Offline-Chat im Einmalkauf (nicht gemessen)
Cloak: Local AI ist eine Offline-Chat-App im Einmalkauf für iPhone und iPad mit Sprachmemos und wöchentlichem Recap. Sie wurde nach dem Hauptvergleich ergänzt, steht deshalb nicht in den Geschwindigkeitsangaben und war nicht Teil unserer Tests.
- Modellbibliothek: Die App lädt bei der Einrichtung ein empfohlenes Modell von Hugging Face; es gibt keine Modellauswahl, und Name und Größe des Modells sind nicht veröffentlicht.
- Funktionen: Mehrere lokale Chat-Verläufe, ein anpassbarer System-Prompt, Sprachmemos als Notizen oder Chats und Recap, eine Zusammenfassung der letzten sieben Tage aus Fotos, Standort und Sprachmemos. Eine eigene Mac-Version, Cloak: Local AI Chat, bietet nur Chat.
- Voraussetzungen und Preis: iOS oder iPadOS 18.0+. Einmalkauf für 1,99 € im deutschen Store, ohne Abo und ohne aufgeführte In-App-Käufe.
- Datenschutz und Lizenz: Laut Richtlinie bleiben Gespräche nach dem Modell-Download auf dem Gerät. Die iPhone-Version sendet eine optionale Umfrageantwort bei der Einrichtung und, nur wenn eingeschaltet, tägliche Nutzungszähler; sie ist Closed Source.
- Installation: App Store. Erstveröffentlichung am 25. Juni 2026; der App Store listet Version 1.2.9 vom 27. Oktober 2026.
💡Tipp: Die Angaben stammen aus den App-Store-Einträgen, der Website von Polyaura und ihrer Datenschutzerklärung; der Entwickler wurde nicht kontaktiert, und Cloak wurde von uns nicht auf unseren Testgeräten gemessen. Alle Details: Cloak: Local AI im Test.
Reins: Chat-Client für Ihren Ollama- oder LM-Studio-Server (nicht gemessen)
Reins ist eine kostenlose Chat-App für iPhone und iPad, die sich mit Ihrem eigenen Ollama-, LM-Studio- oder OpenAI-kompatiblen Server verbindet und seit Version 2 auch MLX-Modelle auf dem Gerät ausführen kann. Sie wurde nach dem Hauptvergleich ergänzt, steht daher nicht in der Vergleichstabelle und war nicht Teil unserer Tests.
- Modellbibliothek: On-Device-MLX-Modelle werden in der App von Hugging Face geladen, und jedes MLX-Modell lässt sich suchen und herunterladen; auch Apple Foundation Models werden unterstützt.
- Funktionen: Tool-Aufrufe, eingebaute Websuche ohne API-Schlüssel, Anhänge als Bild, PDF, CSV und Text, Chat-Verzweigung, Denkmodus und temporäre Chats.
- Anforderungen und Preis: iOS 17.0 oder neuer (Generierung im Hintergrund braucht iOS 26). Der Download ist kostenlos, Reins Pro gibt es als Monats-, Jahres- oder Lifetime-In-App-Kauf; die Quellen listen nicht auf, was Pro freischaltet.
- Datenschutz und Lizenz: Laut Entwickler gibt es keinen Login, keine Analyse und keine Datenerhebung. Version 2 ist Closed Source; das öffentliche Repository enthält den Code nur bis Version 1.3.4.
- Installationsweg: App Store. Der App Store nennt Version 2.3.3, veröffentlicht am 21. Oktober 2026.
💡Tipp: Die Angaben stammen aus dem App-Store-Eintrag sowie der Website und den Richtlinien des Entwicklers; wir haben Reins nicht auf unseren Testtelefonen gemessen. Alle Details: Reins-Rezension.
Modelle nach iPhone-Modell
Der iPhone-RAM bestimmt die maximale Modellgröße – nicht die Chip-Generation. Ein iPhone mit 6 GB (14 Pro, 15) führt 1.7B-Modelle komfortabel aus; ein iPhone mit 8 GB+ (15 Pro, 16er-Serie, 16e, 17er-Serie) führt 3B–4B-Modelle komfortabel und 7B-Modelle langsam aus. Neuere kleine Modelle, die neben Phi-4 Mini einen Versuch wert sind: Gemma 4 E2B und E4B (Google, April 2026; etwa 2,58 GB und 3,65 GB als LiteRT-LM-Dateien) und die kleine Qwen3.5-Serie (Alibaba, März 2026; 0.8B, 2B, 4B und 9B, Apache 2.0 laut der Zusammenfassung von Artificial Analysis). PromptQuorum hat dafür keine Geschwindigkeitswerte; Locally AI und Google AI Edge Gallery liefern sie direkt mit. Den breiteren Modellüberblick für alle Hardware-Klassen (nicht nur mobil) finden Sie unter Die besten lokalen LLMs 2026.
iPhone-Modell (Jahr, RAM) | Empfohlenes Modell | Download-Größe | Grobe Geschwindigkeit (Richtwert) |
|---|---|---|---|
| iPhone 18 Pro / Pro Max (2026, ~12 GB gemeldet) | Wie 17 Pro; RAM von Apple nicht angegeben | ~2,5–3,7 GB | Keine Angabe |
| iPhone 17 Pro / 17 Pro Max (2025, 12 GB) | Phi-4 Mini / Llama 3.2 3B / Gemma 4 E4B | ~2,5–3,7 GB | ~13–20 Tok/Sek. (Phi-4 Mini) |
| iPhone 16er-Serie / 16e / 17 (2024–2025, 8 GB) | Phi-4 Mini (3,8B Q4_K_M) oder Gemma 4 E2B | ~2,6–2,7 GB | ~10–15 Tok/Sek. (Phi-4 Mini) |
| iPhone 15 Pro / Pro Max (2023, 8 GB) | Phi-4 Mini (3,8B Q4_K_M) | ~2,7 GB | ~8–12 Tok/Sek. |
| iPhone 13 Pro / 14 Pro / Pro Max (6 GB) | Qwen3 1.7B oder SmolLM 2 1.7B (Q4_K_M) | ~1,1 GB | ~15–20 Tok/Sek. |
| iPhone 14 / 14 Plus / 15 / 15 Plus (6 GB) | Qwen3 1.7B oder SmolLM 2 1.7B (Q4_K_M) | ~1,1 GB | ~12–18 Tok/Sek. |
| iPhone 13 / 12 / SE / älter (4 GB) | Für On-Device-LLMs nicht empfohlen | — | — |
💡Tipp: Für ältere iPhones mit 6 GB sind Qwen3 1.7B oder SmolLM 2 1.7B (Hugging Face) 2026 sinnvolle Wahlen; Qwen3.5 2B und Gemma 4 E2B sind neuere Optionen derselben Größenklasse. So kleine Modelle liefern kohärente kurze Antworten (1–3 Absätze), tun sich aber mit mehrstufigem Schlussfolgern schwer. Installieren Sie Phi-4 Mini nicht auf einem iPhone mit 6 GB – es passt nominell, doch iOS beendet die App bei jedem weiteren Speicherdruck. Die Geschwindigkeitswerte in der Tabelle sind gerundete Richtwerte für Phi-4 Mini, Llama 3.2 3B und Qwen3 1.7B und nicht an eine App-Version oder ein Testdatum gebunden; für Gemma 4 und Qwen3.5 gibt es hier keine Werte. Apples Produktseiten nennen keinen iPhone-RAM: Die RAM-Angaben hier sind allgemein berichtete Spezifikationen, und die ~12 GB beim 18 Pro stammen aus Pressemeldungen.
Akkuverbrauch und thermisches Throttling
On-Device-LLM-Inferenz auf dem iPhone ist CPU-/GPU-intensiv und erzeugt Wärme. Als grobe Orientierung (grobe Orientierung, keine Messung von PromptQuorum) zieht aktive Inferenz ~3–5 W; dauerhafte Generierung drosselt den Chip und kann den Akku auf dem iPhone 16 Pro um grob 20–30 % pro Stunde entladen.
- Akkuverbrauch (aktiver Chat, Richtwert): ~20–30 % pro Stunde auf dem iPhone 16 Pro mit Phi-4 Mini.
- Dauerhafte Generierung kann thermisches Throttling auslösen. Wird der Chip heiß, senkt iOS die Taktfrequenz, und die Tokens/Sek. sinken. Wann das beginnt und wie viel Geschwindigkeit verloren geht, hängt von Telefon, Hülle, Ladevorgang und Raumtemperatur ab; PromptQuorum hat das nicht gemessen. Lässt man das Telefon abkühlen, kehrt die Geschwindigkeit zurück.
- Gegenmaßnahme: Halten Sie das iPhone bei langen Inferenz-Sitzungen mit dem Display nach oben auf einer harten Oberfläche (nicht in der Hand oder Tasche), damit die Wärme abgeführt wird. Ein passives Kühlkörper-Case hilft, ist bei kurzen Interaktionen aber selten nötig.
- Verbrauch im Leerlauf: Wenn Sie nach der Generierung eine Chat-App im Hintergrund geöffnet lassen, bleibt der RAM belegt, aber es läuft keine Inferenz – der Akkueinfluss ist minimal. Das vollständige Schließen der App gibt die ~3 GB RAM wieder frei.
- MagSafe-Laden während der Inferenz: Laden während der Generierung kann zusätzliche Wärme erzeugen; wird das Telefon warm, pausieren Sie das Laden oder die Generierung, oder laden Sie erst danach.
⚠️Warnung: Führen Sie On-Device-LLM-Inferenz auf dem iPhone nicht in direkter Sonne oder in einem heißen Auto aus. In direkter Sonne oder in einem heißen Auto kann der Chip früher an seine thermischen Grenzen stoßen, was Throttling und Apples Meldung „iPhone muss abkühlen" auslösen kann. Die Generierung wird dann meist langsamer, statt dass sich die App schließt.
iOS Kurzbefehle, Siri und Sideloading
Die iOS-Integration unterscheidet sich je nach App erheblich. Private LLM und Locally AI unterstützen beide Kurzbefehle; PocketPal AI, Google AI Edge Gallery und MLC Chat sind eigenständige Chat-Apps, bei denen in README oder App-Store-Eintrag weder Kurzbefehle noch Siri-Integration erwähnt werden.
Private-LLM-Kurzbefehl: Ausgewählten Text zusammenfassen
“1. Aktion: „Ausgewählten Text abrufen" (iOS-Share-Sheet-Eingabe). 2. Aktion: Private-LLM-Textgenerierung (aus den Kurzbefehle-Aktionen der Private-LLM-App) → Prompt: „Fasse den folgenden Text in drei Stichpunkten zusammen: [Ausgewählter Text]" → ein in der App installiertes Modell wählen. 3. Aktion: „Ergebnis anzeigen" oder „In Zwischenablage kopieren". Zum Share Sheet hinzufügen, damit Sie es für beliebigen Text in jeder App ohne Internetverbindung ausführen können. Die Aktionsnamen folgen der Beschreibung des Entwicklers und können je nach App-Version abweichen.”
Apple-Intelligence-Kurzbefehl: Ton anpassen
“1. Aktion: „Zwischenablage abrufen". 2. Aktion: „Modell verwenden" → Modell: On-Device → Prompt: „Schreibe dies in einem professionellen, präzisen Ton um: [Zwischenablage]". 3. Aktion: „In Zwischenablage kopieren". Einem Sperrbildschirm-Widget zuweisen, um alles, was Sie kopieren, mit einem Tipp umzuschreiben.”
- Private LLM ist laut Entwickler in Kurzbefehle und Siri eingebunden und kann Antworten an Apps weiterreichen, die x-callback-url unterstützen. Die iOS-nativste der Chat-Apps hier.
- Locally AI bietet kostenlos eine Kurzbefehle-Aktion und kann einen Kurzbefehl über die Foundation-Models-Framework-Integration an Apples eigenes On-Device-Foundation-Modell leiten – kein Siri-Sprachbefehl, aber Kurzbefehle-Automatisierung ohne Bezahlung.
- PocketPal AI ist eine eigenständige Chat-App – die README erwähnt weder eine Kurzbefehle-Aktion noch eine Siri-Integration. Sie öffnen die App und chatten.
- Google AI Edge Gallery ist eine eigenständige Chat- und Demo-App – ihr App-Store-Eintrag erwähnt weder eine Kurzbefehle-Aktion noch eine Siri-Integration.
- MLC Chat ist eine Referenz-App für das MLC-LLM-Projekt – minimale iOS-Integration und seit September 2024 kein iPhone-Update. Keine Kurzbefehle-Aktion.
- LLM Farm ist derzeit nicht im App Store und hat, wenn aus dem Quellcode gebaut, keine Kurzbefehle-Aktion.
- Apple Intelligence integriert sich über die Aktion „Modell verwenden" in iOS Kurzbefehle (iOS 18.4+, mit iOS 26 zusammen mit dem Foundation-Models-Framework erweitert). Sie leitet einen Prompt an das On-Device-Modell, Private Cloud Compute oder ChatGPT (konfigurierbar). Die On-Device-Ausgabe lässt sich mit anderen Kurzbefehle-Aktionen verketten.
- Sideloading: PocketPal AI, Private LLM, Locally AI, Google AI Edge Gallery und MLC Chat sind im App Store und erfordern weder Sideloading noch Jailbreak; Apple Intelligence ist in iOS integriert. LLM Farm ist die Ausnahme – die Installation erfordert nun das Bauen aus dem Quellcode in Xcode. In der EU gibt es unter dem DMA alternative App-Marktplätze, doch welche Apps sie anbieten, entscheidet jeder Entwickler selbst; installieren Sie daher über den offiziellen Kanal des Entwicklers – keine dieser Apps benötigt einen alternativen Marktplatz.
💡Tipp: Für die freihändige Nutzung beim Fahren oder Kochen ist Private LLM die einzige Chat-App in diesem Leitfaden, deren Entwickler eine Siri-Integration angibt, sodass sie sich ohne Berühren des Telefons nutzen lässt. Apple Intelligence unterstützt Sprache über Siri, aber nur für Systemaufgaben (Schreiben, Zusammenfassen, App-Aktionen) – allgemeine Fragen wie bei den Chat-Apps sind nicht möglich.
Häufige Fehler
- Ein Modell installieren, das größer ist als der iPhone-RAM erlaubt. Ein 7B-Modell auf einem 8-GB-iPhone ist für den Chat oft zu langsam und kann von iOS beendet werden, wenn es Arbeitsspeicher für eine andere App beansprucht; messen Sie es vorher mit dem eingebauten Benchmark von PocketPal AI. Verwenden Sie das empfohlene Modell für Ihre iPhone-Klasse (3B–4B für 8-GB-Geräte, 1.7B für 6-GB-Geräte).
- Cloud-KI-Qualität von On-Device-Modellen erwarten. Phi-4 Mini (3,8B) ist für seine Größe beeindruckend, aber kein GPT-5.5. Verwenden Sie es für Chat, Zusammenfassungen, Textentwürfe und schnelle Fragen – nicht für mehrstufiges Schlussfolgern, komplexe Code-Generierung oder nuanciertes kreatives Schreiben.
- Inferenz im direkten Sonnenlicht oder in einem heißen Auto ausführen. Thermisches Throttling kann schnell einsetzen, die Generierung verlangsamt sich, und die Meldung „iPhone muss abkühlen" kann erscheinen. Führen Sie Inferenz bei Raumtemperatur aus.
- 3+ Chat-Apps mit je 3-GB-Modellen installiert lassen. Sie verbrauchen ~10 GB Speicher mit duplizierten Modellen. Entscheiden Sie sich für eine App und ein Modell; deinstallieren Sie die anderen, bis Sie sicher sind, dass Sie sie benötigen.
- Annehmen, Apple Intelligence habe überhaupt kein Chat-Interface. Das stimmte bis iOS 18, aber seit iOS 26 können Apps wie Locally AI Apples On-Device-Modell über das Foundation-Models-Framework mit einem echten Chat-Fenster versehen. Die Systemfunktionen (Schreibwerkzeuge, Smart Reply) sind für sich genommen weiterhin keine Chat-Oberfläche.
- LLM Farm im App Store suchen. Die App ist derzeit nicht im App Store (die LLM-Farm-Rezension von PromptQuorum datiert die Entfernung auf August 2025). Die Suche im App Store danach ist Zeitverschwendung; verwenden Sie PocketPal AI für denselben freien, flexiblen Anwendungsfall, oder bauen Sie LLM Farm aus dem Quellcode in Xcode, wenn Sie speziell die Mirostat-Kontrollen benötigen.
- Annehmen, „kostenlos" bedeute „ohne Käufe". PocketPal AI ist für den lokalen Chat kostenlos, verkauft aber optionale Premium-Inhalte (Pals und „PocketPal Plus"), während Locally AI und Google AI Edge Gallery keine In-App-Käufe aufführen. Prüfen Sie vor der Installation den Abschnitt zu In-App-Käufen im Eintrag (der US-App-Store-Eintrag von PocketPal AI zeigte am 23.10.2026 eine Altersfreigabe ab 18).
- Ein Modell allein anhand einer Geschwindigkeitstabelle beurteilen. Die Tokens/Sek.-Bereiche in diesem Leitfaden sind Richtwerte, und neuere Modelle wie Gemma 4 und Qwen3.5 kommen darin nicht vor. Führen Sie denselben Prompt im Benchmark von PocketPal AI auf zwei Modellen aus, bevor Sie das bereits heruntergeladene löschen.
Quellen
- PocketPal AI — github.com/a-ghorbani/pocketpal-ai (README, MIT-Lizenz, Release v1.20.1 vom 19. Okt. 2026) und der App-Store-Eintrag (Versionsverlauf, In-App-Käufe, Altersfreigabe, iOS 15.1+). Gelesen am 23.10.2026.
- Private LLM — App-Store-Eintrag (v1.9.16, $4.99, iOS 17.0+, Family Sharing) und privatellm.app (Siri und Kurzbefehle, Modellliste, ein Kauf für iPhone, iPad und Mac). Gelesen am 23.10.2026.
- Locally AI — App-Store-Eintrag (v1.66.0, kostenlos, Element Labs Inc, iOS 18.1+; LM-Studio-Team) und lmstudio.ai/locally (LM Link). Gelesen am 23.10.2026.
- Google AI Edge Gallery — App-Store-Eintrag (v1.0.13, kostenlos, iOS 17.0+, Gemma 4, Agent Skills, Denkmodus), github.com/google-ai-edge/gallery und Googles LiteRT-LM-Gemma-4-Seite (Dateigrößen und Speicherbedarf von E2B/E4B, Herstellerangaben). Gelesen am 23.10.2026.
- MLC Chat / MLC-LLM-Projekt — App-Store-Eintrag (v1.6, 27. Sep. 2024, Versionsverlauf), llm.mlc.ai und github.com/mlc-ai/mlc-llm (Engine-Repository). Gelesen am 23.10.2026.
- LLM Farm — github.com/guinmoon/LLMFarm (README: in TestFlight und App Store „vorübergehend nicht verfügbar"; Release 1.4.3 vom 27. Jan. 2025; letzter Push 30. Jan. 2026) und der PromptQuorum-Test zu LLM Farm zur Entfernung im August 2025. Gelesen am 23.10.2026.
- Apple Intelligence und On-Device-Foundation-Modelle — Apple Machine Learning Research, der Entwicklerleitfaden What is new in iOS 27 (Foundation-Models-Framework) sowie die iPhone-18-Pro-Seite (A20 Pro, Dual-16-Core-Neural-Engine, Siri-AI-Beta, keine RAM-Angabe) und die iPhone-Duo-Seite. Gelesen am 23.10.2026.
- Kleine Qwen3.5-Serie (0.8B–9B, März 2026) — Zusammenfassung von Artificial Analysis.
Häufig gestellte Fragen
Kann das iPhone wirklich ein 7B-Modell ausführen?
Technisch ja auf dem iPhone 15 Pro und neueren Modellen (8 GB RAM), aber nicht mit nutzbarer Geschwindigkeit. Ein 7B-Q4-Modell auf dem iPhone 16 Pro ist für komfortablen Chat oft zu langsam (Richtwert). iOS neigt auch dazu, die App zu beenden, wenn andere Apps Arbeitsspeicher benötigen. Verwenden Sie 3B–4B-Modelle (Phi-4 Mini, Llama 3.2 3B, Gemma 3 4B) für den alltäglichen On-Device-Chat. Für 7B+-Qualität verbinden Sie sich remote mit einem Mac oder PC zu Hause, auf dem Ollama läuft.
Entlädt lokale KI meinen iPhone-Akku?
Ja – aktive Inferenz zieht typischerweise ~3–5 W und kann den Akku – als grober Richtwert – auf dem iPhone 16 Pro um etwa 20–30 % pro Stunde entladen. Bei gelegentlichem Chat (wenige Prompts) ist der Einfluss gering. Bei dauerhafter Nutzung (langes Gespräch, mehrere Zusammenfassungsaufgaben) entlädt sich der Akku schnell; Laden während der Generierung kann zusätzliche Wärme erzeugen – pausieren Sie die Generierung, wenn das iPhone warm wird. Das Modell selbst im RAM ohne laufende Inferenz hat vernachlässigbaren Akkueinfluss.
Wird mein iPhone bei lokaler KI heiß?
Ja, das kann passieren, besonders bei langer Dauergenerierung. iOS drosselt die Taktfrequenz, wenn der Chip heiß wird, was die Tokens/Sek. senkt; wann und wie stark, hängt von Telefon, Hülle, Ladevorgang und Raumtemperatur ab und wurde von PromptQuorum nicht gemessen. Um dies zu minimieren: Halten Sie das iPhone bei langen Sitzungen mit dem Display nach oben auf einer harten Oberfläche (nicht in der Hand) und vermeiden Sie direktes Sonnenlicht. Kurze Interaktionen erzeugen meist wenig spürbare Wärme.
Kann ich Siri mit einem lokalen Modell verwenden?
Ja, mit Private LLM ($4.99 einmalig). Laut Entwickler ist die App direkt in Siri und Kurzbefehle eingebunden, sodass ein Prompt ohne Internetverbindung an das On-Device-Modell geleitet werden kann. PocketPal AI, Locally AI, Google AI Edge Gallery und MLC Chat erwähnen keine Siri-Sprachintegration, wobei Locally AI Kurzbefehle-Automatisierung unterstützt. Apple Intelligence integriert sich in Siri, aber nur für Systemaufgaben (Schreiben, Zusammenfassen, App-Aktionen), nicht für allgemeine Fragen; Siri AI ist eine separate Beta-Funktion von iOS 27, zuerst auf Englisch und zunächst nicht in der EU.
Funktionieren diese Apps auf dem iPhone SE oder älteren iPhones?
Eingeschränkt. Das iPhone SE und das iPhone 13 / 12 (4 GB RAM) liegen unter der praktischen Schwelle für On-Device-LLMs 2026. iPhone 14 / 15 (nicht Pro, 6 GB RAM) können 1.7B-Modelle (Qwen3 1.7B, SmolLM 2 1.7B) ausführen, aber keine 3B+-Modelle. Auch das iPhone 13 Pro und 14 Pro (6 GB RAM) bleiben bei 1.7B; das iPhone 15 Pro (8 GB RAM) kann 3B-Modelle wie Phi-4 Mini mit grob 8–12 Tokens/Sek. (Richtwert) ausführen. Für ältere iPhones ist die bessere Option eine Remote-Verbindung zu einem Mac oder PC zu Hause.
Kann ich den Chat-Verlauf zwischen iPhone und Mac synchronisieren?
Nicht in PocketPal AI, Private LLM, Google AI Edge Gallery oder MLC Chat – der Chat-Verlauf wird lokal auf jedem Gerät gespeichert, ohne iCloud-Sync. Private LLM und Locally AI laufen beide auch nativ auf dem Mac, aber der Verlauf synchronisiert sich trotzdem nicht zwischen den iPhone- und Mac-Kopien. Für geräteübergreifenden Chat-Verlauf ist der praktische Ansatz: Open WebUI auf einem Mac zu Hause betreiben und von iPhone und Mac aus im Browser darauf zugreifen – Open WebUI speichert den Chat-Verlauf serverseitig.
Sind diese Apps außerhalb des App Stores erhältlich?
PocketPal AI ist quelloffen und kann per Xcode aus dem Quellcode gebaut werden, aber der App-Store-Build ist die Standardverteilung. LLM Farm ist die Ausnahme, die nun aus dem Quellcode gebaut werden muss – sie ist derzeit weder im App Store noch auf TestFlight verfügbar (die README nennt sie „vorübergehend nicht verfügbar"). Private LLM, Locally AI, Google AI Edge Gallery und MLC Chat sind nur im App Store erhältlich. In der EU gibt es unter dem DMA alternative App-Marktplätze, doch welche Apps sie anbieten, entscheidet jeder Entwickler selbst; installieren Sie daher über den offiziellen Kanal des Entwicklers – keine dieser Apps benötigt einen alternativen Marktplatz.
Benötigt eine der Apps einen Jailbreak?
Nein. PocketPal AI, Private LLM, Locally AI, Google AI Edge Gallery, MLC Chat und Apple Intelligence laufen alle auf Standard-iOS. Auch das Bauen von LLM Farm aus dem Quellcode in Xcode erfordert keinen Jailbreak – es nutzt das Standard-Sideloading für Entwickler, keinen Jailbreak-Exploit. Ein Jailbreak ist für keine dieser Apps erforderlich oder empfohlen.
Kann ich lokale KI in iOS Kurzbefehlen verwenden?
Ja, über Private LLM (seine Kurzbefehle-Aktionen), Locally AI (eine kostenlose Kurzbefehle-Aktion) oder Apple Intelligence (Aktion „Modell verwenden", iOS 18.4+, mit iOS 26 erweitert). PocketPal AI, Google AI Edge Gallery und MLC Chat erwähnen keine Kurzbefehle-Aktionen. Unter den hier verglichenen Apps ist Locally AI die einzige kostenlose Option, die sowohl Kurzbefehle-Unterstützung als auch Zugriff auf Apples eigenes On-Device-Modell aufführt.
Wie vergleicht sich lokale KI mit der ChatGPT-App auf dem iPhone?
On-Device-Modelle (Phi-4 Mini, Llama 3.2 3B) liegen bei komplexem Schlussfolgern, breitem Weltwissen und multimodalen Aufgaben weiterhin spürbar hinter Frontier-Cloud-Modellen, sind aber bei einfachen Anfragen schneller (kein Netzwerk-Round-Trip) und halten den Chat laut Dokumentation der jeweiligen App auf dem Gerät. Der ehrliche Kompromiss: lokale KI für Routine- und private Aufgaben; ChatGPT oder eine andere Cloud-App für gelegentliche schwierige Fragen. Viele Nutzer haben 2026 beide und wählen je nach Anfrage.
Ist LLM Farm noch sicher, wenn sie nicht mehr im App Store ist?
Der Quellcode ist öffentlich auf GitHub und verzeichnet bis 2026 weiterhin Issue-Aktivität, doch der letzte Release (1.4.3) erschien am 27. Januar 2025 und der letzte Code-Push am 30. Januar 2026, daher wird die App möglicherweise nicht mehr gepflegt. Aus dem Quellcode gebaut und per Sideloading installiert, durchläuft sie zudem nicht mehr Apples App-Store-Prüfprozess. Wenn Sie nicht speziell die Mirostat-Sampling-Kontrollen benötigen, deckt PocketPal AI denselben freien, flexiblen, quelloffenen Anwendungsfall ab und bleibt im App Store mit Apples Standard-App-Review.
Welche dieser iPhone-Apps sind kostenlos?
PocketPal AI ist kostenlos (MIT-Lizenz) mit optionalen In-App-Käufen für Premium-Pals und „PocketPal Plus". Locally AI und Google AI Edge Gallery sind kostenlos, es sind keine In-App-Käufe aufgeführt. MLC Chat ist kostenlos. LLM Farm ist kostenlos, muss aber aus dem Quellcode gebaut werden. Private LLM kostet $4.99 einmalig, es sind keine In-App-Käufe aufgeführt. Apple Intelligence ist in iOS integriert. Die Preise wurden am 23. Oktober 2026 im US-App-Store gelesen und können je nach Land abweichen.
Kann das iPhone Duo ein lokales LLM offline ausführen?
Grundsätzlich ja: Das iPhone Duo und das iPhone 18 Pro nutzen beide Apples A20-Pro-Chip, und die Apps in diesem Leitfaden laufen auf jedem iPhone, das ihre iOS-Mindestversion erfüllt. Über die Modellgröße entscheidet der RAM, und die Seiten von Apple zum iPhone 18 Pro und zum iPhone Duo nennen keine RAM-Angabe; Pressemeldungen sprechen beim iPhone 18 Pro von 12 GB, was unbestätigt ist. PromptQuorum hat für keines der beiden Telefone gemessene Geschwindigkeiten. Installieren Sie PocketPal AI und führen Sie den eingebauten Benchmark aus, um zu sehen, was Ihr Telefon tatsächlich leistet.
Funktionieren diese Apps auch auf dem iPad?
Für die meisten ja. PocketPal AI (iPadOS 15.1+, laut README volle iPad-Unterstützung), Private LLM (iPadOS 17.0+) und Locally AI (iPadOS 18.1+) führen iPad-Unterstützung auf. Der Eintrag von Google AI Edge Gallery verlangt iOS 17.0 oder neuer; prüfen Sie die Seite für Ihr iPad. Wie beim iPhone entscheidet der RAM, welche Modelle passen. Hinweise speziell für das iPad finden Sie unter KI auf dem Tablet nutzen.
Warum ist LLM Farm aus dem App Store verschwunden?
Die README des Projekts sagt: „The app is temporarily unavailable in TestFlight and Appstore." PromptQuorum konnte keinen öffentlichen Grund für die Entfernung finden, daher ist jede Erklärung, die Sie anderswo lesen, unbestätigt (siehe den Test zu LLM Farm). Der Quellcode ist weiterhin öffentlich, doch der letzte Release war 1.4.3 am 27. Januar 2025. Als kostenlose, über den App Store installierbare Alternative nutzen Sie PocketPal AI oder Locally AI.
Gibt es eine Ollama-App für das iPhone?
Die Download-Seite von Ollama listet macOS, Windows und Linux, aber keine iPhone-App. Um Modelle von Ollama oder LM Studio vom iPhone aus zu nutzen, betreiben Sie den Server auf einem Mac oder PC und verbinden sich über eine Client-App; Locally AI bietet mit LM Link eine Verbindung zu LM Studio auf einem Mac, die LM Studio als verschlüsselt beschreibt. Für Modelle, die komplett auf dem Telefon laufen, nutzen Sie die Apps in diesem Leitfaden.
Sollte ich Gemma 4 oder Phi-4 Mini herunterladen?
PromptQuorum hat keinen direkten Benchmark der beiden auf dem iPhone. Hilfreiche Fakten: Gemma 4 E2B und E4B sind Googles Modelle in Telefongröße (etwa 2,58 GB und 3,65 GB als LiteRT-LM-Dateien in Google AI Edge Gallery; auch Locally AI listet Gemma 4), während Phi-4 Mini (3,8B Q4_K_M, ~2,7 GB) das Modell ist, auf das sich die Geschwindigkeitswerte in diesem Leitfaden beziehen. Probieren Sie auf einem iPhone mit 8 GB beide mit Ihren eigenen Prompts aus und vergleichen Sie die Tokens/Sek. im Benchmark von PocketPal AI; auf einem iPhone mit 6 GB bleiben Sie bei Modellen der 1.7B-Klasse.
Muss ich bei der Verwendung dieser iPhone-LLM-Apps die DSGVO beachten?
Für rein private Nutzung greift die DSGVO häufig nicht (Haushaltsausnahme, Art. 2 Abs. 2 lit. c DSGVO). Sobald Sie die Apps beruflich nutzen oder personenbezogene Daten Dritter eingeben, kann sie gelten. Für professionelle oder geschäftliche Nutzung – insbesondere wenn Sie Texte mit personenbezogenen Daten (Kundennamen, E-Mails, Vertragsinhalte) in das Modell eingeben – gilt Folgendes: Läuft die Verarbeitung laut Herstellerangaben vollständig auf dem Gerät, gelangen die Eingaben nach diesen Angaben nicht an einen externen Dienstleister; das kann die Anforderungen aus Artikel 28 DSGVO (Auftragsverarbeitung) und zur Datenminimierung in der Regel leichter erfüllbar machen als bei Cloud-KI-Diensten, ersetzt aber keine eigene Prüfung. Prüfen Sie dennoch App für App: PocketPal AI bietet optionale In-App-Käufe und eine optionale Anmeldung mit Apple (der Chat selbst braucht kein Konto), und der Entwickler von Private LLM gibt an, es gebe keine Konten und kein Tracking – das sind Herstellerangaben, keine von PromptQuorum geprüften Zusicherungen. Modell-Downloads benötigen eine Internetverbindung. Dies ist keine Rechtsberatung; klären Sie den konkreten Einsatz mit Ihrer oder Ihrem Datenschutzbeauftragten.
Sind diese iPhone-LLM-Apps für den deutschen Mittelstand geeignet?
Die Apps können sich für den Einsatz in kleinen und mittleren Unternehmen eignen, etwa zum Zusammenfassen von Texten ohne Internetverbindung oder zum Umformulieren von E-Mails. Denkbare Einsatzszenarien sind Vertriebsmitarbeitende, die offline Angebotszusammenfassungen erstellen, Servicetechniker, die im Feld Dokumentation zusammenfassen, und Büromitarbeitende, die Berichte umformulieren. Laut README bzw. Herstellerangaben bleiben Eingaben beim On-Device-Chat auf dem Gerät, sodass keine Übermittlung an einen externen KI-Dienst stattfindet; ob der Gesamtbetrieb den Datenschutzanforderungen genügt, hängt von Rechtsgrundlage, technisch-organisatorischen Maßnahmen und gegebenenfalls einer Datenschutz-Folgenabschätzung ab. Für regulierte Bereiche (Gesundheitswesen, Finanzdienstleistungen) klären Sie den Einsatz vorab mit Ihrer oder Ihrem Datenschutzbeauftragten. Dies ist keine Rechtsberatung.