Skip to main content
PromptQuorum

Kann man auf einem Xperia ein lokales LLM ausführen?

Ja. Das Xperia 1 VIII (16 GB RAM, Snapdragon 8 Elite Gen 5, seit Juni 2026 erhältlich) ist jetzt das leistungsstärkste Xperia für lokale LLMs und schafft Phi-4 Q4 und Qwen3-8B Q4 gleichzeitig. Das Xperia 1 VI (12 GB) bleibt fähig für Phi-4 Q4 und Rinna 3.6B. Das Xperia 5 V (8 GB) schafft 3B-Modelle, das Xperia 10 VI (6 GB) nur TinyLlama und Gemma 2B — alles über MLC Chat, ohne Root.

Kann man auf einem Xperia ein lokales LLM ausführen?

Schnelle Antwort

Ja — das Xperia 1 VIII (16 GB RAM, Snapdragon 8 Elite Gen 5) kann Phi-4 Q4 und Qwen3-8B Q4 gleichzeitig über MLC Chat ausführen. Das Xperia 1 VI (12 GB) schafft weiterhin Phi-4 Q4 und Rinna 3.6B. Das Xperia 5 V (8 GB) schafft leichte Modelle. Das Xperia 10 VI (6 GB) läuft nur TinyLlama und Gemma 2B.

  • Xperia 1 VIII: 16 GB RAM — läuft Phi-4 Q4, Rinna 3.6B, Qwen3-8B Q4
  • Xperia 1 VI: 12 GB RAM — läuft Phi-4 Q4, Rinna 3.6B, Qwen3-3B
  • Xperia 5 V: 8 GB RAM — läuft Rinna 3.6B und Gemma 2B Q4
  • Xperia 10 VI: 6 GB RAM — nur TinyLlama und Gemma 2B
  • Sony enthält keine Galaxy-AI-ähnlichen Funktionen — lokale LLM via MLC Chat schließt diese Lücke
Hardware Guides

Wichtigste Punkte

  • Das Xperia 1 VIII (16 GB RAM, Snapdragon 8 Elite Gen 5, seit Juni 2026 erhältlich) ist die neue Top-Wahl — Spielraum für Phi-4 Q4 und Qwen3-8B Q4 gleichzeitig
  • Das Xperia 1 VI (12 GB RAM, Snapdragon 8 Gen 3) bleibt fähig für 7B+-Modelle — ideal für Phi-4 Q4 und Qwen3-3B
  • Das Xperia 5 V (8 GB RAM) unterstützt 3B-Modelle wie Rinna 3.6B und Gemma 2B Q4 problemlos
  • Das Xperia 10 VI (6 GB RAM) ist auf Sub-2B-Modelle beschränkt — TinyLlama 1.1B und Gemma 2B sind die praktische Obergrenze
  • Sony liefert bei keinem aktuellen Modell On-Device-KI-Funktionen — MLC Chat oder PocketPal AI aus dem Google Play Store ist der praktische Ersatz
  • Akkuverbrauch liegt bei etwa 15 % pro Stunde bei aktiviertem Bildschirm und kontinuierlicher Inferenz auf dem Xperia 1 VI/VIII; Flugmodus aktivieren reduziert den Verbrauch

Kompatibilität nach Xperia-Modell

Vier aktuelle Xperia-Modelle unterstützen lokale LLM-Inferenz, wobei die Leistungsfähigkeit vollständig durch RAM und Chipsatz bestimmt wird — das neue Xperia 1 VIII führt, das Xperia 1 VI bleibt eine starke zweite Wahl, das Xperia 5 V deckt den mittleren Bereich ab und das Xperia 10 VI ist auf kleinste Modelle begrenzt. Sony installiert bei keinem davon On-Device-KI-Assistenten vor (anders als Samsung Galaxy AI), daher sind lokale LLM-Apps der einzige Weg zu privatem, offlinenem KI auf Xperia-Geräten.

Das Xperia 1 VIII, seit Juni 2026 erhältlich mit Snapdragon 8 Elite Gen 5 SoC und bis zu 16 GB LPDDR5X RAM, ist jetzt das leistungsfähigste Xperia für lokale Inferenz. Der zusätzliche RAM gegenüber dem Xperia 1 VI verschafft ihm komfortablen Spielraum, um Phi-4 Q4 (~8 GB) und Qwen3-8B Q4 (~5 GB) gleichzeitig neben normalem App-Betrieb auszuführen. Das Xperia 1 VI (Snapdragon 8 Gen 3, 12 GB RAM) ist weiterhin fähig für quantisierte 7B+-Modelle — Phi-4 Q4 und Qwen3-3B laufen zuverlässig, nur mit weniger Multitasking-Spielraum als beim VIII. Das Xperia 5 V mit Snapdragon 8 Gen 2 und 8 GB RAM ist der Sweet Spot für 3B-Modelle — Rinna 3.6B und Gemma 2B Q4 laufen zuverlässig. Das Xperia 10 VI verwendet den Mid-Range Snapdragon 6 Gen 1 mit nur 6 GB RAM; auf dieser Stufe bei TinyLlama 1.1B oder Gemma 2B bleiben — größere Modelle werden beim Laden abstürzen oder OOM-Fehler verursachen.

Xperia 1 VIII oder Xperia 1 VI für 7B+-Modelle verwenden; Xperia 5 V für 3B-Modelle; auf dem Xperia 10 VI bei Sub-2B-Modellen bleiben.

Anleitungen zur App-Einrichtung finden Sie in unserem Android-LLM-Apps für Japan Guide.

Xperia-ModellRAM / ChipEmpfohlene Modelle
Xperia 1 VIII16 GB / Snapdragon 8 Elite Gen 5Phi-4 Q4, Rinna 3.6B, Qwen3-3B, Qwen3-8B Q4
Xperia 1 VI12 GB / Snapdragon 8 Gen 3Phi-4 Q4, Rinna 3.6B, Qwen3-3B
Xperia 5 V8 GB / Snapdragon 8 Gen 2Rinna 3.6B, Gemma 2B Q4
Xperia 10 VI6 GB / Snapdragon 6 Gen 1TinyLlama 1.1B, Gemma 2B nur

📍 In einem Satz

Das Xperia 1 VIII (16 GB RAM, Snapdragon 8 Elite Gen 5) ist das leistungsfähigste aktuelle Xperia für lokale LLMs und schafft Phi-4 Q4 und Qwen3-8B Q4 gleichzeitig über MLC Chat.

💬 In einfachen Worten

Ein lokales LLM ist ein KI-Modell, das direkt auf dem Chip des Smartphones läuft — ohne Internetverbindung. Auf dem Xperia installiert man es über die App MLC Chat, ohne Root-Zugriff.

Einrichtung in 3 Schritten

Die Installation eines lokalen LLM auf einem Xperia dauert drei Schritte und unter 30 Minuten einschließlich Modell-Download-Zeit. Der Prozess erfordert keinen Root-Zugang, keinen Entwicklermodus und keine speziellen Xperia-Einstellungen — er läuft vollständig über Standard-Android-App- und Dateiverwaltung.

Schritt 1: MLC Chat oder PocketPal AI aus dem Google Play Store installieren. Beide sind kostenlos und in Japan ohne VPN oder Region-Umgehung verfügbar. MLC Chat ist schneller bis zur ersten Inferenz; PocketPal AI unterstützt eine breitere Palette von GGUF-Modelldateien von Hugging Face.

Schritt 2: Modell über WLAN herunterladen. TinyLlama 1.1B Q4 ist ca. 0,7 GB, Rinna 3.6B Q4 ca. 2 GB, Gemma 2B Q4 ca. 1,5 GB, Phi-4 Q4 ca. 8 GB und Qwen3-8B Q4 ca. 5 GB. Für Phi-4 ein Xperia mit 128 GB oder mehr Speicher verwenden. Vor dem Start von Phi-4 Q4 alle anderen Apps schließen — es benötigt ca. 8 GB der verfügbaren 12 GB RAM beim Xperia 1 VI (bzw. 16 GB beim Xperia 1 VIII) und braucht maximalen Arbeitsspeicher zum Laden. Download über mobile Daten vermeiden.

Schritt 3: Tastatur auf japanische Eingabe umstellen. Gboard mit aktiviertem Japanisch oder ATOK funktionieren beide direkt mit MLC Chat und PocketPal AI — man tippt auf Japanisch, das Modell antwortet auf Japanisch. Keine zusätzliche Konfiguration für japanische Spracheingabe erforderlich.

Akkuhinweis: Beim Xperia 1 VI oder Xperia 1 VIII ist mit ca. 15 % Akkuverbrauch pro Stunde bei aktiviertem Display und kontinuierlicher Inferenz zu rechnen — der neuere Chipsatz verbessert die Effizienz, aber anhaltende On-Device-Inferenz belastet den Akku ähnlich stark. Flugmodus aktivieren reduziert den Hintergrundradio-Verbrauch. Sony Xperia AI Agent (aktuell in der Beta) verbindet sich mit Cloud-KI-Diensten — für vollständige On-Device-Verarbeitung ohne Datenweitergabe ist MLC Chat der einzige Weg. Vollständige Anleitung: KI auf Tablets und Android-Geräten ausführen.

Schnelle Antworten zu Xperia-LLMs

Xperia 1 VIII oder Xperia 1 VI für lokale LLMs?
Das Xperia 1 VIII (16 GB RAM, Snapdragon 8 Elite Gen 5, seit Juni 2026 erhältlich) ist die bessere Wahl, wenn Sie Phi-4 Q4 und Qwen3-8B Q4 gleichzeitig ausführen oder mehr Multitasking-Spielraum wollen. Das Xperia 1 VI (12 GB RAM) schafft weiterhin problemlos Phi-4 Q4 oder Rinna 3.6B allein — wer bereits eines besitzt, muss nicht allein für lokale LLM-Nutzung upgraden.
Funktioniert ein lokales LLM auf dem Xperia 10 VI?
Nur TinyLlama 1.1B und Gemma 2B Q4. Das Xperia 10 VI hat 6 GB RAM und einen Snapdragon 6 Gen 1 — größere Modelle stürzen ab oder erzeugen Out-of-Memory-Fehler beim Laden. Rinna 3.6B oder 7B-Modelle auf dem Xperia 10 VI nicht versuchen.
Wie viel Speicherplatz benötigt ein Modell auf dem Xperia?
Rinna 3.6B Q4 benötigt ca. 2 GB Speicher. Phi-4 Q4 ca. 8 GB. Qwen3-8B Q4 ca. 5 GB. TinyLlama 1.1B Q4 ca. 0,7 GB. Für Phi-4 ein Xperia mit 128 GB oder mehr verwenden; 64 GB Speicher reichen für Rinna 3.6B und Gemma 2B.
Wie viel Akku verbraucht ein LLM auf dem Xperia?
Etwa 15 % Akku pro Stunde bei aktiviertem Bildschirm und kontinuierlicher Inferenz auf dem Xperia 1 VI bei voller Leistung. Auf dem Xperia 5 V mit Rinna 3.6B ähnlicher Verbrauch zu erwarten. Flugmodus aktivieren reduziert den Hintergrundradio-Verbrauch um 2–4 % pro Stunde.
Funktioniert es offline auf dem Xperia?
Ja — vollständig offline nach dem ersten Modell-Download. MLC Chat und PocketPal AI benötigen weder Internetverbindung, noch API-Schlüssel, noch ein Sony-Konto, sobald das Modell auf dem Gerät gespeichert ist. Während der Inferenz verlässt kein Datum das Gerät.
Was ist der Unterschied zwischen Sony Xperia AI Agent und einem lokalen LLM?
Sony Xperia AI Agent (Beta) leitet Anfragen über Cloud-KI-Server weiter — Ihre Prompts und Antworten passieren Sonys oder die Infrastruktur eines Drittanbieters. Ein lokales LLM über MLC Chat wird vollständig auf dem Snapdragon-Chip des Xperia ausgeführt — Daten verlassen das Gerät nie. Dieser On-Device-Ansatz ist die datenschutzkonforme Alternative für Nutzer, die sensible Daten gemäß DSGVO verarbeiten.