Bestes lokales LLM für einen 16-GB-RAM-Laptop (2026)?
Von Hans Kuepper · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

Schnelle Antwort
Für einen 16-GB-RAM-Laptop ohne dedizierte GPU ist Qwen3.5 9B (Q4, ~7 GB Download) der beste Allrounder, und Gemma 4 12B (~8 GB) ist das stärkste Modell, das noch passt, allerdings langsamer. Qwen3.5 4B (~3,5 GB) oder Phi-4-mini (~2,5 GB) eignen sich für schwächere Rechner. Qwen3 8B und Gemma 3 12B laufen weiterhin, haben aber neuere Nachfolger. Die Geschwindigkeiten sind Schätzwerte: etwa 6–12 tok/s für ein 9B-Modell auf der CPU, auf Apple Silicon rund das 1,5- bis 2-Fache. Mit 32 GB kommen 26–27B-Modelle in Frage.
- ▸Qwen3.5 9B (Q4): ~7 GB, geschätzt ~6–12 tok/s auf CPU — bester Allrounder für 16 GB
- ▸Gemma 4 12B (Q4): ~8 GB, geschätzt ~5–8 tok/s — das stärkste Modell, das noch in 16 GB passt
- ▸Qwen3.5 4B (~3,5 GB) oder Phi-4-mini (~2,5 GB): für 8 GB oder schwache Rechner
- ▸Apple Silicon: geschätzt 1,5–2× schneller via Unified Memory; 32 GB RAM ermöglicht 26–27B-Modelle
Qwen3.5 9B Ist die Beste Wahl für den 16-GB-Laptop
Auf einem 16-GB-RAM-Laptop ohne dedizierte GPU ist Qwen3.5 9B in 4-Bit-Quantisierung das beste Allround-LLM. Ollama gibt den Download mit 6,6–7,6 GB an, sodass etwa 8–9 GB für das Betriebssystem und andere Anwendungen bleiben. Es verarbeitet Text und Bilder und hat ein natives Kontextfenster von 256K Tokens; setzen Sie auf 16 GB einen Kontext von 8K–16K Tokens, damit der Kontext-Cache nicht in den Swap drängt.
Starten Sie es mit ollama run qwen3.5:9b, für Gemma 4 12B mit ollama run gemma4:12b. Die Tabelle zeigt die Modelle, die auf einem 16-GB-Laptop in Frage kommen. Die Geschwindigkeiten sind Schätzwerte, keine Messungen von PromptQuorum: Die Token-Rate auf der CPU entspricht grob der Speicherbandbreite geteilt durch die Modellgröße, und Dual-Channel-Laptopspeicher liefert etwa 50–90 GB/s.
| Modell | Download (Q4) | Tempo (am besten für) |
|---|---|---|
| Qwen3.5 9B | 6,6–7,6 GB | ~6–12 tok/s — bester Allrounder |
| Gemma 4 12B | ~8 GB | ~5–8 tok/s — stärkstes, das passt |
| Qwen3.5 4B | 3,3–4,0 GB | ~12–20 tok/s — 8 GB / schwache CPUs |
| Phi-4-mini | ~2,5 GB | ~15–25 tok/s — Tempo zuerst |
| Qwen3 8B | ~5,2 GB | ~8–15 tok/s — älter, weiter solide |
RAM vs. VRAM — Was Zählt
Auf einem Laptop ohne dedizierte GPU sind RAM und VRAM derselbe Pool. Die CPU liest Modellgewichte direkt aus dem Systemspeicher; 16 GB RAM sind also 16 GB Speicher, die sich Modell, Betriebssystem und Kontext-Cache teilen. Ein Laptop mit einer 6-GB-Grafikkarte (z. B. RTX 4050 Laptop GPU) hat eine feste VRAM-Obergrenze: Ein 8-GB-Modell passt nicht vollständig hinein, und die Laufzeit verteilt es auf GPU und CPU — langsamer als ein vollständiger GPU-Fit.
Apple Silicon ist ein anderer Fall. Auf Apple-Laptops ist der RAM vereinheitlicht: CPU und GPU teilen sich denselben physischen Speicher mit hoher Bandbreite (etwa 100 GB/s bei Basis-M2/M3, 120 GB/s bei M4). Da die Generierungsgeschwindigkeit der Speicherbandbreite folgt, führt ein 16-GB-MacBook mit M-Chip dasselbe Modell typischerweise etwa 1,5–2× schneller aus als ein typischer x86-Laptop mit gleichem RAM. Zwischen einem 16-GB-Intel/AMD-Laptop und einem 16-GB-Apple-Silicon-Laptop ist Apple Silicon für lokale Inferenz schneller.
Verwandte Leitfäden
- ▸Best Local LLM for 6 GB VRAM -- 6GB VRAM guide
- ▸Best Ollama Models for CPU-Only Inference -- CPU inference guide
- ▸How Much RAM Does a 7B Model Need? -- RAM requirements
- ▸Best eGPU Setup for MacBook Local LLM 2026 -- eGPU setup guide
- ▸Radeon 6800M for Local LLM: Full Setup Guide -- Radeon GPU guide
- ▸Mistral Small 24B vs Qwen3 14B vs Llama 3.1 8B -- model comparison