Wichtigste Erkenntnisse
- Lokale Qwen-Bereitstellung erfüllt DSGVO-Artikel 44 (kein Drittlandtransfer), Artikel 25 (Datenschutz durch Technikgestaltung) und Artikel 5(1)(f) (Datenintegrität) durch eine einzige Architekturentscheidung
- Mindest-Hardware: beliebige 12-GB-VRAM-GPU (RTX 3080, RTX 4070 Ti oder ähnlich) für Qwen 3 14B bei Q4_K_M via Ollama
- Kritische Isolierungsschritte: Ollama-Port 11434 per Firewall auf LAN beschränken, Telemetrie deaktivieren, auf isoliertem Netzwerksegment betreiben
- Artikel-30-Verarbeitungsverzeichnis: Modellversion, Quantisierung, Sitzungszeitstempel und SHA-256-Hash des Prompts protokollieren — niemals personenbezogene Dateninhalte selbst
- Gesamte Einrichtungszeit von frischem OS bis erster DSGVO-sicherer Inferenz: unter 30 Minuten
Warum lokale Bereitstellung die DSGVO erfüllt
<strong>Die drei DSGVO-Artikel, die durch KI-Nutzung am direktesten betroffen sind, sind Artikel 44 (internationale Datentransfers), Artikel 25 (Datenschutz durch Technikgestaltung) und Artikel 5(1)(f) (Integrität und Vertraulichkeit). Die lokale LLM-Bereitstellung adressiert alle drei durch eine einzige Architekturentscheidung: Das Modell läuft auf Ihrer Hardware, innerhalb Ihrer Jurisdiktion, ohne ausgehenden Datentransfer.</strong>
Artikel 44 ist für Cloud-KI am schwierigsten zu erfüllen. Jeder Prompt mit personenbezogenen Daten, der an OpenAI, Anthropic oder Alibaba Cloud gesendet wird, erfordert eine Rechtsgrundlage für den Transfer — mindestens Standardvertragsklauseln, oft auch eine Transferfolgenabschätzung. Bei lokaler Inferenz findet kein Artikel-44-Transfer statt.
Artikel 25 verlangt, dass die Verarbeitung von Grund auf zum Schutz personenbezogener Daten konzipiert ist. Ein lokales Modell ist das Lehrbuchbeispiel: Standardmäßig verlässt keine Daten das Gebäude. Prüfer und Datenschutzbehörden sind mit dieser Architektur vertraut.
📍 In einem Satz
Qwen lokal zu betreiben erfüllt DSGVO-Artikel 44, 25 und 5(1)(f) durch eine einzige Architekturentscheidung: das Modell verarbeitet alle Daten auf Ihrer Hardware, innerhalb Ihrer Jurisdiktion.
💬 In einfachen Worten
Die DSGVO hat strenge Regeln zum Senden von Daten ins Ausland. Ein lokales KI-Modell hält Daten auf Ihren eigenen Maschinen — keine Daten überqueren Grenzen, daher gelten die Internationaltransfer-Regeln schlicht nicht.
Hardware-Anforderungen nach Organisationsgröße
<strong>Für einen einzelnen Datenschutzbeauftragten oder eine Rechtsabteilung: jede GPU mit 12 GB VRAM ermöglicht Qwen 3 14B Q4_K_M bei praktischen Inferenzgeschwindigkeiten (~18 Tok/s auf RTX 3080). Für ein Team mit 5–10 gemeinsamen Nutzern: 24 GB VRAM (RTX 3090 oder RTX 4090) verarbeitet mehrere gleichzeitige Anfragen.</strong>
Mindest-Setup: RTX 3080, RTX 4070 Ti oder beliebige 12-GB-VRAM-GPU. Dedizierte GPU empfohlen — keine GPU, die zwischen Gaming und LLM wechselt. CPU-Fallback über Ollama ist möglich, aber Inferenzgeschwindigkeit sinkt auf ~3 Tok/s.
| Teamgröße | Empfohlene GPU | Modell | Erwartete Geschwindigkeit |
|---|---|---|---|
| 1 Nutzer | RTX 3080 (12 GB) | Qwen 3 14B Q4 | ~18 Tok/s |
| 2–5 Nutzer (gereihte Anfragen) | RTX 4070 Ti (12 GB) | Qwen 3 14B Q4 | ~22 Tok/s |
| 5–10 Nutzer (geteilt) | RTX 3090 / 4090 (24 GB) | Qwen 3 14B Q5 | ~28 Tok/s |
| Langdokument-Team | RTX 3090 (24 GB) | Llama 4 Scout (10M Kontext) | ~15 Tok/s |
Ollama-Installation — Schritt für Schritt
<strong>Ollama auf Linux, macOS oder Windows installieren. Qwen 3 14B einmalig über HTTPS herunterladen. Danach ist Inferenz vollständig offline.</strong>
- 1Ollama installieren
Why it matters: Einzeiler auf Linux: <code>curl -fsSL https://ollama.com/install.sh | sh</code>. macOS: .app von ollama.com herunterladen. Windows: .exe-Installer. Überprüfen: <code>ollama --version</code> gibt Versionsnummer aus. - 2Modell herunterladen (einmaliger HTTPS-Download)
Why it matters: <code>ollama pull qwen2.5:14b</code> ausführen. ~9 GB werden von Hugging Face über HTTPS heruntergeladen. Dies ist die einzige erforderliche externe Netzwerkverbindung. Für Air-Gap-Umgebungen: auf vernetztem Rechner herunterladen, GGUF-Datei per USB übertragen und mit <code>ollama create qwen2.5:14b --from /pfad/zur/datei.gguf</code> importieren. - 3Telemetrie deaktivieren
Why it matters: <code>~/.ollama/config.json</code> erstellen/bearbeiten und hinzufügen: <code>{"telemetry": false}</code>. Ollama sendet keine Inferenzdaten extern, aber Telemetrie-Pings beim Start. Deaktivierung eliminiert jede verbleibende Netzwerkaktivität. - 4Inferenz testen
Why it matters: <code>ollama run qwen2.5:14b</code> ausführen und Prompt eingeben. Bestätigen, dass Antwort lokal generiert wird. Mit <code>ss -tnp | grep ollama</code> (Linux) oder Wireshark verifizieren, dass keine ausgehenden Verbindungen während der Inferenz entstehen.
curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen2.5:14b
ollama run qwen2.5:14bNetzwerkisolierung
<strong>Ollama bietet standardmäßig eine HTTP-API auf Port 11434 an. Dieser Port muss auf LAN-Zugang beschränkt werden — niemals zum Internet geöffnet. Inferenz auf einem korrekt konfigurierten Ollama-Server erzeugt null ausgehenden Datenverkehr.</strong>
Auf Linux mit UFW: <code>ufw allow from 192.168.0.0/16 to any port 11434</code>, dann <code>ufw deny 11434</code>. Für Single-User-Nutzung Ollama nur an Localhost binden: <code>OLLAMA_HOST=127.0.0.1 ollama serve</code>.
•Important: Wenn Sie Open WebUI oder ein browserbasiertes Frontend für Ollama verwenden, stellen Sie sicher, dass auch das Frontend nur LAN-zugänglich ist. Die Isolierung der Ollama-API reicht nicht aus, wenn das Frontend öffentlich zugänglich ist.
Festplattenverschlüsselung — DSGVO-Artikel 5(1)(f)
<strong>DSGVO-Artikel 5(1)(f) verlangt, dass personenbezogene Daten mit angemessener Sicherheit verarbeitet werden, einschließlich Schutz vor unbefugtem Zugriff. Vollständige Festplattenverschlüsselung stellt sicher, dass bei Verlust oder Diebstahl eines Hardware-Assets die Modelldateien und protokollierten Daten nicht zugänglich sind.</strong>
Linux: LUKS2 mit dm-crypt ist der Standard — am besten bei OS-Installation aktivieren. macOS: FileVault ist integriert. Windows: BitLocker (Pro/Enterprise). Modell-Weights enthalten keine personenbezogenen Daten, aber Sitzungsprotokolle und Fine-Tuned-Modelle sollten als möglicherweise solche enthaltend behandelt werden.
Artikel-30-Protokoll — Was und wie protokollieren
<strong>DSGVO-Artikel 30 verpflichtet Organisationen zur Führung eines Verzeichnisses der Verarbeitungstätigkeiten, die personenbezogene Daten betreffen. Für eine LLM-Bereitstellung bedeutet das: Dokumentation von Verarbeitungszweck, Datenkategorien, technischen Maßnahmen und Aufbewahrungsfristen.</strong>
Was pro Inferenzsitzung protokolliert wird: (1) Modellname und -version, (2) Quantisierungsstufe, (3) Sitzungszeitstempel (ISO 8601), (4) SHA-256-Hash des Eingabe-Prompts — nicht der Rohtext. (5) Nutzerkennung (pseudonymisiert) falls zutreffend. Was NICHT protokolliert wird: Rohtext des Prompts, Rohtext der Antwort, extrahierte personenbezogene Daten.
Erfordert ein lokales LLM eine Datenschutz-Folgenabschätzung (DSFA)?
Möglicherweise. Eine DSFA ist erforderlich, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Personen birgt — z. B. bei medizinischen Unterlagen, Mitarbeiterleistungsdaten oder Rechtsdokumenten im großen Maßstab. Ein einzelner Analyst, der Qwen 3 14B für Vertragsprüfung nutzt, löst wahrscheinlich keine obligatorische DSFA aus. Eine Gesundheitsorganisation, die täglich Hunderte von Patientenakten verarbeitet, wahrscheinlich schon.
Welches Qwen-Modell ist am besten für Rechts- und HR-Text in europäischen Sprachen?
Qwen 3 14B Q4_K_M ist die empfohlene Basis: stark in Deutsch, Französisch, Italienisch, Spanisch und Englisch auf dem 14B-Tier. Für VRAM-begrenzte Umgebungen (6–8 GB): Qwen 3 8B bietet gute mehrsprachige Leistung.