Lokale LLMs mit VS Code und Cursor: Einrichtung und Best Practices

Wie richten Sie Continue.dev in VS Code ein?

# 1. Installieren Sie Continue aus dem VS Code Marketplace
# Suchen Sie nach "Continue" und klicken Sie auf "Installieren"

# 2. Stellen Sie sicher, dass Ollama läuft
ollama serve

# 3. Öffnen Sie Continue-Einstellungen (Strg+Umschalt+P → Continue: Einstellungen öffnen)
# config.json wird geöffnet

# 4. Konfigurieren Sie für Ihr lokales Modell:
# Ersetzen Sie die Standard-Einstellungen durch:
{
  "models": [{
    "title": "Ollama",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b",
    "apiBase": "http://localhost:11434"
  }],
  "tabAutocompleteModel": {
    "title": "Ollama",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b"
  }
}

# 5. Beginnen Sie zu tippen und drücken Sie Tab für Vervollständigungen
# Oder Strg+Umschalt+\ zur manuellen Auslösung von Vervollständigungen

Wie verwenden Sie lokale Modelle in Cursor?

# 1. Laden Sie Cursor von cursor.sh herunter
# 2. Stellen Sie sicher, dass Ollama läuft
ollama serve

# 3. Öffnen Sie Cursor-Einstellungen (Cmd/Strg + ,)
# 4. Suchen Sie nach "Model" und stellen Sie ein:
#    - Model Provider: "Ollama"
#    - Model: "qwen2.5-coder:7b" (oder Ihre Wahl)
#    - API Base: "http://localhost:11434"

# 5. Tippen Sie Code und drücken Sie Tab für Inline-Vervollständigung
# 6. Strg+K für mehrzeilige Vervollständigung

Welche Modelle eignen sich am besten für Code?

Welche Latenz und welchen VRAM sollten Sie erwarten?

Wie konfigurieren Sie Code-Vervollständigungen für Performance?

# config.json erweiterte Einstellungen
{
  "tabAutocompleteModel": {
    "contextLength": 2048,     # Wie viel Code-Kontext senden
    "maxTokens": 50            # Max Tokens pro Vervollständigung
  },
  "completionOptions": {
    "maxContextTokens": 1024,
    "maxSuggestionsCount": 5,
    "debounceWaitMs": 200      # Warten vor Anzeige (ms)
  },
  # Für schnellere Inferenz kleineren Kontext nutzen:
  "models": [{
    "contextLength": 1024      # Kleinerer Kontext = schneller
  }]
}

# Für beste Geschwindigkeit auf 8GB-Maschinen:
# - Verwenden Sie 7B-Modell (nicht 13B)
# - Setzen Sie maxTokens auf 30
# - Setzen Sie debounceWaitMs auf 500 (weniger Flimmern)

Was sind häufige Fehler bei der Einrichtung lokaler Code-Vervollständigungen?

• Keine Debounce-Latenz-Optimierung: Falls Vervollständigungen sich "langsam" anfühlen, erhöhen Sie debounceWaitMs (z.B. auf 400 ms), um unvollständige Vorschläge zu vermeiden.
• Verwendung eines für Ihren VRAM zu großen Modells: Ein 13B-Modell + Editor-Overhead kann 12+ GB verwenden. Bei 8GB-Maschinen bleiben Sie mit 7B-Modellen.
• Erwartung von Cloud-Level-Code-Qualität: GPT-4o ist deutlich besser bei Code als jedes 7B-Modell. Lokale Vervollständigungen sind 70-80% der Cloud-Qualität.
• Ausführung von Inferenz auf CPU: CPU-Vervollständigungen sind unpraktisch (5-10 Sekunden Latenz). GPU ist erforderlich für nutzbare Vervollständigungen.

FAQ: Lokale Code-Vervollständigung

Weiterführende Lektüre

• Beste KI-Coding-Assistenten für lokale LLM -- Umfassender Vergleich von Cursor, Continue.dev, Cody, Tabnine und Windsurf mit Unterstützung für lokale LLMs.
• Lokaler LLM-Entwickler-Stack -- Vollständiger Stack mit API-Server und Produktions-Monitoring über die IDE-Integration hinaus.
• Ollama installieren -- Ollama für Code-Vervollständigungen einrichten.
• Beste lokale LLMs für Programmierung -- Detaillierter Programmierungs-Modell-Benchmark.
• How to Install LM Studio -- Welches Werkzeug verwenden.
• Lokale LLM OpenAI-kompatible API -- Code-Vervollständigungs-APIs.

Quellen

• Continue.dev Team. (2026). "Continue Documentation." https://docs.continue.dev/ -- Official setup guide, config.json reference, and local model integration instructions.
• Cursor. (2026). "Cursor Documentation." https://docs.cursor.com/ -- Local model configuration, Ollama integration, and inference setup guide.
• Alibaba Qwen Team. (2025). "Qwen2.5-Coder Technical Report." arXiv:2409.12186. https://arxiv.org/abs/2409.12186 -- HumanEval and code generation benchmarks for Qwen2.5-Coder variants.
• DeepSeek-AI. (2024). "DeepSeek-Coder Technical Paper." arXiv:2401.14196. https://arxiv.org/abs/2401.14196 -- Benchmark data and capability analysis for DeepSeek-Coder family.