Continue.dev: GitHub Copilot selbst hosten in VS Code und JetBrains mit Ollama

GitHub Copilot überträgt Code-Ausschnitte zur Verarbeitung an Server von GitHub bzw. Microsoft und wird pro Nutzer abgerechnet. Das passt nicht zu jedem Team. Continue.dev ist eine quelloffene Erweiterung (Apache 2.0) für VS Code und JetBrains, die sich mit einem lokalen Ollama-Server verbindet und Tab-Autocomplete, Chat und Code-Edit auf Ihrer eigenen Hardware bereitstellt. Diese Anleitung zeigt den Aufbau, die Modellwahl für KMU-Hardware und die Unterschiede im Abrechnungsmodell gegenüber GitHub Copilot.

Voraussetzungen

1. PC oder Server mit mindestens 8 GB RAM (empfohlen: 16 GB+)
2. Optionale dedizierte GPU mit mindestens 8 GB VRAM für flüssige 7B-Modelle ; ohne GPU laufen kleinere Modelle auf der CPU, aber langsamer
3. Betriebssystem: Windows 10/11, macOS oder Linux
4. VS Code oder eine JetBrains-IDE (IntelliJ IDEA, PyCharm, WebStorm, GoLand u. a.)
5. Internetverbindung für die Erstinstallation und den Modell-Download (danach optional)
6. Freier Festplattenplatz: qwen2.5-coder:1.5b ca. 1 GB, qwen2.5-coder:7b ca. 4,7 GB

Schritt 1: Ollama installieren und starten

Ollama ist die lokale Inferenz-Engine, die Continue.dev als Backend nutzt. Sie stellt eine OpenAI-kompatible REST-API auf http://localhost:11434 bereit – Continue.dev sendet seine Anfragen genau dorthin.

# Windows: Installer herunterladen von https://ollama.com/download/windows
# Nach der Installation läuft Ollama automatisch als Hintergrundprozess.

# Linux (einzeiliger Installer):
curl -fsSL https://ollama.com/install.sh | sh

# macOS: .dmg-Datei von https://ollama.com/download/mac

# Linux/macOS: Dienst manuell starten (falls nicht automatisch aktiv)
ollama serve

Der Linux-Installer richtet den systemd-Dienst ollama ein, der nach einem Neustart automatisch startet (systemctl status ollama). Zur Modellwahl lesen Sie die Anleitung Ollama-Modelle 2026 richtig auswählen: VRAM, Quantisierung und Modellvergleich für KMU.

Verifizieren: Öffnen Sie im Browser http://localhost:11434 oder führen Sie curl http://localhost:11434 aus. Erwartete Antwort: Ollama is running.

Schritt 2: Passende Modelle herunterladen

Die Modellwahl entscheidet maßgeblich darüber, wie flüssig sich Continue.dev anfühlt. Für Tab-Autocomplete ist Reaktionszeit wichtiger als Qualität: Alles über ~500 ms fühlt sich störend an. Für den Chat-Modus zählt dagegen Codequalität.

# Autocomplete-Modell: leichtgewichtig, schnell, läuft auch rein auf CPU/RAM
ollama pull qwen2.5-coder:1.5b

# Chat- und Edit-Modell: hohe Codequalität, benötigt ~8 GB VRAM (oder mehr RAM für CPU-Betrieb)
ollama pull qwen2.5-coder:7b

# Optional: Reasoning-Modell für High-End-Hardware (32 GB VRAM)
# ollama pull deepseek-r1:32b

# Heruntergeladene Modelle prüfen
ollama list

Verifizieren: ollama list zeigt beide Modelle mit Größe und Modifikationsdatum. Beispielausgabe:

NAME                       ID              SIZE    MODIFIED
qwen2.5-coder:7b           2b0496514337    4.7 GB  2 minutes ago
qwen2.5-coder:1.5b         0b5f6afdc31f    986 MB  3 minutes ago

Empfohlene Modelle und ihr Speicherbedarf:

Geben Sie den Modell-Tag immer explizit an (z. B. qwen2.5-coder:7b). Ein ollama pull qwen2.5-coder ohne Tag lädt möglicherweise eine andere Variante als gewünscht.

Schritt 3: Continue.dev installieren

VS Code

# Über das Extensions-Panel: Strg+Shift+X → „Continue“ suchen → Installieren
# Oder direkt über die Kommandozeile (falls VS Code CLI verfügbar):
code --install-extension Continue.continue

JetBrains IDEs

# Settings → Plugins → Marketplace → „Continue“ suchen (Plugin-ID: 22707)
# Nach der Installation muss die IDE neu gestartet werden.

Hinweis für JetBrains-Nutzer: Das Plugin wird seit 2025/2026 als „Community-Maintained“ eingestuft. Das Continue-Team entwickelt primär die VS-Code-Erweiterung und die Continue CLI weiter. Berücksichtigen Sie das bei der Entscheidung für Ihr Team.

Verifizieren: In VS Code erscheint in der linken Seitenleiste das Continue-Icon, ein Klick öffnet das Chat-Panel. In JetBrains finden Sie Continue nach dem Neustart als Werkzeugfenster am rechten Rand.

Schritt 4: config.yaml einrichten

Die gesamte Konfiguration von Continue.dev liegt in einer einzigen Datei:

1. Windows: %USERPROFILE%\.continue\config.yaml
2. Linux/macOS: ~/.continue/config.yaml

In VS Code öffnen Sie sie über das Zahnrad-Icon in der Continue-Seitenleiste → „Open config.yaml“.

Das folgende Beispiel zeigt ein vollständiges KMU-Setup mit Chat/Edit auf qwen2.5-coder:7b und Tab-Autocomplete auf qwen2.5-coder:1.5b. Beide Modelle laufen ausschließlich lokal:

# ~/.continue/config.yaml
# DSGVO-konformes KMU-Setup – nur lokale Ollama-Modelle, kein Cloud-Zugriff

models:
  # Chat- und Edit-Modell: hohe Codequalität
  - name: Qwen2.5-Coder 7B (lokal)
    provider: ollama
    model: qwen2.5-coder:7b
    apiBase: http://localhost:11434
    roles:
      - chat
      - edit
    defaultCompletionOptions:
      contextLength: 8192
      maxTokens: 2048
      keepAlive: 1800   # Modell 30 Minuten im Speicher halten (reduziert Kaltstart)

  # Tab-Autocomplete-Modell: leichtgewichtig, Antwortzeit unter 500 ms
  - name: Qwen2.5-Coder 1.5B Autocomplete
    provider: ollama
    model: qwen2.5-coder:1.5b
    apiBase: http://localhost:11434
    roles:
      - autocomplete
    autocompleteOptions:
      disable: false
      debounceDelay: 250        # Wartezeit in ms vor dem Senden der Anfrage
      maxPromptTokens: 1024     # Kontextgröße für Autocomplete begrenzen
      modelTimeout: 150         # Timeout in Millisekunden
      onlyMyCode: true          # Nur Code aus dem eigenen Projekt als Kontext
      maxSuffixPercentage: 0.2
      prefixPercentage: 0.3

# Optional: Alternativ-Modell für leistungsstarke Hardware (32 GB VRAM)
# - name: DeepSeek R1 32B
#   provider: ollama
#   model: deepseek-r1:32b
#   apiBase: http://localhost:11434
#   roles:
#     - chat
#     - edit

Speichern Sie die Datei. Continue.dev lädt die Konfiguration automatisch neu, ein IDE-Neustart ist nicht nötig.

Verifizieren: Öffnen Sie das Continue-Chat-Panel, wählen Sie „Qwen2.5-Coder 7B (lokal)“ und fragen Sie: „Schreibe eine Python-Funktion, die eine Liste sortiert.“ Die Antwort kommt nach wenigen Sekunden, beim ersten Aufruf nach 10 bis 30 Sekunden (Modell wird geladen). ollama ps zeigt das Modell dann als geladen.

Schritt 5: Tab-Autocomplete aktivieren und testen

Tab-Autocomplete ist in Continue.dev standardmäßig aktiviert, sobald in der config.yaml ein Modell mit der Rolle autocomplete definiert ist. Öffnen Sie eine Code-Datei, tippen Sie den Beginn einer Funktion und warten Sie kurz: Continue.dev zeigt einen grauen Vorschlag an, den Sie mit Tab übernehmen.

Einige Stellschrauben für flüssiges Autocomplete:

1. debounceDelay: 250 ms ist ein guter Startwert. Erhöhen Sie ihn auf 400 bis 500 ms, wenn Vorschläge zu aggressiv erscheinen.
2. modelTimeout: Nach 150 Millisekunden verwirft Continue.dev eine Autocomplete-Anfrage. Auf reiner CPU-Hardware erhöhen Sie den Wert, sonst erscheinen keine Vorschläge.
3. onlyMyCode: Mit true verwendet Continue.dev nur Code aus dem aktuell geöffneten Projekt als Kontext.

Verifizieren: Tippen Sie in einer Python-Datei def fibonacci(n): und drücken Sie Enter. Nach kurzer Pause erscheint ein grauer Vorschlag, Tab übernimmt ihn. ollama ps zeigt jetzt zusätzlich qwen2.5-coder:1.5b.

Kostenvergleich: Continue.dev + Ollama vs. GitHub Copilot

GitHub Copilot rechnet pro Nutzer und Monat ab, seit dem 1. Juni 2026 zusätzlich verbrauchsbasiert über GitHub AI Credits. Aktuelle Preise nennt die Preisseite von GitHub (Stand 30.09.2026). Vergleich der Merkmale:

Zur Einordnung der Qualität: qwen2.5-coder:7b erreicht laut Qwen-Team 88,4 % HumanEval Pass@1 (Instruct-Variante). Bei komplexen Multi-File-Refactorings oder sehr seltenen Frameworks kann ein Cloud-Modell noch Vorteile haben. Wer einen hybriden Ansatz bevorzugt, kann in der config.yaml zusätzlich einen Cloud-Provider als zweites Chat-Modell konfigurieren. Continue.dev unterstützt neben Ollama auch OpenAI-kompatible APIs, HuggingFace TGI und vLLM.

Zum Datenschutz siehe Lokale KI datenschutzkonform betreiben: DSGVO-Checkliste für On-Premise-LLM-Deployments.

Troubleshooting / Typische Fehler

Continue.dev zeigt „Could not connect to Ollama“

Ollama läuft nicht oder ist nicht erreichbar. Prüfen Sie mit curl http://localhost:11434, erwartet wird Ollama is running. Unter Windows starten Sie Ollama über das Startmenü, falls das Symbol im Infobereich fehlt. Unter Linux: sudo systemctl start ollama.

Falscher apiBase-Wert bei Remote-Ollama

Wenn Ollama auf einem separaten Server läuft (z. B. einer GPU-Workstation im Büronetzwerk), muss in der config.yaml apiBase auf die korrekte IP zeigen: http://192.168.1.100:11434. Auf dem Server lauscht Ollama standardmäßig nur auf 127.0.0.1. Binden Sie es an die LAN-Adresse des Servers, nicht an alle Schnittstellen, und beschränken Sie Port 11434 per Firewall auf das Entwicklernetz, denn die Ollama-API hat keine Anmeldung:

OLLAMA_HOST=192.168.1.100:11434 ollama serve
# Als systemd-Dienst: sudo systemctl edit ollama
# [Service]
# Environment="OLLAMA_HOST=192.168.1.100:11434"

# Firewall (ufw): nur das Büronetz zulassen
sudo ufw allow from 192.168.1.0/24 to any port 11434 proto tcp

Tab-Autocomplete fühlt sich träge an

Das gewählte Autocomplete-Modell ist zu groß. Modelle über ~3B Parameter sind für Tab-Autocomplete ungeeignet – Antwortzeiten über 500 ms stören den Schreibfluss. Wechseln Sie zu qwen2.5-coder:1.5b oder starcoder2:3b.

YAML-Syntaxfehler in config.yaml

YAML ist einrückungsempfindlich. Tabs sind nicht erlaubt, verwenden Sie ausschließlich Leerzeichen. Ein Einrückungsfehler verhindert das Laden der Konfiguration. Prüfen Sie die Datei lokal (nicht in einem Online-Linter, sie kann interne Adressen enthalten):

python3 -c "import os, yaml; yaml.safe_load(open(os.path.expanduser('~/.continue/config.yaml'))); print('OK')"

Erster Request dauert sehr lange (Kaltstart)

Beim ersten Aufruf nach dem IDE-Start muss das Modell in den Speicher geladen werden. Das dauert je nach Hardware 10–30 Sekunden. Der keepAlive: 1800-Parameter in der config.yaml hält das Modell danach 30 Minuten im Speicher und verhindert weitere Kaltstarts.

VRAM-Unterschätzung bei quantisierten Modellen

Quantisierte Modelle (z. B. Q4_K_M) belegen ca. 50–60 % des VRAM gegenüber voller Präzision und laufen notfalls auch auf CPU+RAM – allerdings deutlich langsamer. Ohne dedizierte GPU mit mindestens 8 GB VRAM sind Modelle bis ~7B der sinnvolle Rahmen.

Hoher contextLength-Wert erhöht RAM-Bedarf

Ein contextLength von 32k erhöht den RAM/VRAM-Bedarf erheblich. Für 7B-Modelle mit 32k Kontext sind mindestens 16 GB RAM empfohlen. Beginnen Sie mit 8192 Tokens und erhöhen Sie den Wert schrittweise.

Häufige Fragen

Läuft Continue.dev komplett offline?

Ja, im reinen Ollama-Setup verlässt kein Datenbyte das lokale Netzwerk. Continue.dev kommuniziert ausschließlich mit der lokalen Ollama-API auf http://localhost:11434. Eine Internetverbindung ist nur für die Erstinstallation der Erweiterung und den Modell-Download erforderlich.

Welches Modell ist der beste Einstieg für ein KMU mit normaler Hardware (16 GB RAM, keine GPU)?

Empfohlen wird qwen2.5-coder:1.5b für Autocomplete – dieses Modell läuft auch rein auf CPU und RAM mit akzeptabler Geschwindigkeit. Für Chat und Edit ist qwen2.5-coder:7b die erste Wahl, läuft aber ohne GPU spürbar langsamer. Als praktikable Alternative ohne GPU eignet sich auch starcoder2:3b für Autocomplete.

Können Sie mehrere Modelle gleichzeitig in config.yaml definieren?

Ja. Über das roles-Array steuern Sie, welches Modell für Chat, Edit oder Autocomplete verwendet wird. Im Chat-Panel wechseln Sie manuell zwischen Chat-Modellen.

Ist Continue.dev DSGVO-konform für den Einsatz in KMU?

Im lokalen Ollama-Setup ja: Da weder Code noch Nutzerdaten an externe Server übertragen werden, entfallen Anforderungen wie Auftragsverarbeitungsverträge mit Cloud-Anbietern. Prüfen Sie intern, ob Unternehmensrichtlinien weitere Maßnahmen erfordern – eine Checkliste liefert die Anleitung zur datenschutzkonformen KI auf eigener Hardware.

Wie unterscheidet sich Continue.dev von GitHub Copilot qualitativ?

Für Standard-Coding-Aufgaben und einzelne Funktionen erreicht qwen2.5-coder:7b brauchbare Ergebnisse (88,4 % HumanEval Pass@1). Bei komplexen Multi-File-Refactorings oder sehr seltenen Frameworks kann ein Cloud-Modell noch Vorteile bieten. Mit Ollama wechseln Sie jederzeit auf neuere Modelle.

Muss Ollama immer laufen, wenn Sie Continue.dev nutzen?

Ja. Unter Windows läuft Ollama nach der Installation als Hintergrundprozess im Infobereich, unter Linux als systemd-Dienst ollama, den der Installer anlegt.

Fazit

Continue.dev mit Ollama ist eine Alternative zu GitHub Copilot für Teams, deren Code das eigene Netz nicht verlassen soll. Die Einrichtung dauert etwa 30 Minuten. Bei Standardaufgaben liefern Modelle wie qwen2.5-coder:7b brauchbare Ergebnisse, bei großen Refactorings sind Cloud-Modelle oft stärker. Fällt die Hardware aus, gibt es keinen automatischen Ersatz; wer das braucht, trägt in der config.yaml ein Cloud-Modell als manuellen Fallback ein.

Ob sich eigene GPU-Hardware lohnt, hängt von Teamgröße und vorhandener Hardware ab. Sie sind an kein Modell gebunden: Ein neues Modell holen Sie mit ollama pull und tragen es in der config.yaml ein.

Weiterführende Anleitungen und Quellen

1. Ollama-Modelle 2026 richtig auswählen: VRAM, Quantisierung und Modellvergleich für KMU
2. DeepSeek R1 lokal betreiben: Modellwahl, Quantisierung und VRAM-Bedarf
3. Lokale KI datenschutzkonform betreiben: DSGVO-Checkliste für On-Premise-LLM-Deployments
4. Ollama und Open WebUI mit Docker: eigenes lokales KI-Sprachmodell ohne Cloud betreiben
5. Continue.dev Dokumentation: Ollama Guide (englisch)
6. GitHub: continuedev/continue (Quellcode, Apache 2.0)
7. Ollama – offizielle Website

Passende Anleitungen auf S-EDV

1. OpenHands als selbst gehosteten KI-Coding-Agenten einrichten (Docker + Ollama)
2. Qwen3 lokal betreiben: 4B bis 32B per Ollama und vLLM mit Thinking-Mode