Startseite / Anleitungen / Continue mit einer kostenlosen LLM-API

Continue mit einer kostenlosen LLM-API

Continue ist eine Open-Source-KI-Erweiterung für VS Code und JetBrains. Sie hat Chat, Agent-Modus und Tab-Autocomplete. Diese Anleitung verbindet alle drei über FreeLLMAPI mit kostenlosen Modellen. Sie bearbeiten eine Datei, config.yaml.

Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.

So hängen die Teile zusammen

Continue verwendet Rollen. Jedes Modell in config.yaml hat eine oder mehrere Rollen. Chat und Agent-Modus verwenden die Rolle chat. Ghost-Text-Vervollständigung verwendet die Rolle autocomplete. Wenn Sie keine Rollen festlegen, sind die Standardrollen chat, edit, apply und summarize.

Continue-FunktionFreeLLMAPI-EndpunktAnforderung an das Modell
Chat, edit, apply/v1/chat/completionsEin beliebiges Chat-Modell
Agent-Modus/v1/chat/completions mit ToolsTool-Aufrufe (Fähigkeit tool_use)
Tab-Autocomplete/v1/completions (älteres Format mit prompt und suffix)Ein schnelles Modell

FreeLLMAPI stellt /v1/completions für Editor-Autocomplete-Clients bereit, die ältere OpenAI-Anfragen mit prompt und suffix senden. Continue sendet diese Anfragen, wenn Sie useLegacyCompletionsEndpoint: true setzen.

Schritt 1: FreeLLMAPI installieren und den Setup-Befehl ausführen

Installation unter macOS oder Linux

curl -fsSL https://freellmapi.co/install.sh | bash

Öffnen Sie http://localhost:3001. Fügen Sie auf der Seite Keys mindestens zwei kostenlose Anbieter-Schlüssel hinzu. Kopieren Sie Ihren einheitlichen Schlüssel. Führen Sie dann den Setup-Befehl aus:

Ein Befehl

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

Der Befehl erstellt eine Sicherung und führt ein Chat-Modell in ~/.continue/config.yaml zusammen. Den Schlüssel legt er in ~/.continue/.env ab. Die YAML-Datei verweist auf den Schlüssel als Geheimnis, daher steht der Klartext-Schlüssel nicht in der Konfigurationsdatei.

Warum .env: Laut der Continue-Dokumentation können die IDE-Erweiterungen Ihre Shell-Umgebungsvariablen nicht lesen. Continue sucht Geheimnisse in <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env und danach in der Prozessumgebung.

Um die Verbindung ohne IDE zu testen, verwenden Sie die Continue CLI. Der Befehl ist cn, aus dem npm-Paket @continuedev/cli. Die Continue-Dokumentation kennzeichnet die CLI als Alpha.

Einmalige Prüfung

npm install -g @continuedev/cli
cn -p "Say hello"

Die Erweiterungen für VS Code und JetBrains lesen dieselbe Datei ~/.continue/config.yaml. Sie konfigurieren das Gateway einmal für beide IDEs. Jede Anfrage geht an Ihren Computer, daher funktioniert localhost und Sie brauchen keinen Tunnel.

Schritt 2: Chat- und Autocomplete-Modelle hinzufügen

Öffnen Sie config.yaml über das Konfigurationsmenü in Continue. Verwenden Sie das Zahnradsymbol neben Local Config. Die Datei liegt unter macOS und Linux in ~/.continue/config.yaml und unter Windows in %USERPROFILE%\.continue\config.yaml. Eine vollständige Datei für Chat, Agent-Modus und Autocomplete sieht so aus:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • capabilities: tool_use ist für den Agent-Modus erforderlich. Continue erkennt sie meist selbst, aber das Gateway-Modell auto ist kein bekannter Modellname. Setzen Sie sie daher manuell.
  • contextLength legt fest, wie viel Kontext Continue sendet. Setzen Sie den Wert auf den Kontext Ihres Modells.
  • Ersetzen Sie auto im Autocomplete-Eintrag durch eine feste Modell-ID, wenn Sie bei jedem Tastendruck dasselbe Modell verwenden möchten.

Schritt 3: Modelle wählen

Für Chat und Agent-Modus verwenden Sie ein Modell mit Tool-Aufrufen und einem großen Kontextfenster. Die Tabelle zeigt kostenlose Modelle, die heute beide Regeln erfüllen.

Kostenlose Modelle für Continue-Chat und Agent-Modus
ModellKostenlos beiKontextKostenlose Limits (bestes Angebot)ToolsBildverarbeitung
GLM 5.3UnoRouter1M1 Anfragen/Min.
1 req/min per model
JaNein
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 Anfragen/Min.
40 RPM
JaJa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaJaJa
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceJaNein
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditJaJa
Gemini 3.7 FlashGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditJaJa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 Anfragen/Min.
50 Anfragen/Tag
50 req/day account-wide (1,000 after a $10 purchase)
JaJa

Es werden 8 von 109 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Für Autocomplete empfiehlt die Continue-Dokumentation Modelle, die für Vervollständigung trainiert sind, zum Beispiel Codestral und Qwen Coder. Laut Dokumentation liefern große Chat-Modelle und Denkmodelle keine brauchbaren Vervollständigungen. Die Tabelle zeigt die heutigen kostenlosen Angebote von Codestral und Qwen Coder. Kopieren Sie die genaue ID aus GET /v1/models.

Kostenlose Codestral- und Qwen-Coder-Modelle für Autocomplete
ModellKostenlos beiKontextKostenlose Limits (bestes Angebot)ToolsBildverarbeitung
CodestralDreamPrompting, LLM7, Mistral +1 weitere256K100 Anfragen/Min.
5,000 Anfragen/Tag
500,000 Token/Tag
500K tokens/day · 5,000 req/day
JaNein
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 weitere256K1 Anfragen/Min.
1,000 Anfragen/Tag
1,000 req/day · 1 req/min
JaNein
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20MJaNein
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 Anfragen/Tag
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
JaNein
codestral-latestApi.Airforce32K1 Anfragen/Min.
1,000 Anfragen/Tag
1,000 req/day · 1 req/min
NeinNein
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardJaNein
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedNeinNein
Qwen3 CoderSeptor Labs128KShared daily allowanceJaNein

Es werden 8 von 9 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Sie können auch eine Routing-Modell-ID anstelle von auto verwenden. auto:smart bevorzugt zum Beispiel die Modelle mit der höchsten Intelligenz, und auto:fast bevorzugt die gemessene Geschwindigkeit. Legen Sie für jede einen eigenen Modelleintrag an und wählen Sie ihn dann im Modellmenü von Continue aus.

Autocomplete-Einstellungen und Limits

Autocomplete sendet nach fast jeder Schreibpause eine Anfrage. Auf kostenlosen Stufen verbraucht das Ihr Kontingent am schnellsten. Verwenden Sie den Block autocompleteOptions, um weniger und kleinere Anfragen zu senden.

Unter dem Autocomplete-Modelleintrag hinzufügen

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay ist die Wartezeit in Millisekunden, nachdem Sie aufgehört haben zu tippen. Ein höherer Wert sendet weniger Anfragen. Das Beispiel der Continue-Dokumentation verwendet 250.
  • maxPromptTokens begrenzt die Größe jedes Vervollständigungs-Prompts.
  • Legen Sie Autocomplete auf ein Modell mit hohen Limits pro Minute. Legen Sie es nicht auf ein Modell mit 20 Anfragen pro Tag.
  • Verwenden Sie für Chat und Autocomplete unterschiedliche Modelle. So verbraucht Autocomplete nicht das Kontingent, das der Chat braucht.

Wenn ein Anbieter einen Fehler 429 sendet, versucht FreeLLMAPI das nächste Modell in der Kette. Der Antwort-Header X-Routed-Via zeigt den Anbieter, der geantwortet hat.

Fehlerbehebung

ProblemUrsacheLösung
401 „Invalid API key“Der Schlüssel ist falsch, oder Continue hat das Geheimnis nicht geladenLegen Sie FREELLMAPI_API_KEY in ~/.continue/.env ab und laden Sie die IDE neu
Der Agent-Modus ist für das Modell nicht verfügbarDas Modell hat in der Konfiguration keine Fähigkeit tool_useFügen Sie capabilities: [tool_use] zum Chat-Modell hinzu
Kein Ghost-TextKein Modell hat die Rolle autocompleteFügen Sie den Autocomplete-Eintrag mit roles: [autocomplete] hinzu
Vervollständigungen sind langsamEin großes Modell oder eine langsame kostenlose StufeLegen Sie ein schnelles Modell aus der Autocomplete-Tabelle fest
„All models rate-limited after N attempts“Alle Schlüssel haben ihr Limit erreichtErhöhen Sie debounceDelay und fügen Sie Schlüssel von weiteren Anbietern hinzu
Nutzen Sie alle diese Modelle über einen einzigen Schlüssel. FreeLLMAPI ist ein Open-Source-Router, den Sie selbst hosten. Er stellt alle diese kostenlosen Angebote hinter einem einzigen OpenAI-kompatiblen Endpunkt bereit und wechselt zum nächsten Anbieter, wenn ein Anbieter das Limit erreicht. Katalog ansehen oder Jetzt starten.

Häufig gestellte Fragen

Ist Continue kostenlos?

Ja. Continue ist eine Open-Source-Erweiterung. Sie braucht eine Modell-API. Mit FreeLLMAPI nutzt sie kostenlose Anbieter-Stufen, daher kostet die Inferenz 0 $.

Wie richte ich kostenloses Tab-Autocomplete in VS Code ein?

Installieren Sie Continue und fügen Sie ein Modell mit roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 und useLegacyCompletionsEndpoint: true hinzu. FreeLLMAPI antwortet auf /v1/completions.

Welches kostenlose Modell ist am besten für das Autocomplete von Continue?

Die Continue-Dokumentation empfiehlt auf Vervollständigung trainierte Modelle wie Codestral und Qwen Coder. Kostenlose Angebote für beide stehen in der Tabelle auf dieser Seite. Große Chat-Modelle und Denkmodelle werden nicht empfohlen.

Warum liest Continue meine Umgebungsvariable nicht?

Laut der Continue-Dokumentation können die IDE-Erweiterungen Shell-Umgebungsvariablen nicht lesen. Legen Sie den Schlüssel in ~/.continue/.env ab und verweisen Sie darauf als ${{ secrets.FREELLMAPI_API_KEY }}.

Funktioniert der Agent-Modus von Continue mit kostenlosen Modellen?

Ja, wenn das Modell Tool-Aufrufe unterstützt. Fügen Sie dem Modell in config.yaml die Fähigkeit tool_use hinzu und verwenden Sie ein Modell mit einem großen Kontextfenster.

Verwandte Anleitungen

Quellen

Alle Anleitungen · Alle kostenlosen Modelle ansehen