Laman utama / Panduan / Continue dengan API LLM percuma

Continue dengan API LLM percuma

Continue ialah sambungan AI sumber terbuka untuk VS Code dan JetBrains. Ia mempunyai sembang, mod ejen dan autolengkap tab. Panduan ini menyambungkan ketiga-tiganya kepada model percuma melalui FreeLLMAPI. Anda menyunting satu fail, config.yaml.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Cara bahagian-bahagian ini bersambung

Continue menggunakan peranan. Setiap model dalam config.yaml mempunyai satu atau lebih peranan. Sembang dan mod ejen menggunakan peranan chat. Pelengkapan teks hantu menggunakan peranan autocomplete. Jika anda tidak menetapkan peranan, lalai ialah chat, edit, apply dan summarize.

Ciri ContinueTitik akhir FreeLLMAPIKeperluan model
Chat, edit, apply/v1/chat/completionsMana-mana model sembang
Mod ejen/v1/chat/completions dengan alatPanggilan alat (keupayaan tool_use)
Autolengkap tab/v1/completions (prompt dan suffix lama)Model pantas

FreeLLMAPI menyediakan /v1/completions untuk klien autolengkap editor yang menghantar permintaan prompt dan suffix OpenAI lama. Continue menghantar permintaan ini apabila anda menetapkan useLegacyCompletionsEndpoint: true.

Langkah 1: Pasang FreeLLMAPI dan jalankan arahan persediaan

Pasang pada macOS atau Linux

curl -fsSL https://freellmapi.co/install.sh | bash

Buka http://localhost:3001. Tambah sekurang-kurangnya dua kunci pembekal percuma pada halaman Keys. Salin kunci bersatu anda. Kemudian jalankan arahan persediaan:

Satu arahan

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

Arahan ini membuat sandaran dan menggabungkan model sembang ke dalam ~/.continue/config.yaml. Ia meletakkan kunci dalam ~/.continue/.env. YAML merujuk kunci itu sebagai rahsia, jadi kunci mentah tidak berada dalam fail konfigurasi.

Mengapa .env: dokumentasi Continue menyatakan bahawa sambungan IDE tidak boleh membaca pembolehubah persekitaran shell anda. Continue mencari rahsia dalam <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env dan kemudian persekitaran proses.

Untuk menguji sambungan tanpa IDE, guna Continue CLI. Arahannya ialah cn, daripada pakej npm @continuedev/cli. Dokumentasi Continue menandakan CLI sebagai alpha.

Semakan satu kali

npm install -g @continuedev/cli
cn -p "Say hello"

Sambungan VS Code dan JetBrains membaca ~/.continue/config.yaml yang sama. Anda mengkonfigurasi gerbang sekali untuk kedua-dua IDE. Setiap permintaan pergi ke komputer anda, jadi localhost berfungsi dan terowong tidak diperlukan.

Langkah 2: Tambah model sembang dan autolengkap

Buka config.yaml daripada menu konfigurasi dalam Continue. Guna ikon gear di sebelah Local Config. Fail itu berada di ~/.continue/config.yaml pada macOS dan Linux, dan di %USERPROFILE%\.continue\config.yaml pada Windows. Fail lengkap untuk sembang, mod ejen dan autolengkap kelihatan seperti ini:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • capabilities: tool_use diperlukan untuk mod ejen. Continue biasanya mengesannya, tetapi model get auto bukan nama model yang diketahui, jadi tetapkannya.
  • contextLength memberitahu Continue berapa banyak konteks untuk dihantar. Tetapkannya kepada konteks model anda.
  • Gantikan auto dalam entri autolengkap dengan ID model yang dipin jika anda mahu model yang sama untuk setiap ketukan kekunci.

Langkah 3: Pilih model

Untuk sembang dan mod ejen, guna model dengan panggilan alat dan tetingkap konteks yang besar. Jadual menunjukkan model percuma yang memenuhi kedua-dua syarat hari ini.

Model percuma untuk sembang dan mod ejen Continue
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
GLM 5.3UnoRouter1M1 permintaan/minit
1 req/min per model
YaTidak
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 permintaan/minit
40 RPM
YaYa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaYaYa
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceYaTidak
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditYaYa
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditYaYa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 permintaan/minit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaYa

Memaparkan 8 daripada 109 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Untuk autolengkap, dokumentasi Continue mengesyorkan model yang dilatih untuk pelengkapan, contohnya Codestral dan Qwen Coder. Mereka menyatakan bahawa model sembang besar dan model pemikiran tidak memberikan pelengkapan yang berguna. Jadual menunjukkan tawaran Codestral dan Qwen Coder percuma hari ini. Salin ID tepat daripada GET /v1/models.

Model Codestral dan Qwen Coder percuma untuk autolengkap
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
CodestralDreamPrompting, LLM7, Mistral +1 lagi256K100 permintaan/minit
5,000 permintaan/hari
500,000 token/hari
500K tokens/day · 5,000 req/day
YaTidak
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 lagi256K1 permintaan/minit
1,000 permintaan/hari
1,000 req/day · 1 req/min
YaTidak
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20MYaTidak
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 permintaan/hari
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
YaTidak
codestral-latestApi.Airforce32K1 permintaan/minit
1,000 permintaan/hari
1,000 req/day · 1 req/min
TidakTidak
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardYaTidak
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedTidakTidak
Qwen3 CoderSeptor Labs128KShared daily allowanceYaTidak

Memaparkan 8 daripada 9 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Anda juga boleh guna ID model penghalaan sebagai ganti auto. Contohnya, auto:smart mengutamakan model dengan kecerdasan tertinggi, dan auto:fast mengutamakan kelajuan yang diukur. Buat entri model berasingan untuk setiap satu, kemudian pilihnya dalam menu model Continue.

Tetapan autolengkap dan had

Autolengkap menghantar permintaan selepas hampir setiap jeda menaip. Pada peringkat percuma, ini ialah cara paling pantas untuk menghabiskan kuota anda. Guna blok autocompleteOptions untuk menghantar lebih sedikit permintaan yang lebih kecil.

Tambah di bawah entri model autolengkap

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay ialah masa menunggu dalam milisaat selepas anda berhenti menaip. Nilai yang lebih tinggi menghantar lebih sedikit permintaan. Contoh dokumentasi Continue menggunakan 250.
  • maxPromptTokens mengehadkan saiz setiap prompt pelengkapan.
  • Letakkan autolengkap pada model dengan had seminit yang tinggi. Jangan letakkannya pada model dengan 20 permintaan sehari.
  • Letakkan sembang dan autolengkap pada model yang berbeza. Dengan itu, autolengkap tidak menggunakan kuota yang diperlukan oleh sembang.

Apabila pembekal menghantar ralat 429, FreeLLMAPI mencuba model seterusnya dalam rantai. Pengepala respons X-Routed-Via menunjukkan pembekal yang menjawab.

Penyelesaian masalah

MasalahPuncaPenyelesaian
401 "Invalid API key"Kunci salah, atau Continue tidak memuatkan rahsiaLetakkan FREELLMAPI_API_KEY dalam ~/.continue/.env, kemudian muat semula IDE
Mod ejen tidak tersedia untuk model ituModel tidak mempunyai keupayaan tool_use dalam konfigurasiTambah capabilities: [tool_use] pada model sembang
Tiada teks hantuTiada model mempunyai peranan autocompleteTambah entri autolengkap dengan roles: [autocomplete]
Pelengkapan perlahanModel besar atau peringkat percuma yang perlahanPin model pantas daripada jadual autolengkap
"Semua model mencapai had kadar selepas N percubaan"Semua kunci telah mencapai hadTingkatkan debounceDelay dan tambah kunci daripada lebih banyak pembekal
Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

Adakah Continue percuma?

Ya. Continue ialah sambungan sumber terbuka. Ia memerlukan API model. Dengan FreeLLMAPI, ia menggunakan peringkat pembekal percuma, jadi kos inferens ialah $0.

Bagaimana saya menyediakan autolengkap tab percuma dalam VS Code?

Pasang Continue dan tambah model dengan roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 dan useLegacyCompletionsEndpoint: true. FreeLLMAPI menjawab pada /v1/completions.

Model percuma manakah terbaik untuk autolengkap Continue?

Dokumentasi Continue mengesyorkan model terlatih pelengkapan seperti Codestral dan Qwen Coder. Tawaran percuma untuk kedua-duanya ada dalam jadual pada halaman ini. Model sembang besar dan model pemikiran tidak disyorkan.

Mengapa Continue tidak membaca pembolehubah persekitaran saya?

Dokumentasi Continue menyatakan bahawa sambungan IDE tidak boleh membaca pembolehubah persekitaran shell. Letakkan kunci dalam ~/.continue/.env dan rujuknya sebagai ${{ secrets.FREELLMAPI_API_KEY }}.

Adakah mod ejen Continue berfungsi dengan model percuma?

Ya, jika model menyokong panggilan alat. Tambah keupayaan tool_use pada model dalam config.yaml dan guna model dengan tetingkap konteks yang besar.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma