Nyumbani / Miongozo / Continue na API ya bure ya LLM

Continue na API ya bure ya LLM

Continue ni kiendelezi cha AI cha chanzo huria kwa VS Code na JetBrains. Kina gumzo, hali ya wakala na tab autocomplete. Mwongozo huu unaunganisha vyote vitatu kwenye modeli za bure kupitia FreeLLMAPI. Unahariri faili moja, config.yaml.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

Sehemu zinavyounganika

Continue hutumia majukumu. Kila modeli kwenye config.yaml ina jukumu moja au zaidi. Gumzo na hali ya wakala hutumia jukumu la chat. Ukamilishaji wa ghost text hutumia jukumu la autocomplete. Usipoweka majukumu, chaguo-msingi ni chat, edit, apply na summarize.

Kipengele cha ContinueEndpoint ya FreeLLMAPIMahitaji ya modeli
Chat, edit, apply/v1/chat/completionsModeli yoyote ya gumzo
Hali ya wakala/v1/chat/completions yenye zanaTool calling (uwezo wa tool_use)
Tab autocomplete/v1/completions (prompt na suffix ya zamani)Modeli ya haraka

FreeLLMAPI huhudumia /v1/completions kwa wateja wa autocomplete wa mhariri wanaotuma maombi ya zamani ya prompt na suffix ya OpenAI. Continue hutuma maombi haya unapoweka useLegacyCompletionsEndpoint: true.

Hatua ya 1: Sakinisha FreeLLMAPI na uendeshe amri ya usanidi

Sakinisha kwenye macOS au Linux

curl -fsSL https://freellmapi.co/install.sh | bash

Fungua http://localhost:3001. Ongeza angalau funguo mbili za bure za watoa huduma kwenye ukurasa wa Keys. Nakili ufunguo wako wa umoja. Kisha endesha amri ya usanidi:

Amri moja

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

Amri hii hutengeneza nakala ya akiba na kuunganisha modeli ya gumzo kwenye ~/.continue/config.yaml. Huweka ufunguo kwenye ~/.continue/.env. YAML hurejelea ufunguo kama siri, kwa hiyo ufunguo halisi haumo kwenye faili la mipangilio.

Kwa nini .env: nyaraka za Continue zinasema kuwa viendelezi vya IDE haviwezi kusoma vigeu vya mazingira vya shell yako. Continue hutafuta siri kwenye <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env na kisha mazingira ya mchakato.

Ili kujaribu muunganisho bila IDE, tumia Continue CLI. Amri ni cn, kutoka kwenye pakiti ya npm @continuedev/cli. Nyaraka za Continue zinaweka alama ya alpha kwenye CLI.

Ukaguzi wa mara moja

npm install -g @continuedev/cli
cn -p "Say hello"

Viendelezi vya VS Code na JetBrains husoma ~/.continue/config.yaml uleule. Unasanidi lango mara moja kwa IDE zote mbili. Kila ombi hwenda kwenye kompyuta yako, kwa hiyo localhost inafanya kazi na handaki halihitajiki.

Hatua ya 2: Ongeza modeli za gumzo na autocomplete

Fungua config.yaml kutoka kwenye menyu ya configs kwenye Continue. Tumia ikoni ya gia karibu na Local Config. Faili liko kwenye ~/.continue/config.yaml kwenye macOS na Linux, na kwenye %USERPROFILE%\.continue\config.yaml kwenye Windows. Faili kamili la gumzo, hali ya wakala na autocomplete linaonekana hivi:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • capabilities: tool_use inahitajika kwa hali ya wakala. Continue kwa kawaida huitambua, lakini modeli ya lango auto si jina linalojulikana la modeli, kwa hiyo iweke.
  • contextLength humwambia Continue ni muktadha kiasi gani wa kutuma. Iweke sawa na muktadha wa modeli yako.
  • Badilisha auto kwenye ingizo la autocomplete kwa kitambulisho cha modeli kilichobandikwa ikiwa unataka modeli ileile kwa kila herufi.

Hatua ya 3: Chagua modeli

Kwa gumzo na hali ya wakala, tumia modeli yenye tool calling na dirisha kubwa la muktadha. Jedwali linaonyesha modeli za bure zinazotimiza sheria zote mbili leo.

Modeli za bure kwa gumzo na hali ya wakala ya Continue
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
GLM 5.3UnoRouter1M1 maombi/dakika
1 req/min per model
NdiyoHapana
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 maombi/dakika
40 RPM
NdiyoNdiyo
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaNdiyoNdiyo
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceNdiyoHapana
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Gemini 3.7 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 maombi/dakika
50 maombi/siku
50 req/day account-wide (1,000 after a $10 purchase)
NdiyoNdiyo

Inaonyesha 8 kati ya 109 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Kwa autocomplete, nyaraka za Continue zinapendekeza modeli zilizofunzwa kwa ukamilishaji, kwa mfano Codestral na Qwen Coder. Zinasema kuwa modeli kubwa za gumzo na modeli za kufikiri hazitoi ukamilishaji wenye manufaa. Jedwali linaonyesha ofa za bure za Codestral na Qwen Coder leo. Nakili kitambulisho halisi kutoka GET /v1/models.

Modeli za bure za Codestral na Qwen Coder kwa autocomplete
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
CodestralDreamPrompting, LLM7, Mistral +1 zaidi256K100 maombi/dakika
5,000 maombi/siku
500,000 tokeni/siku
500K tokens/day · 5,000 req/day
NdiyoHapana
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 zaidi256K1 maombi/dakika
1,000 maombi/siku
1,000 req/day · 1 req/min
NdiyoHapana
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20MNdiyoHapana
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 maombi/siku
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
NdiyoHapana
codestral-latestApi.Airforce32K1 maombi/dakika
1,000 maombi/siku
1,000 req/day · 1 req/min
HapanaHapana
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardNdiyoHapana
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedHapanaHapana
Qwen3 CoderSeptor Labs128KShared daily allowanceNdiyoHapana

Inaonyesha 8 kati ya 9 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Unaweza pia kutumia kitambulisho cha modeli ya kuelekeza badala ya auto. Kwa mfano, auto:smart hupendelea modeli zenye akili ya juu zaidi, na auto:fast hupendelea kasi iliyopimwa. Tengeneza ingizo tofauti la modeli kwa kila moja, kisha uichague kwenye menyu ya modeli ya Continue.

Mipangilio ya autocomplete na vikomo

Autocomplete hutuma ombi karibu kila mara mtu anaposimama kuandika. Kwenye tabaka za bure, hii ndiyo njia ya haraka zaidi ya kutumia kiwango chako. Tumia kizuizi cha autocompleteOptions kutuma maombi machache na madogo zaidi.

Ongeza chini ya ingizo la modeli ya autocomplete

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay ni muda wa kusubiri kwa milisekunde baada ya kuacha kuandika. Thamani kubwa hutuma maombi machache. Mfano wa nyaraka za Continue unatumia 250.
  • maxPromptTokens hupunguza ukubwa wa kila prompt ya ukamilishaji.
  • Weka autocomplete kwenye modeli yenye vikomo vya juu kwa dakika. Usiiweke kwenye modeli yenye maombi 20 kwa siku.
  • Weka gumzo na autocomplete kwenye modeli tofauti. Kisha autocomplete haitumii kiwango ambacho gumzo linakihitaji.

Mtoa huduma anapotuma hitilafu 429, FreeLLMAPI hujaribu modeli inayofuata kwenye mnyororo. Kichwa cha jibu X-Routed-Via kinaonyesha mtoa huduma aliyejibu.

Utatuzi wa matatizo

TatizoSababuSuluhisho
401 "Invalid API key"Ufunguo si sahihi, au Continue haikupakia siriWeka FREELLMAPI_API_KEY kwenye ~/.continue/.env, kisha pakia upya IDE
Hali ya wakala haipatikani kwa modeliModeli haina uwezo wa tool_use kwenye mipangilioOngeza capabilities: [tool_use] kwenye modeli ya gumzo
Hakuna ghost textHakuna modeli yenye jukumu la autocompleteOngeza ingizo la autocomplete kwa roles: [autocomplete]
Ukamilishaji ni polepoleModeli kubwa au tabaka la bure lenye kasi ndogoBandika modeli ya haraka kutoka jedwali la autocomplete
Ujumbe unaosema "All models rate-limited after N attempts"Funguo zote zimefika kwenye kikomo chakeOngeza debounceDelay na ongeza funguo kutoka kwa watoa huduma zaidi
Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Je, Continue ni bure?

Ndiyo. Continue ni kiendelezi cha chanzo huria. Kinahitaji API ya modeli. Kwa FreeLLMAPI, hutumia tabaka za bure za watoa huduma, kwa hiyo gharama ya inference ni $0.

Ninawezaje kusanidi tab autocomplete ya bure kwenye VS Code?

Sakinisha Continue kisha ongeza modeli yenye roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 na useLegacyCompletionsEndpoint: true. FreeLLMAPI hujibu kwenye /v1/completions.

Modeli ipi ya bure ni bora kwa autocomplete ya Continue?

Nyaraka za Continue zinapendekeza modeli zilizofunzwa kwa ukamilishaji, kama Codestral na Qwen Coder. Ofa za bure za zote mbili ziko kwenye jedwali la ukurasa huu. Modeli kubwa za gumzo na za kufikiri hazipendekezwi.

Kwa nini Continue haisomi kigeu changu cha mazingira?

Nyaraka za Continue zinasema kuwa viendelezi vya IDE haviwezi kusoma vigeu vya mazingira vya shell. Weka ufunguo kwenye ~/.continue/.env na urejelee kwa ${{ secrets.FREELLMAPI_API_KEY }}.

Je, hali ya wakala ya Continue inafanya kazi na modeli za bure?

Ndiyo, ikiwa modeli inaunga mkono tool calling. Ongeza uwezo wa tool_use kwenye modeli kwenye config.yaml na utumie modeli yenye dirisha kubwa la muktadha.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure