Nyumbani / Miongozo / Modeli za AI za bure kwenye VS Code

Modeli za AI za bure kwenye VS Code

VS Code ina njia tatu za kutumia API yako mwenyewe ya modeli. GitHub Copilot Chat inaweza kuongeza Custom Endpoint. Viendelezi vya mawakala kama Cline na Kilo Code vinapokea mtoa huduma anayeoana na OpenAI. Continue inaongeza autocomplete ya maandishi ya kivuli. Mwongozo huu unaunganisha kila moja kwenye modeli za bure kupitia FreeLLMAPI.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

Chaguo gani la kutumia

ChaguoGumzo na wakalaAutocomplete ya maandishi ya kivuliKituo cha FreeLLMAPI
Copilot Chat yenye Custom Endpoint (BYOK)NdiyoHapana. Mapendekezo ya ndani ya Copilot yanahitaji akaunti ya GitHub na hayatumii modeli za BYOK./v1/chat/completions au /v1/messages
Cline au Kilo CodeNdiyo, wakala mwenye uhariri wa faili na amriHapana/v1/chat/completions
ContinueNdiyoNdiyo/v1/chat/completions na /v1/completions

Zote tatu zinaendeshwa kwenye kompyuta yako, kwa hivyo zinaweza kufikia http://localhost:3001. Unaweza kutumia zaidi ya moja. Kwa mfano, tumia Copilot Chat au Cline kwa kazi za wakala, na Continue kwa autocomplete.

Hatua ya 1: Sakinisha FreeLLMAPI

FreeLLMAPI ni lango huria. Inakusanya ngazi za bure za watoa huduma 45 nyuma ya ufunguo mmoja. Inaelewa miundo ya OpenAI na Anthropic.

Sakinisha kwenye macOS au Linux

curl -fsSL https://freellmapi.co/install.sh | bash

Fungua http://localhost:3001. Ongeza angalau funguo mbili za bure za watoa huduma kwenye ukurasa wa Keys. Nakili ufunguo wako wa pamoja kutoka ukurasa uleule.

Chaguo 1: Copilot Chat yenye Custom Endpoint

VS Code inaita kipengele hiki bring your own key (BYOK). Mtoa huduma wa Custom Endpoint anachukua nafasi ya mtoa huduma wa zamani wa OpenAI Compatible. Mpangilio wa github.copilot.chat.customOAIModels umeachwa.

  1. Fungua mwonekano wa Chat. Kwenye kichagua modeli, chagua Manage Language Models. Unaweza pia kuendesha Chat: Manage Language Models kutoka Command Palette.
  2. Chagua Add Models, kisha Custom Endpoint.
  3. Andika jina la kundi, jina la kuonyesha na ufunguo wa API. Kwa ufunguo, andika ufunguo wako wa pamoja wa FreeLLMAPI.
  4. Chagua aina ya API Chat Completions.
  5. VS Code inafungua chatLanguageModels.json. Andika maelezo ya modeli kama kwenye mfano hapa chini. Hifadhi faili.
  6. Chagua modeli kwenye kichagua modeli cha mwonekano wa Chat.

chatLanguageModels.json

[
  {
    "name": "FreeLLMAPI",
    "vendor": "customendpoint",
    "apiKey": "${input:freellmapiKey}",
    "models": [
      {
        "id": "auto",
        "name": "FreeLLMAPI Auto",
        "url": "http://localhost:3001/v1/chat/completions",
        "toolCalling": true,
        "vision": false,
        "maxInputTokens": 128000,
        "maxOutputTokens": 8192
      }
    ]
  }
]
  • Nyaraka za VS Code zinapendekeza URL kamili ya kituo chenye njia ya API. Ukiandika http://localhost:3001/v1 pekee, VS Code inaongeza /chat/completions.
  • Weka ufunguo kwenye kigezo cha ingizo kama ${input:freellmapiKey}. Usiweke ufunguo halisi kwenye faili.
  • Weka toolCalling kuwa true. VS Code haionyeshi modeli kwenye kichagua modeli cha wakala ikiwa haiungi mkono wito wa zana.
  • Ili kutumia muundo wa Anthropic, weka "apiType": "messages" na URL http://localhost:3001/v1/messages.

Kwenye mipango, nyaraka za GitHub zinasema kwamba BYOK inakuruhusu kutumia modeli bila usajili wa Copilot. Nyaraka za VS Code zinatoa sheria zaidi kwa kila aina ya kikao cha gumzo, kwa hivyo zikague kwa toleo lako. Kwenye Copilot Business na Enterprise, msimamizi anaweza kuzima sera ya BYOK. Baadhi ya vipengele bado vinahitaji akaunti ya GitHub: mapendekezo ya ndani, utafutaji wa kimaana na vipengele vinavyotumia embeddings. BYOK inatumika kwa gumzo na kazi za msaidizi pekee.

Chaguo 2: Cline au Kilo Code kwa kazi za wakala

Cline na Kilo Code ni viendelezi vya mawakala. Vinasoma faili, vinazihariri na kuendesha amri. Kila moja ina amri yake ya usanidi:

Cline au Kilo Code

npx freellmapi setup-cline --url http://localhost:3001 --api-key <unified-key>
npx freellmapi setup-kilo --url http://localhost:3001

Ili kusanidi Cline kwa mkono, fungua mipangilio ya Cline kisha weka API Provider kuwa OpenAI Compatible. Weka Base URL kuwa http://localhost:3001/v1. Soma Cline, Roo Code and Kilo Code with a free API kwa hatua zote.

Chaguo 3: Continue kwa autocomplete ya maandishi ya kivuli bila malipo

BYOK ya Copilot haitoi maandishi ya kivuli. Continue inatoa. FreeLLMAPI inahudumia wateja wa autocomplete kwenye /v1/completions. Ongeza modeli hii kwenye ~/.continue/config.yaml na weka ufunguo kwenye ~/.continue/.env:

~/.continue/config.yaml (modeli ya autocomplete)

models:
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

Soma Continue with a free LLM API kwa faili kamili na kwa mipangilio ya autocomplete inayotuma maombi machache.

Chagua modeli na ukae ndani ya vikomo

Hali ya wakala inatuma maagizo marefu yenye ufafanuzi wa zana. Tumia modeli zenye wito wa zana na dirisha kubwa la muktadha. Jedwali linaonyesha modeli za bure zinazokidhi sheria zote mbili leo.

Modeli za bure za mawakala wa VS Code: wito wa zana na muktadha wa 128K au zaidi
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
GLM 5.3UnoRouter1M1 maombi/dakika
1 req/min per model
NdiyoHapana
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 maombi/dakika
40 RPM
NdiyoNdiyo
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaNdiyoNdiyo
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceNdiyoHapana
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Gemini 3.7 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 maombi/dakika
50 maombi/siku
50 req/day account-wide (1,000 after a $10 purchase)
NdiyoNdiyo
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 maombi/dakika
50 maombi/siku
Shared rate limit
NdiyoHapana
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 maombi/dakika
250 maombi/siku
70,000 tokeni/dakika
~6M
NdiyoNdiyo

Inaonyesha 10 kati ya 109 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Ngazi za bure zina vikomo kwa dakika na kwa siku. Mtoa huduma anapotuma hitilafu 429, FreeLLMAPI inajaribu modeli inayofuata kwenye mnyororo wako. Ongeza funguo kutoka watoa huduma wanne au zaidi. Kichwa cha jibu cha X-Routed-Via kinaonyesha mtoa huduma aliyejibu.

TatizoChanzoSuluhisho
Modeli haipo kwenye kichagua modeli cha wakalatoolCalling si trueWeka "toolCalling": true kwenye chatLanguageModels.json
Hakuna chaguo la Custom EndpointShirika lako limezima sera ya BYOKUliza msimamizi wako wa Copilot, au tumia Cline au Continue
401 "Invalid API key"Ufunguo si ufunguo wako wa pamoja wa FreeLLMAPINakili tena ufunguo wa pamoja kutoka ukurasa wa Keys
Hakuna maandishi ya kivuli kutoka kwa modeli yakoMapendekezo ya ndani ya Copilot hayatumii modeli za BYOKTumia Continue kwa autocomplete
"Modeli zote zimefikia kikomo cha kiwango baada ya majaribio N"Funguo zote zimefikia kikomo chakeOngeza funguo kutoka watoa huduma zaidi, au subiri muda wa kupumzika
Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Je, ninaweza kutumia GitHub Copilot na ufunguo wangu wa API?

Ndiyo. Kwenye VS Code, fungua Chat: Manage Language Models, chagua Add Models kisha Custom Endpoint. BYOK inatumika kwa gumzo na kazi za msaidizi. Mapendekezo ya ndani bado yanatumia modeli za GitHub.

Je, ninahitaji usajili wa Copilot kwa bring your own key?

Nyaraka za GitHub zinasema kwamba BYOK inakuruhusu kutumia modeli bila usajili wa Copilot. Kwenye Copilot Business na Enterprise, msimamizi anaweza kuzima sera ya BYOK.

Ninapataje autocomplete ya AI ya bure kwenye VS Code?

Sakinisha Continue kisha ongeza modeli yenye jukumu la autocomplete na useLegacyCompletionsEndpoint: true. Ielekeze kwa FreeLLMAPI kwenye http://localhost:3001/v1.

Modeli ipi ya bure ya AI ni bora zaidi kwenye VS Code?

Kwa hali ya wakala, tumia modeli yenye wito wa zana na muktadha wa angalau 128K. Kwa autocomplete, tumia modeli ya haraka. Jedwali la ukurasa huu linaonyesha modeli za bure za wakala za leo.

Je, mtoa huduma wa OpenAI Compatible kwenye Copilot ameachwa?

Ndiyo. Nyaraka za VS Code zinasema kwamba mtoa huduma wa Custom Endpoint anachukua nafasi ya mtoa huduma wa OpenAI Compatible aliyeachwa, na kwamba github.copilot.chat.customOAIModels imeachwa.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure