Modeli za AI za bure kwenye VS Code
VS Code ina njia tatu za kutumia API yako mwenyewe ya modeli. GitHub Copilot Chat inaweza kuongeza Custom Endpoint. Viendelezi vya mawakala kama Cline na Kilo Code vinapokea mtoa huduma anayeoana na OpenAI. Continue inaongeza autocomplete ya maandishi ya kivuli. Mwongozo huu unaunganisha kila moja kwenye modeli za bure kupitia FreeLLMAPI.
Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.
Chaguo gani la kutumia
| Chaguo | Gumzo na wakala | Autocomplete ya maandishi ya kivuli | Kituo cha FreeLLMAPI |
|---|---|---|---|
| Copilot Chat yenye Custom Endpoint (BYOK) | Ndiyo | Hapana. Mapendekezo ya ndani ya Copilot yanahitaji akaunti ya GitHub na hayatumii modeli za BYOK. | /v1/chat/completions au /v1/messages |
| Cline au Kilo Code | Ndiyo, wakala mwenye uhariri wa faili na amri | Hapana | /v1/chat/completions |
| Continue | Ndiyo | Ndiyo | /v1/chat/completions na /v1/completions |
Zote tatu zinaendeshwa kwenye kompyuta yako, kwa hivyo zinaweza kufikia http://localhost:3001. Unaweza kutumia zaidi ya moja. Kwa mfano, tumia Copilot Chat au Cline kwa kazi za wakala, na Continue kwa autocomplete.
Hatua ya 1: Sakinisha FreeLLMAPI
FreeLLMAPI ni lango huria. Inakusanya ngazi za bure za watoa huduma 45 nyuma ya ufunguo mmoja. Inaelewa miundo ya OpenAI na Anthropic.
Sakinisha kwenye macOS au Linux
curl -fsSL https://freellmapi.co/install.sh | bashFungua http://localhost:3001. Ongeza angalau funguo mbili za bure za watoa huduma kwenye ukurasa wa Keys. Nakili ufunguo wako wa pamoja kutoka ukurasa uleule.
Chaguo 1: Copilot Chat yenye Custom Endpoint
VS Code inaita kipengele hiki bring your own key (BYOK). Mtoa huduma wa Custom Endpoint anachukua nafasi ya mtoa huduma wa zamani wa OpenAI Compatible. Mpangilio wa github.copilot.chat.customOAIModels umeachwa.
- Fungua mwonekano wa Chat. Kwenye kichagua modeli, chagua Manage Language Models. Unaweza pia kuendesha Chat: Manage Language Models kutoka Command Palette.
- Chagua Add Models, kisha Custom Endpoint.
- Andika jina la kundi, jina la kuonyesha na ufunguo wa API. Kwa ufunguo, andika ufunguo wako wa pamoja wa FreeLLMAPI.
- Chagua aina ya API Chat Completions.
- VS Code inafungua
chatLanguageModels.json. Andika maelezo ya modeli kama kwenye mfano hapa chini. Hifadhi faili. - Chagua modeli kwenye kichagua modeli cha mwonekano wa Chat.
chatLanguageModels.json
[
{
"name": "FreeLLMAPI",
"vendor": "customendpoint",
"apiKey": "${input:freellmapiKey}",
"models": [
{
"id": "auto",
"name": "FreeLLMAPI Auto",
"url": "http://localhost:3001/v1/chat/completions",
"toolCalling": true,
"vision": false,
"maxInputTokens": 128000,
"maxOutputTokens": 8192
}
]
}
]- Nyaraka za VS Code zinapendekeza URL kamili ya kituo chenye njia ya API. Ukiandika
http://localhost:3001/v1pekee, VS Code inaongeza/chat/completions. - Weka ufunguo kwenye kigezo cha ingizo kama
${input:freellmapiKey}. Usiweke ufunguo halisi kwenye faili. - Weka
toolCallingkuwatrue. VS Code haionyeshi modeli kwenye kichagua modeli cha wakala ikiwa haiungi mkono wito wa zana. - Ili kutumia muundo wa Anthropic, weka
"apiType": "messages"na URLhttp://localhost:3001/v1/messages.
Kwenye mipango, nyaraka za GitHub zinasema kwamba BYOK inakuruhusu kutumia modeli bila usajili wa Copilot. Nyaraka za VS Code zinatoa sheria zaidi kwa kila aina ya kikao cha gumzo, kwa hivyo zikague kwa toleo lako. Kwenye Copilot Business na Enterprise, msimamizi anaweza kuzima sera ya BYOK. Baadhi ya vipengele bado vinahitaji akaunti ya GitHub: mapendekezo ya ndani, utafutaji wa kimaana na vipengele vinavyotumia embeddings. BYOK inatumika kwa gumzo na kazi za msaidizi pekee.
Chaguo 2: Cline au Kilo Code kwa kazi za wakala
Cline na Kilo Code ni viendelezi vya mawakala. Vinasoma faili, vinazihariri na kuendesha amri. Kila moja ina amri yake ya usanidi:
Cline au Kilo Code
npx freellmapi setup-cline --url http://localhost:3001 --api-key <unified-key>
npx freellmapi setup-kilo --url http://localhost:3001Ili kusanidi Cline kwa mkono, fungua mipangilio ya Cline kisha weka API Provider kuwa OpenAI Compatible. Weka Base URL kuwa http://localhost:3001/v1. Soma Cline, Roo Code and Kilo Code with a free API kwa hatua zote.
Chaguo 3: Continue kwa autocomplete ya maandishi ya kivuli bila malipo
BYOK ya Copilot haitoi maandishi ya kivuli. Continue inatoa. FreeLLMAPI inahudumia wateja wa autocomplete kwenye /v1/completions. Ongeza modeli hii kwenye ~/.continue/config.yaml na weka ufunguo kwenye ~/.continue/.env:
~/.continue/config.yaml (modeli ya autocomplete)
models:
- name: FreeLLMAPI Autocomplete
provider: openai
model: auto
apiBase: http://localhost:3001/v1
apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
useLegacyCompletionsEndpoint: true
roles:
- autocompleteSoma Continue with a free LLM API kwa faili kamili na kwa mipangilio ya autocomplete inayotuma maombi machache.
Chagua modeli na ukae ndani ya vikomo
Hali ya wakala inatuma maagizo marefu yenye ufafanuzi wa zana. Tumia modeli zenye wito wa zana na dirisha kubwa la muktadha. Jedwali linaonyesha modeli za bure zinazokidhi sheria zote mbili leo.
| Modeli | Bure kwenye | Muktadha | Vikomo vya bure (ofa bora) | Zana | Uoni |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 maombi/dakika 1 req/min per model | Ndiyo | Hapana |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 maombi/dakika 40 RPM | Ndiyo | Ndiyo |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Ndiyo | Ndiyo |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Ndiyo | Hapana |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ndiyo | Ndiyo |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 maombi/dakika 20 maombi/siku 250,000 tokeni/dakika ~3M | Ndiyo | Ndiyo |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ndiyo | Ndiyo |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 maombi/dakika 50 maombi/siku 50 req/day account-wide (1,000 after a $10 purchase) | Ndiyo | Ndiyo |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 maombi/dakika 50 maombi/siku Shared rate limit | Ndiyo | Hapana |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 maombi/dakika 250 maombi/siku 70,000 tokeni/dakika ~6M | Ndiyo | Ndiyo |
Inaonyesha 10 kati ya 109 modeli za bure zinazolingana. Tazama modeli zote.
Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.
Ngazi za bure zina vikomo kwa dakika na kwa siku. Mtoa huduma anapotuma hitilafu 429, FreeLLMAPI inajaribu modeli inayofuata kwenye mnyororo wako. Ongeza funguo kutoka watoa huduma wanne au zaidi. Kichwa cha jibu cha X-Routed-Via kinaonyesha mtoa huduma aliyejibu.
| Tatizo | Chanzo | Suluhisho |
|---|---|---|
| Modeli haipo kwenye kichagua modeli cha wakala | toolCalling si true | Weka "toolCalling": true kwenye chatLanguageModels.json |
| Hakuna chaguo la Custom Endpoint | Shirika lako limezima sera ya BYOK | Uliza msimamizi wako wa Copilot, au tumia Cline au Continue |
401 "Invalid API key" | Ufunguo si ufunguo wako wa pamoja wa FreeLLMAPI | Nakili tena ufunguo wa pamoja kutoka ukurasa wa Keys |
| Hakuna maandishi ya kivuli kutoka kwa modeli yako | Mapendekezo ya ndani ya Copilot hayatumii modeli za BYOK | Tumia Continue kwa autocomplete |
| "Modeli zote zimefikia kikomo cha kiwango baada ya majaribio N" | Funguo zote zimefikia kikomo chake | Ongeza funguo kutoka watoa huduma zaidi, au subiri muda wa kupumzika |
Maswali yanayoulizwa mara kwa mara
Je, ninaweza kutumia GitHub Copilot na ufunguo wangu wa API?
Ndiyo. Kwenye VS Code, fungua Chat: Manage Language Models, chagua Add Models kisha Custom Endpoint. BYOK inatumika kwa gumzo na kazi za msaidizi. Mapendekezo ya ndani bado yanatumia modeli za GitHub.
Je, ninahitaji usajili wa Copilot kwa bring your own key?
Nyaraka za GitHub zinasema kwamba BYOK inakuruhusu kutumia modeli bila usajili wa Copilot. Kwenye Copilot Business na Enterprise, msimamizi anaweza kuzima sera ya BYOK.
Ninapataje autocomplete ya AI ya bure kwenye VS Code?
Sakinisha Continue kisha ongeza modeli yenye jukumu la autocomplete na useLegacyCompletionsEndpoint: true. Ielekeze kwa FreeLLMAPI kwenye http://localhost:3001/v1.
Modeli ipi ya bure ya AI ni bora zaidi kwenye VS Code?
Kwa hali ya wakala, tumia modeli yenye wito wa zana na muktadha wa angalau 128K. Kwa autocomplete, tumia modeli ya haraka. Jedwali la ukurasa huu linaonyesha modeli za bure za wakala za leo.
Je, mtoa huduma wa OpenAI Compatible kwenye Copilot ameachwa?
Ndiyo. Nyaraka za VS Code zinasema kwamba mtoa huduma wa Custom Endpoint anachukua nafasi ya mtoa huduma wa OpenAI Compatible aliyeachwa, na kwamba github.copilot.chat.customOAIModels imeachwa.
Miongozo inayohusiana
- Cline, Roo Code na Kilo Code kwa API ya bure
- Continue na API ya bure ya LLM
- Tumia Cursor na API ya LLM bure
- API bora za bure za modeli za msimbo
- Base URL za free API zinazooana na OpenAI
Vyanzo
- VS Code docs: language models in chat (BYOK) (imekaguliwa 20 November 2026)
- GitHub docs: bring your own key (imekaguliwa 20 November 2026)
- Cline docs: OpenAI Compatible provider (imekaguliwa 20 November 2026)
- Continue docs: OpenAI provider (imekaguliwa 20 November 2026)
- FreeLLMAPI docs: clients and coding agents (imekaguliwa 20 November 2026)