VS Code-ൽ സൗജന്യ AI മോഡലുകൾ
നിങ്ങളുടെ സ്വന്തം മോഡൽ API ഉപയോഗിക്കാൻ VS Code-ൽ മൂന്ന് വഴികളുണ്ട്. GitHub Copilot Chat-ന് ഒരു Custom Endpoint ചേർക്കാം. Cline, Kilo Code പോലുള്ള ഏജന്റ് എക്സ്റ്റൻഷനുകൾ OpenAI-അനുയോജ്യ ദാതാവിനെ സ്വീകരിക്കുന്നു. Continue ghost-text ഓട്ടോകംപ്ലീറ്റ് ചേർക്കുന്നു. ഈ ഗൈഡ് ഓരോന്നിനെയും FreeLLMAPI വഴി സൗജന്യ മോഡലുകളുമായി ബന്ധിപ്പിക്കുന്നു.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
ഏത് ഓപ്ഷൻ ഉപയോഗിക്കണം
| ഓപ്ഷൻ | ചാറ്റും ഏജന്റും | Ghost-text ഓട്ടോകംപ്ലീറ്റ് | FreeLLMAPI എൻഡ്പോയിന്റ് |
|---|---|---|---|
| Custom Endpoint ഉള്ള Copilot Chat (BYOK) | അതെ | ഇല്ല. Copilot inline നിർദ്ദേശങ്ങൾക്ക് GitHub അക്കൗണ്ട് വേണം, അവ BYOK മോഡലുകൾ ഉപയോഗിക്കുന്നില്ല. | /v1/chat/completions അല്ലെങ്കിൽ /v1/messages |
| Cline അല്ലെങ്കിൽ Kilo Code | അതെ, ഫയൽ എഡിറ്റുകളും കമാൻഡുകളുമുള്ള ഏജന്റ് | ഇല്ല | /v1/chat/completions |
| Continue | അതെ | അതെ | /v1/chat/completions ഉം /v1/completions ഉം |
മൂന്നും നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുന്നു, അതിനാൽ അവയ്ക്ക് http://localhost:3001-ൽ എത്താൻ കഴിയും. ഒന്നിലധികം ഉപയോഗിക്കാം. ഉദാഹരണത്തിന്, ഏജന്റ് ജോലികൾക്ക് Copilot Chat അല്ലെങ്കിൽ Cline ഉപയോഗിക്കുക, ഓട്ടോകംപ്ലീറ്റിന് Continue ഉപയോഗിക്കുക.
ഘട്ടം 1: FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്യുക
FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ് ഗേറ്റ്വേയാണ്. ഇത് 45 ദാതാക്കളുടെ സൗജന്യ ടയറുകൾ ഒരൊറ്റ കീയ്ക്കു പിന്നിൽ ഒരുമിപ്പിക്കുന്നു. ഇത് OpenAI, Anthropic ഫോർമാറ്റുകൾ സംസാരിക്കുന്നു.
macOS അല്ലെങ്കിൽ Linux-ൽ ഇൻസ്റ്റാൾ ചെയ്യുക
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 തുറക്കുക. Keys പേജിൽ കുറഞ്ഞത് രണ്ട് സൗജന്യ ദാതാവ് കീകൾ ചേർക്കുക. അതേ പേജിൽ നിന്ന് നിങ്ങളുടെ ഏകീകൃത കീ പകർത്തുക.
ഓപ്ഷൻ 1: Custom Endpoint ഉള്ള Copilot Chat
ഈ ഫീച്ചറിനെ VS Code സ്വന്തം കീ കൊണ്ടുവരിക (BYOK) എന്ന് വിളിക്കുന്നു. Custom Endpoint ദാതാവ് പഴയ OpenAI Compatible ദാതാവിന് പകരമാണ്. github.copilot.chat.customOAIModels ക്രമീകരണം കാലഹരണപ്പെട്ടതാണ്.
- Chat വ്യൂ തുറക്കുക. മോഡൽ പിക്കറിൽ Manage Language Models തിരഞ്ഞെടുക്കുക. Command Palette-ൽ നിന്ന് Chat: Manage Language Models റൺ ചെയ്യാനും കഴിയും.
- Add Models തിരഞ്ഞെടുക്കുക, പിന്നെ Custom Endpoint.
- ഒരു ഗ്രൂപ്പ് പേര്, ഒരു ഡിസ്പ്ലേ പേര്, API കീ എന്നിവ നൽകുക. കീയ്ക്ക് നിങ്ങളുടെ FreeLLMAPI ഏകീകൃത കീ നൽകുക.
- API തരമായി Chat Completions തിരഞ്ഞെടുക്കുക.
- VS Code
chatLanguageModels.jsonതുറക്കുന്നു. താഴെയുള്ള ഉദാഹരണം പോലെ മോഡൽ വിവരങ്ങൾ നൽകുക. ഫയൽ സേവ് ചെയ്യുക. - Chat വ്യൂവിലെ മോഡൽ പിക്കറിൽ മോഡൽ തിരഞ്ഞെടുക്കുക.
chatLanguageModels.json
[
{
"name": "FreeLLMAPI",
"vendor": "customendpoint",
"apiKey": "${input:freellmapiKey}",
"models": [
{
"id": "auto",
"name": "FreeLLMAPI Auto",
"url": "http://localhost:3001/v1/chat/completions",
"toolCalling": true,
"vision": false,
"maxInputTokens": 128000,
"maxOutputTokens": 8192
}
]
}
]- VS Code ഡോക്യുമെന്റേഷൻ API പാത്ത് ഉൾപ്പെടെയുള്ള പൂർണ്ണ എൻഡ്പോയിന്റ് URL ശുപാർശ ചെയ്യുന്നു. നിങ്ങൾ
http://localhost:3001/v1മാത്രം നൽകിയാൽ, VS Code/chat/completionsചേർക്കുന്നു. - കീ
${input:freellmapiKey}പോലുള്ള ഒരു ഇൻപുട്ട് വേരിയബിളിൽ സൂക്ഷിക്കുക. ഫയലിൽ കീ നേരിട്ട് ഇടരുത്. toolCallingtrueആയി സജ്ജമാക്കുക. ടൂൾ കോളിംഗ് പിന്തുണയ്ക്കാത്ത മോഡൽ ഏജന്റ് മോഡൽ പിക്കറിൽ VS Code കാണിക്കില്ല.- Anthropic ഫോർമാറ്റ് ഉപയോഗിക്കാൻ,
"apiType": "messages"ഉം URLhttp://localhost:3001/v1/messagesഉം സജ്ജമാക്കുക.
പ്ലാനുകളിൽ, BYOK ഉപയോഗിച്ച് Copilot സബ്സ്ക്രിപ്ഷൻ ഇല്ലാതെ മോഡലുകൾ ഉപയോഗിക്കാമെന്ന് GitHub ഡോക്യുമെന്റേഷൻ പറയുന്നു. ഓരോ ചാറ്റ് സെഷൻ തരത്തിനുമുള്ള കൂടുതൽ നിയമങ്ങൾ VS Code ഡോക്യുമെന്റേഷൻ നൽകുന്നു, അതിനാൽ നിങ്ങളുടെ പതിപ്പിന് അവ പരിശോധിക്കുക. Copilot Business, Enterprise എന്നിവയിൽ ഒരു അഡ്മിനിസ്ട്രേറ്റർക്ക് BYOK നയം ഓഫാക്കാം. ചില ഫീച്ചറുകൾക്ക് ഇപ്പോഴും GitHub അക്കൗണ്ട് വേണം: inline നിർദ്ദേശങ്ങൾ, സെമാന്റിക് തിരയൽ, എംബെഡിംഗുകൾ ഉപയോഗിക്കുന്ന ഫീച്ചറുകൾ. BYOK ചാറ്റിനും യൂട്ടിലിറ്റി ജോലികൾക്കും മാത്രം ബാധകമാണ്.
ഓപ്ഷൻ 2: ഏജന്റ് ജോലികൾക്ക് Cline അല്ലെങ്കിൽ Kilo Code
Cline, Kilo Code എന്നിവ ഏജന്റ് എക്സ്റ്റൻഷനുകളാണ്. അവ ഫയലുകൾ വായിക്കുകയും എഡിറ്റ് ചെയ്യുകയും കമാൻഡുകൾ റൺ ചെയ്യുകയും ചെയ്യുന്നു. ഓരോന്നിനും ഒരു സെറ്റപ്പ് കമാൻഡ് ഉണ്ട്:
Cline അല്ലെങ്കിൽ Kilo Code
npx freellmapi setup-cline --url http://localhost:3001 --api-key <unified-key>
npx freellmapi setup-kilo --url http://localhost:3001Cline സ്വമേധയാ സജ്ജമാക്കാൻ, Cline ക്രമീകരണങ്ങൾ തുറന്ന് API Provider OpenAI Compatible ആയി സജ്ജമാക്കുക. Base URL http://localhost:3001/v1 ആയി സജ്ജമാക്കുക. എല്ലാ ഘട്ടങ്ങൾക്കും സൗജന്യ API ഉപയോഗിച്ച് Cline, Roo Code, Kilo Code വായിക്കുക.
ഓപ്ഷൻ 3: സൗജന്യ ghost-text ഓട്ടോകംപ്ലീറ്റിന് Continue
Copilot BYOK ghost text നൽകുന്നില്ല. Continue നൽകുന്നു. FreeLLMAPI ഓട്ടോകംപ്ലീറ്റ് ക്ലയന്റുകൾക്ക് /v1/completions-ൽ സേവനം നൽകുന്നു. ഈ മോഡൽ ~/.continue/config.yaml-ൽ ചേർക്കുക, കീ ~/.continue/.env-ൽ ഇടുക:
~/.continue/config.yaml (ഓട്ടോകംപ്ലീറ്റ് മോഡൽ)
models:
- name: FreeLLMAPI Autocomplete
provider: openai
model: auto
apiBase: http://localhost:3001/v1
apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
useLegacyCompletionsEndpoint: true
roles:
- autocompleteപൂർണ്ണ ഫയലിനും കുറച്ച് അഭ്യർഥനകൾ അയയ്ക്കുന്ന ഓട്ടോകംപ്ലീറ്റ് ക്രമീകരണങ്ങൾക്കും സൗജന്യ LLM API ഉപയോഗിച്ച് Continue വായിക്കുക.
മോഡലുകൾ തിരഞ്ഞെടുക്കുകയും പരിധികൾക്കുള്ളിൽ നിൽക്കുകയും ചെയ്യുക
ഏജന്റ് മോഡ് ടൂൾ നിർവചനങ്ങളോടുകൂടിയ നീണ്ട പ്രോംപ്റ്റുകൾ അയയ്ക്കുന്നു. ടൂൾ കോളിംഗും വലിയ കോൺടെക്സ്റ്റ് വിൻഡോയുമുള്ള മോഡലുകൾ ഉപയോഗിക്കുക. ഇന്ന് ഈ രണ്ട് നിയമങ്ങളും പാലിക്കുന്ന സൗജന്യ മോഡലുകളെ പട്ടിക കാണിക്കുന്നു.
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 അഭ്യർഥന/മിനിറ്റ് 1 req/min per model | അതെ | ഇല്ല |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | അതെ |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | അതെ | അതെ |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | അതെ | ഇല്ല |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം 50 req/day account-wide (1,000 after a $10 purchase) | അതെ | അതെ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം Shared rate limit | അതെ | ഇല്ല |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 അഭ്യർഥന/മിനിറ്റ് 250 അഭ്യർഥന/ദിവസം 70,000 ടോക്കൺ/മിനിറ്റ് ~6M | അതെ | അതെ |
പൊരുത്തപ്പെടുന്ന 109 സൗജന്യ മോഡലുകളിൽ 10 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
സൗജന്യ ടയറുകൾക്ക് മിനിറ്റിലും ദിവസത്തിലും പരിധികളുണ്ട്. ഒരു ദാതാവ് 429 പിശക് അയയ്ക്കുമ്പോൾ, FreeLLMAPI നിങ്ങളുടെ ശൃംഖലയിലെ അടുത്ത മോഡൽ പരീക്ഷിക്കുന്നു. നാലോ അതിലധികമോ ദാതാക്കളിൽ നിന്നുള്ള കീകൾ ചേർക്കുക. X-Routed-Via പ്രതികരണ ഹെഡർ ഉത്തരം നൽകിയ ദാതാവിനെ കാണിക്കുന്നു.
| പ്രശ്നം | കാരണം | പരിഹാരം |
|---|---|---|
| മോഡൽ ഏജന്റ് മോഡൽ പിക്കറിൽ ഇല്ല | toolCalling true അല്ല | "toolCalling": true chatLanguageModels.json-ൽ സജ്ജമാക്കുക |
| Custom Endpoint ഓപ്ഷൻ ഇല്ല | നിങ്ങളുടെ സ്ഥാപനം BYOK നയം ഓഫാക്കി | നിങ്ങളുടെ Copilot അഡ്മിനിസ്ട്രേറ്ററോട് ചോദിക്കുക, അല്ലെങ്കിൽ Cline അല്ലെങ്കിൽ Continue ഉപയോഗിക്കുക |
401 "Invalid API key" | കീ നിങ്ങളുടെ FreeLLMAPI ഏകീകൃത കീ അല്ല | Keys പേജിൽ നിന്ന് ഏകീകൃത കീ വീണ്ടും പകർത്തുക |
| നിങ്ങളുടെ മോഡലിൽ നിന്ന് ghost text ഇല്ല | Copilot inline നിർദ്ദേശങ്ങൾ BYOK മോഡലുകൾ ഉപയോഗിക്കുന്നില്ല | ഓട്ടോകംപ്ലീറ്റിന് Continue ഉപയോഗിക്കുക |
| പിശക് സന്ദേശം: "All models rate-limited after N attempts" | എല്ലാ കീകളും അവയുടെ പരിധിയിലാണ് | കൂടുതൽ ദാതാക്കളുടെ കീകൾ ചേർക്കുക, അല്ലെങ്കിൽ കൂൾഡൗണുകൾ കഴിയുന്നതുവരെ കാത്തിരിക്കുക |
പതിവ് ചോദ്യങ്ങൾ
എന്റെ സ്വന്തം API കീ ഉപയോഗിച്ച് GitHub Copilot ഉപയോഗിക്കാമോ?
ഉപയോഗിക്കാം. VS Code-ൽ Chat: Manage Language Models തുറക്കുക, Add Models തിരഞ്ഞെടുക്കുക, പിന്നെ Custom Endpoint. BYOK ചാറ്റിനും യൂട്ടിലിറ്റി ജോലികൾക്കും ബാധകമാണ്. Inline നിർദ്ദേശങ്ങൾ ഇപ്പോഴും GitHub-ന്റെ മോഡലുകൾ ഉപയോഗിക്കുന്നു.
സ്വന്തം കീ കൊണ്ടുവരാൻ Copilot സബ്സ്ക്രിപ്ഷൻ വേണോ?
BYOK ഉപയോഗിച്ച് Copilot സബ്സ്ക്രിപ്ഷൻ ഇല്ലാതെ മോഡലുകൾ ഉപയോഗിക്കാമെന്ന് GitHub ഡോക്യുമെന്റേഷൻ പറയുന്നു. Copilot Business, Enterprise എന്നിവയിൽ ഒരു അഡ്മിനിസ്ട്രേറ്റർക്ക് BYOK നയം ഓഫാക്കാം.
VS Code-ൽ സൗജന്യ AI ഓട്ടോകംപ്ലീറ്റ് എങ്ങനെ ലഭിക്കും?
Continue ഇൻസ്റ്റാൾ ചെയ്ത്, autocomplete റോളും useLegacyCompletionsEndpoint: true-ഉം ഉള്ള ഒരു മോഡൽ ചേർക്കുക. http://localhost:3001/v1-ൽ FreeLLMAPI-യിലേക്ക് ചൂണ്ടുക.
VS Code-ൽ ഏറ്റവും നല്ല സൗജന്യ AI മോഡൽ ഏതാണ്?
ഏജന്റ് മോഡിന്, ടൂൾ കോളിംഗും കുറഞ്ഞത് 128K കോൺടെക്സ്റ്റും ഉള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക. ഓട്ടോകംപ്ലീറ്റിന്, വേഗമേറിയ ഒരു മോഡൽ ഉപയോഗിക്കുക. ഈ പേജിലെ പട്ടിക ഇന്നത്തെ സൗജന്യ ഏജന്റ് മോഡലുകളെ കാണിക്കുന്നു.
Copilot-ലെ OpenAI Compatible ദാതാവ് കാലഹരണപ്പെട്ടോ?
അതെ. Custom Endpoint ദാതാവ് കാലഹരണപ്പെട്ട OpenAI Compatible ദാതാവിന് പകരമാണെന്നും github.copilot.chat.customOAIModels കാലഹരണപ്പെട്ടതാണെന്നും VS Code ഡോക്യുമെന്റേഷൻ പറയുന്നു.
അനുബന്ധ ഗൈഡുകൾ
- സൗജന്യ API-യോടെ Cline, Roo Code, Kilo Code
- സൗജന്യ LLM API-യോടെ Continue
- Cursor-ൽ സൗജന്യ LLM API ഉപയോഗിക്കുക
- മികച്ച സൗജന്യ coding model API-കൾ
- സൗജന്യ OpenAI-compatible API base URL-കൾ
ഉറവിടങ്ങൾ
- VS Code docs: language models in chat (BYOK) (20 November 2026 ൽ പരിശോധിച്ചത്)
- GitHub docs: bring your own key (20 November 2026 ൽ പരിശോധിച്ചത്)
- Cline docs: OpenAI Compatible provider (20 November 2026 ൽ പരിശോധിച്ചത്)
- Continue docs: OpenAI provider (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: clients and coding agents (20 November 2026 ൽ പരിശോധിച്ചത്)