ഹോം / ഗൈഡുകൾ / VS Code-ൽ സൗജന്യ AI മോഡലുകൾ

VS Code-ൽ സൗജന്യ AI മോഡലുകൾ

നിങ്ങളുടെ സ്വന്തം മോഡൽ API ഉപയോഗിക്കാൻ VS Code-ൽ മൂന്ന് വഴികളുണ്ട്. GitHub Copilot Chat-ന് ഒരു Custom Endpoint ചേർക്കാം. Cline, Kilo Code പോലുള്ള ഏജന്റ് എക്സ്റ്റൻഷനുകൾ OpenAI-അനുയോജ്യ ദാതാവിനെ സ്വീകരിക്കുന്നു. Continue ghost-text ഓട്ടോകംപ്ലീറ്റ് ചേർക്കുന്നു. ഈ ഗൈഡ് ഓരോന്നിനെയും FreeLLMAPI വഴി സൗജന്യ മോഡലുകളുമായി ബന്ധിപ്പിക്കുന്നു.

കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.

ഏത് ഓപ്ഷൻ ഉപയോഗിക്കണം

ഓപ്ഷൻചാറ്റും ഏജന്റുംGhost-text ഓട്ടോകംപ്ലീറ്റ്FreeLLMAPI എൻഡ്‌പോയിന്റ്
Custom Endpoint ഉള്ള Copilot Chat (BYOK)അതെഇല്ല. Copilot inline നിർദ്ദേശങ്ങൾക്ക് GitHub അക്കൗണ്ട് വേണം, അവ BYOK മോഡലുകൾ ഉപയോഗിക്കുന്നില്ല./v1/chat/completions അല്ലെങ്കിൽ /v1/messages
Cline അല്ലെങ്കിൽ Kilo Codeഅതെ, ഫയൽ എഡിറ്റുകളും കമാൻഡുകളുമുള്ള ഏജന്റ്ഇല്ല/v1/chat/completions
Continueഅതെഅതെ/v1/chat/completions ഉം /v1/completions ഉം

മൂന്നും നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുന്നു, അതിനാൽ അവയ്ക്ക് http://localhost:3001-ൽ എത്താൻ കഴിയും. ഒന്നിലധികം ഉപയോഗിക്കാം. ഉദാഹരണത്തിന്, ഏജന്റ് ജോലികൾക്ക് Copilot Chat അല്ലെങ്കിൽ Cline ഉപയോഗിക്കുക, ഓട്ടോകംപ്ലീറ്റിന് Continue ഉപയോഗിക്കുക.

ഘട്ടം 1: FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്യുക

FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ് ഗേറ്റ്‌വേയാണ്. ഇത് 45 ദാതാക്കളുടെ സൗജന്യ ടയറുകൾ ഒരൊറ്റ കീയ്ക്കു പിന്നിൽ ഒരുമിപ്പിക്കുന്നു. ഇത് OpenAI, Anthropic ഫോർമാറ്റുകൾ സംസാരിക്കുന്നു.

macOS അല്ലെങ്കിൽ Linux-ൽ ഇൻസ്റ്റാൾ ചെയ്യുക

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 തുറക്കുക. Keys പേജിൽ കുറഞ്ഞത് രണ്ട് സൗജന്യ ദാതാവ് കീകൾ ചേർക്കുക. അതേ പേജിൽ നിന്ന് നിങ്ങളുടെ ഏകീകൃത കീ പകർത്തുക.

ഓപ്ഷൻ 1: Custom Endpoint ഉള്ള Copilot Chat

ഈ ഫീച്ചറിനെ VS Code സ്വന്തം കീ കൊണ്ടുവരിക (BYOK) എന്ന് വിളിക്കുന്നു. Custom Endpoint ദാതാവ് പഴയ OpenAI Compatible ദാതാവിന് പകരമാണ്. github.copilot.chat.customOAIModels ക്രമീകരണം കാലഹരണപ്പെട്ടതാണ്.

  1. Chat വ്യൂ തുറക്കുക. മോഡൽ പിക്കറിൽ Manage Language Models തിരഞ്ഞെടുക്കുക. Command Palette-ൽ നിന്ന് Chat: Manage Language Models റൺ ചെയ്യാനും കഴിയും.
  2. Add Models തിരഞ്ഞെടുക്കുക, പിന്നെ Custom Endpoint.
  3. ഒരു ഗ്രൂപ്പ് പേര്, ഒരു ഡിസ്പ്ലേ പേര്, API കീ എന്നിവ നൽകുക. കീയ്ക്ക് നിങ്ങളുടെ FreeLLMAPI ഏകീകൃത കീ നൽകുക.
  4. API തരമായി Chat Completions തിരഞ്ഞെടുക്കുക.
  5. VS Code chatLanguageModels.json തുറക്കുന്നു. താഴെയുള്ള ഉദാഹരണം പോലെ മോഡൽ വിവരങ്ങൾ നൽകുക. ഫയൽ സേവ് ചെയ്യുക.
  6. Chat വ്യൂവിലെ മോഡൽ പിക്കറിൽ മോഡൽ തിരഞ്ഞെടുക്കുക.

chatLanguageModels.json

[
  {
    "name": "FreeLLMAPI",
    "vendor": "customendpoint",
    "apiKey": "${input:freellmapiKey}",
    "models": [
      {
        "id": "auto",
        "name": "FreeLLMAPI Auto",
        "url": "http://localhost:3001/v1/chat/completions",
        "toolCalling": true,
        "vision": false,
        "maxInputTokens": 128000,
        "maxOutputTokens": 8192
      }
    ]
  }
]
  • VS Code ഡോക്യുമെന്റേഷൻ API പാത്ത് ഉൾപ്പെടെയുള്ള പൂർണ്ണ എൻഡ്‌പോയിന്റ് URL ശുപാർശ ചെയ്യുന്നു. നിങ്ങൾ http://localhost:3001/v1 മാത്രം നൽകിയാൽ, VS Code /chat/completions ചേർക്കുന്നു.
  • കീ ${input:freellmapiKey} പോലുള്ള ഒരു ഇൻപുട്ട് വേരിയബിളിൽ സൂക്ഷിക്കുക. ഫയലിൽ കീ നേരിട്ട് ഇടരുത്.
  • toolCalling true ആയി സജ്ജമാക്കുക. ടൂൾ കോളിംഗ് പിന്തുണയ്ക്കാത്ത മോഡൽ ഏജന്റ് മോഡൽ പിക്കറിൽ VS Code കാണിക്കില്ല.
  • Anthropic ഫോർമാറ്റ് ഉപയോഗിക്കാൻ, "apiType": "messages" ഉം URL http://localhost:3001/v1/messages ഉം സജ്ജമാക്കുക.

പ്ലാനുകളിൽ, BYOK ഉപയോഗിച്ച് Copilot സബ്‌സ്‌ക്രിപ്ഷൻ ഇല്ലാതെ മോഡലുകൾ ഉപയോഗിക്കാമെന്ന് GitHub ഡോക്യുമെന്റേഷൻ പറയുന്നു. ഓരോ ചാറ്റ് സെഷൻ തരത്തിനുമുള്ള കൂടുതൽ നിയമങ്ങൾ VS Code ഡോക്യുമെന്റേഷൻ നൽകുന്നു, അതിനാൽ നിങ്ങളുടെ പതിപ്പിന് അവ പരിശോധിക്കുക. Copilot Business, Enterprise എന്നിവയിൽ ഒരു അഡ്മിനിസ്ട്രേറ്റർക്ക് BYOK നയം ഓഫാക്കാം. ചില ഫീച്ചറുകൾക്ക് ഇപ്പോഴും GitHub അക്കൗണ്ട് വേണം: inline നിർദ്ദേശങ്ങൾ, സെമാന്റിക് തിരയൽ, എംബെഡിംഗുകൾ ഉപയോഗിക്കുന്ന ഫീച്ചറുകൾ. BYOK ചാറ്റിനും യൂട്ടിലിറ്റി ജോലികൾക്കും മാത്രം ബാധകമാണ്.

ഓപ്ഷൻ 2: ഏജന്റ് ജോലികൾക്ക് Cline അല്ലെങ്കിൽ Kilo Code

Cline, Kilo Code എന്നിവ ഏജന്റ് എക്സ്റ്റൻഷനുകളാണ്. അവ ഫയലുകൾ വായിക്കുകയും എഡിറ്റ് ചെയ്യുകയും കമാൻഡുകൾ റൺ ചെയ്യുകയും ചെയ്യുന്നു. ഓരോന്നിനും ഒരു സെറ്റപ്പ് കമാൻഡ് ഉണ്ട്:

Cline അല്ലെങ്കിൽ Kilo Code

npx freellmapi setup-cline --url http://localhost:3001 --api-key <unified-key>
npx freellmapi setup-kilo --url http://localhost:3001

Cline സ്വമേധയാ സജ്ജമാക്കാൻ, Cline ക്രമീകരണങ്ങൾ തുറന്ന് API Provider OpenAI Compatible ആയി സജ്ജമാക്കുക. Base URL http://localhost:3001/v1 ആയി സജ്ജമാക്കുക. എല്ലാ ഘട്ടങ്ങൾക്കും സൗജന്യ API ഉപയോഗിച്ച് Cline, Roo Code, Kilo Code വായിക്കുക.

ഓപ്ഷൻ 3: സൗജന്യ ghost-text ഓട്ടോകംപ്ലീറ്റിന് Continue

Copilot BYOK ghost text നൽകുന്നില്ല. Continue നൽകുന്നു. FreeLLMAPI ഓട്ടോകംപ്ലീറ്റ് ക്ലയന്റുകൾക്ക് /v1/completions-ൽ സേവനം നൽകുന്നു. ഈ മോഡൽ ~/.continue/config.yaml-ൽ ചേർക്കുക, കീ ~/.continue/.env-ൽ ഇടുക:

~/.continue/config.yaml (ഓട്ടോകംപ്ലീറ്റ് മോഡൽ)

models:
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

പൂർണ്ണ ഫയലിനും കുറച്ച് അഭ്യർഥനകൾ അയയ്ക്കുന്ന ഓട്ടോകംപ്ലീറ്റ് ക്രമീകരണങ്ങൾക്കും സൗജന്യ LLM API ഉപയോഗിച്ച് Continue വായിക്കുക.

മോഡലുകൾ തിരഞ്ഞെടുക്കുകയും പരിധികൾക്കുള്ളിൽ നിൽക്കുകയും ചെയ്യുക

ഏജന്റ് മോഡ് ടൂൾ നിർവചനങ്ങളോടുകൂടിയ നീണ്ട പ്രോംപ്റ്റുകൾ അയയ്ക്കുന്നു. ടൂൾ കോളിംഗും വലിയ കോൺടെക്സ്റ്റ് വിൻഡോയുമുള്ള മോഡലുകൾ ഉപയോഗിക്കുക. ഇന്ന് ഈ രണ്ട് നിയമങ്ങളും പാലിക്കുന്ന സൗജന്യ മോഡലുകളെ പട്ടിക കാണിക്കുന്നു.

VS Code ഏജന്റുകൾക്കുള്ള സൗജന്യ മോഡലുകൾ: ടൂൾ കോളിംഗും 128K+ കോൺടെക്സ്റ്റും
മോഡൽസൗജന്യമായി ലഭ്യംകോൺടെക്സ്റ്റ്സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ)ടൂളുകൾദൃശ്യ ശേഷി
GLM 5.3UnoRouter1M1 അഭ്യർഥന/മിനിറ്റ്
1 req/min per model
അതെഇല്ല
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഅതെ
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaഅതെഅതെ
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceഅതെഇല്ല
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditഅതെഅതെ
Gemini 3.7 FlashGoogle AI Studio1M10 അഭ്യർഥന/മിനിറ്റ്
20 അഭ്യർഥന/ദിവസം
250,000 ടോക്കൺ/മിനിറ്റ്
~3M
അതെഅതെ
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditഅതെഅതെ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 അഭ്യർഥന/മിനിറ്റ്
50 അഭ്യർഥന/ദിവസം
50 req/day account-wide (1,000 after a $10 purchase)
അതെഅതെ
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 അഭ്യർഥന/മിനിറ്റ്
50 അഭ്യർഥന/ദിവസം
Shared rate limit
അതെഇല്ല
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 അഭ്യർഥന/മിനിറ്റ്
250 അഭ്യർഥന/ദിവസം
70,000 ടോക്കൺ/മിനിറ്റ്
~6M
അതെഅതെ

പൊരുത്തപ്പെടുന്ന 109 സൗജന്യ മോഡലുകളിൽ 10 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

സൗജന്യ ടയറുകൾക്ക് മിനിറ്റിലും ദിവസത്തിലും പരിധികളുണ്ട്. ഒരു ദാതാവ് 429 പിശക് അയയ്ക്കുമ്പോൾ, FreeLLMAPI നിങ്ങളുടെ ശൃംഖലയിലെ അടുത്ത മോഡൽ പരീക്ഷിക്കുന്നു. നാലോ അതിലധികമോ ദാതാക്കളിൽ നിന്നുള്ള കീകൾ ചേർക്കുക. X-Routed-Via പ്രതികരണ ഹെഡർ ഉത്തരം നൽകിയ ദാതാവിനെ കാണിക്കുന്നു.

പ്രശ്നംകാരണംപരിഹാരം
മോഡൽ ഏജന്റ് മോഡൽ പിക്കറിൽ ഇല്ലtoolCalling true അല്ല"toolCalling": true chatLanguageModels.json-ൽ സജ്ജമാക്കുക
Custom Endpoint ഓപ്ഷൻ ഇല്ലനിങ്ങളുടെ സ്ഥാപനം BYOK നയം ഓഫാക്കിനിങ്ങളുടെ Copilot അഡ്മിനിസ്ട്രേറ്ററോട് ചോദിക്കുക, അല്ലെങ്കിൽ Cline അല്ലെങ്കിൽ Continue ഉപയോഗിക്കുക
401 "Invalid API key"കീ നിങ്ങളുടെ FreeLLMAPI ഏകീകൃത കീ അല്ലKeys പേജിൽ നിന്ന് ഏകീകൃത കീ വീണ്ടും പകർത്തുക
നിങ്ങളുടെ മോഡലിൽ നിന്ന് ghost text ഇല്ലCopilot inline നിർദ്ദേശങ്ങൾ BYOK മോഡലുകൾ ഉപയോഗിക്കുന്നില്ലഓട്ടോകംപ്ലീറ്റിന് Continue ഉപയോഗിക്കുക
പിശക് സന്ദേശം: "All models rate-limited after N attempts"എല്ലാ കീകളും അവയുടെ പരിധിയിലാണ്കൂടുതൽ ദാതാക്കളുടെ കീകൾ ചേർക്കുക, അല്ലെങ്കിൽ കൂൾഡൗണുകൾ കഴിയുന്നതുവരെ കാത്തിരിക്കുക
ഇവയെല്ലാം ഒരൊറ്റ കീ വഴി ഉപയോഗിക്കുക. FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ്, സ്വയം ഹോസ്റ്റ് ചെയ്യാവുന്ന റൂട്ടറാണ്. ഇത് ഈ സൗജന്യ ടയറുകളെല്ലാം ഒരൊറ്റ OpenAI-അനുയോജ്യ എൻഡ്‌പോയിന്റിനു പിന്നിൽ വയ്ക്കുന്നു. ഒരു മോഡലിന്റെ നിരക്ക് പരിധി എത്തുമ്പോൾ മറ്റൊന്നിലേക്ക് മാറുന്നു. കാറ്റലോഗ് ബ്രൗസ് ചെയ്യുക അല്ലെങ്കിൽ തത്സമയമാക്കുക.

പതിവ് ചോദ്യങ്ങൾ

എന്റെ സ്വന്തം API കീ ഉപയോഗിച്ച് GitHub Copilot ഉപയോഗിക്കാമോ?

ഉപയോഗിക്കാം. VS Code-ൽ Chat: Manage Language Models തുറക്കുക, Add Models തിരഞ്ഞെടുക്കുക, പിന്നെ Custom Endpoint. BYOK ചാറ്റിനും യൂട്ടിലിറ്റി ജോലികൾക്കും ബാധകമാണ്. Inline നിർദ്ദേശങ്ങൾ ഇപ്പോഴും GitHub-ന്റെ മോഡലുകൾ ഉപയോഗിക്കുന്നു.

സ്വന്തം കീ കൊണ്ടുവരാൻ Copilot സബ്‌സ്‌ക്രിപ്ഷൻ വേണോ?

BYOK ഉപയോഗിച്ച് Copilot സബ്‌സ്‌ക്രിപ്ഷൻ ഇല്ലാതെ മോഡലുകൾ ഉപയോഗിക്കാമെന്ന് GitHub ഡോക്യുമെന്റേഷൻ പറയുന്നു. Copilot Business, Enterprise എന്നിവയിൽ ഒരു അഡ്മിനിസ്ട്രേറ്റർക്ക് BYOK നയം ഓഫാക്കാം.

VS Code-ൽ സൗജന്യ AI ഓട്ടോകംപ്ലീറ്റ് എങ്ങനെ ലഭിക്കും?

Continue ഇൻസ്റ്റാൾ ചെയ്ത്, autocomplete റോളും useLegacyCompletionsEndpoint: true-ഉം ഉള്ള ഒരു മോഡൽ ചേർക്കുക. http://localhost:3001/v1-ൽ FreeLLMAPI-യിലേക്ക് ചൂണ്ടുക.

VS Code-ൽ ഏറ്റവും നല്ല സൗജന്യ AI മോഡൽ ഏതാണ്?

ഏജന്റ് മോഡിന്, ടൂൾ കോളിംഗും കുറഞ്ഞത് 128K കോൺടെക്സ്റ്റും ഉള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക. ഓട്ടോകംപ്ലീറ്റിന്, വേഗമേറിയ ഒരു മോഡൽ ഉപയോഗിക്കുക. ഈ പേജിലെ പട്ടിക ഇന്നത്തെ സൗജന്യ ഏജന്റ് മോഡലുകളെ കാണിക്കുന്നു.

Copilot-ലെ OpenAI Compatible ദാതാവ് കാലഹരണപ്പെട്ടോ?

അതെ. Custom Endpoint ദാതാവ് കാലഹരണപ്പെട്ട OpenAI Compatible ദാതാവിന് പകരമാണെന്നും github.copilot.chat.customOAIModels കാലഹരണപ്പെട്ടതാണെന്നും VS Code ഡോക്യുമെന്റേഷൻ പറയുന്നു.

അനുബന്ധ ഗൈഡുകൾ

ഉറവിടങ്ങൾ

എല്ലാ ഗൈഡുകളും · എല്ലാ സൗജന്യ മോഡലുകളും കാണുക