ഹോം / ഗൈഡുകൾ / സൗജന്യ LLM API-യോടെ Continue

സൗജന്യ LLM API-യോടെ Continue

VS Code, JetBrains എന്നിവയ്ക്കുള്ള ഓപ്പൺ സോഴ്സ് AI എക്സ്റ്റൻഷനാണ് Continue. ഇതിൽ chat, agent mode, tab autocomplete എന്നിവയുണ്ട്. ഈ ഗൈഡ് FreeLLMAPI വഴി മൂന്നിനെയും സൗജന്യ മോഡലുകളുമായി ബന്ധിപ്പിക്കുന്നു. നിങ്ങൾ ഒരു ഫയൽ മാത്രം എഡിറ്റ് ചെയ്യുന്നു, config.yaml.

കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.

ഭാഗങ്ങൾ എങ്ങനെ ബന്ധിപ്പിക്കുന്നു

Continue roles ഉപയോഗിക്കുന്നു. config.yaml-ലെ ഓരോ മോഡലിനും ഒന്നോ അതിലധികമോ roles ഉണ്ട്. Chat, agent mode എന്നിവ chat role ഉപയോഗിക്കുന്നു. Ghost-text completion autocomplete role ഉപയോഗിക്കുന്നു. Roles സജ്ജമാക്കിയില്ലെങ്കിൽ സ്ഥിരസ്ഥിതി chat, edit, apply, summarize ആണ്.

Continue സവിശേഷതFreeLLMAPI endpointമോഡലിന്റെ ആവശ്യം
Chat, edit, apply/v1/chat/completionsഏത് chat മോഡലും
Agent mode/v1/chat/completions tools-ഓടെTool calling (tool_use capability)
Tab autocomplete/v1/completions (പഴയ prompt, suffix ഫോർമാറ്റ്)വേഗമേറിയ ഒരു മോഡൽ

പഴയ OpenAI prompt, suffix request-കൾ അയയ്ക്കുന്ന editor autocomplete clients-ന് FreeLLMAPI /v1/completions നൽകുന്നു. useLegacyCompletionsEndpoint: true സജ്ജമാക്കുമ്പോൾ Continue ഈ request-കൾ അയയ്ക്കുന്നു.

ഘട്ടം 1: FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്ത് setup കമാൻഡ് പ്രവർത്തിപ്പിക്കുക

macOS അല്ലെങ്കിൽ Linux-ൽ ഇൻസ്റ്റാൾ ചെയ്യുക

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 തുറക്കുക. Keys പേജിൽ കുറഞ്ഞത് രണ്ട് സൗജന്യ provider key-കൾ ചേർക്കുക. നിങ്ങളുടെ unified key പകർത്തുക. തുടർന്ന് setup കമാൻഡ് പ്രവർത്തിപ്പിക്കുക:

ഒരു കമാൻഡ്

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

ഈ കമാൻഡ് ബാക്കപ്പ് എടുക്കുകയും ~/.continue/config.yaml-ൽ ഒരു chat മോഡൽ ചേർക്കുകയും ചെയ്യുന്നു. Key ~/.continue/.env-ൽ ഇടുന്നു. YAML key-യെ ഒരു secret ആയി സൂചിപ്പിക്കുന്നതിനാൽ, config ഫയലിൽ key നേരിട്ട് ഉണ്ടാകില്ല.

.env എന്തുകൊണ്ട്: IDE എക്സ്റ്റൻഷനുകൾക്ക് നിങ്ങളുടെ shell environment variables വായിക്കാൻ കഴിയില്ലെന്ന് Continue docs പറയുന്നു. Continue secrets തിരയുന്നത് <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env എന്നിവിടങ്ങളിലും പിന്നെ process environment-ലുമാണ്.

IDE ഇല്ലാതെ കണക്ഷൻ പരിശോധിക്കാൻ Continue CLI ഉപയോഗിക്കുക. കമാൻഡ് cn ആണ്, npm പാക്കേജ് @continuedev/cli. Continue docs CLI-യെ alpha എന്ന് അടയാളപ്പെടുത്തുന്നു.

ഒറ്റത്തവണ പരിശോധന

npm install -g @continuedev/cli
cn -p "Say hello"

VS Code, JetBrains എക്സ്റ്റൻഷനുകൾ ഒരേ ~/.continue/config.yaml വായിക്കുന്നു. രണ്ട് IDE-കൾക്കും gateway ഒരു തവണ മാത്രം സജ്ജമാക്കുക. ഓരോ request-ഉം നിങ്ങളുടെ കമ്പ്യൂട്ടറിലേക്ക് പോകുന്നു, അതിനാൽ localhost പ്രവർത്തിക്കും, tunnel ആവശ്യമില്ല.

ഘട്ടം 2: chat, autocomplete മോഡലുകൾ ചേർക്കുക

Continue-ലെ configs മെനുവിൽ നിന്ന് config.yaml തുറക്കുക. Local Config-ന് അടുത്തുള്ള cog ഉപയോഗിക്കുക. ഫയൽ macOS, Linux എന്നിവയിൽ ~/.continue/config.yaml-ലും, Windows-ൽ %USERPROFILE%\.continue\config.yaml-ലും ആണ്. chat, agent mode, autocomplete എന്നിവയ്ക്കുള്ള പൂർണ്ണ ഫയൽ ഇങ്ങനെയാണ്:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • Agent mode-ന് capabilities: tool_use ആവശ്യമാണ്. Continue സാധാരണയായി ഇത് കണ്ടെത്തുന്നു, എന്നാൽ gateway മോഡൽ auto അറിയപ്പെടുന്ന മോഡൽ പേരല്ല, അതിനാൽ ഇത് സജ്ജമാക്കുക.
  • Continue എത്ര context അയയ്ക്കണമെന്ന് contextLength പറയുന്നു. നിങ്ങളുടെ മോഡലിന്റെ context-ലേക്ക് ഇത് സജ്ജമാക്കുക.
  • ഓരോ keystroke-നും ഒരേ മോഡൽ വേണമെങ്കിൽ autocomplete എൻട്രിയിലെ auto ഒരു pinned model id കൊണ്ട് മാറ്റുക.

ഘട്ടം 3: മോഡലുകൾ തിരഞ്ഞെടുക്കുക

Chat, agent mode എന്നിവയ്ക്ക് tool calling ഉം വലിയ context window ഉം ഉള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക. ഈ രണ്ട് നിയമങ്ങളും ഇന്ന് പാലിക്കുന്ന സൗജന്യ മോഡലുകളെ പട്ടിക കാണിക്കുന്നു.

Continue chat, agent mode എന്നിവയ്ക്കുള്ള സൗജന്യ മോഡലുകൾ
മോഡൽസൗജന്യമായി ലഭ്യംകോൺടെക്സ്റ്റ്സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ)ടൂളുകൾദൃശ്യ ശേഷി
GLM 5.3UnoRouter1M1 അഭ്യർഥന/മിനിറ്റ്
1 req/min per model
അതെഇല്ല
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഅതെ
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaഅതെഅതെ
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceഅതെഇല്ല
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditഅതെഅതെ
Gemini 3.7 FlashGoogle AI Studio1M10 അഭ്യർഥന/മിനിറ്റ്
20 അഭ്യർഥന/ദിവസം
250,000 ടോക്കൺ/മിനിറ്റ്
~3M
അതെഅതെ
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditഅതെഅതെ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 അഭ്യർഥന/മിനിറ്റ്
50 അഭ്യർഥന/ദിവസം
50 req/day account-wide (1,000 after a $10 purchase)
അതെഅതെ

പൊരുത്തപ്പെടുന്ന 109 സൗജന്യ മോഡലുകളിൽ 8 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

Autocomplete-ന്, completion-ന് പരിശീലിപ്പിച്ച മോഡലുകൾ ഉപയോഗിക്കാൻ Continue docs ശുപാർശ ചെയ്യുന്നു, ഉദാഹരണത്തിന് Codestral, Qwen Coder. വലിയ chat മോഡലുകളും thinking മോഡലുകളും ഉപയോഗപ്രദമായ completions നൽകുന്നില്ലെന്ന് അവ പറയുന്നു. ഇന്നത്തെ സൗജന്യ Codestral, Qwen Coder ഓഫറുകളെ പട്ടിക കാണിക്കുന്നു. GET /v1/models-ൽ നിന്ന് കൃത്യമായ id പകർത്തുക.

Autocomplete-ന് സൗജന്യ Codestral, Qwen Coder മോഡലുകൾ
മോഡൽസൗജന്യമായി ലഭ്യംകോൺടെക്സ്റ്റ്സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ)ടൂളുകൾദൃശ്യ ശേഷി
CodestralDreamPrompting, LLM7, Mistral +1 കൂടി256K100 അഭ്യർഥന/മിനിറ്റ്
5,000 അഭ്യർഥന/ദിവസം
500,000 ടോക്കൺ/ദിവസം
500K tokens/day · 5,000 req/day
അതെഇല്ല
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 കൂടി256K1 അഭ്യർഥന/മിനിറ്റ്
1,000 അഭ്യർഥന/ദിവസം
1,000 req/day · 1 req/min
അതെഇല്ല
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20Mഅതെഇല്ല
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 അഭ്യർഥന/ദിവസം
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
അതെഇല്ല
codestral-latestApi.Airforce32K1 അഭ്യർഥന/മിനിറ്റ്
1,000 അഭ്യർഥന/ദിവസം
1,000 req/day · 1 req/min
ഇല്ലഇല്ല
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardഅതെഇല്ല
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedഇല്ലഇല്ല
Qwen3 CoderSeptor Labs128KShared daily allowanceഅതെഇല്ല

പൊരുത്തപ്പെടുന്ന 9 സൗജന്യ മോഡലുകളിൽ 8 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

auto-ന് പകരം ഒരു routing model id ഉപയോഗിക്കാം. ഉദാഹരണത്തിന്, auto:smart ഏറ്റവും ഉയർന്ന ബുദ്ധിശക്തിയുള്ള മോഡലുകൾക്ക് മുൻഗണന നൽകുന്നു, auto:fast അളന്ന വേഗതയ്ക്ക് മുൻഗണന നൽകുന്നു. ഓരോന്നിനും പ്രത്യേക മോഡൽ എൻട്രി ഉണ്ടാക്കുക, തുടർന്ന് Continue model മെനുവിൽ അത് തിരഞ്ഞെടുക്കുക.

Autocomplete ക്രമീകരണങ്ങളും പരിധികളും

ടൈപ്പിംഗിലെ മിക്കവാറും എല്ലാ ഇടവേളകൾക്കും ശേഷം Autocomplete ഒരു request അയയ്ക്കുന്നു. സൗജന്യ tier-കളിൽ ഇതാണ് ക്വോട്ട ഏറ്റവും വേഗത്തിൽ ഉപയോഗിക്കുന്ന വഴി. കുറച്ച്, ചെറിയ request-കൾ അയയ്ക്കാൻ autocompleteOptions block ഉപയോഗിക്കുക.

Autocomplete മോഡൽ എൻട്രിക്ക് താഴെ ചേർക്കുക

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay ടൈപ്പ് ചെയ്യുന്നത് നിർത്തിയ ശേഷമുള്ള മില്ലിസെക്കൻഡിലെ കാത്തിരിപ്പാണ്. ഉയർന്ന മൂല്യം കുറഞ്ഞ request-കൾ അയയ്ക്കുന്നു. Continue docs ഉദാഹരണം 250 ഉപയോഗിക്കുന്നു.
  • maxPromptTokens ഓരോ completion prompt-ന്റെയും വലുപ്പം പരിമിതപ്പെടുത്തുന്നു.
  • ഉയർന്ന മിനിറ്റ് പരിധിയുള്ള മോഡലിൽ autocomplete വയ്ക്കുക. ദിവസം 20 request-കൾ മാത്രമുള്ള മോഡലിൽ ഇത് വയ്ക്കരുത്.
  • Chat, autocomplete എന്നിവ വ്യത്യസ്ത മോഡലുകളിൽ നിലനിർത്തുക. അപ്പോൾ autocomplete chat-ന് ആവശ്യമായ ക്വോട്ട ഉപയോഗിക്കില്ല.

ഒരു provider 429 പിശക് അയയ്ക്കുമ്പോൾ, FreeLLMAPI chain-ലെ അടുത്ത മോഡൽ പരീക്ഷിക്കുന്നു. മറുപടി നൽകിയ provider X-Routed-Via response header കാണിക്കുന്നു.

പ്രശ്നപരിഹാരം

പ്രശ്നംകാരണംപരിഹാരം
401 "Invalid API key"Key തെറ്റാണ്, അല്ലെങ്കിൽ Continue secret ലോഡ് ചെയ്തില്ലFREELLMAPI_API_KEY ~/.continue/.env-ൽ ഇടുക, തുടർന്ന് IDE വീണ്ടും ലോഡ് ചെയ്യുക
ആ മോഡലിന് Agent mode ലഭ്യമല്ലConfig-ൽ മോഡലിന് tool_use capability ഇല്ലChat മോഡലിൽ capabilities: [tool_use] ചേർക്കുക
Ghost text ഇല്ലഒരു മോഡലിനും autocomplete role ഇല്ലroles: [autocomplete] ഉള്ള autocomplete എൻട്രി ചേർക്കുക
Completions മന്ദഗതിയിലാണ്വലിയ മോഡൽ അല്ലെങ്കിൽ വേഗത കുറഞ്ഞ സൗജന്യ tierAutocomplete പട്ടികയിൽ നിന്ന് ഒരു വേഗമേറിയ മോഡൽ pin ചെയ്യുക
"N ശ്രമങ്ങൾക്ക് ശേഷം എല്ലാ മോഡലുകളും rate-limited"എല്ലാ key-കളും അവയുടെ പരിധിയിലാണ്debounceDelay കൂട്ടുക, കൂടുതൽ provider-കളിൽ നിന്ന് key-കൾ ചേർക്കുക
ഇവയെല്ലാം ഒരൊറ്റ കീ വഴി ഉപയോഗിക്കുക. FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ്, സ്വയം ഹോസ്റ്റ് ചെയ്യാവുന്ന റൂട്ടറാണ്. ഇത് ഈ സൗജന്യ ടയറുകളെല്ലാം ഒരൊറ്റ OpenAI-അനുയോജ്യ എൻഡ്‌പോയിന്റിനു പിന്നിൽ വയ്ക്കുന്നു. ഒരു മോഡലിന്റെ നിരക്ക് പരിധി എത്തുമ്പോൾ മറ്റൊന്നിലേക്ക് മാറുന്നു. കാറ്റലോഗ് ബ്രൗസ് ചെയ്യുക അല്ലെങ്കിൽ തത്സമയമാക്കുക.

പതിവ് ചോദ്യങ്ങൾ

Continue സൗജന്യമാണോ?

ഉണ്ട്. Continue ഒരു ഓപ്പൺ സോഴ്സ് എക്സ്റ്റൻഷനാണ്. ഇതിന് ഒരു model API ആവശ്യമാണ്. FreeLLMAPI ഉപയോഗിച്ച് ഇത് സൗജന്യ provider tier-കൾ ഉപയോഗിക്കുന്നു, അതിനാൽ inference ചെലവ് $0.

VS Code-ൽ സൗജന്യ tab autocomplete എങ്ങനെ സജ്ജമാക്കാം?

Continue ഇൻസ്റ്റാൾ ചെയ്യുക, തുടർന്ന് roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1, useLegacyCompletionsEndpoint: true എന്നിവയുള്ള ഒരു മോഡൽ ചേർക്കുക. FreeLLMAPI /v1/completions-ൽ മറുപടി നൽകുന്നു.

Continue autocomplete-ന് ഏറ്റവും നല്ല സൗജന്യ മോഡൽ ഏതാണ്?

Codestral, Qwen Coder പോലുള്ള completion-ന് പരിശീലിപ്പിച്ച മോഡലുകൾ Continue docs ശുപാർശ ചെയ്യുന്നു. രണ്ടിനും സൗജന്യ ഓഫറുകൾ ഈ പേജിലെ പട്ടികയിലുണ്ട്. വലിയ chat മോഡലുകളും thinking മോഡലുകളും ശുപാർശ ചെയ്യുന്നില്ല.

എന്റെ environment variable Continue എന്തുകൊണ്ട് വായിക്കുന്നില്ല?

IDE എക്സ്റ്റൻഷനുകൾക്ക് shell environment variables വായിക്കാൻ കഴിയില്ലെന്ന് Continue docs പറയുന്നു. Key ~/.continue/.env-ൽ ഇട്ട് അതിനെ ${{ secrets.FREELLMAPI_API_KEY }} എന്ന് സൂചിപ്പിക്കുക.

സൗജന്യ മോഡലുകളിൽ Continue agent mode പ്രവർത്തിക്കുമോ?

മോഡൽ tool calling പിന്തുണയ്ക്കുന്നെങ്കിൽ ഉവ്വ്. config.yaml-ൽ മോഡലിന് tool_use capability ചേർക്കുക, വലിയ context window ഉള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക.

അനുബന്ധ ഗൈഡുകൾ

ഉറവിടങ്ങൾ

എല്ലാ ഗൈഡുകളും · എല്ലാ സൗജന്യ മോഡലുകളും കാണുക