హోమ్ / గైడ్‌లు / ఉచిత LLM APIతో Continue

ఉచిత LLM APIతో Continue

Continue అనేది VS Code మరియు JetBrains కోసం ఓపెన్-సోర్స్ AI ఎక్స్‌టెన్షన్. దీనికి chat, agent మోడ్ మరియు tab autocomplete ఉన్నాయి. ఈ గైడ్ ఈ మూడింటినీ FreeLLMAPI ద్వారా ఉచిత మోడల్‌లకు కనెక్ట్ చేస్తుంది. మీరు ఒక ఫైల్‌ను ఎడిట్ చేస్తారు, config.yaml.

కోడ్, మోడల్ పేర్లు మరియు ప్రత్యక్ష కేటలాగ్ లేబుల్‌లు ఇంగ్లీషులోనే చూపబడతాయి.

భాగాలు ఎలా కనెక్ట్ అవుతాయి

Continue roles ను ఉపయోగిస్తుంది. config.yaml లోని ప్రతి మోడల్‌కు ఒకటి లేదా అంతకంటే ఎక్కువ roles ఉంటాయి. Chat మరియు agent మోడ్ chat role ను ఉపయోగిస్తాయి. Ghost-text completion autocomplete role ను ఉపయోగిస్తుంది. మీరు roles ను సెట్ చేయకపోతే, డిఫాల్ట్ chat, edit, apply మరియు summarize అవుతాయి.

Continue ఫీచర్FreeLLMAPI ఎండ్‌పాయింట్మోడల్ అవసరాలు
Chat, edit, apply/v1/chat/completionsఏదైనా chat మోడల్
Agent మోడ్tools తో /v1/chat/completionsTool calling (tool_use సామర్థ్యం)
Tab autocomplete/v1/completions (పాత prompt మరియు suffix)ఒక వేగవంతమైన మోడల్

FreeLLMAPI పాత OpenAI prompt మరియు suffix అభ్యర్థనలను పంపే ఎడిటర్ autocomplete క్లయింట్‌ల కోసం /v1/completions ను అందిస్తుంది. మీరు useLegacyCompletionsEndpoint: true ను సెట్ చేసినప్పుడు Continue ఈ అభ్యర్థనలను పంపుతుంది.

దశ 1: FreeLLMAPIని ఇన్‌స్టాల్ చేసి సెటప్ కమాండ్‌ను నడపండి

macOS లేదా Linux లో ఇన్‌స్టాల్ చేయండి

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 తెరవండి. Keys పేజీలో కనీసం రెండు ఉచిత ప్రొవైడర్ కీలను జోడించండి. మీ unified కీని కాపీ చేయండి. తర్వాత సెటప్ కమాండ్‌ను నడపండి:

ఒకే కమాండ్

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

కమాండ్ బ్యాకప్ తీసుకుంటుంది మరియు ~/.continue/config.yaml లో chat మోడల్‌ను విలీనం చేస్తుంది. కీని ~/.continue/.env లో ఉంచుతుంది. YAML కీని ఒక secret గా సూచిస్తుంది, కాబట్టి అసలు కీ కాన్ఫిగ్ ఫైల్‌లో ఉండదు.

.env ఎందుకు: IDE ఎక్స్‌టెన్షన్‌లు మీ shell environment variables ను చదవలేవని Continue డాక్స్ చెబుతాయి. Continue secrets ను <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env లో వెతుకుతుంది, ఆ తర్వాత process environment లో వెతుకుతుంది.

IDE లేకుండా కనెక్షన్‌ను పరీక్షించడానికి, Continue CLI ను ఉపయోగించండి. కమాండ్ cn, ఇది npm ప్యాకేజీ @continuedev/cli నుండి వస్తుంది. Continue డాక్స్ CLI ను alpha గా గుర్తిస్తాయి.

ఒకసారి తనిఖీ

npm install -g @continuedev/cli
cn -p "Say hello"

VS Code మరియు JetBrains ఎక్స్‌టెన్షన్‌లు ఒకే ~/.continue/config.yaml ను చదువుతాయి. మీరు గేట్‌వేని ఒకసారి కాన్ఫిగర్ చేస్తే రెండు IDEలకు పనిచేస్తుంది. ప్రతి అభ్యర్థన మీ కంప్యూటర్‌కు వెళ్తుంది, కాబట్టి localhost పనిచేస్తుంది మరియు టన్నెల్ అవసరం లేదు.

దశ 2: chat మరియు autocomplete మోడల్‌లను జోడించండి

Continue లోని configs మెనూ నుండి config.yaml తెరవండి. Local Config పక్కన ఉన్న cog ను ఉపయోగించండి. macOS మరియు Linux లో ఫైల్ ~/.continue/config.yaml వద్ద ఉంటుంది, Windows లో %USERPROFILE%\.continue\config.yaml వద్ద ఉంటుంది. chat, agent మోడ్ మరియు autocomplete కోసం పూర్తి ఫైల్ ఇలా ఉంటుంది:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • Agent మోడ్ కోసం capabilities: tool_use అవసరం. Continue సాధారణంగా దీన్ని గుర్తిస్తుంది, కానీ గేట్‌వే మోడల్ auto తెలిసిన మోడల్ పేరు కాదు, కాబట్టి దీన్ని సెట్ చేయండి.
  • contextLength Continue ఎంత కాంటెక్స్ట్ పంపాలో చెబుతుంది. దాన్ని మీ మోడల్ కాంటెక్స్ట్‌కు సెట్ చేయండి.
  • ప్రతి కీస్ట్రోక్‌కు ఒకే మోడల్ కావాలంటే, autocomplete ఎంట్రీలోని auto స్థానంలో పిన్ చేసిన మోడల్ ID ను ఉంచండి.

దశ 3: మోడల్‌లను ఎంచుకోండి

chat మరియు agent మోడ్ కోసం, tool calling మరియు పెద్ద కాంటెక్స్ట్ విండో ఉన్న మోడల్‌ను ఉపయోగించండి. ఈ రెండు నియమాలను ఈరోజు పాటించే ఉచిత మోడల్‌లను పట్టిక చూపుతుంది.

Continue chat మరియు agent మోడ్ కోసం ఉచిత మోడల్‌లు
మోడల్ఉచితంగా లభ్యంకాంటెక్స్ట్ఉచిత పరిమితులు (ఉత్తమ ఆఫర్)సాధనాలువిజన్
GLM 5.3UnoRouter1M1 అభ్యర్థనలు/నిమిషం
1 req/min per model
అవునులేదు
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 అభ్యర్థనలు/నిమిషం
40 RPM
అవునుఅవును
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaఅవునుఅవును
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceఅవునులేదు
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditఅవునుఅవును
Gemini 3.7 FlashGoogle AI Studio1M10 అభ్యర్థనలు/నిమిషం
20 అభ్యర్థనలు/రోజు
250,000 టోకెన్‌లు/నిమిషం
~3M
అవునుఅవును
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditఅవునుఅవును
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 అభ్యర్థనలు/నిమిషం
50 అభ్యర్థనలు/రోజు
50 req/day account-wide (1,000 after a $10 purchase)
అవునుఅవును

సరిపోలే 109 ఉచిత మోడల్‌లలో 8 చూపబడుతున్నాయి. అన్ని మోడల్‌లను చూడండి.

FreeLLMAPI కేటలాగ్ నుండి ప్రత్యక్ష డేటా (వెర్షన్ 2026.11.19, 2026-11-19 న తనిఖీ చేయబడింది). ఉచిత పరిమితులు తరచుగా మారుతాయి. కేటలాగ్ ప్రతి రోజు తనిఖీ చేయబడుతుంది.

autocomplete కోసం, Continue డాక్స్ completion కోసం శిక్షణ పొందిన మోడల్‌లను సిఫార్సు చేస్తాయి, ఉదాహరణకు Codestral మరియు Qwen Coder. పెద్ద chat మోడల్‌లు మరియు thinking మోడల్‌లు ఉపయోగకరమైన completions ఇవ్వవని అవి చెబుతాయి. ఈరోజు ఉన్న ఉచిత Codestral మరియు Qwen Coder ఆఫర్‌లను పట్టిక చూపుతుంది. GET /v1/models నుండి ఖచ్చితమైన ID ను కాపీ చేయండి.

autocomplete కోసం ఉచిత Codestral మరియు Qwen Coder మోడల్‌లు
మోడల్ఉచితంగా లభ్యంకాంటెక్స్ట్ఉచిత పరిమితులు (ఉత్తమ ఆఫర్)సాధనాలువిజన్
CodestralDreamPrompting, LLM7, Mistral +1 మరిన్ని256K100 అభ్యర్థనలు/నిమిషం
5,000 అభ్యర్థనలు/రోజు
500,000 టోకెన్‌లు/రోజు
500K tokens/day · 5,000 req/day
అవునులేదు
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 మరిన్ని256K1 అభ్యర్థనలు/నిమిషం
1,000 అభ్యర్థనలు/రోజు
1,000 req/day · 1 req/min
అవునులేదు
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20Mఅవునులేదు
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 అభ్యర్థనలు/రోజు
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
అవునులేదు
codestral-latestApi.Airforce32K1 అభ్యర్థనలు/నిమిషం
1,000 అభ్యర్థనలు/రోజు
1,000 req/day · 1 req/min
లేదులేదు
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardఅవునులేదు
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedలేదులేదు
Qwen3 CoderSeptor Labs128KShared daily allowanceఅవునులేదు

సరిపోలే 9 ఉచిత మోడల్‌లలో 8 చూపబడుతున్నాయి. అన్ని మోడల్‌లను చూడండి.

FreeLLMAPI కేటలాగ్ నుండి ప్రత్యక్ష డేటా (వెర్షన్ 2026.11.19, 2026-11-19 న తనిఖీ చేయబడింది). ఉచిత పరిమితులు తరచుగా మారుతాయి. కేటలాగ్ ప్రతి రోజు తనిఖీ చేయబడుతుంది.

auto స్థానంలో రూటింగ్ మోడల్ ID ను కూడా ఉపయోగించవచ్చు. ఉదాహరణకు, auto:smart అత్యధిక తెలివితేటలు ఉన్న మోడల్‌లకు ప్రాధాన్యత ఇస్తుంది, మరియు auto:fast కొలిచిన వేగానికి ప్రాధాన్యత ఇస్తుంది. ప్రతిదానికి వేరే మోడల్ ఎంట్రీని సృష్టించండి, తర్వాత Continue మోడల్ మెనూలో దాన్ని ఎంచుకోండి.

Autocomplete సెట్టింగ్‌లు మరియు పరిమితులు

Autocomplete టైపింగ్‌లో దాదాపు ప్రతి విరామం తర్వాత ఒక అభ్యర్థనను పంపుతుంది. ఉచిత టియర్‌లలో, ఇది మీ కోటాను ఉపయోగించే అత్యంత వేగవంతమైన మార్గం. తక్కువ, చిన్న అభ్యర్థనలను పంపడానికి autocompleteOptions బ్లాక్‌ను ఉపయోగించండి.

autocomplete మోడల్ ఎంట్రీ కింద జోడించండి

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay అంటే మీరు టైప్ చేయడం ఆపిన తర్వాత మిల్లీసెకన్లలో వేచి ఉండే సమయం. ఎక్కువ విలువ తక్కువ అభ్యర్థనలను పంపుతుంది. Continue డాక్స్ ఉదాహరణ 250 ను ఉపయోగిస్తుంది.
  • maxPromptTokens ప్రతి completion ప్రాంప్ట్ పరిమాణాన్ని పరిమితం చేస్తుంది.
  • autocomplete ను అధిక నిమిషపు పరిమితులు ఉన్న మోడల్‌పై ఉంచండి. రోజుకు 20 అభ్యర్థనలు ఉన్న మోడల్‌పై ఉంచవద్దు.
  • chat మరియు autocomplete ను వేర్వేరు మోడల్‌లపై ఉంచండి. అప్పుడు autocomplete chat కు అవసరమైన కోటాను ఉపయోగించదు.

ఒక ప్రొవైడర్ 429 ఎర్రర్ పంపినప్పుడు, FreeLLMAPI చైన్‌లోని తదుపరి మోడల్‌ను ప్రయత్నిస్తుంది. X-Routed-Via response హెడర్ సమాధానం ఇచ్చిన ప్రొవైడర్‌ను చూపుతుంది.

ట్రబుల్‌షూటింగ్

సమస్యకారణంపరిష్కారం
401 "Invalid API key"కీ తప్పు, లేదా Continue secret ను లోడ్ చేయలేదుFREELLMAPI_API_KEY ను ~/.continue/.env లో ఉంచండి, తర్వాత IDE ను రీలోడ్ చేయండి
ఆ మోడల్ కోసం Agent మోడ్ అందుబాటులో లేదుకాన్ఫిగ్‌లో మోడల్‌కు tool_use సామర్థ్యం లేదుchat మోడల్‌కు capabilities: [tool_use] జోడించండి
ghost text రావడం లేదుఏ మోడల్‌కూ autocomplete role లేదుroles: [autocomplete] తో autocomplete ఎంట్రీని జోడించండి
Completions నెమ్మదిగా ఉన్నాయిపెద్ద మోడల్ లేదా నెమ్మది ఉచిత టియర్autocomplete పట్టిక నుండి వేగవంతమైన మోడల్‌ను పిన్ చేయండి
"N ప్రయత్నాల తర్వాత అన్ని మోడల్‌లు రేట్-పరిమితం చేయబడ్డాయి"అన్ని కీలు వాటి పరిమితిలో ఉన్నాయిdebounceDelay ను పెంచండి మరియు మరిన్ని ప్రొవైడర్ల నుండి కీలను జోడించండి
ఇవన్నీ ఒకే కీ ద్వారా ఉపయోగించండి. FreeLLMAPI ఒక ఓపెన్-సోర్స్, సెల్ఫ్-హోస్ట్ రూటర్. ఇది ఈ ఉచిత టియర్‌లన్నింటినీ ఒకే OpenAI-అనుకూల ఎండ్‌పాయింట్ వెనుక ఉంచుతుంది. ఒకటి రేట్ లిమిట్ అయినప్పుడు, అది మరొక దానికి మారుతుంది. కేటలాగ్‌ను బ్రౌజ్ చేయండి లేదా ప్రత్యక్షంగా.

తరచుగా అడిగే ప్రశ్నలు

Continue ఉచితమా?

అవును. Continue ఒక ఓపెన్-సోర్స్ ఎక్స్‌టెన్షన్. దానికి మోడల్ API అవసరం. FreeLLMAPI తో, ఇది ఉచిత ప్రొవైడర్ టియర్‌లను ఉపయోగిస్తుంది, కాబట్టి ఇన్ఫరెన్స్ ఖర్చు $0.

VS Code లో ఉచిత tab autocompleteను ఎలా సెట్ చేయాలి?

Continue ను ఇన్‌స్టాల్ చేయండి, తర్వాత roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 మరియు useLegacyCompletionsEndpoint: true తో ఒక మోడల్‌ను జోడించండి. FreeLLMAPI /v1/completions పై సమాధానం ఇస్తుంది.

Continue autocomplete కు ఏ ఉచిత మోడల్ ఉత్తమం?

Continue డాక్స్ Codestral మరియు Qwen Coder వంటి completion-trained మోడల్‌లను సిఫార్సు చేస్తాయి. రెండింటికీ ఉచిత ఆఫర్‌లు ఈ పేజీలోని పట్టికలో ఉన్నాయి. పెద్ద chat మోడల్‌లు మరియు thinking మోడల్‌లు సిఫార్సు చేయబడవు.

Continue నా environment variable ను ఎందుకు చదవడం లేదు?

IDE ఎక్స్‌టెన్షన్‌లు shell environment variables ను చదవలేవని Continue డాక్స్ చెబుతాయి. కీని ~/.continue/.env లో ఉంచి, దాన్ని ${{ secrets.FREELLMAPI_API_KEY }} గా సూచించండి.

ఉచిత మోడల్‌లతో Continue agent మోడ్ పనిచేస్తుందా?

అవును, మోడల్ tool calling కు మద్దతు ఇస్తే. config.yaml లో మోడల్‌కు tool_use సామర్థ్యాన్ని జోడించండి, మరియు పెద్ద కాంటెక్స్ట్ విండో ఉన్న మోడల్‌ను ఉపయోగించండి.

సంబంధిత గైడ్‌లు

మూలాలు

అన్ని గైడ్‌లు · అన్ని ఉచిత మోడల్‌లను చూడండి