ఉచిత LLM APIతో Continue
Continue అనేది VS Code మరియు JetBrains కోసం ఓపెన్-సోర్స్ AI ఎక్స్టెన్షన్. దీనికి chat, agent మోడ్ మరియు tab autocomplete ఉన్నాయి. ఈ గైడ్ ఈ మూడింటినీ FreeLLMAPI ద్వారా ఉచిత మోడల్లకు కనెక్ట్ చేస్తుంది. మీరు ఒక ఫైల్ను ఎడిట్ చేస్తారు, config.yaml.
కోడ్, మోడల్ పేర్లు మరియు ప్రత్యక్ష కేటలాగ్ లేబుల్లు ఇంగ్లీషులోనే చూపబడతాయి.
భాగాలు ఎలా కనెక్ట్ అవుతాయి
Continue roles ను ఉపయోగిస్తుంది. config.yaml లోని ప్రతి మోడల్కు ఒకటి లేదా అంతకంటే ఎక్కువ roles ఉంటాయి. Chat మరియు agent మోడ్ chat role ను ఉపయోగిస్తాయి. Ghost-text completion autocomplete role ను ఉపయోగిస్తుంది. మీరు roles ను సెట్ చేయకపోతే, డిఫాల్ట్ chat, edit, apply మరియు summarize అవుతాయి.
| Continue ఫీచర్ | FreeLLMAPI ఎండ్పాయింట్ | మోడల్ అవసరాలు |
|---|---|---|
| Chat, edit, apply | /v1/chat/completions | ఏదైనా chat మోడల్ |
| Agent మోడ్ | tools తో /v1/chat/completions | Tool calling (tool_use సామర్థ్యం) |
| Tab autocomplete | /v1/completions (పాత prompt మరియు suffix) | ఒక వేగవంతమైన మోడల్ |
FreeLLMAPI పాత OpenAI prompt మరియు suffix అభ్యర్థనలను పంపే ఎడిటర్ autocomplete క్లయింట్ల కోసం /v1/completions ను అందిస్తుంది. మీరు useLegacyCompletionsEndpoint: true ను సెట్ చేసినప్పుడు Continue ఈ అభ్యర్థనలను పంపుతుంది.
దశ 1: FreeLLMAPIని ఇన్స్టాల్ చేసి సెటప్ కమాండ్ను నడపండి
macOS లేదా Linux లో ఇన్స్టాల్ చేయండి
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 తెరవండి. Keys పేజీలో కనీసం రెండు ఉచిత ప్రొవైడర్ కీలను జోడించండి. మీ unified కీని కాపీ చేయండి. తర్వాత సెటప్ కమాండ్ను నడపండి:
ఒకే కమాండ్
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>కమాండ్ బ్యాకప్ తీసుకుంటుంది మరియు ~/.continue/config.yaml లో chat మోడల్ను విలీనం చేస్తుంది. కీని ~/.continue/.env లో ఉంచుతుంది. YAML కీని ఒక secret గా సూచిస్తుంది, కాబట్టి అసలు కీ కాన్ఫిగ్ ఫైల్లో ఉండదు.
.env ఎందుకు: IDE ఎక్స్టెన్షన్లు మీ shell environment variables ను చదవలేవని Continue డాక్స్ చెబుతాయి. Continue secrets ను <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env లో వెతుకుతుంది, ఆ తర్వాత process environment లో వెతుకుతుంది.IDE లేకుండా కనెక్షన్ను పరీక్షించడానికి, Continue CLI ను ఉపయోగించండి. కమాండ్ cn, ఇది npm ప్యాకేజీ @continuedev/cli నుండి వస్తుంది. Continue డాక్స్ CLI ను alpha గా గుర్తిస్తాయి.
ఒకసారి తనిఖీ
npm install -g @continuedev/cli
cn -p "Say hello"VS Code మరియు JetBrains ఎక్స్టెన్షన్లు ఒకే ~/.continue/config.yaml ను చదువుతాయి. మీరు గేట్వేని ఒకసారి కాన్ఫిగర్ చేస్తే రెండు IDEలకు పనిచేస్తుంది. ప్రతి అభ్యర్థన మీ కంప్యూటర్కు వెళ్తుంది, కాబట్టి localhost పనిచేస్తుంది మరియు టన్నెల్ అవసరం లేదు.
దశ 2: chat మరియు autocomplete మోడల్లను జోడించండి
Continue లోని configs మెనూ నుండి config.yaml తెరవండి. Local Config పక్కన ఉన్న cog ను ఉపయోగించండి. macOS మరియు Linux లో ఫైల్ ~/.continue/config.yaml వద్ద ఉంటుంది, Windows లో %USERPROFILE%\.continue\config.yaml వద్ద ఉంటుంది. chat, agent మోడ్ మరియు autocomplete కోసం పూర్తి ఫైల్ ఇలా ఉంటుంది:
~/.continue/config.yaml
name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
- name: FreeLLMAPI
provider: openai
model: auto
apiBase: http://localhost:3001/v1
apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
capabilities:
- tool_use
defaultCompletionOptions:
contextLength: 128000
- name: FreeLLMAPI Autocomplete
provider: openai
model: auto
apiBase: http://localhost:3001/v1
apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
useLegacyCompletionsEndpoint: true
roles:
- autocomplete~/.continue/.env
FREELLMAPI_API_KEY=<unified-key>- Agent మోడ్ కోసం
capabilities: tool_useఅవసరం. Continue సాధారణంగా దీన్ని గుర్తిస్తుంది, కానీ గేట్వే మోడల్autoతెలిసిన మోడల్ పేరు కాదు, కాబట్టి దీన్ని సెట్ చేయండి. contextLengthContinue ఎంత కాంటెక్స్ట్ పంపాలో చెబుతుంది. దాన్ని మీ మోడల్ కాంటెక్స్ట్కు సెట్ చేయండి.- ప్రతి కీస్ట్రోక్కు ఒకే మోడల్ కావాలంటే, autocomplete ఎంట్రీలోని
autoస్థానంలో పిన్ చేసిన మోడల్ ID ను ఉంచండి.
దశ 3: మోడల్లను ఎంచుకోండి
chat మరియు agent మోడ్ కోసం, tool calling మరియు పెద్ద కాంటెక్స్ట్ విండో ఉన్న మోడల్ను ఉపయోగించండి. ఈ రెండు నియమాలను ఈరోజు పాటించే ఉచిత మోడల్లను పట్టిక చూపుతుంది.
| మోడల్ | ఉచితంగా లభ్యం | కాంటెక్స్ట్ | ఉచిత పరిమితులు (ఉత్తమ ఆఫర్) | సాధనాలు | విజన్ |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 అభ్యర్థనలు/నిమిషం 1 req/min per model | అవును | లేదు |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 అభ్యర్థనలు/నిమిషం 40 RPM | అవును | అవును |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | అవును | అవును |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | అవును | లేదు |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | అవును | అవును |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 అభ్యర్థనలు/నిమిషం 20 అభ్యర్థనలు/రోజు 250,000 టోకెన్లు/నిమిషం ~3M | అవును | అవును |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | అవును | అవును |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 అభ్యర్థనలు/నిమిషం 50 అభ్యర్థనలు/రోజు 50 req/day account-wide (1,000 after a $10 purchase) | అవును | అవును |
సరిపోలే 109 ఉచిత మోడల్లలో 8 చూపబడుతున్నాయి. అన్ని మోడల్లను చూడండి.
FreeLLMAPI కేటలాగ్ నుండి ప్రత్యక్ష డేటా (వెర్షన్ 2026.11.19, 2026-11-19 న తనిఖీ చేయబడింది). ఉచిత పరిమితులు తరచుగా మారుతాయి. కేటలాగ్ ప్రతి రోజు తనిఖీ చేయబడుతుంది.
autocomplete కోసం, Continue డాక్స్ completion కోసం శిక్షణ పొందిన మోడల్లను సిఫార్సు చేస్తాయి, ఉదాహరణకు Codestral మరియు Qwen Coder. పెద్ద chat మోడల్లు మరియు thinking మోడల్లు ఉపయోగకరమైన completions ఇవ్వవని అవి చెబుతాయి. ఈరోజు ఉన్న ఉచిత Codestral మరియు Qwen Coder ఆఫర్లను పట్టిక చూపుతుంది. GET /v1/models నుండి ఖచ్చితమైన ID ను కాపీ చేయండి.
| మోడల్ | ఉచితంగా లభ్యం | కాంటెక్స్ట్ | ఉచిత పరిమితులు (ఉత్తమ ఆఫర్) | సాధనాలు | విజన్ |
|---|---|---|---|---|---|
| Codestral | DreamPrompting, LLM7, Mistral +1 మరిన్ని | 256K | 100 అభ్యర్థనలు/నిమిషం 5,000 అభ్యర్థనలు/రోజు 500,000 టోకెన్లు/రోజు 500K tokens/day · 5,000 req/day | అవును | లేదు |
| Codestral 2508 | ACLIDE, Api.Airforce, ElectronHub +1 మరిన్ని | 256K | 1 అభ్యర్థనలు/నిమిషం 1,000 అభ్యర్థనలు/రోజు 1,000 req/day · 1 req/min | అవును | లేదు |
| Qwen2.5 Coder 32B | Cloudflare Workers AI | 33K | ~10-20M | అవును | లేదు |
| Qwen3 Coder 30B A3B Instruct | ElectronHub, ModelScope | 262K | 200 అభ్యర్థనలు/రోజు Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | అవును | లేదు |
| codestral-latest | Api.Airforce | 32K | 1 అభ్యర్థనలు/నిమిషం 1,000 అభ్యర్థనలు/రోజు 1,000 req/day · 1 req/min | లేదు | లేదు |
| Qwen3 Coder Plus | ACLIDE | - | €20/month shared internal usage credits · no card | అవును | లేదు |
| Qwen3 Coder 480B A35B Instruct (turbo) | Inferbase | 8K | 5,000 requests/month; 100 requests and $0.50 usage/day shared | లేదు | లేదు |
| Qwen3 Coder | Septor Labs | 128K | Shared daily allowance | అవును | లేదు |
సరిపోలే 9 ఉచిత మోడల్లలో 8 చూపబడుతున్నాయి. అన్ని మోడల్లను చూడండి.
FreeLLMAPI కేటలాగ్ నుండి ప్రత్యక్ష డేటా (వెర్షన్ 2026.11.19, 2026-11-19 న తనిఖీ చేయబడింది). ఉచిత పరిమితులు తరచుగా మారుతాయి. కేటలాగ్ ప్రతి రోజు తనిఖీ చేయబడుతుంది.
auto స్థానంలో రూటింగ్ మోడల్ ID ను కూడా ఉపయోగించవచ్చు. ఉదాహరణకు, auto:smart అత్యధిక తెలివితేటలు ఉన్న మోడల్లకు ప్రాధాన్యత ఇస్తుంది, మరియు auto:fast కొలిచిన వేగానికి ప్రాధాన్యత ఇస్తుంది. ప్రతిదానికి వేరే మోడల్ ఎంట్రీని సృష్టించండి, తర్వాత Continue మోడల్ మెనూలో దాన్ని ఎంచుకోండి.
Autocomplete సెట్టింగ్లు మరియు పరిమితులు
Autocomplete టైపింగ్లో దాదాపు ప్రతి విరామం తర్వాత ఒక అభ్యర్థనను పంపుతుంది. ఉచిత టియర్లలో, ఇది మీ కోటాను ఉపయోగించే అత్యంత వేగవంతమైన మార్గం. తక్కువ, చిన్న అభ్యర్థనలను పంపడానికి autocompleteOptions బ్లాక్ను ఉపయోగించండి.
autocomplete మోడల్ ఎంట్రీ కింద జోడించండి
autocompleteOptions:
debounceDelay: 500
maxPromptTokens: 1024
onlyMyCode: truedebounceDelayఅంటే మీరు టైప్ చేయడం ఆపిన తర్వాత మిల్లీసెకన్లలో వేచి ఉండే సమయం. ఎక్కువ విలువ తక్కువ అభ్యర్థనలను పంపుతుంది. Continue డాక్స్ ఉదాహరణ 250 ను ఉపయోగిస్తుంది.maxPromptTokensప్రతి completion ప్రాంప్ట్ పరిమాణాన్ని పరిమితం చేస్తుంది.- autocomplete ను అధిక నిమిషపు పరిమితులు ఉన్న మోడల్పై ఉంచండి. రోజుకు 20 అభ్యర్థనలు ఉన్న మోడల్పై ఉంచవద్దు.
- chat మరియు autocomplete ను వేర్వేరు మోడల్లపై ఉంచండి. అప్పుడు autocomplete chat కు అవసరమైన కోటాను ఉపయోగించదు.
ఒక ప్రొవైడర్ 429 ఎర్రర్ పంపినప్పుడు, FreeLLMAPI చైన్లోని తదుపరి మోడల్ను ప్రయత్నిస్తుంది. X-Routed-Via response హెడర్ సమాధానం ఇచ్చిన ప్రొవైడర్ను చూపుతుంది.
ట్రబుల్షూటింగ్
| సమస్య | కారణం | పరిష్కారం |
|---|---|---|
401 "Invalid API key" | కీ తప్పు, లేదా Continue secret ను లోడ్ చేయలేదు | FREELLMAPI_API_KEY ను ~/.continue/.env లో ఉంచండి, తర్వాత IDE ను రీలోడ్ చేయండి |
| ఆ మోడల్ కోసం Agent మోడ్ అందుబాటులో లేదు | కాన్ఫిగ్లో మోడల్కు tool_use సామర్థ్యం లేదు | chat మోడల్కు capabilities: [tool_use] జోడించండి |
| ghost text రావడం లేదు | ఏ మోడల్కూ autocomplete role లేదు | roles: [autocomplete] తో autocomplete ఎంట్రీని జోడించండి |
| Completions నెమ్మదిగా ఉన్నాయి | పెద్ద మోడల్ లేదా నెమ్మది ఉచిత టియర్ | autocomplete పట్టిక నుండి వేగవంతమైన మోడల్ను పిన్ చేయండి |
| "N ప్రయత్నాల తర్వాత అన్ని మోడల్లు రేట్-పరిమితం చేయబడ్డాయి" | అన్ని కీలు వాటి పరిమితిలో ఉన్నాయి | debounceDelay ను పెంచండి మరియు మరిన్ని ప్రొవైడర్ల నుండి కీలను జోడించండి |
తరచుగా అడిగే ప్రశ్నలు
Continue ఉచితమా?
అవును. Continue ఒక ఓపెన్-సోర్స్ ఎక్స్టెన్షన్. దానికి మోడల్ API అవసరం. FreeLLMAPI తో, ఇది ఉచిత ప్రొవైడర్ టియర్లను ఉపయోగిస్తుంది, కాబట్టి ఇన్ఫరెన్స్ ఖర్చు $0.
VS Code లో ఉచిత tab autocompleteను ఎలా సెట్ చేయాలి?
Continue ను ఇన్స్టాల్ చేయండి, తర్వాత roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 మరియు useLegacyCompletionsEndpoint: true తో ఒక మోడల్ను జోడించండి. FreeLLMAPI /v1/completions పై సమాధానం ఇస్తుంది.
Continue autocomplete కు ఏ ఉచిత మోడల్ ఉత్తమం?
Continue డాక్స్ Codestral మరియు Qwen Coder వంటి completion-trained మోడల్లను సిఫార్సు చేస్తాయి. రెండింటికీ ఉచిత ఆఫర్లు ఈ పేజీలోని పట్టికలో ఉన్నాయి. పెద్ద chat మోడల్లు మరియు thinking మోడల్లు సిఫార్సు చేయబడవు.
Continue నా environment variable ను ఎందుకు చదవడం లేదు?
IDE ఎక్స్టెన్షన్లు shell environment variables ను చదవలేవని Continue డాక్స్ చెబుతాయి. కీని ~/.continue/.env లో ఉంచి, దాన్ని ${{ secrets.FREELLMAPI_API_KEY }} గా సూచించండి.
ఉచిత మోడల్లతో Continue agent మోడ్ పనిచేస్తుందా?
అవును, మోడల్ tool calling కు మద్దతు ఇస్తే. config.yaml లో మోడల్కు tool_use సామర్థ్యాన్ని జోడించండి, మరియు పెద్ద కాంటెక్స్ట్ విండో ఉన్న మోడల్ను ఉపయోగించండి.
సంబంధిత గైడ్లు
- VS Codeలో ఉచిత AI మోడల్లు
- Cline, Roo Code మరియు Kilo Code ఉచిత API తో
- ఉత్తమ ఉచిత కోడింగ్ మోడల్ APIలు
- Zedలో ఉచిత AI మోడల్లను ఉపయోగించండి
- ఉచిత OpenAI-అనుకూల API base URLs
మూలాలు
- Continue docs: OpenAI provider (20 November 2026 న తనిఖీ చేయబడింది)
- Continue docs: config.yaml reference (20 November 2026 న తనిఖీ చేయబడింది)
- Continue docs: autocomplete (20 November 2026 న తనిఖీ చేయబడింది)
- Continue docs: secrets (FAQ) (20 November 2026 న తనిఖీ చేయబడింది)
- FreeLLMAPI docs: VS Code ghost-text autocomplete (20 November 2026 న తనిఖీ చేయబడింది)