VS Codeలో ఉచిత AI మోడల్లు
VS Codeలో మీ స్వంత మోడల్ APIని ఉపయోగించడానికి మూడు మార్గాలు ఉన్నాయి. GitHub Copilot Chat ఒక Custom Endpointను జోడించగలదు. Cline మరియు Kilo Code వంటి ఏజెంట్ ఎక్స్టెన్షన్లు OpenAI-అనుకూల ప్రొవైడర్ను తీసుకుంటాయి. Continue ghost-text ఆటోకంప్లీట్ను జోడిస్తుంది. ఈ గైడ్ ప్రతి ఒక్కదాన్ని FreeLLMAPI ద్వారా ఉచిత మోడల్లకు కనెక్ట్ చేస్తుంది.
కోడ్, మోడల్ పేర్లు మరియు ప్రత్యక్ష కేటలాగ్ లేబుల్లు ఇంగ్లీషులోనే చూపబడతాయి.
ఏ ఎంపికను ఉపయోగించాలి
| ఎంపిక | చాట్ మరియు ఏజెంట్ | Ghost-text ఆటోకంప్లీట్ | FreeLLMAPI ఎండ్పాయింట్ |
|---|---|---|---|
| Custom Endpointతో Copilot Chat (BYOK) | అవును | లేదు. Copilot ఇన్లైన్ సూచనలకు GitHub ఖాతా అవసరం, మరియు అవి BYOK మోడల్లను ఉపయోగించవు. | /v1/chat/completions లేదా /v1/messages |
| Cline లేదా Kilo Code | అవును, ఫైల్ ఎడిట్లు మరియు కమాండ్లతో ఏజెంట్ | లేదు | /v1/chat/completions |
| Continue | అవును | అవును | /v1/chat/completions మరియు /v1/completions |
ఈ మూడూ మీ కంప్యూటర్లోనే నడుస్తాయి, కాబట్టి అవి http://localhost:3001 ను చేరుకోగలవు. మీరు ఒకటి కంటే ఎక్కువ ఉపయోగించవచ్చు. ఉదాహరణకు, ఏజెంట్ పని కోసం Copilot Chat లేదా Clineను, ఆటోకంప్లీట్ కోసం Continueను ఉపయోగించండి.
దశ 1: FreeLLMAPIని ఇన్స్టాల్ చేయండి
FreeLLMAPI ఒక ఓపెన్-సోర్స్ గేట్వే. ఇది 45 ప్రొవైడర్ల ఉచిత టియర్లను ఒక కీ వెనుక కలుపుతుంది. ఇది OpenAI మరియు Anthropic ఫార్మాట్లను మాట్లాడుతుంది.
macOS లేదా Linuxలో ఇన్స్టాల్ చేయండి
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 ను తెరవండి. Keys పేజీలో కనీసం రెండు ఉచిత ప్రొవైడర్ కీలను జోడించండి. అదే పేజీ నుండి మీ ఏకీకృత కీని కాపీ చేయండి.
ఎంపిక 1: Custom Endpointతో Copilot Chat
VS Code ఈ ఫీచర్ను బ్రింగ్ యువర్ ఓన్ కీ (BYOK) అని పిలుస్తుంది. Custom Endpoint ప్రొవైడర్ పాత OpenAI Compatible ప్రొవైడర్ స్థానంలో ఉంది. github.copilot.chat.customOAIModels సెట్టింగ్ పాతది అయిపోయింది.
- Chat వ్యూను తెరవండి. మోడల్ పికర్లో, Manage Language Models ను ఎంచుకోండి. మీరు Command Palette నుండి Chat: Manage Language Models ను కూడా నడపవచ్చు.
- Add Models ను ఎంచుకోండి, ఆ తర్వాత Custom Endpoint ను ఎంచుకోండి.
- గ్రూప్ పేరు, డిస్ప్లే పేరు మరియు API కీని నమోదు చేయండి. కీ కోసం, మీ FreeLLMAPI ఏకీకృత కీని నమోదు చేయండి.
- API రకం Chat Completions ను ఎంచుకోండి.
- VS Code
chatLanguageModels.jsonను తెరుస్తుంది. క్రింది ఉదాహరణలో ఉన్నట్లుగా మోడల్ వివరాలను నమోదు చేయండి. ఫైల్ను సేవ్ చేయండి. - Chat వ్యూ మోడల్ పికర్లో మోడల్ను ఎంచుకోండి.
chatLanguageModels.json
[
{
"name": "FreeLLMAPI",
"vendor": "customendpoint",
"apiKey": "${input:freellmapiKey}",
"models": [
{
"id": "auto",
"name": "FreeLLMAPI Auto",
"url": "http://localhost:3001/v1/chat/completions",
"toolCalling": true,
"vision": false,
"maxInputTokens": 128000,
"maxOutputTokens": 8192
}
]
}
]- VS Code డాక్స్ API మార్గంతో పూర్తి ఎండ్పాయింట్ URLను సిఫార్సు చేస్తాయి. మీరు కేవలం
http://localhost:3001/v1ను నమోదు చేస్తే, VS Code/chat/completionsను జోడిస్తుంది. - కీని
${input:freellmapiKey}వంటి ఇన్పుట్ వేరియబుల్లో ఉంచండి. ఫైల్లో అసలు కీని ఉంచవద్దు. toolCallingనుtrueకు సెట్ చేయండి. టూల్ కాలింగ్కు మద్దతు ఇవ్వకపోతే, VS Code ఏజెంట్ మోడల్ పికర్లో మోడల్ను చూపదు.- Anthropic ఫార్మాట్ ఉపయోగించడానికి,
"apiType": "messages"మరియు URLhttp://localhost:3001/v1/messagesను సెట్ చేయండి.
ప్లాన్ల విషయంలో, Copilot సబ్స్క్రిప్షన్ లేకుండా BYOK మిమ్మల్ని మోడల్లను ఉపయోగించడానికి అనుమతిస్తుందని GitHub డాక్స్ చెబుతాయి. ప్రతి చాట్ సెషన్ రకం కోసం VS Code డాక్స్ మరిన్ని నియమాలను ఇస్తాయి, కాబట్టి మీ వెర్షన్ కోసం వాటిని తనిఖీ చేయండి. Copilot Business మరియు Enterprise పై, అడ్మినిస్ట్రేటర్ BYOK పాలసీని ఆఫ్ చేయవచ్చు. కొన్ని ఫీచర్లకు ఇంకా GitHub ఖాతా అవసరం: ఇన్లైన్ సూచనలు, సెమాంటిక్ సెర్చ్ మరియు ఎంబెడ్డింగ్లను ఉపయోగించే ఫీచర్లు. BYOK చాట్ మరియు యుటిలిటీ టాస్క్లకు మాత్రమే వర్తిస్తుంది.
ఎంపిక 2: ఏజెంట్ పని కోసం Cline లేదా Kilo Code
Cline మరియు Kilo Code ఏజెంట్ ఎక్స్టెన్షన్లు. అవి ఫైళ్లను చదువుతాయి, వాటిని ఎడిట్ చేస్తాయి మరియు కమాండ్లను నడుపుతాయి. ప్రతిదానికి ఒక సెటప్ కమాండ్ ఉంది:
Cline లేదా Kilo Code
npx freellmapi setup-cline --url http://localhost:3001 --api-key <unified-key>
npx freellmapi setup-kilo --url http://localhost:3001Clineను మాన్యువల్గా సెటప్ చేయడానికి, Cline సెట్టింగ్లను తెరిచి, API Provider ను OpenAI Compatible కు సెట్ చేయండి. Base URL ను http://localhost:3001/v1 కు సెట్ చేయండి. అన్ని దశల కోసం ఉచిత API తో Cline, Roo Code మరియు Kilo Code చదవండి.
ఎంపిక 3: ఉచిత ghost-text ఆటోకంప్లీట్ కోసం Continue
Copilot BYOK ghost text ఇవ్వదు. Continue ఇస్తుంది. FreeLLMAPI ఆటోకంప్లీట్ క్లయింట్లకు /v1/completions పై సేవలు అందిస్తుంది. ఈ మోడల్ను ~/.continue/config.yaml కు జోడించండి, మరియు కీని ~/.continue/.env లో ఉంచండి:
~/.continue/config.yaml (ఆటోకంప్లీట్ మోడల్)
models:
- name: FreeLLMAPI Autocomplete
provider: openai
model: auto
apiBase: http://localhost:3001/v1
apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
useLegacyCompletionsEndpoint: true
roles:
- autocompleteపూర్తి ఫైల్ కోసం మరియు తక్కువ అభ్యర్థనలను పంపే ఆటోకంప్లీట్ సెట్టింగ్ల కోసం ఉచిత LLM APIతో Continue చదవండి.
మోడల్లను ఎంచుకోండి మరియు పరిమితుల లోపల ఉండండి
ఏజెంట్ మోడ్ టూల్ డెఫినిషన్లతో పొడవైన ప్రాంప్ట్లను పంపుతుంది. టూల్ కాలింగ్ మరియు పెద్ద కాంటెక్స్ట్ విండో ఉన్న మోడల్లను ఉపయోగించండి. ఈ రోజు రెండు నియమాలను పాటించే ఉచిత మోడల్లను పట్టిక చూపుతుంది.
| మోడల్ | ఉచితంగా లభ్యం | కాంటెక్స్ట్ | ఉచిత పరిమితులు (ఉత్తమ ఆఫర్) | సాధనాలు | విజన్ |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 అభ్యర్థనలు/నిమిషం 1 req/min per model | అవును | లేదు |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 అభ్యర్థనలు/నిమిషం 40 RPM | అవును | అవును |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | అవును | అవును |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | అవును | లేదు |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | అవును | అవును |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 అభ్యర్థనలు/నిమిషం 20 అభ్యర్థనలు/రోజు 250,000 టోకెన్లు/నిమిషం ~3M | అవును | అవును |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | అవును | అవును |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 అభ్యర్థనలు/నిమిషం 50 అభ్యర్థనలు/రోజు 50 req/day account-wide (1,000 after a $10 purchase) | అవును | అవును |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 అభ్యర్థనలు/నిమిషం 50 అభ్యర్థనలు/రోజు Shared rate limit | అవును | లేదు |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 అభ్యర్థనలు/నిమిషం 250 అభ్యర్థనలు/రోజు 70,000 టోకెన్లు/నిమిషం ~6M | అవును | అవును |
సరిపోలే 109 ఉచిత మోడల్లలో 10 చూపబడుతున్నాయి. అన్ని మోడల్లను చూడండి.
FreeLLMAPI కేటలాగ్ నుండి ప్రత్యక్ష డేటా (వెర్షన్ 2026.11.19, 2026-11-19 న తనిఖీ చేయబడింది). ఉచిత పరిమితులు తరచుగా మారుతాయి. కేటలాగ్ ప్రతి రోజు తనిఖీ చేయబడుతుంది.
ఉచిత టియర్లకు నిమిషానికి మరియు రోజుకు పరిమితులు ఉంటాయి. ఒక ప్రొవైడర్ 429 ఎర్రర్ పంపినప్పుడు, FreeLLMAPI మీ చైన్లోని తదుపరి మోడల్ను ప్రయత్నిస్తుంది. నాలుగు లేదా అంతకంటే ఎక్కువ ప్రొవైడర్ల నుండి కీలను జోడించండి. X-Routed-Via ప్రతిస్పందన హెడర్ సమాధానం ఇచ్చిన ప్రొవైడర్ను చూపుతుంది.
| సమస్య | కారణం | పరిష్కారం |
|---|---|---|
| ఏజెంట్ మోడల్ పికర్లో మోడల్ లేదు | toolCalling true కాదు | "toolCalling": true ను chatLanguageModels.json లో సెట్ చేయండి |
| Custom Endpoint ఎంపిక లేదు | మీ సంస్థ BYOK పాలసీని ఆఫ్ చేసింది | మీ Copilot అడ్మినిస్ట్రేటర్ను అడగండి, లేదా Cline లేదా Continueను ఉపయోగించండి |
401 "Invalid API key" | కీ మీ FreeLLMAPI ఏకీకృత కీ కాదు | Keys పేజీ నుండి ఏకీకృత కీని మళ్లీ కాపీ చేయండి |
| మీ మోడల్ నుండి ghost text రావడం లేదు | Copilot ఇన్లైన్ సూచనలు BYOK మోడల్లను ఉపయోగించవు | ఆటోకంప్లీట్ కోసం Continueను ఉపయోగించండి |
| "N ప్రయత్నాల తర్వాత అన్ని మోడల్లు రేట్-లిమిట్ చేయబడ్డాయి" | అన్ని కీలు వాటి పరిమితి వద్ద ఉన్నాయి | మరిన్ని ప్రొవైడర్ల నుండి కీలను జోడించండి, లేదా కూల్డౌన్ల కోసం వేచి ఉండండి |
తరచుగా అడిగే ప్రశ్నలు
నా స్వంత API కీతో GitHub Copilotను ఉపయోగించవచ్చా?
అవును. VS Codeలో, Chat: Manage Language Models ను తెరిచి, Add Models ను ఎంచుకోండి, ఆ తర్వాత Custom Endpoint ను ఎంచుకోండి. BYOK చాట్ మరియు యుటిలిటీ టాస్క్లకు వర్తిస్తుంది. ఇన్లైన్ సూచనలు ఇప్పటికీ GitHub మోడల్లను ఉపయోగిస్తాయి.
బ్రింగ్ యువర్ ఓన్ కీ కోసం నాకు Copilot సబ్స్క్రిప్షన్ అవసరమా?
Copilot సబ్స్క్రిప్షన్ లేకుండా BYOK మిమ్మల్ని మోడల్లను ఉపయోగించడానికి అనుమతిస్తుందని GitHub డాక్స్ చెబుతాయి. Copilot Business మరియు Enterprise పై, అడ్మినిస్ట్రేటర్ BYOK పాలసీని ఆఫ్ చేయవచ్చు.
VS Codeలో ఉచిత AI ఆటోకంప్లీట్ ఎలా పొందాలి?
Continue ను ఇన్స్టాల్ చేసి, autocomplete పాత్ మరియు useLegacyCompletionsEndpoint: true తో ఒక మోడల్ను జోడించండి. దానిని http://localhost:3001/v1 పై FreeLLMAPI వైపు చూపించండి.
VS Codeలో ఏ ఉచిత AI మోడల్ ఉత్తమమైనది?
ఏజెంట్ మోడ్ కోసం, టూల్ కాలింగ్ మరియు కనీసం 128K కాంటెక్స్ట్ ఉన్న మోడల్ను ఉపయోగించండి. ఆటోకంప్లీట్ కోసం, వేగవంతమైన మోడల్ను ఉపయోగించండి. ఈ పేజీలోని పట్టిక ఈ రోజు ఉచిత ఏజెంట్ మోడల్లను చూపుతుంది.
Copilotలోని OpenAI Compatible ప్రొవైడర్ పాతది అయిపోయిందా?
అవును. Custom Endpoint ప్రొవైడర్ పాతది అయిన OpenAI Compatible ప్రొవైడర్ స్థానంలో ఉందని, మరియు github.copilot.chat.customOAIModels పాతది అయిపోయిందని VS Code డాక్స్ చెబుతాయి.
సంబంధిత గైడ్లు
- Cline, Roo Code మరియు Kilo Code ఉచిత API తో
- ఉచిత LLM APIతో Continue
- ఉచిత LLM API తో Cursorను ఉపయోగించండి
- ఉత్తమ ఉచిత కోడింగ్ మోడల్ APIలు
- ఉచిత OpenAI-అనుకూల API base URLs
మూలాలు
- VS Code docs: language models in chat (BYOK) (20 November 2026 న తనిఖీ చేయబడింది)
- GitHub docs: bring your own key (20 November 2026 న తనిఖీ చేయబడింది)
- Cline docs: OpenAI Compatible provider (20 November 2026 న తనిఖీ చేయబడింది)
- Continue docs: OpenAI provider (20 November 2026 న తనిఖీ చేయబడింది)
- FreeLLMAPI docs: clients and coding agents (20 November 2026 న తనిఖీ చేయబడింది)