मुख्यपृष्ठ / मार्गदर्शक / मोफत LLM API सह Continue

मोफत LLM API सह Continue

Continue हा VS Code आणि JetBrains साठी ओपन-सोर्स AI एक्स्टेंशन आहे. त्यात chat, agent मोड आणि tab autocomplete आहेत. हे मार्गदर्शक तिन्हींना FreeLLMAPI द्वारे मोफत मॉडेलशी जोडते. तुम्ही एक फाइल संपादित करता, config.yaml.

कोड, मॉडेलची नावे आणि थेट कॅटलॉग लेबल इंग्रजीत दाखवले जातात.

भाग एकमेकांशी कसे जोडले जातात

Continue भूमिका वापरते. config.yaml मधील प्रत्येक मॉडेलला एक किंवा अधिक भूमिका असतात. Chat आणि agent मोड chat भूमिका वापरतात. Ghost-text पूर्णता autocomplete भूमिका वापरते. भूमिका सेट न केल्यास डिफॉल्ट chat, edit, apply आणि summarize असतात.

Continue वैशिष्ट्यFreeLLMAPI endpointमॉडेलची गरज
Chat, edit, apply/v1/chat/completionsकोणतेही chat मॉडेल
Agent मोडtools सह /v1/chat/completionsTool calling (tool_use क्षमता)
Tab autocomplete/v1/completions (जुने prompt आणि suffix)एक जलद मॉडेल

FreeLLMAPI /v1/completions सेवा देते, जे एडिटर autocomplete क्लायंटसाठी आहे, जे जुन्या OpenAI prompt आणि suffix विनंत्या पाठवतात. तुम्ही useLegacyCompletionsEndpoint: true सेट करता तेव्हा Continue या विनंत्या पाठवते.

पायरी 1: FreeLLMAPI इन्स्टॉल करा आणि सेटअप आदेश चालवा

macOS किंवा Linux वर इन्स्टॉल करा

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 उघडा. Keys पेजवर किमान दोन मोफत प्रदात्यांच्या की जोडा. तुमची एकत्रित की कॉपी करा. मग सेटअप आदेश चालवा:

एक आदेश

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

आदेश बॅकअप घेतो आणि ~/.continue/config.yaml मध्ये chat मॉडेल विलीन करतो. की ~/.continue/.env मध्ये ठेवतो. YAML मध्ये की गुप्त (secret) म्हणून उल्लेख केलेली असते, त्यामुळे मूळ की config फाइलमध्ये नसते.

.env का: Continue च्या डॉक्युमेंटेशननुसार IDE एक्स्टेंशन तुमचे शेल environment variables वाचू शकत नाहीत. Continue गुप्त माहिती <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env मध्ये शोधते, आणि नंतर process environment मध्ये.

IDE शिवाय कनेक्शन तपासण्यासाठी Continue CLI वापरा. आदेश cn आहे, npm पॅकेज @continuedev/cli मधून. Continue डॉक्युमेंटेशन CLI ला alpha म्हणून चिन्हांकित करते.

एकदाची तपासणी

npm install -g @continuedev/cli
cn -p "Say hello"

VS Code आणि JetBrains एक्स्टेंशन एकच ~/.continue/config.yaml वाचतात. तुम्ही दोन्ही IDE साठी गेटवे एकदाच कॉन्फिगर करता. प्रत्येक विनंती तुमच्या संगणकावर जाते, त्यामुळे localhost चालते आणि टनेलची गरज नाही.

पायरी 2: chat आणि autocomplete मॉडेल जोडा

Continue मधील configs मेनूमधून config.yaml उघडा. Local Config शेजारचे चाक चिन्ह वापरा. फाइल macOS आणि Linux वर ~/.continue/config.yaml येथे आहे, आणि Windows वर %USERPROFILE%\.continue\config.yaml येथे आहे. chat, agent मोड आणि autocomplete साठी पूर्ण फाइल अशी दिसते:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • Agent मोडसाठी capabilities: tool_use आवश्यक आहे. Continue हे सहसा ओळखते, पण गेटवे मॉडेल auto हे ओळखले जाणारे मॉडेल नाव नाही, म्हणून ते स्पष्टपणे सेट करा.
  • contextLength Continue ला किती संदर्भ पाठवायचा ते सांगते. ते तुमच्या मॉडेलच्या संदर्भाइतके सेट करा.
  • प्रत्येक कीस्ट्रोकसाठी एकच मॉडेल हवे असल्यास, autocomplete नोंदीतील auto ऐवजी निश्चित मॉडेल ID वापरा.

पायरी 3: मॉडेल निवडा

chat आणि agent मोडसाठी tool calling आणि मोठी संदर्भ विंडो असलेले मॉडेल वापरा. तक्त्यात आज दोन्ही नियम पाळणारी मोफत मॉडेल दाखवली आहेत.

Continue chat आणि agent मोडसाठी मोफत मॉडेल
मॉडेलमोफत उपलब्धसंदर्भमोफत मर्यादा (सर्वोत्तम ऑफर)साधनेव्हिजन
GLM 5.3UnoRouter1M1 विनंत्या/मिनिट
1 req/min per model
होयनाही
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 विनंत्या/मिनिट
40 RPM
होयहोय
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaहोयहोय
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceहोयनाही
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditहोयहोय
Gemini 3.7 FlashGoogle AI Studio1M10 विनंत्या/मिनिट
20 विनंत्या/दिवस
250,000 टोकन/मिनिट
~3M
होयहोय
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditहोयहोय
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 विनंत्या/मिनिट
50 विनंत्या/दिवस
50 req/day account-wide (1,000 after a $10 purchase)
होयहोय

जुळणाऱ्या 109 मोफत मॉडेलपैकी 8 दाखवले जात आहेत. सर्व मॉडेल पहा.

FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.

Autocomplete साठी Continue डॉक्युमेंटेशन पूर्णतेसाठी प्रशिक्षित मॉडेल सुचवते, उदाहरणार्थ Codestral आणि Qwen Coder. ते म्हणते की मोठी chat मॉडेल आणि thinking मॉडेल उपयोगी पूर्णता देत नाहीत. तक्त्यात आज मोफत Codestral आणि Qwen Coder ऑफर दाखवल्या आहेत. GET /v1/models मधून अचूक ID कॉपी करा.

Autocomplete साठी मोफत Codestral आणि Qwen Coder मॉडेल
मॉडेलमोफत उपलब्धसंदर्भमोफत मर्यादा (सर्वोत्तम ऑफर)साधनेव्हिजन
CodestralDreamPrompting, LLM7, Mistral +1 अधिक256K100 विनंत्या/मिनिट
5,000 विनंत्या/दिवस
500,000 टोकन/दिवस
500K tokens/day · 5,000 req/day
होयनाही
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 अधिक256K1 विनंत्या/मिनिट
1,000 विनंत्या/दिवस
1,000 req/day · 1 req/min
होयनाही
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20Mहोयनाही
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 विनंत्या/दिवस
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
होयनाही
codestral-latestApi.Airforce32K1 विनंत्या/मिनिट
1,000 विनंत्या/दिवस
1,000 req/day · 1 req/min
नाहीनाही
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardहोयनाही
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedनाहीनाही
Qwen3 CoderSeptor Labs128KShared daily allowanceहोयनाही

जुळणाऱ्या 9 मोफत मॉडेलपैकी 8 दाखवले जात आहेत. सर्व मॉडेल पहा.

FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.

auto ऐवजी राउटिंग मॉडेल ID देखील वापरू शकता. उदाहरणार्थ, auto:smart सर्वाधिक बुद्धिमत्ता असलेल्या मॉडेलला प्राधान्य देते, आणि auto:fast मोजलेल्या वेगाला प्राधान्य देते. प्रत्येकासाठी वेगळी मॉडेल नोंद बनवा, मग Continue च्या model मेनूमध्ये ती निवडा.

Autocomplete सेटिंग्ज आणि मर्यादा

Autocomplete टायपिंगमधील जवळजवळ प्रत्येक थांब्यानंतर विनंती पाठवते. मोफत टियरवर तुमचा कोटा वापरण्याचा हा सर्वात जलद मार्ग आहे. कमी आणि लहान विनंत्या पाठवण्यासाठी autocompleteOptions ब्लॉक वापरा.

Autocomplete मॉडेल नोंदीखाली जोडा

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay म्हणजे टायपिंग थांबल्यानंतर मिलिसेकंदांमधील प्रतीक्षा. मोठे मूल्य कमी विनंत्या पाठवते. Continue डॉक्युमेंटेशनचे उदाहरण 250 वापरते.
  • maxPromptTokens प्रत्येक पूर्णता प्रॉम्प्टचा आकार मर्यादित करते.
  • Autocomplete उच्च प्रति-मिनिट मर्यादा असलेल्या मॉडेलवर ठेवा. दिवसाला 20 विनंत्या असलेल्या मॉडेलवर ठेवू नका.
  • Chat आणि autocomplete वेगवेगळ्या मॉडेलवर ठेवा. मग autocomplete ला chat ला लागणारा कोटा वापरता येत नाही.

प्रदाता 429 त्रुटी पाठवतो, तेव्हा FreeLLMAPI साखळीतील पुढचे मॉडेल प्रयत्न करते. X-Routed-Via प्रतिसाद हेडर दाखवते की कोणत्या प्रदात्याने उत्तर दिले.

समस्यानिवारण

समस्याकारणउपाय
401 "Invalid API key"की चुकीची आहे, किंवा Continue ने गुप्त माहिती लोड केली नाहीFREELLMAPI_API_KEY ~/.continue/.env मध्ये ठेवा, मग IDE रीलोड करा
मॉडेलसाठी Agent मोड उपलब्ध नाहीconfig मध्ये मॉडेलला tool_use क्षमता नाहीchat मॉडेलमध्ये capabilities: [tool_use] जोडा
Ghost text दिसत नाहीकोणत्याही मॉडेलला autocomplete भूमिका नाहीroles: [autocomplete] सह autocomplete नोंद जोडा
पूर्णता संथ आहेतमोठे मॉडेल किंवा संथ मोफत टियरautocomplete तक्त्यातील जलद मॉडेल निश्चित करा
N प्रयत्नांनंतर सर्व मॉडेल रेट-मर्यादित (त्रुटी संदेश: "All models rate-limited after N attempts")सर्व की त्यांच्या मर्यादेवर आहेतdebounceDelay वाढवा आणि आणखी प्रदात्यांच्या की जोडा
या सर्व मॉडेलचा वापर एकाच कीद्वारे करा. FreeLLMAPI हा एक ओपन-सोर्स, स्वतः होस्ट केलेला राउटर आहे. तो हे सर्व मोफत टियर एका OpenAI-सुसंगत एंडपॉइंटमागे ठेवतो आणि एखादे मॉडेल मर्यादेत असताना दुसऱ्याकडे वळवतो. कॅटलॉग ब्राउझ करा किंवा थेट पहा.

वारंवार विचारले जाणारे प्रश्न

Continue मोफत आहे का?

होय. Continue हा ओपन-सोर्स एक्स्टेंशन आहे. त्याला मॉडेल API लागते. FreeLLMAPI सह ते मोफत प्रदाता टियर वापरते, त्यामुळे inference चा खर्च $0 आहे.

VS Code मध्ये मोफत tab autocomplete कसे सेट करू?

Continue इन्स्टॉल करा आणि roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 आणि useLegacyCompletionsEndpoint: true असलेले मॉडेल जोडा. FreeLLMAPI /v1/completions वर उत्तर देते.

Continue autocomplete साठी सर्वोत्तम मोफत मॉडेल कोणते आहे?

Continue डॉक्युमेंटेशन Codestral आणि Qwen Coder सारखी पूर्णतेसाठी प्रशिक्षित मॉडेल सुचवते. दोन्हींच्या मोफत ऑफर या पानावरील तक्त्यात आहेत. मोठी chat आणि thinking मॉडेल शिफारस केलेली नाहीत.

Continue माझे environment variable का वाचत नाही?

Continue डॉक्युमेंटेशननुसार IDE एक्स्टेंशन शेल environment variables वाचू शकत नाहीत. की ~/.continue/.env मध्ये ठेवा आणि तिचा उल्लेख ${{ secrets.FREELLMAPI_API_KEY }} असा करा.

मोफत मॉडेलसह Continue agent मोड चालतो का?

होय, जर मॉडेल tool calling ला सपोर्ट करत असेल. config.yaml मध्ये मॉडेलला tool_use क्षमता जोडा आणि मोठी संदर्भ विंडो असलेले मॉडेल वापरा.

संबंधित मार्गदर्शक

स्रोत

सर्व मार्गदर्शक · सर्व मोफत मॉडेल पहा