होम / गाइड / Continue के साथ मुफ़्त LLM API

Continue के साथ मुफ़्त LLM API

Continue VS Code और JetBrains के लिए एक open-source AI extension है। इसमें chat, agent mode और tab autocomplete हैं। यह guide इन तीनों को FreeLLMAPI के जरिए मुफ़्त models से जोड़ती है। आप एक फ़ाइल बदलते हैं, config.yaml।

कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।

हिस्से आपस में कैसे जुड़ते हैं

Continue roles का उपयोग करता है। config.yaml में हर model की एक या अधिक roles होती हैं। Chat और agent mode chat role का उपयोग करते हैं। Ghost-text completion autocomplete role का उपयोग करता है। अगर आप roles सेट नहीं करते, तो डिफ़ॉल्ट chat, edit, apply और summarize होते हैं।

Continue की सुविधाFreeLLMAPI endpointModel की ज़रूरत
Chat, edit, apply/v1/chat/completionsकोई भी chat model
Agent modetools के साथ /v1/chat/completionsTool calling (tool_use capability)
Tab autocomplete/v1/completions (पुराना prompt और suffix)एक तेज़ model

FreeLLMAPI editor autocomplete clients के लिए /v1/completions सेवा देता है, जो पुराने OpenAI prompt और suffix requests भेजते हैं। जब आप useLegacyCompletionsEndpoint: true सेट करते हैं, तब Continue ये requests भेजता है।

चरण 1: FreeLLMAPI इंस्टॉल करें और setup command चलाएँ

macOS या Linux पर इंस्टॉल करें

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 खोलें। Keys page पर कम से कम दो मुफ़्त provider keys जोड़ें। अपनी unified key कॉपी करें। फिर setup command चलाएँ:

एक command

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

यह command एक backup बनाता है और ~/.continue/config.yaml में एक chat model मिलाता है। यह key को ~/.continue/.env में रखता है। YAML key को एक secret के रूप में दर्ज करता है, इसलिए config फ़ाइल में असली key नहीं होती।

क्यों .env: Continue के docs कहते हैं कि IDE extensions आपके shell के environment variables नहीं पढ़ सकते। Continue secrets को <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env में खोजता है, और फिर process environment में।

IDE के बिना connection जाँचने के लिए Continue CLI इस्तेमाल करें। Command है cn, npm package @continuedev/cli से। Continue के docs CLI को alpha बताते हैं।

एक बार की जाँच

npm install -g @continuedev/cli
cn -p "Say hello"

VS Code और JetBrains extensions एक ही ~/.continue/config.yaml पढ़ते हैं। Gateway आप दोनों IDEs के लिए एक बार सेट करते हैं। हर request आपके computer तक जाती है, इसलिए localhost काम करता है और tunnel की ज़रूरत नहीं है।

चरण 2: chat और autocomplete models जोड़ें

Continue के configs menu से config.yaml खोलें। Local Config के बगल का cog इस्तेमाल करें। फ़ाइल macOS और Linux पर ~/.continue/config.yaml में है, और Windows पर %USERPROFILE%\.continue\config.yaml में। Chat, agent mode और autocomplete के लिए पूरी फ़ाइल ऐसी दिखती है:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • Agent mode के लिए capabilities: tool_use ज़रूरी है। Continue इसे आमतौर पर पहचान लेता है, लेकिन gateway model auto एक ज्ञात model नाम नहीं है, इसलिए इसे खुद सेट करें।
  • contextLength Continue को बताता है कि कितना context भेजना है। इसे अपने model के context के अनुसार सेट करें।
  • अगर आप हर keystroke के लिए एक ही model चाहते हैं, तो autocomplete entry में auto की जगह pinned model id लिखें।

चरण 3: models चुनें

Chat और agent mode के लिए tool calling और बड़ी context window वाला model इस्तेमाल करें। Table में आज के वे मुफ़्त models हैं जो दोनों नियम पूरे करते हैं।

Continue chat और agent mode के लिए मुफ़्त models
मॉडलमुफ़्त उपलब्धकॉन्टेक्स्टमुफ़्त सीमाएँ (सबसे अच्छा विकल्प)टूलविज़न
GLM 5.3UnoRouter1M1 अनुरोध/मिनट
1 req/min per model
हाँनहीं
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 अनुरोध/मिनट
40 RPM
हाँहाँ
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaहाँहाँ
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceहाँनहीं
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditहाँहाँ
Gemini 3.7 FlashGoogle AI Studio1M10 अनुरोध/मिनट
20 अनुरोध/दिन
250,000 टोकन/मिनट
~3M
हाँहाँ
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditहाँहाँ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 अनुरोध/मिनट
50 अनुरोध/दिन
50 req/day account-wide (1,000 after a $10 purchase)
हाँहाँ

109 मिलते-जुलते मुफ़्त मॉडल में से 8 दिखाए जा रहे हैं। सभी मॉडल देखें.

FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।

Autocomplete के लिए Continue के docs ऐसे models सुझाते हैं जो completion के लिए प्रशिक्षित हैं, जैसे Codestral और Qwen Coder। वे कहते हैं कि बड़े chat models और thinking models उपयोगी completions नहीं देते। Table में आज के मुफ़्त Codestral और Qwen Coder offers हैं। GET /v1/models से सटीक id कॉपी करें।

Autocomplete के लिए मुफ़्त Codestral और Qwen Coder models
मॉडलमुफ़्त उपलब्धकॉन्टेक्स्टमुफ़्त सीमाएँ (सबसे अच्छा विकल्प)टूलविज़न
CodestralDreamPrompting, LLM7, Mistral +1 और256K100 अनुरोध/मिनट
5,000 अनुरोध/दिन
500,000 टोकन/दिन
500K tokens/day · 5,000 req/day
हाँनहीं
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 और256K1 अनुरोध/मिनट
1,000 अनुरोध/दिन
1,000 req/day · 1 req/min
हाँनहीं
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20Mहाँनहीं
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 अनुरोध/दिन
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
हाँनहीं
codestral-latestApi.Airforce32K1 अनुरोध/मिनट
1,000 अनुरोध/दिन
1,000 req/day · 1 req/min
नहींनहीं
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardहाँनहीं
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedनहींनहीं
Qwen3 CoderSeptor Labs128KShared daily allowanceहाँनहीं

9 मिलते-जुलते मुफ़्त मॉडल में से 8 दिखाए जा रहे हैं। सभी मॉडल देखें.

FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।

auto की जगह routing model id भी इस्तेमाल कर सकते हैं। उदाहरण के लिए, auto:smart सबसे ऊँची intelligence वाले models को प्राथमिकता देता है, और auto:fast मापी गई गति को। हर एक के लिए अलग model entry बनाएँ, फिर Continue के model menu में उसे चुनें।

Autocomplete settings और limits

Autocomplete टाइपिंग में लगभग हर विराम के बाद एक request भेजता है। मुफ़्त tiers पर यह आपका quota खर्च करने का सबसे तेज़ तरीका है। autocompleteOptions block इस्तेमाल करें, ताकि कम और छोटी requests जाएँ।

Autocomplete model entry के नीचे जोड़ें

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay वह प्रतीक्षा है, मिलीसेकंड में, जब आप टाइपिंग रोकते हैं। ज़्यादा मान से कम requests जाती हैं। Continue docs का उदाहरण 250 इस्तेमाल करता है।
  • maxPromptTokens हर completion prompt के आकार को सीमित करता है।
  • Autocomplete को ऊँची प्रति-मिनट limits वाले model पर रखें। उसे 20 requests प्रति दिन वाले model पर न रखें।
  • Chat और autocomplete को अलग models पर रखें। तब autocomplete वह quota इस्तेमाल नहीं करता जो chat को चाहिए।

जब कोई provider 429 error भेजता है, तो FreeLLMAPI chain का अगला model आज़माता है। X-Routed-Via response header बताता है कि किस provider ने जवाब दिया।

समस्या निवारण

समस्याकारणसमाधान
401 "Invalid API key"Key गलत है, या Continue ने secret लोड नहीं कियाFREELLMAPI_API_KEY को ~/.continue/.env में रखें, फिर IDE दोबारा लोड करें
उस model के लिए agent mode उपलब्ध नहीं हैConfig में model के पास tool_use capability नहीं हैchat model में capabilities: [tool_use] जोड़ें
कोई ghost text नहीं हैकिसी model के पास autocomplete role नहीं हैroles: [autocomplete] के साथ autocomplete entry जोड़ें
Completions धीमे हैंएक बड़ा model या धीमा मुफ़्त tierAutocomplete table से एक तेज़ model pin करें
"N प्रयासों के बाद सभी models rate-limited हैं"सभी keys अपनी limit पर हैंdebounceDelay बढ़ाएँ और ज़्यादा providers की keys जोड़ें
इनमें से हर एक का उपयोग एक ही कुंजी से करें। FreeLLMAPI एक ओपन-सोर्स, सेल्फ़-होस्टेड राउटर है। यह इन सभी मुफ़्त टियर को एक OpenAI-संगत एंडपॉइंट के पीछे रखता है। जब कोई एक सीमा पर पहुँचता है, तो यह अगले प्रदाता पर स्विच कर देता है। कैटलॉग देखें या शुरू करें.

अक्सर पूछे जाने वाले प्रश्न

क्या Continue मुफ़्त है?

हाँ। Continue एक open-source extension है। इसे एक model API चाहिए। FreeLLMAPI के साथ यह मुफ़्त provider tiers इस्तेमाल करता है, इसलिए inference का खर्च $0 है।

VS Code में मुफ़्त tab autocomplete कैसे सेट करें?

Continue इंस्टॉल करें और roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 और useLegacyCompletionsEndpoint: true के साथ एक model जोड़ें। FreeLLMAPI /v1/completions पर जवाब देता है।

Continue autocomplete के लिए कौन सा मुफ़्त model सबसे अच्छा है?

Continue के docs completion के लिए प्रशिक्षित models सुझाते हैं, जैसे Codestral और Qwen Coder। दोनों के मुफ़्त offers इस पेज की table में हैं। बड़े chat और thinking models की सिफ़ारिश नहीं की जाती।

Continue मेरा environment variable क्यों नहीं पढ़ता?

Continue के docs कहते हैं कि IDE extensions shell environment variables नहीं पढ़ सकते। Key को ~/.continue/.env में रखें और उसे ${{ secrets.FREELLMAPI_API_KEY }} के रूप में लिखें।

क्या Continue का agent mode मुफ़्त models के साथ काम करता है?

हाँ, अगर model tool calling सपोर्ट करता है। config.yaml में model में tool_use capability जोड़ें और बड़ी context window वाला model इस्तेमाल करें।

संबंधित गाइड

स्रोत

सभी गाइड · सभी मुफ़्त मॉडल देखें