होम / गाइड / SillyTavern के लिए मुफ़्त API

SillyTavern के लिए मुफ़्त API

SillyTavern एक chat और roleplay interface है, जिसे आप अपने computer पर चलाते हैं। इसे एक model API चाहिए। यह guide SillyTavern को FreeLLMAPI से Chat Completion source Custom (OpenAI-compatible) के जरिए जोड़ती है। FreeLLMAPI एक key के पीछे 45 मुफ़्त provider tiers इकट्ठा करता है और जब कोई limit request रोक देती है, तो अगले provider पर चला जाता है।

कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।

शुरू करने से पहले

आपको एक ही computer पर दो programs चाहिए: SillyTavern और FreeLLMAPI। FreeLLMAPI Docker में या desktop app के रूप में चलता है। एक command से इसे इंस्टॉल करें:

FreeLLMAPI इंस्टॉल करें (macOS या Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. http://localhost:3001 पर dashboard खोलें।
  2. Keys page पर दो या अधिक providers की मुफ़्त keys जोड़ें। Google AI Studio, Groq और Mistral हर एक मुफ़्त key देते हैं।
  3. Keys page से unified key कॉपी करें। SillyTavern सिर्फ इसी key का उपयोग करता है।

Desktop app http://127.0.0.1:31415 पर सुनता है। अगर आप desktop app इस्तेमाल करते हैं, तो इस पेज पर http://localhost:3001 की जगह यह पता इस्तेमाल करें।

चरण 1: SillyTavern को जोड़ें

SillyTavern खोलें और ऊपर की bar में API Connections icon (plug) पर क्लिक करें। फिर ये fields सेट करें:

Fieldमान
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API Keyआपकी unified key, <unified-key>
Model ID दर्ज करेंauto, या नीचे की table से कोई model ID

Connect पर क्लिक करें। SillyTavern /v1/models पढ़ता है और Available Models list भरता है। URL में /chat/completions न जोड़ें। यह path SillyTavern खुद जोड़ता है।

नोट: Available Models list में पूरी FreeLLMAPI catalog दिखती है। इसमें वे models भी दिखते हैं जिन्हें आप अभी call नहीं कर सकते, क्योंकि आपने उनके provider की key नहीं जोड़ी। Model ID दर्ज करें में auto लिखें, ताकि router ऐसा model चुने जो अभी काम करता हो।

छोटा prompt भेजने के लिए Test Message पर क्लिक करें। जवाब मिले, तो connection काम कर रहा है।

चरण 2: लंबी chats के लिए models चुनें

Roleplay chat हर message के साथ character card, world information और chat history भेजती है। लंबी chat हर बार दसियों हज़ार tokens भेज सकती है। बड़ी context window वाले models चुनें।

Model ID दर्ज करें में ये model IDs इस्तेमाल कर सकते हैं:

  • auto: dashboard पर आपकी fallback chain का पालन करता है।
  • auto:smart: enabled models को intelligence के हिसाब से क्रम में लगाता है। Story की गुणवत्ता के लिए इसका उपयोग करें।
  • auto:fast: enabled models को measured speed के हिसाब से क्रम में लगाता है। तेज़ जवाब के लिए इसका उपयोग करें।
  • एक fixed model ID: हर बार एक ही लेखन शैली देता है, लेकिन उस model की मुफ़्त limit खत्म होने पर रुक जाता है।
लंबी chats के लिए 128K+ context वाले मुफ़्त models
मॉडलमुफ़्त उपलब्धकॉन्टेक्स्टमुफ़्त सीमाएँ (सबसे अच्छा विकल्प)टूलविज़न
GLM 5.3APINex, UnoRouter1M5 अनुरोध/मिनट
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
हाँनहीं
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 और1M40 अनुरोध/मिनट
40 RPM
हाँहाँ
Gemini 3.8 FlashAPINex, Google AI Studio1M5 अनुरोध/मिनट
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
हाँहाँ
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceहाँनहीं
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditहाँहाँ
Deepseek V4.1 FlashAPINex1M5 अनुरोध/मिनट
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
नहींनहीं
Gemini 3.7 FlashGoogle AI Studio1M10 अनुरोध/मिनट
20 अनुरोध/दिन
250,000 टोकन/मिनट
~3M
हाँहाँ
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditहाँहाँ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 अनुरोध/मिनट
50 अनुरोध/दिन
50 req/day account-wide (1,000 after a $10 purchase)
हाँहाँ
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 अनुरोध/मिनट
50 अनुरोध/दिन
Shared rate limit
हाँनहीं
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetनहींनहीं
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +3 और262K30 अनुरोध/मिनट
250 अनुरोध/दिन
70,000 टोकन/मिनट
~6M
हाँहाँ

184 मिलते-जुलते मुफ़्त मॉडल में से 12 दिखाए जा रहे हैं। सभी मॉडल देखें.

FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।

FreeLLMAPI एक बातचीत को 30 मिनट तक एक ही model पर रखता है। इससे messages के बीच character की आवाज़ एक जैसी रहती है। अगर कोई limit model बदलने पर मजबूर करे, तो अगला model उसी chat history से आगे बढ़ता है।

चरण 3: generation settings सेट करें

AI Response Configuration panel खोलें (sliders icon)। मुफ़्त tiers पर तीन settings का सबसे ज़्यादा असर होता है:

Settingसुझाया गया मानक्यों
Context Size (tokens)16,000 से 32,000छोटा context हर message पर कम tokens भेजता है। मुफ़्त tiers अक्सर प्रति मिनट tokens सीमित करते हैं।
Max Response Length (tokens)400 से 800लंबे जवाब output quota जल्दी खर्च करते हैं। कुछ reasoning models इस budget का कुछ हिस्सा छिपी हुई सोच के लिए भी इस्तेमाल करते हैं।
Streamingचालूटेक्स्ट आते ही दिखता है। FreeLLMAPI जिस भी provider तक पहुँच सकता है, वहाँ streaming करता है।

SillyTavern में Custom source के लिए Prompt Post-Processing विकल्प भी है। कुछ providers दो system messages एक के बाद एक स्वीकार नहीं करते। अगर message roles से जुड़ी errors आएँ, तो Semi-strict या Strict विकल्प चुनें। ये विकल्प एक ही role वाले messages को जोड़ते हैं। "no tools" वाले विकल्प tool calls भी हटा देते हैं। "with tools" वाले विकल्प उन्हें रखते हैं।

लंबे roleplay में rate limits

हर मुफ़्त tier की अपनी limits होती हैं। उदाहरण के लिए, एक मुफ़्त Gemini Flash key दिन में कुछ ही requests देती है, और एक Groq key ज़्यादा requests देती है, पर token limits कम होती हैं। Roleplay की एक शाम में सैकड़ों requests जा सकती हैं। एक मुफ़्त key इतनी देर नहीं चलती।

  • और providers जोड़ें। हर key रोज़ की requests बढ़ाती है। FreeLLMAPI हर key का quota गिनता है और कोई एक खत्म होने पर अगली key या provider पर चला जाता है।
  • Context घटाएँ। SillyTavern के Summarize extension से पुराने messages का सार बनाएँ। छोटा prompt प्रति मिनट कम tokens लेता है।
  • Swipes को लगातार न दोहराएँ। हर swipe या regenerate एक नई request है।
  • Reset पर नज़र रखें। जब सभी keys अपनी limit पर हों, तो gateway Retry-After header के साथ error 429 लौटाता है। कई रोज़ की limits आधी रात UTC पर reset होती हैं।

Table में आज की catalog के हिसाब से हर provider की मुफ़्त limits दिखती हैं।

प्रदातामुफ़्त मॉडलअधिकतम अनुरोध/मिनटअधिकतम अनुरोध/दिनअधिकतम टोकन/मिनटटोकन/माह (एक मॉडल)सबसे शक्तिशाली मुफ़्त मॉडल
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।

Content policy: हर provider मुफ़्त requests पर अपनी usage policy लागू करता है। कोई provider कुछ content से मना कर सकता है। FreeLLMAPI यह नहीं बदलता कि provider क्या अनुमति देता है।

समस्या निवारण

समस्याकारणसमाधान
Connect विफल होता है या status लाल रहता हैगलत URL या FreeLLMAPI नहीं चल रहाब्राउज़र में http://localhost:3001 खोलें। सुनिश्चित करें कि URL /v1 पर खत्म होता है।
Error 401Key गलत हैCustom API Key में unified key फिर से चिपकाएँ
चुना गया model हमेशा विफल होता हैउस model के provider की कोई key नहींprovider की key जोड़ें, या auto लिखें
लंबे session के बाद Error 429सभी keys अपनी limit पर हैंऔर providers की keys जोड़ें, या reset का इंतज़ार करें
Messages के क्रम या roles से जुड़ी errorsProvider के roles के सख्त नियम हैंPrompt Post-Processing को Semi-strict या Strict पर सेट करें
जवाब बीच में रुक जाते हैंMax Response Length एक reasoning model के लिए बहुत छोटा हैमान बढ़ाएँ, या बिना reasoning वाला model चुनें
Chat के दौरान character की आवाज़ बदल जाती हैएक limit ने model बदलने पर मजबूर कियाएक ऐसा model pin करें जो कई providers पर मुफ़्त हो
इनमें से हर एक का उपयोग एक ही कुंजी से करें। FreeLLMAPI एक ओपन-सोर्स, सेल्फ़-होस्टेड राउटर है। यह इन सभी मुफ़्त टियर को एक OpenAI-संगत एंडपॉइंट के पीछे रखता है। जब कोई एक सीमा पर पहुँचता है, तो यह अगले प्रदाता पर स्विच कर देता है। कैटलॉग देखें या शुरू करें.

अक्सर पूछे जाने वाले प्रश्न

क्या SillyTavern के लिए कोई मुफ़्त API है?

हाँ। SillyTavern Custom (OpenAI-compatible) source के जरिए कोई भी OpenAI-compatible API स्वीकार करता है। FreeLLMAPI कई मुफ़्त provider tiers के लिए एक endpoint देता है। हर tier की अपनी limits होती हैं।

SillyTavern Custom (OpenAI-compatible) के लिए base URL क्या है?

FreeLLMAPI server install के लिए http://localhost:3001/v1 इस्तेमाल करें, या desktop app के लिए http://127.0.0.1:31415/v1। /chat/completions न जोड़ें।

SillyTavern roleplay के लिए कौन सा मुफ़्त model सबसे अच्छा है?

128K tokens या उससे ज़्यादा context window वाला model इस्तेमाल करें। गुणवत्ता के लिए auto:smart या गति के लिए auto:fast से शुरू करें। इस पेज की table आज के सबसे मज़बूत मुफ़्त models दिखाती है।

SillyTavern में मुझे error 429 क्यों मिलता है?

एक मुफ़्त tier अपनी limit तक पहुँच गया। FreeLLMAPI अगली key या provider पर चला जाता है। अगर हर key अपनी limit पर है, तो आपको 429 मिलता है। और provider keys जोड़ें या context size घटाएँ।

क्या SillyTavern की streaming मुफ़्त APIs के साथ काम करती है?

हाँ। AI Response Configuration panel में Streaming चालू करें। FreeLLMAPI हर provider से आने वाला जवाब OpenAI format में stream करता है।

संबंधित गाइड

स्रोत

सभी गाइड · सभी मुफ़्त मॉडल देखें