SillyTavern के लिए मुफ़्त API
SillyTavern एक chat और roleplay interface है, जिसे आप अपने computer पर चलाते हैं। इसे एक model API चाहिए। यह guide SillyTavern को FreeLLMAPI से Chat Completion source Custom (OpenAI-compatible) के जरिए जोड़ती है। FreeLLMAPI एक key के पीछे 45 मुफ़्त provider tiers इकट्ठा करता है और जब कोई limit request रोक देती है, तो अगले provider पर चला जाता है।
कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।
शुरू करने से पहले
आपको एक ही computer पर दो programs चाहिए: SillyTavern और FreeLLMAPI। FreeLLMAPI Docker में या desktop app के रूप में चलता है। एक command से इसे इंस्टॉल करें:
FreeLLMAPI इंस्टॉल करें (macOS या Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001पर dashboard खोलें।- Keys page पर दो या अधिक providers की मुफ़्त keys जोड़ें। Google AI Studio, Groq और Mistral हर एक मुफ़्त key देते हैं।
- Keys page से unified key कॉपी करें। SillyTavern सिर्फ इसी key का उपयोग करता है।
Desktop app http://127.0.0.1:31415 पर सुनता है। अगर आप desktop app इस्तेमाल करते हैं, तो इस पेज पर http://localhost:3001 की जगह यह पता इस्तेमाल करें।
चरण 1: SillyTavern को जोड़ें
SillyTavern खोलें और ऊपर की bar में API Connections icon (plug) पर क्लिक करें। फिर ये fields सेट करें:
| Field | मान |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | आपकी unified key, <unified-key> |
| Model ID दर्ज करें | auto, या नीचे की table से कोई model ID |
Connect पर क्लिक करें। SillyTavern /v1/models पढ़ता है और Available Models list भरता है। URL में /chat/completions न जोड़ें। यह path SillyTavern खुद जोड़ता है।
auto लिखें, ताकि router ऐसा model चुने जो अभी काम करता हो।छोटा prompt भेजने के लिए Test Message पर क्लिक करें। जवाब मिले, तो connection काम कर रहा है।
चरण 2: लंबी chats के लिए models चुनें
Roleplay chat हर message के साथ character card, world information और chat history भेजती है। लंबी chat हर बार दसियों हज़ार tokens भेज सकती है। बड़ी context window वाले models चुनें।
Model ID दर्ज करें में ये model IDs इस्तेमाल कर सकते हैं:
auto: dashboard पर आपकी fallback chain का पालन करता है।auto:smart: enabled models को intelligence के हिसाब से क्रम में लगाता है। Story की गुणवत्ता के लिए इसका उपयोग करें।auto:fast: enabled models को measured speed के हिसाब से क्रम में लगाता है। तेज़ जवाब के लिए इसका उपयोग करें।- एक fixed model ID: हर बार एक ही लेखन शैली देता है, लेकिन उस model की मुफ़्त limit खत्म होने पर रुक जाता है।
| मॉडल | मुफ़्त उपलब्ध | कॉन्टेक्स्ट | मुफ़्त सीमाएँ (सबसे अच्छा विकल्प) | टूल | विज़न |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 अनुरोध/मिनट 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | हाँ | नहीं |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 और | 1M | 40 अनुरोध/मिनट 40 RPM | हाँ | हाँ |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 अनुरोध/मिनट 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | हाँ | हाँ |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | हाँ | नहीं |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | हाँ | हाँ |
| Deepseek V4.1 Flash | APINex | 1M | 5 अनुरोध/मिनट 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | नहीं | नहीं |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 अनुरोध/मिनट 20 अनुरोध/दिन 250,000 टोकन/मिनट ~3M | हाँ | हाँ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | हाँ | हाँ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 अनुरोध/मिनट 50 अनुरोध/दिन 50 req/day account-wide (1,000 after a $10 purchase) | हाँ | हाँ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 अनुरोध/मिनट 50 अनुरोध/दिन Shared rate limit | हाँ | नहीं |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | नहीं | नहीं |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +3 और | 262K | 30 अनुरोध/मिनट 250 अनुरोध/दिन 70,000 टोकन/मिनट ~6M | हाँ | हाँ |
184 मिलते-जुलते मुफ़्त मॉडल में से 12 दिखाए जा रहे हैं। सभी मॉडल देखें.
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
FreeLLMAPI एक बातचीत को 30 मिनट तक एक ही model पर रखता है। इससे messages के बीच character की आवाज़ एक जैसी रहती है। अगर कोई limit model बदलने पर मजबूर करे, तो अगला model उसी chat history से आगे बढ़ता है।
चरण 3: generation settings सेट करें
AI Response Configuration panel खोलें (sliders icon)। मुफ़्त tiers पर तीन settings का सबसे ज़्यादा असर होता है:
| Setting | सुझाया गया मान | क्यों |
|---|---|---|
| Context Size (tokens) | 16,000 से 32,000 | छोटा context हर message पर कम tokens भेजता है। मुफ़्त tiers अक्सर प्रति मिनट tokens सीमित करते हैं। |
| Max Response Length (tokens) | 400 से 800 | लंबे जवाब output quota जल्दी खर्च करते हैं। कुछ reasoning models इस budget का कुछ हिस्सा छिपी हुई सोच के लिए भी इस्तेमाल करते हैं। |
| Streaming | चालू | टेक्स्ट आते ही दिखता है। FreeLLMAPI जिस भी provider तक पहुँच सकता है, वहाँ streaming करता है। |
SillyTavern में Custom source के लिए Prompt Post-Processing विकल्प भी है। कुछ providers दो system messages एक के बाद एक स्वीकार नहीं करते। अगर message roles से जुड़ी errors आएँ, तो Semi-strict या Strict विकल्प चुनें। ये विकल्प एक ही role वाले messages को जोड़ते हैं। "no tools" वाले विकल्प tool calls भी हटा देते हैं। "with tools" वाले विकल्प उन्हें रखते हैं।
लंबे roleplay में rate limits
हर मुफ़्त tier की अपनी limits होती हैं। उदाहरण के लिए, एक मुफ़्त Gemini Flash key दिन में कुछ ही requests देती है, और एक Groq key ज़्यादा requests देती है, पर token limits कम होती हैं। Roleplay की एक शाम में सैकड़ों requests जा सकती हैं। एक मुफ़्त key इतनी देर नहीं चलती।
- और providers जोड़ें। हर key रोज़ की requests बढ़ाती है। FreeLLMAPI हर key का quota गिनता है और कोई एक खत्म होने पर अगली key या provider पर चला जाता है।
- Context घटाएँ। SillyTavern के Summarize extension से पुराने messages का सार बनाएँ। छोटा prompt प्रति मिनट कम tokens लेता है।
- Swipes को लगातार न दोहराएँ। हर swipe या regenerate एक नई request है।
- Reset पर नज़र रखें। जब सभी keys अपनी limit पर हों, तो gateway
Retry-Afterheader के साथ error 429 लौटाता है। कई रोज़ की limits आधी रात UTC पर reset होती हैं।
Table में आज की catalog के हिसाब से हर provider की मुफ़्त limits दिखती हैं।
| प्रदाता | मुफ़्त मॉडल | अधिकतम अनुरोध/मिनट | अधिकतम अनुरोध/दिन | अधिकतम टोकन/मिनट | टोकन/माह (एक मॉडल) | सबसे शक्तिशाली मुफ़्त मॉडल |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
समस्या निवारण
| समस्या | कारण | समाधान |
|---|---|---|
| Connect विफल होता है या status लाल रहता है | गलत URL या FreeLLMAPI नहीं चल रहा | ब्राउज़र में http://localhost:3001 खोलें। सुनिश्चित करें कि URL /v1 पर खत्म होता है। |
| Error 401 | Key गलत है | Custom API Key में unified key फिर से चिपकाएँ |
| चुना गया model हमेशा विफल होता है | उस model के provider की कोई key नहीं | provider की key जोड़ें, या auto लिखें |
| लंबे session के बाद Error 429 | सभी keys अपनी limit पर हैं | और providers की keys जोड़ें, या reset का इंतज़ार करें |
| Messages के क्रम या roles से जुड़ी errors | Provider के roles के सख्त नियम हैं | Prompt Post-Processing को Semi-strict या Strict पर सेट करें |
| जवाब बीच में रुक जाते हैं | Max Response Length एक reasoning model के लिए बहुत छोटा है | मान बढ़ाएँ, या बिना reasoning वाला model चुनें |
| Chat के दौरान character की आवाज़ बदल जाती है | एक limit ने model बदलने पर मजबूर किया | एक ऐसा model pin करें जो कई providers पर मुफ़्त हो |
अक्सर पूछे जाने वाले प्रश्न
क्या SillyTavern के लिए कोई मुफ़्त API है?
हाँ। SillyTavern Custom (OpenAI-compatible) source के जरिए कोई भी OpenAI-compatible API स्वीकार करता है। FreeLLMAPI कई मुफ़्त provider tiers के लिए एक endpoint देता है। हर tier की अपनी limits होती हैं।
SillyTavern Custom (OpenAI-compatible) के लिए base URL क्या है?
FreeLLMAPI server install के लिए http://localhost:3001/v1 इस्तेमाल करें, या desktop app के लिए http://127.0.0.1:31415/v1। /chat/completions न जोड़ें।
SillyTavern roleplay के लिए कौन सा मुफ़्त model सबसे अच्छा है?
128K tokens या उससे ज़्यादा context window वाला model इस्तेमाल करें। गुणवत्ता के लिए auto:smart या गति के लिए auto:fast से शुरू करें। इस पेज की table आज के सबसे मज़बूत मुफ़्त models दिखाती है।
SillyTavern में मुझे error 429 क्यों मिलता है?
एक मुफ़्त tier अपनी limit तक पहुँच गया। FreeLLMAPI अगली key या provider पर चला जाता है। अगर हर key अपनी limit पर है, तो आपको 429 मिलता है। और provider keys जोड़ें या context size घटाएँ।
क्या SillyTavern की streaming मुफ़्त APIs के साथ काम करती है?
हाँ। AI Response Configuration panel में Streaming चालू करें। FreeLLMAPI हर provider से आने वाला जवाब OpenAI format में stream करता है।
संबंधित गाइड
- Open WebUI के लिए मुफ़्त LLM API
- 10 लाख टोकन कॉन्टेक्स्ट वाली मुफ़्त LLM API
- मुफ़्त LLM API रेट सीमाएँ
- मुफ़्त OpenAI-compatible API base URLs
- बिना credit card के मुफ़्त LLM API
स्रोत
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (जाँचा गया 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (जाँचा गया 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (जाँचा गया 20 November 2026)
- FreeLLMAPI README: features and limitations (जाँचा गया 20 November 2026)