SillyTavern માટે મફત API
SillyTavern એ ચેટ અને રોલપ્લે ઇન્ટરફેસ છે, જે તમે તમારા કમ્પ્યુટર પર ચલાવો છો. તેને મોડેલ API ની જરૂર પડે છે. આ માર્ગદર્શિકા SillyTavern ને Chat Completion સ્રોત Custom (OpenAI-compatible) દ્વારા FreeLLMAPI સાથે જોડે છે. FreeLLMAPI એક કી પાછળ 45 મફત પ્રદાતા ટિયર એકત્રિત કરે છે. જ્યારે મર્યાદા વિનંતીને રોકે છે, ત્યારે તે આગલા પ્રદાતા પર જાય છે.
કોડ, મૉડેલ નામ અને લાઇવ કૅટલૉગ લેબલ અંગ્રેજીમાં બતાવવામાં આવે છે.
શરૂ કરતા પહેલાં
તમારે એક જ કમ્પ્યુટર પર બે પ્રોગ્રામની જરૂર છે: SillyTavern અને FreeLLMAPI. FreeLLMAPI Docker માં અથવા ડેસ્કટોપ એપ તરીકે ચાલે છે. એક આદેશ વડે તેને ઇન્સ્ટોલ કરો:
FreeLLMAPI ઇન્સ્ટોલ કરો (macOS અથવા Linux)
curl -fsSL https://freellmapi.co/install.sh | bash- ડેશબોર્ડ
http://localhost:3001પર ખોલો. - Keys પેજ પર બે કે વધુ પ્રદાતાઓની મફત કી ઉમેરો. Google AI Studio, Groq અને Mistral દરેક મફત કી આપે છે.
- Keys પેજ પરથી unified key કૉપી કરો. SillyTavern ફક્ત આ કી વાપરે છે.
ડેસ્કટોપ એપ http://127.0.0.1:31415 પર સાંભળે છે. જો તમે ડેસ્કટોપ એપ વાપરો, તો આ પેજ પર http://localhost:3001 ને બદલે તે સરનામું વાપરો.
પગલું 1: SillyTavern ને જોડો
SillyTavern ખોલો અને ઉપરની પટ્ટીમાં API Connections આઇકન (પ્લગ) પર ક્લિક કરો. પછી આ ફીલ્ડ સેટ કરો:
| ફીલ્ડ | મૂલ્ય |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | તમારી unified key, <unified-key> |
| Model ID દાખલ કરો | auto, અથવા નીચેના ટેબલમાંથી model ID |
Connect પર ક્લિક કરો. SillyTavern /v1/models વાંચે છે અને Available Models યાદી ભરે છે. URL માં /chat/completions ઉમેરશો નહીં. SillyTavern પાથ જાતે ઉમેરે છે.
auto લખો.ટૂંકો prompt મોકલવા માટે Test Message પર ક્લિક કરો. જો જવાબ મળે, તો જોડાણ કામ કરે છે.
પગલું 2: લાંબી ચેટ માટે મોડેલ પસંદ કરો
રોલપ્લે ચેટ દરેક સંદેશ સાથે character card, world information અને chat history મોકલે છે. લાંબી ચેટ દર વખતે હજારો tokens મોકલી શકે છે. મોટી context window વાળા મોડેલ પસંદ કરો.
તમે Enter a Model ID માં આ model ID વાપરી શકો છો:
auto: ડેશબોર્ડ પરની fallback chain અનુસરે છે.auto:smart: સક્ષમ મોડેલને બુદ્ધિ પ્રમાણે ક્રમ આપે છે. વાર્તાની ગુણવત્તા માટે વાપરો.auto:fast: સક્ષમ મોડેલને માપેલી ઝડપ પ્રમાણે ક્રમ આપે છે. ઝડપી જવાબ માટે વાપરો.- નિશ્ચિત model ID: દર વખતે એક જ લેખન શૈલી આપે છે, પણ તે મોડેલની મફત મર્યાદા વપરાઈ જાય ત્યારે અટકે છે.
| મૉડેલ | મફત ઉપલબ્ધ | સંદર્ભ | મફત મર્યાદા (શ્રેષ્ઠ ઑફર) | સાધનો | વિઝન |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 વિનંતી/મિનિટ 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | હા | ના |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 વધુ | 1M | 40 વિનંતી/મિનિટ 40 RPM | હા | હા |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 વિનંતી/મિનિટ 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | હા | હા |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | હા | ના |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | હા | હા |
| Deepseek V4.1 Flash | APINex | 1M | 5 વિનંતી/મિનિટ 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | ના | ના |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 વિનંતી/મિનિટ 20 વિનંતી/દિવસ 250,000 ટોકન/મિનિટ ~3M | હા | હા |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | હા | હા |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 વિનંતી/મિનિટ 50 વિનંતી/દિવસ 50 req/day account-wide (1,000 after a $10 purchase) | હા | હા |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 વિનંતી/મિનિટ 50 વિનંતી/દિવસ Shared rate limit | હા | ના |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ના | ના |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +3 વધુ | 262K | 30 વિનંતી/મિનિટ 250 વિનંતી/દિવસ 70,000 ટોકન/મિનિટ ~6M | હા | હા |
મેળ ખાતા 184 મફત મૉડેલમાંથી 12 બતાવ્યા. બધા મૉડેલ જુઓ.
FreeLLMAPI કૅટલૉગનો લાઇવ ડેટા (સંસ્કરણ 2026.11.19, તપાસ્યું 2026-11-19). મફત મર્યાદાઓ વારંવાર બદલાય છે. કૅટલૉગ દરરોજ તપાસવામાં આવે છે.
FreeLLMAPI એક વાતચીતને 30 મિનિટ સુધી એક જ મોડેલ પર રાખે છે. આથી સંદેશાઓમાં character નો અવાજ એકસરખો રહે છે. જો મર્યાદા મોડેલ બદલવા મજબૂર કરે, તો આગલું મોડેલ એ જ chat history માંથી આગળ વધે છે.
પગલું 3: જનરેશન સેટિંગ સેટ કરો
AI Response Configuration પેનલ ખોલો (સ્લાઇડર આઇકન). ત્રણ સેટિંગની મફત ટિયર પર સૌથી વધુ અસર હોય છે:
| સેટિંગ | ભલામણ કરેલ મૂલ્ય | કારણ |
|---|---|---|
| Context Size (tokens) | 16,000 થી 32,000 | નાનો context દરેક સંદેશ સાથે ઓછા tokens મોકલે છે. મફત ટિયર ઘણીવાર દર મિનિટે tokens મર્યાદિત કરે છે. |
| Max Response Length (tokens) | 400 થી 800 | લાંબા જવાબ output quota ઝડપથી વાપરે છે. કેટલાક reasoning મોડેલ આ બજેટનો ભાગ છુપા thinking માટે પણ વાપરે છે. |
| Streaming | ચાલુ | જેમ જેમ લખાણ આવે તેમ તમે જુઓ છો. FreeLLMAPI જે દરેક પ્રદાતા સુધી પહોંચી શકે છે ત્યાં streaming કરે છે. |
SillyTavern માં Custom સ્રોત માટે Prompt Post-Processing વિકલ્પ પણ છે. કેટલાક પ્રદાતા એકની પાછળ એક બે system સંદેશ સ્વીકારતા નથી. જો message roles વિશે ભૂલો આવે, તો Semi-strict અથવા Strict વિકલ્પ પસંદ કરો. આ વિકલ્પો એક જ role ના સંદેશ ભેગા કરે છે. "no tools" ચિહ્નિત વિકલ્પો tool calls પણ દૂર કરે છે. "with tools" ચિહ્નિત વિકલ્પો તેમને રાખે છે.
લાંબા રોલપ્લેમાં rate limits
દરેક મફત ટિયરની પોતાની મર્યાદા હોય છે. ઉદાહરણ તરીકે, મફત Gemini Flash કી દિવસ દીઠ થોડી વિનંતી આપે છે, અને Groq કી ઓછી tokens મર્યાદા સાથે વધુ વિનંતી આપે છે. રોલપ્લેની એક સાંજમાં સેંકડો વિનંતી મોકલાઈ શકે છે. એક મફત કી એટલી લાંબી ચાલતી નથી.
- વધુ પ્રદાતા ઉમેરો. દરેક કી દિવસ દીઠ વધુ વિનંતી ઉમેરે છે. FreeLLMAPI દરેક કીનો quota ગણે છે અને એક વપરાઈ જાય ત્યારે આગલી કી અથવા પ્રદાતા પર જાય છે.
- Context ઘટાડો. SillyTavern Summarize extension વડે જૂના સંદેશોનો સારાંશ બનાવો. નાનો prompt દર મિનિટે ઓછા tokens વાપરે છે.
- લૂપમાં swipes ટાળો. દરેક swipe અથવા regenerate નવી વિનંતી છે.
- Reset પર નજર રાખો. જ્યારે બધી કી તેમની મર્યાદા પર હોય, ત્યારે gateway
Retry-Afterheader સાથે error 429 આપે છે. ઘણી દૈનિક મર્યાદા UTC મધ્યરાત્રિએ reset થાય છે.
ટેબલ આજના catalog માં દરેક પ્રદાતાની મફત મર્યાદા બતાવે છે.
| પ્રદાતા | મફત મૉડેલ | મહત્તમ વિનંતી/મિનિટ | મહત્તમ વિનંતી/દિવસ | મહત્તમ ટોકન/મિનિટ | ટોકન/મહિનો (એક મૉડેલ) | સૌથી શક્તિશાળી મફત મૉડેલ |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
FreeLLMAPI કૅટલૉગનો લાઇવ ડેટા (સંસ્કરણ 2026.11.19, તપાસ્યું 2026-11-19). મફત મર્યાદાઓ વારંવાર બદલાય છે. કૅટલૉગ દરરોજ તપાસવામાં આવે છે.
સમસ્યાનિવારણ
| સમસ્યા | કારણ | ઉકેલ |
|---|---|---|
| Connect નિષ્ફળ જાય અથવા સ્થિતિ લાલ રહે | ખોટો URL અથવા FreeLLMAPI ચાલતું નથી | બ્રાઉઝરમાં http://localhost:3001 ખોલો. ખાતરી કરો કે URL /v1 પર પૂરો થાય છે. |
| Error 401 | કી ખોટી છે | Custom API Key માં unified key ફરી પેસ્ટ કરો |
| પસંદ કરેલું મોડેલ હંમેશા નિષ્ફળ જાય | એ મોડેલના પ્રદાતા માટે કોઈ કી નથી | પ્રદાતાની કી ઉમેરો, અથવા auto લખો |
| લાંબા સત્ર પછી Error 429 | બધી કી તેમની મર્યાદા પર છે | વધુ પ્રદાતાઓની કી ઉમેરો, અથવા reset ની રાહ જુઓ |
| સંદેશ ક્રમ અથવા roles વિશે ભૂલો | પ્રદાતાના roles ના નિયમ કડક છે | Prompt Post-Processing ને Semi-strict અથવા Strict પર સેટ કરો |
| જવાબ વચ્ચેથી અટકે છે | reasoning મોડેલ માટે Max Response Length ખૂબ નાની છે | મૂલ્ય વધારો, અથવા reasoning વગરનું મોડેલ પસંદ કરો |
| ચેટ દરમિયાન character નો અવાજ બદલાય છે | એક મર્યાદાએ મોડેલ બદલવાની ફરજ પાડી | એક એવું મોડેલ પિન કરો જે ઘણા પ્રદાતાઓ પર મફત છે |
વારંવાર પૂછાતા પ્રશ્નો
શું SillyTavern માટે મફત API છે?
હા. SillyTavern Custom (OpenAI-compatible) સ્રોત દ્વારા કોઈપણ OpenAI-compatible API સ્વીકારે છે. FreeLLMAPI ઘણા મફત પ્રદાતા ટિયર માટે એક endpoint આપે છે. દરેક ટિયરની પોતાની મર્યાદા હોય છે.
SillyTavern Custom (OpenAI-compatible) માટે base URL શું છે?
FreeLLMAPI server ઇન્સ્ટોલ માટે http://localhost:3001/v1 વાપરો, અથવા ડેસ્કટોપ એપ માટે http://127.0.0.1:31415/v1 વાપરો. /chat/completions ઉમેરશો નહીં.
SillyTavern રોલપ્લે માટે કયું મફત મોડેલ શ્રેષ્ઠ છે?
128K tokens કે તેથી વધુની context window વાળું મોડેલ વાપરો. ગુણવત્તા માટે auto:smart અથવા ઝડપ માટે auto:fast થી શરૂ કરો. આ પેજનું ટેબલ આજે સૌથી મજબૂત મફત મોડેલ બતાવે છે.
SillyTavern માં મને error 429 કેમ મળે છે?
એક મફત ટિયર તેની મર્યાદા સુધી પહોંચ્યું છે. FreeLLMAPI આગલી કી અથવા પ્રદાતા પર જાય છે. જો દરેક કી તેની મર્યાદા પર હોય, તો તમને 429 મળે છે. વધુ પ્રદાતા કી ઉમેરો અથવા context size ઘટાડો.
શું મફત APIs સાથે SillyTavern streaming કામ કરે છે?
હા. AI Response Configuration પેનલમાં Streaming ચાલુ કરો. FreeLLMAPI દરેક પ્રદાતા પાસેથી OpenAI ફોર્મેટમાં જવાબ streaming કરે છે.
સંબંધિત માર્ગદર્શિકાઓ
- Open WebUI માટે મફત LLM API
- 1 million token context સાથે મફત LLM API
- મફત LLM API rate limits
- મફત OpenAI સાથે સુસંગત API base URL
- કાર્ડ વગર મફત LLM API
સ્રોતો
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (તપાસ્યું 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (તપાસ્યું 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (તપાસ્યું 20 November 2026)
- FreeLLMAPI README: features and limitations (તપાસ્યું 20 November 2026)