SillyTavern-നുള്ള സൗജന്യ API
SillyTavern നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിപ്പിക്കുന്ന ഒരു ചാറ്റ്, റോൾപ്ലേ ഇന്റർഫേസ് ആണ്. ഇതിന് ഒരു മോഡൽ API ആവശ്യമാണ്. ഈ ഗൈഡ് Chat Completion source ആയ Custom (OpenAI-compatible) വഴി SillyTavern-നെ FreeLLMAPI-യുമായി ബന്ധിപ്പിക്കുന്നു. FreeLLMAPI ഒരു key-ക്ക് പിന്നിൽ 45 സൗജന്യ provider tier-കൾ ഒരുമിച്ച് ചേർക്കുന്നു. ഒരു പരിധി കാരണം ഒരു request നിൽക്കുമ്പോൾ അത് അടുത്ത provider-ലേക്ക് മാറുന്നു.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
തുടങ്ങുന്നതിന് മുൻപ്
ഒരേ കമ്പ്യൂട്ടറിൽ രണ്ട് പ്രോഗ്രാമുകൾ ആവശ്യമാണ്: SillyTavern, FreeLLMAPI. FreeLLMAPI Docker-ലോ ഡെസ്ക്ടോപ്പ് ആപ്പായോ പ്രവർത്തിക്കുന്നു. ഒരു കമാൻഡ് ഉപയോഗിച്ച് ഇത് ഇൻസ്റ്റാൾ ചെയ്യുക:
FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്യുക (macOS അല്ലെങ്കിൽ Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001എന്ന ഡാഷ്ബോർഡ് തുറക്കുക.- Keys പേജിൽ രണ്ടോ അതിലധികമോ provider-കളിൽ നിന്നുള്ള സൗജന്യ key-കൾ ചേർക്കുക. Google AI Studio, Groq, Mistral എന്നിവ ഓരോന്നും സൗജന്യ key നൽകുന്നു.
- Keys പേജിൽ നിന്ന് unified key പകർത്തുക. SillyTavern ഈ key മാത്രമേ ഉപയോഗിക്കുന്നുള്ളൂ.
ഡെസ്ക്ടോപ്പ് ആപ്പ് http://127.0.0.1:31415 എന്ന വിലാസത്തിൽ കേൾക്കുന്നു. ഡെസ്ക്ടോപ്പ് ആപ്പ് ഉപയോഗിക്കുന്നെങ്കിൽ, ഈ പേജിലെ http://localhost:3001 എന്നതിന് പകരം ആ വിലാസം ഉപയോഗിക്കുക.
ഘട്ടം 1: SillyTavern ബന്ധിപ്പിക്കുക
SillyTavern തുറന്ന് മുകളിലെ ബാറിലെ API Connections ഐക്കൺ (പ്ലഗ്) ക്ലിക്ക് ചെയ്യുക. തുടർന്ന് ഈ ഫീൽഡുകൾ സജ്ജമാക്കുക:
| ഫീൽഡ് | മൂല്യം |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | നിങ്ങളുടെ unified key, <unified-key> |
| Model ID നൽകുക | auto, അല്ലെങ്കിൽ താഴെയുള്ള പട്ടികയിലെ ഒരു model ID |
Connect ക്ലിക്ക് ചെയ്യുക. SillyTavern /v1/models വായിച്ച് Available Models പട്ടിക നിറയ്ക്കുന്നു. URL-ൽ /chat/completions ചേർക്കരുത്. ആ path SillyTavern തന്നെ ചേർക്കുന്നു.
auto എന്ന് ടൈപ്പ് ചെയ്യുക.ചെറിയ prompt അയയ്ക്കാൻ Test Message ക്ലിക്ക് ചെയ്യുക. ഉത്തരം ലഭിച്ചാൽ കണക്ഷൻ പ്രവർത്തിക്കുന്നു.
ഘട്ടം 2: നീണ്ട ചാറ്റുകൾക്ക് മോഡലുകൾ തിരഞ്ഞെടുക്കുക
ഒരു റോൾപ്ലേ ചാറ്റ് ഓരോ സന്ദേശത്തോടൊപ്പവും character card, world information, ചാറ്റ് ചരിത്രം എന്നിവ അയയ്ക്കുന്നു. നീണ്ട ചാറ്റ് ഓരോ തവണയും പതിനായിരക്കണക്കിന് ടോക്കണുകൾ അയച്ചേക്കാം. വലിയ context window ഉള്ള മോഡലുകൾ തിരഞ്ഞെടുക്കുക.
Enter a Model ID-ൽ ഈ model ID-കൾ ഉപയോഗിക്കാം:
auto: ഡാഷ്ബോർഡിലെ fallback chain പിന്തുടരുന്നു.auto:smart: പ്രവർത്തനക്ഷമമായ മോഡലുകളെ ബുദ്ധിശക്തി അനുസരിച്ച് റാങ്ക് ചെയ്യുന്നു. കഥയുടെ ഗുണനിലവാരത്തിന് ഇത് ഉപയോഗിക്കുക.auto:fast: പ്രവർത്തനക്ഷമമായ മോഡലുകളെ അളന്ന വേഗത അനുസരിച്ച് റാങ്ക് ചെയ്യുന്നു. വേഗത്തിലുള്ള മറുപടികൾക്ക് ഇത് ഉപയോഗിക്കുക.- ഒരു നിശ്ചിത model ID: എല്ലായ്പ്പോഴും ഒരേ എഴുത്ത് ശൈലി നൽകുന്നു, എന്നാൽ ആ മോഡലിന്റെ സൗജന്യ പരിധി തീരുമ്പോൾ നിൽക്കുന്നു.
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | അതെ | ഇല്ല |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 കൂടി | 1M | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | അതെ |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | അതെ | അതെ |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | അതെ | ഇല്ല |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
| Deepseek V4.1 Flash | APINex | 1M | 5 അഭ്യർഥന/മിനിറ്റ് 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | ഇല്ല | ഇല്ല |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 20 അഭ്യർഥന/ദിവസം 250,000 ടോക്കൺ/മിനിറ്റ് ~3M | അതെ | അതെ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | അതെ | അതെ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം 50 req/day account-wide (1,000 after a $10 purchase) | അതെ | അതെ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 അഭ്യർഥന/മിനിറ്റ് 50 അഭ്യർഥന/ദിവസം Shared rate limit | അതെ | ഇല്ല |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ഇല്ല | ഇല്ല |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +3 കൂടി | 262K | 30 അഭ്യർഥന/മിനിറ്റ് 250 അഭ്യർഥന/ദിവസം 70,000 ടോക്കൺ/മിനിറ്റ് ~6M | അതെ | അതെ |
പൊരുത്തപ്പെടുന്ന 184 സൗജന്യ മോഡലുകളിൽ 12 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
FreeLLMAPI ഒരു സംഭാഷണം 30 മിനിറ്റ് നേരം ഒരേ മോഡലിൽ നിലനിർത്തുന്നു. ഇത് സന്ദേശങ്ങളിലുടനീളം കഥാപാത്രത്തിന്റെ ശബ്ദം ഒരുപോലെ നിലനിർത്തുന്നു. ഒരു പരിധി മോഡൽ മാറ്റാൻ നിർബന്ധിക്കുകയാണെങ്കിൽ, അടുത്ത മോഡൽ അതേ ചാറ്റ് ചരിത്രത്തിൽ നിന്ന് തുടരുന്നു.
ഘട്ടം 3: Generation ക്രമീകരണങ്ങൾ സജ്ജമാക്കുക
AI Response Configuration പാനൽ (സ്ലൈഡർ ഐക്കൺ) തുറക്കുക. സൗജന്യ tier-കളിൽ ഏറ്റവും വലിയ സ്വാധീനമുള്ള മൂന്ന് ക്രമീകരണങ്ങൾ ഇവയാണ്:
| ക്രമീകരണം | നിർദ്ദേശിച്ച മൂല്യം | കാരണം |
|---|---|---|
| Context Size (ടോക്കണുകൾ) | 16,000 മുതൽ 32,000 വരെ | ചെറിയ context ഓരോ സന്ദേശത്തിലും കുറച്ച് ടോക്കണുകൾ അയയ്ക്കുന്നു. സൗജന്യ tier-കൾ പലപ്പോഴും മിനിറ്റിലെ ടോക്കൺ എണ്ണം പരിമിതപ്പെടുത്തുന്നു. |
| Max Response Length (ടോക്കണുകൾ) | 400 മുതൽ 800 വരെ | നീണ്ട മറുപടികൾ output ക്വോട്ട വേഗത്തിൽ ഉപയോഗിക്കുന്നു. ചില reasoning മോഡലുകൾ ഈ ബജറ്റിന്റെ ഒരു ഭാഗം മറഞ്ഞിരിക്കുന്ന ചിന്തയ്ക്കും ഉപയോഗിക്കുന്നു. |
| Streaming | ഓൺ | വാചകം വരുന്നതനുസരിച്ച് നിങ്ങൾ കാണുന്നു. FreeLLMAPI എത്തിച്ചേരാൻ കഴിയുന്ന എല്ലാ provider-കളിലും streaming നൽകുന്നു. |
Custom source-ന് SillyTavern-ൽ Prompt Post-Processing ഓപ്ഷനും ഉണ്ട്. ചില provider-കൾ തുടർച്ചയായ രണ്ട് system സന്ദേശങ്ങൾ നിരസിക്കുന്നു. message role സംബന്ധിച്ച പിശകുകൾ ലഭിച്ചാൽ Semi-strict അല്ലെങ്കിൽ Strict ഓപ്ഷൻ തിരഞ്ഞെടുക്കുക. ഈ ഓപ്ഷനുകൾ ഒരേ role ഉള്ള സന്ദേശങ്ങളെ ഒന്നിപ്പിക്കുന്നു. "no tools" എന്ന് അടയാളപ്പെടുത്തിയ ഓപ്ഷനുകൾ tool calls-ഉം നീക്കം ചെയ്യുന്നു. "with tools" എന്ന് അടയാളപ്പെടുത്തിയവ അവ നിലനിർത്തുന്നു.
നീണ്ട റോൾപ്ലേയിലെ rate limit-കൾ
ഓരോ സൗജന്യ tier-നും സ്വന്തം പരിധികളുണ്ട്. ഉദാഹരണത്തിന്, സൗജന്യ Gemini Flash key ഒരു ദിവസം കുറച്ച് request-കൾ മാത്രം അനുവദിക്കുന്നു, Groq key കൂടുതൽ request-കൾ അനുവദിക്കുന്നു, പക്ഷേ കുറഞ്ഞ ടോക്കൺ പരിധിയോടെ. ഒരു വൈകുന്നേര റോൾപ്ലേ നൂറുകണക്കിന് request-കൾ അയച്ചേക്കാം. ഒരു സൗജന്യ key അത്രയും നേരം നിൽക്കില്ല.
- കൂടുതൽ provider-കൾ ചേർക്കുക. ഓരോ key-യും ഒരു ദിവസത്തെ request-കൾ കൂട്ടുന്നു. FreeLLMAPI ഓരോ key-യുടെയും ക്വോട്ട കണക്കാക്കുകയും ഒന്ന് തീരുമ്പോൾ അടുത്ത key-യിലേക്കോ provider-ലേക്കോ മാറുകയും ചെയ്യുന്നു.
- Context കുറയ്ക്കുക. SillyTavern Summarize extension ഉപയോഗിച്ച് പഴയ സന്ദേശങ്ങൾ സംഗ്രഹിക്കുക. ചെറിയ prompt മിനിറ്റിൽ കുറച്ച് ടോക്കണുകൾ ഉപയോഗിക്കുന്നു.
- ആവർത്തിച്ചുള്ള swipe ഒഴിവാക്കുക. ഓരോ swipe-ഉം regenerate-ഉം ഒരു പുതിയ request ആണ്.
- Reset ശ്രദ്ധിക്കുക. എല്ലാ key-കളും അവയുടെ പരിധിയിൽ എത്തുമ്പോൾ gateway
Retry-Afterheader-ഓടെ error 429 നൽകുന്നു. പല ദിവസ പരിധികളും UTC അർധരാത്രിയിൽ പുനഃസജ്ജമാകുന്നു.
ഇന്നത്തെ catalog-ലെ ഓരോ provider-ന്റെയും സൗജന്യ പരിധികൾ പട്ടിക കാണിക്കുന്നു.
| ദാതാവ് | സൗജന്യ മോഡലുകൾ | പരമാവധി അഭ്യർഥന/മിനിറ്റ് | പരമാവധി അഭ്യർഥന/ദിവസം | പരമാവധി ടോക്കൺ/മിനിറ്റ് | ടോക്കൺ/മാസം (ഒരു മോഡൽ) | ഏറ്റവും ശക്തമായ സൗജന്യ മോഡൽ |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
പ്രശ്നപരിഹാരം
| പ്രശ്നം | കാരണം | പരിഹാരം |
|---|---|---|
| കണക്ട് പരാജയപ്പെടുന്നു അല്ലെങ്കിൽ സ്റ്റാറ്റസ് ചുവപ്പായി നിൽക്കുന്നു | തെറ്റായ URL അല്ലെങ്കിൽ FreeLLMAPI പ്രവർത്തിക്കുന്നില്ല | ബ്രൗസറിൽ http://localhost:3001 തുറക്കുക. URL /v1-ൽ അവസാനിക്കുന്നു എന്ന് ഉറപ്പാക്കുക. |
| Error 401 | key തെറ്റാണ് | Custom API Key-ൽ unified key വീണ്ടും പേസ്റ്റ് ചെയ്യുക |
| തിരഞ്ഞെടുത്ത മോഡൽ എപ്പോഴും പരാജയപ്പെടുന്നു | ആ മോഡലിന്റെ provider-ന് key ഇല്ല | Provider key ചേർക്കുക, അല്ലെങ്കിൽ auto എന്ന് ടൈപ്പ് ചെയ്യുക |
| നീണ്ട സെഷന് ശേഷം error 429 | എല്ലാ key-കളും അവയുടെ പരിധിയിലാണ് | കൂടുതൽ provider-കളിൽ നിന്ന് key-കൾ ചേർക്കുക, അല്ലെങ്കിൽ reset വരെ കാത്തിരിക്കുക |
| സന്ദേശ ക്രമം അല്ലെങ്കിൽ role സംബന്ധിച്ച പിശകുകൾ | Provider-ന് കർശനമായ role നിയമങ്ങളുണ്ട് | Prompt Post-Processing Semi-strict അല്ലെങ്കിൽ Strict ആക്കുക |
| മറുപടികൾ നടുവിൽ നിൽക്കുന്നു | Reasoning മോഡലിന് Max Response Length വളരെ ചെറുതാണ് | മൂല്യം കൂട്ടുക, അല്ലെങ്കിൽ reasoning ഇല്ലാത്ത ഒരു മോഡൽ തിരഞ്ഞെടുക്കുക |
| ചാറ്റിനിടയിൽ കഥാപാത്രത്തിന്റെ ശബ്ദം മാറുന്നു | ഒരു പരിധി മോഡൽ മാറ്റാൻ നിർബന്ധിച്ചു | പല provider-കളിൽ സൗജന്യമായ ഒരു മോഡൽ ഉറപ്പിച്ചു നിർത്തുക |
പതിവ് ചോദ്യങ്ങൾ
SillyTavern-നായി സൗജന്യ API ഉണ്ടോ?
ഉണ്ട്. Custom (OpenAI-compatible) source വഴി SillyTavern ഏത് OpenAI-compatible API-യും സ്വീകരിക്കുന്നു. FreeLLMAPI നിരവധി സൗജന്യ provider tier-കൾക്ക് ഒരൊറ്റ endpoint നൽകുന്നു. ഓരോ tier-നും സ്വന്തം പരിധികളുണ്ട്.
SillyTavern Custom (OpenAI-compatible)-ന്റെ base URL എന്താണ്?
FreeLLMAPI സെർവർ ഇൻസ്റ്റാളിന് http://localhost:3001/v1 ഉപയോഗിക്കുക. ഡെസ്ക്ടോപ്പ് ആപ്പിന് http://127.0.0.1:31415/v1 ഉപയോഗിക്കുക. /chat/completions ചേർക്കരുത്.
SillyTavern റോൾപ്ലേയ്ക്ക് ഏറ്റവും നല്ല സൗജന്യ മോഡൽ ഏതാണ്?
128K ടോക്കണോ അതിലധികമോ context window ഉള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക. ഗുണനിലവാരത്തിന് auto:smart-ഉം വേഗതയ്ക്ക് auto:fast-ഉം ഉപയോഗിച്ച് തുടങ്ങുക. ഈ പേജിലെ പട്ടിക ഇന്നത്തെ ഏറ്റവും ശക്തമായ സൗജന്യ മോഡലുകൾ കാണിക്കുന്നു.
SillyTavern-ൽ എനിക്ക് എന്തുകൊണ്ട് error 429 ലഭിക്കുന്നു?
ഒരു സൗജന്യ tier അതിന്റെ പരിധിയിൽ എത്തി. FreeLLMAPI അടുത്ത key-യിലേക്കോ provider-ലേക്കോ മാറുന്നു. എല്ലാ key-കളും പരിധിയിലാണെങ്കിൽ നിങ്ങൾക്ക് 429 ലഭിക്കുന്നു. കൂടുതൽ provider key-കൾ ചേർക്കുക, അല്ലെങ്കിൽ context size കുറയ്ക്കുക.
സൗജന്യ API-കളിൽ SillyTavern streaming പ്രവർത്തിക്കുമോ?
ഉവ്വ്. AI Response Configuration പാനലിൽ Streaming ഓൺ ചെയ്യുക. FreeLLMAPI ഓരോ provider-ൽ നിന്നുമുള്ള മറുപടി OpenAI ഫോർമാറ്റിൽ streaming ആയി നൽകുന്നു.
അനുബന്ധ ഗൈഡുകൾ
- Open WebUI-നായി സൗജന്യ LLM API
- 1 million token context ഉള്ള സൗജന്യ LLM API
- സൗജന്യ LLM API റേറ്റ് പരിധികൾ
- സൗജന്യ OpenAI-compatible API base URL-കൾ
- കാർഡ് ഇല്ലാതെ സൗജന്യ LLM API
ഉറവിടങ്ങൾ
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (20 November 2026 ൽ പരിശോധിച്ചത്)
- SillyTavern source: API connection panel labels (public/index.html) (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI README: features and limitations (20 November 2026 ൽ പരിശോധിച്ചത്)