ഹോം / ഗൈഡുകൾ / SillyTavern-നുള്ള സൗജന്യ API

SillyTavern-നുള്ള സൗജന്യ API

SillyTavern നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിപ്പിക്കുന്ന ഒരു ചാറ്റ്, റോൾപ്ലേ ഇന്റർഫേസ് ആണ്. ഇതിന് ഒരു മോഡൽ API ആവശ്യമാണ്. ഈ ഗൈഡ് Chat Completion source ആയ Custom (OpenAI-compatible) വഴി SillyTavern-നെ FreeLLMAPI-യുമായി ബന്ധിപ്പിക്കുന്നു. FreeLLMAPI ഒരു key-ക്ക് പിന്നിൽ 45 സൗജന്യ provider tier-കൾ ഒരുമിച്ച് ചേർക്കുന്നു. ഒരു പരിധി കാരണം ഒരു request നിൽക്കുമ്പോൾ അത് അടുത്ത provider-ലേക്ക് മാറുന്നു.

കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.

തുടങ്ങുന്നതിന് മുൻപ്

ഒരേ കമ്പ്യൂട്ടറിൽ രണ്ട് പ്രോഗ്രാമുകൾ ആവശ്യമാണ്: SillyTavern, FreeLLMAPI. FreeLLMAPI Docker-ലോ ഡെസ്ക്ടോപ്പ് ആപ്പായോ പ്രവർത്തിക്കുന്നു. ഒരു കമാൻഡ് ഉപയോഗിച്ച് ഇത് ഇൻസ്റ്റാൾ ചെയ്യുക:

FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്യുക (macOS അല്ലെങ്കിൽ Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. http://localhost:3001 എന്ന ഡാഷ്ബോർഡ് തുറക്കുക.
  2. Keys പേജിൽ രണ്ടോ അതിലധികമോ provider-കളിൽ നിന്നുള്ള സൗജന്യ key-കൾ ചേർക്കുക. Google AI Studio, Groq, Mistral എന്നിവ ഓരോന്നും സൗജന്യ key നൽകുന്നു.
  3. Keys പേജിൽ നിന്ന് unified key പകർത്തുക. SillyTavern ഈ key മാത്രമേ ഉപയോഗിക്കുന്നുള്ളൂ.

ഡെസ്ക്ടോപ്പ് ആപ്പ് http://127.0.0.1:31415 എന്ന വിലാസത്തിൽ കേൾക്കുന്നു. ഡെസ്ക്ടോപ്പ് ആപ്പ് ഉപയോഗിക്കുന്നെങ്കിൽ, ഈ പേജിലെ http://localhost:3001 എന്നതിന് പകരം ആ വിലാസം ഉപയോഗിക്കുക.

ഘട്ടം 1: SillyTavern ബന്ധിപ്പിക്കുക

SillyTavern തുറന്ന് മുകളിലെ ബാറിലെ API Connections ഐക്കൺ (പ്ലഗ്) ക്ലിക്ക് ചെയ്യുക. തുടർന്ന് ഈ ഫീൽഡുകൾ സജ്ജമാക്കുക:

ഫീൽഡ്മൂല്യം
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API Keyനിങ്ങളുടെ unified key, <unified-key>
Model ID നൽകുകauto, അല്ലെങ്കിൽ താഴെയുള്ള പട്ടികയിലെ ഒരു model ID

Connect ക്ലിക്ക് ചെയ്യുക. SillyTavern /v1/models വായിച്ച് Available Models പട്ടിക നിറയ്ക്കുന്നു. URL-ൽ /chat/completions ചേർക്കരുത്. ആ path SillyTavern തന്നെ ചേർക്കുന്നു.

ശ്രദ്ധിക്കുക: Available Models പട്ടിക FreeLLMAPI-യുടെ മുഴുവൻ catalog കാണിക്കുന്നു. നിങ്ങൾ അവയുടെ provider-ന് key ചേർക്കാത്തതിനാൽ ഇപ്പോൾ വിളിക്കാൻ കഴിയാത്ത മോഡലുകളും ഇതിൽ ഉണ്ടാകും. ഇപ്പോൾ പ്രവർത്തിക്കുന്ന മോഡൽ router തിരഞ്ഞെടുക്കാൻ Enter a Model ID-ൽ auto എന്ന് ടൈപ്പ് ചെയ്യുക.

ചെറിയ prompt അയയ്ക്കാൻ Test Message ക്ലിക്ക് ചെയ്യുക. ഉത്തരം ലഭിച്ചാൽ കണക്ഷൻ പ്രവർത്തിക്കുന്നു.

ഘട്ടം 2: നീണ്ട ചാറ്റുകൾക്ക് മോഡലുകൾ തിരഞ്ഞെടുക്കുക

ഒരു റോൾപ്ലേ ചാറ്റ് ഓരോ സന്ദേശത്തോടൊപ്പവും character card, world information, ചാറ്റ് ചരിത്രം എന്നിവ അയയ്ക്കുന്നു. നീണ്ട ചാറ്റ് ഓരോ തവണയും പതിനായിരക്കണക്കിന് ടോക്കണുകൾ അയച്ചേക്കാം. വലിയ context window ഉള്ള മോഡലുകൾ തിരഞ്ഞെടുക്കുക.

Enter a Model ID-ൽ ഈ model ID-കൾ ഉപയോഗിക്കാം:

  • auto: ഡാഷ്ബോർഡിലെ fallback chain പിന്തുടരുന്നു.
  • auto:smart: പ്രവർത്തനക്ഷമമായ മോഡലുകളെ ബുദ്ധിശക്തി അനുസരിച്ച് റാങ്ക് ചെയ്യുന്നു. കഥയുടെ ഗുണനിലവാരത്തിന് ഇത് ഉപയോഗിക്കുക.
  • auto:fast: പ്രവർത്തനക്ഷമമായ മോഡലുകളെ അളന്ന വേഗത അനുസരിച്ച് റാങ്ക് ചെയ്യുന്നു. വേഗത്തിലുള്ള മറുപടികൾക്ക് ഇത് ഉപയോഗിക്കുക.
  • ഒരു നിശ്ചിത model ID: എല്ലായ്പ്പോഴും ഒരേ എഴുത്ത് ശൈലി നൽകുന്നു, എന്നാൽ ആ മോഡലിന്റെ സൗജന്യ പരിധി തീരുമ്പോൾ നിൽക്കുന്നു.
നീണ്ട ചാറ്റുകൾക്കായി 128K+ context ഉള്ള സൗജന്യ മോഡലുകൾ
മോഡൽസൗജന്യമായി ലഭ്യംകോൺടെക്സ്റ്റ്സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ)ടൂളുകൾദൃശ്യ ശേഷി
GLM 5.3APINex, UnoRouter1M5 അഭ്യർഥന/മിനിറ്റ്
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
അതെഇല്ല
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 കൂടി1M40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഅതെ
Gemini 3.8 FlashAPINex, Google AI Studio1M5 അഭ്യർഥന/മിനിറ്റ്
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
അതെഅതെ
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceഅതെഇല്ല
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditഅതെഅതെ
Deepseek V4.1 FlashAPINex1M5 അഭ്യർഥന/മിനിറ്റ്
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ഇല്ലഇല്ല
Gemini 3.7 FlashGoogle AI Studio1M10 അഭ്യർഥന/മിനിറ്റ്
20 അഭ്യർഥന/ദിവസം
250,000 ടോക്കൺ/മിനിറ്റ്
~3M
അതെഅതെ
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditഅതെഅതെ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 അഭ്യർഥന/മിനിറ്റ്
50 അഭ്യർഥന/ദിവസം
50 req/day account-wide (1,000 after a $10 purchase)
അതെഅതെ
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 അഭ്യർഥന/മിനിറ്റ്
50 അഭ്യർഥന/ദിവസം
Shared rate limit
അതെഇല്ല
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetഇല്ലഇല്ല
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +3 കൂടി262K30 അഭ്യർഥന/മിനിറ്റ്
250 അഭ്യർഥന/ദിവസം
70,000 ടോക്കൺ/മിനിറ്റ്
~6M
അതെഅതെ

പൊരുത്തപ്പെടുന്ന 184 സൗജന്യ മോഡലുകളിൽ 12 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

FreeLLMAPI ഒരു സംഭാഷണം 30 മിനിറ്റ് നേരം ഒരേ മോഡലിൽ നിലനിർത്തുന്നു. ഇത് സന്ദേശങ്ങളിലുടനീളം കഥാപാത്രത്തിന്റെ ശബ്ദം ഒരുപോലെ നിലനിർത്തുന്നു. ഒരു പരിധി മോഡൽ മാറ്റാൻ നിർബന്ധിക്കുകയാണെങ്കിൽ, അടുത്ത മോഡൽ അതേ ചാറ്റ് ചരിത്രത്തിൽ നിന്ന് തുടരുന്നു.

ഘട്ടം 3: Generation ക്രമീകരണങ്ങൾ സജ്ജമാക്കുക

AI Response Configuration പാനൽ (സ്ലൈഡർ ഐക്കൺ) തുറക്കുക. സൗജന്യ tier-കളിൽ ഏറ്റവും വലിയ സ്വാധീനമുള്ള മൂന്ന് ക്രമീകരണങ്ങൾ ഇവയാണ്:

ക്രമീകരണംനിർദ്ദേശിച്ച മൂല്യംകാരണം
Context Size (ടോക്കണുകൾ)16,000 മുതൽ 32,000 വരെചെറിയ context ഓരോ സന്ദേശത്തിലും കുറച്ച് ടോക്കണുകൾ അയയ്ക്കുന്നു. സൗജന്യ tier-കൾ പലപ്പോഴും മിനിറ്റിലെ ടോക്കൺ എണ്ണം പരിമിതപ്പെടുത്തുന്നു.
Max Response Length (ടോക്കണുകൾ)400 മുതൽ 800 വരെനീണ്ട മറുപടികൾ output ക്വോട്ട വേഗത്തിൽ ഉപയോഗിക്കുന്നു. ചില reasoning മോഡലുകൾ ഈ ബജറ്റിന്റെ ഒരു ഭാഗം മറഞ്ഞിരിക്കുന്ന ചിന്തയ്ക്കും ഉപയോഗിക്കുന്നു.
Streamingഓൺവാചകം വരുന്നതനുസരിച്ച് നിങ്ങൾ കാണുന്നു. FreeLLMAPI എത്തിച്ചേരാൻ കഴിയുന്ന എല്ലാ provider-കളിലും streaming നൽകുന്നു.

Custom source-ന് SillyTavern-ൽ Prompt Post-Processing ഓപ്ഷനും ഉണ്ട്. ചില provider-കൾ തുടർച്ചയായ രണ്ട് system സന്ദേശങ്ങൾ നിരസിക്കുന്നു. message role സംബന്ധിച്ച പിശകുകൾ ലഭിച്ചാൽ Semi-strict അല്ലെങ്കിൽ Strict ഓപ്ഷൻ തിരഞ്ഞെടുക്കുക. ഈ ഓപ്ഷനുകൾ ഒരേ role ഉള്ള സന്ദേശങ്ങളെ ഒന്നിപ്പിക്കുന്നു. "no tools" എന്ന് അടയാളപ്പെടുത്തിയ ഓപ്ഷനുകൾ tool calls-ഉം നീക്കം ചെയ്യുന്നു. "with tools" എന്ന് അടയാളപ്പെടുത്തിയവ അവ നിലനിർത്തുന്നു.

നീണ്ട റോൾപ്ലേയിലെ rate limit-കൾ

ഓരോ സൗജന്യ tier-നും സ്വന്തം പരിധികളുണ്ട്. ഉദാഹരണത്തിന്, സൗജന്യ Gemini Flash key ഒരു ദിവസം കുറച്ച് request-കൾ മാത്രം അനുവദിക്കുന്നു, Groq key കൂടുതൽ request-കൾ അനുവദിക്കുന്നു, പക്ഷേ കുറഞ്ഞ ടോക്കൺ പരിധിയോടെ. ഒരു വൈകുന്നേര റോൾപ്ലേ നൂറുകണക്കിന് request-കൾ അയച്ചേക്കാം. ഒരു സൗജന്യ key അത്രയും നേരം നിൽക്കില്ല.

  • കൂടുതൽ provider-കൾ ചേർക്കുക. ഓരോ key-യും ഒരു ദിവസത്തെ request-കൾ കൂട്ടുന്നു. FreeLLMAPI ഓരോ key-യുടെയും ക്വോട്ട കണക്കാക്കുകയും ഒന്ന് തീരുമ്പോൾ അടുത്ത key-യിലേക്കോ provider-ലേക്കോ മാറുകയും ചെയ്യുന്നു.
  • Context കുറയ്ക്കുക. SillyTavern Summarize extension ഉപയോഗിച്ച് പഴയ സന്ദേശങ്ങൾ സംഗ്രഹിക്കുക. ചെറിയ prompt മിനിറ്റിൽ കുറച്ച് ടോക്കണുകൾ ഉപയോഗിക്കുന്നു.
  • ആവർത്തിച്ചുള്ള swipe ഒഴിവാക്കുക. ഓരോ swipe-ഉം regenerate-ഉം ഒരു പുതിയ request ആണ്.
  • Reset ശ്രദ്ധിക്കുക. എല്ലാ key-കളും അവയുടെ പരിധിയിൽ എത്തുമ്പോൾ gateway Retry-After header-ഓടെ error 429 നൽകുന്നു. പല ദിവസ പരിധികളും UTC അർധരാത്രിയിൽ പുനഃസജ്ജമാകുന്നു.

ഇന്നത്തെ catalog-ലെ ഓരോ provider-ന്റെയും സൗജന്യ പരിധികൾ പട്ടിക കാണിക്കുന്നു.

ദാതാവ്സൗജന്യ മോഡലുകൾപരമാവധി അഭ്യർഥന/മിനിറ്റ്പരമാവധി അഭ്യർഥന/ദിവസംപരമാവധി ടോക്കൺ/മിനിറ്റ്ടോക്കൺ/മാസം (ഒരു മോഡൽ)ഏറ്റവും ശക്തമായ സൗജന്യ മോഡൽ
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

ഉള്ളടക്ക നയം: ഓരോ provider-ഉം സൗജന്യ request-കൾക്ക് സ്വന്തം ഉപയോഗ നയം ബാധകമാക്കുന്നു. ചില ഉള്ളടക്കം provider നിരസിച്ചേക്കാം. ഒരു provider എന്ത് അനുവദിക്കുന്നു എന്ന് FreeLLMAPI മാറ്റുന്നില്ല.

പ്രശ്നപരിഹാരം

പ്രശ്നംകാരണംപരിഹാരം
കണക്ട് പരാജയപ്പെടുന്നു അല്ലെങ്കിൽ സ്റ്റാറ്റസ് ചുവപ്പായി നിൽക്കുന്നുതെറ്റായ URL അല്ലെങ്കിൽ FreeLLMAPI പ്രവർത്തിക്കുന്നില്ലബ്രൗസറിൽ http://localhost:3001 തുറക്കുക. URL /v1-ൽ അവസാനിക്കുന്നു എന്ന് ഉറപ്പാക്കുക.
Error 401key തെറ്റാണ്Custom API Key-ൽ unified key വീണ്ടും പേസ്റ്റ് ചെയ്യുക
തിരഞ്ഞെടുത്ത മോഡൽ എപ്പോഴും പരാജയപ്പെടുന്നുആ മോഡലിന്റെ provider-ന് key ഇല്ലProvider key ചേർക്കുക, അല്ലെങ്കിൽ auto എന്ന് ടൈപ്പ് ചെയ്യുക
നീണ്ട സെഷന് ശേഷം error 429എല്ലാ key-കളും അവയുടെ പരിധിയിലാണ്കൂടുതൽ provider-കളിൽ നിന്ന് key-കൾ ചേർക്കുക, അല്ലെങ്കിൽ reset വരെ കാത്തിരിക്കുക
സന്ദേശ ക്രമം അല്ലെങ്കിൽ role സംബന്ധിച്ച പിശകുകൾProvider-ന് കർശനമായ role നിയമങ്ങളുണ്ട്Prompt Post-Processing Semi-strict അല്ലെങ്കിൽ Strict ആക്കുക
മറുപടികൾ നടുവിൽ നിൽക്കുന്നുReasoning മോഡലിന് Max Response Length വളരെ ചെറുതാണ്മൂല്യം കൂട്ടുക, അല്ലെങ്കിൽ reasoning ഇല്ലാത്ത ഒരു മോഡൽ തിരഞ്ഞെടുക്കുക
ചാറ്റിനിടയിൽ കഥാപാത്രത്തിന്റെ ശബ്ദം മാറുന്നുഒരു പരിധി മോഡൽ മാറ്റാൻ നിർബന്ധിച്ചുപല provider-കളിൽ സൗജന്യമായ ഒരു മോഡൽ ഉറപ്പിച്ചു നിർത്തുക
ഇവയെല്ലാം ഒരൊറ്റ കീ വഴി ഉപയോഗിക്കുക. FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ്, സ്വയം ഹോസ്റ്റ് ചെയ്യാവുന്ന റൂട്ടറാണ്. ഇത് ഈ സൗജന്യ ടയറുകളെല്ലാം ഒരൊറ്റ OpenAI-അനുയോജ്യ എൻഡ്‌പോയിന്റിനു പിന്നിൽ വയ്ക്കുന്നു. ഒരു മോഡലിന്റെ നിരക്ക് പരിധി എത്തുമ്പോൾ മറ്റൊന്നിലേക്ക് മാറുന്നു. കാറ്റലോഗ് ബ്രൗസ് ചെയ്യുക അല്ലെങ്കിൽ തത്സമയമാക്കുക.

പതിവ് ചോദ്യങ്ങൾ

SillyTavern-നായി സൗജന്യ API ഉണ്ടോ?

ഉണ്ട്. Custom (OpenAI-compatible) source വഴി SillyTavern ഏത് OpenAI-compatible API-യും സ്വീകരിക്കുന്നു. FreeLLMAPI നിരവധി സൗജന്യ provider tier-കൾക്ക് ഒരൊറ്റ endpoint നൽകുന്നു. ഓരോ tier-നും സ്വന്തം പരിധികളുണ്ട്.

SillyTavern Custom (OpenAI-compatible)-ന്റെ base URL എന്താണ്?

FreeLLMAPI സെർവർ ഇൻസ്റ്റാളിന് http://localhost:3001/v1 ഉപയോഗിക്കുക. ഡെസ്ക്ടോപ്പ് ആപ്പിന് http://127.0.0.1:31415/v1 ഉപയോഗിക്കുക. /chat/completions ചേർക്കരുത്.

SillyTavern റോൾപ്ലേയ്ക്ക് ഏറ്റവും നല്ല സൗജന്യ മോഡൽ ഏതാണ്?

128K ടോക്കണോ അതിലധികമോ context window ഉള്ള ഒരു മോഡൽ ഉപയോഗിക്കുക. ഗുണനിലവാരത്തിന് auto:smart-ഉം വേഗതയ്ക്ക് auto:fast-ഉം ഉപയോഗിച്ച് തുടങ്ങുക. ഈ പേജിലെ പട്ടിക ഇന്നത്തെ ഏറ്റവും ശക്തമായ സൗജന്യ മോഡലുകൾ കാണിക്കുന്നു.

SillyTavern-ൽ എനിക്ക് എന്തുകൊണ്ട് error 429 ലഭിക്കുന്നു?

ഒരു സൗജന്യ tier അതിന്റെ പരിധിയിൽ എത്തി. FreeLLMAPI അടുത്ത key-യിലേക്കോ provider-ലേക്കോ മാറുന്നു. എല്ലാ key-കളും പരിധിയിലാണെങ്കിൽ നിങ്ങൾക്ക് 429 ലഭിക്കുന്നു. കൂടുതൽ provider key-കൾ ചേർക്കുക, അല്ലെങ്കിൽ context size കുറയ്ക്കുക.

സൗജന്യ API-കളിൽ SillyTavern streaming പ്രവർത്തിക്കുമോ?

ഉവ്വ്. AI Response Configuration പാനലിൽ Streaming ഓൺ ചെയ്യുക. FreeLLMAPI ഓരോ provider-ൽ നിന്നുമുള്ള മറുപടി OpenAI ഫോർമാറ്റിൽ streaming ആയി നൽകുന്നു.

അനുബന്ധ ഗൈഡുകൾ

ഉറവിടങ്ങൾ

എല്ലാ ഗൈഡുകളും · എല്ലാ സൗജന്യ മോഡലുകളും കാണുക