API ya bure kwa SillyTavern
SillyTavern ni kiolesura cha mazungumzo na uigizaji unachoendesha kwenye kompyuta yako. Inahitaji API ya modeli. Mwongozo huu unaunganisha SillyTavern na FreeLLMAPI kupitia chanzo cha Chat Completion Custom (OpenAI-compatible). FreeLLMAPI huunganisha tabaka 45 za bure za watoa huduma nyuma ya ufunguo mmoja, na huhamia kwa mtoa huduma anayefuata kizuizi kinaposimamisha ombi.
Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.
Kabla ya kuanza
Unahitaji programu mbili kwenye kompyuta moja: SillyTavern na FreeLLMAPI. FreeLLMAPI huendeshwa kwenye Docker au kama programu ya eneo-kazi. Isakinishe kwa amri moja:
Sakinisha FreeLLMAPI (macOS au Linux)
curl -fsSL https://freellmapi.co/install.sh | bash- Fungua dashibodi kwenye
http://localhost:3001. - Ongeza funguo za bure kutoka kwa watoa huduma wawili au zaidi kwenye ukurasa wa Keys. Google AI Studio, Groq na Mistral kila moja hutoa ufunguo wa bure.
- Nakili ufunguo wa umoja kutoka ukurasa wa Keys. SillyTavern hutumia ufunguo huu pekee.
Programu ya eneo-kazi husikiliza kwenye http://127.0.0.1:31415. Ukitumia programu ya eneo-kazi, tumia anwani hiyo badala ya http://localhost:3001 kwenye ukurasa huu.
Hatua ya 1: Unganisha SillyTavern
Fungua SillyTavern kisha ubofye ikoni ya API Connections (plagi) kwenye upau wa juu. Kisha weka sehemu hizi:
| Sehemu | Thamani |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | Ufunguo wako wa umoja, <unified-key> |
| Enter a Model ID | auto, au kitambulisho cha modeli kutoka kwenye jedwali hapa chini |
Bofya Connect. SillyTavern husoma /v1/models na kujaza orodha ya Available Models. Usiongeze /chat/completions kwenye URL. SillyTavern huongeza njia hiyo yenyewe.
auto kwenye Enter a Model ID ili kuruhusu kipanga njia kuchagua modeli inayofanya kazi sasa.Bofya Test Message ili kutuma ombi fupi. Ukipata jibu, muunganisho unafanya kazi.
Hatua ya 2: Chagua modeli kwa mazungumzo marefu
Mazungumzo ya uigizaji hutuma kadi ya mhusika, taarifa za ulimwengu na historia ya mazungumzo pamoja na kila ujumbe. Mazungumzo marefu yanaweza kutuma makumi ya maelfu ya tokeni kila mara. Chagua modeli zenye dirisha kubwa la muktadha.
Unaweza kutumia vitambulisho hivi vya modeli kwenye Enter a Model ID:
auto: hufuata mnyororo wako wa akiba kwenye dashibodi.auto:smart: hupanga modeli zilizowezeshwa kwa akili. Itumie kwa ubora wa hadithi.auto:fast: hupanga modeli zilizowezeshwa kwa kasi iliyopimwa. Itumie kwa majibu ya haraka.- Kitambulisho cha modeli kisichobadilika: hutoa mtindo uleule wa uandishi kila mara, lakini husimama kikomo cha bure cha modeli hiyo kikishatumika.
| Modeli | Bure kwenye | Muktadha | Vikomo vya bure (ofa bora) | Zana | Uoni |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 maombi/dakika 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Ndiyo | Hapana |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 zaidi | 1M | 40 maombi/dakika 40 RPM | Ndiyo | Ndiyo |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 maombi/dakika 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ndiyo | Ndiyo |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Ndiyo | Hapana |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ndiyo | Ndiyo |
| Deepseek V4.1 Flash | APINex | 1M | 5 maombi/dakika 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Hapana | Hapana |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 maombi/dakika 20 maombi/siku 250,000 tokeni/dakika ~3M | Ndiyo | Ndiyo |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ndiyo | Ndiyo |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 maombi/dakika 50 maombi/siku 50 req/day account-wide (1,000 after a $10 purchase) | Ndiyo | Ndiyo |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 maombi/dakika 50 maombi/siku Shared rate limit | Ndiyo | Hapana |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Hapana | Hapana |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +3 zaidi | 262K | 30 maombi/dakika 250 maombi/siku 70,000 tokeni/dakika ~6M | Ndiyo | Ndiyo |
Inaonyesha 12 kati ya 184 modeli za bure zinazolingana. Tazama modeli zote.
Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.
FreeLLMAPI huweka mazungumzo kwenye modeli moja kwa dakika 30. Hii huweka sauti ya mhusika ileile katika ujumbe wote. Kikomo kikilazimisha modeli kubadilika, modeli inayofuata huendelea kutoka kwenye historia ile ile ya mazungumzo.
Hatua ya 3: Weka mipangilio ya uzalishaji
Fungua paneli ya AI Response Configuration (ikoni ya vitelezi). Mipangilio mitatu ina athari kubwa zaidi kwenye tabaka za bure:
| Mpangilio | Thamani inayopendekezwa | Sababu |
|---|---|---|
| Context Size (tokens) | 16,000 hadi 32,000 | Muktadha mdogo hutuma tokeni chache kwa kila ujumbe. Tabaka za bure mara nyingi huweka kikomo cha tokeni kwa dakika. |
| Max Response Length (tokens) | 400 hadi 800 | Majibu marefu hutumia kiwango cha matokeo haraka. Baadhi ya modeli za kufikiri pia hutumia sehemu ya bajeti hii kwa kufikiri kusikoonekana. |
| Streaming | Imewashwa | Unaona maandishi yanavyofika. FreeLLMAPI hutuma mtiririko kwa kila mtoa huduma anayeweza kufikiwa. |
SillyTavern pia ina chaguo la Prompt Post-Processing kwa chanzo cha Custom. Baadhi ya watoa huduma hukataa ujumbe miwili wa system mfululizo. Ukipata hitilafu kuhusu majukumu ya ujumbe, chagua Semi-strict au Strict. Chaguo hizi huunganisha ujumbe wenye jukumu moja. Chaguo zenye alama ya "no tools" pia huondoa miito ya zana. Chaguo zenye alama ya "with tools" huzihifadhi.
Vikomo vya kiwango katika uigizaji mrefu
Kila tabaka la bure lina vikomo vyake. Kwa mfano, ufunguo wa bure wa Gemini Flash huruhusu maombi machache kwa siku, na ufunguo wa Groq huruhusu maombi mengi zaidi yenye vikomo vya chini vya tokeni. Jioni moja ya uigizaji inaweza kutuma maombi mamia kadhaa. Ufunguo mmoja wa bure hauwezi kudumu hivyo.
- Ongeza watoa huduma zaidi. Kila ufunguo huongeza maombi kwa siku. FreeLLMAPI hufuatilia kiwango cha kila ufunguo na huhamia kwenye ufunguo au mtoa huduma anayefuata kimoja kikishatumika.
- Punguza muktadha. Fupisha ujumbe wa zamani kwa kiendelezi cha Summarize cha SillyTavern. Ombi fupi hutumia tokeni chache kwa dakika.
- Epuka swipe mfululizo. Kila swipe au regenerate ni ombi jipya.
- Angalia muda wa kuweka upya. Funguo zote zikifika kikomo, lango hurudisha hitilafu 429 yenye kichwa
Retry-After. Vikomo vingi vya kila siku huwekwa upya saa sita usiku UTC.
Jedwali linaonyesha vikomo vya bure kwa kila mtoa huduma katika katalogi ya leo.
| Mtoa huduma | Modeli za bure | Kiwango cha juu cha maombi/dakika | Kiwango cha juu cha maombi/siku | Kiwango cha juu cha tokeni/dakika | Tokeni/mwezi (modeli moja) | Modeli yenye nguvu zaidi ya bure |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.
Utatuzi wa matatizo
| Tatizo | Sababu | Suluhisho |
|---|---|---|
| Muunganisho unashindwa au hali inabaki nyekundu | URL si sahihi au FreeLLMAPI haifanyi kazi | Fungua http://localhost:3001 kwenye kivinjari. Hakikisha URL inaishia na /v1. |
| Hitilafu 401 | Ufunguo si sahihi | Bandika tena ufunguo wa umoja kwenye Custom API Key |
| Modeli iliyochaguliwa inashindwa kila mara | Hakuna ufunguo wa mtoa huduma wa modeli hiyo | Ongeza ufunguo wa mtoa huduma, au andika auto |
| Hitilafu 429 baada ya kikao kirefu | Funguo zote zimefika kikomo | Ongeza funguo kutoka kwa watoa huduma zaidi, au subiri kuwekwa upya |
| Hitilafu kuhusu mpangilio au majukumu ya ujumbe | Mtoa huduma ana sheria kali za majukumu | Weka Prompt Post-Processing kuwa Semi-strict au Strict |
| Majibu yanasimama katikati | Max Response Length ni ndogo mno kwa modeli ya kufikiri | Ongeza thamani, au chagua modeli isiyo na kufikiri |
| Sauti ya mhusika inabadilika wakati wa mazungumzo | Kikomo kililazimisha modeli kubadilika | Bandika modeli moja inayopatikana bure kwa watoa huduma kadhaa |
Maswali yanayoulizwa mara kwa mara
Je, kuna API ya bure kwa SillyTavern?
Ndiyo. SillyTavern hukubali API yoyote inayoendana na OpenAI kupitia chanzo cha Custom (OpenAI-compatible). FreeLLMAPI hutoa anwani moja kwa tabaka nyingi za bure za watoa huduma. Kila tabaka lina vikomo vyake.
URL ya msingi ya SillyTavern Custom (OpenAI-compatible) ni ipi?
Tumia http://localhost:3001/v1 kwa usakinishaji wa seva ya FreeLLMAPI, au http://127.0.0.1:31415/v1 kwa programu ya eneo-kazi. Usiongeze /chat/completions.
Ni modeli ipi ya bure iliyo bora kwa uigizaji wa SillyTavern?
Tumia modeli yenye dirisha la muktadha la tokeni 128K au zaidi. Anza na auto:smart kwa ubora, au auto:fast kwa kasi. Jedwali la ukurasa huu linaonyesha modeli za bure zenye nguvu zaidi za leo.
Kwa nini napata hitilafu 429 kwenye SillyTavern?
Tabaka moja la bure limefika kwenye kikomo chake. FreeLLMAPI huhamia kwenye ufunguo au mtoa huduma anayefuata. Funguo zote zikifika kikomo, unapata 429. Ongeza funguo za watoa huduma zaidi au punguza ukubwa wa muktadha.
Je, streaming ya SillyTavern inafanya kazi na API za bure?
Ndiyo. Washa Streaming kwenye paneli ya AI Response Configuration. FreeLLMAPI hutuma mtiririko wa jibu kutoka kwa kila mtoa huduma katika muundo wa OpenAI.
Miongozo inayohusiana
- API ya LLM ya bure kwa Open WebUI
- API ya LLM bure yenye muktadha wa tokeni milioni 1
- Mipaka ya kiwango cha API ya LLM bure
- Base URL za free API zinazooana na OpenAI
- LLM API ya bure bila kadi ya mkopo
Vyanzo
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (imekaguliwa 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (imekaguliwa 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (imekaguliwa 20 November 2026)
- FreeLLMAPI README: features and limitations (imekaguliwa 20 November 2026)