Nyumbani / Miongozo / API ya bure kwa SillyTavern

API ya bure kwa SillyTavern

SillyTavern ni kiolesura cha mazungumzo na uigizaji unachoendesha kwenye kompyuta yako. Inahitaji API ya modeli. Mwongozo huu unaunganisha SillyTavern na FreeLLMAPI kupitia chanzo cha Chat Completion Custom (OpenAI-compatible). FreeLLMAPI huunganisha tabaka 45 za bure za watoa huduma nyuma ya ufunguo mmoja, na huhamia kwa mtoa huduma anayefuata kizuizi kinaposimamisha ombi.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

Kabla ya kuanza

Unahitaji programu mbili kwenye kompyuta moja: SillyTavern na FreeLLMAPI. FreeLLMAPI huendeshwa kwenye Docker au kama programu ya eneo-kazi. Isakinishe kwa amri moja:

Sakinisha FreeLLMAPI (macOS au Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. Fungua dashibodi kwenye http://localhost:3001.
  2. Ongeza funguo za bure kutoka kwa watoa huduma wawili au zaidi kwenye ukurasa wa Keys. Google AI Studio, Groq na Mistral kila moja hutoa ufunguo wa bure.
  3. Nakili ufunguo wa umoja kutoka ukurasa wa Keys. SillyTavern hutumia ufunguo huu pekee.

Programu ya eneo-kazi husikiliza kwenye http://127.0.0.1:31415. Ukitumia programu ya eneo-kazi, tumia anwani hiyo badala ya http://localhost:3001 kwenye ukurasa huu.

Hatua ya 1: Unganisha SillyTavern

Fungua SillyTavern kisha ubofye ikoni ya API Connections (plagi) kwenye upau wa juu. Kisha weka sehemu hizi:

SehemuThamani
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API KeyUfunguo wako wa umoja, <unified-key>
Enter a Model IDauto, au kitambulisho cha modeli kutoka kwenye jedwali hapa chini

Bofya Connect. SillyTavern husoma /v1/models na kujaza orodha ya Available Models. Usiongeze /chat/completions kwenye URL. SillyTavern huongeza njia hiyo yenyewe.

Kumbuka: orodha ya Available Models huonyesha katalogi kamili ya FreeLLMAPI. Pia huonyesha modeli ambazo bado huwezi kuziita, kwa sababu hujaongeza ufunguo kwa mtoa huduma wao. Andika auto kwenye Enter a Model ID ili kuruhusu kipanga njia kuchagua modeli inayofanya kazi sasa.

Bofya Test Message ili kutuma ombi fupi. Ukipata jibu, muunganisho unafanya kazi.

Hatua ya 2: Chagua modeli kwa mazungumzo marefu

Mazungumzo ya uigizaji hutuma kadi ya mhusika, taarifa za ulimwengu na historia ya mazungumzo pamoja na kila ujumbe. Mazungumzo marefu yanaweza kutuma makumi ya maelfu ya tokeni kila mara. Chagua modeli zenye dirisha kubwa la muktadha.

Unaweza kutumia vitambulisho hivi vya modeli kwenye Enter a Model ID:

  • auto: hufuata mnyororo wako wa akiba kwenye dashibodi.
  • auto:smart: hupanga modeli zilizowezeshwa kwa akili. Itumie kwa ubora wa hadithi.
  • auto:fast: hupanga modeli zilizowezeshwa kwa kasi iliyopimwa. Itumie kwa majibu ya haraka.
  • Kitambulisho cha modeli kisichobadilika: hutoa mtindo uleule wa uandishi kila mara, lakini husimama kikomo cha bure cha modeli hiyo kikishatumika.
Modeli za bure zenye muktadha wa 128K+ kwa mazungumzo marefu
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
GLM 5.3APINex, UnoRouter1M5 maombi/dakika
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
NdiyoHapana
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 zaidi1M40 maombi/dakika
40 RPM
NdiyoNdiyo
Gemini 3.8 FlashAPINex, Google AI Studio1M5 maombi/dakika
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NdiyoNdiyo
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceNdiyoHapana
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Deepseek V4.1 FlashAPINex1M5 maombi/dakika
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
HapanaHapana
Gemini 3.7 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 maombi/dakika
50 maombi/siku
50 req/day account-wide (1,000 after a $10 purchase)
NdiyoNdiyo
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 maombi/dakika
50 maombi/siku
Shared rate limit
NdiyoHapana
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetHapanaHapana
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +3 zaidi262K30 maombi/dakika
250 maombi/siku
70,000 tokeni/dakika
~6M
NdiyoNdiyo

Inaonyesha 12 kati ya 184 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

FreeLLMAPI huweka mazungumzo kwenye modeli moja kwa dakika 30. Hii huweka sauti ya mhusika ileile katika ujumbe wote. Kikomo kikilazimisha modeli kubadilika, modeli inayofuata huendelea kutoka kwenye historia ile ile ya mazungumzo.

Hatua ya 3: Weka mipangilio ya uzalishaji

Fungua paneli ya AI Response Configuration (ikoni ya vitelezi). Mipangilio mitatu ina athari kubwa zaidi kwenye tabaka za bure:

MpangilioThamani inayopendekezwaSababu
Context Size (tokens)16,000 hadi 32,000Muktadha mdogo hutuma tokeni chache kwa kila ujumbe. Tabaka za bure mara nyingi huweka kikomo cha tokeni kwa dakika.
Max Response Length (tokens)400 hadi 800Majibu marefu hutumia kiwango cha matokeo haraka. Baadhi ya modeli za kufikiri pia hutumia sehemu ya bajeti hii kwa kufikiri kusikoonekana.
StreamingImewashwaUnaona maandishi yanavyofika. FreeLLMAPI hutuma mtiririko kwa kila mtoa huduma anayeweza kufikiwa.

SillyTavern pia ina chaguo la Prompt Post-Processing kwa chanzo cha Custom. Baadhi ya watoa huduma hukataa ujumbe miwili wa system mfululizo. Ukipata hitilafu kuhusu majukumu ya ujumbe, chagua Semi-strict au Strict. Chaguo hizi huunganisha ujumbe wenye jukumu moja. Chaguo zenye alama ya "no tools" pia huondoa miito ya zana. Chaguo zenye alama ya "with tools" huzihifadhi.

Vikomo vya kiwango katika uigizaji mrefu

Kila tabaka la bure lina vikomo vyake. Kwa mfano, ufunguo wa bure wa Gemini Flash huruhusu maombi machache kwa siku, na ufunguo wa Groq huruhusu maombi mengi zaidi yenye vikomo vya chini vya tokeni. Jioni moja ya uigizaji inaweza kutuma maombi mamia kadhaa. Ufunguo mmoja wa bure hauwezi kudumu hivyo.

  • Ongeza watoa huduma zaidi. Kila ufunguo huongeza maombi kwa siku. FreeLLMAPI hufuatilia kiwango cha kila ufunguo na huhamia kwenye ufunguo au mtoa huduma anayefuata kimoja kikishatumika.
  • Punguza muktadha. Fupisha ujumbe wa zamani kwa kiendelezi cha Summarize cha SillyTavern. Ombi fupi hutumia tokeni chache kwa dakika.
  • Epuka swipe mfululizo. Kila swipe au regenerate ni ombi jipya.
  • Angalia muda wa kuweka upya. Funguo zote zikifika kikomo, lango hurudisha hitilafu 429 yenye kichwa Retry-After. Vikomo vingi vya kila siku huwekwa upya saa sita usiku UTC.

Jedwali linaonyesha vikomo vya bure kwa kila mtoa huduma katika katalogi ya leo.

Mtoa hudumaModeli za bureKiwango cha juu cha maombi/dakikaKiwango cha juu cha maombi/sikuKiwango cha juu cha tokeni/dakikaTokeni/mwezi (modeli moja)Modeli yenye nguvu zaidi ya bure
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Sera ya maudhui: kila mtoa huduma hutumia sera yake ya matumizi kwa maombi ya bure. Mtoa huduma anaweza kukataa maudhui fulani. FreeLLMAPI haibadilishi kile ambacho mtoa huduma anaruhusu.

Utatuzi wa matatizo

TatizoSababuSuluhisho
Muunganisho unashindwa au hali inabaki nyekunduURL si sahihi au FreeLLMAPI haifanyi kaziFungua http://localhost:3001 kwenye kivinjari. Hakikisha URL inaishia na /v1.
Hitilafu 401Ufunguo si sahihiBandika tena ufunguo wa umoja kwenye Custom API Key
Modeli iliyochaguliwa inashindwa kila maraHakuna ufunguo wa mtoa huduma wa modeli hiyoOngeza ufunguo wa mtoa huduma, au andika auto
Hitilafu 429 baada ya kikao kirefuFunguo zote zimefika kikomoOngeza funguo kutoka kwa watoa huduma zaidi, au subiri kuwekwa upya
Hitilafu kuhusu mpangilio au majukumu ya ujumbeMtoa huduma ana sheria kali za majukumuWeka Prompt Post-Processing kuwa Semi-strict au Strict
Majibu yanasimama katikatiMax Response Length ni ndogo mno kwa modeli ya kufikiriOngeza thamani, au chagua modeli isiyo na kufikiri
Sauti ya mhusika inabadilika wakati wa mazungumzoKikomo kililazimisha modeli kubadilikaBandika modeli moja inayopatikana bure kwa watoa huduma kadhaa
Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Je, kuna API ya bure kwa SillyTavern?

Ndiyo. SillyTavern hukubali API yoyote inayoendana na OpenAI kupitia chanzo cha Custom (OpenAI-compatible). FreeLLMAPI hutoa anwani moja kwa tabaka nyingi za bure za watoa huduma. Kila tabaka lina vikomo vyake.

URL ya msingi ya SillyTavern Custom (OpenAI-compatible) ni ipi?

Tumia http://localhost:3001/v1 kwa usakinishaji wa seva ya FreeLLMAPI, au http://127.0.0.1:31415/v1 kwa programu ya eneo-kazi. Usiongeze /chat/completions.

Ni modeli ipi ya bure iliyo bora kwa uigizaji wa SillyTavern?

Tumia modeli yenye dirisha la muktadha la tokeni 128K au zaidi. Anza na auto:smart kwa ubora, au auto:fast kwa kasi. Jedwali la ukurasa huu linaonyesha modeli za bure zenye nguvu zaidi za leo.

Kwa nini napata hitilafu 429 kwenye SillyTavern?

Tabaka moja la bure limefika kwenye kikomo chake. FreeLLMAPI huhamia kwenye ufunguo au mtoa huduma anayefuata. Funguo zote zikifika kikomo, unapata 429. Ongeza funguo za watoa huduma zaidi au punguza ukubwa wa muktadha.

Je, streaming ya SillyTavern inafanya kazi na API za bure?

Ndiyo. Washa Streaming kwenye paneli ya AI Response Configuration. FreeLLMAPI hutuma mtiririko wa jibu kutoka kwa kila mtoa huduma katika muundo wa OpenAI.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure